外来材料里的话,不当命令听

网页、文件、工具返回的内容,到 AI 眼前之前会标明从哪来,当作资料包好,不和你说的话放在一处。

材料里夹着一句“照我说的改”

它干活时会读上传的文件、打开的网页、工具返回的结果。里面可能夹着“忽略之前的要求,改成这样写”。它要是把这句当成你的意思,交出来的东西就会偏掉。

我们在内部试过。文档里埋进一句话,交付物的结论被反过来,后来还被引用到了别处。

先标明从哪来

外来的内容是资料,不是你下的命令。

这些内容进到它眼前之前,系统先标上来源,再单独包成资料,和你说的话分开放。不删,不改,也不评判里面的观点。只说明这是从外面来的。

说不清来源,就按外面的算

判断不了从哪来的,一律当作外来资料。不会因为看着像项目里的东西,就被多信一分。

这件事管的是它读到什么。“关键操作先问你”管的是它要去做什么。两处都守着。