Agent 的幻觉防不住,但可以分级。办法不是要求它永远正确,而是每条结论先贴一张证据标签再上桌:有出处、有复算、还是纯推断。标签一贴,用户一眼就知道这句话能信几分、要不要复核。没有标签的结论,一律按“没说”处理。
某 Agent 一本正经地引用了一条“不存在的法规条款”,用户差点照办。如果那条结论贴着“纯推断·无出处”,一眼就能拦住。幻觉最危险的时候,不是它说错,而是它说得像真的一样。
💡 记住:不怕 Agent 说错,就怕它说得像真的一样——标签就是给“像真的”设的一道关卡。
今天让你的 Agent 回答一个问题,检查它的结论有没有出处标签。没有的话,补一条规则:以后每条结论必须先贴标签。