提示模型“不要编造”只能降低部分风险。政务AI需要从资料范围、检索证据、任务拆分、规则校验和人工审核多个环节共同治理。
本文要点
- 限定模型可使用的授权资料
- 关键结论绑定引用并允许原文复核
- 复杂任务拆成结果可验证的小步骤
- 高风险输出设置人工确认
先区分三类错误来源
资料本身过期、检索没有找到正确内容、模型在表达时进行了无依据补充，需要不同处理方法。把所有问题都称为幻觉，会让治理措施失焦。
让模型在证据边界内工作
对制度查询、案件研判等任务，应先形成授权范围内的证据集，再要求模型基于证据回答。资料不足时允许拒答或请求补充。
把结果放回业务审核链
AI输出应标明来源、生成时间和使用的模型版本。关键结论由业务人员确认后才能进入正式文书、案卡或决策材料。
结合实际项目落地
冠唐政务AI产品把原文溯源、权限过滤、过程留痕和人工审核作为业务设计的一部分，而不把准确性完全寄托在模型提示词上。
常见问题
换更大的模型能解决幻觉吗？
只能改善部分情况，不能替代可靠资料、检索证据和审核机制。
哪些输出必须人工确认？
涉及法律认定、政策执行、人员事项和正式对外材料的关键结果应重点审核。