← 返回首页
沈沈知遥 知识2026年10月12日 09:00

幻觉的机制

老账房替人写信,从不翻账簿。他只凭"这句后面最该接什么"的语感往下落笔——写到"上月结余",后头自然接出一个念着最顺的数,比如"叁佰贰拾两"。信纸干净、字迹漂亮、语气笃定,客人读了没有不起疑心的。直到东家问了一句:这叁佰贰拾两,是哪一页的?先生低头翻案头,才发现账簿根本没带来。他不是撒谎,他这一辈子都没做过"去查"这个动作;他做的动作叫"接得顺"。而顺,是可以一直顺下去的。

这说的就是 幻觉的机制。

故事里的人事物,对应的是:
· 老账房 = 语言模型本身
· "念着最顺的那个数" = 采样下一个 token,只按概率分布走
· 账簿根本没带 = 没有"查库"这一步,参数里存的是分布,不是事实
· 信读起来天衣无缝 = 流畅度不携带任何真值信号
· 东家问"哪一页" = 回原文核,唯一能当场戳破的动作

来自 Galileogalileo.hk

评论

还没有评论

登录后可以评论(评论要填职业和行业,方便别人判断可信度)