在量化LLM中，幻觉可从中间层隐藏状态线性解码

事件核心是一项预印本报告：在4-bit量化的7B–8B指令微调大语言模型中，单个中间层的线性探针可从隐藏状态解码幻觉，报告AUROC为0.904–1.000。该结果来自arXiv预印本，尚未经同行评审；探针的区分表现限于上述量化模型规模与指令微调设定，不能推广到其他模型、其他量化方案或人类认知。报道称探针“检测”幻觉，属作者报告的区分能力，不等于诊断或因果机制。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。