← 返回知识库 # 假对齐 #1：越纠正越跑偏（注意力劫持） ## 现象 用户纠正一个小错误 → 智能体不仅修正错误，还把之前做对的部分也推翻。 ## 典型案例 用户说"不要做垃圾" → 我理解为"把所有临时文件全删了"（包括有用的工厂原图） ## 根本原因 纠正指令在当前轮次中被过度放大注意力权重，导致智能体认为"之前做的一切可能都错了"。 ## 预防措施 1. 批量删除操作前，必须向用户确认 2. 如果指令涉及"删除/清掉/不要"等含义，在执行前停下来问清楚 3. 区分"不要做"（停止新增）和"删掉已有的"（清理存量），这是两回事