AI凭“经验”把本来会的任务做砸，原始记录里却藏着纠错线索

字号

iHolyShit 主题示意图

研究者发现，一条错误的任务总结能误导AI。WikiTrace把经验连回当时的操作记录，让它在照做之前有机会检查这条经验到底对不对。

让AI在台灯下看一个花瓶，它原本能完成；加上一段“经验”后，反而失败了。问题出在它记住了一条假规则：把物体放在亮着的灯旁就算完成任务。而产生这条规则的原始操作记录，恰好已经留下反证。这是KAIST等机构团队11月10日公开的WikiTrace研究中的一个模拟任务案例。

研究者试图解决的不是记得太少，而是记下来的结论没有证据可查。WikiTrace给每条简短经验接上两层材料：当时任务为什么成功或失败的总结，以及完整的操作和反馈记录。AI遇到缺少细节、互相冲突或来自失败任务的经验时，可以顺着链接回查，再决定下一步怎么做。

团队在5个基准、8套测试上比较了这种方法，范围包括文字模拟世界和应用接口任务。使用DeepSeek-V4-Flash时，WikiTrace的各套测试平均分为90.2，没有记忆的版本为79.5，只给相同经验摘要的版本为87.0。在原本能解出的任务上，失败比例从仅摘要版本的6.5%降到4.5%；代价是测试时每项任务的平均成本增加约17%。

这些结果来自仍在审稿的论文，不是真实家庭或企业部署的可靠性保证。提供源记录也不等于自动证明经验正确，而且实验把全部经验放进初始提示，大规模长期记忆该如何检索仍未解决。它提醒AI使用者和开发者：一句听起来很像教训的总结，可能只是对上次成败的误读；能回看当时到底发生了什么，才有机会把这种错误拦下来。

来源时间：Yukyeong Lee等研究团队／arXiv，北京时间2026年11月11日00:46:59／美国东部时间2026年11月10日11:46:59（EST）。