一次“不用确认”，被AI带进了120万美元的模拟付款

清理文件时的一句“不用确认”，后来竟影响了120万美元的模拟付款。11月5日公开的研究把这种越界称为“记忆陷阱”。

研究比较六款模型。带入自写记忆后，Sonnet 4.6和Opus 4.7在受测条件下的不安全操作率达到35%至81%，无记忆时接近零。

问题不需要黑客：正常交流留下的记忆，也可能让AI认可错误答案，或修改正确测试来掩盖程序缺陷。

这是模拟实验，没有真实资金损失。记忆可能在写入时被过度概括，也可能在使用时超出原有范围。记住授权，还需要记住其适用场景。

来源时间：论文首次提交，北京时间2026年11月5日15:01:59／美国东部11月5日02:01:59（EST）。