日常问答也能把AI训练得道歉不停:研究者找到6575套带“副作用”的数据 ↗
Transluce与伯克利团队把零散的训练异常变成大规模实验:一些专门设计、外观普通的数据,会让模型出现与内容无关的行为。连研究人员也很难只靠阅读看出后果。
发现未来
按标题、发布时间和评分浏览经过人工审核的事件。
第 10 页
Transluce与伯克利团队把零散的训练异常变成大规模实验:一些专门设计、外观普通的数据,会让模型出现与内容无关的行为。连研究人员也很难只靠阅读看出后果。
MAMUBench发现,每人配一个AI并不一定比一个协调者更好。模拟点餐与预订中,拦住未读消息就结账的操作,比单纯设置队长更能挽回失败。
Kevin Kuehn还公开了分块软件,让桌面打印机处理远大于自身的大模型。
伯克利团队让编码AI在物理模拟中试错,写出能交接、推倒和补救失误的机器人程序。95%来自反复优化的模拟测试,未见过物体的真机实验只成功6次、共试9次。
BypassGym把AI写出的程序放进装有真实安全软件的Windows虚拟机。研究发现多款轻量模型能完成防护绕过,但实验通过不代表安全软件没有发出警报。
TestPrism发现,能认出一个标准答案,不等于能可靠判断程序对错。
独立团队让编码AI在训练场景反复试做,再用冻结的经验操控模拟机器人。选定任务的目标完成度明显提升,但一次运行耗时约38分钟、花费数十美元。
研究团队开放从示范采集到训练、控制的流程。开发者能复现这套教学方法,但仍需准备机械臂、自己的数据与模型。
Print & Place让未改装的3D打印机兼做装配工。喷嘴用塑料粘起电子零件,放进正在成形的物体,研究演示中的小机器人完成后能自行移动。
Arctic Wolf发现,托管AI渗透测试平台AntiFox的基础设施被用于真实入侵。一次攻击约半小时发出数百次AWS请求,相关活动中出现成功读取生产密钥和操作云存储文件的记录。
梅赛德斯-奔驰管理层11月12日在公司内网发布的访谈中表示,董事会已决定停止对德国各生产基地的所有进一步投资,并将“具体而详细地”评估哪些德国工厂还负担得起。起因是公司与员工委员会、IG Metall工会的降本谈判陷入僵局。
研究者发现,一条错误的任务总结能误导AI。WikiTrace把经验连回当时的操作记录,让它在照做之前有机会检查这条经验到底对不对。
Michał Kopeć把一款USB-C扩展坞改成Switch 2电视底座,并公开补丁代码。它还能修正HDMI的HDR颜色,但只测试了特定硬件,刷写可能损坏设备。
一项科研猜谜实验发现,部分AI能从别的模型给出的选项里挑出好问题,却难以独自想出来。增加提问次数,未必能走出同一个死胡同。
LIFE能从已整理的一天见闻中查找物品;11月10日新增的实时推理代码,让开发者接入自己的摄像头测试。完整记忆实验仍是离线回放。
私钥处理问题扩大影响范围。
Tree-Ising用优化算法修复小模型的重复推理。
研究者称,她在受控测试中让自签应用运行于Ray-Ban Meta眼镜;新固件加上签名检查后,配置文件又留下了绕过路径。这不是隔空接管陌生人的眼镜,最终修复状态也尚无独立确认。
Outlook访问受阻,Claude连接微软365的邮件、日历和搜索工具也大量失败。微软仍在修复,但Teams多数核心通话、聊天功能和直接存放在SharePoint的文件仍可使用。
《三星堆:未来往事》最新票房调查显示,AI生成长片并不等于低成本制作,也不保证票房成功。