把顺子判成散牌的程序,逃过了AI写的测试
字号
TestPrism发现,能认出一个标准答案,不等于能可靠判断程序对错。
AI写测试,竟让把顺子判成散牌的错误程序过了关。TestPrism记录的这个案例,暴露了另一层漏洞:负责验收代码的测试,也可能靠不住。
南京大学团队评测14种配置。最强者按单个参考答案判分,成功率为59.67%;要求同时辨认多份正确和错误实现,只剩28%。论文首稿10月8日提交,11月8日修订。
作者公开的框架将同一套测试放进干净环境,依次检验十份候选实现。测试必须找出初始缺陷,同时放行正确方案、拦住错误方案;答案和标签事先对AI保密。框架代码采用Apache 2.0许可,任务与补丁数据另行提供。开发者可以照此检查:自己的测试究竟在验收需求,还是只认得某一种写法。
这衡量的是测试能力,不是所有AI代码的合格率。对用AI制作网站和应用的人,一排绿色勾号不能替代对边界情况的检查。
来源时间:论文初稿,北京时间2026年10月9日00:44:39/美国东部时间10月8日12:44:39(EDT);论文修订,北京时间2026年11月9日02:06:02/美国东部时间11月8日13:06:02(EST);研究代码提交,北京时间2026年10月10日15:01:49/美国东部时间10月10日03:01:49(EDT);新智元/36氪,北京时间2026年11月12日16:11/美国东部时间11月12日03:11(EST)。
分享这篇文章
你觉得这篇文章怎么样?
匿名评价,无需登录,每篇最多 5 次。
匿名评价
写下你的看法,无需登录。
请围绕科技与文章讨论。禁止仇恨歧视、政治战争话题、威胁辱骂、人身指控、色情、广告、链接及个人信息。
还没有评价,来说第一句吧。