[论文阅读] 人工智能 | 大语言模型代码生成能力的 “照妖镜”：混淆任务下的性能真相

大语言模型代码生成能力的 “照妖镜”：混淆任务下的性能真相

 arXiv:2505.23598 

LLM Performance for Code Generation on Noisy Tasks

Radzim Sendyka, Christian Cabrera, Andrei Paleyes, Diana Robinson, Neil Lawrence

Subjects: Machine Learning (cs.LG); Software Engineering (cs.SE)

一、研究背景：当考试题被提前泄露

想象这样一个场景：老师用往年的真题测试学生，发现大家都考了高分，于是认为学生掌握得很好。但实际上，学生可能只是提前背过答案，而不是真正理解题目。这就是当前大语言模型（LLMs）评估面临的核心问题 ——数据集污染。

在代码生成领域，像 LeetCode 这样的标准数据集既是 “考试题”，也是许多模型的 “训练资料”。论文指出，当模型在训练中见过大量 LeetCode 题目后，即使测试时题目被严重混淆（比如变成乱码或缺失关键信息），模型依然能 “正确” 输出答案。这就好比学生看到乱码的题目，仍能凭借记忆写出正确答案，而不是通过理解题目逻辑来解题。这种 “记忆式答题” 会导致评估结果虚高，掩盖模型真实的推理能力缺陷。

二、主要贡献：撕开 “虚假高分” 的遮羞布

1. 发现 “记忆答题” 现象

论文通过实验证明：

• 旧题（训练集中的题）：即使被混淆到人类完全无法理解（如删除 90% 文本、添加大量乱码），LLMs 仍能保持较高正确率。例如，LeetCode 旧题在混淆率 0.8 时，模型正确率仍有 13.6%。
• 新题（训练后发布的题）：一旦混淆率超过 0.3，正确率急剧下降，混淆率 0.8 时全错。

这说明模型在 “背题” 而非 “解题”，现有评估可能严重高估 LLMs 的真实能力。

2. 提供污染检测新工具

论文提出用混淆任务下的性能衰减曲线检测数据集污染。简单来说：

• 如果模型对旧题的抗混淆能力显著强于新题，就像 “背过题的学生不怕乱码”，说明存在过拟合和数据污染。
• 这种方法比传统检测方法更直观，就像用 “乱码试卷” 区分真学霸和背题党。

3. 揭示 “急切模式匹配” 风险

论文首次提出 “急切模式匹配” 概念：模型会依赖训练数据中的表面模式（如关键词、格式）强行匹配答案，而非理解问题本质。例如，面对 “求两个未排序数组的中位数” 的误导性题目，所有模型都错误地输出 “求两个排序数组中位数” 的代码，就像看到 “苹果” 就联想到 “水果”，却忽略题目中的 “未排序” 关键差异。

三、创新点：从 “抗干扰测试” 到 “污染检测” 的思维转变

以往研究关注 LLMs 如何 “抗噪声”（如纠正拼写错误），类似测试学生在干扰下的解题能力。而本文反其道而行之，用 “极端混淆” 作为 “照妖镜”，专门暴露模型的 “记忆作弊” 行为。这就像老师故意把题目改成乱码，看学生是真会做还是背过答案 ——前者关注 “能力上限”，后者直击 “评估底线”。

四、核心方法：三步搭建 “乱码试卷” 测试系统

1. 准备两类 “试卷”

• 旧题（LeetCode Old/ MATH）：训练数据中存在的题目，如 2015 年的 LeetCode 题。
• 新题（LeetCode New）：模型训练截止日期后发布的题，如 2025 年 3 月的 LeetCode 题。

2. 三种 “乱码” 混淆方法

• 删除（Deletion）：随机删除部分词语，如 “求两数之和”→“求两数和”。
• 截断（Truncation）：保留前 10% 文本，如长题只留开头一句。
• 拼写错误（Typos）：模拟打字错误，如 “sorted”→“soeted”。

3. 测试流程：让模型 “做乱码题 + 人类当对照组”

• 对每个题目生成 10 个不同混淆程度的版本（混淆率从 0 到 1）。
• 让 5 个主流 LLMs（如 GPT-4o-mini、Gemini 2.0）答题，用自动化测试验证代码正确性。
• 同时让 4 名人类研究者评估 “自己能理解多少混淆题”，作为基线。

五、总结：警惕 “背题式” AI 的安全隐患

核心结论

• LLMs 在标准评估中的 “高分” 可能源于对训练数据的记忆，而非真实推理能力。
• 依赖污染数据集的评估会导致模型能力误判，可能引发安全风险（如医疗、金融领域的错误代码）。

未来建议

• 动态评估：使用训练后发布的新题（如 LeetCode New）作为 “纯净试卷”。
• 混淆测试：将性能衰减曲线纳入常规评估，就像体检时的 “肝功能指标”，定期检测模型是否 “中毒”（过拟合）。
• 安全设计：在关键系统中加入 “反模式匹配” 机制，避免模型因表面相似性输出错误答案。