论文翻译:EMNLP-2023.CCF-A.Alon Jacovi.Stop Uploading Test Data in Plain Text: Practical Strategies for

Stop Uploading Test Data in Plain Text: Practical Strategies for Mitigating Data Contamination by Evaluation Benchmarks
https://arxiv.org/pdf/2305.10160

停止上传明文测试数据:实用的策略以减轻评估基准造成的数据污染

文章目录

  • 停止上传明文测试数据:实用的策略以减轻评估基准造成的数据污染
  • 摘要
  • 1 引言
  • 6 结论
  • 局限性

论文翻译:EMNLP-2023.CCF-A.Alon Jacovi.Stop Uploading Test Data in Plain Text: Practical Strategies for_第1张图片

摘要

随着在大型自动抓取的语料库上预训练的模型的兴起,数据污染已经成为一个普遍且具有挑战性的问题对于封闭模型来说,训练数据变成了商业机密,即使是开放模型,检测污染也并非易事。诸如带有隐藏答案的排行榜,或者使用保证未被见过的测试数据这类策略,成本高昂,并且随着时间的推移变得脆弱。假设所有相关方都重视干净的测试数据,并愿意合作以减轻数据污染,我们可以做什么?我们提出了三种可以产生影响的策略:(1)公开的测试数据应使用公钥加密&#

你可能感兴趣的:(论文翻译,LLMs-数据污染,人工智能)