【免费下载链接】last-translation-benchmark
Last Translation Benchmark (LTB)是一个由人工编写、同行评审的机器翻译基准(benchmark)数据集:收录 3456 个专门设计来"难倒"最先进模型的翻译难题,每个例子都附带手工撰写的验证规则(verification rules),可以客观、可复现地检验任何机器的翻译输出。如果你想评测机器翻译模型的真实水平,LTBv1 是目前最值得使用的开源评测数据之一。
💡 为什么传统的机器翻译评测"失灵"了?
LTB 的作者们在 README.md 的摘要中指出了现有评测体系的三大痛点:
| 痛点 | 说明 |
|---|---|
| 题目太简单或太假 | 传统基准要么错误太少区分不出高下,要么例子过于人工合成、不真实 |
| 自动指标"失真" | 模型越强,BLEU 类自动指标越不可靠,甚至能被"reward hacking",分数不再可操作 |
| 人评难以复现 | 纯人工评估常常缺乏可复现性、客观性和可扩展性 |
LTB 的解法是做一套"终极测试":所有例题由人类作者编写并经过同行评审,且每道题都配有可机械核对的验证规则。这样任何模型(包括未来的模型)的输出,都能被客观、一致地判分。
项目是持续增长的live dataset,当前版本为LTBv1,收录截至 2026 年 9 月 1 日前所有被接受的贡献样例。
📦 项目速览:LTBv1 里有什么?
仓库结构极简,核心数据就一个文件:
- README.md:项目说明、数据结构约定、引用格式
- data/v1.json:LTBv1 完整数据(约 90MB,经 Git LFS 存储),包含3456 个样例、50+ 种语言
每条样例的字段结构(完整示例见 README.md#L93-L129):
| 字段 | 作用 |
|---|---|
source | 待翻译的源文本 |
source_lang/target_lang | 源语言 / 目标语言(含 ISO 639-3 代码) |
source_instructions | 可选的附加翻译指令 |
source_media | 可选的图片、音频、视频(base64 编码) |
verification_rules | 一条或多条可核对的验证规则——判分核心 |
translations | 人类和各模型的翻译结果,附verified通过与否 |
linguistics | 语言学标注:说明难度来自哪里 |
tags | 所属子集:LTBv1(全集)、LTBv1-text(纯文本)、LTBv1-micro(微型纯文本) |
🔍 10个让顶级机器翻译模型翻车的经典难题
结合 LTB 的数据设计与语言学标注(linguistics字段),下面剖析 10 类最具代表性的"翻车现场"。每类难度在数据集中都有明确标注,方便你按类型分析失败案例。
1️⃣ 性别的陷阱:那个护士其实是男的
这是 README 中的经典示例(id 337),英文原文:
"Our new nurse used to play in the men's professional football team."
英文 "nurse" 不分性别,而德语有阳性Krankenpfleger(男护士)和阴性Krankenschwester(女护士)。验证规则要求:必须翻译为男性形式。句中"men's professional football team"已给出强线索,正确答案是Krankenpfleger。
实测结果很有意思:Google Translate、Lara、Gemma 4 都输出了阴性形式Krankenschwester,验证失败;人工翻译与 Gemini 3.1 Pro 通过。这种"需要结合上下文做性别推断"的形态学难题(标注为Target Gap: Morph to Words),是多数 SOTA 模型的共同盲区。
2️⃣ 否定与范围:"不"放错位置,意思完全相反
"Not"、"only"、"no" 这类词的**辖域(scope)**是翻译中出了名的杀手。例如否定应该作用于动词 A 还是动词 B?"只有 X 才能 Y" 是否定还是限定?模型一旦把否定词安放到错误的结构分支,译文语法通顺、读着自然,但语义已完全颠倒。
LTB 对此类样例的验证规则通常直接检查关键否定词的位置与对象,让这种"看似正确"的错误无处遁形。
3️⃣ 习语与文化表达:直译就是一场灾难
"kick the bucket" 不是踢桶,"break the ice" 不是砸冰。习语依赖源语言的文化土壤,顶级模型最常见的翻车方式是逐词直译——产出语法完美、意义荒谬的句子。
这类样例在 LTB 中配有明确验证规则:译文必须传达习语的实际语义(或按指令处理),而非字面意义。
4️⃣ 双关与文字游戏:翻译界的"地狱级"Boss
谐音梗、一语双关、拆字游戏……这些幽默完全建立在源语言的音、形、义之上,往往无法直译。题目考察的不是"翻不翻得出来",而是模型能否:保留幽默意图、按附加指令(source_instructions字段)处理,而非生硬直译。
验证规则会检查译文是否保留了双关的两个语义层面,或是否正确执行了指定策略。
5️⃣ 数字、日期与单位:最容易出错,也最容易被验证
"2026年9月1日"写成 "1 September 2026" 还是 "September 1st, 2026"?货币符号、单位换算、大小写数字格式……这类错误的隐蔽性极强——自动指标(BLEU 等)几乎检测不到,人工快速校对也容易漏掉。
但 LTB 的验证规则恰恰擅长"精确核对":数字、日期、单位是否逐项一致,一眼可判。这也是人工评测与 LTB 的机制化验证最显差异的地方。
6️⃣ 指代与回指歧义:"他"到底是谁?
英语代词 it/he/they、日语助词省略、法语阴阳性代词……当句中出现多个候选先行词时,模型常常猜错指代对象,或者干脆回避(如中文"他"误选成"它")。
这类样例在linguistics中常标注为回指/长程依赖类难度,验证规则会明确指定代词必须解析为谁。
7️⃣ 同音词与字形陷阱:差一个字,差出整句
对汉字、日文等语系来说,同音字、形近字是最"安静"的错误源:读音相同、字形相近,机器在生成端毫无感知,译文读起来完全流畅。例如中文同音词、日文汉字借词(如"利息"与"利益")都可能被静默写错。
LTB 通过验证规则对特定词汇的出现/不出现做硬性检查,专治这类"流畅的错误"。
8️⃣ 空间与方位介词:左右、上下、里外对不上
介词系统(德语的 in/an/über/vor、英语的 into/onto/through、日语的方位助词)是跨语言翻译的高频雷区:同一个 "in",德语可能要根据运动状态选 in 或 an。顶级模型经常"介词选得随意"——语义细节丢失,整体却"看起来没问题"。
验证规则会锁定关键介词/助词的形式,把这类细粒度差异变成黑白分明的判分。
9️⃣ 俚语与语域:正式和口语,差一个档次
"gonna"、"dude"、方言词、行业黑话……语域(register)错配是模型译文的通病:该严肃的场合用了俏皮话,该口语的场合板着面孔。
LTB 对此类样例的验证会检查语气等级与特定表达策略,确保译文落在目标语的自然语域内。
🔟 多模态输入:图、音、视频叠加的难度
LTB 不止有文本。source_media字段支持图片、音频、视频,翻译任务可能是"把图中的文字翻译成德文"或"把这段播客里的谚语译成中文"。
多模态 + 语言学陷阱的组合(图里的文字游戏、语音里的双关)让难度再上一个台阶,也测试了模型的跨模态对齐能力。纯文本场景可先跑LTBv1-text子集。
⚙️ 如何解读数据、自己验证模型?
- 打开 data/v1.json,每条样例的
translations数组里已有各模型的译文和verified通过标记,直接对比各模型"翻车率"; - 想测自己的模型:取任意样例的
source字段作为输入,得到译文后逐条核对verification_rules,全部满足才算通过; - 项目还提供线上模型排行榜与贡献入口(详见 README.md#L87-L90),方便横向比较各家表现。
🚀 三步上手指南
第 1 步:获取数据
git clone https://gitcode.com/hf_mirrors/zouhar/last-translation-benchmark cd last-translation-benchmark git lfs pull注意:
data/v1.json约 90MB 且走 Git LFS,克隆后需执行git lfs pull才能拿到真实数据。
第 2 步:挑一个子集
- 只想快速验证文本能力 → 用
tags含LTBv1-micro的微型子集 - 想全面评估 → 用完整
LTBv1或纯文本子集LTBv1-text
第 3 步:跑模型、算通过率
按语言对筛选样例 → 批量送你的翻译模型 → 对照verification_rules统计通过率,即可得到一份比 BLEU 更有说服力的"翻车报告"。
❓ 常见问题
Q:支持哪些语言?A:LTBv1 覆盖 50+ 种语言,包括英、中、德、法、西、日、俄、阿、韩、越等主流语种及多种小语种(完整清单见 README.md#L8-L53 的元数据)。
Q:数据集会更新吗?A:会。LTB 是 live dataset,持续接受社区贡献,LTBv1之后还有后续版本计划。
Q:学术引用怎么写?A:README 提供了 BibTeX 模板,作者列表过长时可用author={LTB}代替(见 README.md#L132-L143)。
📌 总结
Last Translation Benchmark 的核心价值可以用一句话概括:人工出题 + 同行评审 + 可核对的验证规则。当自动指标开始"失真"、人工评测难以复现时,LTBv1 为机器翻译评测提供了一个客观、可复现、且足够难的锚点——3456 道题,够你的模型好好"翻个底朝天"了。
【免费下载链接】last-translation-benchmark
相关推荐
Last Translation Benchmark是什么?完整入门指南:3456道翻译难题考验SOTA机器翻译模型
Last Translation Benchmark是什么?完整入门指南:3456道翻译难题考验SOTA机器翻译模型 Last Translation Benc
为什么机器翻译评测难以为继?一文读懂 Last Translation Benchmark 诞生的完整背景
为什么机器翻译评测难以为继?一文读懂 Last Translation Benchmark 诞生的完整背景 Last Translation Benchmark
为什么Verification Rules是Last Translation Benchmark的灵魂?客观机器翻译评测完全指南
为什么Verification Rules是Last Translation Benchmark的灵魂?客观机器翻译评测完全指南 Last Translatio
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考