返回数据集雷达
UN Parallel Corpus v1.0
UN Parallel Corpus v1.0
发布方 UN / U Edinburgh 发布 2016-05 规模 86M 完美对齐句对 · 6 UN 语种 (en/zh/fr/es/ar/ru)
翻译与多语 单一数据集 全球 商用友好 translation
访问 conferences.unite.un.org 来源描述
联合国官方文件全人工翻译五五对齐 · 中英/法英 高质金标准平行语料
UN 公开文件 · 公有领域
HuggingFace 实测指标
这一条没有可靠的 HuggingFace 仓库——它只在自家站点发布(WARC / tar 包 / 需签署协议 / 仅存于 GitHub), 或者 HF 上的同名仓库是第三方子集与镜像,接上去会给出误导性的下载量。宁可留空,也不挂错数字。
训练阶段(本刊判断)
同领域 · 翻译与多语
FLORES-200 ★
200 语种平行评测集 (NLLB 训练 + 评测标准)
Aya Collection ★
全球 3000+ 语言学者贡献的多语 SFT 数据
WMT24 (General MT)
WMT 年度 General MT 任务评测集 · 业界翻译金标准 · 翻译模型上线前必抱
WMT 23 Bilingual
WMT23 双语训练集集合 (Europarl + News-Commentary + ParaCrawl + CommonCrawl + UN 等)
CCMatrix
从 CommonCrawl 挖掘的双射2 句对 · 迄今最大 web 挖掘平行语料
ParaCrawl v9
欧盟资助的 EU 多语种 web crawl 平行语料 (正式社区最大之一)
领域、训练阶段、用途、License 分级与本刊判断由本刊维护; 规模、许可证与商用授权最终请以 原站 为准。