返回数据集雷达
来源描述
提供了大量的网页爬取数据,可用于语言模型的训练。
HuggingFace 实测指标
这一条没有可靠的 HuggingFace 仓库——它只在自家站点发布(WARC / tar 包 / 需签署协议 / 仅存于 GitHub), 或者 HF 上的同名仓库是第三方子集与镜像,接上去会给出误导性的下载量。宁可留空,也不挂错数字。
训练阶段(本刊判断)
为什么值得盯
几乎所有开源英文预训练语料的上游。真正的工程难点不在下载,在 WARC/WET 解析、语言识别、去重与质量过滤——这条链路做不做得干净,直接决定下游模型的数据天花板。任何"我们复现了 FineWeb"的说法,第一步都是对齐它的 CC 快照版本。
同领域 · 预训练语料
领域、训练阶段、用途、License 分级与本刊判断由本刊维护; 规模、许可证与商用授权最终请以 原站 为准。