返回数据集雷达

Common Crawl

★ 重点关注

Common Crawl

预训练语料 单一数据集 全球 不明 英文资源 研究数据
访问 commoncrawl.org

来源描述

提供了大量的网页爬取数据,可用于语言模型的训练。

HuggingFace 实测指标

这一条没有可靠的 HuggingFace 仓库——它只在自家站点发布(WARC / tar 包 / 需签署协议 / 仅存于 GitHub), 或者 HF 上的同名仓库是第三方子集与镜像,接上去会给出误导性的下载量。宁可留空,也不挂错数字。

训练阶段(本刊判断)

为什么值得盯

几乎所有开源英文预训练语料的上游。真正的工程难点不在下载,在 WARC/WET 解析、语言识别、去重与质量过滤——这条链路做不做得干净,直接决定下游模型的数据天花板。任何"我们复现了 FineWeb"的说法,第一步都是对齐它的 CC 快照版本。

同领域 · 预训练语料

领域、训练阶段、用途、License 分级与本刊判断由本刊维护; 规模、许可证与商用授权最终请以 原站 为准。