返回数据集雷达

Magpie

★ 重点关注

Magpie

发布方 U Washington / Allen AI 发布 2024-06 规模 1M 高质合成指令
指令与SFT 单一数据集 美国 商用友好 sft
访问 magpie-align.github.io

来源描述

Llama-3 自蒸馏 + alignment-only prompting，零成本生成 SFT 数据

MIT (基于 Llama-3 community license)

HuggingFace 实测指标

argilla/magpie-ultra-v1.0 ↗
近 30 天下载
9.6K
点赞
53
最近更新
2024-11-26
HF 授权标签
未标注
datasets-server 实测规模
3.2M 条 · 20.6 GB
由 HuggingFace datasets-server 现算，不是榜单页手写的数字
HF 规模档 1M<n<10M

训练阶段（本刊判断）

SFT

为什么值得盯

自举式合成指令的代表：不给种子，让模型自己出题自己答，再自评筛选。它把「没有真实指令数据怎么办」这件事的门槛降到了几乎为零。

同领域 · 指令与SFT

Tulu 3 SFT Mix ★

Tulu 3 模型的 SFT mix，覆盖数学/推理/代码/对话
OpenHermes 2.5 ★

社区最流行 SFT mix，多源 GPT-4 数据混合
UltraFeedback ★

GPT-4 评分的偏好数据，DPO 训练标准集
OpenOrca

FLAN + GPT-4 推理过程蒸馏的指令数据
WildChat-1M

真实用户与 ChatGPT 交互日志，研究用户分布最佳数据
OASST1 / OASST2

众包多语多轮对话，含人工评分 (RLHF reward 训练用)

领域、训练阶段、用途、License 分级与本刊判断由本刊维护； 下载量 / 点赞 / 更新时间 / 实测规模来自 HuggingFace Hub 官方 API 与 datasets-server，每周自动刷新。 规模、许可证与商用授权最终请以 原站 为准。