Magpie-Pro

发布方 U Washington / Allen AI 发布 2024-06 规模 Llama-3 self-distillation 范式

合成与数据飞轮单一数据集美国商用友好 synthetic

来源描述

alignment-only prompting 让 LLM 主动生成训练数据 (无需任何 seed)

MIT

近 30 天下载

3.2K

合成数据

Mixtral-8x7B 大规模合成教育内容，证明合成数据可用于预训练

用 LLM 自迭代生成指令的奠基方法 (Alpaca / Vicuna 路径起点)

RLAIF 奠基方法 - 用 AI 反馈替代人工反馈

Self-Rewarding LM - 模型自评分自训练，3 轮可超越 GPT-4 (AlpacaEval)

用 LLM 进化简单指令为复杂指令 (depth + breadth evolving)

PALI 系列用 SDXL 反向蒸馏 caption，证明合成 caption 优于网页 caption

领域、训练阶段、用途、License 分级与本刊判断由本刊维护；下载量 / 点赞 / 更新时间 / 实测规模来自 HuggingFace Hub 官方 API 与 datasets-server，每周自动刷新。规模、许可证与商用授权最终请以原站为准。