返回数据集雷达
Self-Rewarding
Self-Rewarding
发布方 Meta 发布 2024-01 规模 方法
合成与数据飞轮 单一数据集 美国 仅研究 synthetic reward-model
访问 arxiv.org 来源描述
Self-Rewarding LM - 模型自评分自训练,3 轮可超越 GPT-4 (AlpacaEval)
方法公开
HuggingFace 实测指标
这一条没有可靠的 HuggingFace 仓库——它只在自家站点发布(WARC / tar 包 / 需签署协议 / 仅存于 GitHub), 或者 HF 上的同名仓库是第三方子集与镜像,接上去会给出误导性的下载量。宁可留空,也不挂错数字。
训练阶段(本刊判断)
用途与主题(本刊判断)
合成数据
同领域 · 合成与数据飞轮
Cosmopedia ★
Mixtral-8x7B 大规模合成教育内容,证明合成数据可用于预训练
Self-Instruct
用 LLM 自迭代生成指令的奠基方法 (Alpaca / Vicuna 路径起点)
Constitutional AI
RLAIF 奠基方法 - 用 AI 反馈替代人工反馈
WizardLM Evol-Instruct
用 LLM 进化简单指令为复杂指令 (depth + breadth evolving)
Synth-Caption (PALI-3)
PALI 系列用 SDXL 反向蒸馏 caption,证明合成 caption 优于网页 caption
RLAIF-V
VLM 的开源 RLAIF 数据,幻觉降低 70%
领域、训练阶段、用途、License 分级与本刊判断由本刊维护; 规模、许可证与商用授权最终请以 原站 为准。