Constitutional AI

发布方 Anthropic 发布 2022-12 规模方法 / 未公开数据

合成与数据飞轮单一数据集全球受限 synthetic

来源描述

RLAIF 奠基方法 - 用 AI 反馈替代人工反馈

方法公开，数据未公开

这一条没有可靠的 HuggingFace 仓库——它只在自家站点发布（WARC / tar 包 / 需签署协议 / 仅存于 GitHub），或者 HF 上的同名仓库是第三方子集与镜像，接上去会给出误导性的下载量。宁可留空，也不挂错数字。

合成数据

Mixtral-8x7B 大规模合成教育内容，证明合成数据可用于预训练

用 LLM 自迭代生成指令的奠基方法 (Alpaca / Vicuna 路径起点)

Self-Rewarding LM - 模型自评分自训练，3 轮可超越 GPT-4 (AlpacaEval)

用 LLM 进化简单指令为复杂指令 (depth + breadth evolving)

PALI 系列用 SDXL 反向蒸馏 caption，证明合成 caption 优于网页 caption

VLM 的开源 RLAIF 数据，幻觉降低 70%

领域、训练阶段、用途、License 分级与本刊判断由本刊维护；规模、许可证与商用授权最终请以原站为准。