返回数据集雷达

OffsetBias

OffsetBias

发布方 NCSOFT 发布 2024-07 规模 20K
偏好与对齐 单一数据集 全球 商用友好 rlhf reward-model
访问 huggingface.co

来源描述

去除 reward model 6 类偏见的 debias 训练对

Apache 2.0

HuggingFace 实测指标

NCSOFT/offsetbias ↗
近 30 天下载
264
点赞
27
最近更新
2024-07-12
HF 授权标签
bsd-3-clause
datasets-server 实测规模
8.5K 条 · 21.6 MB
由 HuggingFace datasets-server 现算，不是榜单页手写的数字
HF 规模档 1K<n<10K en

训练阶段（本刊判断）

偏好与奖励

同领域 · 偏好与对齐

HH-RLHF ★

RLHF 经典 helpful + harmless 偏好对
PRM800K ★

Process Reward Model: 数学解题每步打标
Skywork-Reward

RewardBench top1 训练集，SFT-friendly preference
Nectar

Starling-7B 用的 7-way 排序偏好数据
OpenAssistant

众包多语 OASST 数据，含偏好对比
Math-Step-DPO-10K

数学 step-level DPO 数据

领域、训练阶段、用途、License 分级与本刊判断由本刊维护； 下载量 / 点赞 / 更新时间 / 实测规模来自 HuggingFace Hub 官方 API 与 datasets-server，每周自动刷新。 规模、许可证与商用授权最终请以 原站 为准。