OpenAI 与 DeepMind 提出从人类偏好中学习目标的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类指出两种候选行为中哪一个更好，来推断人类想要的目标。OpenAI 称，构建安全 AI 系统的一步是免去人类手写目标函数，因为用简单代理替代复杂目标或把复杂目标写偏一点，都可能导致不良甚至危险的行为。
推荐理由：OpenAI 与 DeepMind 安全团队提出用人类偏好比较替代手写目标函数，为对齐研究提供了一条早期思路。
内容形态
论文研究 最新动态
值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展的精选解读。
142 条精选近 30 天 18 条共收录 520 条
更新
精选归档 · 第 8 页
OpenAI News精选AI 评分6262
OpenAI News精选AI 评分6262 OpenAI 发布可在看过一次示范后学习新任务的机器人系统
OpenAI 发布一套机器人系统，完全在仿真环境中训练后部署到实体机器人上，能在看过一次任务示范后学会新任务。
推荐理由：OpenAI 早期机器人研究，展示纯仿真训练后迁移到实体机器人并实现单次示范学习新任务。