OpenAI 联合多家机构发布 AI 恶意使用预测论文
OpenAI 与 Future of Humanity Institute、Centre for the Study of Existential Risk、Center for a New American Security。
推荐理由：OpenAI 联合多家机构用近一年时间梳理 AI 被恶意利用的可能路径与防范思路，可作为 AI 安全治理早期讨论的参照。
公司与模型
OpenAI / ChatGPT 最新动态
OpenAI 的全部动态：GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
392 条精选近 30 天 79 条共收录 1,944 条
更新
精选归档 · 第 20 页
OpenAI News精选AI 评分6060
OpenAI News精选AI 评分6262 OpenAI 研究：自对弈让模拟 AI 自行学会身体技能
OpenAI 发现自对弈能让模拟 AI 自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能，无需在设计环境时预先设定这些技能。自对弈还能让环境难度始终与 AI 水平匹配，便于持续提升。结合此前的 Dota 2 自对弈结果，OpenAI 表示越来越确信自对弈将成为未来强大 AI 系统的核心部分。
推荐理由：OpenAI 用自对弈让模拟 AI 自行涌现出擒抱、假动作等身体技能，可与 Dota 2 结果对照理解自对弈的训练价值。
OpenAI News精选AI 评分8383 OpenAI 详解 Dota 2 自对弈训练结果
OpenAI 发布 Dota 2 研究补充说明，指出在算力充足时自对弈能把机器学习系统从远低于人类水平提升到超人水平。该系统在一个月内从勉强匹敌高排名玩家进步到击败顶尖职业选手，此后仍在持续提升。OpenAI 还指出，监督式深度学习系统的上限受训练数据集限制，而自对弈系统的可用数据会随智能体变强自动改善。
推荐理由：OpenAI 用 Dota 2 结果说明自对弈在算力充足时能把系统从远低于人类提升到超人水平。
OpenAI News精选AI 评分7878 OpenAI 的 Dota 2 bot 在 1v1 标准赛制下击败顶级职业选手
OpenAI 宣布其打造的 bot 在标准锦标赛规则下的 Dota 2 1v1 对战中击败了世界顶级职业选手。该 bot 完全通过自我对弈从零学习游戏，未使用模仿学习或树搜索。OpenAI 称这是迈向在涉及真实人类的混乱复杂情境中完成明确目标的一步。
推荐理由：OpenAI 用自我对弈从零训练出的 bot 在标准赛制下击败 Dota 2 顶级选手，可看复杂实时环境中的方法取舍。
OpenAI News精选AI 评分6262 OpenAI 发布强化学习算法 PPO
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），其表现与当时最先进方法相当或更好，同时实现和调参都简单得多。PPO 因易用且性能良好，已成为 OpenAI 默认的强化学习算法。
推荐理由：OpenAI 公开 PPO 算法并说明其相比当时 SOTA 更易实现和调参，可了解该方法的提出背景。
OpenAI News精选AI 评分6262 OpenAI 与 DeepMind 提出从人类偏好中学习目标的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类指出两种候选行为中哪一个更好，来推断人类想要的目标。OpenAI 称，构建安全 AI 系统的一步是免去人类手写目标函数，因为用简单代理替代复杂目标或把复杂目标写偏一点，都可能导致不良甚至危险的行为。
推荐理由：OpenAI 与 DeepMind 安全团队提出用人类偏好比较替代手写目标函数，为对齐研究提供了一条早期思路。
OpenAI News精选AI 评分6262 OpenAI 开源强化学习复现项目 Baselines，首批发布 DQN 及三个变体
OpenAI 开源内部项目 OpenAI Baselines，目标是以与已发表结果相当的性能复现强化学习算法。首批发布包含 DQN 及其三个变体，其余算法将在接下来几个月内陆续放出。
推荐理由：OpenAI 开源内部强化学习复现项目 Baselines，首批放出 DQN 及三个变体，可了解其复现思路与后续发布节奏。
OpenAI News精选AI 评分6262 OpenAI 发布可在看过一次示范后学习新任务的机器人系统
OpenAI 发布一套机器人系统，完全在仿真环境中训练后部署到实体机器人上，能在看过一次任务示范后学会新任务。
推荐理由：OpenAI 早期机器人研究，展示纯仿真训练后迁移到实体机器人并实现单次示范学习新任务。
OpenAI News精选AI 评分6060 OpenAI 发布开源机器人仿真软件 Roboschool
OpenAI 发布 Roboschool，这是一款用于机器人仿真的开源软件，并已与 OpenAI Gym 集成。
推荐理由：OpenAI 开源机器人仿真软件并接入 Gym，读者可了解其与既有强化学习环境的衔接方式。
OpenAI News精选AI 评分6262 OpenAI 发布 Universe 软件平台
OpenAI 发布 Universe，一个用于衡量和训练 AI 通用智能的软件平台，覆盖全球的游戏、网站及其他应用。
推荐理由：OpenAI 发布 Universe 平台，读者可了解其用游戏和网站训练通用智能的定位。
OpenAI News精选AI 评分6262 OpenAI 发布强化学习工具包 Gym 公测版
OpenAI 发布强化学习工具包 OpenAI Gym 的公测版，用于开发和比较 RL 算法。它包含一套持续扩充的环境，涵盖模拟机器人和 Atari 游戏，并提供一个用于比较和复现结果的站点。
推荐理由：OpenAI 公开强化学习工具包 Gym 的 beta 版，可了解其环境套件与结果对比站点的定位。
OpenAI News精选AI 评分7070 OpenAI 宣布成立非营利人工智能研究公司
OpenAI 宣布成立，定位为非营利人工智能研究公司，目标是推进数字智能以最大程度造福全人类，而不受盈利需求的约束。文中称由于研究不受财务义务限制，可以更专注于对人类产生积极影响。
推荐理由：OpenAI 官方公布其非营利研究机构定位与不受财务回报约束的目标，可作为理解其早期组织形态的一手材料。