OpenAI 发布 MuseNet，一个可生成 4 分钟乐曲、支持 10 种乐器的深度神经网络，能融合从乡村到莫扎特再到披头士的风格。MuseNet 并未被显式编程音乐知识，而是通过预测数十万份 MIDI 文件中的下一个 token 来学习和声、节奏与风格。它沿用了与 GPT-2 相同的通用无监督技术，即预测序列中下一个 token 的大规模 Transformer 模型，无论序列是音频还是文本。
推荐理由：OpenAI 用与 GPT-2 同源的通用无监督技术生成音乐，可观察同一架构跨模态迁移的早期路径。
OpenAI 开发了 Sparse Transformer，一种深度神经网络，在预测文本、图像或声音序列中下一个内容的任务上创下新纪录。它通过对注意力机制做算法改进，从比以往长 30 倍的序列中提取模式。
推荐理由：OpenAI 官方介绍 Sparse Transformer 对注意力机制的改进，可了解长序列建模在文本、图像和声音上的早期思路。
OpenAI Five 在周末的 Finals 上连续两局击败 Dota 2 世界冠军战队 OG，成为首个战胜电竞世界冠军的 AI。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下击败高水平职业选手，但在直播的职业比赛中落败，因此这也是 AI 首次在直播中战胜电竞职业选手。
推荐理由：OpenAI Five 在直播中连胜 Dota 2 世界冠军 OG，可对照 AlphaStar 此前直播落败的节点理解 AI 竞技进展。
OpenAI 将于 4 月 13 日太平洋时间上午 11:30 举办 OpenAI Five 的最后一场直播活动。
OpenAI 在能量模型（EBM）的稳定可扩展训练上取得进展，其样本质量和泛化能力优于现有模型。EBM 生成时投入更多算力持续精修结果，在低温度下可生成与 GAN 媲美的样本，同时具备似然类模型的模式覆盖保证。
OpenAI 公布 2019 届 Scholars 计划入选名单，8 名学者从 550 名申请者中选出。他们的专业背景涵盖文学、哲学、细胞生物学、统计学、经济学、量子物理和商业创新。
OpenAI 宣布成立 OpenAI LP，一家采用利润上限（capped-profit）模式的新公司，以便快速增加在算力和人才上的投入，同时通过制衡机制推进其使命。
推荐理由：OpenAI 官方说明其组织架构调整，读者可了解这家机构在算力与人才投入上的制度安排。
OpenAI 与 Google 研究人员合作推出 Activation Atlases，一种可视化神经元之间交互所代表含义的新技术。随着 AI 系统被部署到日益敏感的场景，更好地理解其内部决策过程有助于识别弱点和调查失败原因。
OpenAI 发布 Neural MMO，一个面向强化学习智能体的大规模多智能体游戏环境，支持在持久、开放式任务中容纳数量可变的大量智能体。该平台通过引入众多智能体与物种，带来更好的探索、差异化的生态位形成以及整体能力的提升。
OpenAI 于 2 月 2 日举办了首届 Spinning Up 研讨会，这是其新教育计划的一部分。
OpenAI 发布论文指出，长期 AI 安全研究需要社会科学家参与，以确保 AI 对齐算法在涉及真实人类时能够奏效。论文认为，要让先进 AI 系统与人类价值观正确对齐，必须解决人类理性、情绪与偏见等心理学层面的诸多不确定性，OpenAI 计划全职招聘社会科学家推进这一方向。
OpenAI 训练了一个大规模无监督语言模型，能够生成连贯的段落文本，在多项语言建模基准上取得当时最好成绩。该模型无需针对特定任务训练，即可完成基础的阅读理解、机器翻译、问答和摘要任务。
推荐理由：OpenAI 官方披露一个大规模无监督语言模型，在多项语言建模基准上取得当时最好成绩，并零样本完成阅读理解、翻译、问答与摘要。
OpenAI 首期 Fellows 项目结业，每位学员在 6 个月学徒期内从机器学习初学者成长为 OpenAI 的核心贡献者。该项目公布了夏季班学员的结业项目。
OpenAI 发现梯度噪声尺度这一统计指标能预测神经网络训练在多种任务上的可并行性。由于复杂任务的梯度噪声更大，未来更大的 batch size 可能变得有用，从而消除 AI 系统继续扩展的一项潜在限制。该结果表明神经网络训练并非神秘技艺，而是可以被严格化和系统化的。
OpenAI 发布训练环境 CoinRun，用于衡量智能体将经验迁移到新情境的泛化能力，并已帮助厘清强化学习领域一个长期存在的难题。该环境在复杂度上取得平衡：比《刺猬索尼克》等传统平台游戏更简单，但仍对当前最先进算法构成值得挑战的泛化考验。
OpenAI 发布深度强化学习教育资源 Spinning Up in Deep RL，旨在让任何人都能学习成为深度强化学习的熟练实践者。该资源包含清晰的 RL 代码示例、教学练习、文档和教程。
OpenAI 开发出一种基于能量的模型，仅需五次演示即可学会识别并生成以 2D 点集表达的概念，如 near、above、between、closest 和 furthest。该模型还展现出跨域迁移能力：在 2D 粒子环境中学会的概念可用于解决 3D 物理机器人的任务。
OpenAI 开发了 Random Network Distillation（RND），一种基于预测的奖励方法，通过好奇心鼓励强化学习智能体探索环境，首次在《蒙特祖玛的复仇》上超越人类平均表现。
OpenAI 提出一种名为 iterated amplification 的 AI 安全技术，通过将复杂任务分解为更简单的子任务来指定超出人类规模的行为与目标，而非依赖标注数据或奖励函数。该想法仍处于早期阶段，目前仅在简单的玩具算法领域完成实验，OpenAI 认为它可能成为可扩展的 AI 安全方案。
OpenAI 开放第二届 OpenAI Scholars 申请，面向弱势群体提供 6–10 个津贴与导师指导名额，全职学习深度学习 3 个月并开源一个项目。
OpenAI 开始接受 2019 年 Fellows 和 Interns 申请，其中 Fellows 为冬季项目、Interns 为夏季项目。
OpenAI Scholars 2018 首批学员已完成该项目，并提交了最终项目。这是 OpenAI Scholars 计划的第一期学员结业。
OpenAI Five 本周在温哥华 The International 上对阵顶尖 Dota 2 选手，两局均告负，但在两局的前 20 至 35 分钟内都保持了较高的取胜机会。
OpenAI Five 在一场三局两胜的比赛中击败了由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的 99.95 百分位 Dota 玩家队伍，其中四人曾打过职业 Dota。比赛在 10 万名同时在线观众面前现场进行。
OpenAI 训练出一只类人机械手，能以"前所未有的灵巧度"操控实体物体。该成果展示了机器人在物理操作能力上的进展。
OpenAI 公布 2018 年首届 OpenAI Scholars 名单，该项目正帮助一批经验丰富的软件开发者转型为机器学习从业者，公众可关注他们的学习进展。
OpenAI Five Benchmark 比赛已结束。OpenAI 公布了这场 Dota 2 人机对抗基准赛的结果。
OpenAI 推出可逆生成模型 Glow，采用可逆 1x1 卷积，简化了此前可逆生成模型的架构。该模型能生成逼真的高分辨率图像，支持高效采样，并可发现用于操控数据属性的特征。OpenAI 同步开源模型代码并上线在线可视化工具。
OpenAI 训练出一个智能体，仅凭单次人类演示就在《蒙特祖玛的复仇》中取得 74500 分的高分，超过此前所有已公布结果。其算法从演示中挑选特定状态作为起点，让智能体依次游玩并优化游戏得分，所用强化学习算法 PPO 也是 OpenAI Five 的基础。
推荐理由：OpenAI 用单次人类演示加 PPO 在《蒙特祖玛的复仇》上取得 74500 分，可了解演示驱动强化学习的早期思路。
OpenAI 宣布其由五个神经网络组成的团队 OpenAI Five 已在 Dota 2 中开始战胜业余人类队伍。该团队由五个神经网络构成，此次公布的是这一阶段性对战结果。
推荐理由：OpenAI 公开了由五个神经网络组成的 OpenAI Five 在 Dota 2 中开始战胜业余人类队伍这一阶段性结果。
OpenAI 首届 Retro Contest 已完成，该比赛旨在探索能从过往经验中泛化的算法。比赛结果已公布。
OpenAI 用 Transformer 结合无监督预训练的可扩展、任务无关系统，在多项语言任务上取得当时最优结果，并对外发布了该系统。OpenAI 表示，这一结果说明监督学习方法与无监督预训练相结合效果很好，希望推动在更大、更多样的数据集上继续探索这一思路。
推荐理由：OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果，并公开了这套可扩展系统。
OpenAI 开放新一期 OpenAI Fellows 项目申请，该项目提供为期 6 个月、带薪酬的 AI 研究学徒岗位。
OpenAI 发布强化学习游戏研究平台 Gym Retro 的完整版，公开游戏数量从约 70 款 Atari 游戏和 30 款 Sega 游戏扩展到覆盖多种模拟器的 1000 多款游戏。同时发布的还有用于向该平台添加新游戏的工具。
OpenAI 发布一项分析，指出自 2012 年以来最大规模 AI 训练所用算力呈指数增长，翻倍周期为 3.4 个月，而摩尔定律的翻倍周期为 2 年。同一时期该指标增长超过 300,000 倍，若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分，若这一趋势延续，值得为远超当前能力的系统做准备。
推荐理由：OpenAI 用一组量化数据说明最大规模 AI 训练算力的增长节奏，可与摩尔定律对照理解算力趋势。
OpenAI 提出一种 AI 安全技术，训练智能体就话题相互辩论，由人类判断胜负。该方法旨在借助辩论提升 AI 系统的安全性。
OpenAI 发布实验性元学习方法 Evolved Policy Gradients（EPG），通过进化学习智能体的损失函数，使其能在新任务上快速训练。经 EPG 训练的智能体在测试时可完成训练范围之外的基础任务，例如学会导航到房间中与训练时位置相反一侧的物体。
OpenAI 推出 Retro Contest 迁移学习竞赛，用于衡量强化学习算法从既往经验中泛化的能力。竞赛聚焦迁移学习，考察算法能否将已有经验迁移到新任务。
OpenAI 于 3 月 3 日举办了首届黑客松，共有 100 名人工智能社区成员参与。
OpenAI 开发出可扩展的元学习算法 Reptile，通过反复采样任务、对其执行随机梯度下降，并将初始参数朝该任务最终学到的参数更新。Reptile 是将 Shortest Descent 算法应用于元学习场景，数学上与一阶 MAML 相似，只需黑盒访问 SGD 或 Adam 等优化器，计算效率与性能相近。