OpenAI 发布 DALL·E：从文本生成图像
OpenAI 训练了一个名为 DALL·E 的神经网络，可根据自然语言描述生成图像，覆盖自然语言可表达的多种概念。
推荐理由：OpenAI 官方公布 DALL·E 这一从文本生成图像的神经网络，可据此了解文生图方向的早期起点。
#OpenAI
OpenAI News精选AI 评分8585 OpenAI News精选AI 评分7878 OpenAI 发布 CLIP：用自然语言连接文本与图像
OpenAI 发布名为 CLIP 的神经网络，通过自然语言监督高效学习视觉概念。CLIP 只需提供待识别视觉类别的名称，即可应用于任意视觉分类基准，类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由：OpenAI 官方介绍 CLIP 用自然语言监督学习视觉概念，读者可了解零样本视觉分类的思路来源。
OpenAI NewsAI 评分1818 OpenAI 组织架构更新
OpenAI 发布组织更新，称过去一年公司经历了剧烈变化与增长。原文未披露具体调整内容。
OpenAI News精选AI 评分6262 OpenAI 将 GPT-3 技术授权给 Microsoft
OpenAI 宣布已同意将 GPT-3 授权给 Microsoft，用于其自有产品和服务。材料未披露授权范围、金额或具体产品形态。
推荐理由：OpenAI 将 GPT-3 授权给 Microsoft 用于其自有产品与服务，可据此观察早期大模型商业授权路径。
OpenAI News精选AI 评分6262 OpenAI 用人类反馈训练摘要模型
OpenAI 将人类反馈强化学习（RLHF）应用于语言模型训练，使其在摘要任务上表现更好。
推荐理由：OpenAI 用人类反馈强化学习训练摘要模型，可了解 RLHF 在摘要任务上的早期应用思路。
OpenAI NewsAI 评分1818 OpenAI Scholars 2020 展示最终项目
OpenAI 第三届 Scholars 学员在线上 Demo Day 展示了他们过去五个月的研究成果。
OpenAI NewsAI 评分2020 OpenAI 联合举办 Procgen 与 MineRL 竞赛
OpenAI 宣布与 AIcrowd、卡内基梅隆大学和 DeepMind 联合举办两场 NeurIPS 2020 竞赛，分别基于 Procgen Benchmark 和 MineRL。
OpenAI News精选AI 评分6262 OpenAI 发布 Image GPT：用 Transformer 建模像素序列生成图像
OpenAI 发现，与在语言上训练的大 Transformer 模型一样，在像素序列上训练的同一模型也能生成连贯的图像补全和样本。研究通过建立样本质量与图像分类准确率之间的相关性，表明其最佳生成模型在无监督设定下所含特征可与顶级卷积网络竞争。
推荐理由：OpenAI 用同一套 Transformer 架构处理像素序列，并给出生成质量与分类精度相关的证据，可看早期统一建模思路。
OpenAI News精选AI 评分7070 OpenAI 发布 API，开放其新 AI 模型访问
OpenAI 发布 API，用于访问其开发的新 AI 模型。
推荐理由：OpenAI 官方发布 API，读者可了解其新模型首次以接口形式对外开放这一变化。
OpenAI News精选AI 评分8181 OpenAI 论文：语言模型是少样本学习器
OpenAI 发布论文《Language models are few-shot learners》，提出语言模型具备少样本学习能力。原文正文抓取失败，仅标题可用。
OpenAI News精选AI 评分6262 OpenAI 分析：ImageNet 训练算力每 16 个月减半
OpenAI 发布分析称，自 2012 年以来，在 ImageNet 分类上训练神经网络达到同等性能所需的算力每 16 个月减少一半。相比 2012 年，训练达到 AlexNet 水平的网络所需算力已减少 44 倍，而同期摩尔定律仅带来 11 倍的成本改善。研究认为，在近期投入较高的 AI 任务上，算法进步带来的收益超过传统硬件效率提升。
推荐理由：OpenAI 用 ImageNet 训练算力数据量化算法进步速度，可与摩尔定律对比理解 AI 效率提升来源。
OpenAI News精选AI 评分6262 OpenAI 发布音乐生成神经网络 Jukebox 并开源模型权重与代码
OpenAI 发布 Jukebox，一个能生成音乐并以原始音频形式输出、包含初级演唱的神经网络，覆盖多种曲风和艺术家风格。OpenAI 同时公开了模型权重和代码，并提供用于查看生成样本的工具。
推荐理由：OpenAI 公开 Jukebox 的模型权重与代码，读者可据此了解早期音乐生成模型的开源形态。
OpenAI NewsAI 评分3434 OpenAI 参与发布 AI 可验证性报告，提出 10 项机制
OpenAI 参与发布了一份由 30 家机构、58 位作者共同撰写的多利益相关方报告，提出 10 项机制以提升 AI 系统相关声明的可验证性。开发者可借助这些工具证明 AI 系统安全、可靠、公平或保护隐私，用户、政策制定者与公民社会也可据此评估 AI 开发过程。
OpenAI NewsAI 评分4242 OpenAI 推出 Microscope：八个视觉模型的可视化工具
OpenAI 推出 Microscope，对八个常用于可解释性研究的视觉"模式生物"模型的每一重要层和神经元进行可视化，便于分析神经网络内部形成的特征。该工具面向研究社区，旨在帮助理解这些复杂系统。
OpenAI NewsAI 评分2626 OpenAI 将深度学习框架标准化为 PyTorch
OpenAI 宣布将其深度学习框架标准化为 PyTorch。
OpenAI News精选AI 评分7070 OpenAI 发布神经语言模型的缩放定律研究
OpenAI 发布关于神经语言模型缩放定律的研究，探讨模型性能与规模之间的关系。原文正文未能抓取，仅标题可用。
OpenAI News精选AI 评分6262 OpenAI 发布 Dota 2 大规模深度强化学习研究
OpenAI 发布关于 Dota 2 大规模深度强化学习的研究，原文链接为 https://openai.com/index/dota-2-with-large-scale-deep-reinforcement-learning。
OpenAI NewsAI 评分4040 OpenAI 研究：深度神经网络中的双重下降现象
OpenAI 发现双重下降现象同样出现在 CNN、ResNet 和 Transformer 中：随着模型规模、数据量或训练时间增加，性能先提升、再变差、然后再次提升。这一效应通常可通过精细的正则化避免，但研究者尚不完全理解其成因，认为值得进一步研究。
OpenAI NewsAI 评分4242 OpenAI 发布 Procgen Benchmark：16 个程序化生成环境
OpenAI 发布 Procgen Benchmark，包含 16 个易于使用的程序化生成环境，用于直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI NewsAI 评分4242 OpenAI 发布 Safety Gym：衡量强化学习智能体安全约束的测试环境
OpenAI 发布 Safety Gym，一套用于衡量强化学习智能体在训练中遵守安全约束进展的环境与工具。该套件面向安全约束下的强化学习智能体评测，提供相应环境和工具支持。
OpenAI News精选AI 评分8080 OpenAI 发布 GPT-2 最大版本 1.5B 及代码与模型权重
OpenAI 发布 GPT-2 分阶段发布的最后一个版本，即参数量 1.5B 的最大版本，并同时开放代码和模型权重，以便检测 GPT-2 模型的输出。OpenAI 表示，尽管自 8 月以来已有更大的语言模型发布，仍按原定分阶段发布计划推进，为社区提供一个完整分阶段发布流程的测试案例。OpenAI 希望该案例对未来的强大模型开发者有用，并继续与 AI 社区就负责任发布展开讨论。
推荐理由：OpenAI 公布 GPT-2 分阶段发布的最后一步，读者可了解其负责任发布流程的完整案例。
OpenAI News精选AI 评分7878 OpenAI 用机械手解魔方：纯仿真训练加 ADR 技术
OpenAI 训练了一对神经网络，让类人机械手解开魔方，训练完全在仿真中完成，使用与 OpenAI Five 相同的强化学习代码，并搭配名为 Automatic Domain Randomization（ADR）的新技术。该系统能应对训练中从未见过的情况，例如被毛绒长颈鹿戳碰，说明强化学习不只适用于虚拟任务，也能解决需要极高灵巧度的物理世界问题。
推荐理由：OpenAI 用同一套强化学习代码加 ADR 在仿真中训练机械手解魔方，可观察仿真到真实世界的迁移思路。
OpenAI NewsAI 评分2222 OpenAI Scholars 2020 申请开放
OpenAI 已开放第三期 OpenAI Scholars 项目的申请，面向 2020 年度。该项目此前已举办两期，此次为第三次招收学员。
OpenAI News精选AI 评分6060 OpenAI 用人类偏好微调 774M 参数 GPT-2
OpenAI 用人类反馈对 774M 参数的 GPT-2 语言模型进行微调，在多项任务上成功匹配外部人类标注者的偏好，但这些偏好并不总与 OpenAI 自己的预期一致。在摘要任务中，标注者偏好直接照抄输入的句子，模型因此学会了复制；摘要任务需要 6 万条人类标注，而按不同风格续写文本等更简单的任务只需 5 千条。OpenAI 表示其动机是让安全技术更接近“机器与人对话”这一通用任务。
推荐理由：OpenAI 用人类反馈微调 GPT-2 的早期实验，展示了偏好数据如何影响模型行为，也暴露了标注偏好与研究者预期的偏差。
OpenAI News精选AI 评分6262 OpenAI 从多智能体交互中观察到工具使用的涌现
OpenAI 在模拟捉迷藏环境中训练智能体，观察到它们逐步学会使用更复杂的工具，并形成六种不同的策略与反策略，其中一些策略是该环境原本未被设计支持的。OpenAI 认为，这种在简单环境中自监督涌现出的复杂性，说明多智能体共同适应未来可能产生更复杂、更智能的行为。
推荐理由：OpenAI 在捉迷藏模拟环境中观察到智能体自发形成六种策略与反策略，可了解多智能体协同演化的一种研究路径。
OpenAI NewsAI 评分3636 OpenAI 提出 UAR 指标，评估神经网络抵御未见对抗攻击的鲁棒性
OpenAI 开发出一种方法，用于评估神经网络分类器能否可靠抵御训练中未见的对抗攻击，并提出新指标 UAR（Unforeseen Attack Robustness），可衡量单一模型面对未预期攻击时的鲁棒性。该方法同时指出，需要在更多样化的未见攻击范围内衡量模型表现。
OpenAI News精选AI 评分7878 OpenAI 发布 774M 参数 GPT-2 模型
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已先后放出 124M 小模型和 355M 中模型。OpenAI 同时发布一份开源法律协议，便于机构之间建立模型共享合作，并发布技术报告，介绍与更广泛 AI 研究社区协调发布规范的经验。
推荐理由：OpenAI 分阶段放出 GPT-2 最大版本，并公开模型共享法律协议，可观察大模型发布与风险管控的早期做法。
OpenAI NewsAI 评分1212 OpenAI 的 Learning Day：每周四员工自学技术技能
OpenAI 将每周四设为 Learning Day，员工可自愿自学日常工作中接触不到的技术技能，以提升工作表现。该制度为可选参与，学习内容聚焦于技术能力。
OpenAI News精选AI 评分7878 微软向OpenAI投资10亿美元并达成合作
微软向OpenAI投资10亿美元，支持其构建通用人工智能（AGI）。双方将在Microsoft Azure上合作开发可扩展至AGI的硬件和软件平台，联合研发新的Azure AI超算技术，微软同时成为OpenAI的独家云服务提供商。
推荐理由：微软10亿美元投资OpenAI并成为其独家云服务商，读者可了解双方在Azure上共建AGI平台的早期合作框架。
OpenAI NewsAI 评分3434 OpenAI 为何认为负责任 AI 发展需要安全合作
OpenAI 发布政策研究论文，提出四项可立即用于提升 AI 安全规范长期行业合作可能性的策略：沟通风险与收益、技术协作、提高透明度、激励标准。分析指出，行业安全合作对确保 AI 系统安全有益至关重要，但竞争压力可能引发集体行动问题，导致 AI 公司对安全投入不足。
OpenAI NewsAI 评分1212 OpenAI 举办 2019 机器人研讨会
OpenAI 于 2019 年 4 月 27 日举办了首届 OpenAI Robotics Symposium。
OpenAI NewsAI 评分2222 OpenAI Scholars 2019 结业：八位学者完成最终项目
OpenAI Scholars 2019 届八位学者全部完成最终项目，并在 OpenAI 举办的 Scholars Demo Day 上展示。这是该项目的第二届学员班。
OpenAI NewsAI 评分1212 OpenAI Fellows Fall 2018 结业项目公布
OpenAI 第二届 Fellows 项目结业，每位成员在 6 个月学徒期内从机器学习初学者成长为 OpenAI 核心贡献者。OpenAI Fellows Summer 2019 的申请正在滚动审核中。
OpenAI News精选AI 评分6262 OpenAI 发布 MuseNet 音乐生成神经网络
OpenAI 发布 MuseNet，一个可生成 4 分钟乐曲、支持 10 种乐器的深度神经网络，能融合从乡村到莫扎特再到披头士的风格。MuseNet 并未被显式编程音乐知识，而是通过预测数十万份 MIDI 文件中的下一个 token 来学习和声、节奏与风格。它沿用了与 GPT-2 相同的通用无监督技术，即预测序列中下一个 token 的大规模 Transformer 模型，无论序列是音频还是文本。
推荐理由：OpenAI 用与 GPT-2 同源的通用无监督技术生成音乐，可观察同一架构跨模态迁移的早期路径。
OpenAI News精选AI 评分6262 OpenAI 提出 Sparse Transformer，可处理长 30 倍的序列
OpenAI 开发了 Sparse Transformer，一种深度神经网络，在预测文本、图像或声音序列中下一个内容的任务上创下新纪录。它通过对注意力机制做算法改进，从比以往长 30 倍的序列中提取模式。
推荐理由：OpenAI 官方介绍 Sparse Transformer 对注意力机制的改进，可了解长序列建模在文本、图像和声音上的早期思路。
OpenAI News精选AI 评分8080 OpenAI Five 击败 Dota 2 世界冠军 OG
OpenAI Five 在周末的 Finals 上连续两局击败 Dota 2 世界冠军战队 OG，成为首个战胜电竞世界冠军的 AI。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下击败高水平职业选手，但在直播的职业比赛中落败，因此这也是 AI 首次在直播中战胜电竞职业选手。
推荐理由：OpenAI Five 在直播中连胜 Dota 2 世界冠军 OG，可对照 AlphaStar 此前直播落败的节点理解 AI 竞技进展。
OpenAI NewsAI 评分2222 OpenAI Five 总决赛
OpenAI 将于 4 月 13 日太平洋时间上午 11:30 举办 OpenAI Five 的最后一场直播活动。
OpenAI NewsAI 评分3636 OpenAI 提出能量模型（EBM）隐式生成与泛化方法
OpenAI 在能量模型（EBM）的稳定可扩展训练上取得进展，其样本质量和泛化能力优于现有模型。EBM 生成时投入更多算力持续精修结果，在低温度下可生成与 GAN 媲美的样本，同时具备似然类模型的模式覆盖保证。
OpenAI NewsAI 评分1818 OpenAI Scholars 2019：认识我们的学者
OpenAI 公布 2019 届 Scholars 计划入选名单，8 名学者从 550 名申请者中选出。他们的专业背景涵盖文学、哲学、细胞生物学、统计学、经济学、量子物理和商业创新。
OpenAI News精选AI 评分6262 OpenAI 成立利润上限公司 OpenAI LP
OpenAI 宣布成立 OpenAI LP，一家采用利润上限（capped-profit）模式的新公司，以便快速增加在算力和人才上的投入，同时通过制衡机制推进其使命。
推荐理由：OpenAI 官方说明其组织架构调整，读者可了解这家机构在算力与人才投入上的制度安排。