OpenAI 呼吁全球行动,提议设立国际机构保障青少年 AI 安全
OpenAI 呼吁就青少年 AI 安全采取全球行动,并提议设立一个国际研究所,以加强针对青少年的防护措施、标准制定与机会拓展。
OpenAI 呼吁就青少年 AI 安全采取全球行动,并提议设立一个国际研究所,以加强针对青少年的防护措施、标准制定与机会拓展。
OpenAI 公布其在 AI 政策与政治倡导上的立场,强调透明度、支持审慎监管与 AI 安全,并明确任何外部政治团体都无权代表公司发声。
OpenAI 发布前沿治理框架(Frontier Governance Framework),说明其 AI 安全、安保与风险管理实践如何与欧盟及加州正在成形的法规对齐。该框架聚焦于前沿模型的治理与合规衔接。
OpenAI 公布 2026 年选举支持方案,涵盖可靠信息、网络防御、AI 透明度、滥用防护与偏见监测五方面。该方案面向 2026 年选举场景,具体措施细节尚未在文中展开。
Google DeepMind 与新加坡政府达成国家 AI 合作,在医疗、教育、科研和气候领域推出新项目。合作探索 AI 辅助临床的“三方护理”、用 AlphaFold 和 Google Earth 推进东南亚传染病研究,并开发基于 Gemma 的视障跑者助手。
OpenAI 宣布 ChatGPT Enterprise 和 OpenAI API 已获得 FedRAMP Moderate 授权,可供美国联邦机构安全采用 AI。该授权使联邦政府客户能够在合规框架下使用 OpenAI 的企业级产品与 API 服务。
Google DeepMind 宣布与韩国科学技术信息通信部(MSIT)建立合作,将在首尔办公室设立 AI Campus,向韩国学界开放 AlphaEvolve、AlphaGenome、AlphaFold、AI co-scientist 和 WeatherNext 等前沿模型。
OpenAI 发布儿童安全蓝图,一份为负责任构建 AI 提供路线图的文件,涵盖安全防护、适龄设计和协作三方面,目标是保护并赋能年轻人在线体验。
Google DeepMind 宣布与印度政府机构及本地机构建立 National Partnerships for AI 合作,向印度研究人员开放 AlphaGenome、AI Co-scientist、Earth AI 等前沿科学模型,并推出 3000 万美元的 Google.org Impact Challenge: AI for Science。
OpenAI 推出 Trusted Access for Cyber,一个基于信任的框架,在扩大前沿网络安全能力访问范围的同时加强对滥用的防护。
Google DeepMind 宣布深化与英国政府的合作,向英国科学家优先开放 AlphaEvolve、AlphaGenome、AI co-scientist 和 WeatherNext 等 AI for Science 模型,并计划 2026 年在英国建立其首个自动化实验室,专注材料科学研究,实验室将与 Gemini 深度集成。
Google DeepMind 宣布支持美国白宫 Genesis 计划,与美国能源部合作,向全部 17 个国家实验室提供前沿 AI for Science 模型和智能体工具的加速访问,首批上线的是基于 Gemini 的 AI co-scientist。
推荐理由:Google DeepMind 与美国能源部 17 个国家实验室的合作细节,展示了前沿 AI 模型进入国家级科研体系的具体路径。
OpenAI 发布青少年安全蓝图,为负责任地构建 AI 提供路线图,涵盖安全防护、适龄设计与协作三方面。该蓝图旨在保护并赋能年轻人在线使用 AI。
Mistral AI 推出 AI for Citizens 协作计划,帮助各国政府和公共机构战略性地运用 AI 改造公共服务、推动创新并保障竞争力。该计划提供开放技术平台、自托管部署、数据主权保障及定制化研发,已与法国、卢森堡、新加坡、荷兰、英国、瑞士等国政府及公共部门合作。
Hugging Face 于 3 月 14 日向白宫 OSTP 的 AI 行动计划 RFI 提交回应,主张开源与开放科学是 AI 性能、采用与安全的基础。
Mistral AI 推出非生产许可证 MNPL,允许开发者将自家技术用于非商业用途并支持研究工作,商业使用则需另循公平可持续的方式。Codestral 于同日在该许可证下发布,Mistral 表示仍会继续以 Apache 2.0 发布模型和代码,并逐步整合 Apache 2.0 与 MNPL 两条产品线。
推荐理由:Mistral 推出非生产许可证,读者可据此理解开源模型厂商在开放与商业化之间的授权取舍。
Hugging Face 发布伦理与社会通讯第 5 期,回顾其今夏参与 E.U.、U.K.、U.S. 的 AI 监管讨论,CEO Clem 出席美国国会作证及参议院 AI Insight Forum,并提交对 E.U. AI Act 和 NTIA AI 问责制的建议。
Hugging Face 联合 Creative Commons、Eleuther AI、GitHub、LAION 和 Open Future 发布立场文件,就 EU AI Act 提出五项建议。
Hugging Face 于 6 月 12 日向美国商务部 NTIA 提交 AI 问责政策回应,强调文档与透明度规范在推动 AI 问责中的作用。其建议问责机制应覆盖 ML 开发全流程、结合内部要求与外部访问透明,并吸纳开发者、多学科研究社区、倡导组织、政策制定者和记者等最广泛参与者。
Hugging Face 更新了平台内容政策,并发布配套博客说明其制定理由与核心价值。新政策针对机器学习内容的审核难题,强调以"同意"为核心价值,关注用户对自身作品、形象与隐私的权利,同时禁止针对用户及 Hugging Face 员工的攻击性或骚扰性言论。
Hugging Face 被法国数据保护机构 CNIL 选入其强化支持计划,该计划从 40 多个候选企业中选出三家“具有强劲经济发展潜力”的公司,为其理解和履行数据保护义务提供支持。Hugging Face 此前在 BigScience 和与 ServiceNow 合作的 BigCode 项目中已投入隐私风险治理与假名化工具开发,此次合作将推动 GDPR 合规并为用户厘清隐私与数据保护问题。
RAIL Initiative 推出、Hugging Face 支持的 OpenRAIL 是一类 AI 专用许可,允许免版税获取、下游使用与再分发,同时嵌入针对特定关键场景的用途限制。它借鉴 BigScience、开源与 Creative Commons 的做法,试图在广泛开放与防范有害使用之间划出界线,并赋予许可方在模型被滥用时的执行能力。
Hugging Face 于 2022 年 6 月下旬就美国白宫 OSTP 与 NSF 的 NAIRR 实施路线图征询提交回应,建议任命技术与伦理专家担任顾问、制定模型与数据文档标准、为跨学科非技术专家提供低代码或无代码工具,并投资 Responsible AI Licenses 以应对资源滥用。
Hugging Face 多模态学习团队发布了一份伦理章程,将伦理原则正式纳入其机器学习研究生命周期的起点。章程列出了内容政策中要防止的滥用场景,包括生成虚假信息、生成个人身份信息以及在医疗、法律、金融等高风险领域的不谨慎使用。团队同时提出透明、开放可复现、公平、自我批判和尊重署名五项项目价值观,并承认这些价值观之间可能存在冲突,需逐案权衡。