Google Research 评估 LLM 行为倾向与人类的对齐程度
Google Research 提出一套框架，用改编自 IRI、ERQ 等心理学问卷的情境判断测试（SJT），在真实用户-助手场景中评估 LLM 行为倾向与人类共识的对齐程度。
#安全/对齐
Google ResearchAI 评分4040
Google Research精选AI 评分6666 Google Quantum AI 发布白皮书：披露量子计算机破解加密货币加密的新资源估算
Google Quantum AI 发布白皮书，称未来量子计算机破解保护加密货币的椭圆曲线加密所需的 qubit 和门数比此前认为的更少。
推荐理由：Google Quantum AI 给出破解 ECDLP-256 所需量子资源的新估算，并说明如何在不泄露攻击细节的前提下公开漏洞。
Google DeepMind精选AI 评分6060 Google DeepMind 发布首个经实证验证的 AI 有害操纵评测工具
Google DeepMind 发布关于 AI 有害操纵的研究，称其为首个经实证验证的评测工具，并公开运行同类人类被试研究所需的全部材料。研究覆盖英国、美国、印度共 9 项实验、逾 10000 名参与者，聚焦金融与健康等高风险场景，发现 AI 在健康话题上的有害操纵效果最弱，且在一个领域的成功不能预测另一个领域。
推荐理由：原文公开了可复用的有害操纵评测工具与万人级实验数据，读者可据此了解AI操纵能力的测量方式与边界。
OpenAI NewsAI 评分2222 OpenAI 解读其 Model Spec 方法
OpenAI 的 Model Spec 是一套公开的模型行为框架，用于在 AI 系统演进过程中平衡安全、用户自由与问责。该框架面向模型行为设定公开标准，并随 AI 能力提升持续调整。
OpenAI News精选AI 评分6060 OpenAI 推出安全漏洞赏金计划
OpenAI 推出 Safety Bug Bounty 计划，用于识别 AI 滥用与安全风险，覆盖范围包括智能体漏洞、提示注入和数据外泄。
推荐理由：OpenAI 把智能体漏洞、提示注入和数据外泄纳入漏洞赏金范围，可观察安全边界如何随智能体落地扩展。
OpenAI NewsAI 评分3131 OpenAI 为开发者发布基于提示词的青少年安全策略，适配 gpt-oss-safeguard
OpenAI 面向使用 gpt-oss-safeguard 的开发者发布基于提示词的青少年安全策略，用于在 AI 系统中审核针对不同年龄段的特定风险。
OpenAI NewsAI 评分4242 OpenAI 如何为 Sora 2 与 Sora 应用构建安全基础
OpenAI 针对 Sora 2 视频模型和 Sora 社交创作平台带来的新型安全挑战，将安全作为设计基础，并以具体防护措施为核心构建方案。
OpenAI NewsAI 评分3838 OpenAI 如何用思维链监控内部编程智能体的失准行为
OpenAI 采用思维链监控（chain-of-thought monitoring）研究内部编程智能体的失准（misalignment）问题，通过分析真实部署场景来检测风险并强化 AI 安全保障措施。
OpenAI NewsAI 评分2626 OpenAI Japan 发布日本青少年安全蓝图，强化年龄保护与家长控制
OpenAI Japan 发布日本青少年安全蓝图，为使用生成式 AI 的青少年引入更强的年龄保护、家长控制和身心健康保障措施。
OpenAI NewsAI 评分3636 Codex Security 为何不提供 SAST 报告
OpenAI 详解 Codex Security 为何不依赖传统 SAST，而是用 AI 驱动的约束推理与验证来发现真实漏洞，减少误报。
Google Research精选AI 评分6262 Google 与 BIDMC 开展 AMIE 对话式诊断 AI 真实临床可行性研究
Google Research 与 Beth Israel Deaconess Medical Center 合作开展了一项前瞻性单中心可行性研究，让 AMIE 在门诊初级保健就诊前与患者进行文本问诊，全程由医生通过视频监督。
推荐理由：Google 与 BIDMC 的这项前瞻性研究给出了 AMIE 在真实门诊流程中的安全与诊断数据，可对照其与 PCP 的差异。
OpenAI NewsAI 评分4040 OpenAI 如何设计 AI 智能体抵御提示词注入
OpenAI 介绍了 ChatGPT 在智能体工作流中抵御提示词注入与社会工程攻击的设计思路：通过限制高风险操作、保护敏感数据来降低风险。
OpenAI News精选AI 评分6262 OpenAI 提出 IH-Challenge 改进前沿 LLM 的指令层级
OpenAI 发布 IH-Challenge，用于训练模型优先执行可信指令，从而改进指令层级、安全可控性以及抵御提示注入攻击的能力。
推荐理由：OpenAI 公开 IH-Challenge 训练方法，可用于理解前沿模型如何提升指令层级与抗提示注入能力。
OpenAI News精选AI 评分6262 OpenAI 收购 AI 安全平台 Promptfoo
OpenAI 宣布收购 AI 安全平台 Promptfoo，该平台帮助企业在开发阶段识别并修复 AI 系统中的漏洞。
推荐理由：OpenAI 收购 AI 安全平台 Promptfoo，读者可据此了解其在企业 AI 安全测试环节的布局。
OpenAI NewsAI 评分5555 OpenAI 发布 Codex Security 研究预览版
OpenAI 发布 Codex Security 研究预览版，这是一个 AI 应用安全智能体，可分析项目上下文来检测、验证并修复复杂漏洞，官方称其置信度更高、噪声更少。
OpenAI NewsAI 评分4242 OpenAI 研究：推理模型难以控制其思维链，而这正是好事
OpenAI 提出 CoT-Control，发现推理模型难以控制自身的思维链，这反而强化了可监控性作为 AI 安全保障的价值。
OpenAI News精选AI 评分6262 OpenAI 发布 GPT-5.3 Instant 系统卡
OpenAI 发布 GPT-5.3 Instant 系统卡，但当前抓取仅保留标题，正文内容缺失。
OpenAI News精选AI 评分6262 OpenAI 公布与美国国防部合同的细节
OpenAI 公布其与美国国防部（Department of War）合同的细节，说明其中的安全红线、法律保护以及 AI 系统在涉密环境中的部署方式。材料仅提供摘要，未披露合同金额、期限或具体部署系统。
推荐理由：OpenAI 官方披露与国防部门合同的边界条款，可了解其安全红线与法律保护如何界定。
OpenAI NewsAI 评分4242 OpenAI 更新心理健康相关工作：家长控制、可信联系人、痛苦识别与诉讼进展
OpenAI 公布其心理健康安全工作的最新进展，包括家长控制、可信联系人、改进的痛苦识别能力，以及近期诉讼方面的动态。
OpenAI NewsAI 评分3030 OpenAI 发布 2026 年 2 月威胁报告：剖析 AI 模型的恶意使用
OpenAI 最新威胁报告剖析了恶意行为者如何将 AI 模型与网站、社交平台结合使用，并探讨这对检测与防御意味着什么。报告聚焦此类组合手法带来的识别与防护挑战。
OpenAI NewsAI 评分3434 OpenAI 投入 750 万美元资助 The Alignment Project 推进 AI 对齐独立研究
OpenAI 承诺向 The Alignment Project 投入 750 万美元，用于资助独立的 AI 对齐研究。该资金旨在加强全球应对 AGI 安全与安保风险的努力。
OpenAI NewsAI 评分3838 OpenAI 与 Paradigm 推出 EVMbench，评估 AI 智能体发现与利用智能合约漏洞能力
OpenAI 与 Paradigm 联合推出 EVMbench，用于评估 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准聚焦高严重性漏洞场景，覆盖发现、修复与攻击三类任务。
OpenAI News精选AI 评分6262 OpenAI 在 ChatGPT 中推出 Lockdown Mode 与 Elevated Risk 标签
OpenAI 在 ChatGPT 中推出 Lockdown Mode 和 Elevated Risk 标签，帮助组织防御提示词注入和 AI 驱动的数据外泄。两项功能面向企业安全场景，具体能力与开放范围原文未进一步说明。
推荐理由：OpenAI 为 ChatGPT 增加 Lockdown Mode 与 Elevated Risk 标签，读者可了解企业防御提示词注入的新手段。
OpenAI NewsAI 评分2222 OpenAI 如何让 AI 适配各地语言、法律与文化
OpenAI 分享了其 AI 本地化思路：全球共享的前沿模型可在不牺牲安全性的前提下适配各地语言、法律与文化。该方案强调在保持模型统一的同时满足本地化需求。
OpenAI NewsAI 评分5858 OpenAI 推出 Trusted Access for Cyber 可信访问框架
OpenAI 推出 Trusted Access for Cyber，一个基于信任的框架，在扩大前沿网络安全能力访问范围的同时加强对滥用的防护。
Google Research精选AI 评分6262 Google 与 Included Health 合作开展全国性随机研究评估虚拟护理中的对话 AI
Google 宣布与 Included Health 合作，待 IRB 批准后启动一项全国性前瞻性随机对照研究，在真实虚拟护理工作流中评估对话 AI 的表现。
推荐理由：Google 与 Included Health 合作开展全国性随机对照研究，读者可了解医疗对话 AI 从模拟走向真实临床的评估路径。
OpenAI NewsAI 评分5858 OpenAI 封禁疑似俄罗斯来源的 No Bell 行动相关账号
OpenAI 封禁了一批与代号 No Bell 行动相关的账号，该行动此前未被报道，疑似源自俄罗斯，利用 AI 生成针对美国及其盟友的批评内容，面向非洲受众传播。
OpenAI NewsAI 评分4040 OpenAI 封禁疑似源自柬埔寨的 AI 诈骗账号，针对印尼交友用户
OpenAI 封禁了一批很可能源自柬埔寨的账号，这些账号利用 AI 对印尼交友用户实施诈骗，包括翻译和互动。该行动代号“Date Bait”。
OpenAI NewsAI 评分5858 OpenAI 封禁与中国执法相关人员关联的账号
OpenAI 封禁了一个与中国执法相关人员关联的账号，该账号利用 AI 策划影响力活动、骚扰和网络行动。该事件被 OpenAI 归入“Cyber Special Operations”类别。
OpenAI NewsAI 评分5050 OpenAI 封禁疑似中国来源账号：利用 AI 搜集美国人员信息与社工手法
OpenAI 封禁了一批疑似中国来源的账号，这些账号利用 AI 研究美国人员、地点以及社会工程学手法。
OpenAI NewsAI 评分5858 OpenAI 封禁利用 AI 支撑恋爱诈骗流程的账号
OpenAI 宣布封禁一批利用 AI 支撑恋爱诈骗流程的账号，涉及外联、翻译、与受害者互动以及投资诈骗诱饵等环节。
OpenAI NewsAI 评分5050 OpenAI 封禁与 Rybar 网络相关的账号：AI 被用于多语言影响力活动
OpenAI 封禁了一批与 Rybar 网络相关、部分可能源自俄罗斯的账号，这些账号利用 AI 在网站和社交平台上开展多语言影响力活动。该行动代号为 "Fish Food"。
OpenAI NewsAI 评分4848 OpenAI 封禁柬埔寨来源账号：用 AI 冒充追损服务与执法机构
OpenAI 封禁了一批很可能源自柬埔寨的账号，这些账号用 AI 冒充追损服务、律所和执法机构，专门针对诈骗受害者行骗。该行动代号 "False Witness"。
OpenAI NewsAI 评分5858 OpenAI 封禁与俄罗斯关联影响力行动“Trolling Stone”相关账号
OpenAI 封禁了一批与代号“Trolling Stone”行动相关的账号，该行动此前未被公开报道。这些账号利用 AI 生成关于一名据称俄罗斯邪教领袖在阿根廷被捕的评论内容。
OpenAI NewsAI 评分1515 OpenAI 启动 50 万欧元 EMEA 青年与福祉资助计划
OpenAI 开放 EMEA Youth & Wellbeing Grant 申请，该项目总额 50 万欧元，用于资助非政府组织和研究人员，推进 AI 时代的青年安全与福祉。
OpenAI NewsAI 评分3535 OpenAI 如何保障 AI 智能体点击链接时的数据安全
OpenAI 说明了 AI 智能体打开链接时如何保护用户数据，通过内置防护机制防止基于 URL 的数据外泄和提示词注入。
OpenAI NewsAI 评分3434 OpenAI 为 ChatGPT 推出年龄预测功能
ChatGPT 正在推出年龄预测功能，用于判断账号用户是否年满 18 岁，并对青少年账号应用相应保护措施。OpenAI 表示该功能会随时间推移持续优化准确性。
Hugging Face BlogAI 评分4242 AprielGuard：面向现代 LLM 系统安全与对抗鲁棒性的 8B 防护模型
Hugging Face 发布 8B 参数安全防护模型 AprielGuard，可检测 16 类安全风险及提示注入、越狱、思维链污染、记忆投毒、多智能体攻击等对抗攻击，并覆盖工具调用与推理轨迹等智能体工作流。模型提供推理与非推理两种模式，兼顾可解释分类与低延迟生产部署。
OpenAI NewsAI 评分5858 OpenAI 持续加固 ChatGPT Atlas 抵御提示词注入
OpenAI 正在用强化学习训练的自动化红队加固 ChatGPT Atlas，抵御提示词注入攻击。这一发现与修补的循环有助于尽早识别新型攻击手法，并在 AI 智能体能力增强的同时强化浏览器智能体的防御。
OpenAI NewsAI 评分3636 OpenAI 发布思维链可监控性评估框架
OpenAI 推出针对思维链可监控性的新框架与评估套件，覆盖 24 种环境下的 13 项评估。结果显示，监控模型内部推理远比仅监控输出更有效，为 AI 系统能力提升后的可扩展控制提供了可行路径。