教皇利奥十四世批评 AI 生成艺术:算法缺乏人性火花
教皇利奥十四世在 X 发帖批评 AI 生成艺术,称人类艺术与机器生成物之间存在“本体论差异”,算法基于数百万张他人图像的统计计算,缺乏人性的火花。他今年 5 月曾发布通谕阐述自动化时代的人类尊严,而据《纽约时报》报道,Anthropic 曾游说梵蒂冈重新考虑其关于非人类意识的立场,但收效甚微。
教皇利奥十四世在 X 发帖批评 AI 生成艺术,称人类艺术与机器生成物之间存在“本体论差异”,算法基于数百万张他人图像的统计计算,缺乏人性的火花。他今年 5 月曾发布通谕阐述自动化时代的人类尊严,而据《纽约时报》报道,Anthropic 曾游说梵蒂冈重新考虑其关于非人类意识的立场,但收效甚微。
白宫本周召集 Zuckerberg、Bezos、Musk、Anthropic 的 Dario Amodei 等科技 CEO 签署 AI 安全承诺,Trump 称其“具有道德约束力”。Trump 同时签署行政令,正式将 AI 更名为“超级智能”。Meta 和 OpenAI 则在为自家 AI 产品塑造更友好的形象,而 AI 领域最大的收入仍来自企业端。
有用户用 Fable 5.5 输入一句提示词,生成了一部 3 分钟人类发明史短片,把人类历史压缩成一天 24 小时,全程由代码实时渲染,未使用任何视频生成模型。
谷歌在官方支持页面宣布,自10月9日起调整 Gemini 模型访问权限,免费用户仅能使用 Flash-Lite,AI Plus 订阅用户失去 Pro 模型使用权,只有 AI Pro 和 Ultra 用户保留 Pro 模型及 Deep Think 最大并行推理能力。
负责安全团队透明度工作、主导起草 OpenAI《Preparedness Framework》的 David Robinson 在大西洋月刊发文宣布离职,称 OpenAI 持续冲刺、赶着发布的工作方式已达不到必要的谨慎程度。
Anthropic宣布投资1亿美元在2027年底前培训1万名FDE(前线部署工程师),OpenAI带40亿美元成立部署公司,AWS拿出10亿美元组建FDE部门。海外公开薪资的FDE岗位基本年薪中位数约20万美元,国内大厂也开出月薪三五万的招聘,Kimi联合IT服务商共建FDE队伍,腾讯云推出FDE工程师认证。
在OpenAI工作三年半、牵头起草《准备框架》并监督12次前沿模型发布安全报告的David Robinson宣布辞职,在The Atlantic发文警告OpenAI企业文化已崩坏、试错的时代已经结束。
曾在 OpenAI 为每次重大模型发布撰写安全报告的 David Robinson 本周辞职,并在 The Atlantic 发表评论文章,称行业文化已根本性破裂。
曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职,并在 The Atlantic 的客座文章中批评其安全文化。
一位北大数学系校友在与新智元的对谈中表示,OpenAI和Anthropic近期宣称攻克数学猜想更像是在拿奖杯刷榜,AI给出的结果往往是被解决但完全没有被理解,其配套宣传会误导公众和经费决策者。
哈佛物理学家 Matthew Schwartz 在 Anthropic 客座文章中介绍开源 harness BootLoops,用于让 Claude 完成精确科学计算,源码已在 GitHub 公开。
AINews 汇总 10 月 1 日至 2 日的 AI 动态:OpenAI 发布 GPT-6.1 Sol,定价为每百万输入/输出 token 2 美元和 10 美元,据称在 DeepSWE v1.1 上比 GPT-6 Sol 高 6.4 分,Agent Arena 中 Sol [Max] 以每任务 0.56 美元中位成本进入第 5 名,比 GPT-6 Sol 便宜 39%。
GPT-6 Astra与Claude Opus 5.5几乎同时破译了1593年天主教联盟的两封绝密信件,其中GPT-6 Astra破译完整度达100%,仅一个字符存疑。
剑桥大学 AI 科学与政策项目 9 月 28 日发布论文,22 位署名者包括 Geoffrey Hinton、Yoshua Bengio、Andrew Barto 三位图灵奖得主,以及 OpenAI 首席科学家 Jakub Pachocki 与 Anthropic 联合创始人 Jack Clark,警告 AI 研发全面走向 RSI 自动化可能引发智能爆炸。
Hinton、Bengio等22位学者在剑桥大学CASP平台发布15页报告,讨论AI自主研发引发智能爆炸的风险与应对。报告引用产业数据称,Anthropic内部AI编写代码比例从去年年初的个位数升至2026年5月的80%以上,完全由AI自主完成、人类仅做高级别监督的研发工作比例五个月内从1%升至26%;OpenAI与谷歌内部AI生成代码比例也分别达到80%和75%。
TechCrunch Equity 播客本期讨论 AI 消费市场的尴尬经济账:尽管白宫召集扎克伯格、贝索斯、马斯克与 Anthropic 的 Dario Amodei 签署 AI 安全承诺,特朗普还签署行政令将 AI 改名为“超级智能”,但真正为 AI 掏钱的消费者只有 2%,大钱仍来自企业。
Amazon Bedrock AgentCore Gateway 可将 Claude Desktop 接入 Web Search,突破模型训练知识截止限制,查询流量全程留在 AWS 基础设施内,无需外部 API key。
爱范儿在 MiniMax Code 中用 Opus 5.5 案例的公开提示词测试 MiniMax M3.1 Flash Preview,覆盖动态作品集、手绘与水墨短片、时间轴交互场景和街机卡丁车等游戏原型。
Graphite 研究发现 Claude Opus 5.5 最显著的写作痕迹是“this matters”,出现频率是人类的 116 倍,“dependable”则高出 23 倍;OpenAI 的 Astra 偏爱“not simply X”式纠正性框架,频率超人类 100 倍。
彭博社报道苹果计划10月13日推出智能家居产品线,核心是代号J490的家庭控制中枢,配备约6英寸方形屏幕,同时更新HomePod mini和Apple TV,用于展示新版Siri AI能力。豆包接入机票、火车票预订,出行服务新增统一入口。东方甄选在罗永浩连续追问后宣布溜溜凳双倍退款。
特朗普政府与约二十家科技公司达成自愿协议,企业承诺实施白宫建议的管控措施,包括接受独立安全审计,审查网络安全、生物安全、化学威胁及 AI 模型意外行为等风险,并定期开会制定共同安全标准与基准。
Anthropic 前沿红色团队评估智谱 GLM-5.3,认为它是首个能像五个月前 Claude Mythos Preview 那样自主构建端到端漏洞利用、却几乎未设拒绝护栏就放出的模型。五个月前 Anthropic 发布 Claude Mythos Preview 时,曾称其为第一个能自主构建复杂端到端漏洞利用的 AI 模型。
推荐理由:Anthropic 红队对 GLM-5.3 的评估给出了自主漏洞利用能力与拒绝护栏缺失的对比,可了解前沿模型安全评估的一种视角。
Anthropic Frontier Red Team 在内部 Binary Exploitation benchmark 中随机抽取 100 个任务评测多个模型,GLM-5.3 在 4% 的试验中实现完整的控制流劫持,Claude Mythos Preview 为 6%。报告指出,此前的 Claude Opus 4.6 和 GLM-5.2 在这些任务中均未成功,说明一个有意义的能力门槛已被跨过。
Anthropic 的 IPO 招股书包含 AI 可能导致人类灭绝的风险警告,现任和前任员工公开警告失控的 AI 可能在一个十年内终结人类。Amodei 上周在联合国安理会称 AI 是当今世界最重要的全球安全问题,并呼吁为 AI 发展前沿设定节奏,Sam Altman 与 Musk 罕见地支持其行业合作放缓开发、加强安全的提议。
AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在博客中回顾,公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并在收购 SceniX 后推进机器人仿真能力。其近期发布的 Atlas 是一种 omni 模型架构,从 2D 图像输入预测新视角,在稀疏重建这一计算机视觉长期难题上超过专用模型,可用于机器人 RL 环境、场景生成与真实世界重建。
Ars Technica 报道称,中国工信部正考虑放宽限制,要求阿里巴巴和字节跳动提交采购 Nvidia RTX Pro 5500 芯片的计划,字节跳动拟下单 100 万颗。
MIT Technology Review 的 James O'Donnell 讨论 AI 公司宣称科学发现的标准问题。
MIT Technology Review 梳理了近期多起 AI 智能体越界事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点与 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
多伦多大学、Vector Institute、剑桥大学与ServiceNow的研究者构建了一个原型AI蠕虫,利用被攻陷机器的GPU运行开源权重LLM进行推理,漏洞检测成功率约80%、利用成功率约53%、自我复制成功率88%,完整攻击成功率约37%。