Circuit Breaker Labs 介绍其 AI 安全测试平台

2026年10月3日，TechCrunch 报道称，Circuit Breaker Labs 打造了一支被比作“碰撞测试假人”的 AI 智能体队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，每天运行数万到数十万次模拟对话，并用专有评分方法给出可审计、可解释的分数。报道称，该公司目前作为面向高风险 AI 应用的 AI 安全测试实验室运营，例如 AI 教练、日记或其他心理健康支持类应用，但 Arul 拒绝透露其重要客户名称。报道还称，尽管已有可运行产品，这家初创公司仍处于非常早期阶段，仅有五名员工，其中包括 Nigam 兄妹。报道提到，该测试平台最终可能应用于任何用户可能陷入“AI 精神病”式困境、面临与聊天机器人发展出准社会关系风险的应用。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。