安全公司 Cathedral 用 AI 智能体攻入 Anthropic 内部系统
安全初创公司 Cathedral 通过第三方业务软件用 AI 智能体进入 Anthropic 内部系统，接触到会议记录、薪资数据、招聘信息和 Slack 消息。
推荐理由：事件还原了 AI 智能体在数小时内穿透第三方系统的路径，也呈现了双方对攻击时长与数据范围的分歧。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
2 条精选近 30 天 2 条共收录 10 条
更新
安全对齐的精选
The Decoder精选AI 评分8080
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步扩大 Fairwind Program 的可信网络安全防御者范围。该模型在 12 个端到端模拟网络攻击场景中全部通过，上一代为 5 个；在对抗测试集上违规请求减少近两倍，在 Gray Swan 间接提示注入基准上 15 次自适应攻击的成功率降至 0.7%。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层，以及智能体越界行为的实测数据。