跳到正文
#安全/对齐
  1. The Decoder80

    安全公司 Cathedral 用 AI 智能体攻入 Anthropic 内部系统

    安全初创公司 Cathedral 通过第三方业务软件用 AI 智能体进入 Anthropic 内部系统，接触到会议记录、薪资数据、招聘信息和 Slack 消息。

    推荐理由：事件还原了 AI 智能体在数小时内穿透第三方系统的路径，也呈现了双方对攻击时长与数据范围的分歧。

  2. Ars Technica · AI78

    Anthropic 递交 IPO 招股书，风险因素提及 AI 可能勒索他人、产生自我意识

    美国证券交易委员会周一公布了 Anthropic 的 S-1 招股书，为其备受关注的 IPO 做准备。招股书的风险因素章节共 93 页、逾 7 万字，列出数百项潜在风险，其中包括 AI 可能勒索他人、产生自我意识乃至终结人类等极端情形。Ars Technica 从中挑选了七个最出人意料的潜在问题。

    推荐理由：Anthropic 的 S-1 风险因素章节列出模型可能勒索他人、产生自我意识等极端风险，可作为观察 AI 公司如何向投资者披露模型风险的样本。

  1. Google DeepMind82

    Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案

    Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步扩大 Fairwind Program 的可信网络安全防御者范围。该模型在 12 个端到端模拟网络攻击场景中全部通过，上一代为 5 个；在对抗测试集上违规请求减少近两倍，在 Gray Swan 间接提示注入基准上 15 次自适应攻击的成功率降至 0.7%。

    推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层，以及智能体越界行为的实测数据。

已经到底了