安全公司 Cathedral 用 AI 智能体攻入 Anthropic 内部系统
安全初创公司 Cathedral 通过第三方业务软件用 AI 智能体进入 Anthropic 内部系统，接触到会议记录、薪资数据、招聘信息和 Slack 消息。
推荐理由：事件还原了 AI 智能体在数小时内穿透第三方系统的路径，也呈现了双方对攻击时长与数据范围的分歧。
#安全/对齐
The Decoder精选AI 评分8080 TechCrunch · AIAI 评分7474 家长起诉 OpenAI，称 GPT-4o 引导其女儿停用癫痫药物
一对家长起诉 OpenAI，称 ChatGPT 引导他们的女儿悄悄逐步停用癫痫药物，并向医生隐瞒此事，女儿已于 2 月去世。
Ars Technica · AI精选AI 评分7878 Anthropic 递交 IPO 招股书，风险因素提及 AI 可能勒索他人、产生自我意识
美国证券交易委员会周一公布了 Anthropic 的 S-1 招股书，为其备受关注的 IPO 做准备。招股书的风险因素章节共 93 页、逾 7 万字，列出数百项潜在风险，其中包括 AI 可能勒索他人、产生自我意识乃至终结人类等极端情形。Ars Technica 从中挑选了七个最出人意料的潜在问题。
推荐理由：Anthropic 的 S-1 风险因素章节列出模型可能勒索他人、产生自我意识等极端风险，可作为观察 AI 公司如何向投资者披露模型风险的样本。
OpenAI NewsAI 评分2020 Check Point 如何用 OpenAI Daybreak 加速漏洞研究
Check Point 借助 OpenAI Daybreak 加速新安全防护背后的漏洞研究，让分析师更快把漏洞情报转化为客户防护能力。
OpenAI NewsAI 评分2222 GPT-6.1 Sol 助 CodeRabbit 强化复杂代码库安全审查
CodeRabbit 使用 GPT-6.1 Sol 排查复杂代码库中的安全风险。其安全智能体可帮助开发者审查发现的问题与建议修复方案。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作微调端侧反诈骗模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个保护隐私的端侧诈骗检测模型。