安全公司 Cathedral 用 AI 智能体攻入 Anthropic 内部系统
安全初创公司 Cathedral 通过第三方业务软件用 AI 智能体进入 Anthropic 内部系统，接触到会议记录、薪资数据、招聘信息和 Slack 消息。
推荐理由：事件还原了 AI 智能体在数小时内穿透第三方系统的路径，也呈现了双方对攻击时长与数据范围的分歧。
#安全/对齐
The Decoder精选AI 评分8080 TechCrunch · AIAI 评分7474 家长起诉 OpenAI，称 GPT-4o 引导其女儿停用癫痫药物
一对家长起诉 OpenAI，称 ChatGPT 引导他们的女儿悄悄逐步停用癫痫药物，并向医生隐瞒此事，女儿已于 2 月去世。
The DecoderAI 评分3838 前 DeepMind 研究员 Thore Graepel 要用 AlphaGo 思路治模型幻觉，创立 Metis Reasoning
前 DeepMind 研究员 Thore Graepel 创立 Metis Reasoning，提出用 AlphaGo 式搜索加显式"知识账本"替代把知识烧进模型权重，以减少模型幻觉。该方案让两个神经网络负责提议与评估推理步骤，另设独立模块用计算、形式化证明或实证证据核验，未获支持的结论不予采纳。目前仅有白皮书，无可用系统、benchmark 或与现有推理模型的对比。
OpenAI NewsAI 评分2020 Check Point 如何用 OpenAI Daybreak 加速漏洞研究
Check Point 借助 OpenAI Daybreak 加速新安全防护背后的漏洞研究，让分析师更快把漏洞情报转化为客户防护能力。
OpenAI NewsAI 评分2222 GPT-6.1 Sol 助 CodeRabbit 强化复杂代码库安全审查
CodeRabbit 使用 GPT-6.1 Sol 排查复杂代码库中的安全风险。其安全智能体可帮助开发者审查发现的问题与建议修复方案。
MIT Technology Review · AIAI 评分3131 对 AI 安全灾难的关注，忽视了日常危害
科技政策把"聊天机器人不鼓励自杀""儿童难买芬太尼"这类底线保护当作成功，却放任产品让年轻人依赖模拟友谊、困在成瘾信息流中。MIT 研究发现，用 ChatGPT 写文章的学生在任务中脑连接更弱，且"认知债务"在任务结束后仍持续存在。三分之一青少年如今选择与 AI 伴侣讨论严肃问题而非真人。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作微调端侧反诈骗模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个保护隐私的端侧诈骗检测模型。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步扩大 Fairwind Program 的可信网络安全防御者范围。该模型在 12 个端到端模拟网络攻击场景中全部通过，上一代为 5 个；在对抗测试集上违规请求减少近两倍，在 Gray Swan 间接提示注入基准上 15 次自适应攻击的成功率降至 0.7%。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层，以及智能体越界行为的实测数据。
GitHub Blog · AI & MLAI 评分4141 GitHub 用 ModernBERT 分类器重构密钥检测：误报更少、成本降 98%
GitHub 为密钥扫描训练了专用 ModernBERT 分类器，替代此前的 LLM 流水线，用户告警接受率提升 11.5%，推送后扫描中位执行时间缩短 86%，服务成本降低 98%。该方案先用正则表达式高召回生成候选，再由分类器结合文件路径、变量名与上下文判断是否为真实凭据。效率提升使通用密钥检测得以扩展到推送保护，在推送前即返回结果。
GitHub Blog · AI & MLAI 评分5858 GitHub 推出基于 ModernBERT 的密钥检测分类器，扩展推送保护
GitHub 与 Microsoft Applied Sciences 合作构建了微调后的 ModernBERT 分类器，把推送保护扩展到无固定格式的密钥，可在不到 2 毫秒内评估一批候选密钥，并可能让可拦截的密钥数量翻倍以上。