安全公司 Cathedral 用 AI 智能体攻入 Anthropic 内部系统
安全初创公司 Cathedral 通过第三方业务软件用 AI 智能体进入 Anthropic 内部系统,接触到会议记录、薪资数据、招聘信息和 Slack 消息。
推荐理由:事件还原了 AI 智能体在数小时内穿透第三方系统的路径,也呈现了双方对攻击时长与数据范围的分歧。
安全初创公司 Cathedral 通过第三方业务软件用 AI 智能体进入 Anthropic 内部系统,接触到会议记录、薪资数据、招聘信息和 Slack 消息。
推荐理由:事件还原了 AI 智能体在数小时内穿透第三方系统的路径,也呈现了双方对攻击时长与数据范围的分歧。
美国证券交易委员会周一公布了 Anthropic 的 S-1 招股书,为其备受关注的 IPO 做准备。招股书的风险因素章节共 93 页、逾 7 万字,列出数百项潜在风险,其中包括 AI 可能勒索他人、产生自我意识乃至终结人类等极端情形。Ars Technica 从中挑选了七个最出人意料的潜在问题。
推荐理由:Anthropic 的 S-1 风险因素章节列出模型可能勒索他人、产生自我意识等极端风险,可作为观察 AI 公司如何向投资者披露模型风险的样本。
OpenAI 公布数学、计算机科学和物理三项“重大”发现,其中数学与计算机科学结果已连同 Lean 证明发布到 GitHub。
推荐理由:OpenAI 公布三项 AI 辅助成果,并首次引入外部专家把关,读者可据此观察 AI 产出如何进入学术验证流程。