跳到正文
10月26日周一
7月29日周三
  1. Berkeley AI Research60

    从 CUDA 到 MLX:K-Search 如何把内核优化经验迁移到 Apple Silicon

    IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 演化式内核搜索框架,新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库自动适配 Apple Silicon。

    推荐理由:原文给出 CUDA 到 MLX 的翻译层设计与两组内核实测数据,可看跨平台内核知识迁移的具体做法。

7月7日周二
  1. Berkeley AI Research36

    智能免费之后怎么办?面向智能体、由智能体构建的数据系统

    UC Berkeley 团队提出,推理成本已从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1,部分厂商低于 $0.10,基准测试中推理价格年降幅在 9x 到 900x 之间、中位数约 50x。作者据此提出三类数据系统挑战:为智能体设计的数据系统、支撑智能体群体运行的数据系统,以及由智能体自行合成并需可验证的数据系统。

3月13日周五
  1. Berkeley AI Research38

    Berkeley AI Research 提出 SPEX 与 ProxySPEX:大规模识别 LLM 关键交互

    Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步借助层级结构,以约 10 倍更少的消融达到与 SPEX 相当的性能。在情感分析任务上,SPEX 在上下文扩展至数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等方法。