史丹福大學

計算機科學系 — 端側大模型推理

美國 · 博士

斯坦福大学在 AI 系统与高效机器学习推理方面拥有世界级研究实力，Christopher Ré 教授的 ThunderKittens AI 内核框架和 Intelligence per Watt 效率度量工作，以及 Matei Zaharia 教授在 ML 系统基础设施方面的贡献，为端侧大模型推理提供了从底层内核到上层系统的全栈技术支撑。

学术历史

斯坦福 AI 实验室（SAIL）长期以来在机器学习系统领域保持领先。Ré 教授的研究跨越数据库理论、数据库系统和机器学习三大领域，其团队近期发布的 ThunderKittens 框架为构建高效 AI 内核提供了新范式，Intelligence per Watt 项目则系统衡量基础模型的能效并探索云端与端侧混合系统。Zaharia 教授作为 Apache Spark 和 Databricks 的创始人，在 ML 系统基础设施方面积累了深厚经验，其 DAWN 实验室专注于使机器学习更易部署到生产环境。

当前状态

Ré 教授团队当前致力于 AI 内核优化（ThunderKittens/ParallelKittens/HipKittens）、基础模型能效分析（Intelligence per Watt）以及云端与端侧混合系统（OpenJarvis）研究。Zaharia 教授的 DAWN 实验室则关注高效 ML 推理系统、模型级联加速和 ML 系统的质量保障工具。两团队与斯坦福基础模型研究中心（CRFM）紧密合作，推动端侧大模型部署的前沿研究。

实验室 / 研究中心

关键人物

学术资源

证据