加州大學柏克萊分校

电子工程与计算机科学系 — 端側大模型推理

美國 · 博士

UC Berkeley 在 ML 系统领域拥有世界顶尖的研究实力，Joseph Gonzalez 和 Ion Stoica 教授领导的团队在高效 LLM 推理与服务系统方面持续产出突破性成果，从 Checkmate 内存优化到 MoE-Lightning 资源受限推理，为端侧和边缘大模型部署提供了系统级解决方案。

学术历史

Berkeley 的 ML 系统研究传统深厚，从 AMP Lab 到 RISE Lab 再到 Sky Computing Lab，Stoica 和 Gonzalez 教授领导的团队持续推动分布式系统和机器学习系统的前沿。Checkmate 项目通过最优张量重计算打破内存墙限制，Ansor 编译器实现了深度学习张量程序的高性能自动生成。Gonzalez 教授联合创立了 Apache Spark 和 Databricks，Stoica 教授联合创立了 Apache Spark、Mesos 和 Databricks。近期团队创立了 LMSYS 组织，推出 Chatbot Arena 大模型评测平台。

当前状态

Gonzalez 教授当前领导 Sky Computing Lab，研究涵盖高效 LLM 推理与服务系统，包括投机解码、MoE 优化（MoE-Lightning）、LLM Agent 服务引擎（Autellix）等。Stoica 教授与 Gonzalez 教授联合指导多个项目，从 vAttention 稀疏注意力到数据系统的 Agent 化重构。团队与 Stanford 的 Zaharia 教授紧密合作，共同推进 LLM 系统基础设施研究。

实验室 / 研究中心

关键人物

学术资源

证据