華盛頓大學

保罗 — 艾伦计算机科学与工程学院 — 端側大模型推理

美國 · 博士

华盛顿大学在 ML 系统与计算机架构交叉领域拥有卓越研究实力，Luis Ceze 教授联合创建的 Apache TVM 深度学习编译栈是端侧 AI 部署的核心工具链之一，Mark Oskin 教授在开源硬件与近似计算方面的工作为资源受限设备上的高效推理提供了架构基础。

学术历史

UW 是 Apache TVM 的诞生地之一。Ceze 教授团队联合发表的 TVM 编译器为深度学习模型在不同硬件平台上的高效部署提供了端到端优化方案，已成为广泛使用的开源 ML 编译栈。Ceze 教授还联合创立了 OctoML（现为 OctoAI），将 TVM 技术商业化用于生成式 AI 推理服务。Oskin 教授长期从事计算机架构研究，参与近似计算和神经网络加速器设计，近期还探索开源 RISC-V 多核架构（BlackParrot）用于加速器 SoC。

当前状态

Ceze 教授目前联合指导 SAMPL 实验室，研究涵盖 ML 编译器优化、动态张量程序自动调优（DietCode）和高效分布式训练。Oskin 教授的团队则探索可解释性语言模型架构设计和开源硬件加速器。两位教授的合作横跨软硬件栈，为端侧大模型推理提供从编译器到芯片的全栈研究支持。

实验室 / 研究中心

关键人物

学术资源

证据