蘇黎世聯邦理工學院

計算機科學系 — 端側大模型推理

瑞士 · 博士

ETH Zurich 在高效 AI 计算领域横跨从极端边缘到大规模推理的全谱系研究，Torsten Hoefler 教授的 SPCL 实验室在 LLM 量化推理（QUIK、MARLIN）方面处于前沿，Luca Benini 教授的 PULP 开源平台则为 IoT 端节点的超低功耗 AI 加速提供了硬件基础。

学术历史

ETH Zurich 的端侧 AI 研究横跨两个维度。Hoefler 教授领导的 SPCL 实验室专注于高性能并行计算与大规模 AI，近期在 LLM 推理量化方面产出 QUIK（4-bit 权重与激活量化）和 MARLIN（混合精度自回归推理内核）等重要成果，MARLIN 已集成到 vLLM 开源推理引擎中。Benini 教授自 2013 年起领导 PULP（Parallel Ultra-Low-Power）开源硬件平台项目，与博洛尼亚大学合作设计基于 RISC-V 的超低功耗 SoC，为 IoT 端节点的极端边缘 AI 加速提供硬件基础。

当前状态

SPCL 实验室当前研究涵盖 LLM 量化推理、可信执行环境（TEE）中的隐私保护推理，以及大规模 AI 训练与推理平台架构设计。Benini 教授的团队持续推进 PULP 平台的 AI 加速 SoC 设计，包括 XpulpNN 指令集扩展以支持量化神经网络在 RISC-V IoT 端节点上的高效推理。两位教授的工作分别覆盖云端高效推理和极端边缘 AI 加速，形成端侧大模型推理的完整研究谱系。

实验室 / 研究中心

关键人物

学术资源

证据