斯坦福大学

Center for Research on Foundation Models (CRFM) / Stanford AI Lab

美国 · PhD/Postdoc

斯坦福CRFM是基础模型研究的核心学术中心，研究大语言模型的安全对齐、评估与治理。依托斯坦福AI Lab (SAIL)的深厚积累，中心在RLHF、模型评估、安全基准测试等方向产出大量影响力研究，是AI安全学术与产业交叉的重要枢纽。

学术历史

斯坦福AI Lab (SAIL)成立于1962年，是全球最早的AI研究机构之一。2021年，John Etchemendy与李飞飞联合发起CRFM，回应大语言模型（GPT-3等）带来的安全与治理挑战。CRFM的建立标志着学术界对基础模型安全研究的系统化投入，其发布的HELM评估框架成为模型安全评估的重要基准。斯坦福在强化学习与AI安全方向有长期积累，Emma Brunskill的RL实验室与Chelsea Finn的元学习研究为对齐技术提供了基础。

当前状态

CRFM目前运营多个研究方向：基础模型评估（HELM）、安全对齐、模型治理、多模态安全等。中心与SAIL共享资源，拥有大规模计算集群支持模型训练与评估。开设CS324（Large Language Models）等课程培养安全方向人才。中心定期发布基础模型安全报告，并组织Stanford AI Safety Workshop。

实验室 / 研究中心

关键人物

标志性成果

• 发布HELM（Holistic Evaluation of Language Models）评估框架，成为大模型安全与能力评估的学术基准
• 提出基础模型（Foundation Models）概念框架，系统定义大模型时代的安全与治理挑战
• 元学习（MAML）算法的开创性工作，为快速适应与价值学习提供技术基础
• 安全强化学习理论框架，定义约束马尔可夫决策过程中的安全探索边界

学术资源

证据