斯坦福大學

Center for Research on Foundation Models (CRFM) / Stanford AI Lab

美國 · PhD/Postdoc

斯坦福CRFM是基礎模型研究的核心學術中心，研究大語言模型的安全對齊、評估與治理。依託斯坦福AI Lab (SAIL)的深厚積累，中心在RLHF、模型評估、安全基準測試等方向產出大量影響力研究，是AI安全學術與產業交叉的重要樞紐。

学术历史

斯坦福AI Lab (SAIL)成立於1962年，是全球最早的AI研究機構之一。2021年，John Etchemendy與李飛飛聯合發起CRFM，回應大語言模型（GPT-3等）帶來的安全與治理挑戰。CRFM的建立標誌著學術界對基礎模型安全研究的系統化投入，其發佈的HELM評估框架成為模型安全評估的重要基準。斯坦福在強化學習與AI安全方向有長期積累，Emma Brunskill的RL實驗室與Chelsea Finn的元學習研究為對齊技術提供了基礎。

当前状态

CRFM目前運營多個研究方向：基礎模型評估（HELM）、安全對齊、模型治理、多模態安全等。中心與SAIL共享資源，擁有大規模計算集群支持模型訓練與評估。開設CS324（Large Language Models）等課程培養安全方向人才。中心定期發佈基礎模型安全報告，並組織Stanford AI Safety Workshop。

实验室 / 研究中心

关键人物

标志性成果

• 發佈HELM（Holistic Evaluation of Language Models）評估框架，成為大模型安全與能力評估的學術基準
• 提出基礎模型（Foundation Models）概念框架，系統定義大模型時代的安全與治理挑戰
• 元學習（MAML）算法的開創性工作，為快速適應與價值學習提供技術基礎
• 安全強化學習理論框架，定義約束馬爾可夫決策過程中的安全探索邊界

学术资源

证据