Université Stanford

Center for Research on Foundation Models (CRFM) / Stanford AI Lab

États-Unis · PhD/Postdoc

Le CRFM de Stanford est le centre académique central pour la recherche sur les modèles de fondation, étudiant l'alignement sécurisé, l'évaluation et la gouvernance des grands modèles de langage. S'appuyant sur l'expertise approfondie du Stanford AI Lab (SAIL), le centre produit de nombreuses recherches influentes en RLHF, évaluation de modèles et tests de sécurité de référence, constituant un carrefour majeur entre la recherche académique et industrielle en sécurité de l'IA.

学术历史

Le Stanford AI Lab (SAIL), fondé en 1962, est l'une des plus anciennes institutions de recherche en IA au monde. En 2021, John Etchemendy et Fei-Fei Li ont lancé conjointement le CRFM en réponse aux défis de sécurité et de gouvernance posés par les grands modèles de langage (GPT-3, etc.). La création du CRFM marque l'engagement systématique de la communauté académique dans la recherche sur la sécurité des modèles de fondation ; son cadre d'évaluation HELM est devenu une référence majeure pour l'évaluation de la sécurité des modèles. Stanford possède une longue tradition en apprentissage par renforcement et sécurité de l'IA : le laboratoire de RL d'Emma Brunskill et les recherches en méta-apprentissage de Chelsea Finn fournissent les fondations techniques de l'alignement.

当前状态

Le CRFM exploite actuellement plusieurs axes de recherche : évaluation des modèles de fondation (HELM), alignement sécurisé, gouvernance des modèles, sécurité multimodale, entre autres. Le centre partage ses ressources avec SAIL et dispose de clusters de calcul à grande échelle pour l'entraînement et l'évaluation des modèles. Il propose des cours tels que CS324 (Large Language Models) pour former les futurs spécialistes de la sécurité. Le centre publie régulièrement des rapports sur la sécurité des modèles de fondation et organise le Stanford AI Safety Workshop.

实验室 / 研究中心

关键人物

标志性成果

• Publication du cadre d'évaluation HELM (Holistic Evaluation of Language Models), devenu la référence académique pour l'évaluation de la sécurité et des capacités des grands modèles
• Proposition du cadre conceptuel des modèles de fondation (Foundation Models), définissant systématiquement les enjeux de sécurité et de gouvernance à l'ère des grands modèles
• Travail pionnier sur l'algorithme de méta-apprentissage (MAML), fournissant les fondations techniques de l'adaptation rapide et de l'apprentissage des valeurs
• Cadre théorique de l'apprentissage par renforcement sécurisé, définissant les frontières de l'exploration sûre dans les processus de décision markoviens contraints

学术资源

证据