Universidad de Stanford

Center for Research on Foundation Models (CRFM) / Stanford AI Lab

Estados Unidos · PhD/Postdoc

El CRFM de Stanford es el centro académico nuclear en investigación de modelos fundacionales, abordando la alineación segura, la evaluación y la gobernanza de los grandes modelos de lenguaje. Apoyado en la sólida trayectoria del Stanford AI Lab (SAIL), el centro genera un volumen significativo de investigación de impacto en RLHF, evaluación de modelos y benchmarks de seguridad, constituyendo un nexo clave entre la academia y la industria en materia de seguridad de la IA.

学术历史

El Stanford AI Lab (SAIL) fue fundado en 1962 y es una de las instituciones de investigación en IA más antiguas del mundo. En 2021, John Etchemendy y Fei-Fei Li lanzaron conjuntamente el CRFM en respuesta a los desafíos de seguridad y gobernanza planteados por los grandes modelos de lenguaje (como GPT-3). La creación del CRFM marcó la inversión sistemática de la academia en la investigación de seguridad de modelos fundacionales, y su framework de evaluación HELM se ha consolidado como un benchmark importante para la evaluación de seguridad de modelos. Stanford cuenta con una larga trayectoria en aprendizaje por refuerzo y seguridad de la IA: el laboratorio de RL de Emma Brunskill y la investigación en meta-aprendizaje de Chelsea Finn proporcionan fundamentos para las técnicas de alineación.

当前状态

El CRFM opera actualmente múltiples líneas de investigación: evaluación de modelos fundacionales (HELM), alineación segura, gobernanza de modelos y seguridad multimodal, entre otras. El centro comparte recursos con SAIL y dispone de clústeres de computación a gran escala para el entrenamiento y la evaluación de modelos. Imparte cursos como CS324 (Large Language Models) para formar talento especializado en seguridad. El centro publica periódicamente informes sobre seguridad de modelos fundacionales y organiza el Stanford AI Safety Workshop.

实验室 / 研究中心

关键人物

标志性成果

• Publicación del framework de evaluación HELM (Holistic Evaluation of Language Models), consolidado como benchmark académico para la evaluación de seguridad y capacidades de grandes modelos
• Formulación del marco conceptual de modelos fundacionales (Foundation Models), definiendo sistemáticamente los desafíos de seguridad y gobernanza en la era de los grandes modelos
• Trabajo pionero en el algoritmo de meta-aprendizaje (MAML), proporcionando fundamentos técnicos para la adaptación rápida y el aprendizaje de valores
• Marco teórico de aprendizaje por refuerzo seguro, definiendo los límites de exploración segura en procesos de decisión de Markov restringidos

学术资源

证据