Universidad de Cambridge

Leverhulme Centre for the Future of Intelligence (LCFI) / AI Safety Research

Reino Unido · Doctorado/Posdoctorado

El Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge es el centro académico nuclear de la investigación sobre seguridad de la IA en Europa, enfocado en la investigación interdisciplinaria entre los aspectos técnicos y filosóficos de la seguridad de la IA. El centro integra disciplinas como ciencias de la computación, filosofía y psicología, investigando el aprendizaje de valores, la modelización de la incertidumbre y los problemas de seguridad a largo plazo en la alineación de la IA.

学术历史

LCFI fue fundado en 2016 con una financiación de 10 millones de libras esterlinas del Leverhulme Trust, siendo el primer gran centro de investigación sobre seguridad y ética de la IA en Europa. La creación del centro respondió a los llamamientos de académicos como Stuart Russell y Stephen Hawking sobre los riesgos de la seguridad de la IA. Cambridge tiene una posición singular en el campo de la seguridad de la IA: cuenta tanto con una sólida base técnica en el Departamento de Ciencias de la Computación (como la investigación en ML bayesiano de Zoubin Ghahramani) como con una profunda tradición filosófica (como el análisis filosófico del riesgo existencial de Huw Price). El centro mantiene una estrecha colaboración con el Future of Humanity Institute de Oxford, construyendo conjuntamente el ecosistema académico de seguridad de la IA en el Reino Unido.

当前状态

LCFI opera actualmente múltiples líneas de investigación: vías técnicas de seguridad de la IA (modelización de incertidumbre, aprendizaje de valores), impacto social de la IA, y ética y gobernanza de la IA. El centro cuenta con un programa de formación de doctorandos que admite solicitudes de los departamentos de Ciencias de la Computación y Filosofía. Organiza periódicamente seminarios sobre seguridad de la IA y conferencias internacionales. Cambridge participa simultáneamente en la red de investigación de seguridad de la IA del Alan Turing Institute (Instituto Nacional de IA del Reino Unido).

实验室 / 研究中心

关键人物

标志性成果

• Establecimiento del primer gran centro académico de investigación sobre seguridad de la IA en Europa, impulsando el desarrollo sistemático de la investigación sobre alineación de la IA en Europa
• Métodos de cuantificación de incertidumbre en aprendizaje profundo bayesiano, que proporcionan la base técnica para la evaluación de la confianza en sistemas de IA seguros
• Metodología de evaluación de capacidades de IA: marco de evaluación de IA general y diseño de evaluaciones comparativas de seguridad
• Investigación sobre los fundamentos filosóficos de la seguridad de la IA: análisis formal del riesgo existencial y estrategias de seguridad a largo plazo

学术资源

证据