Université de Cambridge

Leverhulme Centre for the Future of Intelligence (LCFI) / AI Safety Research

Royaume-Uni · PhD/Postdoc

Le Leverhulme Centre for the Future of Intelligence de l'Université de Cambridge est le centre académique central de la recherche en sécurité de l'IA en Europe, se concentrant sur la recherche interdisciplinaire entre les aspects techniques et philosophiques de la sécurité de l'IA. Le centre rassemble les forces de l'informatique, de la philosophie, de la psychologie et d'autres disciplines, étudiant l'apprentissage des valeurs, la modélisation de l'incertitude et les questions de sécurité à long terme dans l'alignement de l'IA.

学术历史

LCFI a été fondé en 2016, financé par 10 millions de livres de la Leverhulme Trust, constituant le premier grand centre de recherche en sécurité et éthique de l'IA en Europe. La création du centre répond aux appels de chercheurs tels que Stuart Russell et Stephen Hawking sur les risques liés à la sécurité de l'IA. Cambridge occupe une position unique dans le domaine de la sécurité de l'IA : elle possède à la fois une solide base technique au département d'informatique (comme les recherches en ML bayésien de Zoubin Ghahramani) et une profonde tradition philosophique (comme l'analyse philosophique des risques existentiels par Huw Price). Le centre maintient une collaboration étroite avec le Future of Humanity Institute d'Oxford, construisant conjointement l'écosystème académique britannique de la sécurité de l'IA.

当前状态

LCFI exploite actuellement plusieurs axes de recherche : les approches techniques de la sécurité de l'IA (modélisation de l'incertitude, apprentissage des valeurs), l'impact social de l'IA, et l'éthique et la gouvernance de l'IA. Le centre propose un programme de formation doctorale, acceptant les candidatures des départements d'informatique et de philosophie. Il organise régulièrement des séminaires sur la sécurité de l'IA et des conférences internationales. Cambridge participe également au réseau de recherche en sécurité de l'IA de l'Alan Turing Institute (Institut national d'IA du Royaume-Uni).

实验室 / 研究中心

关键人物

标志性成果

• Établissement du premier grand centre de recherche académique en sécurité de l'IA en Europe, favorisant le développement systématique de la recherche sur l'alignement de l'IA en Europe
• Méthodes de quantification de l'incertitude en apprentissage profond bayésien, fournissant les fondations techniques pour l'évaluation de la confiance dans les systèmes d'IA sûrs
• Méthodologie d'évaluation des capacités de l'IA : cadre d'évaluation de l'IA générale et conception de tests de référence en sécurité
• Recherche sur les fondements philosophiques de la sécurité de l'IA : analyse formalisée des risques existentiels et stratégies de sécurité à long terme

学术资源

证据