Sécurité de l'Apprentissage Automatique

CHAI est l'un des centres de recherche académiques les plus influents dans le domaine de l'alignement de l'IA, fondé par Stuart Russell. Il se consacre à l'étude des moyens de garantir l'alignement des objectifs des systèmes d'IA avec les intentions humaines. Le centre se concentre sur des thèmes centraux tels que l'apprentissage par renforcement inversé (IRL), l'interaction humain-IA collaborative et l'alignement évolutif, constituant un berceau majeur de la recherche académique en sécurité de l'IA.

Le Leverhulme Centre for the Future of Intelligence de l'Université de Cambridge est le centre académique central de la recherche en sécurité de l'IA en Europe, se concentrant sur la recherche interdisciplinaire entre les aspects techniques et philosophiques de la sécurité de l'IA. Le centre rassemble les forces de l'informatique, de la philosophie, de la psychologie et d'autres disciplines, étudiant l'apprentissage des valeurs, la modélisation de l'incertitude et les questions de sécurité à long terme dans l'alignement de l'IA.

Le département d'apprentissage automatique de CMU est le premier département de ML indépendant au monde, avec une expertise approfondie en recherche sur la sécurité et la robustesse de l'IA. Les axes de recherche couvrent la robustesse adversaire, la généralisation hors distribution, les systèmes ML de confiance et l'apprentissage par renforcement sûr, offrant une chaîne de recherche complète de l'analyse théorique à la mise en œuvre système pour l'alignement de l'IA.

Le MIT CSAIL est l'un des plus grands laboratoires de recherche en IA au monde. Ses recherches en sécurité de l'IA couvrent l'interprétabilité mécanistique, la robustesse adversariale et la conception de systèmes d'IA fiables. Fort de l'expertise approfondie du MIT en théorie et systèmes, le CSAIL offre une chaîne de recherche complète pour l'alignement de l'IA, depuis les fondements mathématiques jusqu'à la mise en œuvre technique.

Le CRFM de Stanford est le centre académique central pour la recherche sur les modèles de fondation, étudiant l'alignement sécurisé, l'évaluation et la gouvernance des grands modèles de langage. S'appuyant sur l'expertise approfondie du Stanford AI Lab (SAIL), le centre produit de nombreuses recherches influentes en RLHF, évaluation de modèles et tests de sécurité de référence, constituant un carrefour majeur entre la recherche académique et industrielle en sécurité de l'IA.