Université d'Oxford

Governance of AI (GovAI) Program

Royaume-Uni · DPhil/Postdoc/Fellowship

GovAI est le programme de recherche phare d'Oxford dédié à la gouvernance de l'IA, étudiant les mécanismes de gouvernance des systèmes d'IA de pointe, la coordination internationale et la conception de politiques publiques. Dirigé par Allan Dafoe, il est l'un des programmes académiques les plus influents dans le domaine de la gouvernance de l'IA, offrant des garanties institutionnelles et un cadre politique pour l'alignement de l'IA.

学术历史

GovAI a été fondé en 2017 au sein du Future of Humanity Institute (FHI) par Allan Dafoe. Le FHI avait été créé par Nick Bostrom en 2005, avec une recherche de longue date sur les risques existentiels et la gouvernance de la superintelligence. La création de GovAI marque le passage de la gouvernance de l'IA de la discussion philosophique à la recherche politique systématique. Après la fermeture du FHI en 2024, les forces de recherche de GovAI se sont réparties entre d'autres centres d'Oxford (notamment l'Institute for Ethics in AI et le Global Priorities Institute) et des institutions partenaires. Durant sa période au FHI, GovAI a produit une abondante littérature fondatrice en gouvernance de l'IA, notamment des articles de cadrage de l'agenda de recherche et des études sur les mécanismes de coordination internationale en IA.

当前状态

L'agenda de recherche principal de GovAI comprend : les cadres d'évaluation et d'audit des modèles d'IA de pointe, les mécanismes de gouvernance internationale de l'IA (accords sur l'IA similaires à la non-prolifération nucléaire), la conception institutionnelle de la régulation de l'IA et l'élaboration de normes de sécurité de l'IA. Les chercheurs associés au programme continuent leurs travaux dans plusieurs centres d'Oxford. GovAI publie régulièrement des rapports politiques sur la gouvernance de l'IA et maintient une collaboration étroite avec l'AI Safety Institute britannique, le Bureau de l'IA de l'Union européenne et d'autres institutions politiques. Le programme propose un parcours doctoral (DPhil) et des bourses postdoctorales.

实验室 / 研究中心

关键人物

标志性成果

• Publication de l'article fondateur de l'agenda de recherche en gouvernance de l'IA (Dafoe et al., 2018), définissant les questions et orientations centrales du domaine
• « Superintelligence » de Nick Bostrom (2014) : ouvrage fondateur du domaine de la sécurité et de la gouvernance de l'IA
• Recherche sur les mécanismes de gouvernance internationale de l'IA : proposition d'un cadre de coordination internationale similaire aux accords de contrôle des armements
• Cadre politique d'évaluation et d'audit des modèles d'IA de pointe, ayant influencé la création de l'AI Safety Institute britannique

学术资源

证据