Universidad de Oxford

Governance of AI (GovAI) Program

Reino Unido · DPhil/Postdoc/Fellowship

GovAI es el programa insignia de la Universidad de Oxford dedicado a la gobernanza de IA, enfocado en los mecanismos de gobernanza de sistemas de IA de vanguardia, la coordinación internacional y el diseño de políticas. Dirigido por Allan Dafoe, es uno de los programas académicos más influyentes en el campo de la gobernanza de IA, proporcionando garantías institucionales y marcos de política para la alineación de IA.

学术历史

GovAI fue fundado en 2017, originalmente dentro del Future of Humanity Institute (FHI), por Allan Dafoe. El FHI fue creado por Nick Bostrom en 2005 y se dedicó durante largo tiempo al estudio de los riesgos existenciales y la gobernanza de la superinteligencia. La creación de GovAI marcó la transición de la gobernanza de IA desde la discusión filosófica hacia la investigación sistemática de políticas. Tras el cierre del FHI en 2024, la capacidad investigadora de GovAI se distribuyó entre otros centros de Oxford (incluyendo el Institute for Ethics in AI y el Global Priorities Institute) e instituciones colaboradoras. Durante su etapa en el FHI, GovAI produjo una gran cantidad de literatura fundacional sobre gobernanza de IA, incluyendo el artículo de agenda de investigación en gobernanza de IA y estudios sobre mecanismos de coordinación internacional en IA.

当前状态

La agenda de investigación central de GovAI incluye: marcos de evaluación y auditoría de modelos de IA de vanguardia, mecanismos de gobernanza internacional de IA (acuerdos de IA análogos a la no proliferación nuclear), diseño institucional de regulación de IA y formulación de estándares de seguridad de IA. Los investigadores asociados al proyecto continúan su labor en múltiples centros de Oxford. GovAI publica periódicamente informes de política sobre gobernanza de IA y mantiene estrecha colaboración con instituciones políticas como el AI Safety Institute del Reino Unido y la Oficina de IA de la Unión Europea. El programa cuenta con un plan de formación de DPhil y Postdoc Fellowship.

实验室 / 研究中心

关键人物

标志性成果

• Publicación del artículo fundacional sobre la agenda de gobernanza de IA (Dafoe et al., 2018), que definió las cuestiones centrales y las direcciones de la investigación en gobernanza de IA
• «Superintelligence» (2014) de Nick Bostrom: obra fundacional en el campo de la seguridad y gobernanza de IA
• Investigación sobre mecanismos de gobernanza internacional de IA: propuesta de un marco de coordinación internacional análogo a los acuerdos de control de armamentos
• Marco de política para la evaluación y auditoría de modelos de IA de vanguardia, que influyó en la creación del AI Safety Institute del Reino Unido

学术资源

证据