Université de Montréal

Mila - AI Ethics and Responsible AI Research

Canadá · PhD/Postdoc

Mila es uno de los mayores centros académicos de investigación en IA del mundo, fundado por Yoshua Bengio. En el ámbito de la ética de la IA y la IA responsable, Mila integra profundamente la vanguardia tecnológica con consideraciones éticas, investigando el sesgo de IA, la equidad, la interpretabilidad y la responsabilidad social. Es una institución representativa en la intersección técnico-ética de la investigación sobre alineación de IA.

学术历史

Mila fue fundado en 1993 (originalmente como laboratorio LISA) por Yoshua Bengio, y en 2017 fue renombrado como Mila y expandido como centro de investigación en IA de Montreal. Bengio recibió el Premio Turing en 2018 por sus contribuciones al aprendizaje profundo. A finales de la década de 2010, Bengio reorientó el centro de su investigación hacia la seguridad y la responsabilidad de la IA, publicando múltiples manifiestos sobre seguridad y gobernanza de IA. La posición singular de Mila en el campo de la ética de la IA radica en que la investigación ética es liderada por investigadores de ML de primer nivel, asegurando que las consideraciones éticas estén estrechamente acopladas con la implementación técnica. En 2018, Bengio participó en el lanzamiento de la «Declaración de Montreal para una IA Responsable», que se ha convertido en un documento de consenso internacional fundamental en el campo de la ética de la IA.

当前状态

Mila opera actualmente grupos de investigación en ética de la IA e IA responsable, con líneas de investigación que abarcan: equidad algorítmica, detección y mitigación de sesgos de IA, IA explicable, evaluación del impacto social de la IA y procesos de desarrollo de IA responsable. Mila cuenta con un equipo de gran escala de más de 1000 investigadores, y la investigación en ética de IA está integrada en todas las direcciones de la investigación técnica. Se organizan seminarios temáticos y grupos de lectura sobre AI Safety. Mila mantiene colaboraciones con empresas como Google, Microsoft y Samsung, preservando al mismo tiempo su independencia académica.

实验室 / 研究中心

关键人物

标志性成果

• La transición de Yoshua Bengio de pionero del aprendizaje profundo a la investigación en seguridad de IA, aportando una perspectiva técnica de ML de primer nivel al campo de la alineación
• Declaración de Montreal para una IA Responsable (2018): documento de consenso internacional en el campo de la ética de la IA que define los diez principios de la IA responsable
• Implementación técnica de la equidad algorítmica: metodologías para integrar restricciones de equidad en los flujos de entrenamiento de ML
• Investigación en aprendizaje de representaciones causales: proporciona una vía técnica para que los sistemas de IA comprendan relaciones causales e intenciones humanas

学术资源

证据