Université de Montréal

Mila - AI Ethics and Responsible AI Research

Canada · PhD/Postdoc

Mila est l'un des plus grands centres de recherche académique en IA au monde, fondé par Yoshua Bengio. Dans le domaine de l'éthique de l'IA et de l'IA responsable, Mila articule étroitement l'avant-garde technologique avec les considérations éthiques. Ses recherches portent sur les biais de l'IA, l'équité, l'interprétabilité et la responsabilité sociale, ce qui en fait une institution représentative du croisement technologie-éthique dans la recherche sur l'alignement de l'IA.

学术历史

Mila a été fondé en 1993 (anciennement laboratoire LISA) par Yoshua Bengio, puis rebaptisé Mila en 2017 en s'étendant comme centre de recherche en IA à Montréal. Bengio a reçu le prix Turing 2018 pour ses contributions à l'apprentissage profond. À la fin des années 2010, Bengio a recentré ses recherches vers la sécurité de l'IA et l'IA responsable, publiant plusieurs manifestes sur la sécurité et la gouvernance de l'IA. La position unique de Mila dans le domaine de l'éthique de l'IA réside dans le fait que la recherche éthique est pilotée par des chercheurs de premier plan en apprentissage automatique, garantissant un couplage étroit entre considérations éthiques et mise en œuvre technique. En 2018, Bengio a participé à l'initiation de la « Déclaration de Montréal pour une IA responsable », devenue un document de consensus international majeur dans le domaine de l'éthique de l'IA.

当前状态

Mila opère actuellement un groupe de recherche en éthique de l'IA et IA responsable, dont les axes couvrent : l'équité algorithmique, la détection et l'atténuation des biais de l'IA, l'IA explicable, l'évaluation des impacts sociétaux de l'IA et les processus de développement d'IA responsable. Avec une équipe de plus de 1000 chercheurs, la recherche en éthique de l'IA est intégrée dans tous les axes technologiques. Mila organise des séminaires et des groupes de lecture sur le thème de la sécurité de l'IA. L'institut entretient des partenariats avec Google, Microsoft, Samsung et d'autres entreprises tout en préservant son indépendance académique.

实验室 / 研究中心

关键人物

标志性成果

• Le passage de Yoshua Bengio, pionnier de l'apprentissage profond, à la recherche en sécurité de l'IA, apportant une perspective technique de premier plan en ML au domaine de l'alignement
• Déclaration de Montréal pour une IA responsable (2018) : document de consensus international en éthique de l'IA, définissant dix principes de l'IA responsable
• Mise en œuvre technique de l'équité algorithmique : méthodologie intégrant les contraintes d'équité dans les processus d'entraînement de l'apprentissage automatique
• Recherche sur l'apprentissage de représentations causales : voie technique permettant aux systèmes d'IA de comprendre les relations causales et les intentions humaines

学术资源

证据