Instituto Tecnológico de Massachusetts

Computer Science and Artificial Intelligence Laboratory (CSAIL) - AI Safety Group

Estados Unidos · PhD/Postdoc

MIT CSAIL es uno de los mayores laboratorios de investigación en IA del mundo. Su línea de investigación en seguridad de IA abarca la interpretabilidad mecánica, la robustez adversarial y el diseño de sistemas de IA confiables. Apoyándose en la sólida trayectoria del MIT en teoría y sistemas, CSAIL ofrece una cadena de investigación completa para la alineación de IA, desde los fundamentos matemáticos hasta la implementación ingenieril.

学术历史

El predecesor de MIT CSAIL se remonta al Project MAC, fundado en 1963, siendo una de las instituciones de investigación en inteligencia artificial más antiguas del mundo. La investigación en seguridad de IA tiene una larga trayectoria en el MIT: el Future of Life Institute (FLI), dirigido por Max Tegmark, ha impulsado la incorporación de los temas de seguridad de IA al discurso mainstream desde 2014. La Conferencia de Seguridad de IA de Boston de 2015 (organizada por FLI) constituyó un hito importante en el campo de la alineación de IA. El MIT ha producido de manera continua trabajos fundacionales en IA explicable, razonamiento causal y aprendizaje automático robusto. En años recientes, múltiples grupos de investigación dentro de CSAIL (como el grupo de percepción de Antonio Torralba y el grupo de RL de Leslie Kaelbling) abordan temas relacionados con la seguridad.

当前状态

MIT CSAIL cuenta actualmente con múltiples grupos de investigación que abordan la seguridad de IA: interpretabilidad mecánica (comprensión de las representaciones internas de las redes neuronales), robustez adversarial y sistemas de ML confiables. El MIT cuenta además con la iniciativa interdisciplinaria Social and Ethical Responsibilities of Computing (SERC), que integra la seguridad técnica con el impacto social. Se imparten cursos como 6.S898 (Deep Learning) que abordan temas de seguridad. CSAIL mantiene estrechas colaboraciones con empresas como Google y Microsoft.

实验室 / 研究中心

关键人物

标志性成果

• El Future of Life Institute organizó la Conferencia de Seguridad de IA de Boston en 2015, impulsando la inversión en investigación de seguridad por parte de OpenAI y otras instituciones
• El impulso académico a los Principios de Asilomar sobre IA (2017), que se han convertido en un marco de referencia importante para la gobernanza de la seguridad de IA
• Investigación en interpretabilidad mecánica: ingeniería inversa de las representaciones internas de redes neuronales y visualización de características
• Investigación sistemática sobre ejemplos adversariales, revelando los puntos de fragilidad en la robustez de los modelos de aprendizaje profundo

学术资源

证据