卡内基梅隆大学

Machine Learning Department - AI Safety & Robustness Research

美国 · PhD/Postdoc

CMU机器学习系是全球首个独立的ML系，在AI安全与鲁棒性研究方面有深厚积累。研究方向涵盖对抗鲁棒性、分布外泛化、可信ML系统、安全强化学习等，为AI对齐提供从理论分析到系统实现的完整研究链条。

学术历史

CMU于2006年成立全球首个机器学习系，由Tom Mitchell创立。AI安全研究在CMU有长期积累：Matt Fredrikson等人的对抗样本研究、Pradeep Ravikumar的鲁棒ML理论、David Held的机器人安全等构成多维度安全研究矩阵。CMU的定位独特：既有ML系的强技术基础，又有Software Engineering Institute (SEI)的安全工程传统，使AI安全研究兼具理论深度与工程实用性。

当前状态

CMU ML系目前有多个研究组涉及AI安全：对抗鲁棒性与防御、分布外泛化、可信AI、安全RL。设有AI Safety Reading Group与定期研讨会。CMU同时参与NIST AI Safety Institute Consortium，为美国AI安全政策提供技术支持。开设10-708（Probabilistic Graphical Models）等课程涵盖安全与不确定性议题。

实验室 / 研究中心

关键人物

标志性成果

• 对抗样本的系统性研究：C&W攻击方法成为对抗鲁棒性评估的标准基准
• 分布鲁棒优化（DRO）的理论框架，为ML系统在分布偏移下的安全提供形式化保证
• 模型反演攻击研究，揭示ML模型的隐私安全风险并推动隐私保护技术发展
• 安全强化学习在机器人操控中的应用：约束满足与安全探索算法

学术资源

证据