جامعة كارنيجي ميلون

Machine Learning Department - AI Safety & Robustness Research

الولايات المتحدة · PhD/Postdoc

قسم التعلم الآلي في جامعة كارنيجي ميلون هو أول قسم مستقل للتعلم الآلي في العالم، ولديه تراكم عميق في أبحاث أمان الذكاء الاصطناعي والمتانة. تشمل اتجاهات البحث المتانة الخصومية والتعميم خارج التوزيع وأنظمة التعلم الآلي الموثوقة والتعلم المعزز الآمن وغيرها، مما يوفر سلسلة بحثية متكاملة من التحليل النظري إلى التطبيق العملي لمواءمة الذكاء الاصطناعي.

学术历史

تأسس قسم التعلم الآلي في جامعة كارنيجي ميلون عام 2006 وهو أول قسم مستقل للتعلم الآلي في العالم، على يد Tom Mitchell. لأبحاث أمان الذكاء الاصطناعي في الجامعة تراكم طويل الأمد: أبحاث Matt Fredrikson في العينات الخصومية ونظرية Pradeep Ravikumar للتعلم الآلي المتين وأبحاث David Held في أمان الروبوتات وغيرها تشكل مصفوفة بحثية متعددة الأبعاد للأمان. تتمتع الجامعة بموقع فريد: فلديها أساس تقني قوي في قسم التعلم الآلي، وتقليد هندسي آمن في معهد هندسة البرمجيات (SEI)، مما يجعل أبحاث أمان الذكاء الاصطناعي تجمع بين العمق النظري والقابلية للتنفيذ الهندسي.

当前状态

يضم قسم التعلم الآلي حاليًا عدة مجموعات بحثية تعنى بأمان الذكاء الاصطناعي: المتانة الخصومية والدفاع، والتعميم خارج التوزيع، والذكاء الاصطناعي الموثوق، والتعلم المعزز الآمن. توجد مجموعة قراءة في أمان الذكاء الاصطناعي وندوات منتظمة. كما تشارك الجامعة في اتحاد معهد NIST لأمان الذكاء الاصطناعي، مما يوفر الدعم التقني لسياسات أمان الذكاء الاصطناعي في الولايات المتحدة. تقدم مقررات مثل 10-708 (النماذج الرسومية الاحتمالية) التي تتناول قضايا الأمان وعدم اليقين.

实验室 / 研究中心

关键人物

标志性成果

• البحث المنهجي في العينات الخصومية: طريقة هجوم C&W أصبحت معيارًا أساسيًا لتقييم المتانة الخصومية
• الإطار النظري للتحسين المتين للتوزيع (DRO)، مما يوفر ضمانات شكلية لأمان أنظمة التعلم الآلي في ظل انزياح التوزيع
• أبحاث هجمات عكس النماذج، التي تكشف مخاطر خصوصية نماذج التعلم الآلي وتدفع تطوير تقنيات حماية الخصوصية
• تطبيقات التعلم المعزز الآمن في التحكم بالروبوتات: خوارزميات تحقيق القيود والاستكشاف الآمن

学术资源

证据