معهد ماساتشوستس للتكنولوجيا

Computer Science and Artificial Intelligence Laboratory (CSAIL) - AI Safety Group

الولايات المتحدة · PhD/Postdoc

يُعدّ مختبر علوم الحاسوب والذكاء الاصطناعي (CSAIL) في معهد ماساتشوستس للتكنولوجيا من أكبر مختبرات أبحاث الذكاء الاصطناعي في العالم، وتشمل اتجاهات أبحاث سلامة الذكاء الاصطناعي فيه القابلية للتفسير الآلي والمتانة العدائية وتصميم أنظمة الذكاء الاصطناعي الموثوقة. وبناءً على التراكم العميق لـ MIT في الجوانب النظرية والنظامية، يوفر CSAIL سلسلة بحثية متكاملة لمحاذاة الذكاء الاصطناعي تمتد من الأسس الرياضية إلى التطبيق الهندسي.

学术历史

يعود predecessor مختبر CSAIL إلى مشروع MAC الذي تأسس عام 1963، وهو من أقدم مؤسسات أبحاث الذكاء الاصطناعي في العالم. لأبحاث سلامة الذكاء الاصطناعي في MIT تراكم طويل الأمد: قاد ماكس تيغمارك معهد مستقبل الحياة (FLI) منذ عام 2014 لدفع قضايا سلامة الذكاء الاصطناعي إلى الواجهة الرئيسية، وكان مؤتمر سلامة الذكاء الاصطناعي في بوسطن عام 2015 (الذي نظمه FLI) معلماً مهماً في مجال محاذاة الذكاء الاصطناعي. يواصل MIT إنتاج أعمال تأسيسية في اتجاهات الذكاء الاصطناعي القابل للتفسير والاستدلال السببي وتعلّم الآلة المتين. في السنوات الأخيرة، تشارك مجموعات بحثية متعددة في CSAIL (مثل مجموعة الإدراك لأنطونيو تورالبا ومجموعة التعلم المعزز لليزلي كايلينغ) في قضايا متعلقة بالسلامة.

当前状态

يضم مختبر CSAIL حالياً مجموعات بحثية متعددة تعمل على سلامة الذكاء الاصطناعي: القابلية للتفسير الآلي (فهم التمثيلات الداخلية للشبكات العصبية)، والمتانة العدائية، وأنظمة تعلّم الآلة الموثوقة. كما يضم MIT مبادرة متعددة التخصصات بعنوان المسؤوليات الاجتماعية والأخلاقية للحوسبة (SERC) تربط السلامة التقنية بالتأثير الاجتماعي. تُقدَّم دورات مثل 6.S898 (التعلم العميق) تتناول قضايا السلامة. ويحافظ CSAIL على علاقات تعاون وثيقة مع شركات مثل Google وMicrosoft.

实验室 / 研究中心

Computer Science and Artificial Intelligence Laboratory

访问页面 →

Future of Life Institute

访问页面 →

关键人物

Max Tegmark

أستاذ

فيزيائي ومُناصر لسلامة الذكاء الاصطناعي، أستاذ في قسم الفيزياء بـ MIT ومؤسس معهد مستقبل الحياة (FLI). مؤلف كتاب "Life 3.0" الذي يناقش مستقبل الذكاء الفائق، ونظّم مؤتمر سلامة الذكاء الاصطناعي في بوسطن 2015 والتوقيع على مبادئ أسيلومار للذكاء الاصطناعي عام 2017.

Leslie Kaelbling

أستاذ

رائدة في مجال الروبوتات والتعلم المعزز، تبحث في معالجة عدم اليقين في التخطيط واتخاذ القرار، مما يوفر أسساً نظرية للتعلم المعزز الآمن. زميلة AAAI.

Antonio Torralba

أستاذ

خبير في أبحاث الرؤية الحاسوبية والإدراك، يبحث في متانة أنظمة الرؤية وقابليتها للتفسير، ويتناول قضايا موثوقية الإدراك في سلامة الذكاء الاصطناعي.

标志性成果

نظّم معهد مستقبل الحياة مؤتمر سلامة الذكاء الاصطناعي في بوسطن 2015، مما ساهم في دفع استثمارات مؤسسات مثل OpenAI في أبحاث السلامة
الدفع الأكاديمي لمبادئ أسيلومار للذكاء الاصطناعي (2017)، التي أصبحت إطاراً مرجعياً مهماً لحوكمة سلامة الذكاء الاصطناعي
أبحاث القابلية للتفسير الآلي: الهندسة العكسية للتمثيلات الداخلية للشبكات العصبية وتصور الميزات
الدراسة المنهجية للأمثلة العدائية التي تكشف نقاط الضعف في متانة نماذج التعلم العميق