جامعة كاليفورنيا، بيركلي

Center for Human-Compatible AI (CHAI)

الولايات المتحدة · PhD/Postdoc

مركز CHAI هو أحد أكثر مراكز البحث الأكاديمي تأثيرًا في مجال مواءمة الذكاء الاصطناعي، أسسه Stuart Russell، ويكرس جهوده لبحث كيفية ضمان توافق أهداف أنظمة الذكاء الاصطناعي مع نوايا البشر. يركز المركز على قضايا محورية تشمل التعلم العكسي المعزز (IRL)، والتفاعل التعاوني بين الإنسان والذكاء الاصطناعي، والمواءمة القابلة للتوسع، وهو منبع مهم للبحث الأكاديمي في أمان الذكاء الاصطناعي.

学术历史

تأسس مركز CHAI عام 2016 بمبادرة من Stuart Russell بالتعاون مع عدد من الباحثين، مستندًا إلى إطار الذكاء الاصطناعي المتوافق مع الإنسان الذي قدمه في كتابه Human Compatible (2019). وقبل تأسيس المركز، كان كتاب Russell وPeter Norvig المشترك Artificial Intelligence: A Modern Approach قد أدخل قضايا أمان الذكاء الاصطناعي في المناهج التعليمية الرئيسية. يمثل تأسيس CHAI انتقال مواءمة الذكاء الاصطناعي من النقاش الفلسفي إلى مرحلة البحث الأكاديمي المنظم، حيث أصبح نموذج التعلم العكسي المعزز الذي طرحه أحد المسارات التقنية الأساسية في أبحاث المواءمة.

当前状态

يقود مركز CHAI حاليًا عدد من أعضاء هيئة التدريس الأساسيين، وتشمل اتجاهات البحث التعلم العكسي المعزز، والتعلم من ردود الفعل البشرية، والأسس النظرية لأمان الذكاء الاصطناعي، والروبوتات التعاونية. يحافظ المركز على تعاون وثيق مع مؤسسات الذكاء الاصطناعي الرائدة مثل Anthropic وOpenAI، وينشر بانتظام تقارير تقنية وأوراقًا بحثية في مجال الأمان. يقدم المركز برنامجًا لتدريب طلاب الدكتوراه، ويقبل الطلاب من قسم علوم الحاسوب وقسم الإحصاء. كما يشارك المركز في اتحاد BAIR (Berkeley AI Research)، للموارد الحاسوبية والتعاون بين المختبرات.

实验室 / 研究中心

关键人物

标志性成果

• طرح إطار الذكاء الاصطناعي المتوافق مع الإنسان (Stuart Russell, 2019)، الذي يقدم حلاً شكليًا منهجيًا لمشكلة المواءمة
• الأسس النظرية وتطوير خوارزميات التعلم العكسي المعزز (IRL)، مما يوفر مسارًا تقنيًا لتعلم القيم من السلوك البشري
• طرح التعلم العكسي المعزز التعاوني (CIRL)، لنمذجة مشكلة استنتاج القيم في التعاون بين الإنسان والذكاء الاصطناعي
• التحليل المنهجي لخداعة المكافأة في التعلم المعزز العميق، الذي يكشف المخاطر المحتملة لـ RLHF

学术资源

证据