جامعة ستانفورد

Center for Research on Foundation Models (CRFM) / Stanford AI Lab

الولايات المتحدة · PhD/Postdoc

مركز CRFM في ستانفورد هو المركز الأكاديمي الأساسي لأبحاث النماذج الأساسية، ويدرس المواءمة الآمنة للنماذج اللغوية الكبيرة وتقييمها وحوكمتها. بالاعتماد على التراكم العميق لمعمل الذكاء الاصطناعي في ستانفورد (SAIL)، أنتج المركز أبحاثاً مؤثرة في اتجاهات RLHF وتقييم النماذج واختبارات الأمان المرجعية، وهو مركز مهم للتقاطع بين الأبحاث الأكاديمية والصناعية في أمان الذكاء الاصطناعي.

学术历史

تأسس معمل الذكاء الاصطناعي في ستانفورد (SAIL) عام 1962، وهو أحد أقدم مؤسسات أبحاث الذكاء الاصطناعي في العالم. في عام 2021، أطلق John Etchemendy وFei-Fei Li مركز CRFM استجابة للتحديات الأمنية والحوكمة التي طرحتها النماذج اللغوية الكبيرة (مثل GPT-3). شكل تأسيس CRFM استثماراً منهجياً من الأوساط الأكاديمية في أبحاث أمان النماذج الأساسية، وأصبح إطار تقييم HELM الذي أصدره معياراً مهماً لتقييم أمان النماذج. تتمتع ستانفورد بتراكم طويل الأمد في التعلم المعزز وأمان الذكاء الاصطناعي، حيث وفر مختبر التعلم المعزز لـ Emma Brunskill وأبحاث التعلم الفوقي لـ Chelsea Finn أساساً تقنياً لمواءمة الذكاء الاصطناعي.

当前状态

يدير مركز CRFM حالياً عدة اتجاهات بحثية: تقييم النماذج الأساسية (HELM)، والمواءمة الآمنة، وحوكمة النماذج، وأمان النماذج متعددة الوسائط وغيرها. يشارك المركز الموارد مع SAIL، ويمتلك مجموعات حوسبة واسعة النطاق لدعم تدريب النماذج وتقييمها. ويطرح مقررات مثل CS324 (النماذج اللغوية الكبيرة) لتأهيل الكوادر في مجال الأمان. كما يصدر المركز بانتظام تقارير أمان النماذج الأساسية، وينظم ورشة عمل ستانفورد لأمان الذكاء الاصطناعي.

实验室 / 研究中心

关键人物

标志性成果

• إصدار إطار تقييم HELM (التقييم الشامل للنماذج اللغوية)، الذي أصبح معياراً أكاديمياً لتقييم أمان وقدرات النماذج الكبيرة
• اقتراح إطار مفاهيمي للنماذج الأساسية (Foundation Models)، وتعريف منهجي لتحديات الأمان والحوكمة في عصر النماذج الكبيرة
• العمل الرائد في خوارزمية التعلم الفوقي (MAML)، التي توفر أساساً تقنياً للتكييف السريع وتعلم القيم
• إطار نظري للتعلم المعزز الآمن، يحدد حدود الاستكشاف الآمن في عمليات قرار ماركوف المقيدة

学术资源

证据