جامعة كامبريدج

Leverhulme Centre for the Future of Intelligence (LCFI) / AI Safety Research

المملكة المتحدة · PhD/Postdoc

مركز Leverhulme لمستقبل الذكاء الاصطناعي بجامعة كامبريدج هو المركز الأكاديمي الأساسي لأبحاث أمان الذكاء الاصطناعي في أوروبا، ويركز على البحث التقاطي بين الجوانب التقنية والفلسفية لأمان الذكاء الاصطناعي. يجمع المركز بين علوم الحاسوب والفلسفة وعلم النفس وغيرها من التخصصات، ويبحث في قضايا تعلم القيم ونمذجة عدم اليقين والأمان طويل الأمد في مواءمة الذكاء الاصطناعي.

学术历史

تأسس مركز LCFI عام 2016 بتمويل قدره 10 ملايين جنيه إسترليني من Leverhulme Trust، وهو أول مركز كبير لأبحاث أمان وأخلاقيات الذكاء الاصطناعي في أوروبا. جاء تأسيس المركز استجابة لنداءات علماء مثل Stuart Russell وStephen Hawking بشأن مخاطر أمان الذكاء الاصطناعي. تتمتع كامبريدج بموقع فريد في مجال أمان الذكاء الاصطناعي: فلديها أساس تقني قوي في قسم علوم الحاسوب (مثل أبحاث Zoubin Ghahramani في التعلم الآلي البايزي)، وتقليد فلسفي عميق (مثل تحليل Huw Price الفلسفي للمخاطر الوجودية). يحافظ المركز على تعاون وثيق مع معهد مستقبل الإنسانية في أكسفورد، لبناء النظام الأكاديمي لأمان الذكاء الاصطناعي في المملكة المتحدة.

当前状态

يدير مركز LCFI حاليًا عدة اتجاهات بحثية: المسارات التقنية لأمان الذكاء الاصطناعي (نمذجة عدم اليقين وتعلم القيم)، والأثر الاجتماعي للذكاء الاصطناعي، وأخلاقيات الذكاء الاصطناعي وحوكمته. يقدم المركز برنامجًا لتدريب طلاب الدكتوراه، ويقبل الطلاب من قسم علوم الحاسوب وقسم الفلسفة. ينظم بانتظام ورش عمل وندوات ومؤتمرات دولية في أمان الذكاء الاصطناعي. كما تشارك كامبريدج في شبكة أبحاث أمان الذكاء الاصطناعي التابعة لمعهد Alan Turing (المعهد الوطني للذكاء الاصطناعي في المملكة المتحدة).

实验室 / 研究中心

Leverhulme Centre for the Future of Intelligence

访问页面 →

关键人物

Zoubin Ghahramani

أستاذ

مرجع في مجال التعلم الآلي البايزي، يبحث في النماذج الاحتمالية وتقدير عدم اليقين، مما يوفر التقنيات الأساسية لنمذجة عدم اليقين في أمان الذكاء الاصطناعي. شغل سابقًا منصب كبير علماء Uber AI Labs.

Huw Price

أستاذ/المدير المشارك للمركز

فيلسوف يبحث في فلسفة الزمن والمخاطر الوجودية، ومؤسس مشارك لمركز LCFI. يدعو إلى دراسة التحديات طويلة الأمد لأمان الذكاء الاصطناعي من منظور فلسفي، ويتعاون وثيقًا مع Toby Ord من معهد FHI.

José Hernández-Orallo

باحث

خبير في تقييم الذكاء الاصطناعي وقياس القدرات، يبحث في كيفية قياس القدرات العامة وأن حدود الأمان لأنظمة الذكاء الاصطناعي كميًا، ويشارك في بناء منهجيات المعايير المرجعية لأمان الذكاء الاصطناعي.

标志性成果

تأسيس أول مركز أكاديمي كبير لأبحاث أمان الذكاء الاصطناعي في أوروبا، ودفع التطور المنهجي لأبحاث مواءمة الذكاء الاصطناعي في أوروبا
طرق تقدير عدم اليقين في التعلم العميق البايزي، مما يوفر أساسًا تقنيًا لتقييم الثقة في أنظمة الذكاء الاصطناعي الآمنة
منهجية تقييم قدرات الذكاء الاصطناعي: إطار تقييم عام للذكاء الاصطناعي وتصميم معايير الأمان
أبحاث الأسس الفلسفية لأمان الذكاء الاصطناعي: التحليل الشكلي للمخاطر الوجودية واستراتيجيات الأمان طويل الأمد

学术资源

Cambridge AI Safety Lectures → 公开课/MOOC

AI Safety (arXiv) → 论文/文献

来源：arXiv

مشاريع أبحاث LCFI → 官方资源

来源：موقع LCFI الرسمي

证据

排名

QS World University Rankings #من أعلى 5 برامج في علوم الحاسوب عالميًا (2024)

出处：QS World University Rankings →

师资

6 位相关教师

知名：Zoubin Ghahramani、Huw Price、José Hernández-Orallo、Mateja Jamnik

研究产出

ينشر الباحثون المرتبطون بـ LCFI باستمرار أوراقًا بحثية في أمان الذكاء الاصطناعي وتقدير عدم اليقين في مؤتمرات مثل NeurIPS وICML وAISafety@ICML

就业去向

يلتحق الخريجون بمؤسسات مثل DeepMind وAnthropic ومعهد Alan Turing، أو يشغلون مناصب تدريسية في الجامعات الأوروبية

发现信息有误？提交纠错