الرئيسية مخطط المسار بالذكاء الاصطناعي قاعدة المعرفة المفضلة عن المنصة إخلاء المسؤولية الإبلاغ عن خطأ
职业

حلّ مشكلة مواءمة الذكاء الاصطناعي

تُعدّ مواءمة الذكاء الاصطناعي مجالًا بحثيًا محوريًا يهدف إلى ضمان توافق سلوك أنظمة الذكاء الاصطناعي المتقدّمة مع النوايا والقيم البشرية، ويقع في تقاطع التقنية والأخلاق والسياسات. يسعى هذا المجال إلى معالجة تحديات رئيسة كمسألة التحكّم في أنظمة الذكاء الفائق، وتعلّم القيم، والمواءمة القابلة للتوسّع، وهو من القضايا الجوهرية في بحث سلامة الذكاء الاصطناعي.

目标分解 — 达成此目标需要的能力

1

تعلّم الآلة وسلامة الذكاء الاصطناعي

إتقان الأسس النظرية لتعلّم الآلة والتعلّم المعزّز وطرق السلامة في التعلّم العميق، والبحث في المسارات التقنية كالمواءمة القابلة للتوسّع ونمذجة المكافآت والقابلية للتفسير الميكانيكي.

ml-safety →
2

أخلاقيات الذكاء الاصطناعي والقيم

فهم الصياغة الشكلية للقيم البشرية وأسس الفلسفة الأخلاقية وتعدّدية القيم ومعالجة التعارض بينها، والبحث في كيفية تحويل المبادئ الأخلاقية إلى أهداف مواءمة قابلة للحساب.

ai-ethics →
3

حوكمة الذكاء الاصطناعي والسياسات

إتقان أطر تنظيم الذكاء الاصطناعي وآليات الحوكمة الدولية وطرق تقييم المخاطر والتدقيق، والبحث في استراتيجيات حوكمة الأنظمة المتقدّمة وتصميم السياسات.

ai-governance →

研学路径

以下路径不绑定学历层级，任何人可在任何阶段切入。请根据自身情况选择起始阶段。

1

دراسة تمهيدية

3–6 أشهر

التعرّف على المفاهيم الأساسية لمشكلة مواءمة الذكاء الاصطناعي وأهميتها وملخّص الوضع البحثي الراهن.

建议起点： بدون خبرة سابقة (مع تفكير منطقي أساسي)
适合人群： أي شخص مهتمّ بسلامة الذكاء الاصطناعي، بمن فيهم الطلاب والمهندسون والباحثون في السياسات وهواة الفلسفة.
فهم المسألةالمفاهيم الأساسية للذكاء الاصطناعيبناء الوعي بالسلامة

推荐项目：

berkeley-ml-safety stanford-ml-safety

学习资源：

The Alignment Problem (Brian Christian) → book 来源：الموقع الرسمي لـ Brian Christian
Anthropic - AI Safety → article 来源：الموقع الرسمي لـ Anthropic
80,000 Hours - AI Safety Guide → guide 来源：80,000 Hours
2

أسس منهجية

1–2 سنوات

دراسة منهجية للأسس النظرية لتعلّم الآلة والتعلّم العميق والتعلّم المعزّز، وإتقان المسارات التقنية الرئيسة لسلامة الذكاء الاصطناعي (كـ RLHF والمواءمة القابلة للتوسّع والقابلية للتفسير الميكانيكي وغيرها).

建议起点： أساس في البرمجة والرياضيات
适合人群： ذوو الخلفية التقنية الراغبون في التعمّق في سلامة الذكاء الاصطناعي، بمن فيهم المهندسون وطلاب الدراسات العليا والباحثون المنتقلون من مجالات أخرى.
نظرية تعلّم الآلةالتعلّم المعزّزالتعلّم العميقطرق سلامة الذكاء الاصطناعي

推荐项目：

berkeley-ml-safety stanford-ml-safety mit-ml-safety cmu-ml-safety

学习资源：

Deep Learning (Goodfellow et al.) → book 来源：MIT Press – وصول مفتوح
Spinning Up in Deep RL (OpenAI) → course 来源：OpenAI
Stanford CS229: Machine Learning → course 来源：صفحة مقرّر Stanford CS229
3

تخصص متقدم

2–3 سنوات

التركيز على مسألة فرعية محدّدة من مواءمة الذكاء الاصطناعي (كالإشراف القابل للتوسّع، أو القابلية للتفسير الميكانيكي، أو تعلّم القيم، أو المتانة العدائية مثلًا)، والمشاركة في الأبحاث المتقدّمة ونشر النتائج.

建议起点： خبرة بحثية في تعلّم الآلة
适合人群： الباحثون وطلاب الدكتوراه الراغبون في تقديم إسهامات أصيلة في مسائل فرعية محدّدة لسلامة الذكاء الاصطناعي.
بحث أصيلتصميم طرق المواءمةكتابة الأوراق البحثيةالتقييم التجريبي

推荐项目：

berkeley-ml-safety stanford-ml-safety mit-ml-safety cambridge-ml-safety cmu-ml-safety

学习资源：

Anthropic - Interpretability Research → article 来源：الموقع الرسمي لـ Anthropic
NeurIPS Conference → conference 来源：الموقع الرسمي لـ NeurIPS
AI Safety (arXiv) → repository 来源：arXiv
4

بحث مستقل

مستمر

الانضمام إلى فرق السلامة في مؤسّسات الذكاء الاصطناعي المتقدّمة (مثل Anthropic وOpenAI وDeepMind) أو تولّي منصب أكاديمي في جامعات رائدة، والسير بأبحاث المواءمة بشكل مستقل والتأثير في صياغة السياسات.

建议起点： خبرة بحثية في سلامة الذكاء الاصطناعي
适合人群： الباحثون والممارسون الذين يُسيرون أبحاث مواءمة الذكاء الاصطناعي بشكل مستقل، بمن فيهم باحثو ما بعد الدكتوراه والعلماء الباحثون.
بحث مستقلقيادة الفريقالتقدّم بطلبات التمويلالتعاون متعدّد التخصّصات

推荐项目：

berkeley-ml-safety stanford-ml-safety mit-ml-safety oxford-ai-governance harvard-ai-governance

学习资源：

AI Alignment Forum → community 来源：Alignment Forum
LessWrong → community 来源：LessWrong
arXiv - Machine Learning (cs.LG) → repository 来源：arXiv
5

إنتاج ونشر

مستمر

الإنتاج المستمرّ للأبحاث الأصيلة، والتأثير في صياغة السياسات والمعايير الصناعية، وتأهيل الجيل القادم من الباحثين، ودفع مواءمة الذكاء الاصطناعي من البحث الأكاديمي إلى الممارسة الهندسية والضمان المؤسّسي.

建议起点： باحث مستقل / ممارس
适合人群： الباحثون الناضجون والمؤثّرون في السياسات في مجال سلامة الذكاء الاصطناعي، بمن فيهم العلماء المخضرمون والمستشارون في السياسات وقادة المجال.
التأثير في السياساتالقيادة الأكاديميةوضع المعايير الصناعيةتأهيل الكوادر

推荐项目：

berkeley-ml-safety stanford-ml-safety oxford-ai-governance harvard-ai-governance tsinghua-ai-governance

学习资源：

Partnership on AI → organization 来源：الموقع الرسمي لـ Partnership on AI
80,000 Hours - AI Safety Career → guide 来源：80,000 Hours
Center for AI Safety → organization 来源：الموقع الرسمي لـ Center for AI Safety

关键词：مواءمة الذكاء الاصطناعي、AI alignment、سلامة الذكاء الاصطناعي、AI safety、سلامة تعلم الآلة、مواءمة القيم、أخلاقيات الذكاء الاصطناعي

发现信息有误？提交纠错