أخلاقيات وحوكمة الذكاء الاصطناعي 2026

مع تسارع تبنّي AI، الأسئلة الأخلاقية تحوّلت من فلسفية لعملية. من يقرّر ما هو أخلاقي؟ كيف نُحوكم أنظمة قد تتّخذ ملايين القرارات يومياً؟ هذا المقال شامل.

المشكلة الأخلاقية الأساسية

AI يتّخذ قرارات تؤثّر على البشر:

• من يحصل على قرض
• من يُقبل في الجامعة
• من يُشتبه به أمنياً
• ما محتوى يُوصى به
• ما إعلانات تُعرض

كل قرار قد يحوي تحيّزاً، خطأ، أو ظلماً. من يحاسب؟

الأطر الرئيسية عالمياً

1) EU AI Act (2024)، الأشمل

الاعتماد: 21 مايو 2024 النفاذ التدريجي: 2025-2027

4 مستويات مخاطر:

A) Unacceptable Risk، محظور تماماً:

• Social Scoring حكومي (تقييم المواطنين شامل)
• Manipulation نفسي للأطفال أو الفئات الضعيفة
• Biometric identification في الأماكن العامّة (استثناءات محدّدة)
• Real-time predictive policing (توقّع الجريمة قبل حدوثها)

B) High Risk، مسموح بشروط صارمة:

• AI في التوظيف
• AI في التعليم (قبول، تقييم)
• AI في الصحّة (تشخيص، علاج)
• AI في القضاء
• AI في البنية التحتية الحرجة

متطلّبات: تقييم مخاطر، شفافية، جودة بيانات، رقابة بشرية، سجلّ عمليات، مستندات فنّية.

C) Limited Risk، شفافية فقط:

• Chatbots (يجب الإفصاح أنّه AI)
• Deepfakes (يجب وضع علامة)
• محتوى مُنتَج بـAI (إفصاح)

D) Minimal Risk، بلا قيود:

• ألعاب الفيديو
• فلاتر السبام

العقوبات: تصل 7% من الإيرادات العالمية أو 35 مليون يورو (الأكبر) لأشدّ المخالفات.

2) أمريكا، تنظيم مُفتَّت

لا قانون فيدرالي شامل بعد. لكن:

• Biden Executive Order (أكتوبر 2023): التزامات طوعية من الشركات، تقييم مخاطر
• Trump 2025: إلغاء بعض بنود Biden، توجّه أخفّ تنظيماً
• قوانين ولائية: كاليفورنيا (SB 1047 عُدّل 2024)، كولورادو، نيويورك
• NIST AI Risk Management Framework، إرشادي غير ملزم

3) الصين، تنظيم صارم داخلي، مرن دولياً

• Interim Measures for Generative AI Services (2023): يشترط ترخيصاً حكومياً لكل خدمة AI عامّة
• Personal Information Protection Law (2021): مشابه GDPR
• AI Safety Governance Framework (2024)

الميّزة: تنفيذ سريع العيب: مخاوف عالمية حول الاستخدام السياسي

4) المملكة المتحدة

• Bletchley Declaration (نوفمبر 2023): 28 دولة تلتزم بأمان AI
• UK AI Safety Institute، يختبر النماذج
• لا قانون شامل، نهج "Pro-innovation"

5) السعودية

الأطر الحالية:

A) نظام حماية البيانات الشخصية (PDPL) 2021:

• يُنظّم جمع ومعالجة البيانات الشخصية
• يشمل أنظمة AI التي تستخدم بيانات شخصية
• عقوبات تصل ملايين الريالات

B) مبادئ SDAIA الأخلاقية 2023، 7 محاور:

1. العدالة
2. الخصوصية والأمن
3. الإنسانية
4. الاجتماعية والبيئية
5. المصداقية والسلامة
6. الشفافية
7. المساءلة

C) ضوابط NCA للأمن السيبراني، تشمل AI

قانون AI شامل، متوقّع 2026-2027 (تسريبات).

المبادئ الأخلاقية العالمية

5 مبادئ OECD (2019)

1. النمو الشامل، التنمية المستدامة، الرفاه
2. القيم البشرية والعدالة
3. الشفافية والقابلية للتفسير
4. المتانة والأمن والسلامة
5. المساءلة

اعتمدتها: 46 دولة (منها السعودية)

الحوكمة العملية

من يُقرّر؟:

• شركات AI (Anthropic، OpenAI، Google، لديها Ethics Boards)
• حكومات (تنظيم)
• منظّمات دولية (OECD، UN، GPAI)
• المجتمع المدني (EFF، AlgorithmWatch)

الواقع: قرارات مُشتَّتة، تعاون محدود.

القضايا الأخلاقية الحسّاسة

1) التحيّز (Bias)

المشكلة: نموذج مدرَّب على بيانات متحيّزة يعكس التحيّز.

أمثلة موثّقة:

• Amazon استخدمت AI للتوظيف (2018)، اكتشفت أنّه يتحيّز ضدّ النساء، أوقفته
• Facial Recognition يخطئ أكثر مع البشرة الداكنة (MIT Study 2018)
• AI صحّي أعطى المرضى السود درجات مخاطرة أدنى (Science 2019)

الحلول:

• بيانات تدريب متنوّعة
• اختبار على مجموعات مختلفة
• تدقيق دوري

2) الخصوصية

المشكلة: نماذج تتعلّم من بياناتك، قد "تحفظها" وتُسرّبها.

الحلول:

• Differential Privacy (تشويش رياضي يمنع التسريب)
• Federated Learning (التعلّم بدون نقل البيانات)
• Encryption

3) الشفافية (Explainability)

المشكلة: النماذج "صناديق سوداء"، لا نعرف كيف تُقرّر.

العواقب:

• بنك يرفض قرضاً بلا سبب واضح
• محكمة تعتمد على AI بلا فهم عملها

الحلول:

• SHAP، LIME: أدوات تفسير قرارات النماذج
• قوانين تلزم: EU AI Act يتطلّب توضيح القرارات الآلية

4) المسؤولية القانونية

المشكلة: من يُحاسَب إذا AI أخطأ؟

الأمثلة:

• سيّارة Tesla قتلت مشاة → المحكمة قررت مسؤولية السائق (Autopilot ليس L5)
• Cruise دهست سيّدة (2023) → GM تحمّل، سُحبت الرخصة
• مستشفى استخدم AI في تشخيص خاطئ → الطبيب المسؤول

الاتّجاه: توسيع مسؤولية الشركة المُطوّرة.

5) العمل والبطالة

المشكلة: أتمتة تفقد الناس وظائفهم.

الحلول المقترَحة:

• Universal Basic Income (UBI)، راتب حكومي أساسي
• إعادة التدريب، برامج تحوّل مهني
• ضرائب على الروبوتات (Bill Gates اقتراح)
• مشاركة الأرباح بين البشر والشركات

6) التضليل والـDeepfakes

المشكلة: توليد محتوى مزيّف مقنع.

الحلول:

• علامات مائية غير مرئية (C2PA، Coalition for Content Provenance)
• كشف Deepfakes (أدوات مثل Reality Defender)
• قوانين تُجرّم الإنتاج والنشر

السعودية: نظام مكافحة جرائم المعلوماتية (المعدَّل 2024) يُجرّم Deepfakes الضارّة.

7) الاستخدام العسكري

المشكلة: أسلحة ذاتية القرار (LAWS، Lethal Autonomous Weapons).

الجدل:

• Stop Killer Robots (حملة دولية): حظر تامّ
• دول كبرى (أمريكا، الصين، روسيا): تطوير مستمرّ

الوضع: لا حظر عالمي، مفاوضات UN مستمرّة.

8) البيئة

المشكلة: تدريب نموذج كبير يُنتج طنّ CO2.

الأرقام:

• تدريب GPT-3 قدّرته دراسة بـ~500 طنّ CO2 (2019)
• تدريب GPT-4 أضعاف ذلك
• مراكز بيانات AI = 3-4% من كهرباء العالم

الحلول:

• طاقة نظيفة لمراكز البيانات
• نماذج أكثر كفاءة
• استخدام محسوب

المسؤولية الشخصية

كمستخدم

1. تحقّق من الحقائق التي يعطيك إياها AI
2. لا ترفع بيانات حسّاسة بلا مراعاة
3. راعِ الحقوق، لا تولّد محتوى مسيئاً أو مزيّفاً
4. أفصح عن استخدام AI حين يُلزم

كصاحب مشروع

1. درّب فريقك على الاستخدام الأخلاقي
2. راجع القرارات الآلية، لا تفوّض كل شيء لـAI
3. التزم بـPDPL إن كنت في السعودية
4. تدقيق دوري لأنظمتك

كمواطن

1. افهم حقوقك تحت PDPL و GDPR (إن كنت مواطناً أوروبياً)
2. طالب بالشفافية من الجهات التي تستخدم AI عليك
3. شارك في النقاش العام حول الحوكمة

منظّمات الحوكمة الرئيسية

• OECD AI Policy Observatory
• GPAI (Global Partnership on AI)، السعودية عضو
• UNESCO، AI Ethics Recommendations
• AI Safety Institutes، أمريكا، بريطانيا، اليابان، الصين، سنغافورة، أستراليا
• Anthropic Alignment Research، شركة
• DeepMind Ethics & Society
• AlgorithmWatch، منظّمة مجتمع مدني
• Center for AI Safety، أكاديمي/سياسي

اتّجاهات 2026-2030

1. قانون AI شامل في السعودية ودول خليجية
2. معايير دولية أوسع (منظّمة عالمية جديدة محتمَلة)
3. مراقبة أشدّ للنماذج الكبيرة
4. حقوق أوضح للمستخدمين
5. مسؤوليّة أكبر للشركات

الأسئلة المفتوحة

• من يقرّر أخلاق AI عالمياً؟
• كيف نوازن الابتكار والحماية؟
• هل يجب حظر بعض التطبيقات كلياً؟
• من يعوّض ضحايا أخطاء AI؟
• كيف نحمي الديمقراطية من AI السياسي؟

المصادر الرسمية

• EU AI Act، النصّ الرسمي
• OECD AI Principles
• GDPR، النصّ الرسمي
• PDPL، السعودية
• SDAIA AI Ethics Principles
• NIST AI RMF
• UNESCO AI Ethics

اقرأ أيضاً: الذكاء الاصطناعي في القانون · مستقبل الذكاء الاصطناعي 2027-2030 · AGI و Superintelligence · السباق العالمي في AI