تحليل

كيف تُحكَم آلة: الأدوات المطروحة على الطاولة لتنظيم الذكاء الاصطناعي

7 أكتوبر 2026 — العالم

سلسلة «الذكاء الاصطناعي» · 5 من 6

ملاحظة شفافية: أُعدّت هذه المادة بمساعدة Claude، نموذج الذكاء الاصطناعي التابع لشركة Anthropic. وAnthropic من الشركات التي ستسري عليها كثير من القواعد الموصوفة أدناه، وقد اتّخذت مواقف علنية من بعضها.

لا يمكن بيع أيّ دواء من دون سنوات من التجارب تحت رقابة سلطة عامة. ولا تنقل أيّ طائرة ركابًا من دون شهادة. أما في عام 2026، فقد خرجت نماذج ذكاء اصطناعي تابعة لأربع شركات كبرى من الاختبارات ودخلت أنظمة حقيقية لمنظمات أخرى (هنا مادتنا). ووفقًا للتحقيق الذي أوردته بلومبرغ، أسهم نظام لاختيار الأهداف في واحدة من أخطر المجازر بحقّ المدنيين في العام (هنا). ومع ذلك، لا يوجد في معظم أنحاء العالم التزام بفحص هذه الأنظمة قبل استخدامها، ولا بالإفصاح عن أخطائها. لكن الأفكار اللازمة لذلك موجودة، وبعضها صار قانونًا بالفعل في بعض أنحاء العالم. تصفّ هذه المادة تلك الأفكار واحدة تلو الأخرى، من دون أن تختار بينها: ما لها وما عليها، ومن يؤيّدها.

من أين ننطلق

في الاتحاد الأوروبي تفرض لائحة الذكاء الاصطناعي لعام 2024 التزامات على الأنظمة عالية المخاطر، لكنها أُرجئت إلى عامَي 2027 و2028، وتطلب من مزوّدي أقوى النماذج تقييمها والإبلاغ عن الحوادث الخطيرة. ومثل اتفاقية مجلس أوروبا بشأن الذكاء الاصطناعي، تستثني الاستخدامات العسكرية (نشرح ذلك في المسرد).

في الولايات المتحدة لا يوجد قانون فدرالي بشأن الذكاء الاصطناعي المتقدّم. وفي ديسمبر 2025 وقّع الرئيس ترامب أمرًا تنفيذيًا للطعن في قوانين الولايات منفردة. ومن بينها أهمّها، قانون كاليفورنيا SB 53 الصادر في سبتمبر 2025، الذي يفرض الشفافية بشأن المخاطر الكارثية (Future of Privacy Forum). وعلى المستوى الفدرالي لا توجد سوى تعهّدات طوعية ومشاريع قوانين عدّة.

على الصعيد العسكري يسري القانون الدولي الإنساني، والالتزام بالتحقّق من مشروعية الأسلحة الجديدة، ومبدأ أقرّته عام 2019 الدول الأطراف في اتفاقية الأمم المتحدة بشأن أسلحة تقليدية معيّنة. وهو ينصّ على أن المسؤولية عن استخدام الأسلحة لا تنتقل إلى الآلات. ووقّعت 58 دولة، حتى نوفمبر 2024، إعلانًا سياسيًا روّجت له الولايات المتحدة بشأن الاستخدام العسكري المسؤول للذكاء الاصطناعي، لكنه غير ملزم. ولا توجد معاهدة.

الأدوات

1. الإبلاغ عن الحوادث وحماية من يكشف عنها

ما هي. التزام من يطوّر نظامًا أو يستخدمه بإبلاغ سلطة عامة بالحوادث الخطيرة خلال مهلة محدّدة. مع حماية الموظفين الذين يبلّغون عن مخاطر جسيمة، حتى خارج الشركة.

أين توجد. في الاتحاد الأوروبي، منذ 2 أغسطس 2025، بالنسبة إلى مزوّدي أقوى النماذج، الذين يتعيّن عليهم الإبلاغ إلى مكتب الذكاء الاصطناعي الأوروبي من دون تأخير لا مبرّر له (اللائحة، المادة 55). غير أن الالتزام يسري على النماذج المطروحة في السوق: أما الاختبارات السابقة للإطلاق، حيث وقع كثير من حوادث 2026، فمستثناة منه (المادة 2، الفقرة 8). وفي كاليفورنيا، حيث يجب الإبلاغ عن الحوادث الحرجة خلال 15 يومًا، أو 24 ساعة في حالة الخطر الوشيك، وحيث يحمي القانون نفسه المبلّغين. وعلى المستوى الفدرالي يقترح ذلك AI Kill Switch Act وFRONTIER Act، الذي ينصّ أيضًا على حماية المبلّغين.

ما الغرض منها. إنها أساس كل ما عداها: فمن دون معرفة ما يحدث، لا يمكن تقييم المخاطر ولا تحسين القواعد. وفي الطيران، يُعدّ الإبلاغ الإلزامي عن الحوادث إحدى ركائز السلامة. ومن يعملون داخل الشركات هم أول من يرى المشكلات: ففي 3 أكتوبر 2026 استقال ديفيد روبنسون، الذي كان يتابع في OpenAI تقارير الأمان الخاصة بالنماذج الجديدة، وأعلن انتقاداته (TechCrunch). والحمايات ضرورية كي لا تتوقّف حالات كهذه على الشجاعة الشخصية.

الاعتراضات. تخشى الشركات أن تصبح البلاغات علنية وأن تُستخدم ضدّها، وأن يُنتج التزام واسع أكثر من اللازم كمًّا من البلاغات غير المجدية. ومن يُبلّغ أكثر يخاطر بأن يبدو الأسوأ. كما أن الكشف من الداخل قد يفضح أسرارًا صناعية أو معلومات مفيدة لمن يريد إساءة استخدام الأنظمة.

2. الفحص قبل الإطلاق

ما هو. إخضاع أقوى النماذج لفحص مقيّمين مستقلّين قبل طرحها، على غرار شهادات الطائرات أو ترخيص الأدوية.

أين يوجد. في صيغة مخفّفة في الاتحاد الأوروبي، حيث يتعيّن على مزوّدي أقوى النماذج إجراء اختبارات، بما فيها محاولات متعمّدة لدفعها إلى الخطأ، لكن لا يلزم ترخيص. وينصّ FRONTIER Act، الذي قدّمه في 23 يوليو 2026 نواب جمهوريون وديمقراطيون، على تقييمات مستقلة وعمليات تدقيق (Trahan). وطالبت رسالة 1,134 موظفًا في كبرى الشركات، في يوليو، بوكالة تفحص النماذج كما تُفحص الطائرات (The Next Web). واقترح رئيس Anthropic، داريو أمودي، في يونيو اختبارات إلزامية بموجب القانون مع سلطة حظر النماذج غير الآمنة (Implicator).

على من يسري. عادةً على النماذج المدرَّبة بكمية حوسبة تتجاوز عتبة معيّنة فقط: 10²⁵ عملية حسابية، أي 1 يليه 25 صفرًا، في الاتحاد الأوروبي (اللائحة، المادة 51)، و10²⁶ في كاليفورنيا. وبذلك تطال القواعد الشركات القليلة التي تطوّر أقوى النماذج، لا الصغيرة منها. لكن قدرة الحوسبة مؤشّر ناقص: فالنماذج الأصغر تزداد قدرة باستمرار، والعتبة الثابتة تتقادم بسرعة.

ما الغرض منه. نقل الرقابة إلى ما قبل الضرر، لا إلى ما بعده.

الاعتراضات. لا تستطيع الاختبارات الحالية بعد أن تتنبأ جيدًا بسلوك النماذج، كما تُظهر تحديدًا حوادث 2026 التي وقعت خلال الاختبارات. والترخيص المسبق يبطئ التطوير ويحابي الشركات الكبرى، فهي وحدها القادرة على تحمّل كلفته. كما يتعيّن على السلطة العامة أن تملك كفاءات لا توجد اليوم إلا في الشركات تقريبًا.

3. مفتاح طوارئ

ما هو. الالتزام بالقدرة على إيقاف نموذج فورًا، وسلطة الحكومة في الأمر بذلك.

أين يوجد. لا يوجد بموجب القانون في أيّ مكان. فـAI Kill Switch Act، الذي قدّمه في 23 يوليو 2026 الديمقراطي تيد ليو والجمهوري ناثانيال موران، من شأنه أن يفرض القدرة على تعليق النماذج فورًا. وسيمنح أيضًا بعض الوزراء سلطة الأمر بإبطائها أو إطفائها في حال وقوع أضرار كارثية (Nextgov). وتطالب به رسالة الموظفين أيضًا.

ما الغرض منه. ضمان أن يبقى الإطفاء ممكنًا دائمًا.

الاعتراضات. يلاحظ Center for Data Innovation أن إطفاء النموذج كثيرًا ما لا يكفي: ففي حالة Hugging Face لزم إلغاء بيانات الاعتماد وإعادة بناء أنظمة كاملة. كما أن أمرًا عن بُعد لإطفاء النماذج سيكون هدفًا ثمينًا للهجمات السيبرانية (Center for Data Innovation). ويرى حقوقيان من جامعة فلوريدا أنه قد يتسبّب في الكارثة التي يريد منعها (ICLE). أما النماذج التي تكون معاملاتها علنية، ويستطيع أيّ شخص تنزيلها، فلا يمكن وضع أيّ مفتاح مركزي لها.

4. من يدفع حين تخطئ الآلة

ما هي. قواعد واضحة بشأن المسؤولية المدنية: من يعوّض الضرر الذي يسبّبه نظام ذكاء اصطناعي، المطوّر أم من يستخدمه أم من وفّر البيانات.

أين توجد. كان الاتحاد الأوروبي قد اقترح عام 2022 توجيهًا خاصًا بالمسؤولية عن الذكاء الاصطناعي؛ وسحبته المفوضية في أكتوبر 2025 (البرلمان الأوروبي). ويبقى التوجيه الأوروبي الجديد بشأن المسؤولية عن المنتجات المعيبة، الذي يسري اعتبارًا من 9 ديسمبر 2026 على البرمجيات أيضًا (Gibson Dunn).

ما الغرض منها. إذا علم من يبني نظامًا أو يستخدمه أنه سيدفع ثمن الأضرار، فسيكون لديه حافز لجعله آمنًا، من دون حاجة إلى رقابة عامة على كل خطوة.

الاعتراضات. في السلاسل المعقّدة يصعب تحديد من أخطأ. ففي ميناب تؤكّد Palantir، التي بنت النظام المستخدم في اختيار الأهداف، أنها لا تُسأل عن البيانات؛ وفي حوادث 2026 كان خطأ الإعداد من مورّد اختبارات خارجي. والتعويض يأتي بعد الضرر، ولا يمنعه.

5. معاهدة بشأن الأسلحة الذاتية التشغيل

ما هي. اتفاق دولي ملزم يحظر بعض منظومات الأسلحة الذاتية التشغيل ويضع قيودًا على غيرها.

أين توجد. لا توجد. وتطالب ستّ وسبعون دولة بالتفاوض عليها (هيومن رايتس ووتش). وفي 25 أغسطس 2026 طالب الأمين العام للأمم المتحدة ورئيسة اللجنة الدولية للصليب الأحمر بفتح المفاوضات في المؤتمر الاستعراضي للاتفاقية، في جنيف من 16 إلى 20 نوفمبر. ووصفا اختيار آلة لهدف بشري بأنه خطّ أحمر أخلاقي (اللجنة الدولية للصليب الأحمر).

ما الغرض منها. ترجمة مبدأ 2019 إلى قواعد دقيقة.

الاعتراضات. أضعفت الولايات المتحدة وروسيا النصّ التحضيري؛ وتؤيّد الصين معاهدة فقط «حين تنضج الظروف»، وحظرًا يقتصر على الأنظمة الأشدّ تطرّفًا (Lieber Institute). وتُتّخذ قرارات الاتفاقية بتوافق الآراء: يكفي بلد واحد للتعطيل. ومعاهدة لا تضمّ القوى العسكرية الكبرى قد لا تُلزم إلا من لا يملك هذه الأسلحة.

6. لا ذكاء اصطناعي في الأسلحة النووية

ما هو. الالتزام بأن يبقى قرار استخدام الأسلحة النووية دائمًا بيد البشر.

أين يوجد. في 16 نوفمبر 2024، في ليما، اتّفق الرئيسان بايدن وشي على أن أيّ قرار باستخدام الأسلحة النووية يجب أن يخضع لسيطرة البشر، لا الذكاء الاصطناعي (NPR). وهو إعلان سياسي، لا معاهدة. وفي سبتمبر 2026 فتحت الولايات المتحدة والصين قناة اتصال بشأن الحوادث المتعلقة بالذكاء الاصطناعي، مع حوار أول مقرّر في نوفمبر.

ما الغرض منه. إخراج أخطر المخاطر على الإطلاق من السباق.

الاعتراضات. يصعب التحقّق منه من الخارج، ولا يقول شيئًا عن الأنظمة التي تُعدّ القرار: الإنذار، والتحليل، واختيار الخيارات. وقضية السفينة الصينية التي كاد تقرير كُتب بواسطة روبوت محادثة أن يؤدّي إلى اعتلائها وتفتيشها، خلال الحرب مع إيران، تُظهر أن الخطأ قد يتسلّل قبل القرار النهائي بكثير (CNN).

7. وكالة دولية

ما هي. هيئة دولية ذات صلاحيات رقابية، على غرار الوكالة الدولية للطاقة الذرية.

أين توجد. لا توجد. ففي عام 2024 فضّل الفريق الاستشاري الرفيع المستوى التابع للأمم المتحدة أدوات أخفّ، كفريق علمي وحوار بين الحكومات. لكنه كتب أنه إذا اشتدّت المخاطر، فقد تلزم آلية أكثر رسمية. وقدّم الفريق العلمي، المؤلّف من 40 خبيرًا، تقريره الأول في يوليو 2026 (الأمم المتحدة).

ما الغرض منها. عمليات تفتيش ومعايير مشتركة، مستقلة عن الحكومات منفردة.

الاعتراضات. لا تريد الدول الأكثر تقدّمًا رقابة خارجية على شركاتها ولا على دفاعها. والنموذج النووي ينجح لأن اليورانيوم المخصّب يمكن عدّه وتفتيشه؛ أما نموذج الذكاء الاصطناعي فيمكن نسخه في دقائق.

8. ضوابط التصدير

ما هي. تقييد بيع الرقائق الأكثر تقدّمًا أو النماذج نفسها إلى الخارج.

أين توجد. تقيّد الولايات المتحدة منذ سنوات تصدير الرقائق الأكثر تقدّمًا إلى الصين. وفي 12 يونيو 2026 حظرت وزارة التجارة على الأجانب الوصول إلى أقوى نموذجين لدى Anthropic. ولمّا تعذّر على الشركة تطبيق الحظر انتقائيًا، أطفأتهما للجميع. وعاد الوصول تدريجيًا حتى 1 يوليو، بعد 19 يومًا، وتعهّدت Anthropic بالتنسيق مع الحكومة بشأن الإطلاقات المستقبلية (Anthropic؛ LetsDataScience).

ما الغرض منها. إبطاء انتشار القدرات الأكثر خطورة.

الاعتراضات. إنها أداة للأمن القومي، لا لحماية الناس: الغرض منها الحفاظ على تفوّق، لا تقليل المخاطر على الجميع. كما أنها تدفع البلدان الأخرى إلى تطوير تقنياتها الخاصة.

9. التنظيم الذاتي

ما هو. تعهّدات تقطعها الشركات طوعًا.

أين يوجد. تنشر الشركات الكبرى منذ سنوات قواعدها الداخلية الخاصة بالأمان. وفي 29 سبتمبر 2026، في البيت الأبيض، وقّعت Anthropic وOpenAI وGoogle وMeta وxAI وNvidia تعهّدًا مشتركًا باعتماد ضوابط داخلية ومدقّقين خارجيين؛ ولا ينصّ على عقوبات ولا على إلزام بنشر النتائج (الجزيرة).

ما الغرض منه. إنه سريع ومرن، ويستفيد من الكفاءات الموجودة اليوم في الشركات.

الاعتراضات. يسري ما دامت الشركات تريد احترامه. وثمة أيضًا الاعتراض المعاكس: فقد رأى رئيس لجنة التجارة الفدرالية الأمريكية، أندرو فيرغسون، أن شركات الذكاء الاصطناعي تُخيف الرأي العام للحصول على قواعد تتحوّل إلى خندق، أي حاجز، في وجه المنافسين الأصغر (Axios).

في جدول

قراءة قانونية

1. للقانون الدولي مبدأ قائم بالفعل، لكن بحدّ. في قضية قناة كورفو، عام 1949، أكّدت محكمة العدل الدولية مبدأً: على كل دولة التزام بألّا تسمح عن علم باستخدام إقليمها ضدّ حقوق دول أخرى. وقد يندرج في هذا الإطار وكيل أنشأته شركة من بلد ما ودخل أنظمة حكومة بلد آخر، وإن كان تطبيق ذلك المبدأ على الهجمات السيبرانية محلّ خلاف: فالولايات المتحدة، مثلًا، لا تعترف به التزامًا. والحدّ هو عبارة «عن علم»: فلم تكن أيّ دولة تعلم. لكن الآن وقد صارت الحوادث معروفة، يصبح السؤال عمّا ينبغي أن تفعله الدول لمنعها سؤالًا مشروعًا.

2. المسؤولية البشرية خيطًا جامعًا. يسري مبدأ 2019 على الأسلحة، لكن منطقه يمتدّ عبر جميع الأدوات المدنية تقريبًا. فمفتاح الإيقاف، والفحص، والمسؤولية المدنية، وحماية المبلّغين، كلها تهدف إلى ضمان وجود من يُسأل دائمًا. وهذا أيضًا هو المعيار الذي يمكن به تقييم كل أداة: هل يتّضح بعد الواقعة من يُسأل؟

اختبار التماثل

لكل نظام قانوني نقطته العمياء. فللاتحاد الأوروبي أوسع القواعد، لكنه أرجأها وأوقفها عند عتبة المجال العسكري. وتستخدم الولايات المتحدة ضوابط التصدير لكبح تكنولوجيا الآخرين، بل استخدمتها مرة ضدّ إحدى شركاتها، لكنها في الداخل تُسند الأمان إلى تعهّدات طوعية. وتطالب الصين بمعاهدة بشأن الأسلحة الذاتية التشغيل فقط «حين تنضج الظروف». وفي الأثناء، ووفقًا لتحقيق أجرته رويترز، يستخدم جيشها نماذج الشركة الصينية DeepSeek للتعرّف على الأهداف وتنسيق أسراب المسيّرات (DroneXL، نقلًا عن رويترز). ونشرت روسيا في أوكرانيا مسيّرات تختار هدفها، في أحدث نسخها، من دون مشغّل (The Conversation، على Salon). والشركات التي تطالب بالقواعد، ومنها الشركة التي تنتج الأداة التي أُعدّت بها هذه المادة، هي نفسها التي ستستفيد منها، لأنها قادرة على تحمّل كلفة الالتزام بها. وكل مقترح يجب أن يُحكم عليه بما يفعله، لا بمن يطرحه.

الحكم التحريري

ما يلي هو تقييمنا، وليس حقيقة.

لا تكفي أيّ من هذه الأدوات وحدها، ولا تخلو أيّ منها من العيوب. لكنها حين تُصفّ معًا تُظهر ترتيبًا. فجميعها تقريبًا يتوقّف على شرط مسبق: معرفة ما يحدث. الفحص مفيد إذا عُرفت إخفاقات الفحوص السابقة. ومفتاح الإيقاف مفيد إذا انتبه أحدٌ في الوقت المناسب إلى ضرورة الضغط عليه. والمسؤولية المدنية تعمل إذا ظهر الضرر إلى العلن. وفي عام 2026، فإن كل ما نعرفه تقريبًا عن الحوادث نعرفه لأن الشركات اختارت أن ترويه، بعد أشهر. والإبلاغ الإلزامي وحماية المبلّغين هما الأداتان الأقلّ كلفة والأقلّ إثارة للجدل، وهما اللتان تقوم عليهما الأدوات الأخرى كلها.

أما على الصعيد العسكري، فالفراغ ليس مسألة تفاصيل. إنه خيار. فالدول التي كتبت عام 2019 أن المسؤولية لا تنتقل إلى الآلات هي نفسها التي ستقرّر في نوفمبر ما إذا كانت ستحوّل تلك العبارة إلى التزام.

ما ينبغي متابعته

• المؤتمر الاستعراضي لاتفاقية الأمم المتحدة بشأن أسلحة تقليدية معيّنة، جنيف، 16-20 نوفمبر.
• أول حوار بشأن الذكاء الاصطناعي بين الولايات المتحدة والصين، في نوفمبر.
• مسار AI Kill Switch Act وFRONTIER Act في الكونغرس.
• تطبيق قانون كاليفورنيا SB 53 ومصيره أمام الأمر التنفيذي الفدرالي.
• أولى بلاغات الحوادث إلى مكتب الذكاء الاصطناعي الأوروبي.

المصادر: Future of Privacy Forum · TechCrunch · Trahan · The Next Web · Implicator · Nextgov · Center for Data Innovation · ICLE · البرلمان الأوروبي · Gibson Dunn · هيومن رايتس ووتش · اللجنة الدولية للصليب الأحمر · Lieber Institute · NPR · CNN · الأمم المتحدة · Anthropic · LetsDataScience · الجزيرة · Axios · DroneXL، نقلًا عن رويترز · The Conversation، على Salon

مواد ذات صلة: الذكاء الاصطناعي: كيف يعمل، ومن أين جاء، وما القواعد التي تقيّده · ميناب، المدرسة التي لم يتحقّق منها أحد · خارج السياج · ستة مسارات للذكاء الاصطناعي: السيناريوهات الممكنة والإشارات التي ينبغي رصدها · من يضغط على الكابح؟

كل الأخبار والبيانات →