ناقوس خطر دولي: أسلحة الذكاء الاصطناعي الجديدة تهدد بـ “فقدان السيطرة البشرية”

تحذير الأمم المتحدة: أسلحة ذات استقلالية غير مقبولة

وجه وكيل الأمين العام للأمم المتحدة والمبعوث الخاص المعني بالتكنولوجيا، أمانديب جيل، تحذيراً حول المخاطر التي يشكلها التطور غير المنضبط للذكاء الاصطناعي في المجال العسكري.

الخطر: قال جيل إن التطوير والاستخدام غير المنضبط قد يؤدي إلى ظهور “أسلحة ذات درجة غير مقبولة من الاستقلالية”.
المطلب الحكومي: دعا الحكومات إلى “الحفاظ على ميزة السيطرة البشرية على الأسلحة”، وضمان مسؤولية ومساءلة العسكريين الذين يتخذون قرار اختيار الأهداف.

تحدي مركّب: سباق تسلّح قائم على الخوارزميات الفتاكة

أكد الخبير محمد محسن رمضان (رئيس وحدة الذكاء الاصطناعي والأمن السيبراني في مركز العرب للأبحاث) أن تحذير الأمم المتحدة هو “إنذار مبكر بمرحلة جديدة من سباق تسلّح”.

ويرى رمضان أن التحوّل نحو أسلحة ذاتية القرار يمثل تحدياً مركباً يشمل الأمن السيبراني، التكنولوجيا العسكرية، القانون الدولي الإنساني، واستقرار النظام الدولي.

محور الخطر	تفاصيل التحذير من الأسلحة الذاتية القرار
1. طبيعة الذكاء الاصطناعي	يعتمد على شبكات عصبية تتعلم ذاتياً وخوارزميات تتخذ قرارات في بيئة غير مستقرة، مما يرفع خطر اتخاذ قرار فتاك بصورة مستقلة وبدون رقابة بشرية دقيقة.
2. المخاطر التقنية والأمنية (الاختراق)	قابلية الاختراق؛ حيث أن التلاعب بالبنية الرقمية (خوارزميات التحكم، نظم الملاحة) قد يؤدي إلى تغيير مسار السلاح وتوجيهه نحو أهداف مدنية، ليتحول إلى منصة هجومية لصالح الخصم.
3. الهجمات التضليلية	يمكن للخصوم خداع أنظمة الذكاء الاصطناعي عبر صور معدّلة وإشارات إلكترونية مُضلّلة وبيانات كاذبة، حيث ثبت أن الخوارزميات قد تتخذ قرارات خاطئة بنسبة كبيرة أمام تغييرات طفيفة غير مرئية للعين البشرية.