عروبة الأخباري
يشهد مقر الأمم المتحدة في جنيف الأسبوع المقبل مباحثات بشأن ما إذا كان ينبغي السماح للآلات باتخاذ قرار القتل بمفردها، في ظل تأييد غالبية الدول فرض قيود على الأسلحة ذاتية التشغيل، ومعارضة أخرى على رأسها الولايات المتحدة.
وتجتمع 128 دولة في مؤتمر خاص بهذه الأسلحة المعروفة بـ”الروبوتات القاتلة” والقادرة على مهاجمة الأهداف من دون تدخل بشري، سعيًا إلى التوافق على بدء مفاوضات للتوصل إلى نص ملزم بشأنها، وهو هدف يبدو بعيد المنال.
ويقول لوران جيزيل من اللجنة الدولية للصليب الأحمر، إن “الحاجة إلى تنظيم الأسلحة الذاتية التشغيل باتت أكثر إلحاحًا” في ظل تطور الذكاء الاصطناعي، وبروز مؤشرات على أن بعض نماذجه باتت قادرة على تجاوز المهام المحددة لها.
ومنذ عام 2013، تطالب حملة “أوقفوا الروبوتات القاتلة” (Stop Killer Robots)، وهي تحالف عالمي يضم أكثر من 300 منظمة، بفرض قيود ملزمة قانونًا على استخدام هذه الأسلحة، في وقت تم استخدام بعض التقنيات ذاتية التشغيل في النزاعات، ولا سيما في أوكرانيا والشرق الأوسط.
وبحسب الحملة، يمكن لهذه الأنظمة أن تنتشر بسرعة كبيرة؛ نظرًا إلى انخفاض كلفة إنتاجها نسبيًّا، ما يزيد مخاوف الكثير من المراقبين من مخاطر وقوع استهدافات عشوائية وغياب العنصر البشري وعدم احترام قواعد الحرب.
“حياة أو موت”
وحذرت منظمة “هيومن رايتس ووتش” من مخاطر الاعتماد على التكنولوجيا في اتخاذ قرارات القتل خلال الحروب، مشددة على أن الأنظمة التقنية ليست مثالية وقد ترتكب أخطاء، يمكن أن تتحول في ساحات المعارك إلى مسألة حياة أو موت.
وتتصاعد الدعوات الدولية لفرض قيود قانونية على الأسلحة ذاتية التشغيل وضمان الرقابة البشرية على استخدامها، إذ أيدت 163 دولة، في 29 أكتوبر/ تشرين الثاني، قراراً في الجمعية العامة للأمم المتحدة يدعو إلى بدء محادثات لوضع قواعد تنظم هذه الأسلحة، فيما عارضته خمس دول، هي الولايات المتحدة وروسيا وإسرائيل وكوريا الشمالية وبيلاروس، وامتنعت تسع دول عن التصويت.
وتتباين المواقف الدولية بشأن آلية تنظيم هذه الأسلحة؛ ففي حين اقترحت الولايات المتحدة مساراً يمتد خمس سنوات لإعداد نص غير ملزم قانونياً، تدعو المنظمات غير الحكومية واللجنة الدولية للصليب الأحمر إلى التوصل إلى اتفاق خلال عام واحد، وفرض حظر على الأسلحة التي يصعب التنبؤ بتأثيراتها أو السيطرة عليها، وتلك المصممة لاستهداف البشر مباشرة.
من جانبها، حذرت الأمم المتحدة من التداعيات غير المتوقعة لاستخدام الذكاء الاصطناعي في المجال العسكري، معتبرة أن ترك الآلات تتخذ قرارات بشأن إزهاق الأرواح يثير إشكاليات أخلاقية خطيرة.
وفي ظل صعوبة التوصل إلى توافق دولي خلال اجتماعات جنيف، تطرح منظمات غير حكومية مساراً بديلاً يتمثل في نقل القضية إلى الجمعية العامة للأمم المتحدة، حيث يمكن اتخاذ القرارات عبر التصويت بالأغلبية، بدلاً من انتظار إجماع قد يكون من الصعب تحقيقه.
ما هي هذه الأسلحة؟
بعد نحو عشر سنوات من النقاشات، اتفقت أخيرا مجموعة من الخبراء الحكوميين على تعريف لمفهوم منظومة الأسلحة ذاتية التشغيل.
ويعرّف أحد هؤلاء الخبراء، جان-مارك ريكلي، في حديث إلى وكالة “فرانس برس”، هذه الأسلحة على أنها كل “نظام قادر على اختيار الهدف ورصده واستخدام القوة ضده من دون تدخل بشري”.
والأسلحة ذاتية التشغيل موجودة منذ زمن بعيد، إذ تُعد الألغام المضادة للأفراد -مثَلاً- “سلاحاً ذاتي التشغيل؛ نظراً إلى أنها تنفجر بمجرد أن يدوس أحد عليها”، بحسب لور دو روسي-روشغوند من المعهد الفرنسي للعلاقات الدولية.
إلا أنه مع تزايد عدد المسيرات التي تعمل بالذكاء الاصطناعي، باتت هذه الأسلحة “قادرة على اختيار هدف غير محدد مسبقاً واستخدام القوة ضده من خلال التكيف مع بيئتها ومن دون تدخل البشر”، وفق ريكلي.
ومن هنا، باتت المعضلة تتمثل في حجم الدور الذي من المفترض أن يؤديه البشر في اتخاذ قرار استخدام السلاح.
وتؤكد دول عدة أنها تتخذ إجراءات كافية لضمان تأدية البشر دوراً كافياً في هذا الصدد.
ويقول فانسان سيباستيان، نائب مدير الوكالة الوزارية للذكاء الاصطناعي الدفاعي، إنه في فرنسا “دور الإنسان مضمون بفضل ما يعرف بالرقابة المتناسبة التي يمارسها المسؤول العسكري (…) والتي تختلف بناء على مدى خطورة السلاح وسياق” استخدامه.
من جهتها، تقول الولايات المتحدة إن استخدام الأسلحة ذاتية التشغيل يرافقه “مستوى مناسب من التقدير البشري”.
ومع ذلك، تسأل دو روسي-روشغوند “(كيف يمكن) ضمان أن يعمد المشغل إلى تقدير الموقف وألا يكتفي بالمصادقة تلقائياً على توصيات الآلة” لمجرد أنه لا يفهم آلية عملها، مشيرة إلى المخاطر الأخلاقية والقانونية المترتبة على ذلك.