الخبر في نقاط:
- اتفق ترامب وشي جينبينج على ضرورة مشاركة البشر في القرارات العسكرية المرتبطة بالذكاء الاصطناعي.
- يثير استخدام الذكاء الاصطناعي في الحروب مخاوف من استهداف المدنيين والتصعيد العسكري غير المقصود.
- يفتقر التفاهم الأمريكي الصيني إلى آليات تنفيذ معلنة أو قواعد قانونية ملزمة.
__________
أثار التفاهم الأمريكي الصيني بشأن ضرورة الإبقاء على التدخل البشري في القرارات العسكرية المعتمدة على الذكاء الاصطناعي تساؤلات حول إمكانية ضبط استخدام هذه التكنولوجيا في الحروب، خاصة مع تطوير أنظمة قادرة على تحليل التهديدات وتحديد الأهداف المحتملة خلال ثوان.
ويأتي التفاهم وسط منافسة تكنولوجية متصاعدة بين واشنطن وبكين، ومخاوف من تقليص دور الإنسان في اتخاذ القرارات العسكرية الحساسة.
ترامب وشي جين بينج يتفقان على التدخل البشري
كشف وزير الخزانة الأمريكي سكوت بيسنت أن الرئيسين دونالد ترامب وشي جين بينج توصلا إلى تفاهم يقضي بضرورة مشاركة البشر في القرارات العسكرية المرتبطة بالذكاء الاصطناعي، وعدم السماح للأنظمة المتقدمة باتخاذ قرارات مستقلة بشأن العمليات العسكرية الكبرى.
ورغم أهمية الإعلان، لم تتضمن التصريحات تفاصيل عن اتفاق مكتوب أو آليات لتنفيذه، كما لم تحدد طبيعة العمليات المشمولة بالتفاهم أو كيفية مراقبة الالتزام به.
توسع استخدام الذكاء الاصطناعي عسكريا من تحليل صور الأقمار الصناعية والمعلومات الاستخباراتية إلى تحديد الأهداف المحتملة وتقييم التهديدات وتوجيه الطائرات المسيرة ودعم القرارات الميدانية.
وتسمح هذه التقنيات بمعالجة كميات ضخمة من البيانات بسرعة كبيرة، لكنها تثير مخاوف من وقوع أخطاء نتيجة معلومات غير مكتملة أو تصنيف غير دقيق للأهداف، ما قد يؤدي إلى سقوط ضحايا مدنيين أو تصعيد عسكري غير مقصود، وتزداد المخاطر عندما تتفاعل أنظمة آلية متنافسة بسرعة تتجاوز قدرة البشر على التدخل.
هل تكفي الموافقة البشرية لضمان السيطرة؟
يثير التفاهم تساؤلات بشأن مدى فعالية الرقابة البشرية، إذ يمكن للنظام الذكي تحليل المعلومات واختيار الهدف وتحديد توقيت الهجوم، قبل عرض القرار على مسؤول عسكري للموافقة.
وقد تصبح هذه الموافقة شكلية إذا لم يمتلك المسؤول الوقت أو المعلومات الكافية لمراجعة التوصية، وتبرز هنا مشكلة الانحياز للأتمتة، التي تدفع الإنسان إلى الثقة في قرارات الأنظمة التقنية رغم احتمال خطئها.
سباق تسلح ومسؤولية قانونية
يتزامن التفاهم مع سباق دولي لتطوير الأسلحة ذاتية التشغيل، وسط مخاوف من أن تمنح القيود المفروضة على هذه التقنيات تفوقا عسكريا للدول المنافسة، وتناقش الأمم المتحدة تنظيم هذه الأسلحة، فيما تدعو اللجنة الدولية للصليب الأحمر إلى قواعد ملزمة تحظر الأنظمة التي يصعب التنبؤ بسلوكها أو التحكم في آثارها.
ويظل القانون الدولي الإنساني ملزما للدول والقادة بالتمييز بين المدنيين والمقاتلين ومراعاة التناسب، حتى عند استخدام الذكاء الاصطناعي، رغم تعقيدات تحديد المسؤولية عن أخطاء الأنظمة الذكية.
يمثل الإعلان الأمريكي الصيني اعترافا مشتركا بأهمية السيطرة البشرية على القرارات العسكرية، لكنه لا يشكل، وفق المعلومات المعلنة، اتفاقا قانونيا ملزما، وتتوقف فعاليته على وضع معايير واضحة للتدخل البشري، وتحديد القرارات التي لا يجوز تفويضها للأنظمة الآلية، وإنشاء آليات للتحقق من الالتزام بها.
