الذكاء الاصطناعي في الحروب.. الدكتورة صفاء ناصر الدين تحذر من انتقال القرار العسكري تدريجياً إلى الآلة
رام الله-نساء FM- آية عبد الرحمن -أعاد التفاهم الذي أعلنه وزير الخزانة الأمريكي سكوت بيسنت بشأن اتفاق الرئيس الأمريكي دونالد ترامب ونظيره الصيني شي جين بينغ على إبقاء الإنسان طرفاً أساسياً في القرارات العسكرية المعتمدة على الذكاء الاصطناعي، فتح النقاش الدولي حول حدود استخدام هذه التكنولوجيا في الحروب، ومدى إمكانية إخضاع الأنظمة الذكية للرقابة البشرية، ومنعها من اتخاذ قرارات عسكرية مستقلة قد تهدد حياة البشر.
ويأتي هذا التطور في ظل تسارع توظيف الذكاء الاصطناعي في المجالات العسكرية والأمنية، وتصاعد المنافسة التكنولوجية بين القوى الكبرى، ما يثير تساؤلات بشأن مستقبل الحروب والضوابط القانونية والأخلاقية التي ينبغي أن تحكم استخدام هذه التقنيات.
وقالت الأمين العام لهيئة رئاسة الجامعة في القدس وخبيرة الذكاء الاصطناعي، الدكتورة صفاء ناصرالدين، إن فهم طبيعة هذا التفاهم يتطلب التمييز بين استخدام الذكاء الاصطناعي أداةً مساعدة للإنسان في اتخاذ القرارات، وبين منحه صلاحية اتخاذ القرار بصورة مستقلة، مؤكدة وجود فرق جوهري بين الحالتين، خصوصاً عندما يتعلق الأمر باستخدام القوة العسكرية والقرارات التي تمس حياة البشر.
وأوضحت ناصر الدين أن الذكاء الاصطناعي يمكن أن يؤدي دوراً مهماً في مساعدة المؤسسات العسكرية على تحليل كميات كبيرة من المعلومات، ومراقبة التحركات، والتعرف على الأنماط، وتحديد المواقع المحتملة للأهداف، وتقديم التوصيات للقيادات العسكرية، إلا أن قرار استخدام القوة يجب أن يبقى بيد الإنسان، باعتباره الطرف القادر على ممارسة الحكم والتقدير وتحمل المسؤولية عن النتائج.
الرقابة البشرية لا تعني الحضور الشكلي
وشددت ناصر الدين على أن وجود الإنسان ضمن دائرة اتخاذ القرار لا يكفي بحد ذاته لضمان الرقابة البشرية الفعلية، بل يجب أن يمتلك الوقت والمعلومات والصلاحيات الكافية للاعتراض على القرار أو إيقاف العملية التي يقترحها النظام الذكي.
وأشارت إلى أن منح الإنسان أجزاءً من الثانية للموافقة على قرار اتخذه النظام خلال ثوانٍ يجعل الرقابة البشرية شكلية، ولا يحقق السيطرة الحقيقية المطلوبة.
وفي هذا السياق، أوضحت أن المفهوم الأهم هو أن يكون الإنسان داخل دائرة القرار (In the Loop)، وليس مجرد مراقب للنظام (On the Loop)، بحيث لا يقتصر دوره على متابعة ما تقوم به الآلة والتدخل عند الضرورة، وإنما يكون مشاركاً فعلياً في اتخاذ القرار وقادراً على رفض التوصيات أو وقف تنفيذها.
وأكدت أن وجود الإنسان في غرفة العمليات أو أمام شاشة التحكم لا يعني بالضرورة امتلاكه السيطرة، ما لم تكن لديه صلاحية حقيقية لاتخاذ القرار النهائي.
التفاهمات السياسية لا تضمن الالتزام
وفيما يتعلق بإمكانية ضمان التزام الدول الكبرى بعدم منح أنظمة الذكاء الاصطناعي صلاحيات عسكرية مستقلة، قالت نصر الدين إنه لا يمكن تقديم ضمانة مطلقة بشأن الالتزام بهذه التعهدات، في ظل اعتبار الدول الكبرى الذكاء الاصطناعي جزءاً أساسياً من أمنها القومي وتفوقها العسكري، وما تشهده الساحة الدولية من سباق تكنولوجي واستراتيجي يجعل كل دولة حذرة من التأخر عن منافسيها.
وأضافت أن الاتفاق السياسي على مبادئ عامة لا يكفي لضمان الاستخدام المسؤول لهذه التكنولوجيا، بل لا بد من وضع قواعد دولية واضحة وملزمة، تتضمن آليات للتحقيق والرقابة وإجراءات للمساءلة، على أن تشمل جميع مراحل تطوير الأسلحة المعتمدة على الذكاء الاصطناعي واختبارها ونشرها واستخدامها، وليس فقط مرحلة إطلاقها أو تنفيذ العمليات العسكرية.
وأكدت أن التنافس بين الدول لا ينبغي أن يتحول إلى مبرر للتخلي عن المسؤولية الإنسانية، مشيرة إلى ضرورة ضمان الالتزام بالتعهدات من خلال القانون الدولي والشفافية وآليات الرقابة، إلى جانب وضع إجراءات واضحة لمحاسبة الدول التي لا تلتزم بهذه القواعد.
ولفتت إلى أن التجارب الدولية تظهر أن بعض الدول لا تلتزم بالمعاهدات والاتفاقيات الدولية، الأمر الذي يجعل وجود آليات تنفيذ ومحاسبة أمراً ضرورياً، بدلاً من الاكتفاء بإعلان المبادئ والتفاهمات السياسية.
وأوضحت أن الأمن الحقيقي لا يتحقق بمجرد امتلاك أسلحة أكثر استقلالية من تلك التي يمتلكها المنافسون، بل يتطلب أيضاً ضمان عدم فقدان القدرة البشرية على السيطرة على هذه الأنظمة، مشددة على أهمية تحديد المسؤوليات بصورة واضحة، انطلاقاً من مبدأ أساسي مفاده أنه لا يجوز تحميل الآلة مسؤولية الأخطاء بدلاً من الإنسان أو الدولة التي تقف وراء تطويرها وتشغيلها واستخدامها.
من يتحمل مسؤولية أخطاء الأنظمة الذكية؟
وحول المسؤولية القانونية والأخلاقية في حال ارتكاب أنظمة الذكاء الاصطناعي أخطاء تؤدي إلى سقوط ضحايا، أكدت ناصر الدين أن النظام الذكي لا يمكن اعتباره شخصية قانونية أو اعتبارية تتحمل المسؤولية الجنائية أو الأخلاقية، وبالتالي يجب أن تبقى المسؤولية موزعة وفقاً لدور كل طرف في سلسلة اتخاذ القرار.
وأوضحت أن هناك جهات تعمل على تصميم الأنظمة الذكية وتطويرها وتزويدها بالبيانات، وأطرافاً أخرى تتولى تشغيلها واستخدامها في المؤسسات والجهات العسكرية، إلى جانب الأشخاص الذين يمتلكون صلاحية اتخاذ القرار النهائي.
وبينت أن تحديد المسؤولية يتطلب التحقيق في طبيعة الخطأ، ومدى إمكانية توقع وقوعه، والجهة التي كانت تمتلك القدرة والصلاحية على منعه أو الحد من آثاره.
وشددت على أن تحميل المسؤولية لا يعني افتراض أن كل مطور للنظام مسؤول تلقائياً عن كل خطأ يقع أثناء استخدامه، وإنما ينبغي إجراء تحقيق يحدد طبيعة دور كل طرف ومدى مساهمته في وقوع الخطأ، والقدرة التي كانت متاحة له لتجنبه.
وأضافت أن التوثيق وحفظ سجلات الأنظمة والقرارات يمثلان جزءاً أساسياً من منظومة المساءلة، موضحة أن هذه الإجراءات لا تقتصر على الأنظمة العسكرية المعقدة، بل تُستخدم حتى في الأنظمة الإدارية والجامعية، مثل أنظمة التسجيل التي تتطلب الاحتفاظ بالسجلات لمعرفة مصدر الخطأ والجهة أو الشخص المسؤول عنه.
وأكدت أن وجود سلسلة واضحة للمسؤوليات والتوثيق ضروري لمنع تحول التعقيدات التكنولوجية إلى وسيلة للإفلات من المحاسبة.
التنافس الأمريكي الصيني ومخاطر سباق التسلح
وفي قراءتها لتأثير التنافس الأمريكي الصيني على تطوير الأسلحة والأنظمة العسكرية المعتمدة على الذكاء الاصطناعي، أوضحت نصر الدين أن هذا التنافس لا يقتصر على تطوير نماذج الذكاء الاصطناعي وامتلاك الشرائح الإلكترونية المتقدمة، بل يمتد إلى القدرة على توظيف التكنولوجيا في الاقتصاد والصناعة والأمن والدفاع.
وأشارت إلى أن الذكاء الاصطناعي أصبح عنصراً أساسياً في القوة الاستراتيجية للدول، إذ تمنح القدرة على تحليل المعلومات بصورة أسرع، ودمج البيانات من مصادر متعددة، وتطوير أنظمة دفاعية متقدمة، ميزة عسكرية مهمة للدول التي تمتلك هذه الإمكانيات.
وحذرت من أن المشكلة تبدأ عندما يتحول التنافس التكنولوجي إلى سباق تسلح، إذ تجد كل دولة نفسها مضطرة إلى تطوير أنظمة أكثر استقلالية خوفاً من امتلاك الطرف المنافس أفضلية عسكرية.
وأضافت أن بعض الدول قد تتجه إلى تطوير أنظمة أسرع وأكثر استقلالية، ليس بالضرورة رغبةً في التخلي عن القرار البشري، وإنما خشية التأخر عن منافسيها وفقدان التفوق العسكري.
سرعة الآلة لا تعني صحة القرار
وفيما يتعلق بقدرة الذكاء الاصطناعي على تحليل الأهداف واتخاذ القرارات العسكرية خلال ثوانٍ، أكدت نصر الدين أن العالم يتجه بالفعل نحو بيئة عسكرية تتزايد فيها سرعة اتخاذ القرار، مع قدرة الأنظمة الذكية على معالجة كميات أكبر من المعلومات وتنفيذ إجراءات خلال فترات زمنية قصيرة.
لكنها شددت على ضرورة عدم الخلط بين القدرة على اتخاذ القرار بسرعة والقدرة على اتخاذ القرار الصحيح، موضحة أن الإنسان يمتلك القدرة على فهم السياق وتقدير العواقب الإنسانية ومراجعة القرارات من منظور قانوني وأخلاقي، وهي جوانب لا يمكن اختزالها في تحليل البيانات أو تطبيق المعايير والبرمجيات المحددة مسبقاً.
وأضافت أن أنظمة الذكاء الاصطناعي تعمل وفق البيانات والنماذج والأهداف والمعايير التي يضعها الإنسان، الأمر الذي قد يؤدي تدريجياً إلى وجود الإنسان نظرياً ضمن سلسلة اتخاذ القرار، دون أن يكون صاحب القرار الفعلي على أرض الواقع.
واعتبرت أن هذه النقطة تمثل أحد أبرز المخاطر، إذ يمكن أن تنتقل سلطة اتخاذ القرار من الإنسان إلى الآلة بصورة تدريجية، دون أن ينتبه المستخدمون إلى حجم التراجع في السيطرة البشرية.
غزة تعيد طرح الضوابط الإنسانية والأخلاقية
وأكدت ناصر الدين أن الحل لا يتمثل في وقف تطور الذكاء الاصطناعي أو رفض استخدامه في المجالات العسكرية بصورة مطلقة، بل في توجيه استخداماته نحو المجالات التي يمكن أن تسهم في حماية الإنسان، مثل الدفاع والإنذار المبكر وتقدير المخاطر، وغيرها من الاستخدامات التي تساعد على تحسين الاستجابة وتقليل الأخطار.
وفي المقابل، شددت على ضرورة عدم منح الأنظمة الذكية سلطة مستقلة لاتخاذ قرارات تنهي حياة البشر، مؤكدة أن ما شهدته غزة ومناطق أخرى يعيد طرح هذه القضية بصورة ملحة، ويجعل النقاش حول حدود استخدام الذكاء الاصطناعي في الحروب يتجاوز الجوانب التقنية إلى أبعاد إنسانية وقانونية وأخلاقية.
وأوضحت أن السؤال الذي ينبغي أن يطرحه المجتمع الدولي لا يقتصر على ما إذا كانت الآلة قادرة تقنياً على اتخاذ قرار باستخدام القوة العسكرية، وإنما يتصل بما إذا كان ينبغي السماح لها باتخاذ هذا القرار بصورة مستقلة.
وأكدت أن القرار النهائي يجب ألا يُترك للآلة، مهما بلغت قدرتها على تحليل البيانات وسرعة معالجة المعلومات.
وختمت ناصر الدين بالتأكيد على أن الخطر الحقيقي لا يكمن في أن تصبح الآلات أكثر ذكاءً من الإنسان في تحليل المعلومات، وإنما في أن يصبح الإنسان أقل قدرة على التحكم بالقرارات التي تتخذها هذه الأنظمة، بما يؤدي إلى تراجع السيطرة البشرية على استخدام القوة العسكرية، وتحويل القرارات المرتبطة بحياة البشر إلى نتائج تحكمها الخوارزميات والأنظمة الذكية.
ويعيد هذا النقاش التأكيد على أهمية وضع ضوابط دولية ملزمة تحكم استخدام الذكاء الاصطناعي في المجال العسكري، وتضمن بقاء الإنسان صاحب القرار الفعلي، مع تحديد المسؤوليات القانونية والأخلاقية لجميع الأطراف المشاركة في تطوير هذه الأنظمة وتشغيلها واستخدامها، بما يحول دون تحول التطور التكنولوجي والسباق العسكري إلى تهديد إضافي لحياة الإنسان وحقوقه.