الخبير أياد الرفاعي يوضح.. هل أصبح الذكاء الاصطناعي أداة للدفاع أم سلاحاً جديداً في الهجمات السيبرانية؟

 

رام الله – نساء FM-اية عبد الرحمن- لم يعد الذكاء الاصطناعي في مجال الأمن السيبراني مجرد أداة لتحليل التهديدات أو تعزيز الحماية الرقمية، إذ بات جزءاً من عملية بناء الأنظمة الرقمية نفسها، في وقت يستخدمه فيه المهاجمون أيضاً لتطوير أساليب أكثر سرعة ودقة في التصيد الإلكتروني والهندسة الاجتماعية وتنفيذ الهجمات، ما يفرض تحديات جديدة تتعلق بحماية الأنظمة وحماية الذكاء الاصطناعي نفسه.

وقال خبير الذكاء الاصطناعي والأمن السيبراني إياد الرفاعي، في حديث لـ"نساء إف إم"، إن فهم العلاقة بين المجالين يتطلب تجاوز النظرة التي تتعامل مع الذكاء الاصطناعي باعتباره مجرد أداة داخل الأمن السيبراني، موضحاً أن الذكاء الاصطناعي أصبح يعيد تشكيل طريقة بناء الأنظمة الرقمية، فيما يأتي الأمن السيبراني لضمان حماية هذه الأنظمة وموثوقيتها واستمرارية عملها.

الذكاء الاصطناعي في بناء الأنظمة وحمايتها

وأوضح الرفاعي أن الذكاء الاصطناعي يمكن استخدامه في بناء الأنظمة الرقمية بصورة أكثر قوة ومتانة، وبالتالي فإن حضوره لا يقتصر على مرحلة حماية النظام بعد بنائه، وإنما يمتد إلى مراحل التصميم والتطوير واتخاذ القرارات المتعلقة بالبنية الرقمية.

وفي الجانب الدفاعي، يستطيع الذكاء الاصطناعي تحليل ملايين الأحداث الأمنية وربط مؤشرات الاختراق ببعضها، إلى جانب المساعدة في تقوية البنية التحتية واكتشاف مؤشرات قد يصعب على الإنسان ملاحظتها أو الربط بينها بالسرعة نفسها.

وأشار إلى أن هذه القدرات تمنح فرق الأمن السيبراني إمكانية التعامل مع كميات كبيرة من البيانات والأحداث الأمنية، وتحليلها بصورة أسرع، بما يعزز قدرتها على اكتشاف المخاطر والاستجابة لها.

المهاجمون يوظفون الذكاء الاصطناعي أيضاً

في المقابل، يمكن توظيف الذكاء الاصطناعي في الجانب الهجومي، بحسب الرفاعي، من خلال إنشاء رسائل تصيد إلكتروني أكثر إقناعاً وتخصيصها وفقاً للضحايا، فضلاً عن تطوير أساليب أكثر تطوراً في الهندسة الاجتماعية والاحتيال والتلاعب، وتسريع مراحل الهجوم وجعلها أكثر تكاملاً.

ويؤكد الرفاعي أن الذكاء الاصطناعي يمثل في هذا السياق أداة ذات استخدام مزدوج، فهو يمنح المدافعين قدرات جديدة، لكنه يمنح المهاجمين أيضاً قدرات إضافية، ما يطرح تساؤلات حول المواقع التي ينبغي أن يُسمح للذكاء الاصطناعي بالوصول إليها، والمناطق التي تحتاج إلى عزل أو قيود واضحة.

وأضاف أن التحدي لا يقتصر على مواجهة الهجوم، وإنما يمتد إلى القدرة على اكتشاف الهجمات التي جرى تطويرها أو تنفيذها بمساعدة الذكاء الاصطناعي، وعدم الاكتفاء بالبحث عن الأنماط التقليدية للهجمات.

المرونة السيبرانية واستمرارية الخدمات

ويرتبط ذلك، وفق الرفاعي، بمفهوم المرونة أو الصمود السيبراني، بحيث تكون المؤسسة قادرة على مواصلة تقديم خدماتها حتى في حال تعرضها لهجوم، وأن تمتلك أدوات وآليات لمراقبة مؤشرات الاختراق والسيطرة عليها والتعامل معها.

وأوضح أن الهدف لا ينبغي أن يقتصر على منع الاختراق، وإنما يجب أن يشمل قدرة المؤسسة على الاستمرار والتعامل مع الهجوم والتعافي منه، بدلاً من أن يؤدي أي هجوم إلى توقف كامل للأنظمة والخدمات.

الإنسان لن يختفي من المنظومة

وفي ظل التطور المتسارع للذكاء الاصطناعي وقدرته على تنفيذ مهام كانت تتطلب في السابق تدخلاً بشرياً، أكد الرفاعي أن العنصر البشري سيبقى حاضراً، موضحاً أن الذكاء الاصطناعي قد يغير طبيعة المهام وطريقة تنفيذها، لكنه لا يلغي الحاجة إلى الإنسان، خصوصاً في عمليات التدخل واتخاذ القرارات.

وأشار إلى أن الحديث عن احتمال اختفاء بعض الوظائف أو المهام لا يعني اختفاء الإنسان من المنظومة، وإنما يشير إلى تغير طبيعة العمل، والحاجة إلى تطوير المهارات وفهم الأدوات الجديدة واستخدامها بصورة صحيحة.

الثقة بالقرارات والإنذارات الخاطئة

وحول أبرز التحديات المرتبطة بدمج الذكاء الاصطناعي في الأمن السيبراني، أوضح الرفاعي أن أحد أبرزها يتمثل في الطبيعة مزدوجة الاستخدام لهذه التقنية، إلى جانب تحدي الثقة بالقرارات التي تنتج عنها.

وأشار إلى ضرورة التعامل مع احتمالات الإنذارات الخاطئة، أو ما يعرف بـ"False Positive"، وكذلك احتمال عدم اكتشاف بعض التهديدات الحقيقية، أو "False Negative"، باعتبارها عوامل يجب أخذها في الاعتبار عند الاعتماد على الذكاء الاصطناعي في عمليات الأمن السيبراني.

الذكاء الاصطناعي نفسه أصبح هدفاً للهجمات

لكن التحدي الأحدث، وفق الرفاعي، يتمثل في أن الهجمات لم تعد تستهدف الشبكات والخوادم والأجهزة فقط، وإنما بدأت تستهدف الذكاء الاصطناعي نفسه.

وأوضح أن المؤسسات أصبحت مطالبة، إلى جانب حماية بنيتها التحتية الرقمية، بحماية نماذج الذكاء الاصطناعي التي تستخدمها، والبيانات التي تعتمد عليها، والأوامر التي تستجيب لها، والأنظمة والأدوات التي ترتبط بها.

وأشار إلى أمثلة من بينها "Prompt Injection"، أو حقن الأوامر، و"Data Poisoning"، أو تسميم البيانات، وهي أساليب يمكن من خلالها محاولة التأثير على النموذج عبر الأوامر أو البيانات التي يتعامل معها.

الوكلاء الأذكياء وسطح هجوم جديد

وتزداد المخاطر، بحسب الرفاعي، عندما يكون نموذج الذكاء الاصطناعي أو الوكيل الذكي مرتبطاً بأنظمة أو بيانات أو أدوات خارجية، إذ يمكن للمهاجم محاولة استغلال هذه الروابط للتأثير على النموذج وتوجيهه نحو تنفيذ أوامر لا ينبغي أن ينفذها.

وقد يصل الأمر، وفق الرفاعي، إلى استغلال وكيل الذكاء الاصطناعي نفسه في محاولة مهاجمة البنية التحتية، بما يحول الذكاء الاصطناعي من أداة تستخدمها المؤسسة لحماية أنظمتها إلى جزء من المساحة التي يمكن للمهاجم استغلالها.

وبذلك يصبح الذكاء الاصطناعي، في الوقت نفسه، أداة أمنية يمكن استخدامها للدفاع، وسطحاً جديداً للهجوم، ما يفرض إعادة التفكير في مفهوم الحماية ليشمل النماذج والبيانات والأوامر والأنظمة المرتبطة بها، وليس الشبكات والخوادم والأجهزة فقط.

مهارات جديدة وحوكمة للذكاء الاصطناعي

وفيما يتعلق بالمهارات المطلوبة خلال المرحلة المقبلة، يرى الرفاعي أن امتلاك المعرفة الأساسية بكيفية استخدام الذكاء الاصطناعي أصبح ضرورياً للمختصين، إلى جانب معرفة الأدوات المتاحة وكيفية استخدامها في الجانب الدفاعي، وفهم كيفية توظيفها في الجانب الهجومي.

وشدد على أهمية حوكمة الذكاء الاصطناعي، بحيث لا يكون استخدام التقنية منفصلاً عن قواعد واضحة تحدد طريقة استخدامها، والمسؤوليات المرتبطة بها، والحدود التي يجب أن تقف عندها.

كما أكد أهمية وجود نضج مؤسسي داخلي في مجال الحوكمة، بحيث لا يؤدي الاعتماد على الذكاء الاصطناعي إلى إقصاء الإنسان أو الاستغناء عنه، وإنما إلى استخدامه كأداة تساعد الإنسان في الأمن السيبراني وتطوير الأنظمة وبنائها.

نحو تحول رقمي أكثر مرونة

ويرى الرفاعي أن الهدف في النهاية يتمثل في استخدام الذكاء الاصطناعي كأداة تساعد على بناء تحول رقمي أكثر مرونة وشفافية، مع الحفاظ على قدرة الإنسان على التدخل واتخاذ القرار، وعدم التعامل مع مخرجات الذكاء الاصطناعي باعتبارها صحيحة بصورة مطلقة أو غير قابلة للمراجعة.

وبين استخدام الذكاء الاصطناعي لتحليل ملايين الأحداث الأمنية وربط مؤشرات الاختراق وتقوية البنية التحتية، واستخدامه من قبل المهاجمين لتطوير رسائل التصيد والهندسة الاجتماعية وتسريع الهجمات، تتغير طبيعة المواجهة في الفضاء الرقمي.

ولا يتوقف التحدي عند مواجهة هجمات تستخدم الذكاء الاصطناعي، بل يمتد إلى حماية الذكاء الاصطناعي نفسه من الهجمات التي تستهدف نماذجه وبياناته وأوامره والأنظمة المرتبطة به، في وقت تصبح فيه المرونة السيبرانية واستمرارية الخدمات جزءاً أساسياً من قدرة المؤسسات على التعامل مع المخاطر الجديدة.

وفي ظل هذا الواقع، يرى الرفاعي أن المطلوب ليس الابتعاد عن الذكاء الاصطناعي، وإنما فهمه بصورة أعمق، ومعرفة أين يمكن استخدامه، وأين ينبغي الحد من استخدامه، وكيفية حوكمته وحماية النماذج التي تعتمد عليها المؤسسات، مع إبقاء الإنسان في قلب عملية التدخل واتخاذ القرار.