محادثة تقود امرأة للسجن.. هل يبلغ الذكاء الاصطناعي عن مستخدميه؟

 

 

رام الله-نساء FM-تكشف تطبيقات الذكاء الاصطناعي كل يوم عن جوانب غير متوقعة من آليات عملها، إذ تراقب أنظمة هذه التطبيقات المحادثات والطلبات، وتحلل محتواها، وقد تصل في بعض الحالات إلى إبلاغ السلطات عن مستخدمين يُشتبه في أنهم يشكلون خطرًا على أنفسهم أو الآخرين، بناءً على ما يكتبونه من نوايا أو تهديدات.

وتسلط قضية امرأة أميركية من ولاية فلوريدا الضوء على هذه المسألة، بعدما أدت محادثاتها مع روبوت الذكاء الاصطناعي "كلود" التابع لشركة أنثروبيك إلى فتح تحقيق أمني انتهى باعتقالها.

رصد محادثة مع تطبيق كلود

وبدأت القضية بعدما رصدت الشركة محادثات أجرتها المرأة مع التطبيق، تضمنت تهديدات باستهداف مكتب شرطة مقاطعة لي. وانتقلت المحادثات من أنظمة الأمان الآلية إلى المراجعة البشرية، ثم إلى سلطات إنفاذ القانون، وصولًا إلى توقيف المرأة.

وكشفت تقارير الشرطة أن كارلي ميشيل هيلر، البالغة من العمر 30 عامًا والمقيمة في بونيتا سبرينغز بولاية فلوريدا، كانت تستخدم "كلود" لتدوين أفكارها اليومية، وتتعامل مع المحادثات باعتبارها مساحة لتسجيل ما يدور في ذهنها، قبل أن تتحول إحدى رسائلها إلى محور تحقيق أمني. وحددت التحقيقات يوم 26 سبتمبر/ أيلول نقطة تحول في القضية، بعدما كتبت هيلر رسالة تضمنت، وفقًا لمحضر الاعتقال، تهديدًا بإطلاق النار داخل مكتب شرطة مقاطعة لي. ولم تتوقف الرسائل عند هذا الحد، إذ ظهرت في اليوم التالي رسالة أخرى من الحساب نفسه تضمنت مؤشرات على امتلاكها سلاحًا جديدًا، إلى جانب عبارات اعتبرتها الشرطة تهديدًا إضافيًا.

متابعة محتويات العنف

وتعتمد منصات الذكاء الاصطناعي على أنظمة آلية لرصد أنواع محددة من المحتوى الذي قد يرتبط بالعنف أو بالاستخدامات المحظورة. وتعمل هذه الأنظمة على تحديد المحادثات التي تتضمن مؤشرات تستدعي مراجعة إضافية، وقد تنتقل بعض الحالات إلى المراجعة البشرية عندما ترى المنصة أن المحتوى يتطلب فحصًا يتجاوز المراقبة الآلية.

وفي هذه القضية، رصدت أنظمة الأمان في "كلود" الرسائل التي تضمنت العبارات موضع التحقيق، وصنفت محتوى المحادثة على أنه قد يشير إلى خطر مرتبط بالعنف، ما أدى إلى إحالتها للمراجعة البشرية.

وبعد مراجعة المحادثة، تعاملت شركة أنثروبيك مع القضية باعتبارها تستدعي التواصل مع سلطات إنفاذ القانون، وأبلغت السلطات بالمعلومات المتعلقة بالتهديدات الواردة في الحساب، لتبدأ الشرطة إجراءاتها بحق صاحبة المحادثة. وتولى محقق استخباراتي من مكتب شرطة مقاطعة لي متابعة تفاصيل الواقعة، قبل أن تتوجه الشرطة إلى منزل هيلر في بونيتا سبرينغز وتعتقلها من دون وقوع حوادث. واستكمل المحققون إجراءات القضية، ووُجهت إليها تهمة توجيه تهديد مكتوب بالعنف. وأصبحت المحادثات التي أجرتها هيلر مع "كلود" جزءًا من المعلومات التي اعتمد عليها التحقيق لتحديد طبيعة الواقعة.

وأثارت القضية تفاعلًا واسعًا على منصات التواصل الاجتماعي، وسط تساؤلات بشأن حدود الخصوصية عند استخدام تطبيقات الذكاء الاصطناعي لتدوين الأفكار الشخصية، والآليات التي تميز بها هذه التطبيقات بين المحادثات التي تمثل خطرًا فعليًا وتلك التي تندرج في إطار الحديث العام أو التعبير عن الأفكار الشخصية.

كيف يتم نقل المحادثات للشرطة؟

وأوضحت وسائل إعلام أميركية أن انتقال محادثة إلى المراجعة البشرية لا يعني بالضرورة أن كل رسالة مثيرة للقلق تُحال تلقائيًا إلى الشرطة، إذ تعتمد الإجراءات على مستوى الخطر وطبيعة المحتوى والبروتوكولات التي تتبعها الشركة.

كما تختلف آلية التعامل مع الحالات التي تتضمن تهديدات مباشرة عن التعامل مع المحادثات التي تقتصر على الحديث العام أو التعبير عن الأفكار الشخصية.

وعلى منصات التواصل الاجتماعي، علّق رافي موهان على الواقعة قائلًا: "عندما تسلّم أفكارك طوعًا إلى طرف ثالث، فلا تتفاجأ إذا اتصل بالشرطة".

وكتب جون أن شركتي أنثروبيك وأوبن إيه آي تتسمان بالشفافية بشأن هذه الممارسات، شأنهما شأن المنصات الكبرى الأخرى، مشبهًا الأمر بالتزام المعالج النفسي بالإبلاغ عن نية ارتكاب جريمة خطيرة.

وتساءلت أنجي عن المرحلة التي قد يصبح فيها استخدام الذكاء الاصطناعي لتدوين اليوميات الشخصية جريمة، فيما رأى كودي فينويك أنه لو لم تبلغ الشركة الشرطة، ثم أقدمت المرأة فعلًا على إطلاق النار داخل مكتب الشرطة، لكان عنوان الأخبار على الأرجح أن أنثروبيك تلقت تحذيرًا بشأن احتمال وقوع إطلاق نار، لكنها لم تفعل شيئًا. وتعيد القضية بذلك طرح أسئلة بشأن التوازن بين حماية الخصوصية والاستجابة للتهديدات المحتملة، ومسؤولية شركات الذكاء الاصطناعي عندما ترصد محادثات قد تشير إلى خطر على الآخرين.