بكين-نساء FM-  تفرض الصين لأول مرة قواعد صارمة على برامج الذكاء الاصطناعي لتجنب المخاطر

و صنَّفت السلطات في الصين الذكاء الاصطناعي كتهديد محتمل كبير، وأضافته إلى جانب الزلازل والأوبئة إلى خطتها الوطنية للاستجابة للطوارئ.

كما أفادت السلطات الصينية بإزالة 3500 منتج ذكاء اصطناعي غير قانوني، بما في ذلك تلك التي تفتقر إلى تصنيف محتوى الذكاء الاصطناعي، خلال الفترة من أبريل إلى يونيو 2025.

و نشرت صحيفة "وول ستريت" تقريرًا سلط الضوء على قلق الصين من تهديد الذكاء الاصطناعي لحكم الحزب الحاكم ؛ لذا تسعى إلى اتخاذ خطوات استثنائية لإبقاء الأوضاع تحت السيطرة.

وأوضح التقرير أنه على الرغم أن الحكومة الصينية ترى أن الذكاء الاصطناعي بالغ الأهمية لمستقبل البلاد الاقتصادي والعسكري، فإن اللوائح وعمليات التطهير الأخيرة للمحتوى الإلكتروني تظهر مخاوف الحكومة من أن يزعزع الذكاء الاصطناعي استقرار المجتمع.

وفي نوفمبر الماضي، وضعت الصين قواعد رسمية كانت تعمل عليها مع شركات الذكاء الاصطناعي لضمان تدريب برامج الدردشة الآلية على بيانات مُفلترة من المحتوى الحساس سياسيًّا، واجتيازها اختبارًا أيديولوجيًّا قبل نشرها. 

وأعلنت السلطات مؤخرًا أنها أزالت 960 ألف محتوى اعتبرته غير قانوني أو ضار، مُولّد بواسطة الذكاء الاصطناعي، خلال حملة إنفاذ استمرت ثلاثة أشهر. وقد صنّفت السلطات رسميًّا الذكاء الاصطناعي كتهديد محتمل كبير، وأضافته إلى جانب الزلازل والأوبئة إلى خطتها الوطنية للاستجابة للطوارئ.

وبحسب التقرير، لا ترغب السلطات الصينية في فرض قيود مفرطة، حتى لا تقضي على الابتكار، لكنها تحاول اتخاذ الإجراءات لمنع تعرضها للخطر، وللاستمرار في سباق الذكاء الاصطناعي العالمي مع الولايات المتحدة، التي تتبنى نهجًا أقل تدخلًا في مراقبة الذكاء الاصطناعي.

صرّح الرئيس الصيني "شي جين بينغ" بأن الذكاء الاصطناعي يُشكّل "مخاطر غير مسبوقة". ووصف أحد مساعديه الذكاء الاصطناعي بدون وسائل أمان بأنه أشبه بالقيادة على طريق سريع بدون مكابح.

ونوه التقرير بأن النماذج الصينية تحقق نتائج جيدة في التصنيفات الدولية، سواءً بشكل عام أو في مجالات محددة، مثل: برمجة الحاسوب.

ويقول باحثون من خارج الصين، ممن راجعوا النماذج الصينية والأمريكية، إن النهج التنظيمي الصيني له بعض المزايا؛ فبرامج الدردشة الآلية الصينية غالبًا ما تكون أكثر أمانًا وفقًا لبعض المعايير؛ إذ تحتوي على قدر أقل من العنف والمواد الإباحية، كما أنها أقل عرضة لدفع الناس إلى إيذاء أنفسهم.

ويقول احد الباحثين في مجال الذكاء الاصطناعي الصيني ان هناك أشخاصًا في يهتمون بشدة بالآثار الاجتماعية الأخرى للذكاء الاصطناعي، وخاصة على الأطفال. وقد يؤدي ذلك إلى إنتاج النماذج لمحتوى أقل خطورة في جوانب معينة.

وأضاف التقرير أن الاختبارات الحديثة تُظهر أنه بالمقارنة مع روبوتات الدردشة الأمريكية، فإن الروبوتات الصينية التي يتم الاستفسار عنها باللغة الإنجليزية يُمكن اختراقها بسهولة كبرى، وهي عملية يتجاوز فيها المستخدمون الفلاتر باستخدام حيل،

ولفهم نظام الصين للتحكم في روبوتات الدردشة والمحتوى المُولّد بالذكاء الاصطناعي، تخيّل الذكاء الاصطناعي كمطبخ مطعم. المدخلات هي المكونات: بيانات التدريب من الإنترنت ومصادر أخرى. والمخرجات هي الطبق: إجابات روبوت الدردشة.

وتجدر الإشارة إلى أن الصين وضَّحت معايير الذكاء الاصطناعي في وثيقة أصدرتها، وتم تطبيقها رسميًّا الشهر الماضي، وقد صاغها منظمو الفضاء الإلكتروني، وشرطة الأمن السيبراني، والمختبرات الحكومية، وشركات الذكاء الاصطناعي الصينية الرائدة، وتنص الوثيقة على أنه يجب على مختبرين بشريين من شركات الذكاء الاصطناعي تقييم 4000 عينة بيانات تدريبية عشوائيًّا لكل نوع من أنواع المحتوى التي يمكن لذكائهم الاصطناعي التعامل معها، مثل النصوص والفيديوهات والصور.

ولا يُسمح للشركات باستخدام أي مصدر ما لم يُعتبر 96% على الأقل من محتواه آمنًا، ولتحديد ما يُعتبر "غير آمن"، حددت اللوائح 31 خطرًا. 

وتشمل المخاطر الأخرى المصادر التي تروج للعنف أو المعلومات المضللة أو التمييز، والمحتوى الذي يستخدم صورة شخص ما دون إذنه.

وتنص اللوائح على اختبار برامج الدردشة الآلية بـ 2000 سؤال وتحديثها بانتظام مرة واحدة على الأقل شهريًّا. ويُعَد التحضير لهذا الاختبار شاقًّا للغاية لدرجة أنه أدى إلى ظهور صناعة متخصصة من الوكالات التي تساعد شركات الذكاء الاصطناعي على اجتيازه.

ومن المفترض أن تختبر شركات الذكاء الاصطناعي برامج الدردشة الآلية الخاصة بها. 

وبعد اجتياز اختبار الإطلاق، تخضع برامج الدردشة الآلية لاختبارات مفاجئة من الفروع المحلية لهيئة إدارة الفضاء الإلكتروني الصينية.

ويمكن للحكومة إيقاف البرامج التي تخالف القواعد فورًا. وأفادت السلطات بإزالة 3500 منتج ذكاء اصطناعي غير قانوني، بما في ذلك تلك التي تفتقر إلى تصنيف محتوى الذكاء الاصطناعي، خلال الفترة من أبريل إلى يونيو.

ويحق للحكومة إيقاف البرامج التي تخالف القواعد فورًا. وهناك طبقة أمان إضافية؛ إذ تشترط لوائح المراقبة على مستخدمي الذكاء الاصطناعي التسجيل برقم هاتف أو هوية وطنية، ما يُلغي إمكانية إخفاء الهوية. وفي حال محاولة أي شخص إنشاء محتوى غير قانوني، يتعين على شركات الذكاء الاصطناعي تسجيل المحادثة، وتعليق الخدمة، وإبلاغ السلطات.

كما أصدرت هيئة الفضاء الإلكتروني الصينية مسودة قواعد لتشديد الرقابة على خدمات الذكاء الاصطناعي المصممة لمحاكاة الشخصيات البشرية والتفاعل العاطفي مع المستخدمين.

وتؤكد هذه الخطوة جهود بكين للسيطرة على الانتشار السريع لخدمات الذكاء الاصطناعي المقدمة للجمهور من خلال تشديد معايير السلامة والأخلاقيات.

وستطبق القواعد المقترحة على منتجات وخدمات الذكاء الاصطناعي المقدمة للمستهلكين في الصين والتي تعرض سمات شخصيات بشرية، وأنماط تفكير، وأساليب تواصل يتم محاكاتها، وتتفاعل مع المستخدمين عاطفيًا عبر النصوص أو الصور أو الصوت أو الفيديو أو غيرها من الوسائل.

وتحدد المسودة نهجًا تنظيميًا يلزم مقدمي الخدمات بتحذير المستخدمين من الاستخدام المفرط، والتدخل عندما تظهر على المستخدمين علامات الإدمان.

وتحدد هذه الإجراءات الخطوط الحمراء للمحتوى والسلوك، وتنص على أنه يتعين ألا ينشئ مقدمو الخدمات محتوى من شأنه تهديد الأمن القومي، أو نشر الشائعات، أو الترويج للعنف أو الفحش