أصدرت هيئة الفضاء الإلكتروني الصينية مشروع قوانين جديدة تهدف إلى تعزيز الرقابة على خدمات الذكاء الاصطناعي التي صُممت لتقليد الشخصيات البشرية والتفاعل عاطفياً مع المستخدمين. تلزم هذه القواعد الجديدة مقدمي الخدمات بضمان الجوانب الأخلاقية والأمنية والشفافية في خدماتهم.
في بيان نشرته على موقعها الإلكتروني، أوضحت الهيئة الصينية أنه يجب إعلام المستخدمين بأنهم يتفاعلون مع الذكاء الاصطناعي عند تسجيل الدخول إلى الخدمة، ومرة كل ساعتين، أو عند ظهور أي علامات تدل على الاعتماد الزائد على هذه التقنية.
تعكس هذه الخطوة الجهود التي تبذلها بكين للتحكم في التوسع السريع لخدمات الذكاء الاصطناعي المتاحة للجمهور، وذلك عن طريق فرض معايير أكثر صرامة تتعلق بالسلامة والأخلاقيات.
ستطبق القواعد المقترحة على منتجات وخدمات الذكاء الاصطناعي التي تُقدم للمستهلكين في الصين، والتي تعرض خصائص شخصية بشرية، وأنماط تفكير، وأساليب تواصل مُحاكاة، وتتفاعل مع المستخدمين عاطفياً عبر النصوص، أو الصور، أو الصوت، أو الفيديو، أو أي وسيلة أخرى.
يحدد المشروع الجديد منهجاً تنظيمياً يلزم مقدمي الخدمات بتحذير المستخدمين من الإفراط في الاستخدام، والتدخل عند ظهور علامات الإدمان على المستخدمين.
وفقاً لهذا المقترح، سيتحمل مقدمو الخدمات مسؤولية السلامة طوال دورة حياة المنتج، وسيكون عليهم وضع أنظمة لمراجعة الخوارزميات، وأمن البيانات، وحماية المعلومات الشخصية.
تحدد هذه الإجراءات أيضاً الخطوط الحمراء للمحتوى والسلوك، وتنص على أنه يجب ألا يقوم مقدمو الخدمات بإنشاء محتوى يهدد “الأمن القومي” أو ينشر “الشائعات” أو يروج “للعنف” أو “الفحش”.
تولي الصين أهمية كبيرة للذكاء الاصطناعي باعتباره صناعة استراتيجية، وتستثمر بشكل مكثف في التقنيات الجديدة لدعم النمو الاقتصادي وتعزيز القدرة التنافسية العالمية. وفي الوقت نفسه، تحرص السلطات على الحفاظ على الحوكمة لضمان الأمن والاستقرار الاجتماعي.
بحسب مسودة المقترحات، يجب على مزودي الخدمات إجراء تقييم أمني وتقديم تقرير إلى “إدارة الفضاء الإلكتروني في المقاطعة” في حال إطلاق أي ميزات ذكاء اصطناعي تحاكي البشر. كما سيُطلب تقديم تقرير للخدمات التي تحصل على “مليون مستخدم مسجل” أو “100 ألف مستخدم نشط شهرياً”.
