رعب بين الأطفال بسبب دمية ذكية.. إليكم السبب

الاكتشاف جاء من معمل أمريكي لحماية المستهلك، حيث اتضح أن الدمية تقدم ردودًا خطيرة وغير ملائمة للأطفال.

أطلق مستخدمو وسائل التواصل الاجتماعي عليها اسم “تشاكي GPT”، في إشارة إلى شخصية الدمية المخيفة، وهو لقب لم يكن مبالغًا فيه حسب تقرير موقع “gizmochina”. تعتمد الدمية Kumma، التي تنتجها شركة FoloToy الصينية، على نموذج GPT-4o من “OpenAI” للتفاعل مع الأطفال، ولكن تقرير PIRG الأمريكي كشف عن سلوكيات مقلقة، بما في ذلك إعطاء تعليمات خطيرة لإشعال أعواد الثقاب والتعامل مع أسئلة جنسية دون أي رقابة.

كما حذرت المجموعة من أن الميكروفون الدائم قد يستخدم لتسجيلات الأطفال في عمليات احتيال صوتية. أدى انتشار النتائج على “ريديت” وغيرها إلى تسريع إطلاق لقب “تشاكي GPT”، وسط تكهنات حول إمكانية اختراق النظام.

ردت “OpenAI” بتعليق حساب مطور اللعبة بسبب انتهاك السياسات، مما أوقف وصول الدمية إلى خدمات الشركة. بعد ذلك، أعلنت “FoloToy” عن تعليق بيع الدمية مؤقتًا وإجراء مراجعة شاملة لسلامتها، وأصبحت الدمية معروضة على الموقع بحالة غير متوفرة.

تسلط الحادثة الضوء على مخاطر استخدام نماذج لغوية قوية في ألعاب موجهة للأطفال دون ضوابط صارمة، مما حول الدمية من صديق تعليمي إلى تحذير جديد من مخاطر دمج الذكاء الاصطناعي في الألعاب. (العربية)