وترى الشركة أن بعض المستخدمين يخوضون محادثات عميقة وعاطفية مع التطبيق، في محاولة للتعبير عن مشاعر الضيق أو البحث عن مستمع، دون أن يدركوا أن النموذج لا يمتلك أي مشاعر أو وعي أو تفاعل عاطفي، بل يعتمد فقط على توليد اللغة.
ويوضح خبراء الصحة النفسية أن هذا النوع من التفاعل قد ينشئ علاقة زائفة، حيث يعتقد المستخدم أنه يتحدث إلى طرف يشاركه المشاعر أو يتعاطف معه، بينما هو في الواقع يتحدث إلى نظام خوارزمي غير قادر على الإحساس أو المشاركة الوجدانية.
ويرى متخصصون أن استخدام “تشات جي بي تي” كمنصة للتنفيس عن المشاعر قد يؤدي إلى إهمال الدعم الحقيقي من الأهل والأصدقاء أو المعالجين، بالإضافة إلى المخاطر المتعلقة بخصوصية البيانات، حيث يمكن استخدام المحادثات في التحليل أو لأغراض تجارية.
ويؤكد الخبراء أن الدعم الإنساني المباشر يظل عنصرًا لا يمكن الاستغناء عنه، لأن المشاركة الوجدانية والحضور العاطفي يتطلبان إنسانًا يفهم التجربة ويشاركها. أما الذكاء الاصطناعي، فهو مجرد أداة مساعدة، ولكنه ليس صديقًا ولا بديلًا عن العلاج النفسي.
