بعد تحقيق أجرته صحيفة “الغارديان”، قامت شركة “غوغل” بسحب بعض الملخصات الصحية التي تعتمد على الذكاء الاصطناعي، وذلك بسبب احتواء هذه الملخصات على معلومات غير صحيحة ومضللة، وهو ما قد يضر بصحة المستخدمين.
أكدت الشركة أن هذه الملخصات، التي تستخدم الذكاء الاصطناعي التوليدي لتقديم نظرة عامة سريعة على مختلف المواضيع وتظهر في أعلى نتائج البحث، تعتبر بشكل عام “مفيدة” و”موثوقة”، لكنها اعترفت بأن بعض الملخصات المتعلقة بالصحة قدمت معلومات غير دقيقة.
كشف التحقيق عن حالة “خطيرة ومقلقة” حيث قدمت “غوغل” معلومات خاطئة حول اختبارات وظائف الكبد، مما قد يجعل المرضى الذين يعانون من أمراض كبدية خطيرة يعتقدون أن نتائجهم طبيعية.
أفادت “الغارديان” أن البحث عن “المعدل الطبيعي لاختبارات الدم للكبد” أظهر أرقامًا بدون سياق كاف أو مراعاة للاختلافات في الجنس أو العمر أو الحالة الصحية، وهو ما اعتبره الخبراء مضللًا. وحذروا أيضًا من أن ما تصنفه خدمة “نظرة عامة على نتائج فحوصات الكبد” على أنه طبيعي قد يختلف بشكل كبير عن الواقع الطبي، مما قد يؤدي إلى تجاهل المرضى لمواعيد المتابعة الضرورية.
نتيجة لهذا التحقيق، أزالت “غوغل” خدمة “نظرة عامة على نتائج فحوصات الكبد” من نتائج بعض عمليات البحث ذات الصلة، وأكدت أنها تعمل على إجراء تحسينات شاملة في الحالات التي يكون فيها السياق غير كاف، وأنها تتخذ الإجراءات اللازمة وفقًا لسياساتها.
رحبت فانيسا هيبديتش، مديرة الاتصالات في مؤسسة “بريتيش ليفر ترست”، بهذه الخطوة، لكنها أبدت قلقها من احتمال ظهور معلومات مضللة إذا تم طرح الأسئلة بطريقة مختلفة، وحذرت من استمرار المخاطر المرتبطة بالمعلومات الصحية التي ينتجها الذكاء الاصطناعي.
وأشارت الصحيفة إلى أن استخدام عبارات بحث بديلة قد يؤدي إلى ظهور نتائج غير دقيقة، مما أثار مخاوف الخبراء الذين أكدوا أن تفسير اختبارات وظائف الكبد هو عملية معقدة لا يمكن اختزالها في مجرد أرقام.
أكدت “غوغل”، التي تسيطر على حوالي 91% من سوق محركات البحث العالمي، أنها تقوم بمراجعة الأمثلة الجديدة التي قدمتها “الغارديان”، وأكدت أن ملخصات الذكاء الاصطناعي لا تظهر إلا عندما تكون واثقة من جودة الإجابات، وأنها مستمرة في مراجعة الأداء في مختلف المجالات.
من جانبها، رحبت سو فارينغتون، رئيسة منتدى معلومات المرضى، بإزالة هذه الملخصات، لكنها رأت أن هذه الخطوة غير كافية، مؤكدة أن الحفاظ على ثقة الجمهور يتطلب معالجة أوسع لمشكلة دقة المعلومات الصحية التي يقدمها الذكاء الاصطناعي، خاصة وأن ملايين الأشخاص حول العالم يعانون من صعوبة الوصول إلى معلومات صحية موثوقة.
