غوغل تزيل ملخصات صحية يولدها الذكاء الاصطناعي بعد تحذيرات من معلومات “خطيرة”

اتخذت شركة غوغل خطوة احترازية بإزالة عدد من الملخصات الصحية التي ينتجها الذكاء الاصطناعي من نتائج البحث، بعد تحقيقات كشفت عن احتوائها على معلومات غير دقيقة قد تُربك المستخدمين وتؤثر على قراراتهم الصحية.

وتعتمد ميزة AI Overviews على الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة حول الأسئلة الطبية، إلا أن صحيفة غارديان البريطانية نقلت عن خبراء وصفهم بعض هذه الملخصات بأنها “خطيرة” و“مقلقة”، بعدما قدّمت معلومات مغلوطة عن اختبارات وظائف الكبد، ما قد يدفع مرضى يعانون من أمراض خطيرة للاعتقاد بأن نتائجهم طبيعية.

وأظهر التحقيق أن البحث عن عبارة “ما هو المعدل الطبيعي لفحوصات دم الكبد” أدى إلى عرض أرقام بلا سياق طبي كافٍ، ودون مراعاة عوامل أساسية مثل العمر والجنس والجنسية والعرق، وهو ما قد يضلل المرضى ويؤخر حصولهم على الرعاية اللازمة.

وعقب هذه الانتقادات، أزالت غوغل الملخصات المتعلقة بـ “المعدل الطبيعي لفحوصات دم الكبد” و“اختبارات وظائف الكبد”، فيما أكد متحدث باسم الشركة أن غوغل تعمل على تحسينات عامة عند افتقار الملخصات للسياق الطبي الكافي.

من جانبها، وصفت فانيسا هيبدتش، مديرة الاتصالات والسياسات في مؤسسة British Liver Trust، الخطوة بأنها “خبر ممتاز”، لكنها حذّرت من أن إعادة صياغة السؤال قد يعيد ظهور ملخصات مضللة أخرى، مؤكدة أن بعض المعلومات الصحية التي ينتجها الذكاء الاصطناعي لا تزال “غير دقيقة وخطيرة”.

وأشار التحقيق إلى أن ملخصات الذكاء الاصطناعي ما زالت تظهر في موضوعات حساسة مثل السرطان والصحة النفسية، رغم تحذيرات الخبراء من أخطاء “جسيمة” في بعض الإجابات.

وتؤكد غوغل أن الملخصات تعتمد على مصادر موثوقة، وأن فريقاً من الأطباء راجع المحتوى ووجد أن المعلومات “غير دقيقة في كثير من الحالات لكنها مدعومة بمواقع عالية الجودة”، مع التشديد على ضرورة طلب المشورة الطبية المتخصصة عند الحاجة.