أخطاء ذكاء اصطناعي.. جوجل تواجه انتقادات بسبب نتائج مضللة تظهر للمستخدمين

محتوى مضلل من AI Overviews بات يتصدر واجهة التحديات التقنية التي تواجهها شركة جوجل في الآونة الأخيرة؛ حيث كشف تحقيق موسع لصحيفة ذا جارديان البريطانية عن ثغرات أمنية ومعلوماتية في أداة الذكاء الاصطناعي التوليدي التي تقدم ملخصات مباشرة للمستخدمين؛ إذ أظهرت النتائج أن التقنية قد تنزلق نحو تقديم بيانات غير دقيقة في قضايا طبية بالغة الحساسية، وهو ما يضع حياة الأفراد في مهب الريح نتيجة الاعتماد الكلي على خوارزميات قد تخطئ في تحليل المحتوى الطبي المعقد.

مخاطر صحية ناتجة عن محتوى مضلل من AI Overviews

رصد الخبراء والمحللون حالات واقعية قدمت فيها الأداة نصائح طبية وصفت بالخطيرة؛ فقد وجهت المصابين بسرطان البنكرياس بضرورة تجنب الأطعمة الغنية بالدهون، وهو أمر ينسف البروتوكولات العلاجية الحالية وقد يعجل بوفاة المريض لعدم حصوله على الطاقة اللازمة؛ ولم يتوقف الأمر عند هذا الحد بل شملت البيانات الخاطئة فحوصات سرطان النساء ووظائف الكبد، مما يمنح المستخدم شعورًا وهميًا بالسلامة الصحية ويجعله يتجاهل زيارة الطبيب المختص رغم ظهور أعراض تستدعي التدخل الفوري، وهذه الفجوة المعرفية تعزز وجود محتوى مضلل من AI Overviews يحتاج لرقابة بشرية صارمة لمنع وقوع كارثة طبية غير محسوبة النتائج.

موقف شركة جوجل من أزمة محتوى مضلل من AI Overviews

تدافع الشركة عن ابتكارها مؤكدة أن أغلب المعلومات المسردة تتسم بالدقة والموثوقية العالية؛ لأن الأنظمة تستقي بياناتها من مصادر طبية وعلمية موثوقة في الفضاء الرقمي؛ ومع ذلك أقرت بوجود احتمالات لظهور نتائج غير دقيقة بسبب التفسيرات الخاطئة للسياق، وهي تعمل وفق الجدول التالي على توضيح الفروقات الحالية:

المنظمات العالمية ومواجهة محتوى مضلل من AI Overviews

تصاعدت حدة التحذيرات من قبل الهيئات الصحية العالمية التي ترى في غياب الرقابة على هذه التقنيات خطرًا داهمًا على الصحة العامة؛ حيث تطالب هذه المنظمات بوضع أطر قانونية ومعايير فنية صارمة تضمن مراجعة دقيقة لجميع الملخصات التي تمس حياة البشر، مشيرة إلى الحاجة الماسة لاتباع الخطوات التالية لضمان السلامة:

• التحقق من صحة المصادر الطبية قبل عرض الملخص.
• إضافة تنبيهات واضحة للمستخدم حول طبيعة المعلومات الاسترشادية.
• تعزيز التعاون مع الخبراء البشريين لمراجعة البيانات الحساسة.
• تقليص الاعتماد على الأداة في الحالات الطبية الطارئة والحرجة.
• تطوير خوارزميات قادرة على تمييز التناقضات في الدراسات العلمية.

ويبقى الرهان الحالي متمحورًا حول قدرة شركات التقنية على الموازنة بين سرعة توفير المعلومة ودقتها المطلقة؛ فلا تزال التكنولوجيا تمر بمرحلة انتقالية تتطلب حذرًا شديدًا من جانب الجمهور؛ خاصة مع استمرار ظهور محتوى مضلل من AI Overviews يثبت أن العقل البشري يظل المرجع الأول والأخير في اتخاذ القرارات المصيرية المتعلقة بالصحة والحياة.