Google го отстрани дел од своите AI Overviews за здравствени прашања, откако истрага на „The Guardian“ откри неточни и понекогаш ризични информации. AI Overviews се автоматски резимеа на теми што се прикажуваат на врвот од резултатите на пребарување, но истражувањето покажа дека тие можат да даваат лажни или контекстуално погрешни податоци.
Примери вклучуваат бројки за нормални вредности на тестови за функција на црниот дроб, без да се земат предвид фактори како возраст, пол, етничка припадност или здравствена состојба. Некои препораки, како избегнување на масти кај пациенти со панкреасен карцином, биле сметани за потенцијално штетни од експертите.
Ова истражување ја потсетува јавноста на ризиците од „халуцинации“ на AI-ботови – кога тие измислуваат одговори без точни информации. Google истовремено го проширува користењето на AI Overviews и во Gmail, овозможувајќи автоматски одговори на прашања поврзани со е-пошта.
