Google отстрани некои од резимеата на вештачката интелигенција што се појавуваат покрај прашањата за пребарување поврзани со здравјето, откако истрагата откри дека некои од тие одговори содржат неточни и потенцијално опасни информации. Експертите предупредуваат за ризиците што лажните совети од вештачката интелигенција можат да ги имаат врз здравјето на корисниците.
Google наводно отстранил некои од своите прегледи на вештачката интелигенција за прашања поврзани со здравјето, откако истрагата открила дека некои од тие резимеа содржат неточни или погрешни информации.
Прегледите на вештачката интелигенција се резимеа генерирани од вештачката интелигенција што се појавуваат на врвот од резултатите од пребарувањето и даваат информации поврзани со дадена тема или прашање.
Истрагата на The Guardian откри дека некои од овие резимеа даваат неточни здравствени информации, што може да ги доведе корисниците во опасност.
На пример, прегледите на вештачката интелигенција честопати нудеа големи количини на броеви без соодветен контекст, одговарајќи на прашања како „Кој е нормалниот опсег на крвни параметри за црниот дроб?“ или „Кој е нормалниот опсег за тестови за функцијата на црниот дроб?“. Исто така, одговорите не ги земаа предвид разликите врз основа на националност, пол, етничка припадност или возраст.
За двата типа прашања, Google прикажа истакнат фрагмент во резултатите од пребарувањето – дел извлечен од најрелевантната страница за даденото прашање. На пример, беа дадени описи за нормалните нивоа на разни супстанции во црниот дроб, како што се аланин трансаминазата (ALT), која го регулира производството на енергија, аспартат аминотрансферазата (AST), која ги детектира оштетените крвни клетки, и алкалната фосфатаза (ALP), која помага во разградувањето на протеините.
Гардијан откри дека Google ги зел бројките од веб-страницата на Max Healthcare, индиска мрежа на приватни болници во Њу Делхи. Забелешка: истакнатите фрагменти се различни од прегледите на вештачката интелигенција бидејќи текстот во нив не е генериран од вештачка интелигенција.
Истрагата, исто така, покажа дека варијациите на прашањето, како што се „lft референтен опсег“ или „lft тест референтен опсег“, сепак генерирале резимеа на вештачката интелигенција. Тестовите за функција на црниот дроб се крвни тестови што мерат протеини и ензими за да проверат колку добро работи црниот дроб.
Гардијан, исто така, објави дека Google им советувал на луѓето со рак на панкреас да избегнуваат храна со висока содржина на масти, што експертите го оцениле како лош совет бидејќи може да го зголеми ризикот од смрт кај пациентите.
Оваа истрага доаѓа во време кога експертите предупредуваат на проблемот со таканаречената „халуцинација“ на чет-ботовите со вештачка интелигенција, односно кога тие измислуваат неточни одговори бидејќи немаат точни информации.
Euronews Next се обиде да добие коментар од Google за тоа дали компанијата ги отстранила прегледите на вештачката интелигенција за некои здравствени прашања, но не доби веднаш одговор.
Google објави за време на викендот дека воведува прегледи на вештачка интелигенција и во својата услуга за е-пошта на Gmail, дозволувајќи им на корисниците да поставуваат прашања и да добиваат одговори за своите е-пораки без да мора да пребаруваат по клучни зборови.
