Гугл отстрани дел од своите автоматски генерирани резимеа со помош на вештачка интелигенција (AI – artificial intelligence), откако истрага на британскиот магазин „Гардијан“ утврди дека тие содржат неточни и потенцијално опасни здравствени информации.

Станува збор за т.н. ВИ-прегледи (AI Overviews) – кратки информативни резимеа што се појавуваат на врвот од резултатите при пребарување и имаат за цел брзо да им дадат одговор на корисниците. Иако Гугл тврди дека тие се сигурни и корисни, во пракса се покажало дека можат сериозно да ги доведат луѓето во заблуда.

Погрешни информации за тестови на црниот дроб

Еден од најалармантните примери се однесува на крвните тестови за функцијата на црниот дроб. При пребарување за „нормални вредности на тестови за црн дроб“, ВИ-прегледите прикажувале бројки без потребниот медицински контекст – без земање предвид на возраста, полот, етничката припадност или националните здравствени стандарди.

Според експертите, ваквите информации можеле да доведат до тоа лица со сериозно заболување на црниот дроб погрешно да помислат дека резултатите им се нормални и да не побараат понатамошна лекарска помош, што е оценето како „опасно и загрижувачко“.

По објавувањето на истрагата, Гугл ги отстрани ВИ-прегледите за пребарувањата поврзани со нормалните вредности на тестовите за функција на црниот дроб.

Загриженост кај здравствените организации

Од Британската фондација за црн дроб (British Liver Trust) ја поздравија одлуката, но предупредија дека проблемот не е целосно решен. Тие посочуваат дека со мали измени во начинот на пребарување, сè уште може да се појават слични автоматски резимеа со неточни информации.

Дополнително, експертите нагласуваат дека тестовите за функција на црниот дроб не се едноставна споредба на бројки, туку сложен медицински процес кој бара стручно толкување, а ВИ-прегледите не предупредуваат дека и при „нормални“ резултати може да постои сериозно заболување.

Поширок проблем со здравствени содржини

Слична загриженост изразија и од Форумот за информации за пациенти (Patient Information Forum), наведувајќи дека ова е само прв чекор и дека сè уште постојат бројни примери на неточни здравствени информации генерирани од вештачка интелигенција.

И покрај реакциите, автоматските ВИ-прегледи и понатаму се појавуваат за други чувствителни теми, вклучувајќи рак и ментално здравје, за кои експерти тврдат дека во одредени случаи содржат сериозни пропусти.

Голема одговорност

Со оглед на тоа што Гугл контролира околу 91 отсто од глобалниот пазар на интернет-пребарувачи, експертите предупредуваат дека одговорноста за точноста на здравствените информации е огромна.

Како што истакнуваат аналитичарите, кога автоматските резимеа се прикажуваат над класичните резултати, особено кога станува збор за здравје, секоја грешка може да има сериозни последици за корисниците.