Googleova značajka AI Overviews, koja korisnicima nudi sažete odgovore generirane umjetnom inteligencijom, češće se oslanja na YouTube nego na specijalizirane medicinske internetske stranice kada odgovara na pitanja o zdravstvenim stanjima. Na to upozorava novo njemačko istraživanje, koje otvara ozbiljna pitanja o pouzdanosti alata koji mjesečno koristi oko dvije milijarde ljudi, piše The Guardian.
Iako Google tvrdi da su njegovi AI sažeci „pouzdani“ te da se oslanjaju na ugledne izvore poput američkih Centara za kontrolu i prevenciju bolesti (CDC) i klinike Mayo, rezultati istraživanja pokazuju drugačiju praksu.
YouTube najčešći izvor u AI sažecima
Studiju su proveli istraživači iz tvrtke SE Ranking, platforme za optimizaciju internetskih tražilica, analizirajući više od 50.000 zdravstvenih upita prikupljenih putem Google pretraživanja u Berlinu. Rezultati su pokazali da je YouTube bio najčešće citirani izvor, s udjelom od 4,43 % svih citata u AI Overviews.
„Ovo je važno jer YouTube nije medicinski izdavač“, naveli su istraživači. „To je video platforma opće namjene. Svatko tamo može učitati sadržaj (npr. liječnici s certifikatom, bolnički kanali, ali i wellness influenceri, životni treneri i kreatori bez ikakve medicinske obuke).“
Nakon YouTubea, najcitiraniji izvori bili su NDR.de, stranica njemačke javne radiotelevizije (3,04 %), zatim Msdmanuals.com (2,08 %), Netdoktor.de (1,61 %) i Praktischarzt.de (1,53 %). Istraživači ističu da se nijedna bolnička mreža, državna zdravstvena institucija ili akademska ustanova nije približila udjelu koji ima YouTube.
Rizici za javno zdravlje
Ovo istraživanje nadovezuje se na raniju istragu Guardiana, koja je upozorila da su korisnici u pojedinim slučajevima bili izloženi lažnim ili obmanjujućim zdravstvenim informacijama u AI odgovorima.
U jednom slučaju Google je, prema navodima stručnjaka, ponudio netočne informacije o ključnim testovima jetrene funkcije, što je ocijenjeno kao „opasno“ i „alarmantno“. Nakon toga, tvrtka je uklonila AI sažetke za neka medicinska pretraživanja.
Autori studije naglašavaju da je istraživanje provedeno u Njemačkoj, zemlji sa strogo reguliranim zdravstvenim sustavom, što dodatno zabrinjava. „Ako se AI sustavi u takvom okruženju uvelike oslanjaju na nemedicinske ili neautoritativne izvore, to sugerira da se problem može proširiti izvan bilo koje pojedine zemlje“, naveli su.
Kritike stručnjaka
Hannah van Kolfschooten, istraživačica umjetne inteligencije i zdravlja sa Sveučilišta u Baselu, koja nije sudjelovala u studiji, izjavila je:
„Ova studija pruža empirijske dokaze da su rizici koje AI Overviews predstavlja za zdravlje strukturni, a ne anegdotalni. Googleu postaje teško tvrditi da su obmanjujući ili štetni zdravstveni rezultati rijetki slučajevi.“
Dodala je kako se čini da su „vidljivost i popularnost, a ne medicinska pouzdanost, glavni pokretači zdravstvenog znanja“.
Google: Nalazi se ne mogu generalizirati
Iz Googlea su za Guardian poručili da je AI Overviews osmišljen kako bi prikazivao visokokvalitetan sadržaj iz uglednih izvora, bez obzira na format, te da mnogi licencirani zdravstveni stručnjaci objavljuju sadržaj upravo na YouTubeu.
„Implikacija da AI Overviews pruža nepouzdane informacije opovrgnuta je vlastitim podacima izvješća“, izjavio je glasnogovornik Googlea, dodajući da AI sažeci često citiraju stručne YouTube sadržaje bolnica i klinika.
Google je također istaknuo da je 96 % od 25 najcitiranijih YouTube videa dolazilo s medicinskih kanala. No istraživači upozoravaju da ti videozapisi čine manje od 1 % svih YouTube poveznica koje AI Overviews koristi, uz napomenu da bi „s ostatkom sadržaja situacija mogla biti vrlo različita“.
Posušje.info
