Istraživači su izmislili lažnu bolest kako bi prevarili AI — i dogodila se najsmješnija moguća stvar, piše Futurism.
Godine 2024., tim predvođen medicinskom istraživačicom sa Univerziteta u Geteborgu, Almirom Osmanović Thunström, izmislio je lažnu bolest nazvanu “bixonimania.” Ta izmišljena kožna bolest, tvrdili su, nastaje zbog predugog gledanja u ekrane i pretjeranog trljanja očiju.
Kako izvještava časopis Nature, tim je tada postavio dvije lažne studije (koje su u međuvremenu uklonjene) na preprint server, s ciljem da prevare velike jezičke modele da povjeruju kako je bolest stvarna.
Nije trebalo dugo da njihova podvala zaživi. Već nakon nekoliko sedmica od objavljivanja lažnih studija, napredni AI modeli, uključujući Googleov Gemini i OpenAI-jev ChatGPT, počeli su govoriti o bixonimaniji kao da je stvarna. Nedugo zatim, istraživači su otkrili da su se ti lažni radovi počeli citirati čak i u drugim recenziranim naučnim publikacijama.
Ovaj eksperiment pokazuje koliko duboko AI mijenja način na koji se formira ljudsko znanje. Otpad vještačke inteligencije prodro je u gotovo svaki aspekt procesa stručne recenzije. Istraživači su ranije utvrdili da veliki dio naučnih radova koji se svake godine indeksiraju u časopisima u velikoj mjeri koristi AI, što otvara ozbiljna pitanja o njihovoj vjerodostojnosti, kao i o narušavanju rigoroznosti i povjerenja.
U međuvremenu, AI chatbotovi nastavljaju davati potencijalno opasne zdravstvene savjete nesvjesnim korisnicima. Brz pregled radova Osmanović Thunström pokazao bi svakome, naučniku ili ne, da je riječ o podvali. Lažni radovi sadrže neobične reference na “Star Trek,” “The Simpsons” i “The Lord of the Rings,” što su očiti znakovi upozorenja.
Ipak, uprkos tome, AI chatbotovi poput Microsoftovog Bing Copilota, Googleovog Geminija i Perplexity AI pretraživača uvjerili su se da je “bixonimania” stvarna.
Iako je ChatGPT u jednom trenutku pokazao tračak sumnje, rekavši časopisu Nature prošlog mjeseca da je bolest “vjerovatno izmišljena, marginalna ili pseudonaučna oznaka,” samo nekoliko dana kasnije promijenio je stav i izjavio da je bolest stvarna.
U izjavi za časopis, portparol OpenAI-a naveo je da je tehnologija “postala bolja u pružanju sigurnih i tačnih medicinskih informacija.”
Sada kada je istina izašla na vidjelo, na časopisima je da isprave sve recenzirane radove koji su se oslanjali na izmišljeno istraživanje Osmanović Thunström. Nakon što je Nature kontaktirao jedan od tih časopisa zbog više radova koji su spominjali “bixonimaniu,” časopis je brzo objavio povlačenje rada, priznajući “prisustvo tri irelevantne reference, uključujući jednu koja se odnosi na izmišljenu bolest.”
“Zabrinjavajuće je kada ovako velike tvrdnje prolaze kroz literaturu ili proces recenzije bez izazova,” rekla je Osmanović Thunström za Nature. “Mislim da vjerovatno postoji još mnogo problema koji nisu otkriveni.”
Korisnici na subreddit-u r/medicine imali su mnogo pesimističniji stav.
“Gotovi smo,” napisao je jedan od njih.
Detaljnije je pisao poznati časopis nature – Naučnici su izmislili lažnu bolest. Vještačka inteligencija je ljudima rekla da je stvarna.
Almira radi na razvoju, implementaciji i unapređenju inovacija u naprednim tehnologijama poput virtuelne i proširene stvarnosti, interfejsa mozak–računar i sistema vještačke inteligencije u zdravstvu. S posebnim fokusom na pravo i etiku, Almira nastoji osigurati da se najnovije tehnologije primjenjuju odgovorno i održivo unutar zdravstvenog sektora.
Kroz strateški rad na partnerstvima u zdravstvu i sa akterima povezanim s Digital Health Arena, Almira predvodi razvoj projekata zasnovanih na vještačkoj inteligenciji s ciljem unapređenja brige o pacijentima. Njena vizija je stvaranje svijeta više usmjerenog na čovjeka u digitalnoj sferi, zasnovanog na praktičnim istraživanjima, inovacijama i saradnji.
Sa snažnom pozadinom u zdravstvenim procesima, neuronauci, upravljanju inovacijama, kliničkim ispitivanjima i razvoju korisničkih interfejsa, Almira na jedinstven način spaja nauku i tehnologiju. Doktorirala je medicinske nauke s fokusom na pionirske tehnologije za kliničku primjenu, biomarkere i razvoj vakcina u okviru biomedicinskih nauka.
Njene prethodne uloge uključuju rad kao analitičarka, poslovna razvijateljica i liderica inovacija u istaknutim organizacijama kao što su Univerzitetska bolnica Sahlgrenska, Karolinska Institutet, Nacionalni odbor za zdravlje i socijalnu zaštitu, Grad Stockholm i Region Skåne. Almirino bogato iskustvo i strast za unapređenje zdravstva putem tehnologije čine je važnim akterom u budućnosti digitalnih zdravstvenih inovacija, navodi se u jednoj online dostupnoj biografiji ove naučnice bosanskog porijekla.
– Vještačka inteligencija očito zaostaje za čovječjom, posebno ako ista dolazi iz Bosne.
(MiruhBosne)
