Istraživači su pronašli novu metodu koja se može koristiti da se detektiraju i spriječe "halucinacije" umjetne inteligencije, što je kolokvijalni naziv za netočne odgovore koje daje AI.
Nova studija tima sa Sveučilišta u Oxfordu razvila je statistički model koji može identificirati kada će pitanje postavljeno velikom jezičnom modelu (large language models, LLM) koji se koristi za pokretanje AI chatbota vjerojatno dati netočan odgovor.
Njihovo istraživanje objavljeno je u časopisu Nature.
Što su "halucinacije" AI-ja?
"Halucinacije" umjetne inteligencije su identificirane kao ključni problem budući da napredna priroda tehnologije i njezine mogućnosti konverzacije znače da je sposobna dati netočne informacije kao činjenice kada odgovara na pitanje.
U vrijeme kada se sve više učenika okreće alatima umjetne inteligencije kada im treba pomoć u istraživanju ili u dovršavanju zadataka, mnogi stručnjaci pozivaju na akciju kako bi se spriječile "halucinacije" AI-ja, posebno kada se radi o upitima vezanih uz medicinska ili pravna pitanja.
Pronašli način da se utvrdi kada AI izmišlja odgovor
Istraživači s Oxforda rekli su da je njihovo istraživanje pronašlo način da se utvrdi kada je AI siguran u odgovor, a kada ga izmišlja.
"LLM-i su vrlo sposobni reći istu stvar na mnogo različitih načina, što može otežati razlučivanje kada su sigurni u odgovor, a kada doslovno samo nešto 'haluciniraju'.
S prijašnjim pristupima nije bilo moguće uočiti razliku kada model ne zna što reći i kada ne zna kako to reći. Ali naša nova metoda to nadilazi", rekao je autor studije dr. Sebastian Farquhar.
No dr. Farquhar kaže da treba još raditi na ispravljanju grešaka koje AI modeli mogu napraviti.