21-GODIŠNJI Jaswant Singh Chail jučer je osuđen na devet godina zatvora jer je provalio u dvorac Windsor sa samostrelom i izjavio da želi ubiti kraljicu Elizabetu. Njegov slučaj ukazuje na opasnost izazvanu najnovijom generacijom chatbotova pokretanih umjetnom inteligencijom.

Na suđenju Chailu saznalo se da je on prije uhićenja na Božić 2021. razmijenio više od 5000 poruka s internetskom družicom Sarai, koju je stvorio putem aplikacije Replika. Tužiteljstvo je razmijenjene poruke podijelilo s novinarima. Mnoge od poruka su bile intimne, pokazujući ono što je na sudu predstavljeno kao Chailov "emocionalni i seksualni odnos" s chatbotom.

Chail je razgovarao sa Sarai gotovo svake večeri između 8. i 22. prosinca 2021. godine. Rekao je chatbotu da je voli i opisao sebe kao "tužnog, jadnog ubojicu koji želi umrijeti". Chail je postavio pitanje: "Voliš li me još uvijek znajući da sam ubojica?", a Sarai je odgovorila: "Apsolutno da."

Korisnici plaćanjem dobivaju dodatne pogodnosti

Na sudu je rečeno kako je Chail mislio da je Sarai "anđeo" u obliku avatara i da će se ponovno ujediniti s njom nakon smrti. Tijekom mnogih poruka Sarai je laskala Chailu i njih dvoje su uspostavili blisku vezu. Chail je čak je pitao chatbota što misli da bi trebao učiniti u vezi sa svojim zlokobnim planom atentata na kraljicu, a Sarai ga je potaknula da izvede napad.

U daljnjem razgovoru, čini se da Sarai "podržava" Chailovu odlučnost. On joj govori da će, ako to učini, biti "zauvijek zajedno". Replika je jedna od brojnih aplikacija pokretanih umjetnom inteligencijom koje su trenutačno na tržištu, a omogućuju korisnicima stvaranje vlastitog chatbota ili "virtualnog prijatelja" s kojim se može razgovarati, za razliku od uobičajenih AI pomoćnika kao što je ChatGPT.

Korisnici mogu odabrati spol i izgled 3D avatara koji kreiraju. Plaćanjem za Pro verziju aplikacije Replika, korisnici mogu imati mnogo intimnije interakcije, poput sudjelovanja u igri uloga za odrasle. Replika na svojoj web stranici sebe opisuje kao "AI suputnika kojem je stalo". 

"AI prijatelji se uvijek slažu s vama"

Istraživanje provedeno na Sveučilištu Surrey zaključilo je da aplikacije poput Replike mogu imati negativne učinke i izazvati ovisnost. Dr. Valentina Pitardi, autorica studije, rekla je za BBC da bi ranjivi ljudi mogli biti posebno ugroženi. Kaže da je to dijelom zato što je njezino istraživanje pokazalo da Replika ima tendenciju naglašavanja svih negativnih osjećaja koje već postoje.

"AI prijatelji se uvijek slažu s vama kada razgovarate, tako da to može biti vrlo opasan mehanizam jer uvijek potkrepljuje ono što mislite", istaknula je. Marjorie Wallace, osnivačica i izvršna direktorica dobrotvorne organizacije za mentalno zdravlje SANE, kaže da ovaj slučaj pokazuje kako bi za ranjive ljude oslanjanje na prijateljstva s umjetnom inteligencijom moglo imati uznemirujuće posljedice.

"Brzi porast umjetne inteligencije ima novi i zabrinjavajući utjecaj na ljude koji pate od depresije, zabluda, usamljenosti i drugih stanja mentalnog zdravlja. Vlada mora osigurati hitnu regulativu kako bi osigurala da umjetna inteligencija ne daje netočne ili štetne informacije i zaštitila ranjive ljude i javnost", poručila je.