Prošle subote na Heejininu mobitelu u aplikaciji Telegram pojavila se poruka anonimnog pošiljatelja: "Vaše fotografije i osobni podaci su procurili. Razgovarajmo o tome." Dok je studentica ulazila u chat kako bi pročitala poruku, primila je svoju fotografiju snimljenu prije nekoliko godina dok je još bila učenica. Slijedila je druga poruka s istom fotografijom, samo što je ova bila seksualno eksplicitna i lažna.
Užasnuta Heejin, koja se zapravo zove drugačije, nije odgovorila, ali su se fotografije nastavile pojavljivati. Na svima je njezino lice bilo spojeno s tijelom koje je bilo uključeno u seksualni čin, koristeći sofisticiranu tehnologiju deepfake.
"Bila sam skamenjena"
Deepfakeovi, od kojih većina kombinira lice stvarne osobe s lažnim, seksualno eksplicitnim tijelom, sve se više generiraju pomoću umjetne inteligencije. "Bila sam skamenjena, osjećala sam se tako usamljeno", rekla je Heejin za BBC.
Ali nije bila jedina.
Dva dana ranije južnokorejska novinarka Ko Narin objavila je ono što će se pretvoriti u najveću vijest u njezinoj karijeri. Nedavno se saznalo da policija istražuje širenje deepfake pornografije na dva vodeća sveučilišta u zemlji, a Ko je bila uvjerena da toga mora biti još.
Počela je pretraživati društvene medije i otkrila desetke chat grupa u Telegramu u kojima su korisnici dijelili fotografije žena koje su poznavali i koristili softver umjetne inteligencije kako bi ih u roku od nekoliko sekundi pretvorili u falsificirane pornografske slike.
Masovan fenomen
"Korisnici su svake minute unosili fotografije djevojaka koje su poznavali i tražili da se pretvore u deepfakeove", rekla je Ko.
Otkrila je da te grupe nisu ciljale samo studentice. Bilo je chat grupa posvećenih određenim gimnazijama, pa čak i osnovnim školama. Ako je mnogo sadržaja stvoreno korištenjem fotografije određene učenice, ona bi čak mogla dobiti vlastitu chat grupu. Općenito označene kao "sobe za ponižavanje" ili "sobe za prijatelje prijatelja", ove grupe često imaju stroge uvjete ulaska.
Izvještaj Ko u novinama Hankyoreh šokirao je Južnu Koreju. U ponedjeljak je policija objavila da razmatra pokretanje istrage o Telegramu slijedeći primjer vlasti u Francuskoj, koje su nedavno optužile ruskog osnivača Telegrama za kaznena djela povezana s ovom aplikacijom. Vlada je obećala uvesti strože kazne za one koji se time bave, a predsjednik je pozvao mlade muškarce da se bolje educiraju.
"Sustavan i organiziran proces. Jedna grupa bavila se maloljetnim učenicama"
Telegram je u izjavi za BBC napisao da se "aktivno bori protiv štetnog sadržaja na svojoj platformi, uključujući ilegalnu pornografiju". BBC je pregledao više ovih chat grupa. Jedna poziva članove da objave više od četiri fotografije nekoga zajedno s imenom, godištem i područjem u kojem živi.
"Bila sam šokirana koliko je proces bio sustavan i organiziran", rekla je Ko i dodala: "Najužasnija stvar koju sam otkrila bila je grupa koja se bavila maloljetnim učenicama u jednoj školi, a imala je više od 2000 članova."
U danima nakon što je objavljen spomenuti članak aktivisti za ženska prava također su počeli pretraživati Telegram i slijediti tragove.
Mnoge žrtve mlađe od 16 godina
Do kraja tog tjedna više od 500 škola i sveučilišta identificirano je kao meta. Stvarni broj pogođenih tek treba utvrditi, ali vjeruje se da su mnoge žrtve mlađe od 16 godina, što je dob za legalni pristanak na intimni odnos u Južnoj Koreji. Velik dio osumnjičenih počinitelja su i sami tinejdžeri.
Heejin je rekla da je saznanje o razmjerima krize pogoršalo njezinu tjeskobu jer je sada muči koliko je ljudi moglo vidjeti njezine deepfakeove. U početku je krivila samu sebe: "Nisam mogla prestati razmišljati o tome da se ovo dogodilo zato što sam objavljivala svoje fotografije na društvenim mrežama. Jesam li trebala biti opreznija?"
Deseci žena i tinejdžerica diljem zemlje u međuvremenu su uklonili svoje fotografije s društvenih mreža ili potpuno deaktivirale svoje korisničke račune u strahu da bi mogle biti žrtve deepfakeova.
"Nismo učinile ništa loše"
"Frustrirane smo i ljutite što moramo cenzurirati svoje ponašanje i korištenje društvenih mreža iako nismo učinile ništa loše", rekla je studentica Ah-Eun, čije su vršnjakinje bile meta.
Ah-Eun kaže da je jednoj žrtvi na njezinom sveučilištu policija rekla da se ne trudi istraživati njezin slučaj jer je vrlo teško uhvatiti počinitelja te da to "zapravo nije kazneno djelo" jer su "fotografije bile lažne".
U središtu ovog skandala je aplikacija za razmjenu poruka Telegram. Za razliku od javnih web stranica kojima vlasti mogu lako pristupiti, a zatim zatražiti uklanjanje fotografija, Telegram je privatna i šifrirana aplikacija za razmjenu poruka.
Problem s Telegramom
Korisnici su često anonimni, grupe se mogu postaviti u "tajni" način rada, a njihov sadržaj se brzo briše bez traga. To je Telegram učinilo glavnim mjestom za procvat kriminalnog ponašanja. Prošlog su tjedna političari i policija snažno reagirali obećavši da će istražiti nedjela i privesti počinitelje pravdi.
U ponedjeljak je seulska policija objavila da će istražiti Telegram zbog njegove uloge u omogućavanju distribucije lažnih pornografskih slika djece. Osnivač aplikacije Pavel Durov optužen je prošli tjedan u Francuskoj za suučesništvo u nizu kaznenih djela povezanih s aplikacijom, uključujući omogućavanje dijeljenja dječje pornografije.
No aktivisti za ženska prava optužuju vlasti u Južnoj Koreji da su dopustile da seksualno zlostavljanje na Telegramu predugo tinja bez nadzora jer je Koreja već bila suočena s ovom krizom. Godine 2019. pokazalo se da je seksualni lanac koristio Telegram kako bi prisilio žene i djecu da stvaraju i dijele svoje seksualno eksplicitne slike.
Policija je tada zatražila pomoć od Telegrama u istrazi, no aplikacija je ignorirala svih sedam njihovih zahtjeva. Iako je kolovođa na kraju osuđen na više od 40 godina zatvora, ništa nije poduzeto protiv platforme zbog straha od cenzure.
"Podcijenili su cijeli slučaj"
"Sudili su glavnim akterima, ali su podcijenili cijeli slučaj i mislim da je to pogoršalo situaciju", rekla je Ko za BBC.
Park Jihyun, koja je kao mlada studentica i novinarka 2019. otkrila seksualni krug "Nth room", postala je politička zagovornica žrtava digitalnih seksualnih zločina. Ispričala je da su je otkako je izbio skandal s deepfakeom uplakane učenice i roditelji zvali nekoliko puta dnevno: "Vidjeli su svoju školu na popisu koji se dijeli na društvenim mrežama i bili su prestravljeni."
Park već godinama poziva vladu da regulira ili čak zabrani aplikaciju u Južnoj Koreji: "Ako te tehnološke tvrtke odbijaju surađivati s policijskim agencijama, onda ih država mora regulirati kako bi zaštitila svoje građane."