PROŠLOG mjeseca kontroverzna tvrtka za prepoznavanje lica Clearview AI objavila je da je svoju tehnologiju dala ukrajinskoj vladi. BBC je dobio dokaze o tome kako se koristi, a ponajviše, u više od tisuću slučajeva, za identifikaciju živih i mrtvih. Ova priča sadrži grafičke opise koji bi mogli uznemiriti neke čitatelje.
Čovjek nepomično leži na podu, nagnute glave. Njegovo tijelo je golo, osim para Calvin Klein bokserica. Tijelo je pronađeno u Harkivu, na istoku Ukrajine. BBC je vidio fotografije snimljene na mjestu događaja, ali ne zna okolnosti njegove smrti. Postoje jasni dokazi o teškim ozljedama glave. Imao je tetovažu na ramenu. Ukrajinske vlasti nisu znale tko je taj čovjek, pa su se odlučile poslužiti prepoznavanju lica pomoću umjetne inteligencije.
Clearview je možda najpoznatiji i najkontroverzniji sustav za prepoznavanje lica na svijetu. Tvrtka je sakupila milijarde fotografija s društvenih mreža poput Facebooka i Twittera, kako bi stvorila ogromnu bazu podataka ono što njen izvršni direktor i osnivač Hoan Ton-That naziva "tražilicom za lica".
"Radi kao Google. Ali umjesto da unese niz riječi ili teksta, korisnik stavlja fotografiju lica", objašnjava Ton-That. Clearview se suočio s nizom pravnih izazova. Facebook, YouTube, Google i Twitter zatražili su od njega da prestane koristiti fotografije s njihovih mreža. Ured britanskog povjerenika za informiranje čak je kaznio tvrtku jer nije obavijestila ljude da prikuplja njihove fotografije.
Sada je upotreba Clearviewa u Ukrajini otvorila nova pitanja nakon što je iskorišten u ratu. Clearview u velikoj mjeri koristi policija u Americi. Ton-That kaže da je 3200 vladinih agencija kupilo ili isprobalo tehnologiju. Nakon ruske invazije na Ukrajinu, osnivač Clearviewa vidio je još jednu primjenu svoje tehnologije.
"Vidjeli smo slike ljudi koji su bili ratni zarobljenici i bježali, i znate, navelo nas je na razmišljanje da bi to potencijalno mogla biti tehnologija korisna za identifikaciju, ali i za provjeru", rekao je. On je ukrajinskoj vladi brzo ponudio svoju aplikaciju, a ponuda je prihvaćena.
U par minuta identificirali poginulog muškarca
Ukrajinske vlasti su u Harkivu snimile lice mrtvaca i proveli fotografiju kroz Clearview. Pretragom je pronađeno nekoliko fotografija nekoga tko je vrlo sličan ubijenom muškarcu. Jedna pronađena fotografija snimljena je na, čini se, vruć dan. Čovjek je bio bez majice, imao je tetovažnu na lijevom ramenu. Dizajn tetovaže je odgovarao. Ukrajinci su imali ime tog muškarca.
Korištenje tehnologije prepoznavanja lica za identifikaciju mrtvih nije ništa novo, a Clearview nije jedina platforma koja se koristi za to u Ukrajini. "Ove stvari koristimo već godinama", kaže Aric Toler, direktor istraživanja u Bellingcatu, organizaciji specijaliziranoj za istraživačko novinarstvo. Bellingcat je 2019. godine koristio tehnologiju prepoznavanja lica kako bi pomogao identificirati Rusa koji je snimio mučenje i ubojstvo zatvorenika u Siriji.
Upotreba Bellingcata u Ukrajini je šira nego u bilo kojem prethodnom sukobu. Toler kaže da u Rusiji koristi platformu za prepoznavanje lica FindClone i da je bila od posebne pomoći za identifikaciju mrtvih ruskih vojnika. Kao i kod Clearviewa, FindClone pretražuje javno dostupne internetske slike, uključujući ruske stranice društvenih medija.
Mogu se pronaći čak i ljudi koji nemaju račune na društvenim mrežama. "Možda nemaju profil na društvenim mrežama, ali njihove žene ili djevojke mogu imati... ponekad imaju profile i žive u malom gradu s velikom vojnom bazom. Ili mogu imati puno prijatelja koji su trenutno u njihovoj jedinici", Toler objašnjava, opisujući korištenje FindClonea kao istražnog alata.
To dovoljno govori o moći tehnologije prepoznavanja lica. To znači da čak i ako osoba nikada nije imala profil na društvenim mrežama, a misli da na internetu nema njenih fotografija, i dalje se može pronaći. Pojavljivanjem na fotografiji koju je objavio prijatelj ili jednostavno u pozadini nasumične slike na internetu, ulazi se u bazu podataka.
To znači da se čak i vojnom ili sigurnosnom osoblju, koje jedva da ima ikakva prisutnost na internetu, još uvijek može ući u trag.
Pitanje preciznosti
Kritičari međutim ističu da tehnologija prepoznavanja lica nipošto nije uvijek ispravna - te da bi u vrijeme rata pogreške mogle imati potencijalno katastrofalne posljedice. Clearview se ne koristi samo za identifikaciju mrtvih u Ukrajini. Tvrtka je također potvrdila da ju je ukrajinska vlada koristila na kontrolnim točkama kako bi pomogla identificirati osumnjičene neprijatelje.
Clearview je BBC-u pokazao e-mail ukrajinske agencije koji potvrđuje da se sustav koristi za identifikaciju živih. "Sustav nam je dao priliku da brzo potvrdimo točnost podataka privedenih osumnjičenika", stoji u e-mailu ukrajinskog dužnosnika koji nije želio biti imenovan.
"Tijekom korištenja Clearview AI-a, izvršeno je više od 1000 upita za pretraživanje kako bi se provela odgovarajuća provjera i identifikacija", stoji u e-poruci. To zabrinjava neke analitičare. Conor Healy je stručnjak za prepoznavanje lica u IPVM-u, organizaciji koja ocjenjuje sigurnosnu tehnologiju.
Ako ovo čitate, gotovo ste sigurno u bazi podataka
"Važno je da ukrajinske snage prepoznaju da ovo nije 100% točan način određivanja je li vam netko prijatelj ili neprijatelj", kaže Healy. "To ne bi trebala biti tehnologija života ili smrti u kojoj ili prođeš ili ne uspiješ, gdje bi te mogli zatvoriti ili, ne daj Bože, čak i ubiti. To se uopće ne smije koristiti."
Drugi su izdali još strašnija upozorenja. Albert Fox Cahn, iz nadzorne grupe Surveillance Technology Oversight Project, nazvao je to "katastrofom ljudskih prava u nastajanju". "Kada prepoznavanje lica pogriješi u mirnodopskim uvjetima, ljudi bivaju pogrešno uhićeni. Kada prepoznavanje lica napravi pogreške u ratnoj zoni, nevini ljudi bivaju ubijeni", rekao je za Forbes.
BBC je kontaktirao ukrajinsku vladu za komentar o korištenju Clearviewa, ali nije dobio odgovor. Ton-That je branio točnost Clearviewove tehnologije, rekavši da su testovi otkrili da je više od 99% točna.
Mnogo ovisi ipak o kvaliteti slike, položaju glave ili je li lice prekriveno, na primjer, maskom. Zatim, tu je i pitanje privatnosti, koje je bilo problematično za Clearview u SAD-u i Europi. Tvrtka povlači javno dostupne slike iz tvrtki poput Facebooka i Instagrama kako bi izgradila svoju bazu podataka, ali istovremeno nije pitala tvrtke društvenih medija, ili bilo koga, može li uzeti te slike.
Ako ovo čitate, gotovo ste sigurno u bazi podataka, iako vjerojatno niste dali Clearviewu dopuštenje za korištenje vaše slike.
Distopijske primjene
Prošle godine Ured britanskog povjerenika za informiranje kaznio je Clearview jer nije obavijestio ljude da prikuplja njihove fotografije s platformi društvenih medija. Ton-That prihvaća da još uvijek postoji rasprava oko zakonitosti tehnologije prepoznavanja lica, ali vjeruje da Clearview djeluje u okviru zakona - rekavši da je tehnologija "pogrešno shvaćena".
Međutim, tehnologija prepoznavanja lica očito ima distopijske primjene. U studenom prošle godine BBC je izvijestio da se u Kini izrađuju planovi za korištenje tehnologije prepoznavanja lica za ciljanje novinara.
Ton-That kaže da Clearview ne bi dopuštao takve vrste pretraživanja, čak i kad bi se mogle koristiti na ovaj način. Kaže da Clearview ne radi s autoritarnim vladama i da tvrtka ne bi radila s Rusijom.
Međutim, postoje primjene za Clearviewovu tehnologiju u vojnom kontekstu. Prošle godine tvrtka je potpisala ugovor s Pentagonom kako bi istražila stavljanje svoje tehnologije u naočale za proširenu stvarnost, primjerice. To je jedna od nekoliko tvrtki koje razvijaju umjetnu inteligenciju za prepoznavanje lica s vojnim ugovorima.
Zagovornici privatnosti također imaju još jednu brigu. Tehnologija prepoznavanja lica mogla bi biti korisna ukrajinskim vlastima u vrijeme rata. Ali hoće li jednostavno predati tehnologiju Clearviewu u vrijeme mira? "Postoji niz primjera tehnologija koje su uvedene u ratno vrijeme i koje su prisutne i u miru", kaže Healy. "Nadam se da to nije njihov pristup."