Neke od najvećih društvenih mreža na internetu ne uspijevaju otkriti i ukloniti opasan sadržaj o samoubojstvima i samoozljeđivanju, pokazalo je novo istraživanje.
Istraživanje Zaklade Molly Rose pokazalo je da su unatoč više od 12 milijuna odluka o moderiranju sadržaja, koje je donijelo šest najvećih platformi, samo dvije - Pinterest i TikTok otkrile i uklonile više od 95 posto takvog sadržaja na internetu.
Dobrotvorna organizacija je rekla da su Metin Instagram i Facebook odgovorni za samo 1 posto otkrivenih sadržaja o samoubojstvu i samoozljeđivanju, a X, prije poznat kao Twitter, odgovoran je za samo jednu od 700 odluka o moderiranju sadržaja.
Studija je analizirala javno dostupne zapise o više od 12 milijuna odluka o moderiranju sadržaja koje je donijelo šest mreža: Facebook, Instagram, Pinterest, Snapchat, TikTok i X.
Prema studiji odgovor većine platformi na sadržaj o samoubojstvu i samoozljeđivanju bio "nedosljedan, neujednačen i neprimjeren cilju”.
"Nema ako, nema ali, jasno je da je potrebna odlučna akcija"
Predsjednik dobrotvorne udruge Ian Russell i njegova obitelj osnovali su Zakladu Molly Rose u znak sjećanja na njegovu kćer Molly, koja je okončala život u 14. godini, u studenom 2017., nakon gledanja štetnog sadržaja na društvenim mrežama.
"Gotovo sedam godina nakon Mollyne smrti šokantno je vidjeti kako većina velikih tehnoloških kompanija i dalje sjedi skrštenih ruku i bira nedjelovanje umjesto spašavanja mladih života", rekao je Russell.
"Nema ako, nema ali, jasno je da je potrebna odlučna akcija."
Zaklada je otkrila da društvene mreže rutinski ne uspijevaju otkriti štetan sadržaj u najrizičnijim dijelovima svojih usluga.
Na primjer, rečeno je da je samo jedna od 50 objava o samoubojstvu i samoozljeđivanju koje je otkrio Instagram bio video, unatoč tome što značajka kratkog formata Reels sada čini polovicu vremena provedenog u aplikaciji.
Mreže ne provode vlastita pravila
Studija je također optužila mreže da ne provode vlastita pravila, ističući da je TikTok otkrio gotovo tri milijuna sadržaja o samoubojstvu i samoozljeđivanju, ali je suspendirao samo dva računa.
Istraživanje se temeljilo na odlukama o moderiranju sadržaja donesenim u EU, koje moraju biti javno dostupne.
Kao odgovor na studiju, glasnogovornik Mete rekao je: “Sadržaj koji potiče na samoubojstvo i samoozljeđivanje krši naša pravila.
Ne vjerujemo da statistika u ovom izvješću odražava naše napore. Samo u prošloj godini uklonili smo 50,6 milijuna takvog sadržaja na Facebooku i Instagramu globalno, a 99% je uklonjeno prije nego što nam je prijavljeno.
Međutim, u EU trenutno nismo u mogućnosti primijeniti sve naše mjere koje se izvode u Ujedinjenom Kraljevstvu i ostatku svijeta."
Glasnogovornik Snapchata rekao je: “Sigurnost i dobrobit naše zajednice glavni su prioritet. Snapchat je osmišljen kako bi se razlikovao od drugih platformi, bez otvorenog newsfeeda neprovjerenog sadržaja i moderiranja sadržaja prije javne distribucije."
"Strogo zabranjujemo sadržaj koji promiče ili potiče samoozljeđivanje ili samoubojstvo, a ako to identificiramo ili nam se prijavi, brzo ga uklanjamo i poduzimamo odgovarajuće mjere. Također dijelimo resurse za prevenciju samoozljeđivanja i podršku kada saznamo da je član naše zajednice u nevolji i možemo obavijestiti hitne službe kada je to potrebno", rekao je Snapchat.
TikTok nije komentirao studiju, ali je rekao da su njegova pravila jasna - ne dopuštaju prikazivanje, promicanje ili dijeljenje planova za samoubojstvo ili samoozljeđivanje.
Pinterest i X nisu odgovorili na zahtjev za komentar.