Papa Franjo, priznajući da je bio žrtva deepfake fotografije, danas je upozorio na "perverzne" opasnosti umjetne inteligencije, obnovivši svoj apel za njezinom regulacijom na globalnoj razini kako bi se iskoristila za opće dobro.
Papa je govorio o svojim strahovima i nadama u vezi s umjetnom inteligencijom (AI) u poruci za Svjetski dan društvenih komunikacija Katoličke Crkve koji će se diljem svijeta obilježiti 12. svibnja.
Papa upozorava na "kognitivno onečišćenje"
Dok je pozvao ljude da privremeno "ostave po strani katastrofična predviđanja i njihove otupljujuće učinke" o novim stvarima, njegova poruka na tri stranice bila je uglavnom upozoravajuća.
Papa je upozorio na "kognitivno onečišćenje" koje može iskriviti stvarnost, promovirati lažne narative i zatvoriti ljude u ideološke eho komore.
"Moramo samo razmisliti o dugotrajnom problemu dezinformacija u obliku lažnih vijesti, koje danas mogu koristiti 'deepfakeove', odnosno stvaranje i širenje slika koje izgledaju savršeno uvjerljive, ali su lažne. I ja sam bio predmet toga", napisao je Papa.
Lažna fotografija Pape
Očito je mislio na njegovu lažnu fotografiju koja je prošle godine postala viralna na društvenim mrežama. Papa je na toj fotografiji u bijelom kaputu do gležnja.
Papa se također osvrnuo na lažne "audio poruke koje koriste nečiji glas kako bi rekli stvari koje ta osoba nikada nije izrekla". Jučer je glavni državni odvjetnik u američkoj saveznoj državi New Hampshire rekao da je njegov ured otvorio istragu o podrijetlu lažnih robotskih poziva koji su simulirali glas predsjednika Joea Bidena i poticali glasače da ne glasaju na predsjedničkim predizborima u utorak.
"Tehnologija simulacije koja stoji iza ovih programa može biti korisna u određenim specifičnim područjima, ali postaje perverzna kada iskrivljuje naš odnos s drugima i sa stvarnošću", napisao je Papa.
"AI mora podržavati, a ne eliminirati ulogu novinarstva na terenu"
Obnovio je poziv, koji je uputio prošlog mjeseca, za pravno obvezujućim međunarodnim ugovorom koji bi regulirao AI. U poruci objavljenoj danas Papa govori i o s umjetnom inteligencijom "povezanim patologijama" poput smanjenja pluralizma i proliferacije "grupnog razmišljanja", prilikom čega se konsenzusna stajališta zauzimaju bez razmatranja vanjske kritike ili alternativa.
Papa je također govorio o opasnosti umjetne inteligencije u medijima, posebice u izvještavanju o ratu. "AI mora podržavati, a ne eliminirati ulogu novinarstva na terenu", rekao je.