Screenshot: Youtube/Tech Insider
GOOGLE je najavio da će poduzeti mjere kako bi osigurao da ljudi ne budu obmanjeni kad ih nazove njihov softverski bot koji može uvjerljivo imitirati ljudski glas.
Kako su iz Googlea rekli za tehnološki portal The Verge, svatko tko dobije poziv od takvog računalnog bota bit će upozoren da razgovara sa strojem.
Naime, Googleov novi program Duplex, koji će biti inkorporiran u platformu Assistant, temeljen je na umjetnoj inteligenciji koja je u stanju imitirati ljudski glas te zvati ljude kako bi s njima dogovorila sastanke i rezervacije. Google je na developerskoj konferenciji I/O ovog tjedna pokazao Duplex na djelu - bot se naručio kod frizera.
Stručnjakinja “užasnuta”, kaže da je “Silicijska dolina etički izgubljena”
Barem jedan tehnološki ekspert bio je “užasnut” onim što je vidio. Evo što je kritičarka tech kompanija i profesorica na Sveučilištu u Sjevernoj Karolini, Zeynep Tufekci, napisala na Twitteru nakon demonstracije: “Google Assistant koji vrši telefonske pozive praveći se da je čovjek, ne samo bez da otkriva da je bot, već dodajući ‘ummm’ i ‘aaah’ kako bi zavarao čovjeka na drugoj strani, dok ga dvorana glasno bodri… užasavajuće. Silicijska dolina je etički izgubljena, bez kormila i nije naučila ništa.”
“Kako se digitalne tehnologije budu poboljšavale u činjenju ljudskih stvari, fokus mora biti na zaštiti ljudi, na tome kako da razlikujemo ljude i strojeve i kako da stvorimo pouzdane signale za oboje. Ovo je izravna, namjerna obmana. To nije u redu”, dodala je Tufekci u kasnijem tvitu.
Google: “Osigurat ćemo da naš sustav bude prikladno identificiran”
Nakon demonstracije, Google se očitovao o negativnim komentarima i pitanjima etičnosti koja su se počela postavljati. “Razumijemo i cijenimo diskusiju oko Google Duplexa - kao što smo rekli od početka, transparentnost u tehnologiji vrlo je važna. Dizajniramo ovu aplikaciju s ugrađenom transparentnošću i osigurat ćemo da je sustav prikladno identificiran. Ono što smo pokazali na I/O bio je rani tehnološki demo i namjeravamo inkorporirati povratne informacije dok budemo razvijali ovaj proizvod”, stoji u priopćenju glasnogovornika Googlea za Verge.
Google je ranije izjavio kako je razvio ovaj software tako da on može voditi “prirodan” razgovor i obavljati zadaće u stvarnom životu kao što je telefonski razgovor s ljudima. Pri razvoju su koristili novu audiogeneracijsku tehnologiju WaveNet i druge napretke u procesiranju prirodnog jezika, što među ostalim uključuje zamuckivanje i korištenje poštapalica.