Foto: Igor Omilaev/ Unsplash
Visoki komesar UN-a za ljudska prava Folker Tirk upozorio je na hitnu potrebu za razvojem upravljanja umjetnom inteligencijom, navodeći da ona može predstavljati egzistencijalni rizik za čovječanstvo.
“Umjetna inteligencija koja izbjegava svoje okruženje za testiranje ili ucjenjuje programere da bi izbjegla deaktivaciju je previše moćna umjetna inteligencija”, rekao je Tirk na otvaranju 63. sjednice Savjeta za ljudska prava u Ženevi, zatraživši “jake mjere zaštite u vezi sa bezbjednošću umjetne inteligencije, dok još nije kasno”, prenosi Beta.
“Šačica ljudi ima gotovo neograničenu moć nad umjetnom inteligencijom, za koju nam stalno govore da posjeduje nezamislivu računarsku moć. Pričaju o slobodi, ali nakon detaljnijeg pregleda, ispostavlja se da je to malo više od slobode da se eksploatišu naši podaci”, rekao je Tirk.
“Umjetna inteligencija koja manipuliše ljudima je već stvarnost. Najnoviji generativni modeli umjetne inteligencije više ne samo da slijede naređenja i idu toliko daleko da lažu, spletkare ili prijete kako bi postigli svoje ciljeve, što je veoma zabrinulo neke istraživače”, ocjenio je visoki zvaničnik UN-a.
Tirk je najavio da će u narednim danima pisati kompanijama u tom sektoru “kako bi ih pozvao da preduzmu mjere koje su u njihovoj moći, da smanje rizike”.
“Potrebna nam je nezavisna verifikacija i mnogo bliža saradnja u pogledu bezbjednosti unutar te industrije”, rekao je Tirk tražeći na razmatranje “uticaja umjetne inteligencije na prakse zapošljavanja, suštinske demokratske principe i okruženje”.
Agencije