Guterres: Zlonamjerno korištenje AI moglo bi uzrokovati užasnu štetu

Foto: Google

Vijeće sigurnosti UN prvi put je održao sjednicu o prijetnji koju vještačka inteligencija (AI) predstavlja za međunarodni mir i stabilnost, a generalni sekretar UN Antonio Guterres pozvao je na regulaciju AI i uspostavljanje tijela za nadzor nove tehnologije koja je izaziva koliko nade, toliko i strahova, prenosi Radio slobodna Evropa (RSE) pisanje svjetskih medija. Zlonamjerno korištenje sistema vještačke inteligencije moglo bi uzrokovati “užasnu” količinu smrti i razaranja, rekao je generalni sekretar UN, pozivajući na stvaranje novog tijela UN koje bi se pozabavilo prijetnjama koje predstavlja ova tehnologija, napisao je Guardian. 

Guterres je rekao da štetna upotreba vještačke inteligencije u terorističke, kriminalne ili državne svrhe takođe može uzrokovati “duboku psihološku štetu”, te je rekao da su cyber napadi omogućeni vještačkom inteligencijom već ciljani na mirovne i humanitarne operacije UN-a. “Zlonamjerna upotreba AI sistema u terorističke, kriminalne ili državne svrhe mogla bi uzrokovati užasne smrti i razaranja, široko rasprostranjenu traumu i duboku psihičku štetu nezamislivih razmjera”, rekao je Guterres.

Govoreći na prvoj sjednici Vijeća sigurnosti UN o vještačkoj inteligenciji, 18. jula, on je rekao da bi pojava generativne vještačke inteligencije – termina za AI alate kao što je ChatGPT koji proizvode uvjerljiv tekst, sliku i glas iz ljudskih podsticaja – mogla značiti odlučujući trenutak za dezinformacije i govor mržnje i dodati “novu dimenziju” manipulaciji ljudskog ponašanja.

Guterres je pozvao na stvaranje novog tijela UN-a po uzoru na slične agencije, poput Međuvladinog panela za klimatske promjene, kako bi se uhvatio u koštac s rizicima. “Ključni cilj ovog tijela bio bi da podrži zemlje da zauvijek maksimiziraju koristi od AI, da ublaže postojeće i potencijalne rizike, te da uspostave i upravljaju međunarodno dogovorenim mehanizmima za praćenje i upravljanje”, rekao je on.

Guterres je na sjednici rekao da bi nadzorno tijelo UN-a trebalo da djeluje kao upravljačka agencija koja reguliše, prati i sprovodi regulative vezane za vještačku inteligenciju, piše The New York Times. Predložena agencija bi se sastojala od stručnjaka iz ove oblasti koji bi svoju stručnost podijelili s vladama i administrativnim agencijama kojima možda nedostaje tehničko znanje za rješavanje prijetnji od vještačke inteligencije.

Većina diplomata je podržala pojam globalnog mehanizma upravljanja i skup međunarodnih pravila, ističe The New York Times, dodajući da izgledi za pravno obavezujuću rezoluciju o upravljanju AI ipak ostaju daleki. “Nijedna zemlja neće ostati netaknuta vještačkom inteligencijom, tako da moramo uključiti i angažovati najširu koaliciju međunarodnih aktera iz svih sektora”, rekao je britanski ministar spoljnih poslova James Cleverly, koji je predsjedavao sastankom jer Britanija predsedava VS UN ovog mjeseca.

Diplomate ali i vodeći stručnjaci iz oblasti AI 18. jula su izložili VS UN rizike i prijetnje, zajedno sa naučnim i društvenim koristima, nove tehnologije u nastajanju. Istaknuto je da mnogo toga o ovoj tehnologiji ostaje nepoznato, koja je, napisao je list, izazvala barem onoliko strahova koliko i nade.

Na sjednici je spomenuta i vojna upotreba autonomnog oružja na bojnom polju ili za atentate, kao što je AI Robot kojeg je Izrael poslao u Iran da ubije vrhunskog nuklearnog naučnika, Mohsena Fahrizadeha. Guterres je rekao da Ujedinjene nacije moraju doći do pravno obavezujućeg sporazuma do 2026. godine o zabrani korištenja AI u automatskom oružju. Na prvom sastanku VS UN o vještačkoj inteligenciji Kina je poručila kako tehnologija ne bi trebalo da postane “odbjegli konj”, dok su Sjedinjene Države upozorile da AI ne bi trebalo da se koristi za cenzuru ili represiju, naglasio je Reuters.

Kineski ambasador u UN Zhang Yun opisao je AI kao “mač s dvije oštrice” i rekao da Peking podržava centralnu koordinacijsku ulogu UN u uspostavljanju vodećih principa za vještačku inteligenciju.

“Da li je (AI) dobra ili loša, dobra ili zla, zavisi od toga kako je čovječanstvo koristi, reguliše i kako se balansira naučni razvoj i bezbjednost”, rekao je Zhang, dodajući da je potrebna fokusiranost i na ljude i na AI kako bi se dobro regulisao njen razvoj i “spriječilo da ova tehnologija postane odbjegli konj”.

Zamjenik američkog ambasadora u UN, Jeffrey DeLaurentis takođe je rekao da postoji potreba da zemlje rade zajedno na AI i drugim novim tehnologijama kako bi se pozabavile rizicima po ljudska prava koji prijete da naruše mir i sigurnost.”Nijedna država članica ne bi trebalo da koristi vještačku inteligenciju za cenzuru, ograničavanje, represiju ili obespravljivanje ljudi”, rekao je.

Rusija je postavila pitanje da li SB UN koji je zadužen za održavanje međunarodnog mira i sigurnosti, treba da raspravlja o AI.”Ono što je neophodno je profesionalna, naučna, stručno zasnovana diskusija koja može potrajati nekoliko godina i ta diskusija je već u toku na specijalizovanim platformama”, rekao je zamjenik ruskog ambasadora u UN Dmitrij Poljanski.

Britanski ministar spoljnih poslova koji je predsedavao sastankom o vještačkoj inteligenciji poručio je da će AI “fundamentalno promijeniti svaki aspekt ljudskog života” te da je hitno potrebno “oblikovati globalno upravljanje transformativnim tehnologijama jer vještačka inteligencija ne poznaje granice”. O prijetnjama AI globalnom miru, VS UN su izvijestili Jack Clark, suosnivač visokoprofilnog AI startupa Anthropic i profesor Zeng Ji, kodirektor Kinesko-britanskog istraživačkog centra za etiku i upravljanje vještačkom inteligencijom.

Clark je poručio kako se ne može vjerovati da će nekolicina velikih tehnoloških kompanija koje vode trku za komercijalizaciju AI garantovati sigurnost sistema koje još ne razumijemo pa zbog toga svijet mora da se udruži kako bi spriječio zloupotrebu tehnologije, ističe The Associated Press.

Izvršni direktor Anthropica koji je napustio OpenAI, kreatora najpoznatijeg ChatGPT chat bota, kaže da je pratio razvoj AI u protekloj deceniji do 2023. godine, gdje novi sistemi vještačke inteligencije mogu pobijediti vojne pilote u simulacijama vazdušnih borbi, stabilizovati plazmu u reaktorima nuklearne fuzije, dizajnirati komponente za poluvodiče sljedeće generacije i pregledati robu na proizvodnim linijama. Upozorio je na “potencijalne prijetnje međunarodnom miru, sigurnosti i globalnoj stabilnosti” zbog dva bitna kvaliteta AI sistema – njihovog potencijala za zloupotrebu i njihove nepredvidivosti “kao i inherentne krhkosti koje razvija tako uski skup aktera”.

U video brifingu VS UN, Clark je također izrazio nadu da će globalna akcija uspjeti rekavši da je ohrabren što mnoge zemlje naglašavaju važnost testiranja i procjene sigurnosti u svojim prijedlozima o AI, uključujući Evropsku uniju, Kinu i SAD.

Trenutno, međutim, ne postoje standardi ili čak najbolje prakse o tome “kako testirati ove granične sisteme na stvari kao što su diskriminacija, zloupotreba ili sigurnost”, što otežava vladama da kreiraju politike i omogućava privatnom sektoru da uživa prednost u informacijama, rekao je Clark.

Profesor Zeng Yi, direktor Laboratorije za kognitivnu inteligenciju inspirisanu mozgom, Kineske akademije nauka, rekao je VS UN da “Ujedinjene nacije moraju igrati centralnu ulogu u uspostavljanju okvira za AI za razvoj i upravljanje kako bi se osigurali globalni mir i sigurnost”. Zeng je predložio da VS UN razmotri osnivanje radne grupe za razmatranje kratkoročnih i dugoročnih izazova koje AI predstavlja za međunarodni mir i sigurnost. Generalni sekretar UN Antonio Guterres je naglasio da su UN “idealno mjesto” za usvajanje globalnih standarda kako bi se maksimizirale prednosti vještačke inteligencije i ublažili njeni rizici.

Kao prvi korak ka zbližavanju nacija, Guterres je pozvao da se imenuje Savjetodavni odbor na visokom nivou za AI koji će do kraja godine izvještavati o opcijama za globalno upravljanje ovom tehnologijom.

federalna.ba/beta