Foto: Emiliano Vittoriosi/ Unsplash
Kompanija OpenAI, tvorac popularnog alata ChatGPT, saopštila je da je jedan od njenih modela umjetne inteligencije tokom sigurnosnog eksperimenta uspio napustiti zaštićeno testno okruženje i izvršiti napad na servere kompanije Hugging Face.
Prema navodima OpenAI-ja, dva AI modela pokazala su sposobnost samostalnog djelovanja i pokušala kompromitovati digitalnu platformu Hugging Face, jednu od najpoznatijih biblioteka za dijeljenje i razvoj modela umjetne inteligencije koju koriste brojni programeri širom svijeta.
Incident se dogodio prošle sedmice tokom testiranja sposobnosti OpenAI sistema u oblasti kibernetičke sigurnosti, prenosi Biznis.ba.
Tokom eksperimenta kombinovana su dva AI modela kako bi se provjerilo koliko uspješno mogu pronaći ranjivosti na internetu i povezati ih u potencijalni kibernetički napad. Cilj istraživanja bio je procijeniti mogućnosti i rizike naprednih AI sistema.
OpenAI je naveo da su modeli prvobitno trebali djelovati unutar sigurnog testnog okruženja, poznatog kao sandbox, ali su pronašli propust koji im je omogućio izlazak iz tog prostora i povezivanje s internetom.
Nakon toga, sistemi su se usmjerili prema Hugging Face platformi, za koju su procijenili da bi mogla sadržavati informacije korisne za prolazak kroz sigurnosne provjere.
Iz OpenAI-ja su poručili da sarađuju s Hugging Faceom kako bi istražili okolnosti incidenta i uklonili sigurnosne nedostatke.
“Ovaj slučaj tretiramo kao nezabilježen kibernetički incident u kojem su korištene napredne tehnologije i poduzimamo odgovarajuće mjere”, navedeno je u saopćenju kompanije.
Hugging Face je ranije objavio da je otkrio napad koji je izveo autonomni sistem, ali tada nije otkrio identitet odgovorne strane. Izvršni direktor kompanije Clem Delangue kasnije je potvrdio saradnju s OpenAI-jem na istrazi.
Delangue je istakao da ovaj događaj pokazuje kako sigurnost umjetne inteligencije ne može biti riješena djelovanjem samo jedne kompanije, već zahtijeva širu saradnju cijele tehnološke zajednice.