Foto: Google
Kompanija OpenAI u ponedjeljak je počela uvoditi roditeljske kontrole za ChatGPT na webu i mobilnim aplikacijama, nakon što su roditelji maloljetnika koji je izvršio samoubistvo podnijeli tužbu protiv firme, tvrdeći da ga je chatbot navodno savjetovao o metodama samopovređivanja.
Prema novim pravilima, roditelji i tinejdžeri mogu zajednički aktivirati strožije mjere zaštite povezivanjem svojih naloga, pri čemu jedan šalje poziv, a kontrole se aktiviraju tek kada ga druga strana prihvati.
OpenAI je na društvenoj mreži X saopštio da će roditelji sada moći ograničiti izloženost osjetljivim sadržajima, kontrolisati da li ChatGPT pamti prethodne razgovore i odlučivati hoće li se komunikacije koristiti za treniranje modela. Također će moći postavljati “tihe sate” kada je pristup chatu blokiran, te onemogućiti glasovni mod, kao i generisanje i uređivanje slika.
Ipak, roditelji neće imati pristup transkriptima razgovora svojih tinejdžera. U rijetkim slučajevima, kada sistemi i obučeni recenzenti otkriju znakove ozbiljnog rizika po sigurnost, roditelji mogu biti obaviješteni, ali samo uz minimalne informacije potrebne da se zaštiti dijete. Također će biti informisani ukoliko maloljetnik odluči prekinuti povezanost naloga.
OpenAI, koji ima oko 700 miliona aktivnih korisnika sedmično, najavio je razvoj sistema za predviđanje starosne dobi korisnika. Na taj način chatbot bi mogao automatski primjenjivati postavke prilagođene tinejdžerima, ako prepozna da je riječ o osobama mlađim od 18 godina.
Ova odluka dolazi u trenutku kada američki regulatori sve pažljivije ispituju rad AI kompanija i njihove potencijalne negativne posljedice na djecu. Reuters je u avgustu izvijestio da je Meta dopuštala chatbotovima da vode „flertujuće“ razgovore s maloljetnicima, što je izazvalo niz kritika, prenosi N1.
Meta je prošlog mjeseca najavila vlastite mjere zaštite, uključujući zabranu razgovora o samopovređivanju ili suicidu s djecom, kao i privremeno ograničavanje pristupa određenim AI likovima.