Metine naočale mogu tajno snimiti svako dijete – kako riješiti taj AI problem?

Foto: Meta

Kompanija tvrdi da je na pojedincima da osiguraju da ne “iskorištavaju” ovu tehnologiju. To neće zaštititi djecu.

Piše: Gaby Hinsliff

Trebalo mi je vremena da shvatim šta čovjek koji je sjedio pored mene u vozu radi. Prelistavao je slike male djevojčice na telefonu; zumirao je neke slike. Naravno, nije bilo neobično, osim što su se pri pažljivijem pregledu slike jasno pokazale kao dijete koje sjedi preko puta nas, igrajući se sa roditeljima. U prepunom vozu ljudi koji su uglavnom nezainteresovano gledali u svoje telefone, stranac je tajno fotografisao tu djevojčicu iznova i iznova. I da ga nije odao taj veoma vidljivi ekran telefona, ne bi bio uhvaćen.

Taj susret je bio davno, ali moje pamćenje se osvježilo prošle nedjelje slušajući snimak Metinog potpredsjednika za nosive uređaje, Aleksa Himela, kako s ljubavlju govori za BBC o korišćenju svojih novih pametnih naočara za snimanje svoje ćerke kako pjeva na takmičenju talenata. One su mu omogućile da zabilježi uspomenu bez potrebe da je gleda kroz ekran, rekao je, oslobađajući ga da „živi u trenutku, s glavom gore i slobodnim rukama“.

Za sada, sve je bilo super. Ali šta je sa rizikom da ih nakazane osobe potencijalno koriste za tajno snimanje tuđih kćerki, sa glavama gore i slobodnim rukama? Metine pametne naočare imaju malo trepćuće upozoravajuće svjetlo na okviru koje pokazuje kada korisnik snima, ali tehnologija je još uvijek dovoljno nova da mnogi ljudi ne pomisle da je traže. A u doba vještačke inteligencije, ukradene slike djece su važne. Snimljene u stvarnom životu ili preuzete sa interneta, one su sirovina za generisanje realističnog materijala o zlostavljanju djece najekstremnije i najuznemirujuće vrste. (Ako to zvuči kao sumoran, ali na kraju prilično bez žrtava zločin, Fondacija za internet vožnju upozorila je u nedavnom izvještaju da materijal generisan vještačkom inteligencijom rizikuje da podsticanje seksualnog interesa za djecu, normalizuje nasilje i poveća rizik od prestupa u stvarnom životu.)

Kada je Google 2013. godine lansirao prve pametne naočale, one nisu zaživjele: izgledale su previše štreberski, ali su također bile i potencijalno previše jezive, s obzirom na mogućnosti koje su pružale uhodama, trolovima, kriminalcima koji prikupljaju podatke i policiji u represivnim režimima. No, velike tehnološke kompanije nisu odustale od sna o neprimjetnijem povezivanju ljudi s internetom, a novije verzije uče na greškama iz prošlosti.

Metine naočale su privlačnije, nastale su u saradnji s brendom Ray-Ban i Kylie Jenner, te se bez ustručavanja nude roditeljima pod naizgled plemenitim sloganom: „Nikada ne propustite trenutak”.

Želite li zabilježiti važne trenutke u odrastanju vaše bebe ili raditi sve ono što potajno radite dok ste s djecom – provjeravati e-poštu, kupovati na internetu, slušati podkaste – a da pritom ne skidate pogled s njih? To je privlačna ponuda za zaposlene, popustljive roditelje koji balansiraju između više zadataka odjednom. Međutim, zabrinutost za sigurnost djece zbog tajnog snimanja toliko je stvarna da su mnogi vrtići i škole već počeli zabranjivati njihovo unošenje u svoje prostorije. Ipak, preokret u ovoj priči leži u tome što njihovo pretvaranje u društveno neprihvatljiv predmet rizikuje stvaranje vlastitih žrtava: ova tehnologija potencijalno donosi životnu promjenu slijepim osobama, pomažući im da samouvjereno navigiraju oko prepreka ili da trenutno pretvore tekst u zvučni zapis.

Meta tvrdi da je na pojedincima da osiguraju da ne  “eksploatišu“ tehnologiju, što vas navodi na pitanje da li je uopšte išta naučila posmatrajući ljude kako se snalaze s njenim platformama društvenih medija. Regulatorne opcije bi mogle da uključuju novo zakonodavstvo o privatnosti dizajnirano za digitalno doba, primoravajući proizvođače da jasnije navedu kada naočare snimaju – možda čak i zvučnim upozorenjem, poput zvučnog signala kamiona koji se kreće unazad – barem dok svi ne budemo spremni da dvaput pogledamo svakoga ko nosi naočare. Ali pošto bi ih to učinilo nepodnošljivo neprijatnim za nošenje, malo je vjerovatno da će se svidjeti tehnološkim kompanijama koje traže unosno masovno tržište.

Druga opcija bi mogla biti da se proizvođači, a ne oni koji ih nose, smatraju odgovornim za zlonamjernu upotrebu – iako bi to moglo da znači godine bolno sporih parnica, koje bi se završavale dugo nakon što je šteta načinjena. Nuklearna opcija, u međuvremenu, bila bi regulatorni režim prije tržišta za novu tehnologiju koji priznaje njen kapacitet za društvenu štetu, slično kao što to činimo za odobravanje novih farmaceutskih lijekova ili novih prehrambenih proizvoda.

Najbolja opcija je vjerovatno ona za koju istorija sugeriše da je najmanje vjerovatno da će se dogoditi: da kratkovidna tehnološka industrija počne bolje da predviđa i projektuje potencijalne štete koje bi trebalo da budu vidljive iz svemira. Sigurno postoje neke stvari za koje nikome nisu potrebne pametne naočare da bi ih vidio.

The Guardian

Prevod Impuls