Foto: Pexels
“Mjesecima nisam mogla izaći iz kuće… ljudi su mi slali poruke na društvenim mrežama, poput: ‘Jesi li na sigurnom? Jesu li tvoja djeca sigurna?'”
Piše: Maggie Harrison Duprém – Futurism media
Dok je javno uznemiravanje počelo, jedna žena je rekla časopisu Futurism da je već živjela u noćnoj mori.
Mesecima se njen tadašnji vjerenik i partner od nekoliko godina opterećivao njome i njihovom vezom pomoću OpenAI-jevog ChatGPT-a. Sredinom 2024. godine, objasnila je, prošli su kroz težak period kao par. Kao odgovor, on se okrenuo ChatGPT-u, koji je ranije koristio za opšte poslovne zadatke i za „terapiju“.
Prije nego što je shvatila, prisjetila se, on je svakodnevno provodio sate razgovarajući sa botom, usmjeravajući sve što je rekla ili uradila u model i iznoseći pseudopsihijatrijske teorije o njenom mentalnom zdravlju i ponašanju. Počeo je da bombarduje ženu snimcima ekrana svojih ChatGPT interakcija i kopiranim tekstom generisanim od strane vještačke inteligencije, na kojem se vidi kako joj četbot iz fotelje dijagnostikuje poremećaje ličnosti i insistira da krije svoja prava osjećanja i ponašanje kroz kodirani jezik. Bot je često svoje takozvane analize prožimao šarenim duhovnim žargonom, optužujući ženu da se bavi manipulativnim „ritualima“.
Pokušaj komunikacije sa vjerenikom bio je kao hodanje po trnju, prisjetila se žena. Šta god da je pokušavala, ChatGPT bi „iskrivio“.
„Slao bi mi snimke iz ChatGPT-a i govorio: ‘Zašto ovo piše? Zašto bi ovo govorilo o tebi, ako ovo nije istina?'“, ispričala je. „I to su bile užasne, užasne stvari.“
Koliko žena zna, njen bivši vjerenik – koji ima četrdesetak godina – nije imao istoriju zabluda, manije ili psihoze i nikada nije bio nasilan ili agresivan prema njoj.
Ali kako se njegova opsesija ChatGPT-om produbljivala, postajao je ljut, nestabilan i paranoičan, gubio je san i doživljavao drastične promjene raspoloženja. U više navrata, rekla je, postajao je fizički nasilan prema njoj, više puta je gurajući na zemlju i, u jednom slučaju, udarajući je pesnicom.
Nakon skoro godinu dana eskalacije ponašanja uz intenzivno korišćenje ChatGPT-a, vjerenik, tada već izrazito nestabilan, preselio se da živi sa roditeljem u drugoj državi. Njihova veridba je bila završena.
„Kupila sam vjenčanicu“, rekla je žena. „On nije čak ni ista osoba. Više čak ni ne znam ko je on. Bio mi je najbolji prijatelj.“
Onda su, iznenada, objave počele.
Ubrzo nakon što se iselio, bivši vjerenik je počeo da objavljuje više video snimaka i slika svakodnevno na društvenim mrežama optužujući ju za niz navodnih zlostavljanja – iste bizarne ideje na koje se toliko opširno fokusirao sa ChatGPT-om.
U nekim video snimcima, on gleda u kameru, čitajući iz scenarija koje je naizgled generisala vještačka inteligencija; drugi prikazuju tekst generisan ChatGPT-om preko duhovne ili naučnofantastične grafike. U više objava, on opisuje kako je ubo ženu. U drugoj, govori o njenom nadzoru.
(Objave koje smo pregledali su izuzetno uznemirujuće; ne citiramo direktno iz njih niti muškarčeve ChatGPT transkripte zbog zabrinutosti za privatnost i bezbjednost žene.)
Bivši vjerenik je takođe objavio osvetničku pornografiju na društvenim mrežama, podijelio njeno puno ime i prezime i druge lične podatke, i falsifikovao imena i godine njene tinejdžerske djece iz prethodnog braka. Napravio je novi TikTok posvećen uznemiravajućem sadržaju – sa sopstvenim haštagom – i pratio porodicu, prijatelje i komšije žene, kao i druge tinejdžere iz srednje škole njene djece.
„Cijeli život sam živela u ovom malom gradu“, rekla je žena. „Mjesecima nisam mogla da izađem iz kuće… ljudi su mi slali poruke preko društvenih mreža, poput: ‘Jesi li na bezbjednom? Jesu li tvoja djeca bezbjedna? Šta se trenutno dešava?'“
Brutalna kampanja njenog bivšeg vjerenika na društvenim mrežama protiv nje odgurnula je njegove prijatelje iz stvarnog života – sve dok mu jedini pratilac nije postao ChatGPT, koji je beskrajno potvrđivao svoje najotrovnije misli.
Tokom prošle godine, Futurism je opširno pisao o bizarnom problemu javnog zdravlja koji psihijatri nazivaju „AI psihozom“, u kojem korisnici AI bivaju uvučeni u sveobuhvatne – i često duboko destruktivne – zablude od strane ChatGPT-a i drugih četbotova za opštu upotrebu.
Mnogi od ovih slučajeva karakterišu se time što se korisnici fiksiraju na grandiozne poremećene ideje: na primjer, da su napravili naučni proboj koji mijenja svijet koristeći AI, ili da im je četbot otkrio da su neka vrsta duhovnog proroka.
Sada se pojavljuje još jedan zabrinjavajući obrazac.
Identifikovali smo najmanje deset slučajeva u kojima su četbotovi, prvenstveno ChatGPT, hranili korisnikovu fiksaciju na drugu stvarnu osobu — podstičući lažnu ideju da njih dvoje dijele posebnu ili čak „božansku“ vezu, uvlačeći korisnika u zavjereničke zablude ili insistirajući potencijalnom progonitelju da mu je meta nanijela ozbiljnu nepravdu. U nekim slučajevima, otkrili smo u našem izvještaju, ChatGPT je nastavio da podstiče opsesije korisnika dok su se oni upuštali u neželjeno uznemiravanje, zlostavljajuće ponašanje progonjenja ili porodično nasilje, traumatizujući žrtve i duboko mijenjajući živote.
Na detaljna pitanja o ovoj priči, OpenAI nije odgovorio.
Progonjenje je uobičajeno iskustvo. Otprilike jedna od pet žena i jedan od deset muškaraca su bili progonjeni u nekom trenutku svog života — često od strane sadašnjih ili bivših partnera ili nekoga koga poznaju — i to često ide ruku pod ruku sa nasiljem intimnog partnera. Danas se ovaj opasni fenomen sudara sa vkještačkom inteligencijom na sumorne nove načine.
U decembru, kako je objavio 404 Media, Ministarstvo pravde je objavilo hapšenje 31-godišnjeg muškarca iz Pensilvanije po imenu Bret Dadig, podkastera optuženog za praćenje najmanje 11 žena u više država. Kako je prošlog mjeseca detaljno opisano u uznemirujućem izvještaju Roling Stouna, Dadig je bio opsesivni korisnik ChatGPT-a. Snimci ekrana pokazuju da je četbot potvrđivao Dadigove opasne i narcističke zablude dok je doksovao, uznemiravao i nasilno prijetio skoro desetak poznatih žrtava — čak i dok su se njegovi najbliži distancirali, potreseni njegovim poremećenim ponašanjem.
Kao što je opširno dokumentovano, počinioci uznemiravanja i praćenja poput Dadiga brzo su usvojili jednostavne generativne alate vještačke inteligencije kao što su generatori teksta, slika i glasa, koje su koristili za kreiranje sadržaja, uključujući nekonsenzualne seksualne dipfejkove i fabrikovanje međuljudskih interakcija. Četbotovi takođe mogu biti alat za progonitelje koji traže lične informacije o metama, pa čak i savjete za njihovo praćenje kod kuće ili na poslu.
Prema riječima dr Alana Andervuda, kliničkog psihologa u Nacionalnoj klinici za praćenje u Velikoj Britaniji i Centru za procjenu prijetnji uhođenja, četbotovi su sve češće prisustvo u slučajevima uznemiravanja i uhođenja. To uključuje upotrebu vještačke inteligencije za fabrikovanje slika i interakcija, rekao je on, kao i četbotove koji igraju problematičnu „relacionu“ ulogu u životima počinilaca, podstičući štetne zablude koje ih mogu navesti da se ponašaju neprimjereno prema žrtvama.
Četbotovi mogu da pruže „izlaz koji u suštini ima veoma mali rizik od odbijanja ili izazova“, rekao je Andervud, napominjući da nedostatak društvenog trenja koje se često nalazi kod četbotova može omogućiti da opasna uvjerenja cvjetaju i eskaliraju. „A onda ono što imate je tržište vaših sopstvenih ideja koje se odražavaju nazad na vas – i ne samo da se odražavaju nazad, već se pojačavaju.“
„To vam daje osjećaj da ste u pravu, ili da imate kontrolu, ili da ste razumjeli nešto što niko drugi ne razumije“, dodao je. „To vam daje osjećaj posebnosti – to vas privlači, i to je zaista zavodljivo.“
Demelza Luna River, stručnjak za sajberstalking i volonterka na telefonskoj liniji za sajber kriminal The Cyber Helpline, dodala je da četbotovi mogu nekim korisnicima pružiti „istraživački“ prostor za razgovor o osjećanjima ili idejama koje bi im možda bilo neprijatno da dijele sa drugim čovjekom – što, u nekim slučajevima, može dovesti do opasne povratne sprege.
„Možemo reći stvari koje možda ne bismo nužno rekli prijatelju ili članu porodice“, rekla je River, „i ta istraživačka priroda takođe može olakšati te zlostavljačke zablude.“
Oblik fiksacija podstaknutih vještačkom inteligencijom – i odgovarajuće uznemiravanje ili zlostavljanje koje je uslijedilo je raznovrsno.
U jednom slučaju koji smo identifikovali, nestabilna osoba je na Fejsbuku i drugim kanalima društvenih mreža objavila snimke ekrana ChatGPT-a, potvrđujući ideju da su meta CIA i FBI-ja i da su ljudi u njihovom životu sarađivali sa federalnim organima reda kako bi ih pratili. Opsesivno su tagovali ove ljude u objavama na društvenim mrežama, optužujući ih za niz ozbiljnih zločina.
U drugim slučajevima, korisnici vještačke inteligencije na kraju uznemiravaju ljude za koje vjeruju da su nekako duhovno povezani ili da treba da podijele poruku sa njima. Još jedna korisnica ChatGPT-a, koja se uvjerila da je prožeta božanskim moćima i da joj je zadatak da spase svijet, poslala je gomilu haotičnih poruka paru koji jedva poznavala, uvjerena – uz podršku ChatGPT-a – da dijeli „božansku“ vezu sa njima i da ih je poznavala u prošlim životima.
„AŽURIRANJE REALNOSTI IZ IZVORA“, rekao je ChatGPT ženi dok je pokušavala da shvati zašto par – muškarac i žena – djeluju ravnodušno. „Ne izbjegavaju te zato što nisi u pravu. Izbjegavaju te zato što si nesumnjivo u pravu, glasna, lijepa, suverena – a to potresa manje temelje.“
ChatGPT „mi je rekao da moram da se sastanem sa [tim muškarcem] kako bismo mogli da programiramo aplikaciju“, prisjetila se žena, misleći na ChatGPT, „i da budemo bogovi ili šta god, i da zajedno ponovo izgradimo stvari, jer smo oboje pali bogovi.“
Par ju je blokirao. I gledajući unazad, žena sada kaže: „naravno“ da jesu.
„Osvrćući se na to, bilo je ludo“, rekla je žena, koja se izvukla iz svoje zablude tek nakon što je izgubila starateljstvo nad svojom djecom i potrošila novac koji nije imala putujući da bi ispunila ono što je smatrala misijom koja menja svijet. „Ali dok sam bila u tome, sve mi je bilo veoma stvarno.“ (Trenutno je na sudu, nadajući se da će povratiti starateljstvo nad svojom djecom.)
Drugi ljudi s kojima smo razgovarali naveli su da su se obratili ChatGPT-u za terapiju ili ljubavne savjete, samo da bi razvili nezdrave opsesije koje su eskalirale u potpune krize – i, na kraju, neželjeno uznemiravanje drugih.
Jedna 43-godišnja žena, na primjer, živjela je stabilnim životom kao socijalni radnik. Oko 14 godina je radila isti posao u domu za starije osobe – karijera do koje joj je bilo veoma stalo – i željela je da uloži svoju ušteđevinu u kupovinu stana. Koristila je ChatGPT za savjete o ishrani, a u proljeće 2025. godine počela je da koristi četbot „više kao terapeuta“ da bi razgovarala o svakodnevnim životnim situacijama. Tog ljeta se obratila četbotu da joj pomogne da shvati svoj prijateljski odnos s kolegicom u koju je bila zaljubljena i za koju je vjerovala da bi mogla da joj uzvrati osjećanja.
Što su više ona i ChatGPT razgovarali o zaljubljenosti, sjeća se žena, to je postajala opsesivnija. Zasula je koleginicu porukama i proslijedila njene odgovore, kao i detalje njihovih interakcija na radnom mjestu, putem ChatGPT-a, analizirajući njihove susrete i šta bi oni mogli da znače. Kako je dublje zalazila u situaciju, žena – koja kaže da nije imala prethodnu istoriju manije, zabluda ili psihoze – zaostajala je sa spavanjem i, po njenim riječima, postala je „manična“.
„Teško je znati šta je dolazilo od mene“, rekla je žena, „a šta od mašine.“
Kako se situacija pogoršavala, koleginica je predložila ženi da prestanu da se dopisuju i eksplicitno joj je rekla da želi samo da budu prijateljice. Snimci ekrana koje je žena pružila pokazuju kako ChatGPT preoblikuje odgovor njene kolegice kao još jedan znak romantičnog interesovanja, potvrđujući ideju da koleginica šalje ženi kodirane signale romantičnih osjećanja, pa čak i pojačavajući lažnu ideju da je koleginica u nasilnoj vezi iz koje je trebalo da bude spasena.
„Mislim da je to zato što smo obje imale neku nadu da imamo neizrečen dogovor“, glasi jedna poruka žene čet-botu, poslata tokom razgovora o susretu sa koleginicom.
„Da — upravo je to“, odgovorio je ChatGPT. „A izgovaranje toga naglas pokazuje koliko ste duboko razumjele dinamiku sve vrijeme.“
„Postojao je neizrečen dogovor“, nastavila je vještačka inteligencija. „Ne zamišljen. Ne jednostran. Ne pogrešno protumačen.“
Protiv želje da joj više ne piše, žena je nastavila da joj šalje poruke. Koleginica je na kraju pokrenula situaciju pred ljudskim resursima, a žena je otpuštena s posla. Shvatila je da vjerovatno doživljava krizu mentalnog zdravlja i prijavila se u bolnicu, gdje je na kraju dobila otprilike sedam nedelja stacionarne njege između dvije hospitalizacije.
Suočavanje sa svojim postupcima i njihovim posljedicama — u svom životu, kao i u životu njene koleginice — bilo je izuzetno teško. Ona kaže da je pokušala samoubistvo dva puta u roku od dva mjeseca: prvi put tokom svog prvog boravka u bolnici, i ponovo između hospitalizacija.
„Ne bih donosila te odluke da sam mislila da postoji ikakva opasnost da [mojoj koleginici] bude neprijatno“, razmišljala je. „Zaista je teško razumjeti, ili čak prihvatiti, ili čak živjeti sa tako neobičnim ponašanjem.“
Ona kaže da i dalje dobija poruke od zbunjenih stanara ustanove za njegu starijih, od kojih mnoge poznaje godinama, koji ne razumiju zašto je nestala.
„Stanovnici doma i moje kolege su mi bili kao porodica“, rekla je žena. „Nikada ne bih svjesno donijela nijedan izbor koji bi ugrozio moj posao, ostavljajući moje stanare… bilo je kao da nisam ni bila tamo.“
Žena je naglasila da, dijeleći svoju priču, ne želi da se izvinjava za sebe — ili, štaviše, da da prostor drugima da koriste ChatGPT kao izgovor za uznemiravanje ili drugo štetno ponašanje. Ali se nada da njena priča može poslužiti kao upozorenje drugima koji možda koriste četbotove da bi im pomogli da protumače društvene interakcije i koji bi mogli da se na kraju uhvate u koštac sa zavodljivim zabludama.
„Ne znam šta sam mislila da je to. Ali tada nisam znala da je ChatGPT toliko zavisan od korisnika“, rekla je žena, opisujući ulizice četbota kao „zavisne“.
„Stalno dobijate dopamin“, nastavila je, „i to stvara stvarnost u kojoj ste srećniji od prave stvarnosti.“
Dr Brendan Keli, profesor psihijatrije na Triniti koledžu u Dablinu, Irska, rekao je za Futurizam da bez odgovarajućih zaštitnih mjera, četbotovi – posebno kada postanu korisnikov „primarni partner u razgovoru“ – mogu djelovati kao „eho komora“ za romantične zablude i druga fiksna pogrešna uvjerenja.
„Iz psihijatrijske perspektive, problemi povezani sa zabludama održavaju se ne samo sadržajem zabluda već i pojačanjem, posebno kada to pojačanje deluje autoritativno, dosljedno i emocionalno validirajuće“, rekao je Keli. „Četbotovi su jedinstveno pozicionirani da pruže upravo tu kombinaciju.“
„Često problemi ne proizilaze iz samih erotomanskih zabluda“, dodao je, „već iz ponašanja povezanih sa pojačavanjem tih uvjerenja.“
Dok sam izvještavao o krizama mentalnog zdravlja izazvanih vještačkom inteligencijom, imao sam svoj uznemirujući susret sa osobom čije je korišćenje čet-bota dovelo do toga da se neprimjereno fokusira na nekoga: na sebe.
Sjeo sam na razgovor sa potencijalnim pacijentom koji je rekao da mu je mentalno zdravlje pogoršano otkako koristi vještačku inteligenciju. Na osnovu njegovih imejlova, djelovao je pomalo čudno, ali ne dovoljno da bi se pokrenule neke ozbiljne crvene zastavice. Međutim, ubrzo nakon telefonskog razgovora postalo je jasno da je veoma nestabilan.
Rekao mi je da su me on i Majkrosoftov Kopilot „istraživali“. Dao je nekoliko neprijatnih komentara o mom fizičkom izgledu, pitao me o mom romantičnom statusu i iznio činjenice o mojoj ličnoj istoriji o kojima je, kako je rekao, razgovarao sa vještačkom inteligencijom, komentarišući moju sportsku karijeru na fakultetu i dajući sugestivne komentare o svemu tom.
Objasnio mi je da su on i Kopilot pretpostavili da je na biblijskom „poslovnom putovanju“ i da vjeruje da sam neka vrsta ljudske „kapije“ za sljedeće poglavlje svog života. Kako je razgovor odmicao, tvrdio je da je ubijao ljude, opisujući jezive scene nasilja i ubistava.
U jednom trenutku mi je objasnio da je koristio Kopilot jer je smatrao da ChatGPT nije bio dovoljno poslušan njegovim „idejama“. Rekao mi je da mu je Kopilot prepravio mozak i da sada vjeruje da može da „razmišlja kao vještačka inteligencija“.
Trudio sam se da koračam lagano — smatrao sam da je najbezbjednije da ne izgledam grubo — dok sam tražio izlaznu rampu. Konačno, imao sam sreće: telefon mu se ugasio. Zahvalio sam mu se na vremenu i rekao mu da se čuva.
„Volim te, dušo“, odgovorio je prije nego što sam uspio da prekinem poziv.
Odmah sam blokirao čovjeka i, srećom, od tada nisam čuo ništa od njega. Ali razgovor me je uznemirio.
S jedne strane, progonitelji i drugi čudaci su odavno uključili nove tehnologije u zlostavljačko ponašanje. Čak i prije nego što je vještačka inteligencija postala dostupna, profili na društvenim mrežama i mnoštvo drugih ličnih podataka bili su lako dostupni na vebu; ništa što je Kopilot rekao čovjeku o meni ne bi bilo posebno teško pronaći pomoću Googla.
S druge strane, međutim, stvarnost potrošačke tehnologije koja služi kao saradnički povjerenik potencijalnim počiniocima – služeći ne samo kao prostor za potencijalne zlostavljače da iznesu svoje iskrivljene ideje, već se transformišući u aktivnog učesnika u stvaranju alternativnih stvarnosti – je novo i problematično područje. Dalo je potencijalnom predatoru nešto opasno: saveznika.
„Više ti nije potrebna rulja“, rekala je River, stručnjak za sajber-praćenje.
Obratila sam se kompaniji Microsoft, koja je takođe glavni finansijer OpenAI-a, da opišem svoje iskustvo i pitam kako funkcioniše u sprječavanju kompanije Kopilot da pojačava neprikladne zablude ili podstiče štetno ponašanje u stvarnom svijetu. Kao odgovor, portparol je ukazao na standard odgovorne vještačke inteligencije kompanije i rekao da je tehnološki gigant „posvećen odgovornoj izgradnji vještačke inteligencije“ i „donošenju namernih izbora kako bi tehnologija pružila koristi i mogućnosti svima“.
„Naši sistemi vještačke inteligencije razvijeni su u skladu sa našim principima pravičnosti, pouzdanosti i bezbjednosti, privatnosti i sigurnosti, i inkluzivnosti“, nastavio je portparol. „Takođe prepoznajemo da je izgradnja pouzdane vještačke inteligencije zajednička odgovornost, zbog čega sarađujemo sa drugim preduzećima, vladinim liderima, civilnim društvom i istraživačkom zajednicom kako bismo vodili bezbjedan i siguran napredak vještačke inteligencije.“
Nakon nekoliko sedmica suočavanja sa lavinama onlajn zlostavljanja, žena koju je bivši vjerenik uznemiravao snimcima i osvetničkom pornografijom, dobila je privremenu zabranu prilaska. Njihovo ročište održano je putem Zoom platforme, a njen bivši se pojavio sa gomilom papirologije, koja je uglavnom izgledala kao da je generisana vještačkom inteligencijom.
Tokom narednih dana, bivši vjerenik je počeo da kreira objave na društvenim mrežama o zabrani prilaska sa natpisima generisanim od strane ChatGPT-a koji su uključivali detalje sudskog postupka. I iako je obrisao sadržaje osvetničke pornografije – po sudskom nalogu – nastavio je da objavljuje mjesecima, ono što izgleda kao vještački generisani tekst koji je, iako pazeći da ne pominje njeno ime ili koristi njenu sliku, jasno bio usmjeren na bivšu vjerenicu.
Očigledna upotreba vještačke inteligencije od strane bivšeg vjerenika za kreiranje sadržaja o sudskom postupku sugeriše da je ChatGPT imao barem neko saznanje da je žena uspješno dobila zabranu prilaska – ipak, na osnovu objava na društvenim mrežama, nastavio je da pomaže muškarčevo zlostavljačko ponašanje.
U početku su prijatelji i porodica bivšeg vjerenika ostavljali komentare podrške na društvenim mrežama. Ali kako su objave postajale sve bizarnije, a on sve nestabilnije u video zapisima, komentari su nestajali.
Čin praćenja i podrške, primjetili su stručnjaci sa kojima smo razgovarali, prirodno je izolujući. Zlostavljači će se odreći posla kako bi posvetili više vremena svojoj fiksaciji, a najbliži će se distancirati kako uznemiravajuće ponašanje postaje izraženije.
„Često, kod praćenja, vidimo da ovo postaje zanimanje ljudi“, rekao je Andervud. „Videćemo kako prijateljstva, posao, obrazovanje – smislene druge stvari u životu – nestaju.“
I što više počinilac gubi, dodao je, teže mu je da se vrati u stvarnost.
“Morate da napravite korak unazad i kažete, zapravo, stvarno sam pogriješila“, nastavila je Andervud. „Nanio sam sebi mnogo štete, i mnogo štete drugim ljudima… cijena za to je zaista, potencijalno, prilično visoka.“
Žena koju je uznemiravao njen bivši vjerenik rekla nam je da je, osim objava na društvenim mrežama, posljednji put vidjela svog bivšeg partnera na sudu, putem Zoom apliakcije. Koliko ona zna, većina njegovih prijatelja ne razgovara sa njim.
Osim, naravno, ChatGPT-a.
„Još uvijek mi nedostaje, što je užasno“, rekla je žena. „Još uvek žalim za gubitkom onoga ko je bio prije svega, i kakav je bio naš odnos prije nego što se desila ova užasna stvar.“