Foto: Canva
AI ‘agenti’ dolaze, bili mi spremni ili ne. Nema sumnje da će ovaj razvoj biti transformativan – na bolje ili na gore.
Piše: Daron Acemoglu
AI ‘agenti’ dolaze, bili mi spremni ili ne. Iako postoji velika neizvjesnost oko toga kada će modeli umjetne inteligencije moći autonomno komunicirati s digitalnim platformama, drugim alatima umjetne inteligencije, pa čak i ljudima, malo je sumnje da će ovaj razvoj biti transformativan – na bolje ili na gore. Ipak, usprkos svim komentarima (i hype) oko agentske umjetne inteligencije, mnoga velika pitanja ostaju neriješena, a najveće je koju vrstu agenta umjetne inteligencije tehnološka industrija želi razviti?
Različiti modeli imat će znatno različite implikacije. S pristupom ‘AI kao savjetnik’, agenti AI bi ponudili individualno kalibrirane preporuke ljudima koji donose odluke, ostavljajući ljude uvijek na vozačkom mjestu. Ali s modelom ‘autonomne umjetne inteligencije’, agenti će preuzeti volan u ime ljudi. To je razlika s dubokim i dalekosežnim implikacijama.
Ljudi svaki dan donose stotine odluka, od kojih neke imaju velike posljedice za njihovu karijeru, život ili sreću. Mnoge od tih odluka temelje se na nesavršenim ili nepotpunim informacijama, koje više određuju emocije, intuicija, instinkti ili impulsi. Kao što je David Hume slavno rekao, ‘Razum jest i treba biti samo rob strasti.’ Ljudi mogu donositi većinu odluka bez sustavnog razmišljanja ili dužne pažnje na pune implikacije, ali kao što je Hume prepoznao s ‘trebao’ dijelom svoje izjave, ovo nije sve loše. To je ono što nas čini ljudima. Strast odražava svrhu, a također može igrati ključnu ulogu u tome kako se nosimo sa složenim svijetom.
S AI savjetnicima koji pružaju prilagođene, pouzdane, kontekstualno relevantne, korisne informacije, mnoge se važne odluke mogu poboljšati, ali će ljudski motivi ostati dominantni. Ali što je tako loše u tome da autonomne umjetne inteligencije donose odluke u naše ime? Ne bi li mogli dodatno poboljšati donošenje odluka, uštedjeti vrijeme i spriječiti pogreške?
Igra piletine
Postoji nekoliko problema s ovom perspektivom. Prvo, ljudsko djelovanje ključno je za ljudsko učenje i napredak. Sam čin donošenja odluka i razmišljanja o ishodima – čak i ako inputi i savjeti dolaze od neljudskih agenata – potvrđuje naš vlastiti osjećaj djelovanja i svrhe. Velik dio onoga što ljudi rade nije vezano uz računanje ili prikupljanje inputa kako bi odlučili o optimalnom tijeku djelovanja; radije se radi o otkriću — iskustvu koje će postati sve rjeđe ako se sve odluke delegiraju agentu umjetne inteligencije.
Štoviše, ako tehnološka industrija uglavnom teži autonomnim agentima umjetne inteligencije, vjerojatnost automatizacije više ljudskih poslova značajno će se povećati. Ipak, ako umjetna inteligencija postane prvenstveno sredstvo za ubrzavanje automatizacije, svaka nada u zajednički prosperitet bit će uništena.
Ono što je najvažnije, postoji temeljna razlika između agenata umjetne inteligencije koji djeluju u ime ljudi i ljudi koji djeluju za sebe. Mnoga okruženja u kojima ljudi komuniciraju imaju elemente suradnje i sukoba. Razmotrite slučaj jedne tvrtke koja daje input drugoj. Ako je ovaj input dovoljno vrijedan za kupca, trgovina između dviju kompanija je obostrano korisna (i obično koristi i društvu).
“Svijet autonomnih agenata umjetne inteligencije vjerojatno će donijeti mnoge nove probleme, dok će istovremeno narušiti mnoge prednosti koje je tehnologija mogla ponuditi.”
Ali da bi došlo do bilo kakve razmjene, cijena inputa mora biti određena putem inherentno konfliktnog procesa. Što je viša cijena, to će prodavač imati više koristi u odnosu na kupca. Ishod takvog pregovaranja često je određen kombinacijom normi (kao što je pravednost), institucija (kao što su ugovori koji će nametnuti troškove ako se prekrše) i tržišnih sila (kao što je ima li prodavatelj mogućnost prodaje nekom drugom). Ali zamislite da kupac ima reputaciju potpuno beskompromisnog – jer odbija prihvatiti bilo što osim najniže moguće cijene. Ako nema drugih kupaca, prodavatelj bi mogao biti prisiljen prihvatiti nisku ponudu.
Srećom, u našim svakodnevnim transakcijama takva beskompromisna stajališta su rijetka, djelomično zato što se isplati ne biti na lošem glasu i, što je još važnije, zato što većina ljudi nema ni hrabrosti ni želje djelovati na tako agresivne načine. Ali sada zamislite da kupac ima autonomnog AI agenta koji ne mari za ljudske finosti i posjeduje neljudske čelične živce. AI se može istrenirati da uvijek zauzme ovaj beskompromisan stav, a druga ugovorna strana neće imati nade da će je nagovoriti na obostrano korisniji ishod. Nasuprot tome, u svijetu umjetne inteligencije kao savjetnika, model bi i dalje mogao preporučiti beskompromisnu poziciju, ali čovjek bi na kraju odlučio hoće li krenuti tim putem.
Dakle, u bliskoj budućnosti, autonomne agentske umjetne inteligencije mogle bi dovesti do nejednakopravnijeg svijeta, u kojem samo neke tvrtke ili pojedinci imaju pristup visoko sposobnim, vjerodostojno tvrdoglavim modelima umjetne inteligencije. Ali čak i kad bi svi na kraju nabavili iste alate, to ne bi bilo ništa bolje. Cijelo naše društvo bilo bi podvrgnuto igricama ‘rata iscrpljivanja’ u kojima agenti umjetne inteligencije svaku konfliktnu situaciju guraju do ruba sloma.
Takvi su sukobi sami po sebi riskantni. Kao u igri ‘kokoši’ (kada dva auta ubrzavaju jedan prema drugom da vide tko će prvi skrenuti), uvijek je moguće da niti jedna strana neće popustiti. Kada se to dogodi, oba vozača ‘pobjeđuju’ — i oba nestaju.
Umjetna inteligencija koja je uvježbana za pobjedu kod ‘kokoši’ nikada neće skrenuti. Iako bi umjetna inteligencija mogla biti dobar savjetnik ljudima – opskrbljujući nas korisnim, pouzdanim i relevantnim informacijama u stvarnom vremenu – svijet autonomnih agenata umjetne inteligencije vjerojatno će dovesti do mnogih novih problema, dok će umanjiti mnoge prednosti koje je tehnologija mogla ponuditi.