Foto: BBC/ Alamy
U glavnoj ulozi sa Arnoldom Schwarzeneggerom, blockbuster iz 1984. godine, The Terminator, postao je sinonim za opasnosti od superinteligentnih mašina. No, film ujedno “pomaže i ometa” naše razumijevanje vještačke inteligencije.
U jednoj epizodi HBO sitkoma “Silicijska dolina”, Thomas Middleditch (Richard Hendricks) fokus grupi objašnjava svoju platformu za strojno učenje Pied Pipera koju jedan sudionik neizbježno usporedi s filmom Terminator Jamesa Camerona iz 1984. godine. “Ne, ne, ne”, insistira ogorčeni Middleditch. “Mogu vas uvjeriti da ovdje nema situacije tipa Skynet. Ne, Pied Piper ni na koji način neće postati osjećajan i pokušati preuzeti svijet.” Prekasno. Izgubio je pažnju publike.
Sa svojim robotima ubicama i lažnim AI sustavom, Skynetom, Terminator je postao sinonim za duh inteligencije stroja koji se okreće protiv svojih ljudskih kreatora. Urednici slika rutinski ilustriraju članke o umjetnoj inteligenciji kromiranom mrtvačkom glavom robota T-800 “lovca-ubice” iz filma. Robotičar Ronald Arkin upotrijebio je isječke iz filma u upozoravajućem govoru iz 2013. pod nazivom Kako NE NAPRAVITI Terminatora.
Linda Hamilton i Michael Biehn zajedno su glumili u “Terminatoru”, jednom od najprofitabilnijih filmova ikada snimljenih (Izvor: Alamy)
Ali film je djelomični blagoslov. Filozof Nick Bostrom, čija je knjiga Superinteligencija iz 2014. popularizirala egzistencijalni rizik “neusklađene umjetne inteligencije” (AI koja nije usklađena s ljudskim vrijednostima i blagostanjem), priznao je da ga njegova supruga “zadirkuje zbog Terminatora i vojske robota”. U svojoj knjizi The Road to Conscious Machines, istraživač umjetne inteligencije Michael Woolridge uokviruje cijelo jedno poglavlje pritužbom na “Terminatorov narativ umjetne inteligencije”.
Postoje noviji i vjerodostojniji utjecajni filmovi o umjetnoj inteligenciji, uključujući Ex Machina i Her, ali kada je riječ o opasnostima tehnologije, Terminator dominira 40 godina nakon prvog prikazivanja. “Skoro je, na smiješan način, sada relevantniji nego što je bio kad je izašao”, rekao je Cameron za The Ringer o filmu i njegovom nastavku iz 1991., “jer je AI sada stvarna stvar s kojom se moramo suočiti, a onda to je bila fantazija.”
‘Protiv oružja i mašina’
Ovo je prilično postignuće za film koji, zapravo, nije osobito zainteresiran za AI. Prije svega, to je mršav i jeziv triler o nezaustavljivom “čovjeku” koji juri za uplašenom, ali snalažljivom ženom. T-800 je neumoljivi ubica u duhu Michaela Myersa iz Noći vještica. Cameron ga je nazvao “znanstveno-fantastičnim horor filmom”. Drugo, to je film o putovanju kroz vrijeme na temu “sudbina protiv volje”, kako je rekao Cameron.
Žustro skicirana premisa je da je u nekom trenutku između 1984. i 2029. SAD cijeli svoj odbrambeni sustav povjerio Skynetu. Jednog je dana Skynet postigao superinteligenciju – vlastiti um – i pokrenuo globalni nuklearni rat. Preživjelo čovječanstvo tada je povelo desetljećima dugu pobunu protiv Skynetove vojske robota. Do 2029. ljudski otpor je na rubu pobjede zahvaljujući vodstvu izvjesnog Johna Connora, pa Skynet šalje T-800 (Arnold Schwarzenegger) u 1984. da ubije Johnovu buduću majku Sarah (Linda Hamilton) prije nego što postane trudna. Pokret otpora odgovara vraćanjem Kylea Reesea (Michael Biehn) da zaustavi T-800 i spasi Sarah. U jednom od onih paradoksa vremenske petlje koje gledatelji ne bi trebali previše proučavati, Kyle se spetlja sa Sarah i ispostavlja se da je Johnov otac. Budućnost je…
T-800 koji izlazi iz plamena bila je aluzija na gorućeg robota iz naučnofantastične klasike iz 1927. godine, Metropolis, Friedricha Langa (Izvor: Alamy)
Terminator je, dakle, triler, ljubavna priča, putovanje kroz vrijeme koje preispituje slobodnu volju i satira o našoj zavisnosti od tehnologije. Protiv je korporacija, rata, oružja i uglavnom mašina, tehnologija, od automatskih sekretarica do Walkmana, , uključena je u smrt ljudi u ovom filmu. Ali ima vrlo malo za reći o samoj umjetnoj inteligenciji.
Terminator bi postao jedan od najprofitabilnijih filmova svih vremena, sa prihodima od 78,4 miliona dolara, ali Cameron nije imao očekivanja da će stvoriti kulturni fenomen. Scenario je napisao u trošnom hotelu u Rimu 1982. godine nakon što je otpušten sa svog prvog rediteljskog posla, Piranha II: The Spawning, a njegova producentica Gale Ann Hurd uspjela je da osigura budžet od samo 6,4 miliona dolara. Njegov glavni glumac, bivši bodybuilder bez dokazanog talenta, nije imao visoka očekivanja. Schwarzenegger je prijatelju rekao da snima “neki smiješni film, za par nedjelja”.
Dvadesetih godina prošlog stoljeća bilo je logično da će vještačka inteligencija hodati i govoriti, poput Frankensteinovog čudovišta
Cameron je i sam očekivao da će Terminatora na kino blagajnama “zgaziti” dva jesenska znanstveno-fantastična epa: Dina Davida Lyncha i Petera Hyamsa 2010: The Year We Make Contact, ubrzo zaboravljeni nastavak filma 2001: Odiseja u svemiru. Ovdje postoji atraktivni sinhronitet: ne samo da je Terminator nadmašio 2010. nego je Skynet zamijenio ubojito računalo HAL 9000 iz 2001. kao dominantna slika AI koja se pokvarila.
Davno prije nego što je polje vještačke inteligencije postojalo, njene potencijalne opasnosti manifestovale su se u obliku robota, kojeg je stvorio Karel Čapek u svojoj drami RUR iz 1921. godine, a popularizovao Fritz Lang u svom filmu Metropolis iz 1927. godine. U svojoj odličnoj BFI knjizi o Terminatoru, Sean French sugerira da je najzapaženija slika iz filma – T-800 kako korača iz plamena, a njegovo se odijelo od mesa rastopilo kako bi se otkrio njegov metalni endoskelet – bila mig gorućem robotu u Metropolisu .
Dvadesetih godina prošlog stoljeća bilo je logično da će strojna-vještačka inteligencija hodati i govoriti, poput Frankensteinovog čudovišta. Popularnost smrtonosnih robota navela je pisca znanstvene fantastike Isaaca Asimova da 1942. sastavi “tri zakona robotike”: prvi pokušaj da se definira etička umjetna inteligencija.
U stvarnom svijetu, polje vještačke inteligencije službeno je počelo 1956. godine na ljetnjoj školi na Dartmouth University, koju su organizirali kompjuterski stručnjaci John McCarthy (koji je skovao termin) i Marvin Minsky. Njihova ambicija bila je da dizajniraju mašine koje bi mogle razmišljati poput ljudi, ali se to pokazalo mnogo težim nego što su zamislili. Historija vještačke inteligencije je priča o usponima i padovima: ciklus takozvanih “AI proljeća” i “AI zima”. Obećanja koja ostavljaju bez daha privlače pažnju, finansije i talenat; njihovo neispunjenje uzrokuje pad sva tri zakona robotike.
Crvene oči Terminatora odaju počast HAL-u, ubilačkoj računarskoj inteligenciji iz filma Stanleyja Kubricka 2001: Odiseja u svemiru (Izvor: Alamy)
Bum 1960-ih, prije nego što su se pojavili tehnički izazovi poznat je kao Zlatno doba vještačke inteligencije. Ekstravagantni hajp o „elektronskim mozgovima” uzbudio je reditelja Stanleya Kubricka i pisca Arthura C. Clarkea, koji su integrirali vještačku inteligenciju u film 2001: A Space Odyssey iz 1968. godine u obliku HAL 9000. Ime (što znači Heuristically Programmed Algorithmic Computer) došlo je od Minskyja, koji je bio angažiran kao konsultant Kubricka. Crvene oči T-800 su sigurno homage HAL-u – Gledanje Kubrickovog filma “2001: Odiseja u svemiru” usmjerilo je Camerona na put da postane reditelj.
Daniel Crevier, historičar umjetne inteligencije, usporedio je HAL scenarij (loše programirano računalo pođe po zlu) sa scenarijem u trileru Colossus DF Jonesa iz 1966. (računalo postaje bogoliki novi oblik života). U Jonesovom romanu, američka vlada nerazborito povjerava čitavu svoju odbrambenu mašineriju superračunalu. Colossus postiže osjećaj, udružuje snage sa svojim sovjetskim kolegom i ucjenjuje čovječanstvo da se podvrgne tehno-diktaturi: predajte se ili se suočite s nuklearnim uništenjem. Colossus je proto-Skynet.
Kraj historije
Ni HAL ni Colossus nisu imali – niti su im bila potrebna – tijela. Cameronova briljantna inovacija bila je kombinacija računala izvan kontrole (Skynet) s robotom ubicom (T-800). T-800 je jednonamjenski oblik umjetne inteligencije koji može učiti iz svog okruženja, rješavati probleme, obavljati sofisticirane fizičke zadatke i lažirati glasove, ali se muči održati razgovor. Skynet, čini se, može sve samo ne kretati se.
Skynet je bio proizvod drugog AI proljeća. Dok je Cameron pisao scenario, britansko-kanadski informatičar Geoffrey Hinton preispitivao je i oživljavao istraživanje u pristupu vještačke inteligencije zasnovane na neuronskim mrežama: modeliranje mašinske inteligencije na neuronima ljudskog mozga. Skynet je neuralna mreža AI. Hinton, koji je nedavno osvojio Nobelovu nagradu za fiziku, nedavno je postao pesimist u vezi sa vještačkom inteligencijom (“Moja intuicija je: propali smo. Ovo je stvarni kraj historije”), ali prema profilu u New Yorkeru, uživao je u The Terminator-u 1984. godine: “Nije ga brinulo što je Skynet… bila neuralna mreža; bio je zadovoljan što je tehnologija prikazana kao obećavajuća.”
U nastavku iz 1991., Terminator 2: Sudnji dan, T-800 (Arnold Schwarzenegger) štiti Johna Connora (Edward Furlong) (Izvor: Getty Images)
Nastavak blockbustera iz 1991. Terminator 2: Sudnji dan malo je razradio priču. Proizlazi iz još jednog vremenskog paradoksa: središnja procesorska jedinica i desna ruka originalnog Terminatora preživjeli su njegovo uništenje i omogućili Cyberdyneovom znanstveniku Milesu Bennettu Dysonu (Joe Morton) da dizajnira Skynet. Zadatak heroja sada nije samo spasiti 10-godišnjeg Johna Connora iz T-1000 koji putuje kroz vrijeme, već uništiti Skynet u digitalnoj kolijevci. (Ovo je bio Cameronov poslednji doprinos temi sve do produkcije i suautorstva Terminator: Dark Fate iz 2019. godine. Nedavno je za magazin Empire izjavio da su svi prethodni nastavci “nebitni”.)
U Terminator 2, T-800 u obliku Schwarzeneggera postaje zaštitnik, a ne lovac, i tako preuzima ulogu onoga koji daje objašnjenja: “Sistem počinje sa radom 4. avgusta 1997. godine. Ljudske odluke su uklonjene iz strateške odbrane. Skynet počinje da uči geometrijskom brzinom. Postaje samosvjestan 29. avgusta u 2:14 sati po istočnom vremenu. U panici pokušavaju da isključe sistem.” Skynet uzvraća udarac lansiranjem nuklearnih raketa prema Rusiji, svjesno znajući da će kontraudari devastirati SAD. Tri milijarde ljudi umire u 24 sata: Sudnji dan .
Ovo je fundamentalno različit prikaz od Reeseovog. U prvom filmu, Skynet pogrešno tumači svoje programiranje smatrajući cijelo čovječanstvo prijetnjom. U drugom filmu, to je djelovanje iz ličnog interesa. Ova kontradikcija ne uzrujava većinu gledalaca, ali ilustruje ključni nesporazum o egzistencijalnom riziku vještačke inteligencije.
Laik će vjerojatno zamisliti neusklađenu vještačku inteligenciju kao pobunjeničku i zlu. Međutim, stručnjaci poput Nicka Bostroma insistiraju na tome da je pravi rizik rezultat nepažljivog programiranja. Sjetite se čarobnjakove metle u Disneyjevoj Fantasiji: uređaj koji poslušno slijedi upute do pogubnih krajnosti. Druga vrsta umjetne inteligencije nije dovoljno ljudska, nedostaje joj zdrav razum i moralna prosudba. Prva vrsta je previše ljudska — sebična, ogorčena, pohlepna za moći. Obje teoretski mogu biti ubojite.
Terminator stoga istovremeno pomaže i koči naše razumijevanje umjetne inteligencije: šta znači kada mašina “misli” i kako to može poći strašno naopako. Mnogi istraživači vještačke inteligencije se protive opsesiji Terminatorom jer ona preuveličava egzistencijalni rizik vještačke inteligencije na uštrb neposrednijih opasnosti, poput masovne nezaposlenosti, dezinformacija i autonomnih oružja. “Prvo, to nas navodi da brinemo o stvarima o kojima vjerovatno ne treba da se brinemo,” piše Michael Wooldridge. “Ali, drugo, odvlači pažnju od onih problema koje bi trebalo da nas zabrinjavaju.”
Cameron je za Empire otkrio da planira novi film o Terminatoru koji će odbaciti svu narativnu prtljagu franšize, ali zadržati temeljnu ideju “nemoćnih” ljudi protiv umjetne inteligencije. Ako se pojavi, bit će fascinantno vidjeti što reditelj ima za reći o umjetnoj inteligenciji sada kada je to nešto o čemu govorimo – i brinemo – svaki dan. Možda je najkorisnija poruka Terminatora istraživačima umjetne inteligencije ona “volja protiv sudbine”: ljudske odluke određuju ishode. Ništa nije neizbježno.
federalna.ba/BBC