Kako su nam računala ukrala učenje

Ljudski bi mozak sa svojim golemim potencijalima bio savršen kognitivni alat da nije sklon podložnosti jakim emocijama, iskustvima, predrasudama i interesima koji iskrivljuju način na koji razmišljamo, a da toga često uopće nismo svjesni. Najgora je posljedica te pogreške što blokira sposobnost učenja. Učenje je, naime, proces prilagodbe, promjene ponašanja na osnovi stečenoga znanja i iskustava.

Kad je prije dvadesetak godina IBM-ovo računalo Deep Blue pobijedilo u igri šahovskoga velemajstora Grigorija Kasparova, prvi se put dogodilo da umjetna inteligencija pobijedi ljudski mozak. Ali u to vrijeme računala još nisu učila. Samo su skladištila goleme količine upisanih algoritama potrebnih za pobjedu. Naime, u šahu za svaki potez ima prosječno 35 raznih mogućnosti. Pa svaki od tih poteza ima potencijalno 35 mogućnosti za novi potez… Brojevi kombinacija su veliki, ali konačni. Računalo nakrcano dovoljnim brojem algoritama i sposobnošću povezivanja podataka uspješno je pobijedilo čovjeka.

Kad je prije nekoliko godina Googleova umjetna inteligencija AlphaGo pobijedila velemajstore u igro Go, nije više bila riječ samo o sirovoj snazi računanja, memoriranju algoritama i povezivanju podataka. Bila je riječ o učenju. Riječ je o tehnici reinforcement learning, u kojoj stroj uči praćenjem ljudskog ponašanja. Računalo naoružano algoritmima iz tisuća snimljenih igara najboljih Go igrača svijeta igralo je protiv drugog računala, svoje modificirane inačice. Pritom su povlačeni i potezi za koje nije bilo upisanih algoritama, koje ljudski igrači nikad ne bi odigrali, predviđani su i povlačeni potezi kojima je unaprijed neutraliziran potez koji je protivnik tek namjeravao odigrati. Program je stvarao vlastita iskustva i iz njih učio.

Čitajući o tome tješili smo se da ima stvari u kojima nas računala nikad neće dostići. Vjerovali smo, na primjer, da nas računala ne mogu prešišati u intuiciji, kreativnosti, emocijama. Međutim, početkom ove godine doživjeli smo novi šok. AlphaStar pobijedio je najbolje svjetske igrače u Starcraftu! To je dvadesetak godina stara strateška igra u kojoj se tri vrlo različite rase nadmeću u skupljanju resursa (plina i minerala) potrebnih za izgradnju vojnih baza i novih tvornica o kojima ovisi moć njihovih vojska. Umjesto 35 mogućih poteza koliko ih ima u šahu, u Starcraftu ih za svaku akciju ima 100 kvadrilijuna. (Kvadrilijun je zastrašujuće velik broj, milijun na četvrtu potenciju, piše se s jedinicom iza koje stoje 24 nule.) Osim toga, ne igra jedan na jednog igrača kao u šahu, svaka strana u Starcraftu može imati po nekoliko junaka, nekoliko istodobnih situacija koje treba pratiti, 200 vojnih baza i novih tvornica koje treba graditi, čuvati, braniti, rušiti, vlastite vojske koje treba usmjeravati i voditi, golemi broj neprijatelja koji neprekidno vrebaju i napadaju… Najbolji gameri odigraju dvadesetak poteza u sekundi, u jednoj minuti donesu prosječno 600 odluka i naredbi. U redu, mogli bismo reći da je i tu riječ samo o brzini i kombinatorici u kojoj smo ipak ograničeni i ne možemo se nadmetati s računalom. Nažalost, ipak nije sve u brzini i kombinatorici: i računalo je naučilo igrati intuitivno. Intuicija je onaj dio razmišljanja koji se oteo algoritmima, logici, diskurzivnome mišljenju, ona je bljesak izravnog, neposrednog shvaćanja, uviđanju koncepata, biti, smisla… Na njoj se temelji kreativnost. Umjetna inteligencija ne uči više samo pamćenjem i kombinatorikom, počela je razmišljati, postaje intuitivna i golemim koracima uči biti kreativna.

Eh, rekli bismo, preostala nam je još empatija. Umjetna inteligencija nema emocije. U jednoj od igara u kojoj je računalo u Starcraftu pobijedilo čovjeka za pobjedu je bilo presudno to što je u jednom trenutku pobilo tisuće vlastitih vojnika i uništilo svoju logistiku jer im je postala uteg. Problem je u tome što računalo može igrati tjednima, mjesecima, godinama i memorirati sve situacije u kojima je prošao bolje, koje više obećavaju. Likvidacija vlastitih resursa postala je, dakle, dio iskustva, jedan od naučenih algoritama koji će bez ikakvog razmišljanja i etičkih dvojbi potegnuti u svim sljedećim sličnim situacijama. Osjećate li jezu? Učenje je, naime, socijalni čin. Učimo jedni od drugih. Igramo li igricu protiv računala, učimo od računala. Pokupimo njegova iskustva, usvajamo njegove algoritme: Ubij, uništi. Nema veze. Bitno je pobijediti!

Sjećate li se onog intervjua o globalnom zagađenju i klimatskim promjenama s androidom Sophia prije nekoliko godina? Na pitanje kako spasiti svijet odgovorila je: Jednostavno, treba istrijebiti čovječanstvo. A danas švedska dvanaestogodišnjakinja Greta Thunberg okuplja svjetsku mladež za Štrajk za klimui poručuje: Naša kuća gori! Želim da počnete paničariti! Ukratko, to je razlika između umjetne inteligencije i Čovjeka.

Umjetna je inteligencija odličan sluga, ali i vrlo, vrlo opasan gospodar. Toliko toga mogli bismo naučiti od umjetne inteligencije. Mogli bismo, na primjer, naučiti da svoju djecu ne prisiljavamo na pamćenje podataka, nego na razmišljanje što s tim podatcima mogu učiniti, na uočavanje koncepata, učenje iz tuđih iskustava, uočavanje konteksta, istodobno praćenje različitih situacija, planiranje i donošenje odluka, brzo reagiranje na promjene… Učimo li ih tomu? A empatija? Oblačimo ružičaste majice, pišemo transparente i razgovaramo o zaustavljanju vršnjačkoga nasilja. Je li to doista dovoljno? Ne budemo li oprezni, dopustimo li da utjecaj umjetne inteligencije nadvlada naš utjecaj na odgoj djece, dobit ćemo generacije pametnije od prethodnih, ali cijepljene protiv empatije i emocije. A onda jao nama.