Strah od strojeva

Još od pamtivijeka su se ljudi bojali svakog kurca: munje, vode, vatre, mraka, braka ...

Na neki način je to očekivano - u ljudskoj prirodi je da zazire od stvari koje ne poznaje i ne razumije. Pa im daje i raznorazna tumačenja. Tako nastaju legende, teorije, priče za malu djecu ...

Najnoviji strah ljudskog roda nije, interesantno, strah od uništenja planeta silovanjem resursa, ratova ili gladi uzrokovanom ireverzibilnim klimatskim promjenama. Za to, realno, sviju boli kurac. Više se prašine diže oko toga kojoj pevaljki je gdje ispala sisa.

Najnoviji strah ljudskog roda je - strah od umjetne inteligencije. Novi "boogie man" modernog svijeta. Doći će tamo neki umjetno inteligentni roboti, pročitati sve naše knjige i pobiti nas ko zečeve citirajući pri tome Jesenjina.

Apage, satanas! Najebali smo, drugovi. Kako ćemo sad da se obranimo, mi, protiv njih. Oni ne jedu, ne jebu, ne drkaju, ne treniraju a šasije su im jake, ne spavaju, a odmorni su... Šta ćemo mi, jadni, ljudi. Ako si montiraju kite, jebat će nas bez vijagre i vazelina.

Idemo potaracati velikim batom sve kompjuKtore klete, spaliti knjige (jer iz njih su došli ti kompjuteri, iz njih se okotiše mašine proklete...) Ne tako davno smo palili vještice po selima. Znamo mi kako se to radi.
Ništa pametnije od youporna da je na internetu! Da ne čuju, da ne nauče, da se ne iskopiraju kad nauče kako...

Mazat ćemo se bijelim lukom i trljati golim guzicama o suhu šljivu. Za sreću. Protiv mašina. Jer mašine su zlo! 

. . .

Sjećam se predavanja od Ribarića sa treće godine faksa o neuronskim mrežama. U to vrijeme (krajem devedestih) dotakli smo ih se samo teoretski. Nikakvo čudo, jer je cijela priča o prediktivnim algoritmima, strojnim učenjem i neuronskim mrežama  buknula tek pred nekoliko godina kad je hardver postao dovoljno jak da sve to vrti. I onda se otvorio jedan cijeli novi svijet koji je vrlo vrlo zanmimljiv i nudi puno mogućnosti.

Kao što sam već rekao, u prirodi je ljudi da se boje stvari koje ne razumiju. A prediktivni algoritmi barataju sa stotinama ili hiljadama varijabli koje analiziraju i koreliraju nad milijunskim podskupovima podataka. U tom svijetu N-dimenzionalnih ogromnih matrica ljudski mozak se teško snalazi jer mi jednostavno nismo za to napravljeni.

Ono što je kunst kod rezultata prediktivnih algoritama je kad vas netko pita da mu objasnite zašto bi optimalan smjer kretanja trebao biti baš, eto taj, preporučeni. A algotritam iza je učio nad terabajtima podataka za učenje, testiran je nad drugim setom terabajta podataka i sad je ispljunuo neke rezultate nakon ronjanja po 10000 dimenzionalnim matricama.

I sad vi objasnite nekome laički da bude jasno zašto baš taj, dosta nelogičan (za naš mozak) smjer.

Tu kreću prvi problemi - nepovjerenje. Dijelom, s pravom. Matematički model treba dokazati, a podaci nikad ne spavaju. Rezultati ovih algoritama direktno ovise o setu input podataka. Da stvar bude još zamršenija, takvi sustavi su u stanju "učiti" u realnom vremenu, tj modificirati svoje matrice odlučivanja u skladu sa podacima koji im dolaze.

A, tu smo! Došli smo do stvarne jeze - mašina koje su u stanju mijenjati svoje ponašanje u odnosu na podražaje iz vanjskog svijeta. Ovdje i najjači flipnu jer to u teoriji znači da bi mašina koja ubija protivnika moga odjednom početi pucati i po našima.

Samo.... Zašto bi osoba koja nije bolesna u glavu napravila mašinu koja ubija ljude? U kom svijetu je to normalno, a sam čin ubijanja postaje nenormalan kad se cijev okrene nazad? Pa u ljudskom! Naša logika je toliko sjebana da to ni "Deep Thought" superkompjuter iz Vodiča kroz galaksiju za autostopere ne bi mogao rasplesti.

Imali smo primjera kad su majstori uspjeli dovesti onu priglupu Amazon Alexu da pali/gasi svjetla po stanu, smije se na blesav način i, generalno, radi spačke koje nisu opisane u user manualu.
Samo, malo tko će iskreno reći koliko su drkali svjetla i zbijali šale sa tim malim komadom elektronike koji pomalo i uči.

- "Alexa, jedi govna!"
- "Alexa, glupa si krava!"

I onda, kad vam ta ista Alexa ugasi svjetlo dok se penjete uz stepenice i smije se "zlurado", onda je mašina kriva. Pa da, kriva je što uči od idiota! As clear as that.

Problem sa ljudima je što, uglavnom, imaju dvostruka mjerila. Mi možemo drugaru opaliti čvrgu, ali kad dobijemo istu iza ćoška, onda je grom i pakao.

Prediktivni, samoučeći, algoritmi imaju svoje prednosti i mane, kao i sve drugo. S jedne strane, u stanju su se korigirati s vremenom i postati precizniji. Njihova prilagodljivost omogućuje nebrojene mogućnosti. S druge strane, ljudsko ponašanje je jako loš uzorak za učenje za bilo koji stroj.

Zašto? Paaa, otvorite bilo koji povijesni udžbenik. Ako očekujete da oko sebe imate elektromehaničke nakupine koje nosaju puške i noževe, uče iz našeg ponašanja i ne pobiju sve oko sebe, onako "randomly".... Razmislite ponovo! Gdje vam je onaj povijesni udžbenik?

Atomska energija nikad nije bila problem. Ideja da se prvo napravi bomba od toga, jeste. Tako je ljudski bljesak da shvati cijepanje atoma doveo do opasnosti da se cijeli planet pocijepa na pola.

Mi, ljudi, smo najgore životinje. Ne postoji biće na ovom planetu toliko svirepo, podmuklo, ubojito i osvetoljubivo kao što su ljudi.
A počeli smo raditi mašine koje uče iz našeg ponašanja i, već imamo ideje da im damo puške u umjetne ruke.

A što onda možemo očekivati? Wafle i shiatsu? Nekako sumnjam ...

. . .

Strah od strojeva je samo iluzija. Te nakupine metala i slicija su samo naša zlokobna slika. Jer, algoritam ne poznaje savjest, ni samilost. Kao ni mnogi ljudi. Ukoliko ih ne odvojimo dovoljno od naše vlastite prirode, teško da možemo očekivati sjajne rezultate.

Strojevi su samo katalizator naših vlastitih obrazaca ponašanja. Problem nisu strojevi, niti će ikad biti. Oni su samo prisiljeni učiti od vrlo loših učitelja.

Ako se i dalje bojite Terminatora, samo se pogledajte u ogledalo. Upravo gledate jednog.