Artificial Intelligence - from Immortality to Extinction

Šta prvo pomislite kad čujete reči veštačka inteligencija? Dobro ili loše? Strah ili nada? Budućnost ili pretnja? Da li pomislite na pametne gradove budućnost koji će nam svima olakšati život ili na HAL 2000 računar iz Odiseje u svemiru koji je stekao autonomni moral i postao pretnja po čovečanstvo? Kakve emocije u vama bude sledeći naslovi:

Sofija, prvi robot koji je dobio državljanstvo, gostuje u Beogradu…

Sunspring – prvi SF film po scenariju koji je napisao algoritam…

Amper – veštačka inteligencija koja komponuje muziku

Nekako mi se čini da još uvek preovlađuje strah. Strah od gubitka posla, strah od narušavanja međuljudskih odnosa, strah od gubitka kontrole, strah od istrebljenja… Ti strahovi nisu neopravdani, ali stvari u ovom slučaju nisu crno-bele.

Ja lično ne volim ništa sa atributom veštačko. Veštačka hrana, veštačka jezera, veštački nokti, veštačke usne, grudi..

Ne kažem, nekad ispadne i dobro, ali generalno ljudi vole da čuju reč prirodno.

To je jedan od naših paradoksa. Sve manje prirodnih stvari, a sve veća potražnja za istim. Takvi smo mi ljudi, iracionalna bića, zato smo verovatno i razvili veštačku inteligenciju, ova naša prirodna više ne daje očekivane rezultate.

Ljudi su od pamtiveka pokušavali da postignu bolju verziju sebe, da prevaziđu sopstvena ograničenja. Međutim, sada nam se nudi jedinstvena mogućnost da prevaziđemo i sopstvena biološka ograničenja korišćenjem sofisticirane tehnologije. Međunarodni filozofski pokret koji teži tome naziva se transhumanizam (H+). To mu dođe kao neki projekat Čovek 2.0, stvaranje naprednije verzije ljudi uz pomoć tehnologije.

Šta je veštačka inteligencija

Sam termin veštačka inteligencija VI, odnosno AI (eng. Artificial Intelligence) skovao je poznati naučnik John McCarthy 1956. godine. Njegova izjava se danas sve češće citira:

,,Čim veštačka inteligencija profunkcioniše, niko je više neće tako zvati”.

John McCarthy

Drugim rečima, sam termin ukazuje da je pod kontrolom čoveka. Kada se otrgne toj kontroli, onda ćemo je drugačije i zvati i imaćemo potpuno drugačiji odnos prema njoj.

Veštačka inteligencija naziva se još i mašinska inteligencija budući da se pripisuje mašinama, najčešće računarima, kako bi se razlikovala od prirodne, odnosno ljudske inteligencije. Kao i kod ljudske, mašinska inteligencija podrazumeva mogućnost učenja i snalaženja u novim situacijama.

Koje su vrste mašinskog učenja

Tu dolazimo do pojma mašinsko učenje. Klasično mašinsko učenje predstavlja statističko učenje na osnovu unosa velike količine podataka.

Verovatno ste čuli i za duboko učenje, koje predstavlja mašinsko učenje na steroidima, nalik ljudskom. Zasniva se na neuronskim mrežama koje oponašaju kognitivne funkcije ljudskog mozga. Postoje tri vrste mašinskog učenja.

Nadgledano učenje (Supervised Learning) Prepoznavanje šablona, uočavanje zakonitosti, izvođenje prediktivnih modela na osnovu unetih podataka

Nenadgledano učenje (Unsupervised learning) – očekivanje od mašina da samostalno uoče šablone na osnovu već unetih podataka

Pojačano učenje (Reinforcement Learning) – postavljanje ciljeva i ispunjavanje istih kroz više pokušaja i grešaka

Probaću ovo da ilustrujem jednim praktičnim primerom iz svoje delatnosti. Budući da se bavim prevođenjem, bio sam early adopter prevodilačkih alata za mašinsko prevođenje. Trados and a Wordfast, oni koji se bave prevođenjem, znaće o čemu pričam.

Prevodilački programi funkcionišu po principu pohranjivanja podataka u prevodilačke baze. Što se više te baze pune parovima prevedenih segmenata, to će prevod istog ili sličnog teksta biti lakši u nekim budućim ponavljanjima.

Nadgledano učenje

U CAT alatima (computer-aided translation), može se govoriti o nadgledanom učenju. Korisnik aplikacije unosi podatke, algoritam  ih obrađuje i primenjuje u novim situacijama kada prepozna sličnost reči, fraza ili čitavih sintagmi.

Oni kojima strani jezik predstavlja barijeru mogu za neke jednostavnije stvari da se oslone na Google Translate. Svi smo u nekom trenutku bili prinuđeni da ga koristimo. On radi po sličnom principu kao i prevodilački programi, s tim što je njihova baza podataka ogromna i stalno se dopunjuje.

U početku to nije funkcionisalo baš sjajno i često su amaterski prevodi dobijeni uz pomoć ove alatke bili predmet podsmeha. Međutim, kao neko ko je od samog početka koristio programe za mašinsko prevođenje, nisam se baš glasno smejao tim dečijim bolestima prevodilačkih programa. Znao sam da će postajati sve bolji, baš kao i moja kućna prevodilačka memorija koju sam svakodnevno dopunjavao novim podacima.

Nenadgledano učenje

Faza u kojoj se trenutno nalazi Google Translate i neki drugi algoritmi za mašinsko prevođenje (poput recimo onog Fejsbukovog), bliži su stepenu nenadgledanog učenja.

Oni ne samo što koriste prevedene jedinice iz svojih ogromnih baza, već su u stanju da uočavaju zakonitosti, stilske i kontekstualne finese, smer prevođenja i određena gramatička pravila.

Napredak ostvaren u računarskoj lingvistici u poslednjih 20-ak godina je ogroman i nepobitan.

Pojačano učenje

Sledeća logična faza bila bi prelazak na pojačano učenje, ili učenje uz podršku. Algoritam bi praktično samostalno usvajao jezik, baš poput malog deteta, putem pokušaja i pogrešaka. Čovek ili mašina bi imali samo korektivnu ulogu, podsticanjem tačnih odgovora. Poput Pavlovljevog efekta i dresiranja životinja.

Mašine bi na kraju potpuno vladale svim stranim jezicima. Taj iskorak u jeziku bi sigurno bio praćen uspinjanjem veštačke inteligencije. Jer jednom kada nestane jezička barijera između mašina i ljudi, padaju i sve ostale.

Baš kao što je razvoj jezika uticao na uspinjanje homo sapiensa kao dominantne vrste na planeti, tako bi i mašinski jezik omogućio veštačkoj inteligenciji da smeni čoveka na tronu evolucije.

Geneza veštačke inteligencije

Neki teoretičari i filozofi VI tvrde da se veštačka inteligencija pojavila onog trenutka kada je čovek počeo da koristi alat i oruđe. Sa nesrazmerno velikim mozgom u odnosu na druge primate, homo sapiens je bio u stanju da uz manje energije postigne mnogo više prvenstveno zahvaljujući korišćenju alata.

Korišćenje alata mu je omogućilo dodatno brušenje vijuga i postepeni razvoj inteligencije. Usledile su poljoprivredna, pa zatim industrijska revolucija i evo nas stigli smo i do 4.0 revolution.

Razvoj veštačke inteligencije u današnjem smislu reči vezuje se za nastanak i razvoj računara. Tu je neizbežno pomenuti jednu harizmatičnu ličnost iz sveta nauke.

Alan Turing je bio britanski naučnik, kriptoanalitičar i filozof koji je u istoriji ostao upamćen po tome što je tokom Drugog svetskog rata uspeo da dešifruje Enigmu – nemačku mašinu za šifrovanje. Po mnogima, to je bio ključni događaj iza kulisa koji je u velikoj meri odredio pobednika u ratu i pad Trećeg rajha.

To je uspeo zahvaljujući sopstvenom izumu, elektromehaničkom uređaju pod nazivom ,,Bomba’’, koji se smatra pretečom današnjih računara.

Ovaj genijalni naučnik je kasnije doživeo neslavnu sudbinu zbog svoje homoseksualne orijentacije koja je u to vreme u Engleskoj bila nelegalna. Sudski osuđen, hemijski kastriran, izopšten iz društva i profesionalno degradiran i diskreditovan, navodno je skončao svoj život pojevši jabuku punu cijanida.

Zanimljivo je to sa jabukom – Adam, Njutn, Turing, Džobs, ima tu nečeg više od proste simbolike.

Ali da se vratimo na našu priču. Po Alanu Turingu je dobio naziv i Turingov test koji služi za utvrđivanje da li se neka mašina može nazvati inteligentnom.

U slučaju da ispitivač nije u stanju da utvrdi razliku u odgovorima koje pruža čovek od krvi i mesa s jedne strane, i veštačka inteligencija s druge. Još nijedan uređaj/mašina nije prošao ovaj test.

Turing je još 1948. godine napisao prvi algoritam za šah (Tourochamp), ali u nedostatku adekvatnog hardvera, morao je sam da iščitava podatke, te mu je za odigravanje svakog poteza bilo potrebno oko pola sata.

Čak i Gari Kasparov je kasnije tvrdio da je to bio jedan zavidan nivo igre.  Isti onaj Kasparov koji je u spektakularnom meču izgubio 1997. od računara Deep Blue, što se i dalje smatra prvim porazom čoveka od mašine u jednoj kompleksnoj intelektualnoj igri kakva je šah.

Vrste veštačke inteligencije

Razlikuju se tri vrste veštačke inteligencije:

• Uska VI
• Opšta VI
• Super VI

Uska VI (UVI) – obavlja usko definisane zadatke (prepoznavanje lica, internet pretrage ili autonomna vozila). Može i ne mora da pokazuje bolje rezultate od čoveka. Trenutno se koristi i jedino postoji uska VI. Korisna je, bezazlena i nije autonomna. Primenu nalazi u širokom spektru industrijskih delatnosti, ali i svakodnevnog ljudskog života. Google pretraživač je recimo jedna vrsta UVI.

Opšta ili jaka VI (OVI) – može da obavlja sve kognitivne zadatke barem podjednako uspešno kao i čovek. To uključuje i sposobnost rezonovanja, planiranja, rešavanja problema, apstraktnog razmišljanja, razumevanja složenih ideja, brzog učenja i učenja na osnovu iskustva. OVI bi mogla da radi sve one stvari koje radite i vi i to podjednako dobro.

Super veštačka ili superinteligencije (SVI): oksfordski filozof i vodeći mislilac u oblasti VI, Nick Bostrom, definiše superinteligenciju ,,kao intelekt koji je mnogo pametniji od najboljeg ljudskog u praktično svakoj oblasti, uključujući naučnu kreativnost, opštu mudrost i društvene veštine.” 

Postavlja se etičko pitanje prilikom kreiranja ovakve vrste superinteligencije, koja može steći autonomiju u svojim postupcima. Da li će se na taj način poboljšati kvalitet ljudskog života (iskoreniti ratovi, stradanja, siromaštvo, glad i bolesti), ili će to označiti početak kraja ljudskog roda ukoliko se VI okrene protiv nas.

Kada veštačka inteligencija dostigne ljudski nivo inteligencije (OVI) i kada se popne do nivoa superinteligencije (SVI), taj proces se naziva uspinjanje (takeoff) ili eksplozija inteligencije.

Bostrom kaže da se uspinjanje Opšte ka Superinteligenciji može biti brzo (može se dogoditi u roku od par minuta, časova ili dana), umereno brzo (meseci ili godine), ili sporo (decenije ili vekovi). 

Za sada naučnicima veći problem predstavlja dostizanje nivoa ljudske inteligencije, nego uspon od ljudske do superinteligencije. U narednom poglavlju ćemo razmotriti da li se i kako od Boldrika može napraviti Tesla.

Kako Usku (UVI) pretvoriti u Opštu veštačku inteligenciju (OVI)?

Iako trenutno deluje daleko, po nekim prognozama (vidi u nastavku), dostizanje ljudskog nivoa inteligencije će se dogoditi najkasnije do sredine 21. veka.

Po Nik Bostromu, to će se dogoditi po nekom od tri moguća scenarija:

• Plagiranjem ljudskog mozga, reverznim inženjeringom, tzv. emulacijom mozga. Uz pomoć neuronskih mreža, od nule, razvijati veštački mozak i podučavati ga poput novorođenčeta. Putem brojnih pokušaja i pogrešaka, jačaju se oni neuroni koji daju pravilne odgovore, odnosno slabe oni koji daju pogrešne. Trenutno su naučnici uspeli da emuliraju milimetarski mozak pljosnatog crva, koji se sastoji od samo 302 neurona. Ljudski mozak sadrži 100 milijardi neurona! Iako deluje kao beznadežan projekat, jednom kada se savlada mali mozak pljosnatog crva, uskoro će slediti mrav, a zatim miš, i odjednom će sve delovati mnogo izvodljivije.

• Korišćenjem zakona evolucije, stvoriti bolje mašine i računare veštačkom selekcijom i ukrštanjem. Iako je evoluciji potrebno mnogo vremena da dođe do rezultata, u ovom slučaju bi to bilo brže pošto bismo mi imali kontrolu i diktirali tempo i željene karakteristike, u ovom slučaju inteligenciju. Viša inteligencija zahteva i veću energiju, zato priroda to izbegava kada može. Mi tu energiju možemo veštački da obezbedimo i ubrzamo prirodni proces.

• Ostaviti računaru da sam smisli. Da sam izučava VI i da unapređuje sopstvenu arhitekturu

Osim toga, nanotehnologija i njen dalji razvoj bi mogao trajno da promeni život, manipulacijom materije na nivou atoma.

Superinteligencija bi mogla da nam pomogne čak i u postizanju besmrtnosti. Pomoću bioinženjeringa i nanotehnologije, 3D štampe organa i matičnih ćelija, ljudski rod bi mogao da postigne nedosanjani san – besmrtnost.

Rizici i opasnosti jake VI

Primena veštačke inteligencije u industriji je brojna, a mogućnosti su još uvek nesagledive. To stvara potrebu i za definisanje pravila i uspostavljanje kontrole od čoveka kao njenog kreatora. Pisac Isak Asimov je još pre više od 70 godina u svom delu Ja, robot predstavio 3 zakona robotike:

1. Osnovni – roboti ne smeju da povrede ljudsko biće, ili da svojim nedelanjem dozvoli da ljudsko biće bude povređen
2. Roboti se moraju povinovati naređenjima ljudskih bića, osim ukoliko se ta naređenja ne kose sa prvim zakonom.
3. Roboti moraju da štite sopstvenu egzistenciju, pod uslovom da se to ne kosi sa prethodna dva zakona.

Jedna od najčešćih logičkih grešaka kod ljudi je potreba da sve stvaramo po sopstvenom liku. Taj običaj se zove antropomorfizacija i posledica je ljudske sujete, jer sebe vidimo kao najinteligentnija bića pa tu sliku projektujemo i na neživa bića i apstraktne pojmove.

Verovatno zato sva božanstva imaju ljudski oblik, vanzemaljci su malo izvitoperenih ali ipak ljudskih kontura, a veštačka inteligencija je u pop kulturi predstavljena u vidu humanoidnih robota, pretećih, fluorescentnih očiju.

Razlikuje se samo šasija, ali ono što je bitno to je ,,mozak“,  koji može biti bilo gde. Može biti i softver, algoritam, koji bi radio talasima upravljao nekim egzo-sistemom, ili čak ljudskom marionetom. Zaboravljamo da za samoaktuelizacija veštačke inteligencije ne zahteva materijalnu formu i telo.

Kao zle ih obično predstavljamo iz straha, straha od inteligentnijih bića. Zlo je ljudski koncept, a mašine su amoralne. Nijedan VI sistem nikada ne bi postao zao na način kako je to predstavljeno u filmovima. Filmovi takođe antropomorfizuju VI, što ih čini manje strašnim nego što bi to zaista bio slučaj. To nam stvara osećaj lažnog spokoja kada razmišljamo o ljudskom ili nadljudskom nivou VI.

Problem motiva je jedan od najvećih izazova. Tu smo takođe skloni da mašinama pripisujemo ljudske pobude. Mi zapravo ne možemo ni da zamislimo kakvim bi motivima bila vođena mašina ili algoritam čija je inteligencija u toj meri veća od naše.

To više nije razlika poput one između Boldrika i Tesle, ili učesnika Zadruge i Ajnštajna, ta razlika se ne da iskazati nama poznatom metrikom. Kako pravilno definisati zadatke i kako učitati ljudske vrednosti u VI i dalje ostaje veliki izazov.

Isto tako grešimo što emocije i empatiju, koje je ljudski rod sticao kroz hiljade godina evolucije, pripisujemo i mašinama i veštačkoj inteligenciji. Sve i da postoji mogućnost programiranja empatije i oponašanja ljudskih osećanja, ko može da garantuje da je mašine neće odbaciti onog trenutka kada postanu pametnije od nas, ako smatraju da ih recimo koči u ostvarenju ciljeva.

Ali da se osvrnemo na neke realne opasnosti vezane za superinteligenciju:

Trka u naoružanju – stvaranje autonomnog oružja koje je programirano da ubije, bez mogućnosti da se isključi. Države će se utrkivati ko će pre ovladati takvim oružjem i uspostaviti svetsku dominaciju. Atomsko naoružanje će postati pištolj na kapisle u poređenju sa opasnostima koje predstavlja oružje opremljeno veštačkom inteligencijom. 

Definisanje ciljeva – ako se veštačkoj inteligenciji poveri koristan ili plemenit zadatak, ali dođe do nepredviđenih situacija koje ne uspeju da spreče VI da ostvari svoj zadati cilj zbog nesagledavanja šire slike već slepog sleđenja uputstava (npr. zadata: rešiti problem staklene bašte; rešenje: istrebiti ljudski rod)

Globalna dominacija – država koja bi na raspolaganju imala superinteligenciju bi postala apsolutno dominantna i mogla bi da se ponaša despotski i to na svetskom nivou.

Produbljivanje imovinskih razlika i armija nezaposlenih. Digitalizacija je možda u početku donosila nadu u ravnopravniju raspodelu bogatstva i olakšanog pristupa tržištu rada. Međutim, uz veštačku inteligenciju i automatizaciju procesa rada, dovodi se u pitanje opstanak miliona ljudi, njihovih radnih mesta, egzistencija njihovih porodica.

Teško pije vodu teza da će to stvoriti nove poslove i nova zanimanja. Koja tačno i za koliko ljudi? Moć i bogatstvo će biti centralizovani i skoncentrisani u rukama nekolicine. To će stvoriti ekonomsku nejednakost bez presedana.

Ono što nam je svakako poznato je to da potpuna dominacija ljudi na planeti ukazuje na jasno pravilo: uz inteligenciju dolazi moć. To znači da će SVI, kada je kreiramo, biti najmoćnije biće u istoriji života na Zemlji, i sva živa bića, uključujući ljude, zavisiće isključivo od njenih hirova — a to se može dogoditi u narednih nekoliko decenija.

Nick Bostrom

Ne brinu o VI samo tehno-skeptici i luditi, već i neki od vodećih VI stručnjaka i istraživača. Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates svi redom su izražavali bojazan od rizika koje sa sobom nosi VI.

Elon Musk je izrazio zabrinutost da su ljudi možda samo ,,biološki baza za izgradnju sistema digitalne superinteligencije”

Nisu glavna opasnost roboti, nego veštačka inteligencija čiji ciljevi nisu usklađeni sa ljudskim. Dovoljna je samo internet konekcija pa da VI bude u stanju da poremeti finansijska tržišta, vodosnabdevanje, nuklearne reaktore, oružje za masovno uništenje…

Trebalo bi da počnemo da radimo na sprečavanju negativnih posledica pre nego što VI zaista postane pametnija i kompetentnija od nas.

Elon Musk

Gledano sa strane, zaista deluje da nam najveća opasnost ne preti od mašina, nego od nas samih. Naši projektovani strahovi su ujedno i naše najveće slabosti.

Potencijal veštačke inteligencije

Da li će nas mašine zameniti, da li će koegzistirati sa nama, ili će se spojiti sa nama?

Vodećim naučnicima je postavljeno sledeće pitanje ,,Do koje godine smatrate da postoji 50% šansa da će VI dostići ljudsku inteligenciju’’.

Na osnovu odgovora, prosečna prognoza se kreće između 2040. i 2050. godine, dakle u narednih 20-30 godina. Reklo bi se dovoljno vremena da se pripremimo. Da li je moguće pripremiti se za taj trenutak?

Ray Kurzweil, američki pronalazač i futurolog i jedan od vodećih ljudi kompanije Google, poznat je po svojim preciznim predviđanjima budućnosti i tehnološkog razvoja.

Kurzweil predviđa da će VI proći Turingov test 2029. i dostići ljudski nivo inteligencije (OVI), a da će singularitet nastupiti do 2045.

Samo što on, za razliku od Bostroma, singularitet vidi kao uspešno spajanje ljudske i mašinske inteligencije.

Drugim rečima, on to ne posmatra kao pretnju, već šansu za stvaranje ,,superčoveka“. Priliku za poboljšanje svih ljudskih funkcija do kojih nam je stalo – emocija, duha, kreativnosti.

Dakle, slično kao što je bilo i sa mnogim drugim alatima kroz istoriju.

On the other hand, Bostrom kaže da potencijal za superinteligenciju leži skriven u materiji ,,baš poput snage atoma koja je bila skrivena kroz celu ljudsku istoriju, i strpljivo čekala do 1945. U ovom veku, naučnici mogu da otkriju način da oslobode snagu veštačke inteligencije. A zatim ćemo doživeti eksploziju inteligencije.“ 

Superinteligencija sa takvom tehnološkom zrelošću bi bila izuzetno moćna, i barem u nekim scenarijima, bila bi u stanju da ostvari ono što želi.

Poenta je da ne možemo biti sigurni da ćemo superinteligentnog duha moći zauvek da držimo zatvorenog u boci. Pre ili kasnije, on će izaći. 

U trenutku dostizanja nivoa veštačke superinteligencije, Nick Bostrom predviđa tri načina na koje bi SVI sistem mogao da funkcioniše:

Kao proročište, koje pruža odgovore na skoro svako pitanje koje mu se postavi, sa tačnošću, uključujući složena pitanja na koja ljudi ne mogu lako da daju odgovor, tj. Kako mogu da proizvedem efikasniji motor za automobil? Google je primitivna vrsta proročišta.

Kao duh, koji obavlja bilo koju komandu sa višeg nivoa koja mu je data — Upotrebi molekularni sastavljač kako bi izgradio nov i efikasniji tip motora—a zatim čeka na narednu komandu.

Kao vladar, kojem je dodeljen širok i otvoren put i kojem je dopušteno da funkcioniše slobodno, i da donosi odluke po sopstvenom nahođenju o tome kako je najbolje da dalje nastavi — Da izmisli brži, jeftiniji, bezbedniji način od automobila za ljude kako bi se prevozili.

Stvaranje superinteligentne VI je zaista težak izazov. Posebno u pogledu bezbednosti i kontrole. Rizik leži u tome da neko shvati način za rešavanje prvog izazova, a da pri tom ne reši dodatni izazov kako bi obezbedio savršenu bezbednost.

Singularitet i uništavanje konkurencije

1993. godine, Vernor Vinge napisao je poznati esej u kojem je primenio termin ,,singularitet’’, koji se odnosi na trenutak u budućnosti kada inteligencija naše tehnologije prevaziđe ljudsku — trenutak koji će, po njemu, označiti trajnu promenu života kakav poznajemo i od kada se više neće primenjivati uobičajena pravila. 

Daljom evolucijom VI, u jednom trenutku (tzv. tripwire momenat) ljudski rod će doživeti jednu od dve moguće sudbine: izumreće ili će postati besmrtan. Ili će uz pomoć SVI postići vekovni san o besmrtnosti, ili će pasti kao plen sopstvenog izuma i biti zbrisan sa lica Zemlje.

Bostrom i mnogi drugi smatraju da će se prvi računar koji dostigne SVI odmah postarati da otkloni svaku potencijalnu konkurenciju. On to naziva odlučujućom strateškom prednošću koja bi omogućila prvom svetskom SVI-u da postane tzv. Singleton – SVI koji može da vlada celim svetom po sopstvenom kapricu, bilo da nas vodi stazama besmrtnosti ili da nas počisti sa lica zemlje, ili da pretvori čitav univerzum u beskrajne spajalice za papir.

Ako bismo smislili bezbedan način da stvorimo prijateljski SVI pre nego što VI dostigne ljudski nivo inteligencije, prvi SVI bi mogao da bude prijateljski nastrojen. Zatim bi mogao da iskoristi odlučujuću stratešku prednost kako bi obezbedio status singletona i sa lakoćom motrio na potencijalno neprijateljsku VI. Bili bismo u veoma dobrim rukama.

Ali ako stvari krenu drugim pravcem—ako se globalna trka za razvojem SVI uzletanja zahukta i pretekne smišljanje načina za razvoj bezbednosti VI, velike su šanse za nastanak neprijateljske SVI u vidu singletona što bi dovelo da egzistencijalne katastrofe za ljudski rod.

Ovo je možda najvažnija trka u ljudskoj istoriji. Postoje realne šanse da završimo trku kao Kraljevi zemlje—a da li ćemo dalje nastaviti putem bezbrižnog povlačenja ili putem vešala, i dalje je u balansu na terazijama mogućnosti.

Ako se SVI zaista dogodi u ovom veku, i ako ishod toga bude zaista ekstreman, i trajan, kao što mnogi stručnjaci predviđaju, imamo ogroman teret odgovornosti na plećima.

Pogledi sledećih x miliona generacija ljudskih života su uprti u nas, u najvećoj nadi da nećemo uprskati stvari. Imamo priliku da budemo ljudi koji su svim budućim generacijama podarili život, a možda čak i dar bezbolnog, besmrtnog života.

Ili ćemo biti ljudi odgovorni za propuštenu šansu—što smo dozvolili da ova neverovatna i posebna vrsta, sa svojom muzikom i umetnošću, radoznalošću i smehom, beskrajnim otkrićima i pronalascima, doživi tužan i besprizoran kraj.

Nick Bostrom

Korišćeni izvori:

Superintelligence: Paths, Dangers, Strategies – Nick Bostrom

Tim Urban – The AI Revolution: The Road to Superintelligence

Nick Bostrom, TED2015 https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are

Wired magazine

The Guardian