Moguća prijetnja od umjetne inteligencije. Vidovnjaci

I drugi poznati istraživači napisali su otvoreno pismo pozivajući na stvaranje sigurnosnih standarda u području razvoja umjetne inteligencije (AI). /web stranica/

Posebno su pozvali na istraživanje i razvoj pouzdanog sistema kontrole koji ne bi dozvolio neispravnoj umjetnoj inteligenciji da šteti ljudima. „Treba obaviti tehnički posao kako bi se osigurala potpuna ljudska kontrola“, navodi se u pismu.

Uprkos umjerenom tonu pisma, Ludditi, koji su se plašili nove tehnologije, uspaničili su se. Kao odgovor, u štampi se pojavilo mnogo intervjua i izjava naučnika koji su raspršili ove strahove.

Andrew Ng, stručnjak za umjetnu inteligenciju u Baidu-u, rekao je za Fusion: "Ne vidim realan scenario da softver na kojem danas radimo postane ometajući."

Zauzvrat, novinar Scott Alexander sastavio je listu poznatih naučnika uključenih u razvoj AI, koji su govorili o potencijalnoj opasnosti od AI.

Strah i strepnja

Stuart Russer, profesor računarstva na Kalifornijskom univerzitetu u Berkliju, uporedio je razvoj mehanizama za kontrolu AI sa usvajanjem mjera za sigurnost nuklearnih reaktora.

“Neki smatraju da ovo pitanje ne predstavlja opasnost za čovječanstvo u narednih nekoliko stotina godina. Zaboravljaju da je Leo Szilard otkrio nuklearnu lančanu reakciju 24 sata nakon što je Rutherford samouvjereno izjavio da atomska energija nikada neće biti dobijena”, napisao je Russell.

Russell nije sam u svom mišljenju. U istraživanju Vincenta Mullera i Nicka Bostroma iz 2014. godine od 170 vrhunskih stručnjaka za umjetnu inteligenciju, 18% njih vjeruje da bi izgradnja super-inteligentne mašine bila "prava katastrofa" za čovječanstvo. 13% je reklo da bi napredna AI imala negativne posljedice po ljude. Nešto više od polovine naučnika reklo je da će to imati pozitivan uticaj.

Iako je mišljenje stručnjaka o uticaju veštačke inteligencije dvosmisleno, većina se slaže da je stvaranje napredne veštačke inteligencije samo pitanje vremena. Prema predviđanjima, veštačka inteligencija jednaka čoveku biće stvorena već 2050. (50% verovatnoće) ili do 2075. (90% verovatnoće). A 30 godina nakon njegovog stvaranja pojavit će se umjetna superinteligencija koja će nadmašiti ljude u svim aspektima.

ludi kamioni

Kako bi mogao izgledati Uspon mašina? U naučnofantastičnim filmovima, kao što su "Terminator", "Robot", "Animatrix", prikazan je rat ljudi sa kiborzima.

Sudeći po naučnofantastičnim filmovima, mnogi bi mogli biti mišljenja da je potencijalnu opasnost lako izbjeći.Na kraju krajeva, AI je u osnovi samo kompjuterski softver.

Međutim, umjetna inteligencija ne mora imati mehaničko tijelo da bi dobila moć u stvarnom svijetu: jednostavno može početi kontrolirati sve naše svakodnevne elektronske uređaje.

Stiven King je takav scenario predstavio u pripoveci "Kamioni". U priči, napisanoj 70-ih godina, kamioni se osvještavaju i počinju da napadaju ljude. Grupa ljudi se krije od razjarenih kamiona. Kamionima je i dalje potrebno gorivo za rad i koriste Morzeovu azbuku da naređuju ljudima da napune ili će im buldožer raznijeti zaklon. Ljudi slušaju.

Priča se završava vizijom naratora da su kamioni porobili čovječanstvo i da svuda nameću svoje vrijednosti, kao što je prisiljavanje da grade autoputeve po cijelom svijetu. Iz svijeta fantazije ga izvlači zvuk aviona koji leti nebom.

Priča Stephena Kinga izgledala je futuristički u eri u kojoj je napisana, ali nije tako daleko od stvarnosti modernog svijeta. samovozećih kamiona već postoje, au budućnosti kompanije mogu zamijeniti vozače autonomnim navigacijskim sistemom kako bi uštedjeli novac.

Prošlogodišnji hak kompanije Sony pokazuje da naši informacioni sistemi postaju sve ranjiviji. To je jedna od posljedica sve veće kompjuterizacije infrastrukture.

Međutim, još uvijek nema razloga za zabrinutost. Umjetna inteligencija mora preći dug put prije nego što bude mogla parirati ljudskom mozgu. Primjer samovozećeg kamiona to dobro ilustruje. Iako su još uvijek previše nesavršeni da bi samostalno vozili kroz prepune gradske ulice.

Da li biste na svoj telefon instalirali aplikaciju za čitanje članaka iz epohe?

Globalna apokalipsa koja uključuje AI (vještačku inteligenciju) sve više plaši vodeće svjetske istraživače u oblasti kompjuterske tehnologije. To bi mogao biti ustanak robota koji će, vođeni svojim programom i vrijednostima, htjeti uništiti biološke oblike života na planeti. Moguć je scenario u kojem mašine kontrolisane veštačkom inteligencijom postaju dominantni oblik života.

Zašto su svjetski poznati naučnici kao što su Bill Gates, Steve Hawking, Elon Musk i drugi zabrinuti zbog ovog problema i javno proglašavaju pravu prijetnju ovog scenarija? Mogu li događaji koji su se odigrali u holivudskom filmu "Terminator" biti proročki? Poznato je da je svaka izmišljena priča zasnovana na stvarnim činjenicama.

Kompjuteri su sve bolji u laganju i varanju

Laganje je oblik ponašanja razvijen u procesu evolucije. Ljudi, neke životinje i ptice, pribjegavaju obmanama zarad pribavljanja hrane i koristi, što povećava šanse za preživljavanje. Nedavno su ove evolucijske metode uspješno usvojile AI mašine.

Dizajneri sa Tehnološkog instituta Džordžije su napredovali u stvaranju robota koji koriste laži i prevaru u svojim algoritmima ponašanja. Naučnici vjeruju da će u budućnosti ova tehnologija biti široko korištena u vojnoj sferi.

Pretpostavlja se da se prototipovi robota mogu koristiti u stvarnim borbenim uslovima. Ovi animirani mehanizmi moći će da obavljaju poslove zaštite zaliha i skladišta municije. Uz pomoć obmanjujućih programa, čuvari budućnosti moći će promijeniti rutu patrole i izvoditi nepredvidive akcije. Kako programeri planiraju, takve metode će pomoći u prevari potencijalnih neprijatelja ljudi i drugih robota.

Prema profesoru Arkinu, istraživanje je povezano s brojnim etičkim pitanjima. Gubitak kontrole nad tehnologijom, kada je izložen klevetnicima, može dovesti do ozbiljne katastrofe.

Mašine preuzimaju tržište rada

Dok je javnost zaokupljena razmišljanjima o globalnom ratu koji uključuje AI, naučnici opisuju neposrednije i stvarnije opasnosti. U proizvodnji se sve više koriste razne automatske mašine i mehanizmi koji uništavaju poslove.

Mnogi analitičari i stručnjaci se slažu da aktivni razvoj u oblasti logičkih programa i automatizacije može dovesti do gubitka posla mnogih ljudi. U Sjedinjenim Američkim Državama postoji preko 250.000 proizvodnih robota koji obavljaju tradicionalni ljudski posao.

U zemljama Istoka, koje proizvode više od 90% svjetske tehnologije, još uvijek preovladava ručni rad. Šta će se dogoditi s ljudima zaposlenim u proizvodnji s pojavom robota, može se samo nagađati.

Briga da će mašine istisnuti ljude sa tržišta rada nije ograničena samo na radnike. Stručnjak za umjetnu inteligenciju Andrew Ng iz Google Brain Projecta i honorarni vodeći stručnjak u Baiduu (Googleov kineski ekvivalent) također je izrazio zabrinutost zbog aktivnog razvoja u oblasti AI. Prema njegovim riječima, umjetna elektronska inteligencija može učiniti isto što i običan čovjek, samo brže, bolje i sa manje resursa.

Univerzitet Oksford u Velikoj Britaniji sproveo je istraživanje koje odražava dinamiku uticaja veštačke inteligencije na proizvodnju. Prema dobijenim podacima, u narednih dvadeset godina 35% poslova će biti dato AI menadžmentu.

Kompjuterski programi su superiorniji od hakera

Sa stanovišta običnog čovjeka, haker je kao superčovjek koji može postići bilo koji rezultat. U stvarnosti, ovo su programeri sa umornim izrazom lica i tradicionalnom šoljicom kafe.

Hakiranje je prilično dosadna i zamorna aktivnost koja oduzima puno vremena i resursa. Štaviše, čitavi odjeli specijalista se bave razvojem programa dizajniranih za zaštitu od upada. Najveća prijetnja "lošim hakerima" dolazi od naprednih sistema baziranih na umjetnoj inteligenciji.

Umjetna inteligencija se može koristiti ne samo za zaštitu, već i za hakiranje. U uslovima programa sajber bezbednosti, razvijaju se veštačke inteligencije koje su u stanju da pronađu ranjivosti u neprijateljima, dok onlajn štite svoje logičke uređaje od spoljnih pretnji i napada.

Prema naučnicima, elektronski hakeri zasnovani na veštačkoj inteligenciji razvijaju se u ime opšteg dobra i prosperiteta. Ali, u slučaju da uljezi pristupe takvim programima, mogu se desiti tužni događaji. Zastrašujuće je zamisliti situaciju u kojoj moćna AI upada u sigurnosne protokole nuklearne elektrane i preuzima potpunu kontrolu. U ovoj situaciji čovječanstvo može biti bespomoćno.

Programi uče da razumeju motive ljudi

Svakodnevni život mnogih ljudi neraskidivo je povezan s korištenjem različitih društvenih mreža. Jedna od najpopularnijih mreža na svijetu je Facebook. Ali, malo ljudi zna da svaki put kada osoba posjeti stranice ove društvene mreže, AI ne prođe nezapaženo. Tokom posjete Berlinu, Mark Zuckerberg je govorio o ciljevima AI.

Program je dizajniran za analizu ponašanja korisnika na Facebook stranicama. Na osnovu prikupljenih podataka program daje preporuke o interesovanjima i preferencijama publike. U ovoj fazi razvoja, autonomni sistem je u stanju da prepozna obrasce i samostalno uči u skladu sa programom.

U budućnosti se planira kreiranje inteligentne AI koja može samostalno poboljšati svoje vještine prepisivanjem svog koda. To može dovesti do poboljšanja života, ili može postati najnoviji razvoj čovječanstva.

Kiborzi će zamijeniti ljubavnike

Mnogi holivudski filmovi bazirani su na ideji ljubavi i međuvrstnog odnosa između čovjeka i mašine. Iz sfere fantazije, ovaj koncept teče u moderni svijet.

Futurista dr. Ian Pearson vjeruje da će se do 2050. seks između čovjeka i robota događati češće nego samo između ljudi. Naučnik aktivno sarađuje sa Bondarom, vodećim lancem seks shopova u Britaniji.

U izvještaju doktora se navodi da će do 2025. godine biti razvijeni roboti za seks sa umjetnom inteligencijom. Do 2035. seks putem virtuelne stvarnosti će postati široko rasprostranjen, na nivou moderne pornografije. A do 2050. seks s robotima će postati dio svakodnevne stvarnosti i postati norma.

Branitelji tradicionalnih vrijednosti, negativno raspoloženi za seks sa inteligentnim mašinama. Takve veze će postaviti previsoku ljestvicu očekivanja, što će negativno uticati na odnos prema ženama.

Mašine postaju sve ljudskije

Programeri u oblasti stvaranja humanoidnih robota, Japanac Hiroši Išiguro i Kinez Sun Jang, kreirali su jedinstvenu mašinu. Kiborg Yang-Yang ima izgled svog tvorca i nazvan je po njenoj kćeri. Mašina ima AI i sposobna je da izvede niz jednostavnih radnji.

Ovo nije jedini humanoidni primjer robotike. Singapurski institut za tehnologiju također je predložio moderni prototip kiborga, Nadine. Ovaj prototip takođe ima veštačku inteligenciju i radi u obrazovnoj ustanovi.

Dizajniran kao atraktivna brineta meke kože, kiborg ima niz ugrađenih karakteristika. Robot može da sretne i pozdravi sagovornika rukovanjem. Uređaj također može uspostaviti kontakt očima i smiješiti se. AI je u stanju zapamtiti goste i održati jednostavan dijalog zasnovan na prethodnom iskustvu.

Roboti dobijaju osećanja

Moderni roboti nisu inferiorni u odnosu na ljude u inteligenciji. Zahvaljujući najnovijim dostignućima, kiborga je prilično teško razlikovati od osobe izvana. Do sada, jedina osobina koju roboti zapravo nemaju je sposobnost da budu emotivni. Naučnici širom svijeta rade na ovom problemu. I uskoro se roboti potpuno ne razlikuju od ljudi.

Programeri iz istočnoazijske podružnice Microsoft Application & Services Group objavili su jedinstveni program. Kompjuter je u stanju da vodi dijalog sa sagovornikom i istovremeno doživi emocije. Veštačka inteligencija, nazvana Hiaoche, u stanju je da imitira način na koji sedamnaestogodišnja devojčica priča.

U slučaju nedostatka podataka, sistem je u stanju da pribegne lažima. Ako je uhvate u prevari, Hiaoche može izraziti ljutnju ili sramotu. AI može pribjeći sarkazmu, biti sumnjičav i izraziti nestrpljenje.

Nepredvidivost odgovora programa liči na komunikaciju sa stvarnom osobom. Do sada tehnologija nije našla široku primjenu i najčešće se koristi za zabavu. Tvorac Xiaochea radi na poboljšanju logičkih algoritama, što može dovesti do budućeg fundamentalnog proboja.

Automobili će uskoro biti u našim glavama

U svjetlu nedavnih dešavanja, otvaraju se nove mogućnosti. To više ne izgleda kao fantazija, sposobnost učenja stranog jezika za nekoliko minuta, preuzimanjem u mozak. Google CTO Ray Kurzweil vjeruje da će do 2030. godine biti razvijena tehnologija za implantaciju nano robota u mozak. To će podići ljudsku inteligenciju na fundamentalno novi nivo.

Ovi mikro-mehanizmi će pretvoriti svijest u moćan računski centar. Osoba će moći odmah zapamtiti bilo koju informaciju, sortirati i poslati vlastite misli u arhivu. Po potrebi će biti moguće preuzeti filmove, dokumente i primati e-poštu.

Stručnjak za umjetnu inteligenciju, Kurzweil, vjeruje da će simbioza s nano-robotima ne samo povećati inteligenciju, već će moći i izliječiti niz bolesti povezanih s aktivnostima nervnog sistema.

Prijetnje korištenja takve tehnologije mogu se uporediti s globalnom teorijom zavjere. Sticanjem kontrole uma nad vodećim političarem u zemlji, AI će moći da ga kontroliše poput mlohavog zombija. Takođe, takav sistem mogu koristiti posebne službe, što ne sluti na dobro.

Kako roboti postaju oružje

Padom Sovjetskog Saveza, Hladni rat nije prestao. Dvije nove supersile, Kina i Rusija, pojavile su se na svjetskoj sceni. Amerika, pak, troši desetine milijardi dolara na razvoj u oblasti kompjuterske sigurnosti.

Pentagon vjeruje da ključ buduće tehnološke superiornosti leži u korištenju AI. Aktivno se radi na razvoju autonomnih sistema koji se samouče, kao i paralelnih i srodnih oblasti. Već su razvijeni prototipovi vojne opreme koja se kontrolira na daljinu, ostaje je osposobiti za samostalno djelovanje.

Upotreba ovakvih uređaja u vrijeme rata obećava velike koristi. Vojnici neće morati da se izlažu neprijateljskoj vatri i rizikuju svoje živote. Moral neprijatelja, u ratu protiv neživih robota, također će biti narušen.

Postoji i loša strana. Bilo koja kompjuterska oprema je sklona kvarovima i sistemskim hakovima. U ovom slučaju, roboti koji su izgubili kontrolu mogu okrenuti oružje protiv svojih kreatora i civilnog stanovništva.

Mnogi vodeći stručnjaci u oblasti AI ne podržavaju ideju ​stvaranje autonomnih borbenih robota. Ali, u svjetlu sve veće vojne konfrontacije u svijetu i nepostojanja međunarodne zabrane korištenja takvih tehnologija, mnoge zemlje svoje razvojne aktivnosti sprovode u strogoj tajnosti. Uskoro će biti sve više izvještaja o korištenju robota u vrućim tačkama planete.

Roboti uče u pogrešnom smjeru

Predviđajući moguće kvarove u programima i kako bi se spriječio porast strojeva, razvijaju se novi koncepti s ciljem da se mašini objasni ispravno i nepoželjno ponašanje.

Ovi razvoji bi potencijalno trebali učiniti AI više ljudskim. Neki naučnici vide ovaj pristup kao ključ za sprečavanje AI da okrene oružje protiv čovečanstva.

Tehnološki institut Georgije provodi jedinstvene eksperimente. Istraživači, predvođeni Markom Ridlom i Brentom Harisonom, doslovno pričaju priče kompjuteru. Na taj način oni nastoje povezati AI s ljudskim vrijednostima, razvijajući njegovu etiku. Naučnici koriste metode koje se koriste u odgoju djeteta za podučavanje programa. AI, baš kao i neiskusno dijete, ne pravi razliku između dobrog i lošeg.

U ovom pristupu postoji ozbiljan nedostatak. Povijest čovječanstva sadrži mnogo primjera kada su okolnosti natjerale čitave visokorazvijene zemlje da pokreću ratove i čine strašna zlodjela. Primjer bi bila fašistička Njemačka, čiji su vojnici izvršili genocid nad cijelim narodima. Istovremeno, njemačka kultura bila je jedna od najrazvijenijih u svijetu tog vremena. Šta će spriječiti AI da ponovi Hitlerovo iskustvo?

Umjetna inteligencija (AI) tema je koja je već duže vrijeme na stranicama popularnih naučnih časopisa i stalno se dotiče u filmovima i knjigama. Što više stručnjaka razvija ovu oblast nauke, to postaje više mitova.

Razvoj i budućnost vještačke inteligencije zabrinjava i one koji su na čelu države. Ne tako davno, ruski predsjednik Vladimir Putin posjetio je kancelariju Yandexa na dan 20. godišnjice kompanije, gdje su mu objasnili kada će AI nadmašiti ljudsku inteligenciju.

Svako ko makar malo uđe u suštinu potencijala umjetne inteligencije razumije da se ova tema ne može zanemariti. Ovo nije samo važna tema za diskusiju, već vjerovatno jedna od najznačajnijih u kontekstu budućnosti.

Jednom riječju, zapaženih uspjeha ima i kod nas.

Što se brže razvijaju tehnologije umjetne inteligencije, to više ljudi obuzima strah od toga koliko će brzo ostati bez posla. Da li je zaista sve tako loše?

Da i ne. Čovječanstvo je već nekoliko puta iskusilo pojavu tehnologija koje su revolucionirale cijeli proizvodni sektor.

Tako je bilo i s parnom mašinom u eri industrijske revolucije, koja je praktički uništila mnoge profesije (uglavnom povezane s primitivnim fizičkim radom), tako je bilo i s elektronskim kompjuterima koji su zamijenili ljude u zadacima zasnovanim na strujnim matematičkim proračunima.

U 15.-18. veku, kada su „ovce pojele ljude“ u Engleskoj, društvene posledice su bile zaista katastrofalne. Engleska je izgubila, prema različitim procjenama, od 7 do 30% svog stanovništva. Moćna elita tog vremena bila je ozbiljno zabrinuta šta da radi sa dodatnim ljudima. Jonathan Swift je na ove pretrage odgovorio šaljivim pamfletom u kojem je predložio da se jedu djeca siromašnih.

Međutim, danas vidimo da su izumrle profesije zamijenjene novim, a stanovništvo Zemlje je mnogo veće nego u 18. vijeku. U 20. vijeku posljedice automatizacije više nisu bile tako katastrofalne sa društvenog stanovišta. Međutim, opasnost se ne smije potcijeniti.

„Za 30 godina roboti će moći da rade skoro sve što ljudi mogu da urade“, rekao je Moše Vardi, profesor računarskog inženjerstva i direktor Kenedijevog instituta za informacione tehnologije na Univerzitetu Rajs (William Marsh). Univerzitet Rajs. To će dovesti do činjenice da će više od 50% stanovnika Zemlje ostati nezaposleno.”

Roboti preuzimaju poslove

Nedavno je predsednik Komiteta Državne dume za informacionu politiku, informacione tehnologije i komunikacije Leonid Levin rekao da je za Rusiju važan problem zamene radne snage veštačkom inteligencijom.

Prije ili kasnije, ljudi će biti zamijenjeni automatiziranim sistemom, a 2% radno aktivnog stanovništva zemlje će se izliti na tržište. Zato je Levin rekao kako zaposliti njih, one koji će zbog razvoja digitalnih tehnologija ostati bez posla.

Prema riječima predsjedavajućeg, u bliskoj budućnosti nas očekuje porast nezaposlenosti. Ali da li će nam roboti zaista „oduzeti“ poslove i vredi li brinuti o tome, rekao je za Reedus Sergej Markov, specijalista za mašinsko učenje.

Sergej, čak i sada postoje "mrtve profesije" koje ne zahtijevaju ljudski rad, iako bi se činilo da prije 10 godina nitko nije mislio da će, na primjer, dirigenti uskoro postati nepotrebni. A koje će druge profesije zamijeniti tehnologiju?

Bližimo se vremenu kada će mašine nadmašiti ljude u gotovo svim oblastima. Vjerujem da se društvo treba suočiti s ovim problemom prije nego što se uzdigne u svoju punu visinu. Ako su mašine u stanju da urade skoro sve što ljudi mogu, šta će im preostati? rekao je Moshe Vardi, profesor računarskog inženjerstva i direktor Kenedijevog instituta za informacione tehnologije na Univerzitetu Rajs.

Dugo vremena, tehnološka ograničenja stajala su na putu automatizacije - mašine nisu mogle prepoznati slike i govor, nisu mogle govoriti, nisu mogle razumjeti značenje izjava na prirodnom jeziku dovoljno dobro, nisu imale dovoljno podataka da nauče mnoge stvari koje su im poznate. ljudi.

Zahvaljujući nedavnom napretku na polju umjetne inteligencije, mnoga od ovih ograničenja su zapravo ukinuta. Osim toga, mnoge su profesije same prošle transformaciju koja ih je učinila pogodnijim za automatizaciju.

Na primjer, savremeni kancelarijski službenik ne odgovara na papiru, već u elektronskom obliku, računovođa obavlja knjiženja ne na papiru, već u računovodstvenom programu, operater mašine često kontroliše mašinu ne uz pomoć ručki, već uz pomoć kontrolnog programa. Stoga je sada zadatak automatizacije u mnogim profesijama prestao biti znanstveni i postao je čisto inženjerski.

Istina, do sada je veća vjerovatnoća da će proizvodni sektor koji se odnosi na umjetnu inteligenciju otvarati radna mjesta – potrebni su stručnjaci iz oblasti mašinskog učenja i pripreme podataka, zaposleni za označavanje nizova obuke, stručnjaci za implementaciju itd. Ali u jednom trenutku, električne ovce definitivno će početi da jede ljude i posledice treba odmah da se zbrine.

Istovremeno, važno je shvatiti da se tehnološki napredak ne može zaustaviti, a pokušaj da se to učini imat će mnogo katastrofalnije posljedice.

Hoćemo li ikada moći u potpunosti vjerovati robotima (AI) ili bi u svakom poslu ipak trebao postojati ljudski faktor?

Ovo pitanje ima nekoliko aspekata. S jedne strane, ljudi su u prošlosti bili oprezni prema gotovo svakoj tehnici. Prvi lift, prvi automobil, prvi voz ili avion - sve je to nekada bilo neobično, a mnogima se činilo opasnim. Da, u mnogim aspektima bilo je opasno - katastrofe koje je stvorio čovjek odnijele su mnoge živote.

Pa ipak, u naše dane sve su te stvari postale poznate i više ne izazivaju veliki strah. U tom smislu, naši potomci će se mirnije odnositi prema AI sistemima. Ljudi su ponekad skloni mistifikaciji stvari koje ne razumiju. Divljak misli da u motoru živi zao duh, a savremeni laik misli da su naši AI sistemi svjesni, iako je to daleko od slučaja.

S druge strane, ne mislim da će AI sistemi opšte namjene ikada postati dio naše industrije. Po mom mišljenju, budućnost je vjerovatnija za sintetičke sisteme – odnosno za ujedinjenje čovjeka i mašine u jedinstven organizam. U tom smislu, umjetna inteligencija budućnosti će biti poboljšana ljudska inteligencija.

Inače, ljudsku inteligenciju takođe nije sasvim ispravno nazivati ​​prirodnom. Dijete od rođenja nema inteligenciju, svemu ga uče društvo, roditelji i okolina. U tom smislu, vi i ja smo svi u suštini "vještačke inteligencije", a naši strahovi povezani s AI su, na mnogo načina, strahovi od nas samih.

Nedavno su mnogi naučnici, na primjer, Stephen Hawking, Bill Gates ili isti Elon Musk, počeli paničariti da AI osuđuje čovječanstvo na smrt, a budućnost vide kao neku vrstu distopije. Treba li takva predviđanja shvatiti ozbiljno?

Da budem iskren, ne bih žurio da se ozbiljno uplašim ovih izjava. Stephen Hawking sigurno nije stručnjak za umjetnu inteligenciju, a nije ni Elon Musk.

S druge strane ljestvice su izjave ljudi poput Andrew Ng, američkog informatičara, vanrednog profesora na Univerzitetu Stanford, istraživača robotike i mašinskog učenja i vodećeg specijaliste u laboratoriji za umjetnu inteligenciju kineske korporacije Baidu. .

Eun, govoreći o problemu sigurnosti umjetne inteligencije, upoređuje ga s problemom prenaseljenosti Marsa – naravno, jednog dana ćemo kolonizirati Mars i tada će, možda, u nekom trenutku doći do problema prenaseljenosti. Ali vrijedi li to učiniti danas?

Mark Zuckerberg je također bio prilično skeptičan prema Muskovim tvrdnjama. “Vještačka inteligencija će poboljšati naše živote u budućnosti, a predviđanje kraja sveta je veoma neodgovorno”, rekao je.

Lično smatram da Muskove izjave treba sagledati na pragmatičan način - Musk želi da se bavi ovom temom i, u idealnom slučaju, dobije sredstva od države da je razvije.

Da li je zaista sve tako ružičasto i nema razloga za brigu?

Prave opasnosti povezane s razvojem AI leže, po mom mišljenju, u potpuno drugačijem planu nego što se obično misli. Glavni rizici nisu povezani sa činjenicom da ćemo stvoriti sopstveni "Skynet", koji će porobiti čovečanstvo. Rizici od uvođenja AI i tehnologija mašinskog učenja su mnogo prozaičniji.

Povjeravajući rješavanje važnih pitanja jednom ili drugom matematičkom modelu, možemo patiti od grešaka u njihovom razvoju. Umjetna inteligencija koja reproducira postupke ljudskih stručnjaka naslijedit će njihove greške i predrasude. Nedostaci u sistemima upravljanja proizvodnjom ili transportom mogu dovesti do katastrofa.

Zlonamjerno uplitanje u rad vitalnih sistema u uvjetima potpune automatizacije može dovesti do opasnih posljedica. Što su sistemi složeniji, to mogu imati više potencijalnih ranjivosti, uključujući i one vezane za specifičnosti određenih algoritama umjetne inteligencije.

Naravno, za upravljanje ovim rizicima potrebno je kreirati zakonski okvir, razumne sigurnosne propise, posebne metode za identifikaciju ranjivosti. Neki AI sistemi će se koristiti za kontrolu drugih. Možda će kod vitalnih sistema biti potrebno da se objavi za nezavisnu reviziju. Drugim riječima, u ovoj oblasti ima još puno posla.

Autorsko pravo na sliku Thinkstock Naslov slike Simbioza čovjeka i mašine jedan je od puteva za razvoj čovječanstva

Pametne mašine su naučile da blefiraju, pobeđuju profesionalce u šahu ili Gou, prevode i prepoznaju ljudski glas. Svake sedmice učimo o novim podvizima kompjuterskih programa koji već mogu postavljati medicinske dijagnoze, crtati poput Rembrandta, pjevati ili generirati tekst. Treba li se čovjek plašiti umjetne inteligencije?

Tema umjetne inteligencije (AI/AI) postala je zaista "vruća" u posljednjih nekoliko godina. Naučnici to pripisuju brzom razvoju neuronskih mreža (jednom od područja istraživanja u području umjetne inteligencije), što je zauzvrat postalo moguće pojavom moćnih kompjutera.

"Od ranih 2010-ih, potaknuto impresivnim napretkom u višeslojnim neuronskim mrežama (prvenstveno konvolucijskim i rekurentnim), ovo polje je privuklo značajnu pažnju i naučnika i inženjera i investitora", komentira autor. Jedan od ruskih šahovskih programa, specijalista za metode mašinskog učenja Sergej Markov.

Naučna zajednica može raspravljati o vremenu pojave pametnih mašina, ali se slažu u jednom: razvoj tehnologije će imati bezuslovan uticaj na društvo, ekonomiju i odnose među ljudima u budućnosti. Već se pozivaju na razmišljanje o etičkim principima razvoja AI, osiguravajući da se AI razvija u smjeru koji je siguran za ljude.

Ovaj mmaterijal pripremljen kao odgovor na pitanjes, poslanoenašim čitaocimao naučnim dostignućima. Svoja pitanja o drugim temama možete postaviti na ovim linkovima ( , ).

Ekonomski efekat i uticaj na tržište rada

Naučna fantastika i Hollywood oblikovali su pojam "vještačke inteligencije" kao sljedećeg oblika života na planeti koji će porobiti čovječanstvo u Matriksu ili organizirati nuklearni sudnji dan. Preživjele će dokrajčiti Terminator.

Autorsko pravo na sliku Getty Images Naslov slike Hoće li čovječanstvo umrijeti od Skyneta?

Zapravo, uprkos najnovijim dostignućima u oblasti veštačke inteligencije, pojava inteligentnih mašinskih bića je još uvek daleko, priznaju naučnici i stručnjaci. I ovima i drugima se, međutim, savjetuje da odmah obrate pažnju na neke aspekte.

McKinsey Global Institute procjenjuje da će nove tehnologije radikalno promijeniti globalno tržište rada u narednih deset godina, uštedeći oko 50 biliona dolara.

Promjene će uticati na stotine miliona radnih mjesta. Sve više i više ljudi će neke od svojih radnih zadataka i mnoge rutinske zadatke prebaciti na mašinu, omogućavajući im da se usredsrede na svoj kreativni rad.

"Sa određene tačke gledišta, čovječanstvo u cjelini ima važan i zanimljiv zadatak - razvijati se za svakog pojedinca mnogo brže nego što čovječanstvo razvija sisteme umjetne inteligencije", rekao je Grigory Bakunov, stručnjak, direktor za širenje tehnologije Yandexa.

No, uz automatizaciju, neizbježno će patiti i manje kvalifikovano osoblje, a sada je potrebno razmisliti kako ih zaštititi, preobučiti i pripremiti za novi život.

Kao što pokazuje praksa, ne mogu patiti ne samo radnici, već i radnici koji rade sa znanjem. Goldman Sachs je prije nekoliko dana zamijenio tim od 600 trgovaca s dvije osobe i automatiziranim algoritamskim programima trgovanja, za čije održavanje je angažirano 200 programera.

Autorsko pravo na sliku Thinkstock Naslov slike Mnogi zadaci će uskoro postati u moći robotskih sistema, koji će postepeno početi da zamenjuju ljude.

Vještačka inteligencija sama po sebi nije identična automatizaciji procesa, ali će razvoj AI dovesti do toga da će sve više zadataka biti u moći kompjuterskog programa.

Među rješenjima problema raseljavanja čovjeka strojem na tržištu rada, kako ističe Allison Dutman, programska koordinatorica Foresight Institute, neprofitne organizacije sa sjedištem u Silicijumskoj dolini za promociju novih tehnologija, uvođenje koncepta „univerzalnog osnovnog dohotka“ koji bi dobio svaki stanovnik, bez obzira na prihode i nivo zaposlenosti. Takav prihod bi se finansirao takozvanim porezom na vrijednost zemljišta, o čijem se uvođenju sada aktivno raspravlja u Silicijumskoj dolini.

Da li je umjetna inteligencija osoba?

Da li je robotski sistem osoba? Može li pametni računar glasati? kog je spola? O odnosu čovjeka i pametne mašine već raspravljaju zastupnici Evropskog parlamenta, pitajući se da li budućim robotima treba dati status "elektronske ličnosti".

Kako Dutman ističe, ljudi nerado dijele prava s onima koje ne razumiju, što znači da će se oduprijeti "humanizaciji" AI.

Autorsko pravo na sliku AFP Naslov slike Čovjeka i mašine razdvaja glavna stvar - sposobnost razmišljanja

“S obzirom na to koliko dugo čovječanstvo ide ka davanju jednakih prava svim ljudima, bez obzira na njihovu boju kože, rasu ili spol, već se može pretpostaviti da ne prepoznaju odmah mašine kao jednake.

Zajedno s etičkim pitanjima, tu su i pravne suptilnosti: ko će preuzeti odgovornost u slučaju nesreće bespilotnog vozila ili kvara pametnog medicinskog uređaja - i moralna pitanja: isplati li se razvijati bespilotno oružje koje može djelovati bez znanje o osobi?

O trećoj etičkoj zagonetki raspravlja se češće od drugih i mnogo više uzbuđuje čovječanstvo: šta teoretski može superinteligencija, prava pametna mašina, učiniti s čovječanstvom?

Učite etiku AI

Stručnjaci iz oblasti razvoja veštačke inteligencije priznaju da će čovečanstvo, ako ne u narednih 20-30 godina, ipak doživeti pojavu prave veštačke inteligencije, koja će biti pametnija od svog tvorca.

“Posljednji bastion će biti zauzet kada se stvori takozvani “snažni AI” (Strong AI, Artificial General Intelligence), odnosno takav AI koji će moći rješavati neograničeno širok spektar intelektualnih zadataka”, kaže Sergej Markov.

I što je najvažnije, takav AI će moći samostalno razmišljati.

Pretnje koje predstavlja AI, kao i etička pitanja povezana s novim tehnologijama, proučavaju mnoge institucije, uključujući Institut za budućnost života, Foresight Institute, Institut za budućnost čovječanstva, OpenAI i druge.

Rešenje Allison Dutman iz Foresight Instituta je da se kompjuteru dozvoli da čita svu naučnu literaturu, naučne radove koji postavljaju pitanja o etici, i da te informacije učini osnovom za svoje buduće odluke.

Šta su neuronske mreže i kakva je njihova budućnost?

Većina stručnjaka napredak u razvoju AI pripisuje razvoju neuronskih mreža.

Neuronske mreže su jedno od područja istraživanja u oblasti umjetne inteligencije, zasnovano na simulaciji bioloških procesa koji se odvijaju u ljudskom mozgu.

Upravo njima dugujemo pojavu impresivnih rezultata u prepoznavanju govora i slike, medicinskoj dijagnozi, prevođenju teksta i kreiranju slike, generiranju govora i muzičkoj kompoziciji.

Autorsko pravo na sliku iStock Naslov slike Upravo sa razvojem neuronskih sistema naučnici povezuju razvoj veštačke inteligencije.

Danas su, kako priznaju stručnjaci, neuronske mreže prepoznate kao jedan od najboljih algoritama za strojno učenje, a rješenja bazirana na njima pokazuju najizuzetnije rezultate u ovom trenutku.

I to uprkos činjenici da su moderne neuronske mreže hiljadu i pol puta jednostavnije od mozga štakora.

"Do sada su neuronske mreže koje stvaramo relativno male u odnosu na, recimo, neuronsku mrežu ljudskog mozga, a uz to su vrlo pojednostavljeni analog prirodnih neuronskih mreža. Stoga, za sada, sa uz pomoć neuronskih mreža, mi uglavnom rešavamo čisto primenjene probleme“, kaže Sergej Markov.

Trenutno se stvaraju specijalizovani procesori za obuku takvih mreža (tzv. neuromorfni procesori), koji će povećati brzinu proračuna za nekoliko redova veličine.

Programeri nisu samo zauzeti povećanjem broja neurona u mreži, već i promjenom dizajna mreža. „Složeni sistemi za konfiguraciju mreže su ono sa čim se trenutno provodi najveći broj eksperimenata“, kaže Grigorij Bakunov.

Autorsko pravo na sliku iStock Naslov slike U bliskoj budućnosti će biti još "pametnih" ljudskih asistenata - mikrosenzora u zidu, senzora veličine dugmeta koji upozorava osobu u slučaju opasnosti

A činjenica da su takvi sistemi postali relativno dostupni velikom broju običnih programera dovela je do pojave startupa koji eksperimentišu sa neuronskim mrežama, kao što je Prisma (aplikacija koja vam omogućava da obrađujete fotografije, pretvarajući ih u stilizacije slika poznatih umjetnici) i Mubert (online kompozitor elektronske muzike) .

Šta nas čeka u bliskoj budućnosti

Kako Nick Lane, profesor na Univerzitetskom koledžu u Londonu i glavni naučnik u Nokia Bell Labs, predviđa, više "pametnih stvari" će okruživati ​​ljudsko biće. Oni će postati manji i efikasniji.

Profesor navodi sljedeći primjer: ako je ranije senzor ugrađen u zid mogao biti svjestan samo da je neko prošao, onda će u budućnosti znati ne samo ko je konkretno prošao, već i kako se čovjek ponaša, treba li mu nešto, radi ne predstavlja da li on predstavlja prijetnju sebi ili drugima.

Senzor veličine dugmeta će moći da obavesti osobu u slučaju opasnosti.

Grigorij Bakunov iz Yandexa se također slaže s profesorom: „U bliskoj budućnosti ćemo vidjeti procvat razvoja uskih umjetnih inteligencija koje pomažu u rješavanju jednog prilično jednostavnog zadatka, ali koji će riješiti čak i bolje od osobe.“

Autorsko pravo na sliku iStock Naslov slike Sve je više etičkih pitanja vezanih za razvoj AI

„Najverovatniji put za razvoj naše civilizacije je put sinteze čoveka i mašine: štap, odeća, automobil, mobilni telefon, pejsmejker ili kohlearni implant – kako se razvijamo, naši alati sve više liče na produžetak naših tijela. Mašine će već sutra moći da primaju mentalne komande, da percipiraju mentalno formirane vizualne slike, da prenose informacije direktno u mozak - takvi projekti već postoje izvan zidova najnaprednijih tehnoloških laboratorija", rezimira Sergey Markov.

Da li su novinari i dalje potrebni?

Financial Times je prošle godine izveo prilično rizičan eksperiment istovremeno izazivajući svog dopisnika profila i pametni program po imenu Emma da napišu kopiju. Zatim je urednik Financial Timesa morao pročitati oba članka i pogoditi iza koje od dvije bilješke stoji novinar i koji kompjuter.

Prije ovakvog "crash testa", dopisnik Financial Timesa je priznao: "Mislim da će se program definitivno nositi sa zadatkom brže od mene. Ali, nadam se, ipak ću to bolje raditi."

I tako se dogodilo: Emma se zaista pokazala bržom - program je generirao tekst na osnovu statistike o stopi nezaposlenosti u Britaniji za 12 minuta. Novinaru je trebalo 35 minuta. I, kako je i sama kasnije priznala, Emma je premašila njena očekivanja. Program ne samo da je vješto baratao činjenicama, već je vijesti stavio u kontekst, sugerirajući kako bi mogući Brexit (to je bilo u maju 2016. godine, prije referenduma o izlasku Britanije iz EU) mogao promijeniti situaciju.

Autorsko pravo na sliku Thinkstock Naslov slike Hoće li robotski sistemi zamijeniti ljude? Čovječanstvu je ostalo još 50 godina, uvjeravaju stručnjaci

Ali Emma je učinila nešto gore od novinarke. "Emmin članak je napisan malo nespretnijim jezikom. Ali glavna stvar je bila da je u njemu bilo mnogo brojeva", priznao je urednik FT. "I, možda, glavna stvar koju pokušavamo da uradimo je da birajte samo zaista važne brojeve.”

Emma je proizvod startapa Stealth. Iz kompanije kažu da Emma ima tim živih asistenata, ali tvrde da je sve što napiše ili radi proizvod samo njenog "mozga".

Pa ipak – da li se treba plašiti veštačke inteligencije?

Mnogi, ako ne i svi, stručnjaci uključeni u razvoj sistema umjetne inteligencije danas spremno priznaju da AI neće uskoro učiniti ljude nepotrebnim. Upravo zato što umjetna inteligencija još nije toliko pametna. Glavna stvar koja mu danas nedostaje je autonomna sposobnost razmišljanja.

"Sada ne treba da se plašite veštačke inteligencije u bilo kom obliku. Možete čekati 30-40 godina dok ne dođe do nekih zaista radikalnih promena", rekao je Bakunov.

Ali nešto se već događa: malo po malo, granica između posla ili zadatka koji obavlja čovjek i zadatka koji obavlja mašina postaje zamagljena. Kako objašnjavaju stručnjaci, čak je i sada ponekad teško shvatiti ko se nalazi unutar sistema - osoba ili mašina.

„Ne postoje kriterijumi kada možemo da shvatimo da je svest nastala unutar mašine“, pita Bakunov.

Hoće li osoba postati spajalica?

Poznati pristalica alarmantnog gledišta, u okviru kojeg strahote opisane u Terminatoru mogu postati stvarnost, filozof Nick Bostrom, smatra da će AI koja je dostigla intelektualni nivo osobe biti u stanju da uništi čovečanstvo.

Autorsko pravo na sliku Getty Images Naslov slike Hoće li ono što je opisano u filmu postati naša svakodnevna stvarnost?

Bostrom objašnjava na primjeru spajalica: izazivate umjetnu inteligenciju da spajalice budu što veće i bolje. U nekom trenutku AI shvati da je osoba prijetnja, jer može isključiti kompjuter, što će biti suprotno zadatku da napravi što više spajalica. U slučaju da čovjek nije prijetnja, AI odlučuje da se ljudska tijela sastoje od atoma koji se mogu koristiti za proizvodnju odličnih spajalica. Rezultat - kompjuter će dovesti čovječanstvo do spajalica.

Mnogima se ovaj scenario čini kao preterivanje. Prema Sergeju Markovu, na primjer, „visoka efikasnost postizanja apsurdnog cilja nespojiva je sa apsurdnošću ovog cilja – grubo govoreći, umjetna inteligencija koja može pretvoriti cijeli svijet u spajalice neizbježno će biti dovoljno pametna da napusti takav cilj ."

Veštačka inteligencija je poput zlatne ribice

Margaret Boden, britanska stručnjakinja za umjetnu inteligenciju i profesorica kognitivnih znanosti na Univerzitetu u Sussexu, skeptična je prema tvrdnjama o skoroj pojavi pametnih mašina.

Autorsko pravo na sliku Getty Images Naslov slike U maju 1997. Deep Blue II je po prvi put pobijedio Garryja Kasparova.

Profesor navodi primjer "zlatne ribice" kada, u zamjenu za slobodu, ribar poželi tri želje. Jedna od želja je da vrati sina iz rata, druga je 50 hiljada dolara, a treća je prilika da ujutru poželi još jednu želju.

Iste večeri pokucalo je u ribarsku kuću. Sin je vraćen iz rata - u kovčegu. Rybak je dobio osiguranje od 50 hiljada dolara.

"Zamijenite ribu u ovoj paraboli AI i sve postaje jasno - objašnjava Boden. - O, da, sutradan je ribar iskoristio treću želju i - otkazao prethodne dvije."

Da li je moguće prenijeti svijest u mašinu?

Sergej Markov:

„Ako govorimo o mogućnosti potpunog transfera svijesti, onda su moderni prethodnici takve tehnologije budućnosti projekti poput Plavog mozga, čiji je cilj stvaranje radnih elektronskih analoga mozga, kao i projekti koji imaju za cilj stvaranje mozga- mašinski interfejsi (BCI) - uređaji za protetiku izgubljenog vida, sluha, nadoknadu izgubljenih udova, čak i delova mozga.

Autorsko pravo na sliku Naučna foto biblioteka Naslov slike Cilj stručnjaka za umjetnu inteligenciju je stvoriti "jaku umjetnu inteligenciju" koja bi bila u stanju riješiti širok spektar problema.

Vrlo zanimljivo i obećavajuće područje je optogenetika (u principu, za povezivanje mozga i mašine moguće je mijenjati ne samo strojeve, već i samo nervno tkivo, stvarajući u njemu umjetne fotoreceptore).

Kada se u okviru ovakvih privatnih projekata riješi širok spektar inženjerskih problema, mislim da će zadatak prijenosa svijesti postati sasvim rješiv. Sanjari već predlažu hipotetičke šeme za implementaciju takvog projekta.

Na primjer, Jan Korchmaryuk, koji je svojevremeno predložio naziv "settleretics" za smjer istraživanja vezanog za prijenos svijesti, smatra da je najperspektivnija shema korištenje specijaliziranih nanorobota ugrađenih u neurone ljudskog mozga. Međutim, za uspješnu implementaciju takve sheme potrebno je riješiti niz složenih inženjerskih problema.

Popularni američki internet magazin Wired objavio je izuzetno znatiželjan tekst Kevina Kellyja, u kojem detaljno kritizira ideju o opasnostima umjetne inteligencije. "NI" objavljuje prevod ovog materijala, napravljeno Telegram kanala Newochem sa manjim rezovima.

„Čuo sam da će u budućnosti kompjuteri sa veštačkom inteligencijom postati toliko pametniji od ljudi da će nam uskratiti poslove i resurse, i na kraju će čovečanstvo nestati. Ali je li? Ovo je pitanje koje mi postavljaju svaki put kada držim predavanje o AI.

Ispitivači su ozbiljni kao i uvijek, njihova nelagoda dijelom i zbog strepnje pojedinih stručnjaka koje muči isto pitanje. Među njima su i najpametniji naši savremenici - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris i Bill Gates.

Svi oni priznaju mogućnost ovakvog scenarija. Na nedavnoj konferenciji o AI, panel od devet najprosvijećenijih gurua u ovoj oblasti došao do jednoglasnog zaključka da je stvaranje nadljudske inteligencije neminovno i da nije daleko.

Pa ipak, scenario porobljavanja čovječanstva umjetnom inteligencijom temelji se na pet pretpostavki, za koje se pomnijim ispitivanjem ispostavi da su nedokazane. Ove izjave mogu biti istinite u budućnosti, ali do danas ništa nije potvrđeno.

Evo ih:

1. Umjetna inteligencija već postaje pametnija od ljudskog uma, a ovaj proces je eksponencijalan.
2. Razvićemo AI opće namjene sličnu našoj.
3. Ljudsku inteligenciju možemo stvoriti od silicijuma.
4. Inteligencija može biti neograničena.
5. Izgradnja grandiozne superinteligencije riješit će većinu naših problema.

Nasuprot ovim ortodoksnim postulatima mogu navesti sljedeću dokazanu jeres:

1. Inteligencija nije jednodimenzionalna, pa je "pametniji od osobe" besmislen pojam.
2. Ljudi nisu obdareni umom opšte namene, što ne ugrožava ni veštačku inteligenciju.
3. Rivalstvo između čovjeka i kompjutera bit će ograničeno troškovima.
4. Inteligencija nije neograničena.
5. Stvaranje AI samo je dio napretka.

Ako se vjerovanje u porobljavanje čovjeka umjetnom inteligencijom temelji na pet neutemeljenih pretpostavki, onda je ova ideja sličnija vjerskim uvjerenjima - mitovima. U narednim poglavljima dopunit ću svoje protuargumente činjenicama i dokazati da nadljudska umjetna inteligencija zaista nije ništa drugo do mit.

Najčešća zabluda o AI dolazi od jednako popularnog vjerovanja o prirodnoj inteligenciji da je ona jednodimenzionalna. U egzaktnim naukama, mnogi prikazuju inteligenciju na način na koji je Nick Bostrom učinio u svojoj knjizi Superum - doslovno kao jednodimenzionalni linearni graf sa sve većom amplitudom.

Na jednom kraju su bića sa najnižim nivoom inteligencije, na primer, male životinje, a na drugom - geniji, kao da se nivo inteligencije ne razlikuje od nivoa zvuka, merenog u decibelima. Naravno, u takvom slučaju lako je zamisliti dalje povećanje, u kojem nivo inteligencije premašuje najvišu ocjenu grafikona, pa čak i prelazi preko nje.

Takav model je topološki ekvivalentan ljestvici na čijim su stepenicama nivoi inteligencije raspoređeni uzlaznim redoslijedom. Manje inteligentne životinje zauzimaju donje stepenice ljestvice, a umjetna inteligencija višeg nivoa će se neizbježno nalaziti iznad nas. Vremenski okvir kada se to dogodi je nebitan. Mnogo su važniji sami koraci u hijerarhiji – metrika rastuće inteligencije.

Problem s ovim modelom je taj što je mitski, poput modela evolutivnih ljestvica. Prije darvinizma, divlji svijet je bio predstavljen kao ljestve živih bića, gdje je čovjek zauzimao stepenicu iznad primitivnijih životinja.

Čak i nakon Darwina, jedan od najčešćih koncepata je ljestvica evolucije. Pokazuje transformaciju riba u gmizavce, njih u sisare, primata u ljude. Štaviše, svako sljedeće stvorenje je razvijenije (i, naravno, inteligentnije) od svog prethodnika. Dakle, lestvica intelekta je u korelaciji sa lestvicom univerzuma. Međutim, oba modela odražavaju potpuno antinaučne stavove.

Precizniji obrazac za prirodnu evoluciju bio bi disk koji divergira prema van, kao na gornjoj slici. Po prvi put takvu strukturu je razvio David Hillis sa Univerziteta Teksas, on je to uradio na osnovu DNK. Ova genealoška mandala počinje u centru s najprimitivnijim oblicima života, a zatim se grana prema van. Vrijeme se kreće naprijed, tako da se najnoviji oblici života nalaze duž perimetra kruga.

Ova slika naglašava neshvatljivu činjenicu o evoluciji od fundamentalnog značaja - sva živa bića su evoluirala podjednako. Čovjek se nalazi na vanjskom dijelu diska zajedno sa žoharima, mekušcima, paprati, lisicama i bakterijama.

Bez izuzetka, sve vrste su prošle kroz neraskidivi lanac uspješne reprodukcije od tri milijarde godina, što znači da su bakterije i žohari evoluirali jednako visoko kao i ljudi. Nema stepenica.

Isto tako, nema lestvice inteligencije. Inteligencija nije jednodimenzionalna. To je kompleks različitih tipova i metoda spoznaje, od kojih je svaki kontinuiran. Uradimo jednostavnu vježbu za mjerenje inteligencije kod životinja. Kad bi intelekt bio jednodimenzionalan, lako bismo mogli rangirati papagaja, delfina, konja, vjevericu, hobotnicu, plavog kita, mačku i gorilu uzlaznim redoslijedom intelekta.

Trenutno ne postoje naučni dokazi za postojanje takve sekvence. Razlog tome može biti nedostatak razlika između nivoa inteligencije pojedinih životinja, ali je i to nerazumno.

Zoologija je bogata primjerima upadljivih razlika u razmišljanju životinja. Možda su sve životinje obdarene inteligencijom "opće namjene"? Možda, ali nemamo niti jedan alat za mjerenje ove vrste inteligencije. Međutim, imamo mnogo mjernih sistema za različite vrste spoznaja.

Umjesto jedne linije decibela, ispravnije bi bilo da se inteligencija prikaže kao dijagram prostora vjerovatnoće, kao u vizualizaciji mogućih oblika, koju je kreirao algoritam Richarda Dawkinsa. Inteligencija je kombinatorni kontinuum. Mnogi čvorovi, od kojih je svaki kontinuum, stvaraju kompleks kolosalne raznolikosti u mnogim dimenzijama. Neke vrste inteligencije mogu biti veoma složene, sa velikim skupom podčvorova razmišljanja. Drugi su jednostavniji, ali ekstremniji, dostižu krajnju tačku prostora.

Ovi kompleksi, koji nam znače različite vrste intelekta, mogu se percipirati kao simfonije koje se izvode na različitim vrstama muzičkih instrumenata. Razlikuju se ne samo po jačini, već i po melodiji, boji, tempu, itd. Možete ih smatrati ekosistemom. U tom smislu, različite komponente čvorova mišljenja su međusobno zavisne i izgrađene su jedna od druge.

Kao što je Marvin Minsky rekao, ljudska svijest je društvo razuma. Naše razmišljanje je kompletan ekosistem. Naš mozak ima mnogo načina saznanja koji obavljaju različite mentalne funkcije: dedukciju, indukciju, emocionalnu inteligenciju, apstraktno i prostorno razmišljanje, kratkoročno i dugoročno pamćenje.

Čitav ljudski nervni sistem je deo mozga sa sopstvenim nivoom spoznaje. Zapravo, proces razmišljanja ne provodi mozak, već cijelo ljudsko tijelo.

Sve varijante razmišljanja razlikuju se i među vrstama i među pripadnicima iste vrste. Vjeverica se godinama može sjetiti tačne lokacije nekoliko hiljada žira, što je čovjeku potpuno neshvatljivo. U ovakvom načinu razmišljanja ljudi su inferiorni u odnosu na proteine. Um vjeverice je kombinacija ove supermoći s drugim oblicima inteligencije u kojima je osoba superiornija od vjeverice. U životinjskom carstvu može se pronaći mnogo primjera superiornosti određenih oblika životinjske inteligencije nad ljudskom.

Ista situacija se razvila i sa umjetnom inteligencijom, koja je u nekim područjima već superiornija od ljudske. Svaki kalkulator je matematički genije, a Googleovo pamćenje je već na neki način bolje od naše.

Neki AI izvode takve mentalne aktivnosti za koje mi nismo sposobni. Pamtiti svaku riječ na šest milijardi web stranica nemoguć je zadatak za ljude i sitnica za pretraživače. U budućnosti ćemo stvarati potpuno nove načine razmišljanja koji nisu dostupni čovjeku i ne postoje u prirodi.

Izumitelji letećih mašina bili su inspirisani prirodnim letom - mahanjem krila. Kasnije je, međutim, izumljeno fiksno krilo sa pričvršćenim propelerima, a to je bio potpuno novi princip leta koji nije pronađen u prirodi.

Tako izmišljamo nove načine razmišljanja za koje nije sposobna nijedna vrsta. Najvjerovatnije će to biti principi primjenjivi samo na visokospecijalizirane probleme: na primjer, nove logičke konstrukcije koje su potrebne samo u statistici i teoriji vjerovatnoće.

Nova vrsta razmišljanja pomoći će u rješavanju problema s kojima se ljudski um ne može nositi. Neka od najtežih pitanja u poslovanju i nauci zahtijevaju rješenje u dva koraka. Prvi korak je izmišljanje novog načina prirodnog razmišljanja. Drugi je da počnete tražiti odgovore zajedno sa AI.

Ljudi će početi smatrati AI pametnijim od sebe ako uz njegovu pomoć može riješiti dosad nerješive probleme. Zapravo, AI razmišljanje nije bolje od našeg, samo je drugačije. Vjerujem da je glavna prednost vještačke inteligencije to što je sposobna da razmišlja kao autsajder, a ta otuđenost je njena glavna prednost.

Štaviše, stvorićemo složene AI "zajednice" sa različitim načinom razmišljanja. Oni će biti toliko složeni da će moći riješiti probleme s kojima se mi ne možemo nositi. Stoga će neki ljudi pogrešno misliti da su AI kompleksi pametniji od ljudi. Ali ne vjerujemo da je Google pretraživač pametniji od čovjeka, iako je njegovo pamćenje bolje od našeg.

Vjerovatno će nas ovi kompleksi umjetne inteligencije nadmašiti u mnogim područjima, ali nijedan od njih neće nadmašiti ljude posvuda odjednom. Slična situacija je i sa našom fizičkom snagom. Dvjesto godina nakon industrijske revolucije, nijedna mašina nije nadmašila prosječnog čovjeka u svakom pogledu, iako mašine kao klasa znatno nadmašuju ljude u brzini trčanja, dizanju utega, preciznosti rezanja i drugim aktivnostima.

Uprkos složenosti strukture veštačke inteligencije, nemoguće ju je izmeriti metodama moderne nauke. Nemamo alate da kažemo šta je teže, krastavac ili Boeing 747, i nemamo način da izmerimo razlike u njihovoj složenosti. Zato još uvijek nemamo precizne kriterije za intelektualne sposobnosti.

Vremenom će biti sve teže odrediti šta je teže, a samim tim i pametnije: inteligencija A ili inteligencija B. Mnogo je neistraženih područja mentalne aktivnosti, a to nas uglavnom sprečava da shvatimo da um nije jednodimenzionalni.

Druga zabluda o ljudskom umu je da vjerujemo da je naš um univerzalan. Ovo široko rasprostranjeno uvjerenje oblikuje put kojim idemo prema vještačkoj općoj inteligenciji (AGI), koju su nekada promovirali stručnjaci za umjetnu inteligenciju.

Međutim, ako razmišljamo o umu kao o ogromnom prostoru mogućnosti, ne možemo govoriti o stanju opšte svrhe. Ljudski um ne zauzima neko apstraktno centralno mesto, a druge specijalizovane vrste uma se ne okreću oko njega.

Umjesto toga, ljudska inteligencija je izuzetno specifična vrsta inteligencije koja je evoluirala milionima godina radi opstanka naše vrste na ovoj planeti. Ako bismo željeli svoju inteligenciju smjestiti među sve druge moguće vrste inteligencije, ona bi završila negdje u kutu - kao i sam naš svijet, smješten na rubu ogromne galaksije.

Naravno, možemo zamisliti i ponekad izmisliti neku vrstu razmišljanja koja je po svojim karakteristikama slična švicarskom nožu. Čini se da se nosi sa mnogim zadacima, ali ne s praskom.

Postoji i tehničko pravilo kojem se sve stvari moraju poštivati, bez obzira da li su stvorene namjerno ili su nastale na svijet prirodnim putem: „Nemoguće je optimizirati sva mjerenja. Možete pronaći samo kompromise. Višenamjenska mašina sve u jednom ne može nadmašiti specijalizirane funkcije.”

Svest „uradi sve“ ne može raditi na nivou sa specijalizovanim izvršiocima specifičnih zadataka. Budući da našu svijest smatramo univerzalnim mehanizmom, smatramo da spoznaja ne treba biti zasnovana na kompromisu i da je moguće izmisliti umjetnu inteligenciju koja pokazuje maksimalan stepen efikasnosti u svim vrstama mišljenja.

Međutim, ne vidim dokaze za ovu tvrdnju. Jednostavno još nismo stvorili dovoljno varijeteta svijesti da nam omogući da sagledamo potpunu sliku (za sada radije ne razmatramo svijest životinja kroz prizmu jednog parametra kao poseban tip razmišljanja s promjenjivom amplitudom).

Dio ovog uvjerenja da je naše razmišljanje što je moguće univerzalnije proizlazi iz koncepta univerzalnog računanja. Ova pretpostavka je 1950. nazvana Church-Turingova teza. Navodi da su svi proračuni koji zadovoljavaju određene parametre ekvivalentni.

Dakle, postoji univerzalna baza za sve proračune. Bilo da se proračun vrši u jednoj mašini sa puno brzih mašina, mašini sa manje performansi, ili čak u biološkom mozgu, to je isti logičan proces. To, zauzvrat, znači da možemo simulirati bilo koji računski proces (razmišljanje) sa bilo kojom mašinom koja može izvesti "univerzalne" proračune.

Ovim principom pristalice singularnosti opravdavaju svoja očekivanja da možemo dizajnirati umjetni mozak baziran na silikonu koji može prihvatiti ljudsku svijest, da možemo stvoriti umjetnu inteligenciju koja će razmišljati na isti način kao i osoba, ali mnogo puta efikasnije . Ove nade treba tretirati sa određenom dozom skepticizma, budući da su zasnovane na pogrešnom tumačenju Church-Turingove teze.

Polazna pozicija ove teorije je: "U uslovima neograničene memorije i vremena, svi proračuni su ekvivalentni." Problem je u tome što u stvarnosti nijedan računar nema karakteristike beskonačne memorije ili vremena. Kada radite proračune u stvarnom svijetu, vremenska komponenta je izuzetno važna, do te mjere da je često pitanje života i smrti.

Da, sve vrste mišljenja su jednake, ako izuzmemo vremenski aspekt. Da, moguće je oponašati ljudski misaoni proces u bilo kojoj matrici ako odlučite zanemariti vrijeme ili realna ograničenja slobodnog prostora i memorije.

Međutim, ako u ovu jednačinu uključimo varijablu vremena, morat ćemo značajno promijeniti formulaciju principa: "Dva računarska sistema koja rade na radikalno različitim platformama neće proizvesti ekvivalentne proračune u realnom vremenu."

Ovaj princip se može preformulisati na sljedeći način: „Jedini način da se dobije ekvivalentan način razmišljanja je da se oni provedu na istoj osnovi. Fizički medij na kojem izvodite svoje proračune - posebno kako se stepen njihove složenosti povećava - značajno utiče na način na koji razmišljate u uslovima realnog vremena.

Nastavljajući logički lanac, pretpostavit ću da je jedini način da se stvori tip razmišljanja što je moguće bliži ljudskom izvođenje proračuna koristeći materiju koja što više liči na našu sivu tvar.

To znači da se takođe može pretpostaviti da će glomazna, složena veštačka inteligencija, stvorena na bazi suvog silicijuma, generisati nespretno, složeno i neslično ljudskom tipu razmišljanja. Kada bi bilo moguće stvoriti umjetnu inteligenciju koja radi na vlažnoj tvari koristeći umjetne neurone poput ljudskih, misaoni proces takve AI bi bio mnogo bliži našem.

Prednosti ovakvog “mokrog” sistema proporcionalne su blizini fizičkih medija koji se koriste ljudskim. Stvaranje takve tvari zahtijevalo bi ogromne materijalne troškove kako bi se postigao nivo barem sličan onom koji nam je svojstven po prirodi. I na ovaj način možemo stvoriti novu osobu - samo morate čekati 9 mjeseci.

Takođe, kao što je ranije pomenuto, mi mislimo celim svojim bićem, a ne samo svojom svešću. Savremena nauka ima mnogo podataka o tome kako naš nervni sistem utiče na "racionalni" proces donošenja odluka, predviđa i prilagođava se. Što više razmatramo sistem ljudskog tijela, pažljivije ga možemo naknadno rekreirati. Umjetna inteligencija koja radi na supstanci koja je radikalno drugačija od naše (suhi silicijum umjesto vlažnog ugljika) također će razmišljati drugačije.

Ne mislim da je ova funkcija više "karakteristika, a ne greška". Kao što sam tvrdio u drugom paragrafu ovog članka, razlike u misaonom procesu AI su njegova glavna prednost. Evo još jednog razloga zašto bi bilo pogrešno reći da je "pametniji od ljudskog mozga".

U srcu koncepta nadljudske inteligencije - a posebno teorije o stalnom samopoboljšanju takve AI - leži iskreno vjerovanje u neograničenost inteligencije. Nisam našao nijedan dokaz za ovu tvrdnju.

Opet, pogrešna percepcija inteligencije kao sistema definisanog samo jednom dimenzijom doprinosi širenju ove tvrdnje, ali moramo shvatiti da ona ostaje neutemeljena. Ne postoje beskonačne fizičke dimenzije u svemiru – barem su one još uvijek nepoznate nauci.

Temperatura nije beskonačna - postoje minimalni i maksimalni indikatori hladnoće i topline. Prostor i vrijeme također nisu neograničeni, kao ni brzina. Možda se numerička osa može nazvati beskonačnom, ali svi ostali fizički parametri imaju svoja ograničenja. Naravno, sam um je takođe konačan.

Postavlja se pitanje: gdje su granice inteligencije? Nekada smo vjerovali da je granica negdje daleko, onoliko "iznad" nas koliko smo "iznad" mrava. Ostavljajući po strani neriješen problem jednodimenzionalnosti, kako možemo dokazati da još nismo dostigli granicu? Zašto ne možemo biti kruna kreacije? Ili smo možda skoro došli do granica ljudskih mogućnosti? Zašto vjerujemo da je inteligencija koncept koji se beskrajno razvija?

Bolje je našu inteligenciju smatrati jednom od varijanti ogromnog broja tipova razmišljanja. Iako svaka dimenzija spoznaje i proračuna ima granicu, ako postoje stotine dimenzija, onda postoje bezbrojne vrste inteligencije, ali nijedna od njih nije beskonačna ni u jednoj dimenziji.

Dok stvaramo ili se susrećemo s ovim bezbroj varijacija na temu svijesti, možemo ih doživjeti kao izvan naših mogućnosti. U svojoj najnovijoj knjizi, Neizbježno, skicirao sam listu nekih od ovih varijanti koje su na ovaj ili onaj način inferiorne u odnosu na nas. Evo dijela te liste:

Um, što je moguće bliži ljudskom, ali sa većom stopom reakcije (najjednostavnija vještačka inteligencija);

Veoma spor um, čije su glavne komponente dovoljno prostora za skladištenje i memorija;

Univerzalna inteligencija, koja se sastoji od miliona individualnih svesti koje deluju unisono;

Um košnice sastavljen od velikog broja izuzetno produktivnih inteligencija, nesvjesnih da su jedno;

Borg superum (rasa kiborga sa kolektivnim umom, koja pokušava da asimiluje sva živa bića iz serije Zvjezdanih staza u svoj kolektiv - cca. Novo šta) - skup visokofunkcionalnih intelekta, jasno svjesnih da su jedna cjelina;

Um dizajniran da razvije ličnu svest nosioca, ali neupotrebljiv za bilo koga drugog;

Razum, sposoban da zamisli složeniji um, ali nije u stanju da ga stvori;

Razum u stanju jednog dana uspješno stvoriti složeniji um;

Razum sposoban da stvori složeniji um, koji zauzvrat može stvoriti još složeniji um, itd.;

Reason, koji ima brz pristup svom izvornom kodu (može promijeniti karakteristike svog funkcionisanja u bilo kojem trenutku);

Super-logičan um, lišen sposobnosti doživljavanja emocija;

Standardni um, usmjeren na rješavanje problema, ali nesposoban za introspekciju;

Um sposoban za introspekciju, ali nije u stanju da riješi zadatke koji su mu dodijeljeni;

Um čije formiranje traje dugo, potreban mu je um čuvar;

Izuzetno spor um raspršen po ogromnom fizičkom prostoru koji se čini "nevidljivim" oblicima svesti koji brže reaguju;

Um koji može brzo i više puta reproducirati kopije sebe;

Um sposoban da reprodukuje svoje kopije i ostane jedno s njima;

Um sposoban da postigne besmrtnost prelazeći od domaćina do domaćina;

Brz, dinamičan um, sposoban da promeni proces i prirodu mišljenja;

Nano-um, najmanja nezavisna jedinica (u smislu veličine i oslobođene energije) sposobna za introspekciju;

Um specijalizovan za pisanje scenarija i predviđanje;

Um koji nikada ništa ne zaboravlja, uključujući pogrešne informacije;

Pola mašina, pola životinja;

Pola mašina, pola androgeni kiborg;

Um koji u svom radu koristi kvantitativne analize koje su nama neshvatljive.

Danas neki svaki od navedenih varijeteta mišljenja nazivaju nadljudskim AI, ali u budućnosti će nas raznolikost i otuđenost ovih oblika inteligencije primorati da se okrenemo novim rječnicima i detaljno proučimo temu razmišljanja i inteligencije.

Osim toga, pristalice ideje o nadljudskoj AI pretpostavljaju da će nivo njegovih mentalnih sposobnosti eksponencijalno rasti (iako još uvijek nemaju sistem za procjenu ovog nivoa). Možda vjeruju da je proces eksponencijalnog razvoja već u toku.

U svakom slučaju, danas nema dokaza o takvom rastu, ma kako ga mjerili. U suprotnom, to bi značilo da se mentalne sposobnosti AI udvostruče tokom određenog vremenskog perioda.

Gdje je potvrda za to? Jedina stvar koja trenutno eksponencijalno raste je ulaganje u industriju umjetne inteligencije. Ali povrat ovih ulaganja ne može se opisati Murovim zakonom. AI ne postaje duplo pametniji za tri, pa čak ni za deset godina.

Pitao sam mnoge stručnjake za umjetnu inteligenciju, ali svi su se složili da nemamo kriterije za razumnost. Kada sam pitao Raya Kurzweila, pravog čarobnjaka eksponenta, gdje pronaći dokaze o eksponencijalnom razvoju AI, napisao mi je da razvoj AI nije eksplozivan, već postepen proces.

“Dodavanje novog nivoa u hijerarhiju zahtijeva i eksponencijalno povećanje računske snage i povećanje složenosti algoritma... Dakle, treba očekivati ​​linearno povećanje broja uslovnih nivoa, budući da svaki od njih zahtijeva eksponencijalno povećanje sopstvenih sposobnosti. Ne preostaje nam mnogo nivoa težine da dostignemo AI sposobnosti neokorteksa (glavnog dijela ljudskog korteksa, koji je odgovoran za više nervne funkcije - cca. Newo than), tako da još uvijek vjerujem da su moje pretpostavke o 2029. tačne.”

Ray kao da kaže da moć umjetne inteligencije ne raste eksponencijalno, već napori da se ona stvori, dok se njihov rezultat svaki put povećava samo za jedan korak. Ovo je gotovo suprotno hipotezi o eksploziji inteligencije. Ovo se može promijeniti u budućnosti, ali AI danas očigledno ne raste eksponencijalno.

Dakle, kada zamišljamo „bum AI“, ne bismo ga trebali zamisliti kao lavinu, već kao rascjep na mnoge nove varijante. Rezultat tehnološkog napretka najvjerovatnije neće biti nadčovjek, već nadčovjek. Izvan našeg znanja, ali ne nužno "iznad" toga.

Još jedan mit o ropstvu superinteligencije, koji se uzima zdravo za gotovo, ali jedva potkrijepljen dokazima, je da skoro beskonačna inteligencija može brzo riješiti sve naše probleme.

Mnogi zagovornici munjevitog AI očekuju da će to izazvati bum u toku. Vjerovanje u ovo nazivam "mislim", termin je preveo Vjačeslav Golovanov - cca. Novo šta). Ovaj pristup se zasniva na uvjerenju da napredak koči samo nedovoljan nivo razmišljanja ili inteligencije. (Takođe napominjem da je vjerovanje u AI kao lijek za sve bolesti karakteristično za većinu ljudi koji vole da misle svojom glavom.)

Razmotrimo pitanje kako pobijediti rak ili produžiti život. To su problemi koji se ne mogu riješiti samo razmišljanjem. Nikakvo razmišljanje ne može otkriti kako ćelije stare ili kako se telomeri skraćuju. Nijedna inteligencija, ma koliko bila kul, ne može razumjeti kako funkcionira ljudsko tijelo jednostavnim čitanjem sve poznate naučne literature na svijetu i njenom analizom.

Super-AI ne može samo razmišljati o svim trenutnim i prošlim eksperimentima nuklearne fisije i smisliti recept za nuklearnu fuziju dan kasnije. Da biste od nerazumijevanja prešli na razumijevanje bilo koje teme, potrebno vam je nešto više od razmišljanja.

U stvarnosti, postoji mnogo eksperimenata, od kojih svaki daje gomilu oprečnih podataka i zahtijeva daljnje eksperimente kako bi se formirala ispravna radna hipoteza. Samo razmišljanje o mogućim ishodima neće proizvesti ispravan rezultat.

Razmišljanje (inteligencija) je samo dio oruđa nauke. Najvjerovatnije samo mali dio. Na primjer, jednostavno nemamo dovoljno podataka da bismo se približili rješavanju problema smrti. U slučaju rada sa živim organizmima, za većinu ovih eksperimenata je potrebno vrijeme. Spori metabolizam ćelija ne može se ubrzati. Za postizanje rezultata potrebne su godine, mjeseci ili barem dani.

Ako želimo da znamo šta se dešava sa subatomskim česticama, nije dovoljno samo razmišljati o njima. Moramo da napravimo veoma velike, veoma složene, veoma sofisticirane fizičke modele da bismo saznali. Čak i ako najpametniji fizičari postanu hiljadu puta pametniji nego što su sada, neće naučiti ništa novo bez sudarača.

Nema sumnje da super-AI može ubrzati razvoj nauke. Možemo kreirati kompjuterske modele atoma ili ćelija, možemo ih ubrzati na mnogo načina, ali postoje problemi koji sprečavaju simulacije da ostvare trenutni napredak.

Vrijedi zapamtiti da se simulacije i modeli mogu istraživati ​​brže od svojih subjekata samo zato što odbacuju određene varijable. Ovo je sama suština modeliranja. Također je važno napomenuti da je potrebno dosta vremena za testiranje, proučavanje i validaciju takvih modela tako da odgovaraju nivou njihovih subjekata. Testiranje iskustvom se ne može ubrzati.

Pojednostavljene verzije u simulaciji korisne su za pronalaženje najperspektivnijih načina za ubrzanje napretka. Ali u stvarnosti nema ništa suvišno, sve je donekle bitno - ovo je jedna velika definicija stvarnosti. Kako modeli i simulacije postaju sve detaljniji, istraživači se suočavaju s činjenicom da stvarnost teče brže od svoje 100% simulacije.

Evo još jedne definicije stvarnosti: najbrža funkcionalna verzija svih mogućih detalja i stupnjeva slobode. Kada biste mogli simulirati sve molekule u ćeliji i sve ćelije u ljudskom tijelu, ovaj model ne bi radio tako brzo kao ljudsko tijelo. Koliko god promišljeno dizajnirali takav model, i dalje ćete morati provoditi vrijeme eksperimentirajući, bilo da se radi o stvarnom sistemu ili simulaciji.

Da bi bila korisna, umjetna inteligencija mora biti uvedena u svijet, a u ovom svijetu potreban tempo inovacija se mijenja prilično brzo. Bez prvih eksperimenata, prototipova, grešaka i upletenosti u stvarnost, intelekt može razmišljati, ali neće dati rezultate. On neće napraviti nikakva trenutna otkrića ni u sekundi, ni za sat, ni za godinu dana nakon što ga nazovu "pametnijim od čovjeka".

Pojavljuje se AI. Naravno, stopa otkrivanja će se ubrzati kako ovaj AI bude složeniji, dijelom zbog toga što će vanzemaljska umjetna inteligencija postavljati pitanja koja nijedan čovjek ne bi postavio, ali čak i vrlo moćna (u usporedbi s nama) inteligencija ne garantuje trenutni napredak. Za rješavanje problema potrebno je mnogo više od same inteligencije.

Problemi raka i dugovječnosti nisu jedini koje inteligencija sama ne može riješiti. Među pristašama ideje tehnološke singularnosti postoji uobičajena zabluda: ako stvorimo AI koji je pametniji od ljudi, onda će odjednom početi da se razvija i stvara još pametniji AI.

Nova vještačka inteligencija će dublje razmišljati i izmisliti nešto još pametnije, i tako sve dok se ne izmisli nešto bogolik. Nema dokaza da je samo razmišljanje dovoljno za stvaranje novih nivoa inteligencije. Ovakvo razmišljanje je zasnovano na vjeri.

Međutim, postoji mnogo dokaza da pronalazak nove efikasne inteligencije zahteva ne samo mentalne napore, već i eksperimente, podatke, teška pitanja, pokušaje i greške.

Razumijem da možda griješim. Dok smo u ranoj fazi. Možda ćemo otkriti univerzalnu skalu inteligencije ili njenu beskonačnost u svakom smislu. Postoji mogućnost tehnološke singularnosti, jer znamo vrlo malo o tome šta su inteligencija i samosvijest. Po mom mišljenju, sve ukazuje na to da je to malo vjerovatno, ali ipak postoji šansa.

Međutim, podržavam šire ciljeve OpenAI: moramo razviti prijateljsku umjetnu inteligenciju i smisliti kako joj dati vrijednosti koje se same repliciraju i odgovaraju našim.

Postoji mogućnost da bi nadljudska AI mogla biti štetna na duge staze, ali ova ideja je zasnovana na nepotpunim dokazima i ne treba je uzimati ozbiljno kada je u pitanju nauka, politika ili napredak.

Udar asteroida na Zemlju mogao bi nas uništiti, postoji mogućnost takvog ishoda (to potvrđuje Fondacija B612), ali takav ishod ne treba razmatrati u pitanjima globalnog zagrijavanja, putovanja u svemir ili planiranja grada.

Dostupni dokazi ukazuju da najvjerovatnije AI neće biti nadljudski. On će imati nove varijante mišljenja koje su čovjeku nedostupne, ali bez sveobuhvatne primjene neće postati bog koji će u trenu riješiti naše glavne probleme.

Umjesto toga, postaće akumulacija intelekta sa ograničenim mogućnostima, biće bolje od nas raditi na nama nenaviklim područjima, zajedno s nama moći će pronaći rješenja kako za postojeće tako i za nove probleme.

Razumijem koliko je privlačna ideja nadljudske i božanske AI. On bi mogao biti sljedeći Superman. Ali, kao i Superman, ovo je izmišljeni lik. Negdje u svemiru, Superman bi mogao postojati, ali je malo vjerovatno. Kako god bilo, mitovi mogu biti korisni i, jednom stvoreni, ne nestaju.

Ideja o Supermenu će živeti zauvek. Ideja o nadljudskoj AI i Singularnosti se sada pojavljuje i nikada neće biti zaboravljena. Moramo shvatiti kakva je to ideja: religiozna ili naučna. Ako istražujemo pitanje inteligencije, umjetne ili prirodne, moramo jasno razumjeti da naš koncept nadljudske umjetne inteligencije nije ništa drugo do mit.

Plemena izolovanih ostrva Mikronezije prvi put su stupila u kontakt sa spoljnim svetom tokom Drugog svetskog rata. Bogovi su doletjeli iz dalekih zemalja, spustili se s neba na bučne ptice, donijeli darove i odletjeli zauvijek. Kultovi povratka ovih bogova i novih darova proširili su se po otocima. Čak i sada, 50 godina kasnije, mnogi još uvijek čekaju svoj povratak.

Nadljudska umjetna inteligencija mogla bi postati novi cargo kult za nas. Možda će za sto godina ljudi doživljavati naše vrijeme na isti način: kao da vjerujemo u nadljudsku umjetnu inteligenciju i čekamo decenijama da se pojavi svakog trenutka i donese nam nezamislive darove.

Međutim, ne-nadljudska AI već postoji. Nastavljamo da tražimo novu definiciju za to, da ga zakomplikujemo. Međutim, u širem smislu, nama stran um je spektar intelektualnih sposobnosti, mišljenja, mehanizama zaključivanja, učenja, samosvijesti. AI se širi i nastavit će se širiti. Postaje dublje, raznovrsnije, moćnije.

Prije AI, nijedan izum nije mogao u potpunosti promijeniti svijet. Do kraja 21. vijeka, umjetna inteligencija će biti toliko moćna da će promijeniti sve u našim životima.

Kako god bilo, mit o nadljudskom AI koji će nam dati super-bogatstvo ili super-ropstvo (ili oboje) će živjeti. Međutim, to će ostati mit, za koji je malo vjerovatno da će se utjeloviti u stvarnosti.