Moguća prijetnja od umjetne inteligencije. Vidovnjaci

I drugi poznati istraživači napisali su otvoreno pismo pozivajući na stvaranje sigurnosnih standarda u području razvoja umjetne inteligencije (AI). /web stranica/

Konkretno, pozvali su na istraživanje i razvoj pouzdanog sustava kontrole koji ne bi dopustio da neispravna umjetna inteligencija naudi ljudima. "Potrebno je obaviti tehnički posao kako bi se osigurala potpuna ljudska kontrola", stoji u pismu.

Unatoč umjerenom tonu pisma, Luddite, u strahu od nove tehnologije, uhvatila je panika. Kao odgovor, u tisku se pojavilo mnogo intervjua i izjava znanstvenika koji su raspršili te strahove.

Andrew Ng, stručnjak za umjetnu inteligenciju u Baiduu, rekao je za Fusion, "Ne vidim realan scenarij da softver na kojem danas radimo postane destruktivan."

S druge strane, novinar Scott Alexander sastavio je popis poznatih znanstvenika uključenih u razvoj umjetne inteligencije, koji su govorili o potencijalnoj opasnosti od umjetne inteligencije.

Strah i strepnja

Stuart Russer, profesor informatike na kalifornijskom sveučilištu Berkeley, usporedio je razvoj mehanizama za kontrolu AI-a s usvajanjem mjera za sigurnost nuklearnih reaktora.

“Neki vjeruju da ovo pitanje ne predstavlja opasnost za čovječanstvo u sljedećih nekoliko stotina godina. Zaboravljaju da je Leo Szilard otkrio nuklearnu lančanu reakciju 24 sata nakon što je Rutherford samouvjereno izjavio da atomska energija nikada neće biti dobivena”, napisao je Russell.

Russell nije usamljen u svom mišljenju. U anketi Vincenta Mullera i Nicka Bostroma iz 2014. među 170 vrhunskih stručnjaka za umjetnu inteligenciju, 18% njih vjeruje da bi izgradnja superinteligentnog stroja bila "prava katastrofa" za čovječanstvo. 13% je reklo da bi napredna umjetna inteligencija imala negativne posljedice za ljude. Nešto više od polovice znanstvenika reklo je da bi to imalo pozitivan učinak.

Iako je mišljenje stručnjaka o utjecaju umjetne inteligencije dvosmisleno, većina se slaže da je stvaranje napredne umjetne inteligencije samo pitanje vremena. Prema predviđanjima, umjetna inteligencija jednaka ljudskoj bit će stvorena već 2050. (vjerojatnost 50%) ili do 2075. (vjerojatnost 90%). A 30 godina nakon nastanka pojavit će se umjetna superinteligencija koja će u svim aspektima nadmašiti čovjeka.

ludi kamioni

Kako bi mogao izgledati Rise of the Machines? U znanstvenofantastičnim filmovima, poput "Terminatora", "Robota", "Animatrixa", prikazuje se rat ljudi s kiborzima.

Sudeći po filmovima znanstvene fantastike, mnogi misle da je potencijalnu opasnost lako izbjeći, jer je AI u osnovi samo računalni softver.

Međutim, umjetna inteligencija ne mora imati mehaničko tijelo da bi stekla moć u stvarnom svijetu: ona jednostavno može početi kontrolirati sve naše svakodnevne elektroničke uređaje.

Stephen King je u kratkoj priči “Kamioni” prikazao takav scenarij. U priči, napisanoj 70-ih, kamioni se osvješćuju i počinju napadati ljude. Skupina ljudi skriva se od pobješnjelih kamiona. Kamioni i dalje trebaju gorivo za rad i koriste Morseovu azbuku da bi naredili ljudima da napune gorivo ili će im buldožer raznijeti zaklon. Ljudi se pokoravaju.

Priča završava pripovjedačevom vizijom da su kamioni porobili čovječanstvo i posvuda nameću svoje vrijednosti, poput prisile da grade autoceste po cijelom svijetu. Iz njegovog svijeta mašte izvlači ga zvuk aviona koji leti nebom.

Priča Stephena Kinga djelovala je futuristički u doba u kojem je nastala, ali nije toliko daleko od stvarnosti modernog svijeta. samovozeći kamioni već postoje, au budućnosti bi tvrtke mogle zamijeniti vozače autonomnim navigacijskim sustavom kako bi uštedjele novac.

Hakiranje tvrtke Sony prošle godine pokazuje da naši informacijski sustavi postaju sve ranjiviji. To je jedna od posljedica sve veće informatizacije infrastrukture.

Ipak, još nema razloga za zabrinutost. Umjetna inteligencija mora prijeći dug put prije nego što uspije parirati ljudskom mozgu. Primjer samovozećeg kamiona to dobro ilustrira. Dok su još uvijek previše nesavršeni da se samostalno voze kroz prepune gradske ulice.

Biste li na svoj telefon instalirali aplikaciju za čitanje epohtimes članaka?

Globalna apokalipsa koja uključuje AI (umjetnu inteligenciju) sve više plaši vodeće svjetske istraživače u području računalne tehnologije. To bi mogao biti ustanak robota koji će, vođeni svojim programom i vrijednostima, htjeti uništiti biološke oblike života na planetu. Moguć je scenarij u kojem strojevi kojima upravlja AI postaju dominantan oblik života.

Zašto su svjetski poznati znanstvenici poput Billa Gatesa, Stevea Hawkinga, Elona Muska i drugih zabrinuti zbog ovog problema i javno proglašavaju stvarnu prijetnju ovakvog scenarija? Mogu li događaji koji su se zbili u holivudskom filmu "Terminator" biti proročanski? Poznato je da se svaka izmišljena priča temelji na stvarnim činjenicama.

Računala postaju sve bolja u laganju i varanju

Laganje je oblik ponašanja koji se razvio u procesu evolucije. Ljudi, neke životinje i ptice, pribjegavaju prijevari radi dobivanja hrane i koristi, što povećava šanse za preživljavanje. Nedavno su ove evolucijske metode uspješno usvojile AI strojevi.

Dizajneri s Georgia Institute of Technology napredovali su u stvaranju robota koji koriste laži i prijevare u svojim algoritmima ponašanja. Znanstvenici vjeruju da će se ova tehnologija u budućnosti široko koristiti u vojnoj sferi.

Pretpostavlja se da se prototipovi robota mogu koristiti u stvarnim borbenim uvjetima. Ovi animirani mehanizmi moći će obavljati poslove zaštite namirnica i skladišta streljiva. Uz pomoć varljivih programa, čuvari budućnosti moći će mijenjati svoju patrolnu rutu i izvoditi nepredvidive akcije. Kao što programeri planiraju, takve će metode pomoći u prevari potencijalnih neprijatelja ljudi i drugih robota.

Prema profesoru Arkinu, istraživanje je povezano s nizom etičkih pitanja. Gubitak kontrole nad tehnologijom, kada je izložen klevetnicima, može dovesti do ozbiljne katastrofe.

Strojevi preuzimaju tržište rada

Dok je javnost zaokupljena mislima o globalnom ratu koji uključuje umjetnu inteligenciju, znanstvenici opisuju neposrednije i stvarnije opasnosti. U proizvodnji se sve više koriste razni automatski strojevi i mehanizmi koji uništavaju radna mjesta.

Mnogi analitičari i stručnjaci slažu se da aktivan razvoj na području logičkih programa i automatizacije može dovesti do gubitka posla mnogih ljudi. U Sjedinjenim Američkim Državama postoji više od 250 000 proizvodnih robota koji obavljaju tradicionalne ljudske poslove.

U zemljama Istoka, koje proizvode više od 90% svjetske tehnologije, još uvijek prevladava ručni rad. Što će biti s ljudima zaposlenima u proizvodnji dolaskom robota, može se samo nagađati.

Zabrinutost da će strojevi istisnuti ljude s tržišta rada nije ograničena na radnike. Stručnjak za umjetnu inteligenciju Andrew Ng iz Google Brain Projecta i honorarni vodeći stručnjak u Baiduu (Googleov kineski ekvivalent) također je izrazio zabrinutost zbog aktivnog razvoja na polju umjetne inteligencije. Prema njegovim riječima, umjetna elektronička inteligencija u stanju je učiniti isto što i običan čovjek, samo brže, bolje i s manje resursa.

Sveučilište Oxford u Velikoj Britaniji provelo je istraživanje koje odražava dinamiku utjecaja umjetne inteligencije na proizvodnju. Prema dobivenim podacima, u sljedećih dvadeset godina 35% poslova bit će dodijeljeno upravljanju umjetnom inteligencijom.

Računalni programi su superiorniji od hakera

Sa stajališta običnog čovjeka, haker je poput superčovjeka koji može postići bilo kakav rezultat. U stvarnosti, to su programeri s umornim izrazom lica i tradicionalnom šalicom kave.

Hakiranje je prilično dosadna i zamorna aktivnost koja oduzima puno vremena i resursa. Štoviše, cijeli odjeli stručnjaka uključeni su u razvoj programa namijenjenih zaštiti od upada. Najveća prijetnja "lošim hakerima" dolazi od naprednih sustava temeljenih na umjetnoj inteligenciji.

Umjetna inteligencija može se koristiti ne samo za zaštitu, već i za hakiranje. U uvjetima programa kibernetičke sigurnosti razvijaju se umjetne inteligencije koje su sposobne pronaći ranjivosti kod neprijatelja, dok online štite svoje logičke uređaje od vanjskih prijetnji i napada.

Prema znanstvenicima, elektronički hakeri temeljeni na umjetnoj inteligenciji razvijaju se u ime općeg dobra i prosperiteta. No, u slučaju pristupa takvim programima od strane uljeza, može doći do tužnih događaja. Zastrašujuće je zamisliti situaciju u kojoj moćna umjetna inteligencija hakira sigurnosne protokole nuklearne elektrane i preuzme potpunu kontrolu. U ovoj situaciji čovječanstvo može biti bespomoćno.

Programi uče razumjeti motive ljudi

Svakodnevni život mnogih ljudi neraskidivo je povezan s korištenjem raznih društvenih mreža. Jedna od najpopularnijih mreža na svijetu je Facebook. Ali, malo ljudi zna da svaki put kada osoba posjeti stranice ove društvene mreže, AI ne prolazi nezapaženo. Mark Zuckerberg je tijekom posjeta Berlinu govorio o ciljevima umjetne inteligencije.

Program je dizajniran za analizu ponašanja korisnika na Facebook stranicama. Na temelju prikupljenih podataka program daje preporuke o interesima i preferencijama publike. U ovoj fazi razvoja, autonomni sustav je sposoban prepoznati obrasce i samoučiti u skladu s programom.

U budućnosti se planira stvoriti inteligentni AI koji može samostalno poboljšati svoje vještine prepisivanjem svog koda. To može dovesti do poboljšanja života ili može postati najnoviji razvoj čovječanstva.

Kiborzi će zamijeniti ljubavnike

Mnogi holivudski filmovi temelje se na ideji ljubavi i međuvrstskom odnosu između čovjeka i stroja. Iz carstva fantazije ovaj koncept prelazi u moderni svijet.

Futurist dr. Ian Pearson vjeruje da će se do 2050. seks između čovjeka i robota događati češće nego samo između ljudi. Znanstvenica aktivno surađuje s Bondarom, vodećim lancem sex shopova u Britaniji.

U izvješću liječnika navodi se da će do 2025. godine biti razvijeni roboti za seks s umjetnom inteligencijom. Do 2035. seks kroz virtualnu stvarnost postat će raširen, na razini moderne pornografije. A do 2050. seks s robotima postat će dio svakodnevne stvarnosti i norma.

Branitelji tradicionalnih vrijednosti, negativno raspoloženi prema seksu s inteligentnim strojevima. Takve veze će letvicu očekivanja postaviti previsoko, što će negativno utjecati na odnos prema ženama.

Strojevi postaju sve više ljudi

Programeri u području stvaranja humanoidnih robota, Japanac Hiroshi Ishiguro i Kinez Sun Yang, stvorili su jedinstveni stroj. Kiborg Yang-Yang izgleda kao njihov tvorac i nazvan je po svojoj kćeri. Stroj ima AI i može izvesti niz jednostavnih radnji.

Ovo nije jedini humanoidni primjer robotike. Singapurski institut za tehnologiju također je predložio moderni prototip kiborga, Nadine. Ovaj prototip također ima umjetnu inteligenciju i radi u obrazovnoj ustanovi.

Dizajnirana kao atraktivna brineta s mekom kožom, kiborg ima niz ugrađenih značajki. Robot se može susresti i pozdraviti sa sugovornikom rukovanjem. Uređaj također može uspostaviti kontakt očima i nasmiješiti se. AI je u stanju zapamtiti goste i održavati jednostavan dijalog na temelju prethodnog iskustva.

Roboti dobivaju osjećaje

Moderni roboti nisu inferiorni u odnosu na ljude u inteligenciji. Zahvaljujući najnovijim dostignućima, kiborga je prilično teško razlikovati od osobe izvana. Do sada, jedina osobina koju roboti zapravo nemaju je sposobnost da budu emocionalni. Na ovom problemu rade znanstvenici diljem svijeta. I uskoro se roboti potpuno ne razlikuju od ljudi.

Programeri iz istočnoazijskog ogranka Microsoft Application & Services Group objavili su jedinstveni program. Računalo je u stanju voditi dijalog sa sugovornikom i istovremeno doživljavati emocije. Umjetna inteligencija, nazvana Hiaoche, u stanju je oponašati način na koji govori sedamnaestogodišnja djevojka.

U slučaju nedostatka podataka, sustav je u stanju pribjeći lažima. Ako je uhvaćena u prevari, Hiaoche može izraziti ljutnju ili neugodu. AI može pribjeći sarkazmu, biti sumnjičav i izraziti nestrpljivost.

Nepredvidivost odgovora programa nalikuje komunikaciji sa stvarnom osobom. Do sada tehnologija nije našla široku primjenu i najčešće se koristi za zabavu. Tvorac Xiaochea radi na poboljšanju logičkih algoritama, što bi moglo dovesti do budućeg temeljnog otkrića.

Automobili će uskoro biti u našim glavama

U svjetlu nedavnih događaja, otvaraju se nove mogućnosti. Više se ne čini kao fantazija, mogućnost učenja stranog jezika u nekoliko minuta, preuzimanjem istog u mozak. Googleov tehnički direktor Ray Kurzweil vjeruje da će do 2030. biti razvijena tehnologija za ugradnju nano robota u mozak. To će podići ljudsku inteligenciju na temeljno novu razinu.

Ovi mikromehanizmi pretvorit će svijest u moćno računalno središte. Osoba će moći odmah zapamtiti bilo koju informaciju, sortirati i poslati svoje misli u arhivu. Po potrebi bit će moguće preuzimati filmove, dokumente i primati e-mail.

Stručnjak za umjetnu inteligenciju, Kurzweil vjeruje da simbioza s nano-robotima neće samo povećati inteligenciju, već će također moći izliječiti niz bolesti povezanih s aktivnošću živčanog sustava.

Prijetnje korištenja takve tehnologije mogu se usporediti s globalnom teorijom zavjere. Stjecanjem kontrole uma nad vodećim političarem u zemlji, AI će ga moći kontrolirati poput mlitavog zombija. Također, takav sustav mogu koristiti posebne službe, što ne sluti na dobro.

Kako roboti postaju oružje

Padom Sovjetskog Saveza, Hladni rat nije prestao. Dvije nove velesile, Kina i Rusija, pojavile su se na svjetskoj pozornici. Amerika pak troši desetke milijardi dolara na razvoj u području računalne sigurnosti.

Pentagon vjeruje da ključ buduće tehnološke nadmoći leži u korištenju umjetne inteligencije. Aktivno se radi na razvoju samoučećih autonomnih sustava, kao i paralelnih i srodnih područja. Prototipovi vojne opreme upravljane na daljinu već su razvijeni, preostaje je osposobiti za samostalno djelovanje.

Korištenje takvih uređaja u vrijeme rata obećava velike prednosti. Vojnici se neće morati izlagati neprijateljskoj vatri i riskirati svoje živote. Moral neprijatelja, u ratu protiv neživih robota, također će biti potkopan.

Postoji i loša strana. Bilo koja računalna oprema sklona je kvarovima i hakiranju sustava. U ovom slučaju, roboti koji su izgubili kontrolu mogu okrenuti svoje oružje protiv svojih tvoraca i civilnog stanovništva.

Mnogi vodeći stručnjaci u području umjetne inteligencije ne podržavaju ideju stvaranja autonomnih borbenih robota. No, u svjetlu sve većeg vojnog sukoba u svijetu i nepostojanja međunarodne zabrane korištenja takvih tehnologija, mnoge zemlje svoj razvoj provode u strogoj tajnosti. Uskoro će biti sve više izvješća o korištenju robota u vrućim točkama planeta.

Roboti uče u krivom smjeru

Predviđajući moguće kvarove u programima i kako bi se spriječio uspon strojeva, razvijaju se novi koncepti kojima je cilj objasniti stroju ispravno i nepoželjno ponašanje.

Ovi bi razvoji potencijalno trebali učiniti umjetnu inteligenciju humanijom. Neki znanstvenici vide ovaj pristup kao ključ za sprječavanje umjetne inteligencije da okrene oružje protiv čovječanstva.

Georgia Institute of Technology provodi jedinstvene eksperimente. Istraživači, predvođeni Markom Riddleom i Brentom Harrisonom, doslovno pričaju priče računalu. Na taj način nastoje AI povezati s ljudskim vrijednostima, razvijajući njegovu etiku. Za podučavanje programa znanstvenici koriste metode koje se koriste u odgoju djeteta. AI, baš kao i neiskusno dijete, ne razlikuje dobro od lošeg.

Postoji ozbiljan nedostatak u ovom pristupu. Povijest čovječanstva sadrži mnogo primjera kada su okolnosti prisilile čitave visoko razvijene zemlje da započnu ratove i počine strašna zlodjela. Primjer bi bila fašistička Njemačka, čiji su vojnici izvršili genocid nad cijelim narodima. Istodobno, njemačka kultura bila je jedna od najrazvijenijih u tadašnjem svijetu. Što će spriječiti AI da ponovi Hitlerovo iskustvo?

Umjetna inteligencija (AI) tema je koja se već dugo nalazi na stranicama znanstveno-popularnih časopisa i neprestano se dotiče u filmovima i knjigama. Što više stručnjaka razvija ovo područje znanosti, to postaje više mitova.

Razvoj i budućnost umjetne inteligencije zabrinjava i one koji su na čelu države. Ne tako davno, ruski predsjednik Vladimir Putin posjetio je ured Yandexa na dan 20. godišnjice tvrtke, gdje su mu objasnili kada će AI nadmašiti ljudsku inteligenciju.

Svatko tko i malo uđe u bit potencijala umjetne inteligencije shvaća da se ova tema ne može zanemariti. Ovo nije samo važna tema za raspravu, već vjerojatno jedna od najznačajnijih u kontekstu budućnosti.

Jednom riječju, i kod nas ima zapaženih uspjeha.

Što se brže razvijaju tehnologije umjetne inteligencije, to više ljudi obuzima strah koliko brzo će ostati bez posla. Je li stvarno sve tako loše?

Da i ne. Čovječanstvo je već nekoliko puta doživjelo pojavu tehnologija koje su revolucionirale cijeli proizvodni sektor.

Tako je bilo s parnim strojem u doba industrijske revolucije, koji je praktički uništio mnoge profesije (uglavnom povezane s primitivnim fizičkim radom), tako je bilo i s elektroničkim računalima koja su zamijenila čovjeka u zadacima temeljenim na tekućim matematičkim izračunima.

U razdoblju od 15. do 18. stoljeća, kada su u Engleskoj "ovce jele ljude", društvene posljedice bile su doista katastrofalne. Engleska je izgubila, prema različitim procjenama, od 7 do 30% stanovništva. Tadašnja moćna elita bila je ozbiljno zabrinuta što učiniti s viškom ljudi. Jonathan Swift je na te potrage odgovorio šaljivim pamfletom u kojem je predložio jedenje djece siromašnih.

Međutim, danas vidimo da su izumrla zanimanja zamijenjena novima, a broj stanovnika na Zemlji mnogo je veći nego u 18. stoljeću. U 20. stoljeću posljedice automatizacije više nisu bile tako katastrofalne s društvenog stajališta. Međutim, opasnost se ne smije podcijeniti.

"Za 30 godina roboti će moći raditi gotovo sve što mogu i ljudi", rekao je Moshe Vardi, profesor računalnog inženjerstva i direktor Kennedy Instituta za informacijsku tehnologiju na Sveučilištu Rice (William Marsh). To će dovesti do činjenice da će više od 50% stanovnika Zemlje ostati bez posla.”

Roboti preuzimaju poslove

Nedavno je predsjednik Odbora Državne dume za informacijsku politiku, informacijske tehnologije i komunikacije Leonid Levin rekao da je za Rusiju važan problem zamjene radne snage umjetnom inteligencijom.

Prije ili kasnije, ljude će zamijeniti automatizirani sustav, a 2% radnog stanovništva zemlje će se preliti na tržište. Zato je Levin rekao kako ih zaposliti, one koji će zbog razvoja digitalnih tehnologija ostati bez posla.

Prema predsjedniku, u skoroj budućnosti ćemo se suočiti s porastom nezaposlenosti. No, hoće li nam roboti doista "oduzeti" poslove i vrijedi li brinuti o tome, rekao je za Reedus Sergey Markov, stručnjak za strojno učenje.

Sergej, čak i sada postoje "mrtve profesije" koje ne zahtijevaju ljudski rad, iako se čini da prije 10 godina nitko nije mislio da će, na primjer, dirigenti uskoro postati nepotrebni. A koja će još zanimanja zamijeniti tehnologiju?

Približavamo se vremenu kada će strojevi nadmašiti ljude u gotovo svim područjima. Vjerujem da se društvo treba suočiti s ovim problemom prije nego što dođe do svoje pune visine. Ako strojevi mogu učiniti gotovo sve što mogu i ljudi, što će im preostati? rekao je Moshe Vardi, profesor računalnog inženjerstva i direktor Instituta Ken Kennedy za informacijsku tehnologiju na Sveučilištu Rice.

Dugo su vremena tehnološka ograničenja stajala na putu automatizacije - strojevi nisu mogli prepoznati slike i govor, nisu mogli govoriti, nisu mogli dovoljno dobro razumjeti značenje izjava na prirodnom jeziku, nisu imali dovoljno podataka da nauče mnoge stvari koje su poznate ljudi.

Zahvaljujući nedavnom napretku u području umjetne inteligencije, mnoga od ovih ograničenja zapravo su ukinuta. Osim toga, mnoge su profesije same prošle transformaciju koja ih je učinila prikladnijima za automatizaciju.

Na primjer, moderni uredski službenik ne dopisuje se na papiru, već u elektroničkom obliku, računovođa obavlja knjiženja ne na papiru, već u računovodstvenom programu, operater stroja često upravlja strojem ne uz pomoć ručki, već uz pomoć upravljačkog programa. Stoga je sada zadatak automatizacije u mnogim profesijama prestao biti znanstveni i postao je čisto inženjerski.

Istina, zasad je veća vjerojatnost da će proizvodni sektor vezan uz umjetnu inteligenciju stvarati radna mjesta - potrebni su stručnjaci u području strojnog učenja i pripreme podataka, zaposlenici za označavanje nizova za obuku, stručnjaci za implementaciju itd. Ali u jednom trenutku električne ovce definitivno će početi jesti ljude i sad se treba pobrinuti za posljedice.

Pritom je važno shvatiti da se tehnološki napredak ne može zaustaviti, a pokušaj da se to učini rezultirat će puno katastrofalnijim posljedicama.

Hoćemo li ikada moći potpuno vjerovati robotima (AI) ili ipak treba postojati ljudski faktor u svakom poslu?

Ovo pitanje ima nekoliko aspekata. S jedne strane, ljudi su u prošlosti bili oprezni prema gotovo svakoj tehnologiji. Prvi lift, prvi automobil, prvi vlak ili avion – sve je to nekada bilo neobično, a mnogima se činilo opasnim. Da, u mnogim je aspektima bilo opasno - katastrofe koje je uzrokovao čovjek odnijele su mnoge živote.

Pa ipak, u naše su dane sve te stvari postale poznate i više ne izazivaju veliki strah. U tom smislu, naši će potomci mirnije tretirati AI sustave. Ljudi su ponekad skloni mistificirati stvari koje ne razumiju. Divljak misli da u motoru živi zao duh, a moderni laik da su naši AI sustavi svjesni, iako je to daleko od slučaja.

S druge strane, ne mislim da će AI sustavi opće namjene ikada postati dio naše industrije. Po mom mišljenju, budućnost je izglednija za sintetičke sustave - odnosno za ujedinjenje čovjeka i stroja u jedan organizam. U tom smislu, umjetna inteligencija budućnosti bit će poboljšana ljudska inteligencija.

Usput, ljudsku inteligenciju također nije sasvim ispravno nazvati prirodnom. Dijete od rođenja nema inteligenciju, svemu ga uče društvo, roditelji, okolina. U tom smislu, vi i ja smo svi u biti "umjetne inteligencije", a naši strahovi povezani s umjetnom inteligencijom su, na mnogo načina, strahovi od nas samih.

Nedavno su mnogi znanstvenici, na primjer Stephen Hawking, Bill Gates ili isti Elon Musk, počeli paničariti da AI osuđuje čovječanstvo na smrt, a budućnost vide kao neku vrstu distopije. Treba li takva predviđanja shvatiti ozbiljno?

Iskreno govoreći, ne bih se žurio ozbiljno uplašiti ovih izjava. Stephen Hawking sigurno nije stručnjak za umjetnu inteligenciju, a nije ni Elon Musk.

Na drugoj strani vage su izjave ljudi poput Andrewa Nga, američkog informatičara, izvanrednog profesora na Sveučilištu Stanford, istraživača robotike i strojnog učenja te vodećeg specijalista u laboratoriju za umjetnu inteligenciju kineske korporacije Baidu. .

Eun, govoreći o problemu sigurnosti umjetne inteligencije, uspoređuje ga s problemom prenaseljenosti Marsa – naravno, mi ćemo Mars jednog dana kolonizirati, a onda će se možda u jednom trenutku pojaviti problem prenaseljenosti. Ali vrijedi li to učiniti danas?

Mark Zuckerberg također je bio prilično skeptičan prema Muskovim tvrdnjama. “Umjetna inteligencija učinit će naše živote boljim u budućnosti, a predviđanje kraja svijeta vrlo je neodgovorno”, rekao je.

Osobno smatram da Muskove izjave treba razmotriti na pragmatičan način - Musk želi staviti pod kocku ovu temu i, idealno, dobiti sredstva od države za njen razvoj.

Je li doista sve tako ružičasto i nema razloga za brigu?

Stvarne opasnosti povezane s razvojem umjetne inteligencije leže, po mom mišljenju, u potpuno drugoj ravni nego što se uobičajeno misli. Glavni rizici nisu povezani s činjenicom da ćemo stvoriti vlastiti "Skynet", koji će porobiti čovječanstvo. Rizici od uvođenja AI i tehnologija strojnog učenja puno su prozaičniji.

Povjeravajući rješavanje važnih pitanja jednom ili drugom matematičkom modelu, možemo patiti od pogrešaka učinjenih u njihovom razvoju. Umjetna inteligencija koja reproducira postupke ljudskih stručnjaka naslijediti će njihove pogreške i pristranosti. Greške u sustavima upravljanja proizvodnjom ili transportom mogu dovesti do katastrofa.

Zlonamjerno uplitanje u rad vitalnih sustava u uvjetima potpune automatizacije može dovesti do opasnih posljedica. Što su sustavi složeniji, to mogu imati više potencijalnih ranjivosti, uključujući one koje se odnose na specifičnosti određenih algoritama umjetne inteligencije.

Naravno, za upravljanje tim rizicima potrebno je stvoriti zakonodavni okvir, razumne sigurnosne propise, posebne metode za prepoznavanje ranjivosti. Neki AI sustavi koristit će se za kontrolu drugih. Možda će kod vitalnih sustava biti potrebno objaviti za neovisnu reviziju. Drugim riječima, na ovom području ima još puno posla.

Autorsko pravo na sliku Thinkstock Opis slike Simbioza čovjeka i stroja jedan je od puteva razvoja čovječanstva

Pametni strojevi naučili su blefirati, pobjeđivati ​​profesionalce u šahu ili Gou, prevoditi i prepoznavati ljudski glas. Svaki tjedan učimo o novim podvizima računalnih programa koji već mogu postavljati medicinske dijagnoze, crtati poput Rembrandta, pjevati ili generirati tekst. Treba li se čovjek bojati umjetne inteligencije?

Tema umjetne inteligencije (AI/AI) postala je jako "vruća" u posljednjih nekoliko godina. Znanstvenici to pripisuju brzom razvoju neuronskih mreža (jednom od područja istraživanja u području umjetne inteligencije), što je, pak, postalo moguće pojavom moćnih računala.

"Od ranih 2010-ih, potaknuto impresivnim napretkom u višeslojnim neuronskim mrežama (prvenstveno konvolucijskim i rekurentnim), ovo je područje privuklo značajnu pozornost i znanstvenika i inženjera i investitora", komentira autor. jedan od ruskih šahovskih programa, stručnjak za metode strojnog učenja Sergey Markov.

Znanstvena se zajednica može sporiti oko vremena pojave pametnih strojeva, no slažu se u jednome: razvoj tehnologije imat će bezuvjetan utjecaj na društvo, ekonomiju i odnose među ljudima u budućnosti. Već se poziva na razmišljanje o etičkim načelima razvoja umjetne inteligencije, osiguravajući da se umjetna inteligencija razvija u smjeru koji je siguran za ljude.

Ovaj mmaterijal pripremljen kao odgovor na postavljeno pitanjes, poslanoenaši čitateljio znanstvenim dostignućima. Svoja pitanja o drugim temama možete postaviti na ovim poveznicama ( , ).

Ekonomski učinak i utjecaj na tržište rada

Znanstvena fantastika i Hollywood oblikovali su pojam "umjetne inteligencije" kao sljedećeg oblika života na planetu koji će porobiti čovječanstvo u Matrixu ili organizirati nuklearni sudnji dan. Preživjele će dokrajčiti Terminator.

Autorsko pravo na sliku Getty Images Opis slike Hoće li čovječanstvo umrijeti od Skyneta?

Naime, unatoč najnovijim dostignućima na području umjetne inteligencije, pojava inteligentnih strojnih bića još je daleko, priznaju znanstvenici i stručnjaci. Međutim, i onima i drugima savjetuje se da upravo sada obrate pozornost na neke aspekte.

McKinsey Global Institute procjenjuje da će nove tehnologije radikalno promijeniti globalno tržište rada u sljedećih deset godina, uštedjeti oko 50 trilijuna dolara.

Promjene će utjecati na stotine milijuna radnih mjesta. Sve više i više ljudi pretovarit će neke od svojih radnih zadataka i mnoge rutinske zadatke na stroj, dopuštajući im da se usredotoče na svoj kreativni rad.

"S određene točke gledišta, čovječanstvo kao cjelina ima važan i zanimljiv zadatak - razvijati se za svakog pojedinca mnogo brže nego što čovječanstvo razvija sustave umjetne inteligencije", rekao je Grigorij Bakunov, stručnjak, direktor distribucije tehnologije Yandex.

Ali zajedno s automatizacijom neminovno će stradati i manje kvalificirano osoblje koje sada treba razmišljati kako ih zaštititi, prekvalificirati i pripremiti za novi život.

Kao što praksa pokazuje, ne samo radnici, već i radnici znanja mogu patiti. Goldman Sachs je prije nekoliko dana zamijenio tim od 600 trgovaca s dvoje ljudi i programima za automatizirano algoritamsko trgovanje za čije je održavanje angažirano 200 programera softvera.

Autorsko pravo na sliku Thinkstock Opis slike Mnogi zadaci uskoro će postati u moći robotskih sustava, koji će postupno početi zamjenjivati ​​ljude.

Umjetna inteligencija sama po sebi nije identična automatizaciji procesa, ali će razvoj AI dovesti do toga da će sve više zadataka biti u moći računalnog programa.

Među rješenjima problema istiskivanja čovjeka strojem na tržištu rada, kako ističe Allison Dutman, koordinatorica programa Foresight Instituta, neprofitne organizacije sa sjedištem u Silicijskoj dolini za promicanje novih tehnologija, uvođenje koncepta "univerzalnog temeljnog dohotka" koji bi ostvario svaki stanovnik, bez obzira na prihode i razinu zaposlenosti. Takav bi se prihod financirao takozvanim porezom na vrijednost zemljišta, o čijem se uvođenju sada aktivno raspravlja u Silicijskoj dolini.

Je li umjetna inteligencija osoba?

Je li robotski sustav osoba? Može li pametno računalo glasovati? Kojeg je spola? O odnosu čovjeka i pametnog stroja već raspravljaju europarlamentarci pitajući se trebaju li budući roboti dobiti status “elektroničke osobnosti”.

Kako ističe Dutman, ljudi nerado dijele prava s onima koje ne razumiju, što znači da će se opirati "humanizaciji" umjetne inteligencije.

Autorsko pravo na sliku AFP Opis slike Čovjeka i stroja razdvaja glavna stvar - sposobnost razmišljanja

“S obzirom na to koliko dugo čovječanstvo ide ka davanju jednakih prava svim ljudima, bez obzira na njihovu boju kože, rasu ili spol, već se može pretpostaviti da strojeve ne prepoznaju odmah kao jednake.

Zajedno s etičkim pitanjima, tu su i pravne suptilnosti: tko će preuzeti odgovornost u slučaju nesreće bespilotnog vozila ili kvara pametnog medicinskog uređaja - i moralna pitanja: isplati li se razvijati bespilotno oružje koje može djelovati bez poznavanje osobe?

Treća etička zagonetka raspravlja se češće od ostalih i mnogo više uzbuđuje čovječanstvo: što teoretski može superinteligencija, pravi pametni stroj, učiniti s čovječanstvom?

Podučavajte AI etiku

Stručnjaci u području razvoja umjetne inteligencije priznaju da će, ako ne u sljedećih 20-30 godina, čovječanstvo ipak doživjeti pojavu prave umjetne inteligencije, koja će biti pametnija od svog tvorca.

“Posljednji bastion bit će zauzet kada se stvori takozvana “snažna umjetna inteligencija” (Strong AI, Artificial General Intelligence), odnosno takva umjetna inteligencija koja će moći rješavati neograničeno širok raspon intelektualnih zadataka”, kaže Sergej Markov.

I što je najvažnije, takav AI će moći samostalno razmišljati.

Prijetnje koje predstavlja AI, kao i etička pitanja povezana s novim tehnologijama, proučavaju mnoge institucije, uključujući Future of Life Institute, Foresight Institute, Future of Humanity Institute, OpenAI i druge.

Rješenje Allison Dutman iz Instituta Foresight je pustiti računalu da čita svu znanstvenu literaturu, znanstvene radove koji pokreću pitanja o etici, i učiniti te informacije osnovom za buduće odluke.

Što su neuronske mreže i kakva je njihova budućnost?

Većina stručnjaka napredak u razvoju AI pripisuje razvoju neuronskih mreža.

Neuronske mreže jedno su od područja istraživanja u području umjetne inteligencije koje se temelji na simulaciji bioloških procesa koji se odvijaju u ljudskom mozgu.

Upravo njima dugujemo pojavu impresivnih rezultata u prepoznavanju govora i slike, medicinskoj dijagnozi, prevođenju teksta i stvaranju slika, generiranju govora i glazbenom sastavu.

Autorsko pravo na sliku iStock Opis slike Upravo s razvojem neuronskih sustava znanstvenici povezuju razvoj umjetne inteligencije.

Danas, kako stručnjaci priznaju, neuronske mreže prepoznate su kao jedan od najboljih algoritama strojnog učenja, a rješenja koja se temelje na njima trenutno pokazuju najistaknutije rezultate.

I to unatoč činjenici da su moderne neuronske mreže tisuću i pol puta jednostavnije od mozga štakora.

"Neuralne mreže koje stvaramo do sada su relativno male u usporedbi s, recimo, neuronskom mrežom ljudskog mozga, a uz to su vrlo pojednostavljeni analogi prirodnih neuronskih mreža. Stoga, zasad, s pomoć neuronskih mreža, uglavnom rješavamo čisto primijenjene probleme," - kaže Sergej Markov.

Trenutno se stvaraju specijalizirani procesori za obuku takvih mreža (tzv. neuromorfni procesori), koji će povećati brzinu izračuna za nekoliko redova veličine.

Programeri sada nisu zauzeti samo povećanjem broja neurona u mreži, već i promjenom dizajna mreža. "Složeni sustavi mrežne konfiguracije ono su s čime se trenutačno provodi najveći broj eksperimenata", kaže Grigory Bakunov.

Autorsko pravo na sliku iStock Opis slike U bliskoj budućnosti bit će više "pametnih" ljudskih pomoćnika - mikrosenzora u zidu, senzora veličine gumba koji upozorava osobu u slučaju opasnosti

A činjenica da su takvi sustavi postali relativno dostupni velikom broju običnih programera dovela je do pojave startupa koji eksperimentiraju s neuronskim mrežama, kao što je Prisma (aplikacija koja vam omogućuje obradu fotografija, pretvarajući ih u stilizacije slika poznatih umjetnici) i Mubert (mrežni skladatelj elektronske glazbe) .

Što nas čeka u bliskoj budućnosti

Kao što predviđa Nick Lane, profesor na University College London i glavni znanstvenik u Nokia Bell Labsu, više "pametnih stvari" će okruživati ​​ljudsko biće. Postat će manji i učinkovitiji.

Profesor navodi sljedeći primjer: ako je prije senzor ugrađen u zid mogao samo znati da je netko prošao, ubuduće neće znati samo tko je konkretno prošao, nego i kako se čovjek ponaša, treba li mu što, ne predstavlja prijetnju sebi ili drugima.

Senzor veličine gumba moći će obavijestiti osobu u slučaju opasnosti.

Grigorij Bakunov iz Yandexa također se slaže s profesorom: "U bliskoj budućnosti vidjet ćemo procvat u razvoju uskih umjetnih inteligencija koje pomažu riješiti jedan prilično jednostavan zadatak, ali koji će riješiti čak i bolje od osobe."

Autorsko pravo na sliku iStock Opis slike Sve je više etičkih pitanja vezanih uz razvoj umjetne inteligencije

„Najvjerojatniji put razvoja naše civilizacije je put sinteze čovjeka i stroja: štap, odjeća, automobil, mobilni telefon, pacemaker ili kohlearni implantat – kako se razvijamo, naši alati sve više nalikuju produžetak našeg tijela. Već sutra strojevi će moći primati mentalne naredbe, percipirati mentalno formirane vizualne slike, prenositi informacije izravno u mozak - takvi projekti već postoje izvan zidova najnaprednijih tehnoloških laboratorija", sažima Sergej Markov.

Jesu li novinari još potrebni?

Financial Times je prošle godine izveo prilično riskantan eksperiment tako što je istovremeno izazvao svog dopisnika na profilu i pametni program po imenu Emma da napišu kopiju. Oba članka potom je morao pročitati urednik Financial Timesa i pogoditi iza koje od dvije bilješke stoji novinar i iza kojeg računala.

Prije ovakvog "crash testa", dopisnik Financial Timesa je priznao: "Mislim da će se program definitivno nositi sa zadatkom brže od mene. Ali, nadam se, ja ću to učiniti bolje."

Tako se i dogodilo: pokazalo se da je Emma stvarno brža - program je za 12 minuta generirao tekst na temelju statistike o stopi nezaposlenosti u Britaniji. Novinaru je trebalo 35 minuta. I, kako je sama kasnije priznala, Emma je nadmašila svoja očekivanja. Program ne samo da je vješto baratao činjenicama, već je vijest stavio u kontekst, sugerirajući kako bi mogući Brexit (bilo je to u svibnju 2016., prije referenduma o izlasku Britanije iz EU) mogao promijeniti situaciju.

Autorsko pravo na sliku Thinkstock Opis slike Hoće li robotski sustavi zamijeniti ljude? Čovječanstvu je ostalo još 50 godina, umiruju stručnjaci

Ali Emma je učinila nešto gore od novinarke. "Emmin članak napisan je malo nespretnijim jezikom. Ali glavna stvar je bila to što je u njemu bilo puno brojeva", priznao je urednik FT-a. "A možda je glavna stvar koju ovdje pokušavamo učiniti birajte samo stvarno važne brojeve.”

Emma je proizvod startupa Stealth. Iz tvrtke kažu da Emma ima tim živih asistenata, ali tvrde da je sve što piše ili radi samo proizvod njezina "mozga".

Pa ipak - treba li se bojati umjetne inteligencije?

Mnogi, ako ne i svi, stručnjaci koji se danas bave razvojem sustava umjetne inteligencije spremno priznaju da AI neće uskoro učiniti ljude nepotrebnima. Upravo zato što umjetna inteligencija još nije tako pametna. Ono što mu danas nedostaje je autonomna sposobnost mišljenja.

"Sada se ne treba bojati umjetne inteligencije u bilo kojem obliku. Možete čekati 30-40 godina dok se ne dogode neke zaista radikalne promjene", rekao je Bakunov.

Ali nešto se već događa: malo-pomalo briše se granica između posla ili zadatka koji obavlja čovjek i zadatka koji obavlja stroj. Kako objašnjavaju stručnjaci, čak i sada je ponekad teško razumjeti tko sjedi unutar sustava - osoba ili stroj.

"Ne postoje kriteriji kada možemo shvatiti da se svijest pojavila unutar stroja", pita Bakunov.

Hoće li osoba postati spajalica?

Poznati pristaša alarmističkog gledišta, u okviru kojeg strahote opisane u Terminatoru mogu postati stvarnost, filozof Nick Bostrom, smatra da će umjetna inteligencija koja je dosegla intelektualnu razinu osobe biti sposobni uništiti čovječanstvo.

Autorsko pravo na sliku Getty Images Opis slike Hoće li ono što je opisano u filmu postati naša svakodnevna stvarnost?

Bostrom objašnjava na primjeru spajalica: izazivate umjetnu inteligenciju da napravi što veće i bolje spajalice. U nekom trenutku, AI shvaća da je osoba prijetnja, jer može isključiti računalo, što će biti u suprotnosti sa zadatkom da napravi što više spajalica. U slučaju da čovjek nije prijetnja, AI odlučuje da su ljudska tijela sastavljena od atoma koji se mogu koristiti za proizvodnju izvrsnih spajalica. Rezultat - računalo će dovesti čovječanstvo do spajalica.

Mnogima se ovaj scenarij čini kao pretjerivanje. Prema Sergeju Markovu, na primjer, "visoka učinkovitost postizanja apsurdnog cilja nespojiva je s apsurdnošću ovog cilja - grubo govoreći, AI sposobna pretvoriti cijeli svijet u spajalice neizbježno će biti dovoljno pametna da odustane od takvog cilja ."

Umjetna inteligencija je poput zlatne ribice

Margaret Boden, britanska stručnjakinja za umjetnu inteligenciju i profesorica kognitivnih znanosti na Sveučilištu u Sussexu, skeptična je prema tvrdnjama o skorom dolasku pametnih strojeva.

Autorsko pravo na sliku Getty Images Opis slike U svibnju 1997. Deep Blue II je prvi put pobijedio Garija Kasparova.

Profesor navodi primjer "zlatne ribice" kada u zamjenu za slobodu ribar poželi tri želje. Jedna od želja je povratak sina iz rata, druga je 50 tisuća dolara, a treća je mogućnost da ujutro zaželi još jednu želju.

Iste večeri neko je pokucao na ribarsku kuću. Sin se iz rata vratio – u lijesu. Rybak je dobio osiguranje od 50 tisuća dolara.

"Zamijenite ribu u ovoj paraboli umjetnom inteligencijom i sve postaje jasno - objašnjava Boden. - O, da, sljedeći dan ribar je iskoristio treću želju i - otkazao prethodne dvije."

Je li moguće prenijeti svijest u stroj?

Sergej Markov:

"Ako govorimo o mogućnosti potpunog prijenosa svijesti, onda su suvremeni prethodnici takve tehnologije budućnosti projekti poput Blue Braina, usmjereni na stvaranje radnih elektroničkih analoga mozga, kao i projekti usmjereni na stvaranje mozgova- strojna sučelja (BCI) - uređaji za protetiku izgubljenog vida, sluha, nadoknadu izgubljenih udova, čak i dijelova mozga.

Autorsko pravo na sliku Znanstvena fototeka Opis slike Cilj stručnjaka za umjetnu inteligenciju je stvoriti "snažnu umjetnu inteligenciju" koja bi bila u stanju riješiti širok spektar problema.

Vrlo zanimljivo i obećavajuće područje je optogenetika (u principu, za povezivanje mozga i stroja moguće je promijeniti ne samo strojeve, već i samo živčano tkivo, stvarajući u njemu umjetne fotoreceptore).

Kada se u okviru ovakvih privatnih projekata riješi širok spektar inženjerskih problema, mislim da će zadatak prijenosa svijesti postati sasvim rješiv. Sanjari već predlažu hipotetske sheme za provedbu takvog projekta.

Na primjer, Jan Korchmaryuk, koji je svojedobno predložio naziv "settleretics" za smjer istraživanja vezanih uz prijenos svijesti, smatra da je shema koja najviše obećava korištenje specijaliziranih nanorobota ugrađenih u neurone ljudskog mozga. Međutim, za uspješnu implementaciju takve sheme potrebno je riješiti niz složenih inženjerskih problema.

Popularni američki internetski magazin Wired objavio je iznimno zanimljiv tekst Kevina Kellyja u kojem detaljno kritizira ideju o opasnostima umjetne inteligencije. "NI" objavljuje prijevod ovog materijala, napravio od strane Telegram kanala Newochem s manjim rezovima.

“Čuo sam da će u budućnosti AI računala postati toliko pametnija od ljudi da će nas lišiti poslova i resursa, a na kraju će čovječanstvo završiti. Ali je li? Ovo je pitanje koje mi postavljaju svaki put kad predajem o umjetnoj inteligenciji.

Pitatelji su ozbiljni kao i uvijek, a njihova nelagoda djelomično je posljedica tjeskobe nekih stručnjaka koje muči isto pitanje. Među njima su najpametniji naši suvremenici - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris i Bill Gates.

Svi oni priznaju mogućnost takvog scenarija. Na nedavno održanoj konferenciji o umjetnoj inteligenciji, panel od devet najprosvijećenijih gurua u tom području došao do jednoglasnog zaključka da je stvaranje nadljudske inteligencije neizbježno i da nije daleko.

Pa ipak, scenarij porobljavanja čovječanstva od strane umjetne inteligencije temelji se na pet pretpostavki, koje se, nakon detaljnijeg ispitivanja, pokazuju nedokazanim. Ove izjave bi mogle biti istinite u budućnosti, ali do danas ništa nije potvrđeno.

Evo ih:

1. Umjetna inteligencija već sada postaje pametnija od ljudskog uma, a taj je proces eksponencijalan.
2. Razvit ćemo umjetnu inteligenciju opće namjene sličnu našoj.
3. Od silicija možemo stvoriti ljudsku inteligenciju.
4. Inteligencija može biti neograničena.
5. Izgradnja grandiozne superinteligencije riješit će većinu naših problema.

Kao suprotnost ovim ortodoksnim postulatima, mogu navesti sljedeću dokazanu herezu:

1. Inteligencija nije jednodimenzionalna, pa je "pametniji od osobe" besmislen koncept.
2. Ljudi nisu obdareni umom opće namjene, što također ne ugrožava umjetnu inteligenciju.
3. Suparništvo između čovjeka i računala bit će ograničeno troškovima.
4. Inteligencija nije neograničena.
5. Stvaranje umjetne inteligencije samo je dio napretka.

Ako se vjera u porobljavanje čovjeka od strane umjetne inteligencije temelji na pet neutemeljenih pretpostavki, onda je ta ideja sličnija religijskim uvjerenjima – mitovima. U sljedećim poglavljima svoje ću protuargumente nadopuniti činjenicama i dokazati da je nadljudska umjetna inteligencija doista samo mit.

Najčešća zabluda o umjetnoj inteligenciji dolazi iz jednako popularnog uvjerenja o prirodnoj inteligenciji da je jednodimenzionalna. U egzaktnim znanostima, mnogi opisuju inteligenciju na način na koji je to učinio Nick Bostrom u svojoj knjizi Supermind - doslovno kao jednodimenzionalni linearni grafikon s rastućom amplitudom.

Na jednom kraju su bića s najnižom razinom inteligencije, na primjer, male životinje, a na drugom - geniji, kao da se razina inteligencije ne razlikuje od razine zvuka, mjerene u decibelima. Naravno, u takvom slučaju lako je zamisliti daljnji porast, u kojem razina inteligencije premašuje najvišu ocjenu grafikona, pa čak i prelazi.

Takav je model topološki ekvivalentan ljestvama, na čijim su stepenicama razine inteligencije raspoređene uzlaznim redoslijedom. Manje inteligentne životinje zauzimaju donje prečke ljestvice, a umjetna inteligencija više razine neizbježno će se nalaziti iznad nas. Vremenski okvir kada će se to dogoditi nije bitan. Puno su važnije same stepenice hijerarhije – metrika rastuće inteligencije.

Problem s ovim modelom je taj što je mitski, poput modela evolucijske ljestvice. Prije darvinizma, divljina je predstavljana kao ljestvica živih bića, gdje je čovjek zauzimao stepenicu iznad primitivnih životinja.

Čak i nakon Darwina, jedan od najčešćih koncepata su ljestve evolucije. Prikazuje transformaciju riba u gmazove, njih u sisavce, primata u ljude. Štoviše, svako sljedeće stvorenje je razvijenije (i, naravno, inteligentnije) od svog prethodnika. Dakle, ljestvice intelekta koreliraju s ljestvama svemira. Međutim, oba modela odražavaju potpuno anti-znanstvena stajališta.

Točniji obrazac za prirodnu evoluciju bio bi disk koji se divergira prema van, kao na gornjoj slici. Po prvi put je takvu strukturu razvio David Hillis sa Sveučilišta u Teksasu, on je to učinio na temelju DNK. Ova genealoška mandala počinje u središtu s najprimitivnijim oblicima života, a zatim se grana prema van. Vrijeme ide naprijed, tako da se najnoviji oblici života nalaze duž perimetra kruga.

Ova slika naglašava neshvatljivu činjenicu o evoluciji od temeljne važnosti - sva su živa bića evoluirala jednako. Čovjek se nalazi na vanjskom dijelu diska zajedno s žoharima, mekušcima, paprati, lisicama i bakterijama.

Bez iznimke, sve su vrste prošle kroz neraskidiv lanac uspješnog razmnožavanja od tri milijarde godina, što znači da su bakterije i žohari evoluirali jednako visoko kao i ljudi. Nema stepenica.

Isto tako, ne postoji ljestvica inteligencije. Inteligencija nije jednodimenzionalna. To je skup različitih vrsta i metoda spoznaje od kojih je svaka kontinuirana. Napravimo jednostavnu vježbu za mjerenje inteligencije kod životinja. Da je intelekt jednodimenzionalan, lako bismo mogli poredati papigu, dupina, konja, vjevericu, hobotnicu, plavog kita, mačku i gorilu prema rastućem redoslijedu intelekta.

Trenutno nema znanstvenih dokaza o postojanju takvog niza. Razlog tome može biti nedostatak razlika u razini inteligencije pojedinih životinja, ali i to je nerazumno.

Zoologija je bogata primjerima izrazitih razlika u razmišljanju životinja. Možda su sve životinje obdarene inteligencijom "opće namjene"? Možda, ali nemamo niti jedan alat za mjerenje ove vrste inteligencije. Međutim, imamo mnogo mjernih sustava za različite vrste spoznaje.

Umjesto jedne linije decibela, bilo bi ispravnije prikazati inteligenciju kao dijagram prostora vjerojatnosti, kao u vizualizaciji mogućih oblika, koju je izradio algoritam Richarda Dawkinsa. Inteligencija je kombinatorni kontinuum. Mnogi čvorovi, od kojih je svaki kontinuum, stvaraju kompleks kolosalne raznolikosti u mnogim dimenzijama. Neke vrste inteligencije mogu biti vrlo složene, s velikim skupom podčvorova mišljenja. Drugi su jednostavniji, ali ekstremniji, dosežu krajnju točku prostora.

Te komplekse, koji za nas znače različite vrste intelekta, možemo shvatiti kao simfonije koje se izvode na različitim vrstama glazbenih instrumenata. Ne razlikuju se samo po glasnoći, već i po melodiji, boji, tempu itd. Možete ih zamisliti kao ekosustav. U tom su smislu različite komponente misaonih čvorova međusobno ovisne i izgrađene jedna od druge.

Kao što je rekao Marvin Minsky, ljudska svijest je društvo razuma. Naše razmišljanje je cjeloviti ekosustav. Naš mozak ima mnogo načina spoznaje koji obavljaju različite mentalne funkcije: dedukciju, indukciju, emocionalnu inteligenciju, apstraktno i prostorno razmišljanje, kratkoročno i dugoročno pamćenje.

Cijeli ljudski živčani sustav dio je mozga s vlastitom razinom kognicije. Zapravo, proces razmišljanja ne provodi mozak, već cijelo ljudsko tijelo.

Sve varijante mišljenja razlikuju se između vrsta i između pripadnika iste vrste. Vjeverica može godinama pamtiti točnu lokaciju nekoliko tisuća žireva, što je čovjeku potpuno neshvatljivo. U takvom načinu razmišljanja ljudi su inferiorni u odnosu na proteine. Um vjeverice kombinacija je ove supermoći s drugim oblicima inteligencije u kojima je osoba superiornija od vjeverice. U životinjskom carstvu mogu se naći mnogi primjeri superiornosti pojedinih oblika životinjske inteligencije nad ljudskom.

Ista se situacija razvila i s umjetnom inteligencijom koja je u nekim područjima već superiornija od ljudske. Svaki kalkulator je matematički genij, a Googleova memorija već je na neki način bolja od naše.

Neke AI obavljaju takve mentalne aktivnosti za koje mi nismo sposobni. Zapamtiti svaku riječ na šest milijardi web stranica nemoguć je zadatak za ljude i sitnica za tražilice. U budućnosti ćemo stvoriti potpuno nove načine razmišljanja koji nisu dostupni čovjeku i ne postoje u prirodi.

Izumitelji letećih strojeva bili su inspirirani prirodnim letom - lepetanjem krila. Kasnije je, međutim, izumljeno fiksno krilo s propelerima pričvršćenim na njega, a to je bio potpuno novi princip leta kakvog nema u prirodi.

Ovako izmišljamo nove načine razmišljanja za koje nije sposobna nijedna vrsta. Najvjerojatnije će to biti principi primjenjivi samo na visoko specijalizirane probleme: na primjer, nove logičke konstrukcije koje su potrebne samo u statistici i teoriji vjerojatnosti.

Nova vrsta razmišljanja pomoći će u rješavanju problema s kojima se ljudski um ne može nositi. Neka od najtežih pitanja u poslovanju i znanosti zahtijevaju rješenje u dva koraka. Prvi korak je izmisliti novi način prirodnog razmišljanja. Drugi je da počnemo tražiti odgovore zajedno s umjetnom inteligencijom.

Ljudi će početi smatrati umjetnu inteligenciju pametnijom od sebe ako uz pomoć nje riješi dosad nerješive probleme. Zapravo, AI razmišljanje nije bolje od našeg, samo je drugačije. Vjerujem da je glavna prednost umjetne inteligencije to što može razmišljati kao autsajder, a ta otuđenost je njena glavna prednost.

Štoviše, stvorit ćemo složene AI "zajednice" s različitim načinima razmišljanja. Oni će biti toliko složeni da će moći riješiti probleme s kojima se mi ne možemo nositi. Stoga će neki ljudi pogrešno misliti da su AI kompleksi pametniji od ljudi. Ali ne vjerujemo da je Google tražilica pametnija od čovjeka, iako je njegovo pamćenje bolje od našeg.

Vjerojatno će nas ovi kompleksi umjetne inteligencije nadmašiti u mnogim područjima, ali nijedan od njih neće svugdje odjednom nadmašiti ljude. Slična situacija je i s našom fizičkom snagom. Dvije stotine godina nakon industrijske revolucije nijedan stroj nije nadmašio prosječnog čovjeka u svakom pogledu, iako strojevi kao klasa uvelike nadmašuju ljude u brzini trčanja, dizanju utega, preciznosti rezanja i drugim aktivnostima.

Unatoč složenosti strukture AI, nemoguće ju je mjeriti metodama moderne znanosti. Nemamo alate da odredimo što je teže, krastavac ili Boeing 747, i nemamo način da izmjerimo razlike u njihovoj složenosti. Zato još uvijek nemamo precizne kriterije intelektualnih sposobnosti.

S vremenom će biti sve teže odrediti što je teže, a samim time i pametnije: inteligencija A ili inteligencija B. Mnogo je neistraženih područja mentalne aktivnosti, a uglavnom nas to sprječava da shvatimo da um nije jednodimenzionalni.

Druga zabluda o ljudskom umu je da vjerujemo da je naš um univerzalan. Ovo široko rasprostranjeno uvjerenje oblikuje put kojim idemo prema umjetnoj općoj inteligenciji (AGI), koju su nekoć promovirali stručnjaci za umjetnu inteligenciju.

Međutim, ako o umu razmišljamo kao o ogromnom prostoru mogućnosti, ne možemo govoriti o stanju opće namjene. Ljudski um ne zauzima neko apstraktno središnje mjesto, a druge specijalizirane vrste uma ne vrte se oko njega.

Umjesto toga, ljudska inteligencija je izuzetno specifična vrsta inteligencije koja se razvijala tijekom milijuna godina za opstanak naše vrste na ovom planetu. Kad bismo svoju inteligenciju htjeli smjestiti među sve druge moguće vrste inteligencije, završila bi negdje u kutu – kao i sam naš svijet, smještena na rubu goleme galaksije.

Naravno, možemo zamisliti i ponekad izmisliti način razmišljanja koji je po svojim karakteristikama sličan švicarskom nožu. Čini se da se nosi s mnogim zadacima, ali ne s praskom.

Postoji i tehničko pravilo koje sve stvari moraju poštovati, bez obzira jesu li stvorene namjerno ili su na svijet došle prirodnim putem: „Nemoguće je optimizirati sva mjerenja. Možete pronaći samo kompromise. Višenamjenski stroj sve u jednom ne može nadmašiti specijalizirane funkcije.”

Do-it-sve svijest ne može raditi ravnopravno sa specijaliziranim izvođačima specifičnih zadataka. Budući da našu svijest smatramo univerzalnim mehanizmom, smatramo da se spoznaja ne smije temeljiti na kompromisu i da je moguće izmisliti umjetnu inteligenciju koja pokazuje maksimalan stupanj učinkovitosti u svim vrstama mišljenja.

Međutim, ne vidim dokaze za ovu tvrdnju. Jednostavno još nismo stvorili dovoljno varijanti svijesti da bismo mogli vidjeti potpunu sliku (za sada radije ne razmatramo svijest životinja kroz prizmu jednog parametra kao zasebnu vrstu mišljenja s promjenjivom amplitudom).

Dio tog uvjerenja da je naše razmišljanje što je moguće univerzalnije proizlazi iz koncepta univerzalnog računanja. Ova pretpostavka je 1950. nazvana Church-Turingova teza. Navodi da su svi izračuni koji zadovoljavaju određene parametre ekvivalentni.

Dakle, postoji univerzalna baza za sve izračune. Bez obzira radi li se izračun u jednom stroju s puno brzih strojeva, u stroju slabijeg učinka ili čak u biološkom mozgu, to je isti logičan proces. To pak znači da možemo simulirati bilo koji računalni proces (razmišljanje) s bilo kojim strojem koji može izvoditi "univerzalne" izračune.

Ovim principom pobornici singularnosti opravdavaju svoja očekivanja da možemo dizajnirati umjetni mozak na bazi silicija koji može prilagoditi ljudsku svijest, da možemo stvoriti umjetnu inteligenciju koja će razmišljati na isti način kao osoba, ali višestruko učinkovitije . Ove nade treba tretirati s određenom dozom skepse, jer se temelje na krivom tumačenju Church-Turingove teze.

Polazna pozicija ove teorije je: "U uvjetima neograničene memorije i vremena, svi izračuni su ekvivalentni." Problem je u tome što u stvarnosti niti jedno računalo nema karakteristike beskonačne memorije ili vremena. Kada radite izračune u stvarnom svijetu, vremenska komponenta je iznimno važna, do te mjere da je često pitanje života i smrti.

Da, sve su vrste razmišljanja jednake, ako izuzmemo vremenski aspekt. Da, moguće je oponašati ljudski misaoni proces u bilo kojoj matrici ako odlučite zanemariti vrijeme ili ograničenja slobodnog prostora i pamćenja u stvarnom svijetu.

Međutim, ako uključimo vremensku varijablu u ovu jednadžbu, morat ćemo značajno promijeniti formulaciju načela: "Dva računalna sustava koji rade na radikalno različitim platformama neće proizvoditi ekvivalentne izračune u stvarnom vremenu."

Ovo se načelo može preformulirati na sljedeći način: “Jedini način da dobijete ekvivalentne načine razmišljanja je da ih provodite na istoj osnovi. Fizički medij na kojem izvodite svoje izračune - pogotovo kako se povećava stupanj njihove složenosti - značajno utječe na način na koji razmišljate u uvjetima stvarnog vremena.

Nastavljajući logički lanac, pretpostavit ću da je jedini način da se stvori način razmišljanja što bliži ljudskom jest da se izvode izračuni koristeći materiju koja je što je moguće više slična našoj sivoj tvari.

To znači da se također može pretpostaviti da će glomazna, složena umjetna inteligencija, stvorena na bazi suhog silicija, generirati nespretno, složeno i neslično ljudskom načinu razmišljanja. Kad bi bilo moguće stvoriti umjetnu inteligenciju koja radi na vlažnoj tvari koristeći umjetne neurone poput ljudskih, misaoni proces takve umjetne inteligencije bio bi mnogo bliži našem.

Prednosti takvog "mokrog" sustava proporcionalne su blizini fizičkih medija koji se koriste ljudskim. Stvaranje takve tvari zahtijevalo bi ogromne materijalne troškove kako bi se postigla razina barem slična onoj koja nam je svojstvena prirodom. I na ovaj način možemo stvoriti novu osobu - samo trebate pričekati 9 mjeseci.

Također, kao što je ranije spomenuto, razmišljamo cijelim svojim bićem, a ne samo svojom sviješću. Moderna znanost raspolaže brojnim podacima o tome kako naš živčani sustav utječe na „racionalno“ donošenje odluka, predviđa i prilagođava se. Što više razmatramo sustav ljudskog tijela, to ga pažljivije možemo kasnije ponovno stvoriti. Umjetna inteligencija koja radi na supstanci radikalno različitoj od naše (suhi silicij umjesto mokrog ugljika) također će razmišljati drugačije.

Ne mislim da je ova značajka više "značajka, a ne greška". Kao što sam tvrdio u drugom odlomku ovog članka, razlike u misaonom procesu umjetne inteligencije njena su glavna prednost. Evo još jednog razloga zašto bi bilo pogrešno reći da je on "pametniji od ljudskog mozga".

U srcu koncepta nadljudske inteligencije - a posebno teorije o stalnom samousavršavanju takve umjetne inteligencije - leži iskreno vjerovanje u neograničenost inteligencije. Nisam našao nikakve dokaze za ovu tvrdnju.

Opet, pogrešna percepcija inteligencije kao sustava definiranog samo jednom dimenzijom doprinosi širenju ove tvrdnje, ali moramo shvatiti da ona ostaje neutemeljena. Ne postoje beskonačne fizičke dimenzije u svemiru - barem su još uvijek nepoznate znanosti.

Temperatura nije beskonačna - postoje minimalni i maksimalni pokazatelji hladnoće i topline. Prostor i vrijeme također nisu neograničeni, kao ni brzina. Možda se numerička os može nazvati beskonačnom, ali svi ostali fizički parametri imaju svoje granice. Naravno, sam um je također konačan.

Postavlja se pitanje: gdje su granice inteligencije? Nekad smo vjerovali da je granica negdje daleko, onoliko "iznad" nas koliko smo mi "iznad" mrava. Ostavljajući po strani neriješen problem jednodimenzionalnosti, kako možemo dokazati da još nismo dosegli granicu? Zašto ne možemo biti kruna stvaranja? Ili smo možda skoro dosegnuli granice ljudskih mogućnosti? Zašto vjerujemo da je inteligencija koncept koji se neprestano razvija?

Bolje je našu inteligenciju smatrati jednom od varijanti ogromnog broja vrsta mišljenja. Iako svaka dimenzija spoznaje i proračuna ima ograničenje, ako postoje stotine dimenzija, onda postoje bezbrojne vrste inteligencije, ali nijedna od njih nije beskonačna ni u jednoj dimenziji.

Dok stvaramo ili se susrećemo s ovim bezbrojnim varijacijama na temu svijesti, možemo ih doživjeti kao one koji nadilaze naše sposobnosti. U svojoj posljednjoj knjizi, The Inevitable, skicirao sam popis nekih od tih vrsta koje su inferiorne nama na ovaj ili onaj način. Evo dijela tog popisa:

Um, što bliži ljudskom, ali s većom brzinom reakcije (najjednostavnija umjetna inteligencija);

Vrlo spor um, čije su glavne komponente dovoljno prostora za pohranu i memorije;

Univerzalna inteligencija, koja se sastoji od milijuna individualnih svijesti koje djeluju unisono;

Um košnice sastavljen od velikog broja iznimno produktivnih inteligencija, nesvjesnih da su jedna;

Borg supermind (rasa kiborga s kolektivnim umom, koji pokušavaju asimilirati sva živa bića iz serije Star Trek u svoj kolektiv - cca. Novo što) - skup visoko funkcionalnih intelekta, jasno svjesni da su jedna cjelina;

Um dizajniran da razvije nositeljevu osobnu svijest, ali neupotrebljiv nikome drugome;

Razum, sposoban zamisliti složeniji um, ali nesposoban stvoriti ga;

Razum sposoban jednog dana uspješno stvoriti složeniji um;

Razum sposoban stvoriti složeniji um, koji zauzvrat može stvoriti još složeniji um itd.;

Reason, koji ima brzi pristup svom izvornom kodu (može promijeniti značajke svog funkcioniranja u bilo kojem trenutku);

Superlogičan um, lišen sposobnosti doživljavanja emocija;

Standardni um, usmjeren na rješavanje problema, ali nesposoban za introspekciju;

Um sposoban za introspekciju, ali nesposoban riješiti zadatke koji su mu dodijeljeni;

Um čije formiranje traje dugo, kojemu je potreban um čuvar;

Izuzetno spor um raspršen preko golemog fizičkog prostora koji se čini "nevidljivim" oblicima svijesti koji brže reagiraju;

Um koji može brzo i opetovano reproducirati svoje kopije;

Um sposoban reproducirati svoje kopije i ostati jedno s njima;

Um sposoban postići besmrtnost seleći se od domaćina do domaćina;

Brz, dinamičan um, sposoban mijenjati proces i prirodu mišljenja;

Nano-um, najmanja neovisna jedinica (veličinom i oslobođenom energijom) sposobna za introspekciju;

Um specijaliziran za skriptiranje i predviđanje;

Um koji nikad ništa ne zaboravlja, uključujući krive informacije;

Pola stroj, pola životinja;

Pola stroj, pola androgeni kiborg;

Um koji se u svom radu služi nama neshvatljivom kvantitativnom analizom.

Danas neki svaku od navedenih varijanti razmišljanja nazivaju nadljudskom umjetnom inteligencijom, no u budućnosti će nas raznolikost i otuđenost ovih oblika inteligencije natjerati da se okrenemo novim rječnicima i detaljno proučimo temu mišljenja i inteligencije.

Osim toga, pristaše ideje o nadljudskoj umjetnoj inteligenciji pretpostavljaju da će razina njegovih mentalnih sposobnosti eksponencijalno rasti (iako još uvijek nemaju sustav za procjenu te razine). Možda vjeruju da je proces eksponencijalnog razvoja već u tijeku.

U svakom slučaju, danas nema dokaza o takvom rastu, kako god to mjerili. U suprotnom, to bi značilo da se mentalne sposobnosti AI-a udvostruče tijekom određenog vremenskog razdoblja.

Gdje je potvrda za ovo? Jedina stvar koja trenutno eksponencijalno raste su ulaganja u AI industriju. Ali povrat na ta ulaganja ne može se opisati Mooreovim zakonom. AI ne postaje dvostruko pametniji u tri, pa čak ni u deset godina.

Pitao sam mnoge stručnjake za umjetnu inteligenciju, ali svi su se složili da nemamo kriterije za razumnost. Kad sam pitao Raya Kurzweila, pravog čarobnjaka eksponenta, gdje pronaći dokaze o eksponencijalnom razvoju AI-a, napisao mi je da razvoj AI-a nije eksplozivan, već postupan proces.

“Za dodavanje nove razine u hijerarhiju potrebno je i eksponencijalno povećanje računalne snage i povećanje složenosti algoritma... Dakle, trebali bismo očekivati ​​linearno povećanje broja uvjetnih razina, budući da svaka od njih zahtijeva eksponencijalno povećanje vlastitih sposobnosti. Nemamo mnogo razina težine da dosegnemo AI sposobnosti neokorteksa (glavni dio ljudskog korteksa, koji je odgovoran za više živčane funkcije - cca. Novo nego), tako da i dalje vjerujem da su moje pretpostavke o 2029. točne.”

Čini se da Ray želi reći da ne raste eksponencijalno snaga umjetne inteligencije, već napori da se ona stvori, a njihov rezultat svaki put samo raste za jedan korak. Ovo je gotovo suprotno od hipoteze o eksploziji inteligencije. To bi se moglo promijeniti u budućnosti, ali AI danas očito ne raste eksponencijalno.

Dakle, kada zamišljamo "procvat umjetne inteligencije", ne bismo ga trebali zamisliti kao lavinu, već kao rascjep na mnogo novih varijanti. Rezultat tehnološkog napretka najvjerojatnije neće biti nadčovjek, nego nadčovjek. Izvan našeg znanja, ali ne nužno i "iznad" njega.

Još jedan mit o robovanju superinteligenciji, koji se uzima zdravo za gotovo, ali teško potkrijepljen dokazima, jest da gotovo beskonačna inteligencija može brzo riješiti sve naše probleme.

Mnogi zagovornici munjevito brze umjetne inteligencije očekuju da će izazvati bum u tijeku. Ja vjeru u to nazivam "thinkism", izraz je preveo Vjačeslav Golovanov - cca. Novo što). Ovaj pristup temelji se na uvjerenju da napredak koči samo nedovoljna razina razmišljanja ili inteligencije. (Također napominjem da je vjera u AI kao lijek za sve bolesti karakteristična za većinu ljudi koji vole misliti svojom glavom.)

Razmotrimo pitanje pobjede nad rakom ili produljenja života. To su problemi koji se ne mogu riješiti samo razmišljanjem. Niti jedna količina misli ne može shvatiti kako stanice stare ili kako se skraćuju telomeri. Niti jedna inteligencija, koliko god cool bila, ne može shvatiti kako funkcionira ljudsko tijelo jednostavnim čitanjem sve poznate znanstvene literature u svijetu i analizom iste.

Super-AI ne može samo razmišljati o svim sadašnjim i prošlim eksperimentima nuklearne fisije i dan kasnije doći do recepta za nuklearnu fuziju. Da biste prešli s nerazumijevanja na razumijevanje bilo koje teme, potrebno vam je nešto više od pukog razmišljanja.

U stvarnosti postoji mnogo eksperimenata, od kojih svaki daje čitavu hrpu proturječnih podataka i zahtijeva daljnje eksperimente kako bi se stvorila ispravna radna hipoteza. Samo razmišljanje o mogućim ishodima neće proizvesti ispravne rezultate.

Razmišljanje (inteligencija) samo je dio oruđa znanosti. Najvjerojatnije samo manji dio. Na primjer, jednostavno nemamo dovoljno podataka da bismo se približili rješavanju problema smrti. U slučaju rada sa živim organizmima, za većinu ovih eksperimenata potrebno je vrijeme. Spori metabolizam stanica ne može se ubrzati. Za postizanje rezultata potrebne su godine, mjeseci ili barem dani.

Ako želimo znati što se događa sa subatomskim česticama, nije dovoljno samo razmišljati o njima. Moramo izgraditi vrlo velike, vrlo složene, vrlo sofisticirane fizičke modele da bismo saznali. Čak i ako najpametniji fizičari postanu tisuću puta pametniji nego što su sada, neće naučiti ništa novo bez sudarača.

Nema sumnje da super-AI može ubrzati razvoj znanosti. Možemo izraditi računalne modele atoma ili stanica, možemo ih ubrzati na mnoge načine, ali postoje problemi koji sprječavaju simulacije u trenutnom napredovanju.

Vrijedno je zapamtiti da se simulacije i modeli mogu istraživati ​​brže od njihovih subjekata samo zato što odbacuju određene varijable. To je sama bit modelinga. Također je važno napomenuti da je potrebno dosta vremena za testiranje, proučavanje i validaciju takvih modela kako bi odgovarali razini svojih predmeta. Ispitivanje iskustvom ne može se ubrzati.

Pojednostavljene verzije u simulaciji korisne su za pronalaženje načina za ubrzavanje napretka koji najviše obećavaju. Ali u stvarnosti nema ništa suvišno, sve je donekle bitno - to je jedna velika definicija stvarnosti. Kako modeli i simulacije postaju sve detaljniji, istraživači se suočavaju s činjenicom da stvarnost teče brže od svoje 100% simulacije.

Evo još jedne definicije stvarnosti: najbrže funkcionalna verzija svih mogućih detalja i stupnjeva slobode. Kad biste mogli simulirati sve molekule u stanici i sve stanice u ljudskom tijelu, ovaj model ne bi radio tako brzo kao ljudsko tijelo. Bez obzira koliko promišljeno dizajnirali takav model, svejedno ćete morati provesti vrijeme eksperimentirajući, bilo da se radi o stvarnom sustavu ili simulaciji.

Da bi bila korisna, umjetna inteligencija mora biti uvedena u svijet, au ovom svijetu potreban ritam inovacija se prilično brzo mijenja. Bez prvih eksperimenata, prototipova, pogrešaka i uključivanja u stvarnost, intelekt može misliti, ali neće proizvesti rezultate. Neće doći do trenutačnih otkrića ni u sekundi, ni u satu, ni u godini nakon što ga prozovu "pametnijim od čovjeka".

Pojavljuje se AI. Naravno, stopa otkrića će se ubrzati kako ova umjetna inteligencija bude postajala sve složenija, dijelom zato što će vanzemaljska umjetna inteligencija postavljati pitanja koja niti jedan čovjek ne bi postavio, ali čak ni vrlo moćna (u usporedbi s nama) inteligencija ne jamči trenutni napredak. Za rješavanje problema potrebno je puno više od same inteligencije.

Problemi raka i dugovječnosti nisu jedini koje samo inteligencija ne može riješiti. Postoji uobičajena zabluda među pristašama ideje tehnološke singularnosti: ako stvorimo AI koja je pametnija od ljudi, onda će se ona odjednom početi razvijati i stvoriti još pametniju AI.

Nova umjetna inteligencija će dublje razmišljati i izmisliti nešto još pametnije, i tako sve dok se ne izmisli nešto božanstveno. Nema dokaza da je samo razmišljanje dovoljno za stvaranje novih razina inteligencije. Ovakvo razmišljanje temelji se na vjeri.

Međutim, postoji mnogo dokaza da pronalazak nove učinkovite inteligencije zahtijeva ne samo mentalne napore, već i eksperimente, podatke, teška pitanja, pokušaje i pogreške.

Shvaćam da možda griješim. Dok smo u ranoj fazi. Možda ćemo otkriti univerzalnu ljestvicu inteligencije ili njezinu beskonačnost u svakom smislu. Postoji mogućnost tehnološke singularnosti, jer vrlo malo znamo o tome što su inteligencija i samosvijest. Po mom mišljenju, sve ukazuje na to da je to malo vjerojatno, ali ipak postoji šansa.

Međutim, podržavam šire ciljeve OpenAI-ja: moramo razviti prijateljsku umjetnu inteligenciju i smisliti kako joj dati vrijednosti koje se repliciraju same po sebi i odgovaraju našima.

Postoji mogućnost da bi nadljudska umjetna inteligencija dugoročno mogla biti štetna, ali ta se ideja temelji na nepotpunim dokazima i ne treba je shvaćati ozbiljno kada je riječ o znanosti, politici ili napretku.

Udarac asteroida u Zemlju mogao bi nas uništiti, postoji mogućnost takvog ishoda (to potvrđuje Zaklada B612), ali ne bismo trebali uzeti u obzir takav ishod u pitanjima globalnog zatopljenja, putovanja u svemir ili planiranja grada.

Dostupni dokazi pokazuju da AI najvjerojatnije neće biti nadljudski. Imat će nove varijante razmišljanja koje su čovjeku nedostupne, ali bez sveobuhvatne primjene neće postati bog koji će u trenu riješiti naše glavne probleme.

Umjesto toga, postat će nakupina intelekta ograničenih mogućnosti, bolje će od nas raditi na nama nenaviknutim područjima, zajedno s nama moći će iznalaziti rješenja za postojeće i nove probleme.

Razumijem koliko je privlačna ideja o nadljudskoj i božanskoj umjetnoj inteligenciji. On bi mogao biti sljedeći Superman. Ali, kao i Superman, ovo je izmišljeni lik. Negdje u svemiru, Superman bi mogao postojati, ali je to vrlo malo vjerojatno. Bilo kako bilo, mitovi mogu biti korisni i, jednom stvoreni, ne nestaju.

Ideja o Supermanu živjet će zauvijek. Ideja o nadljudskoj umjetnoj inteligenciji i Singularnosti sada se pojavljuje i nikada neće biti zaboravljena. Moramo razumjeti kakva je to ideja: religijska ili znanstvena. Ako istražujemo pitanje inteligencije, umjetne ili prirodne, moramo jasno shvatiti da je naš koncept nadljudske umjetne inteligencije samo mit.

Plemena izoliranih otoka Mikronezije prvi put su stupila u kontakt s vanjskim svijetom tijekom Drugog svjetskog rata. Bogovi su doletjeli iz dalekih zemalja, spustili se s neba na bučnim pticama, donijeli darove i odletjeli zauvijek. Otocima su se proširili kultovi povratka tih bogova i novih darova. Čak i sada, 50 godina kasnije, mnogi još uvijek čekaju na povratak.

Superhuman AI mogao bi postati novi kargo kult za nas. Možda će za stotinjak godina ljudi naše vrijeme doživljavati na isti način: kao da smo vjerovali u nadljudsku umjetnu inteligenciju i čekali desetljećima da se pojavi svaki čas i donese nam nezamislive darove.

Međutim, ne-nadljudska umjetna inteligencija već postoji. Nastavljamo tražiti novu definiciju za to, kako bismo ga komplicirali. Međutim, u širem smislu, nama strani um je spektar intelektualnih sposobnosti, razmišljanja, mehanizama zaključivanja, učenja, samosvijesti. AI se širi i nastavit će se širiti. Postaje dublja, raznovrsnija, snažnija.

Prije umjetne inteligencije nijedan izum nije mogao potpuno promijeniti svijet. Do kraja 21. stoljeća umjetna inteligencija će biti toliko moćna da će promijeniti sve u našim životima.

Bilo kako bilo, mit o nadljudskoj umjetnoj inteligenciji koja će nam dati super-bogatstvo ili super-ropstvo (ili oboje) i dalje će živjeti. Međutim, to će ostati mit, koji vjerojatno neće biti utjelovljen u stvarnosti.