Možna grožnja umetne inteligence. Psihiki

In drugi znani raziskovalci so pisali odprto pismo, ki poziva k oblikovanju varnostnih standardov na področju razvoja umetne inteligence (AI). /Spletna stran/

Predvsem so pozvali k raziskavam in razvoju zanesljivega nadzornega sistema, ki ne bi dovolil, da bi okvarjena umetna inteligenca škodovala ljudem. "Treba je opraviti tehnično delo, da se zagotovi popoln človeški nadzor," piše v pismu.

Kljub zmernemu tonu pisma je Luddite, ki so se bali nove tehnologije, zagrabila panika. Kot odgovor se je v tisku pojavilo veliko intervjujev in izjav znanstvenikov, ki so razblinili te strahove.

Andrew Ng, strokovnjak za umetno inteligenco pri Baidu, je za Fusion povedal: "Ne vidim realističnega scenarija, da bi programska oprema, na kateri delamo danes, postala moteča."

Novinar Scott Alexander pa je sestavil seznam znanih znanstvenikov, vključenih v razvoj umetne inteligence, ki so govorili o potencialni nevarnosti umetne inteligence.

Strah in bojazen

Stuart Russer, profesor računalništva na kalifornijski univerzi Berkeley, je primerjal razvoj mehanizmov za nadzor AI s sprejetjem ukrepov za varnost jedrskih reaktorjev.

»Nekateri verjamejo, da to vprašanje ne predstavlja nevarnosti za človeštvo v naslednjih nekaj sto letih. Pozabljajo, da je Leo Szilard odkril jedrsko verižno reakcijo 24 ur po tem, ko je Rutherford samozavestno izjavil, da atomske energije ne bo nikoli mogoče dobiti,« je zapisal Russell.

Russell v svojem mnenju ni osamljen. V raziskavi Vincenta Mullerja in Nicka Bostroma iz leta 2014, v kateri je sodelovalo 170 vrhunskih strokovnjakov za umetno inteligenco, jih je 18 % menilo, da bi bila izdelava superinteligentnega stroja "prava katastrofa" za človeštvo. 13 % jih je reklo, da bi imela napredna umetna inteligenca negativne posledice za ljudi. Nekaj ​​več kot polovica znanstvenikov je dejala, da bi imelo pozitiven učinek.

Čeprav je mnenje strokovnjakov o vplivu umetne inteligence dvoumno, se večina strinja, da je izdelava napredne umetne inteligence le še vprašanje časa. Po napovedih bo umetna inteligenca, enaka človeku, nastala že leta 2050 (50-odstotna verjetnost) ali do leta 2075 (90-odstotna verjetnost). In 30 let po nastanku se bo pojavila umetna superinteligenca, ki bo v vseh pogledih prekašala človeka.

nori tovornjaki

Kako bi lahko izgledal Rise of the Machines? V znanstvenofantastičnih filmih, kot so "Terminator", "Robot", "Animatrix", je prikazana vojna ljudi s kiborgi.

Sodeč po znanstvenofantastičnih filmih so morda mnogi mnenja, da se je morebitni nevarnosti enostavno izogniti, saj je AI v bistvu le računalniška programska oprema.

Vendar pa umetni inteligenci ni treba imeti mehanskega telesa, da bi pridobila moč v resničnem svetu: preprosto lahko začne nadzorovati vse naše vsakodnevne elektronske naprave.

Stephen King je takšen scenarij predstavil v kratki zgodbi "Trucks". V zgodbi, napisani v 70. letih, se tovornjaki ozavestijo in začnejo napadati ljudi. Skupina ljudi se skrije pred pobesnelimi tovornjaki. Tovornjaki še vedno potrebujejo gorivo za delovanje in uporabljajo Morsejevo abecedo, da ljudem naročijo, naj napolnijo gorivo, ali pa jih bo buldožer razstrelil. Ljudje ubogajo.

Zgodba se konča s pripovedovalčevo vizijo, da so tovornjaki zasužnjili človeštvo in povsod vsiljujejo svoje vrednote, kot jih na primer silijo v gradnjo avtocest po vsem svetu. Iz njegovega domišljijskega sveta ga potegne zvok letala, ki leti v nebo.

Zgodba Stephena Kinga se je v času, ko je bila napisana, zdela futuristična, vendar ni tako daleč od realnosti sodobnega sveta. samovozeči tovornjakiže obstajajo, v prihodnosti pa bodo podjetja morda zamenjala voznike z avtonomnim navigacijskim sistemom in tako prihranila denar.

Lanski vdor v Sony dokazuje, da naši informacijski sistemi postajajo vse bolj ranljivi. To je ena od posledic vse večje informatizacije infrastruktur.

Vendar pa še ni razloga za skrb. Umetno inteligenco čaka še dolga pot, preden se bo lahko kosala s človeškimi možgani. Primer samovozečega tovornjaka to dobro ponazarja. Medtem ko so še vedno preveč nepopolni, da bi se samostojno vozili po natrpanih mestnih ulicah.

Bi si na telefon namestili aplikacijo za branje epohtimes člankov?

Globalna apokalipsa, ki vključuje AI (umetno inteligenco), vedno bolj straši vodilne svetovne raziskovalce na področju računalniške tehnologije. Lahko bi šlo za upor robotov, ki bodo, vodeni s svojim programom in vrednotami, želeli uničiti biološke oblike življenja na planetu. Možen je scenarij, v katerem stroji, ki jih nadzoruje umetna inteligenca, postanejo prevladujoča oblika življenja.

Zakaj so svetovno znani znanstveniki, kot so Bill Gates, Steve Hawking, Elon Musk in drugi, zaskrbljeni zaradi tega problema in javno razglašajo resnično grožnjo tega scenarija? Ali so lahko dogodki, ki so se zgodili v hollywoodskem filmu "Terminator", preroški? Znano je, da vsaka izmišljena zgodba temelji na resničnih dejstvih.

Računalniki postajajo vse boljši pri laganju in goljufanju

Laž je oblika vedenja, ki se je razvila v procesu evolucije. Ljudje, nekatere živali in ptice, se zatekajo k prevaram zaradi pridobivanja hrane in koristi, kar povečuje možnosti preživetja. Pred kratkim so te evolucijske metode uspešno prevzeli stroji z umetno inteligenco.

Oblikovalci s tehnološkega inštituta Georgia so napredovali pri ustvarjanju robotov, ki v algoritmih obnašanja uporabljajo laži in prevare. Znanstveniki verjamejo, da se bo ta tehnologija v prihodnosti široko uporabljala v vojaški sferi.

Predpostavlja se, da je mogoče prototipe robotov uporabiti v resničnih bojnih pogojih. Ti animirani mehanizmi bodo lahko izvajali dela za zaščito zalog in skladišč streliva. S pomočjo zavajajočih programov bodo stražarji prihodnosti lahko spreminjali svojo pot patruljiranja in izvajali nepredvidljive akcije. Kot načrtujejo razvijalci, bodo takšne metode pomagale zavajati potencialne sovražnike ljudi in drugih robotov.

Po mnenju profesorja Arkina je raziskovanje povezano s številnimi etičnimi vprašanji. Izguba nadzora nad tehnologijo, če je izpostavljena nasprotnikom, lahko povzroči resno katastrofo.

Stroji prevzemajo trg dela

Medtem ko je javnost zaposlena z razmišljanjem o svetovni vojni, ki vključuje umetno inteligenco, znanstveniki opisujejo bolj pereče in resnične nevarnosti. V proizvodnji se vse pogosteje uporabljajo razni avtomatski stroji in mehanizmi, ki uničujejo delovna mesta.

Številni analitiki in strokovnjaki se strinjajo, da lahko aktiven razvoj na področju logičnih programov in avtomatizacije privede do izgube služb mnogih ljudi. V Združenih državah Amerike je več kot 250.000 proizvodnih robotov, ki opravljajo tradicionalno človeško delo.

V vzhodnih državah, ki proizvedejo več kot 90% svetovne tehnologije, še vedno prevladuje ročno delo. Kaj se bo zgodilo z ljudmi, zaposlenimi v proizvodnji, s prihodom robotov, lahko le ugibamo.

Zaskrbljenost, da bodo stroji s trga dela izpodrinili ljudi, ni omejena na delavce. Strokovnjak za umetno inteligenco Andrew Ng iz projekta Google Brain in honorarni glavni strokovnjak pri Baidu (kitajski ekvivalent Googla) je prav tako izrazil zaskrbljenost zaradi aktivnega razvoja na področju umetne inteligence. Po njegovih besedah ​​je umetna elektronska inteligenca sposobna narediti enako kot navaden človek, le da hitreje, bolje in z manj sredstvi.

Univerza Oxford v Veliki Britaniji je izvedla raziskavo, ki odraža dinamiko vpliva umetne inteligence na proizvodnjo. Glede na prejete podatke bo v naslednjih dvajsetih letih 35 % delovnih mest namenjenih upravljanju AI.

Računalniški programi so boljši od hekerjev

Z vidika običajnega človeka je heker kot superčlovek, ki lahko doseže kakršen koli rezultat. V resnici so to programerji z utrujenim izrazom na obrazu in tradicionalno skodelico kave.

Hekanje je precej dolgočasna in dolgočasna dejavnost, ki zahteva veliko časa in sredstev. Poleg tega se celotni oddelki strokovnjakov ukvarjajo z razvojem programov za zaščito pred vdori. Največja grožnja "slabim hekerjem" prihaja iz naprednih sistemov, ki temeljijo na AI.

Umetna inteligenca se lahko uporablja ne le za zaščito, ampak tudi za vdiranje. Pod pogoji programa kibernetske varnosti se razvijajo AI-ji, ki so sposobni najti ranljivosti sovražnikov, medtem ko na spletu ščitijo njihove logične naprave pred zunanjimi grožnjami in napadi.

Po mnenju znanstvenikov se elektronski hekerji, ki temeljijo na AI, razvijajo v imenu skupnega dobrega in blaginje. Toda v primeru dostopa do takih programov s strani vsiljivcev lahko pride do žalostnih dogodkov. Strašljivo si je zamisliti situacijo, ko zmogljiva umetna inteligenca vdre v varnostne protokole jedrske elektrarne in prevzame popoln nadzor. V tej situaciji je lahko človeštvo nemočno.

Programi se naučijo razumeti motive ljudi

Vsakdanje življenje mnogih ljudi je neločljivo povezano z uporabo različnih družbenih omrežij. Eno najbolj priljubljenih omrežij na svetu je Facebook. Toda malo ljudi ve, da vsakič, ko oseba obišče strani tega družbenega omrežja, AI ne ostane neopažena. Med obiskom v Berlinu je Mark Zuckerberg spregovoril o ciljih AI.

Program je namenjen analizi vedenja uporabnikov na Facebook straneh. Na podlagi zbranih podatkov program izda priporočila glede interesov in preferenc občinstva. Vklopljeno tej stopnji razvoj avtonomnega sistema, sposobnega prepoznavanja vzorcev in samostojnega učenja v skladu s programom.

V prihodnosti je načrtovana izdelava inteligentne umetne inteligence, ki lahko samostojno izboljša svoje veščine s prepisovanjem svoje kode. To lahko vodi do izboljšanja življenja ali pa postane najnovejši razvoj človeštva.

Kiborgi bodo zamenjali ljubimce

Mnogi hollywoodski filmi temeljijo na ideji ljubezni in medvrstnem odnosu med človekom in strojem. Iz kraljestva fantazije ta koncept prehaja v sodobni svet.

Futurist dr. Ian Pearson verjame, da bo do leta 2050 seks med človekom in robotom pogostejši kot le med ljudmi. Znanstvenik aktivno sodeluje z Bondaro, vodilno verigo seks šopov v Veliki Britaniji.

Zdravniško poročilo omenja, da bodo do leta 2025 razviti roboti za seks z umetno inteligenco. Do leta 2035 bo seks skozi virtualno resničnost zelo razširjen, na ravni sodobne pornografije. In do leta 2050 bo seks z roboti postal del vsakdanje realnosti in postal norma.

Zagovorniki tradicionalnih vrednot, negativno nastrojeni do seksa z inteligentnimi stroji. Takšne povezave bodo merilo pričakovanj postavile previsoko, kar bo negativno vplivalo na odnos do žensk.

Stroji postajajo bolj človeški

Razvijalci na področju ustvarjanja humanoidnih robotov, Japonec Hiroshi Ishiguro in Kitajec Sun Yang, so ustvarili edinstven stroj. Cyborg Yang-Yang ima videz svojega ustvarjalca in je poimenovana po njeni hčerki. Stroj ima AI in je sposoben izvajati številna preprosta dejanja.

To ni edini humanoidni primer robotike. Singapurski tehnološki inštitut je predlagal tudi sodoben prototip kiborga Nadine. Tudi ta prototip ima umetno inteligenco in deluje v izobraževalni ustanovi.

Kiborg, oblikovan kot privlačna rjavolaska z mehko kožo, ima številne vgrajene funkcije. Robot se lahko sreča s sogovornikom in ga pozdravi z rokovanjem. Naprava lahko tudi nastavi očesni stik in se nasmehni. AI si lahko zapomni goste in vzdržuje preprost dialog na podlagi prejšnjih izkušenj.

Roboti dobijo občutke

Sodobni roboti po inteligenci niso nič slabši od ljudi. Zahvaljujoč najnovejšemu razvoju je kiborga precej težko razlikovati od osebe navzven. Zaenkrat je edina lastnost, ki je roboti v resnici nimajo, sposobnost čustvenosti. S tem problemom se ukvarjajo znanstveniki po vsem svetu. In kmalu se roboti popolnoma ne razlikujejo od ljudi.

Razvijalci iz vzhodnoazijske podružnice Microsoft Application & Services Group so izdali edinstven program. Računalnik je sposoben voditi dialog s sogovornikom in hkrati doživljati čustva. Umetna inteligenca, imenovana Hiaoche, je sposobna posnemati način govora sedemnajstletnice.

V primeru pomanjkanja podatkov se lahko sistem zateče k laži. Če jo ujamejo pri varanju, lahko Hiaoche izrazi jezo ali zadrego. AI se lahko zateče k sarkazmu, je sumničav in izraža nestrpnost.

Nepredvidljivost odzivov programa, ki spominja komunikacijo s prava oseba. Doslej tehnologija ni našla široke uporabe in se najpogosteje uporablja za zabavo. Ustvarjalec Xiaoche dela na izboljšanju logičnih algoritmov, kar lahko vodi do prihodnjega temeljnega preboja.

Avtomobili bodo kmalu v naših glavah

Glede na nedavni razvoj dogodkov se odpirajo nove možnosti. Ne zdi se več kot fantazija, priložnost za učenje tuj jezik v nekaj minutah, s prenosom v možgane. Googlov tehnični direktor Ray Kurzweil verjame, da bo do leta 2030 razvita tehnologija za vsaditev nano robotov v možgane. To bo dvignilo človeško inteligenco na bistveno novo raven.

Ti mikromehanizmi bodo zavest spremenili v močan računalniški center. Oseba si bo lahko takoj zapomnila vse informacije, razvrstila in poslala svoje misli v arhiv. Po potrebi bo mogoče prenašati filme, dokumente in prejemati e-pošto.

Strokovnjak za umetno inteligenco Kurzweil verjame, da simbioza z nano-roboti ne bo le povečala inteligence, ampak bo lahko tudi pozdravila številne bolezni, povezane z delovanjem živčnega sistema.

Grožnje uporabe takšne tehnologije lahko primerjamo s svetovno teorijo zarote. S pridobitvijo nadzora nad umom nad vodilnim politikom države ga bo AI lahko nadzoroval kot mlahavega zombija. Prav tako lahko tak sistem uporabljajo posebne službe, kar pa ne obeta nič dobrega.

Kako roboti postanejo orožje

S padcem Sovjetska zveza hladne vojne še ni konec. Na svetovnem prizorišču sta se pojavili dve novi velesili, Kitajska in Rusija. Amerika pa namenja na desetine milijard dolarjev za razvoj na področju računalniške varnosti.

Pentagon verjame, da je ključ do prihodnje tehnološke premoči v uporabi umetne inteligence. Aktivno se razvijajo samoučeči se avtonomni sistemi ter vzporedna in sorodna področja. Prototipi vojaške opreme, vodene na daljavo, so že razviti, treba jo je usposobiti za samostojno delovanje.

Uporaba takšnih naprav v času vojne obljublja velike koristi. Vojakom se ne bo treba izpostavljati sovražnikovemu ognju in tvegati svojih življenj. Morala sovražnika v vojni proti neživim robotom bo prav tako spodkopana.

Tukaj so tudi Zadnja stran. Vsaka računalniška oprema je nagnjena k okvaram in vdorom v sistem. V tem primeru lahko roboti, ki so izgubili nadzor, obrnejo svoje orožje proti svojim ustvarjalcem in civilnemu prebivalstvu.

Mnogi vodilni strokovnjaki na področju AI ne podpirajo ideje o ustvarjanju avtonomnih bojnih robotov. Toda v luči vedno večjega vojaškega spopada v svetu in odsotnosti mednarodne prepovedi uporabe tovrstnih tehnologij številne države izvajajo svoj razvoj v strogi tajnosti. Kmalu bo vedno več poročil o uporabi robotov na vročih točkah planeta.

Roboti se učijo v napačno smer

Zaradi predvidevanja morebitnih okvar v programih in za preprečitev vzpona strojev se razvijajo novi koncepti, katerih cilj je razložiti stroju pravilno in nezaželeno vedenje.

Ta razvoj naj bi potencialno naredil AI bolj človeški. Nekateri znanstveniki vidijo ta pristop kot ključ do preprečevanja, da bi umetna inteligenca obračala orožje proti človeštvu.

Georgia Institute of Technology izvaja edinstvene poskuse. Raziskovalci pod vodstvom Marka Riedla in Brenta Harrisona dobesedno pripovedujejo zgodbe računalniku. Na ta način želijo AI povezati s človeškimi vrednotami in razvijati njeno etiko. Znanstveniki za poučevanje programa uporabljajo metode, ki se uporabljajo pri vzgoji otroka. AI, tako kot neizkušen otrok, ne razlikuje med dobrim in slabim.

Ta pristop ima resno pomanjkljivost. Zgodovina človeštva vsebuje veliko primerov, ko so okoliščine prisilile celotne visoko razvite države, da so sprožile vojne in zagrešile grozote. Primer bi bila fašistična Nemčija, katere vojaki so izvajali genocid celih narodov. Obenem je bila nemška kultura ena najbolj razvitih v tistem času. Kaj bo preprečilo, da bi AI ponovil Hitlerjevo izkušnjo?

Umetna inteligenca (AI) je tema, ki je že dolgo na straneh poljudnoznanstvenih revij in se je nenehno dotikajo v filmih in knjigah. Več strokovnjakov razvija to področje znanosti, več veliki miti pokrita je.

Razvoj in prihodnost umetne inteligence skrbita tudi tiste, ki so na čelu države. Ne tako dolgo nazaj je ruski predsednik Vladimir Putin na dan 20. obletnice podjetja obiskal pisarno Yandex, kjer so mu pojasnili, kdaj bo AI presegla človeško inteligenco.

Kdor se le malo poglobi v bistvo potenciala umetne inteligence, razume, da te teme ni mogoče prezreti. To ni samo pomembna tema za razpravo, ampak verjetno ena najpomembnejših v kontekstu prihodnosti.

Z eno besedo, opazni uspehi so tudi pri nas.

Hitreje kot se razvijajo tehnologije umetne inteligence, bolj ljudi grabi strah, kako hitro bodo ostali brez dela. Je res vse tako slabo?

Da in ne. Človeštvo je že večkrat doživelo pojav tehnologij, ki so revolucionirale celoten proizvodni sektor.

Tako je bilo s parnim strojem v dobi industrijske revolucije, ki je praktično uničila številne poklice (predvsem povezane s primitivnimi fizično delo), tako je bilo z elektronskimi računalniki, ki so nadomestili človeka pri nalogah, ki temeljijo na pretočnih matematičnih izračunih.

V 15.–18. stoletju, ko so v Angliji »ovce jedle ljudi«, so bile družbene posledice res katastrofalne. Anglija je po različnih ocenah izgubila od 7 do 30 % prebivalstva. Takratna oblastna elita je bila resno zaskrbljena, kaj storiti z dodatnimi ljudmi. Jonathan Swift se je na ta iskanja odzval s humornim pamfletom, v katerem je predlagal uživanje otrok revnih.

Vendar pa danes vidimo, da so izumrle poklice nadomestili novi, prebivalstvo Zemlje pa je veliko večje kot v 18. stoletju. V 20. stoletju posledice avtomatizacije z družbenega vidika niso bile več tako katastrofalne. Vendar pa nevarnosti ne gre podcenjevati.

"Čez 30 let bodo roboti sposobni delati skoraj vse, kar lahko počnejo ljudje," je dejal Moshe Vardi, profesor računalniškega inženiringa in direktor Kennedyjevega inštituta za informacijsko tehnologijo na Univerzi Rice (William Marsh). To bo vodilo do dejstva, da bo več kot 50% prebivalcev Zemlje postalo brezposelnih.«

Roboti prevzemajo službe

Pred kratkim je predsednik odbora Državne dume za informacijsko politiko, informacijske tehnologije in komunikacije Leonid Levin dejal, da je za Rusijo pomemben problem zamenjave delovne sile z umetno inteligenco.

Prej ali slej bo ljudi nadomestil avtomatiziran sistem in 2% delovno aktivnega prebivalstva države se bo prelilo na trg. Zato je Levin rekel, kako jih zaposliti, tiste, ki bodo zaradi razvoja digitalnih tehnologij ostali brez službe.

Po besedah ​​predsednika se v bližnji prihodnosti soočamo z naraščanjem brezposelnosti. Toda ali nam bodo roboti res "vzeli" delovna mesta in ali je vredno skrbeti zaradi tega, je za Reedus povedal Sergey Markov, specialist za strojno učenje.

Sergej, tudi zdaj obstajajo »mrtvi poklici«, ki ne zahtevajo človeškega dela, čeprav se zdi, da pred 10 leti nihče ni mislil, da bodo na primer dirigenti kmalu postali nepotrebni. In kateri drugi poklici bodo nadomestili tehnologijo?

Bližamo se času, ko bodo stroji skoraj na vseh področjih prehiteli ljudi. Menim, da se mora družba soočiti s tem problemom, preden se povzpne na polno višino. Če so stroji sposobni narediti skoraj vse, kar lahko naredijo ljudje, kaj jim bo ostalo? je dejal Moshe Vardi, profesor računalniškega inženiringa in direktor Inštituta Ken Kennedy za informacijsko tehnologijo na Univerzi Rice.

Dolgo časa so tehnološke omejitve ovirale avtomatizacijo - stroji niso mogli prepoznati slik in govora, niso mogli govoriti, niso mogli dovolj dobro razumeti pomena izjav v naravnem jeziku, niso imeli dovolj podatkov, da bi se naučili marsikaj znanega ljudi.

Zahvaljujoč nedavnemu napredku na področju umetne inteligence so bile mnoge od teh omejitev dejansko odpravljene. Poleg tega so številni poklici sami doživeli preobrazbo, zaradi katere so bolj primerni za avtomatizacijo.

Na primer, sodoben pisarniški uradnik ne dopisuje na papirju, ampak v elektronski obliki, računovodja izvaja knjižbe ne na papirju, ampak v računovodskem programu, upravljavec stroja pogosto nadzoruje stroj ne s pomočjo ročajev, ampak s pomočjo nadzornega programa. Zato zdaj naloga avtomatizacije v mnogih poklicih ni več znanstvena in je postala zgolj inženirska.

Res je, da je zaenkrat večja verjetnost, da bo delovna mesta ustvaril proizvodni sektor, povezan z AI - potrebni so strokovnjaki na področju strojnega učenja in priprave podatkov, zaposleni za označevanje učnih nizov, strokovnjaki za implementacijo ... A na neki točki bodo električne ovce bo zagotovo začel jesti ljudi in za posledice je treba poskrbeti zdaj.

Ob tem je pomembno razumeti, da tehnološkega napredka ni mogoče ustaviti, poskus tega pa bo imel veliko bolj katastrofalne posledice.

Ali bomo lahko kdaj popolnoma zaupali robotom (AI) ali bi moral v vsakem poslu še vedno biti človeški dejavnik?

To vprašanje ima več vidikov. Po eni strani so bili ljudje v preteklosti previdni do skoraj vseh tehnik. Prvo dvigalo, prvi avto, prvi vlak ali letalo – vse to je bilo nekoč nenavadno in se je mnogim zdelo nevarno. Da, v mnogih pogledih je bilo nevarno - nesreče, ki jih povzroči človek, so zahtevale veliko življenj.

Pa vendar so se v naših dneh vse te stvari udomačile in ne povzročajo več velikega strahu. V tem smislu bodo naši zanamci bolj umirjeno obravnavali sisteme AI. Ljudje včasih radi mistificirajo stvari, ki jih ne razumejo. Divjak misli, da živi v parni lokomotivi zli duh, sodobni laik pa misli, da so naši sistemi AI zavestni, čeprav temu še zdaleč ni tako.

Po drugi strani pa mislim, da sistemi umetne inteligence za splošno uporabo ne bodo nikoli postali del naše industrije. Po mojem mnenju je prihodnost bolj verjetna za sintetične sisteme – torej za združitev človeka in stroja v en sam organizem. V tem smislu bo umetna inteligenca prihodnosti izboljšana človeška inteligenca.

Mimogrede, človeške inteligence tudi ni povsem pravilno imenovati naravno. Otrok od rojstva nima inteligence, družba, starši ga vsega naučijo. okolju. V tem smislu smo vi in ​​jaz vsi v bistvu "umetna inteligenca" in naši strahovi, povezani z AI, so v mnogih pogledih strahovi nas samih.

Nedavno so številni znanstveniki, na primer Stephen Hawking, Bill Gates ali isti Elon Musk, začeli paničariti, da AI obsoja človeštvo na smrt, in vidijo prihodnost kot nekakšno distopijo. Ali je treba takšne napovedi jemati resno?

Iskreno povedano, se mi teh izjav ne bi mudilo resno prestrašiti. Stephen Hawking zagotovo ni specialist za AI, prav tako ne Elon Musk.

Na drugi strani tehtnice so izjave ljudi, kot je Andrew Ng, ameriški računalničar, izredni profesor na univerzi Stanford, raziskovalec robotike in strojnega učenja ter vodilni specialist v laboratoriju za umetno inteligenco kitajske korporacije Baidu. .

Eun, ko govori o problemu varnosti AI, ga primerja s problemom prenaseljenosti Marsa - seveda bomo nekoč kolonizirali Mars in potem bo morda na neki točki problem prenaseljenosti. Toda ali je vredno to storiti danes?

Tudi Mark Zuckerberg je bil precej skeptičen do Muskovih trditev. "Umetna inteligenca bo v prihodnosti izboljšala naša življenja, napovedovanje konca sveta pa je zelo neodgovorno," je dejal.

Osebno menim, da je treba Muskove izjave obravnavati na pragmatičen način - Musk želi izpostaviti to temo in v idealnem primeru prejeti sredstva od države za njen razvoj.

Je res vse tako rožnato in ni razloga za skrb?

Resnične nevarnosti, povezane z razvojem umetne inteligence, so po mojem mnenju na povsem drugem nivoju, kot se običajno misli. Glavna tveganja niso povezana z dejstvom, da bomo ustvarili lasten "Skynet", ki bo zasužnjil človeštvo. Tveganja zaradi uvedbe tehnologij umetne inteligence in strojnega učenja so veliko bolj prozaična.

Če zaupamo rešitev pomembnih vprašanj enemu ali drugemu matematičnemu modelu, lahko trpimo zaradi napak pri njihovem razvoju. Umetna inteligenca, ki reproducira dejanja človeških strokovnjakov, bo podedovala njihove napake in pristranskosti. Napake v sistemih za upravljanje proizvodnje ali transporta lahko povzročijo katastrofe.

Zlonamerni posegi v delovanje vitalnih sistemov v pogojih popolne avtomatizacije lahko povzročijo nevarne posledice. Bolj ko so sistemi zapleteni, več potencialnih ranljivosti lahko imajo, vključno s tistimi, ki so povezane s posebnostmi določenih algoritmov umetne inteligence.

Seveda pa je za obvladovanje teh tveganj potrebno ustvarjati zakonodajni okvir, razumni varnostni predpisi, posebne metode za prepoznavanje ranljivosti. Nekateri sistemi AI bodo uporabljeni za nadzor drugih. Morda bo kodeks vitalnih sistemov treba objaviti za neodvisno revizijo. Z drugimi besedami, na tem področju je še veliko dela.

Avtorske pravice za slike Thinkstock Napis slike Simbioza človeka in stroja je ena od poti razvoja človeštva

Pametni stroji so se naučili blefirati, premagati profesionalce v šahu ali Go, prevesti in prepoznati človeški glas. Vsak teden spoznavamo nove podvige računalniških programov, ki že znajo postavljati medicinske diagnoze, risati kot Rembrandt, peti ali ustvarjati besedilo. Ali se mora človek bati umetne inteligence?

Tema umetne inteligence (AI / AI) je v zadnjih nekaj letih postala res »vroča«. Znanstveniki to pripisujejo hitremu razvoju nevronskih mrež (eno od področij raziskovanja na področju umetne inteligence), kar pa je postalo mogoče s prihodom zmogljivih računalnikov.

"Od začetka leta 2010 je to področje zaradi izjemnega napredka večplastnih nevronskih mrež (predvsem konvolucijskih in ponavljajočih) pritegnilo veliko pozornost tako znanstvenikov kot inženirjev in investitorjev," komentira avtor enega od ruskih šahovskih programov, specialist za metode strojnega učenja Sergej Markov.

Znanstvena skupnost se morda prepira o tem, kdaj se bodo pojavili pametni stroji, vendar se strinjajo v enem: razvoj tehnologije bo v prihodnosti brezpogojno vplival na družbo, gospodarstvo in odnose med ljudmi. Že zdaj se slišijo pozivi k razmisleku o etičnih načelih razvoja umetne inteligence in zagotavljanju, da se umetna inteligenca razvija v smeri, ki je varna za ljudi.

Ta mgradivo, pripravljeno kot odgovor na vprašanjes, poslanoenaši bralcio znanstvenih dosežkih. Svoja vprašanja o drugih temah lahko postavite na teh povezavah ( , ).

Ekonomski učinek in vpliv na trg dela

Znanstvena fantastika in Hollywood sta oblikovala pojem »umetne inteligence« kot naslednje oblike življenja na planetu, ki bo zasužnjila človeštvo v Matrici ali organizirala jedrski sodni dan. Preživele bo pokončal Terminator.

Avtorske pravice za slike Getty Images Napis slike Bo človeštvo umrlo zaradi Skyneta?

Pravzaprav kljub nedavni dosežki na področju umetne inteligence je do nastanka inteligentnih strojnih bitij še daleč, priznavajo znanstveniki in strokovnjaki. Tako tistim kot drugim pa svetujemo, naj bodo trenutno pozorni na nekatere vidike.

Globalni inštitut McKinsey ocenjuje, da bodo nove tehnologije v naslednjih desetih letih korenito spremenile svetovni trg dela in prihranile približno 50 bilijonov dolarjev.

Spremembe bodo vplivale na stotine milijonov delovnih mest. Vedno več ljudi bo nekatere svoje delovne naloge in številne rutinske naloge preložilo na stroj, kar jim bo omogočilo, da se osredotočijo na svoje ustvarjalno delo.

"Z določenega vidika ima človeštvo kot celota pomembno in zanimivo nalogo - razvijati se za vsakega posameznega posameznika veliko hitreje, kot človeštvo razvija sisteme umetne inteligence," je dejal Grigorij Bakunov, strokovnjak, direktor razširjanja tehnologije Yandex.

Toda skupaj z avtomatizacijo bo neizogibno trpelo tudi manj usposobljeno osebje, ki ga je treba zdaj zaščititi, prekvalificirati in pripraviti na novo življenje.

Kot kaže praksa, lahko trpijo ne le zaposleni, ampak tudi delavci znanja. Goldman Sachs je pred dnevi zamenjal ekipo 600 trgovcev z dvema človekoma in programi za avtomatizirano algoritemsko trgovanje, za vzdrževanje katerih je bilo angažiranih 200 razvijalcev programske opreme.

Avtorske pravice za slike Thinkstock Napis slike Številna opravila bodo kmalu postala v moči robotskih sistemov, ki bodo postopoma začeli nadomeščati ljudi.

Umetna inteligenca sama po sebi ni enaka avtomatizaciji procesov, vendar bo razvoj AI privedel do tega, da bo vedno več nalog v moči računalniškega programa.

Med rešitvami za problem izpodrivanja človeka s strojem na trgu dela je, kot poudarja Allison Dutman, programska koordinatorka Foresight Institute, neprofitne organizacije s sedežem v Silicijevi dolini za promocijo novih tehnologij, uvedba koncepta »univerzalnega temeljnega dohodka«, ki bi ga prejel vsak prebivalec, ne glede na dohodek in stopnjo zaposlenosti. Takšen prihodek bi se financiral s tako imenovanim davkom na vrednost zemljišč, o uvedbi katerega se zdaj aktivno razpravlja v Silicijevi dolini.

Ali je umetna inteligenca človek?

Ali je robotski sistem oseba? Ali lahko pametni računalnik glasuje? Katerega spola je? O razmerju med človekom in pametnim strojem že razpravljajo evropski poslanci in se sprašujejo, ali naj prihodnji roboti dobijo status »elektronske osebnosti«.

Kot poudarja Dutman, ljudje neradi delijo pravice s tistimi, ki jih ne razumejo, kar pomeni, da se bodo upirali »humanizaciji« umetne inteligence.

Avtorske pravice za slike AFP Napis slike Človeka in stroj ločuje glavna stvar - sposobnost razmišljanja

»Glede na to, koliko časa je človeštvo potrebovalo za obdarovanje enake pravice vseh ljudi, ne glede na barvo kože, raso ali spol, že lahko domnevamo, da avtomobilov ne prepoznajo takoj kot enakovrednega.

Skupaj z etičnimi vprašanji se pojavljajo tudi pravne podrobnosti: kdo bo prevzel odgovornost v primeru nesreče brezpilotnega vozila ali okvare pametnega medicinskega pripomočka – in moralna vprašanja: ali se splača razvijati brezpilotno orožje, ki bi lahko delovalo brez poznavanje osebe?

Tretja etična uganka je obravnavana pogosteje kot druge in veliko bolj vznemirja človeštvo: kaj teoretično lahko superinteligenca, pravi pametni stroj, naredi s človeštvom?

Učite etiko AI

Strokovnjaki na področju razvoja umetne inteligence priznavajo, da če ne v naslednjih 20-30 letih, bo človeštvo vendarle dočakalo nastanek prave umetne inteligence, ki bo pametnejša od svojega ustvarjalca.

»Zadnji bastion bo zavzet, ko bo ustvarjena tako imenovana »močna AI« (Strong AI, Artificial General Intelligence), torej taka AI, ki bo lahko odločala v nedogled. širok spekter intelektualne naloge,« pravi Sergej Markov.

In kar je najpomembneje, takšen AI bo lahko samostojno razmišljal.

Študija groženj, ki jih predstavlja umetna inteligenca, pa tudi etična vprašanja povezanih z novimi tehnologijami, so vključene številne ustanove, med njimi Future of Life Institute (Inštitut za prihodnost življenja), Foresight Institute, Future of Humanity Institute, OpenAI in druge.

Rešitev Allison Dutman z inštituta Foresight Institute je, da računalnik prebere vso znanstveno literaturo, znanstveni članki izpostaviti vprašanje etike in te informacije narediti kot podlago za njegove prihodnje odločitve.

Kaj so nevronske mreže in kakšna je njihova prihodnost?

Večina strokovnjakov napredek pri razvoju AI pripisuje razvoju nevronskih mrež.

Nevronske mreže so eno od področij raziskovanja na področju umetne inteligence, ki temelji na simulaciji bioloških procesov, ki se dogajajo v človeških možganih.

Njim dolgujemo pojav impresivnih rezultatov pri prepoznavanju govora in slik, medicinski diagnozi, prevajanju besedil in ustvarjanju slik, ustvarjanju govora in glasbenem sestavljanju.

Avtorske pravice za slike iStock Napis slike Prav z razvojem nevronskih sistemov znanstveniki povezujejo razvoj umetne inteligence.

Danes, kot priznavajo strokovnjaki, so nevronske mreže priznane kot eden najboljših algoritmov strojnega učenja, rešitve, ki temeljijo na njih, pa trenutno kažejo najbolj izjemne rezultate.

In to kljub dejstvu, da so sodobne nevronske mreže tisoč in pol enostavnejše od možganov podgane.

»Nevronske mreže, ki jih ustvarjamo, so zaenkrat relativno majhne v primerjavi z, recimo, nevronsko mrežo človeških možganov, poleg tega pa so zelo poenostavljen analog naravnih nevronskih mrež. Zato zaenkrat z s pomočjo nevronskih mrež rešujemo predvsem čisto uporabne probleme," - pravi Sergej Markov.

Trenutno se ustvarjajo specializirani procesorji za usposabljanje takšnih omrežij (tako imenovani nevromorfni procesorji), ki bodo povečali hitrost izračunov za več vrst velikosti.

Razvijalci zdaj niso samo zaposleni s povečevanjem števila nevronov v omrežju, ampak tudi s spreminjanjem zasnove omrežij. "Zapleteni sistemi konfiguracije omrežja so tisto, s čimer se trenutno izvaja največ eksperimentov," pravi Grigorij Bakunov.

Avtorske pravice za slike iStock Napis slike V bližnji prihodnosti bo več »pametnih« človeških pomočnikov – mikrosenzorji v steni, senzor v velikosti gumba, ki človeka opozori na nevarnost

Dejstvo, da so taki sistemi postali razmeroma dostopni velikemu številu običajnih razvijalcev, je privedlo do pojava startupov, ki eksperimentirajo z nevronskimi mrežami, kot je Prisma (aplikacija, ki omogoča obdelavo fotografij in njihovo spreminjanje v stilizacije slik slavnih umetniki) in Mubert (spletni skladatelj elektronske glasbe).

Kaj nas čaka v bližnji prihodnosti

Kot napoveduje Nick Lane, profesor na University College London in glavni znanstvenik pri Nokia Bell Labs, bo človeka obkrožalo več "pametnih stvari". Postali bodo manjši in učinkovitejši.

Profesor podaja naslednji primer: če je prej senzor, vgrajen v steno, lahko le vedel, da je nekdo šel mimo, potem v prihodnosti ne bo vedel le, kdo je šel mimo, ampak tudi, kako se človek obnaša, ali kaj potrebuje, ali ne predstavlja, ali je grožnja sebi ali drugim.

Senzor v velikosti gumba bo lahko osebo obvestil v primeru nevarnosti.

S profesorjem se strinja tudi Grigorij Bakunov iz Yandexa: »V bližnji prihodnosti bomo priča razcvetu razvoja ozkih umetnih inteligenc, ki pomagajo rešiti eno precej preprosto nalogo, ki pa jo bodo rešile celo bolje kot človek.«

Avtorske pravice za slike iStock Napis slike Vse več je etičnih vprašanj, povezanih z razvojem umetne inteligence

"Večina verjeten način razvoj naše civilizacije je način sinteze človeka in stroja: palica, obleka, avto, mobilni telefon, srčni spodbujevalnik ali polžev vsadek – ko se razvijamo, postajajo naši instrumenti vse bolj podobni podaljškom našega telesa. Že jutri bodo lahko stroji sprejemali miselne ukaze od človeka, zaznavali mentalno oblikovane vizualne podobe, prenašali informacije neposredno v možgane – takšni projekti že obstajajo zunaj sten najnaprednejših tehnoloških laboratorijev,« povzema Sergej Markov.

So novinarji še potrebni?

Časnik Financial Times je lani izvedel precej tvegan poskus, ko je hkrati izzval svojega dopisnika profila in pametni program z imenom Emma, ​​da napišeta izvod. Oba članka je moral nato prebrati urednik Financial Timesa in uganiti, za katerim od obeh zapisov stoji novinar in kateri računalnik.

Pred tovrstnim "crash testom" je dopisnik Financial Timesa priznal: "Mislim, da se bo program zagotovo spopadel z nalogo hitreje kot jaz. Ampak upam, da bom to še vedno naredil bolje."

In tako se je zgodilo: Emma se je res izkazala za hitrejšo - program je na podlagi statističnih podatkov o stopnji brezposelnosti v Veliki Britaniji ustvaril besedilo v 12 minutah. Novinarju je vzelo 35 minut. In kot je pozneje sama priznala, je Emma presegla svoja pričakovanja. Program ni le spretno obdeloval dejstev, ampak je novico postavil v kontekst in nakazal, kako bi morebitni brexit (to je bilo maja 2016, pred referendumom o izstopu Velike Britanije iz EU) lahko spremenil situacijo.

Avtorske pravice za slike Thinkstock Napis slike Bodo robotski sistemi nadomestili ljudi? Človeštvu je ostalo še 50 let, pomirjajo strokovnjaki

Toda Emma je naredila nekaj hujšega kot novinarka. "Emmin članek je bil napisan v nekoliko bolj nerodnem jeziku. Toda glavna stvar je bila, da je bilo v njem veliko številk," je priznal urednik FT. "In morda je glavna stvar, ki jo poskušamo narediti tukaj, izberite samo res pomembne številke.«

Emma je produkt startupa Stealth. Podjetje pravi, da ima Emma ekipo pomočnikov v živo, vendar trdi, da je vse, kar napiše ali naredi, samo produkt njenih "možganov".

Pa vendar - ali se je treba bati AI?

Številni, če ne vsi strokovnjaki, ki se danes ukvarjajo z razvojem sistemov umetne inteligence, priznavajo, da umetna inteligenca še ne bo kmalu naredila ljudi nepotrebne. Prav zato, ker umetna inteligenca še ni tako pametna. Glavna stvar, ki mu danes manjka, je avtonomna sposobnost razmišljanja.

"Zdaj se ne bi smeli bati umetne inteligence v nobeni obliki. Lahko počakate 30-40 let, dokler se ne zgodi nekaj res radikalnih sprememb," je dejal Bakunov.

Nekaj ​​pa se že dogaja: malo po malo se briše meja med delom ali nalogo, ki jo opravlja človek, in nalogo, ki jo opravlja stroj. Kot pojasnjujejo strokovnjaki, je že zdaj včasih težko razumeti, kdo sedi v sistemu - oseba ali stroj.

"Ni kriterijev, kdaj lahko razumemo, da se je znotraj stroja pojavila zavest," se sprašuje Bakunov.

Bo oseba postala sponka za papir?

Znan privrženec alarmantnega stališča, v okviru katerega grozote, opisane v Terminatorju, lahko postanejo resničnost, filozof Nick Bostrom, meni, da bo AI, ki je dosegel intelektualno raven človeka, sposobni uničiti človeštvo.

Avtorske pravice za slike Getty Images Napis slike Bo opisano v filmu postalo naša vsakdanja realnost?

Bostrom pojasnjuje na primeru sponk za papir: izzivate umetno inteligenco, da naredi sponke za papir čim večje in boljše. Na neki točki AI spozna, da je oseba grožnja, saj lahko izklopi računalnik, kar bo v nasprotju z nalogo izdelave čim več sponk. V primeru, da človek ni grožnja, se AI odloči, da so človeška telesa sestavljena iz atomov, ki jih je mogoče uporabiti za izdelavo odličnih sponk. Rezultat - računalnik bo človeštvo pripeljal do sponk.

Ta scenarij se mnogim zdi pretiran. Po mnenju Sergeja Markova, na primer, "visoka učinkovitost doseganja absurdnega cilja ni združljiva z absurdnostjo tega cilja - grobo rečeno, AI, ki je sposoben pretvoriti ves svet v sponke za papir, bo neizogibno dovolj pameten, da opusti tak cilj ."

Umetna inteligenca je kot zlata ribica

Margaret Boden, britanska specialistka za umetno inteligenco in profesorica kognitivne znanosti na univerzi v Sussexu, je skeptična do trditev o skorajšnjem prihodu pametnih strojev.

Avtorske pravice za slike Getty Images Napis slike Maja 1997 je Deep Blue II prvič premagal Garija Kasparova.

Profesor navede primer »zlate ribice«, ko si ribič v zameno za svobodo zaželi tri želje. Ena od želja je vrnitev sina iz vojne, druga je 50 tisoč dolarjev, tretja pa možnost, da si zjutraj zaželi še eno željo.

Še isti večer je potrkalo na ribičevo hišo. Sin se je vrnil iz vojne - v krsti. Rybak je prejel zavarovanje v višini 50 tisoč dolarjev.

"Zamenjajte ribo v tej prispodobi z AI in vse postane jasno, - pojasnjuje Boden. - Oh, ja, naslednji dan je ribič uporabil tretjo željo in - preklical prejšnji dve."

Ali je mogoče prenesti zavest v stroj?

Sergej Markov:

»Če govorimo o možnosti popolnega prenosa zavesti, potem so sodobni predhodniki takšne tehnologije prihodnosti projekti, kot je Blue Brain, namenjen ustvarjanju delujočih elektronskih analogov možganov, pa tudi projekti, namenjeni ustvarjanju možganov. strojni vmesniki (BCI) - naprave za protetiko izgubljenega vida, sluha, nadomeščanje izgubljenih udov, celo delov možganov.

Avtorske pravice za slike Znanstvena fototeka Napis slike Cilj strokovnjakov za umetno inteligenco je ustvariti "močno umetno inteligenco", ki bi bila sposobna reševati široko paleto problemov.

Zelo zanimivo in obetavno področje je optogenetika (načeloma je za povezavo možganov in stroja mogoče spremeniti ne le stroje, ampak tudi samo živčno tkivo, v njem ustvariti umetne fotoreceptorje).

Ko bo v okviru takšnih zasebnih projektov rešena široka paleta inženirskih problemov, mislim, da bo naloga prenosa zavesti postala povsem rešljiva. Sanjači že predlagajo hipotetične sheme za izvedbo takšnega projekta.

Na primer, Jan Korchmaryuk, ki je nekoč predlagal ime "settleretics" za smer raziskav, povezanih s prenosom zavesti, meni, da je najbolj obetavna shema uporaba specializiranih nanorobotov, vgrajenih v nevrone človeških možganov. Vendar pa je za uspešno izvedbo takšne sheme potrebno rešiti številne zapletene inženirske probleme.

Priljubljena ameriška internetna revija Wired je objavila izjemno zanimivo besedilo Kevina Kellyja, v katerem podrobno kritizira idejo o nevarnosti umetne inteligence. "NI" objavlja prevod tega gradiva, narejeno Telegram kanala Newochem z manjšimi rezi.

»Slišal sem, da bodo v prihodnosti računalniki z umetno inteligenco postali tako pametnejši od ljudi, da nas bodo prikrajšali za delovna mesta in vire, sčasoma pa bo človeštva konec. Ampak ali je? To je vprašanje, ki se mi postavi vsakič, ko predavam o AI.

Spraševalci so resni kot vedno, njihov nelagodje je deloma posledica tesnobe nekaterih strokovnjakov, ki jih muči isto vprašanje. Med njimi so najpametnejši naši sodobniki - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris in Bill Gates.

Vsi dopuščajo možnost takšnega scenarija. Na nedavni konferenci o AI je skupina devetih najbolj razsvetljenih gurujev na tem področju prišel do soglasnega zaključka, da je ustvarjanje nadčloveške inteligence neizbežno in ni daleč.

Pa vendar scenarij zasužnjevanja človeštva s strani umetne inteligence temelji na petih predpostavkah, ki pa se ob natančnejšem pregledu izkažejo za nedokazane. Te izjave bodo morda v prihodnosti resnične, vendar do danes ni bilo nič potrjeno.

Tukaj so:

1. Umetna inteligenca že zdaj postaja pametnejša od človeškega uma in ta proces je eksponenten.
2. Razvili bomo splošno umetno inteligenco, podobno naši.
3. Iz silicija lahko ustvarimo človeško inteligenco.
4. Inteligenca je lahko neomejena.
5. Izgradnja veličastne superinteligence bo rešila večino naših težav.

V nasprotju s temi ortodoksnimi postulati lahko navedem naslednjo dokazano herezijo:

1. Inteligenca ni enodimenzionalna, zato je "pametnejši od osebe" nesmiseln koncept.
2. Ljudje niso obdarjeni s splošnim umom, kar tudi ne ogroža umetne inteligence.
3. Rivalstvo med človekom in računalnikom bo omejeno s stroški.
4. Inteligenca ni neomejena.
5. Ustvarjanje AI je le del napredka.

Če prepričanje o zasužnjevanju človeka s strani umetne inteligence temelji na petih neutemeljenih predpostavkah, potem je ta ideja bolj podobna verskim prepričanjem – mitom. V naslednjih poglavjih bom svoje protiargumente dopolnil z dejstvi in ​​dokazal, da nadčloveška umetna inteligenca ni nič drugega kot mit.

Najpogostejša napačna predstava o AI izhaja iz enako priljubljenega prepričanja o naravni inteligenci, da je enodimenzionalna. V natančnih znanostih mnogi upodabljajo inteligenco tako, kot je to naredil Nick Bostrom v svoji knjigi Supermind – dobesedno kot enodimenzionalni linearni graf z naraščajočo amplitudo.

Na enem koncu so bitja z najnižjo stopnjo inteligence, na primer majhne živali, na drugi strani pa geniji, kot da se raven inteligence ne razlikuje od ravni zvoka, merjene v decibelih. Seveda si je v takem primeru enostavno predstavljati nadaljnji porast, pri katerem stopnja inteligence preseže najvišjo oceno lestvice in jo celo preseže.

Tak model je topološko enakovreden lestvi, na stopnicah katere so stopnje inteligence razvrščene v naraščajočem vrstnem redu. Manj inteligentne živali zasedajo spodnje stopnice lestvice, umetna inteligenca višje ravni pa se bo neizogibno nahajala nad nami. Časovni okvir, kdaj se to zgodi, ni pomemben. Veliko bolj pomembne so same stopnice hierarhije – metrika naraščajoče inteligence.

Težava s tem modelom je, da je mitičen, kot je model evolucijske lestve. Pred darvinizmom so divje živali predstavljali kot lestvico živih bitij, kjer je človek zasedal stopničko nad bolj primitivnimi živalmi.

In tudi po Darwinu je eden najpogostejših konceptov lestev evolucije. Prikazuje preobrazbo rib v plazilce, njih v sesalce, primatov v ljudi. Poleg tega je vsako naslednje bitje bolj razvito (in seveda bolj inteligentno) od svojega predhodnika. Torej je lestev intelekta v korelaciji z lestvijo vesolja. Vendar oba modela odražata popolnoma protiznanstvena stališča.

Bolj natančen vzorec naravne evolucije bi bil disk, ki se odmika navzven, kot na zgornji sliki. Prvič je takšno strukturo razvil David Hillis z Univerze v Teksasu, in to na podlagi DNK. Ta genealoška mandala se začne v središču z najbolj primitivnimi oblikami življenja in se nato razveja navzven. Čas teče naprej, zato najbolj kasnejše oblikeživljenja se nahajajo po obodu kroga.

Ta slika poudarja nerazumljivo dejstvo o evoluciji temeljnega pomena – vsa živa bitja so se razvijala enako. Človek se nahaja na zunanjem delu diska skupaj s ščurki, mehkužci, praprotmi, lisicami in bakterijami.

Brez izjeme so vse vrste šle skozi neločljivo verigo uspešnega razmnoževanja treh milijard let, kar pomeni, da so se bakterije in ščurki razvili tako visoko kot ljudje. Ni stopnic.

Prav tako ne obstaja lestvica inteligence. Inteligenca ni enodimenzionalna. To je kompleks različne vrste in načine spoznavanja, od katerih je vsak neprekinjen. Naredimo preprosto vajo za merjenje inteligence pri živalih. Če bi bil intelekt enodimenzionalen, bi zlahka razvrstili papigo, delfina, konja, veverico, hobotnico, sinjega kita, mačko in gorilo po naraščajočem vrstnem redu intelekta.

Ne zdaj znanstveni dokaz obstoj takega zaporedja. Razlog za to je lahko pomanjkanje razlik med stopnjo inteligence določenih živali, vendar je tudi to nerazumno.

Zoologija je bogata s primeri osupljivih razlik v razmišljanju živali. Mogoče so vse živali obdarjene z "splošno" inteligenco? Morda, vendar nimamo niti enega orodja za merjenje te vrste inteligence. Vendar pa imamo veliko sistemov merjenja za različne vrste kognicije.

Namesto ene vrstice decibelov bi bilo pravilneje prikazati inteligenco kot verjetnostni prostorski diagram, kot pri vizualizaciji možnih oblik, ki jo je ustvaril algoritem Richarda Dawkinsa. Inteligenca je kombinatorni kontinuum. Številna vozlišča, od katerih je vsako kontinuum, ustvarjajo kompleks ogromne raznolikosti v mnogih dimenzijah. Nekatere vrste inteligence so lahko zelo kompleksne, z velikim naborom podvozlišč mišljenja. Drugi so enostavnejši, a bolj ekstremni, dosežejo skrajno točko prostora.

Te komplekse, ki nam pomenijo različne vrste razuma, lahko dojemamo kot simfonije, ki se izvajajo na različnih vrstah glasbil. Ne razlikujejo se le po glasnosti, ampak tudi po melodiji, barvi, tempu itd. Lahko si jih predstavljate kot ekosistem. V tem smislu so različne komponente miselnih vozlišč soodvisne in so zgrajene druga iz druge.

Kot je rekel Marvin Minsky, je človeška zavest družba razuma. Naše razmišljanje je popoln ekosistem. Naši možgani imajo veliko načinov spoznavanja, ki opravljajo različne mentalne funkcije: dedukcija, indukcija, čustvena inteligenca, abstraktno in prostorsko mišljenje, kratkoročni in dolgoročni spomin.

Vse živčni sistemČlovek je del možganov s svojo stopnjo kognicije. Dejstvo je, da proces razmišljanja ne izvajajo možgani, temveč celotno človeško telo.

Vse različice mišljenja se razlikujejo tako med vrstami kot med pripadniki iste vrste. Veverica si lahko več let zapomni točno lokacijo več tisoč želodov, kar je človeku popolnoma nerazumljivo. V takšnem razmišljanju so ljudje manjvredni od beljakovin. Veveričji um je kombinacija te supermoči z drugimi oblikami inteligence, v katerih je človek boljši od veverice. V živalskem kraljestvu je mogoče najti veliko primerov večvrednosti nekaterih oblik živalske inteligence nad človeško.

Enako se je razvilo z umetno inteligenco, ki je na nekaterih področjih že boljša od človeške. Vsak kalkulator je matematični genij in Googlov spomin je že na nek način boljši od našega.

Nekatere umetne inteligence izvajajo takšno mentalno dejavnost, ki je mi nismo sposobni. Zapomniti si vsako besedo na šestih milijardah spletnih strani je nemogoča naloga za človeka in malenkost za iskalnike. V prihodnosti bomo ustvarili popolnoma nove načine razmišljanja, ki človeku niso na voljo in v naravi ne obstajajo.

Izumitelji letečih naprav so se zgledovali po naravnem letu – mahanju s krili. Kasneje pa so izumili fiksno krilo s propelerji, ki so bili nanj pritrjeni, in to je bil popolnoma nov princip letenja, ki ga v naravi ni.

Tako izumljamo nove načine razmišljanja, ki jih ni sposobna nobena vrsta. Najverjetneje bodo to načela, uporabna samo za visoko specializirane probleme: na primer nove logične konstrukcije, ki so potrebne samo v statistiki in teoriji verjetnosti.

Nova vrsta razmišljanja bo pomagala rešiti probleme, ki jim človeški um ni kos. Nekatera najtežja vprašanja v podjetništvu in znanosti zahtevajo rešitev v dveh korakih. Prvi korak je izumiti nov način naravnega razmišljanja. Drugi je, da začnemo iskati odgovore skupaj z AI.

Ljudje bodo začeli imeti AI za pametnejšo od sebe, če bo z njeno pomočjo rešila prej nerešljive težave. Pravzaprav AI razmišljanje ni boljše od našega, je le drugačno. Menim, da je glavna prednost umetne inteligence ta, da lahko razmišlja kot tujec, in ta odtujenost je njena glavna prednost.

Poleg tega bomo ustvarili kompleksne "skupnosti" AI z različnimi miselnostmi. Tako zapleteni bodo, da bodo lahko rešili probleme, ki jim ne bomo kos. Zato bodo nekateri zmotno mislili, da so kompleksi AI pametnejši od ljudi. Ampak tega ne mislimo iskalni sistem Google je pametnejši od človeka, čeprav je njegov spomin boljši od našega.

Verjetno nas bodo ti kompleksi umetne inteligence presegli na mnogih področjih, vendar nobeden od njih ne bo presegel ljudi povsod naenkrat. Podobna situacija je tudi pri nas fizična sila. Dvesto let po industrijski revoluciji noben stroj ni v vseh pogledih presegel povprečnega človeka, čeprav so stroji kot razred močno boljši od ljudi v hitrosti teka, dvigovanju uteži, natančnosti rezanja in drugih dejavnostih.

Kljub kompleksnosti strukture umetne inteligence je nemogoče izmeriti z metodami sodobne znanosti. Nimamo orodij, s katerimi bi ugotovili, kaj je težje, kumara ali boeing 747, in nimamo načina, da bi izmerili razlike v njuni kompleksnosti. Zato še vedno nimamo natančnih meril intelektualne sposobnosti.

Sčasoma bo vedno težje ugotoviti, kaj je težje in s tem pametnejše: inteligenca A ali inteligenca B. Veliko je neraziskanih področij duševne dejavnosti in predvsem to nam preprečuje, da bi razumeli, da um ni enodimenzionalno.

Druga napačna predstava o človeškem umu je, da verjamemo, da je naš um univerzalen. To splošno razširjeno prepričanje oblikuje našo pot do umetne splošne inteligence (AGI), ki so jo nekoč promovirali strokovnjaki za AI.

Vendar, če razmišljamo o umu kot o ogromnem prostoru možnosti, ne moremo govoriti o stanju splošnega namena. Človeški um ne zaseda nekega abstraktnega osrednjega mesta in druge specializirane vrste uma se ne vrtijo okoli njega.

Namesto tega je človeška inteligenca izjemno specifična vrsta inteligence, ki se je razvijala v milijonih let za preživetje naše vrste na tem planetu. Če bi hoteli naš intelekt postaviti med vse ostale možne vrste razlog, bi bil nekje v kotu - kot naš svet sam, stisnjen na robu ogromne galaksije.

Seveda si lahko zamislimo in včasih izmislimo nekakšno razmišljanje, ki je po svojih značilnostih podobno švicarskemu nožu. Zdi se, da je kos številnim nalogam, a ne z udarcem.

Sem spada tudi tehnično pravilo, ki ga morajo upoštevati vse stvari, ne glede na to, ali so bile ustvarjene namerno ali rojene. naravno: »Vseh meritev ni mogoče optimizirati. Najdete lahko samo kompromise. Večnamenski stroj vse v enem ne more preseči specializiranih funkcij.«

Zavest "naredi vse" ne more delovati enako kot specializirani izvajalci posebne naloge. Ker menimo, da je naša zavest univerzalen mehanizem, menimo, da kognicija ne bi smela temeljiti na kompromisih in da je mogoče izumiti umetno inteligenco, ki izkazuje največjo stopnjo učinkovitosti pri vseh vrstah mišljenja.

Vendar ne vidim nobenega dokaza za to trditev. Preprosto še nismo ustvarili dovolj variant zavesti, ki bi nam omogočile videti popolna slika(zaenkrat raje ne obravnavamo zavesti živali skozi prizmo enega parametra kot ločene vrste mišljenja s spremenljivo amplitudo).

Del tega prepričanja, da je naše razmišljanje čim bolj univerzalno, izhaja iz koncepta univerzalnega računanja. To predpostavko so leta 1950 poimenovali Church-Turingova teza. Navaja, da so vsi izračuni, ki izpolnjujejo določene parametre, enakovredni.

Tako obstaja univerzalna osnova za vse izračune. Ne glede na to, ali se izračun izvede v enem samem stroju z veliko hitrimi stroji, stroju z manjšo zmogljivostjo ali celo v bioloških možganih, gre za enak logičen proces. To pa pomeni, da lahko vsak računski proces (razmišljanje) simuliramo s katerimkoli strojem, ki lahko izvaja »univerzalne« izračune.

S tem principom zagovorniki singularnosti utemeljujejo svoja pričakovanja, da lahko oblikujemo umetne možgane na osnovi silicija, ki se bodo lahko prilagodili človeški zavesti, da lahko ustvarimo umetno inteligenco, ki bo razmišljala enako kot človek, a mnogokrat bolj učinkovito. Te upe je treba obravnavati z določeno mero skepse, saj temeljijo na napačni interpretaciji Church-Turingove teze.

Izhodišče te teorije je: "V pogojih neomejenega pomnilnika in časa so vsi izračuni enakovredni." Težava je v tem, da v resnici noben računalnik nima lastnosti neskončnega pomnilnika ali časa. Ko delate izračune v resničnem svetu, je časovna komponenta izjemno pomembna, do te mere, da je pogosto vprašanje življenja in smrti.

Da, vse vrste razmišljanja so enakovredne, če izvzamemo časovni vidik. Da, možno je posnemati človeški miselni proces v kateri koli matrici, če se odločite, da ne upoštevate časa ali omejitev prostega prostora in spomina v resničnem svetu.

Če pa v to enačbo vključimo časovno spremenljivko, bomo morali bistveno spremeniti formulacijo načela: "Dva računalniška sistema, ki delujeta na radikalno različnih platformah, ne bosta proizvedla enakovrednih izračunov v realnem času."

To načelo je mogoče preoblikovati na naslednji način: »Edini način, da pridobimo enakovredne načine razmišljanja, je, da jih izvajamo na isti podlagi. Fizični medij, na katerem izvajate svoje izračune - še posebej, ko se stopnja njihove kompleksnosti povečuje - pomembno vpliva na način razmišljanja v realnem času.

Če nadaljujem logično verigo, bom domneval, da je edini način za ustvarjanje vrste razmišljanja, ki je čim bližje človeku, ta, da izvajamo izračune z uporabo snovi, ki je čim bolj podobna naši sivi snovi.

To pomeni, da lahko domnevamo tudi, da bo obsežna, kompleksna umetna inteligenca, ustvarjena na osnovi suhega silicija, ustvarila okorno, zapleteno in človeškemu ne podobno razmišljanje. Če bi bilo mogoče ustvariti umetno inteligenco, ki deluje na mokri snovi z uporabo umetnih nevronov, kot so človeški, bi bil miselni proces takšne umetne inteligence veliko bližje našemu.

Prednosti takšnega »mokrega« sistema so sorazmerne z bližino uporabljenih fizičnih medijev človeškim. Ustvarjanje takšne snovi bi zahtevalo ogromne materialne stroške, da bi dosegli raven, ki je vsaj podobna tisti, ki nam je lastna po naravi. In na ta način lahko ustvarimo novo osebo - samo počakati morate 9 mesecev.

Poleg tega, kot smo že omenili, razmišljamo s celotnim bitjem, ne samo z zavestjo. Sodobna znanost ima veliko podatkov o tem, kako naš živčni sistem vpliva na »racionalno« odločanje, predvideva in se prilagaja. Bolj ko upoštevamo sistem človeškega telesa, bolj skrbno ga lahko pozneje ponovno ustvarimo. Tudi umetna inteligenca, ki deluje na substanci, radikalno drugačni od naše (suh silicij namesto mokrega ogljika), bo razmišljala drugače.

Mislim, da ta funkcija ni več "funkcija, ne napaka". Kot sem trdil v drugem odstavku tega članka, so razlike v miselni proces AI je njegova glavna prednost. Tu je še en razlog, zakaj bi bilo napačno reči, da je »pametnejši od človeških možganov«.

V središču koncepta nadčloveške inteligence – in zlasti teorije o nenehnem samoizboljševanju takšne umetne inteligence – leži iskreno prepričanje o brezmejnosti inteligence. Za to trditev nisem našel nobenega dokaza.

Zmotno dojemanje inteligence kot sistema, ki ga opredeljuje le ena dimenzija, spet prispeva k širjenju te trditve, vendar moramo razumeti, da ostaja neutemeljena. V vesolju ni neskončnih fizičnih razsežnosti – vsaj znanosti še niso znane.

Temperatura ni neskončna - obstajajo minimalni in največji indikatorji mraza in toplote. Tudi prostor in čas nista neomejena, prav tako hitrost. Morda lahko numerično os imenujemo neskončna, vendar imajo vsi drugi fizični parametri svoje meje. Seveda je tudi sam um končen.

Postavlja se vprašanje: kje so meje inteligence? Včasih smo verjeli, da je meja nekje daleč, toliko »nad« nami, kot smo mi »nad« mravljami. Če pustimo ob strani nerešen problem enodimenzionalnosti, kako lahko dokažemo, da še nismo dosegli meje? Zakaj ne moremo biti krona stvarstva? Ali pa smo morda že skoraj dosegli meje človeških zmožnosti? Zakaj verjamemo, da je inteligenca koncept, ki se neskončno razvija?

Bolje je, da našo inteligenco obravnavamo kot eno od različic ogromnega števila vrst mišljenja. Čeprav ima vsaka dimenzija spoznanja in računanja mejo, če obstaja na stotine dimenzij, potem obstaja nešteto vrst inteligence, vendar nobena od njih ni neskončna v nobeni dimenziji.

Ko ustvarjamo ali se srečujemo s temi neštetimi variacijami na temo zavesti, jih lahko doživimo kot tiste, ki presegajo naše sposobnosti. V svoji najnovejši knjigi The Inevitable sem skiciral seznam nekaterih od teh sort, ki so tako ali drugače slabše od nas. Tukaj je del tega seznama:

Um, čim bližje človeku, vendar z višjo stopnjo reakcije (najenostavnejša umetna inteligenca);

Zelo počasen um, katerega glavne komponente so dovolj prostora za shranjevanje in spomin;

Univerzalna inteligenca, sestavljena iz milijonov individualnih zavesti, ki delujejo usklajeno;

Panjski um, sestavljen iz velikega števila izjemno produktivnih inteligenc, ki se ne zavedajo, da so eno;

Borg supermind (rasa kiborgov s kolektivnim umom, ki poskuša asimilirati vsa živa bitja iz serije Zvezdne steze v svoj kolektiv - pribl. Novo kaj) - skupek visoko funkcionalnih intelektov, ki se jasno zavedajo, da so ena celota;

Um, zasnovan za razvijanje osebne zavesti uporabnika, vendar neuporaben za nikogar drugega;

Razum, sposoben zamisliti kompleksnejši um, ne more pa ga ustvariti;

Razum, sposoben nekega dne uspešno ustvariti bolj kompleksen um;

Razum, ki je sposoben ustvariti bolj kompleksen um, ta pa lahko ustvari še bolj kompleksen um itd.;

Reason, ki ima hiter dostop do svoje izvorne kode (lahko kadar koli spremeni značilnosti svojega delovanja);

Super-logičen um, brez sposobnosti doživljanja čustev;

Standardni um, usmerjen v reševanje problemov, vendar nezmožen introspekcije;

Um, ki je sposoben introspekcije, vendar ni sposoben rešiti nalog, ki so mu dodeljene;

Um, katerega postajanje traja dolgo obdobječas, ki potrebuje zaščitniški um;

Izjemno počasen um, razpršen po velikem fizičnem prostoru, ki se zdi "neviden" hitreje odzivnim oblikam zavesti;

Um, ki lahko hitro in vedno znova reproducira svoje kopije;

Um, ki je sposoben reproducirati svoje kopije in ostati eno z njimi;

Um, ki je sposoben doseči nesmrtnost s premikanjem od gostitelja do gostitelja;

Hiter, dinamičen um, sposoben spreminjati proces in naravo mišljenja;

Nano-um, najmanjša samostojna enota (glede na velikost in sproščeno energijo), sposobna introspekcije;

Um, specializiran za pisanje scenarijev in napovedovanje;

Um, ki nikoli ničesar ne pozabi, tudi napačnih informacij;

Pol stroj, pol žival;

Pol stroj, pol androgin kiborg;

Um, ki pri svojem delu uporablja nam nerazumljivo kvantitativno analizo.

Danes nekateri vsako od naštetih različic razmišljanja imenujejo nadčloveška umetna inteligenca, v prihodnosti pa nas bo raznolikost in odtujenost teh oblik inteligence prisilila, da se obrnemo k novim slovarjem in podrobno preučimo tematiko mišljenja in inteligence.

Poleg tega privrženci ideje o nadčloveški umetni inteligenci predvidevajo, da bo raven njegovih mentalnih sposobnosti eksponentno rasla (čeprav še vedno nimajo sistema za ocenjevanje te ravni). Morda verjamejo, da je proces eksponentnega razvoja že v teku.

Kakorkoli že, danes ni dokazov o taki rasti, kakorkoli že merite. V nasprotnem primeru bi to pomenilo mentalna sposobnost AI se v določenem času podvoji.

Kje je potrditev za to? Edina stvar, ki trenutno eksponentno raste, so naložbe v industrijo umetne inteligence. Toda donosnosti teh naložb ni mogoče opisati z Moorovim zakonom. AI ne postane dvakrat pametnejši v treh ali celo v desetih letih.

Vprašal sem veliko strokovnjakov za umetno inteligenco, vendar so se vsi strinjali, da nimamo meril za razumnost. Ko sem vprašal Raya Kurzweila, pravega čarovnika eksponenta, kje najti dokaze o eksponentnem razvoju AI, mi je napisal, da razvoj AI ni eksploziven, ampak postopen proces.

»Za dodajanje nove ravni v hierarhijo je potrebno eksponentno povečanje računske moči in povečanje kompleksnosti algoritma ... Tako bi morali pričakovati linearno povečanje števila pogojnih ravni, saj vsaka od njih zahteva eksponentno povečanje naših lastnih zmogljivosti. Nimamo več veliko težavnostnih stopenj, da bi dosegli sposobnosti umetne inteligence neokorteksa (glavni del človeške skorje, ki je odgovoren za višje živčne funkcije – pribl. Novo kot), zato še vedno verjamem, da so moje domneve o letu 2029 pravilne.«

Zdi se, da Ray pravi, da ne raste eksponentno moč umetne inteligence, ampak prizadevanja za njeno ustvarjanje, medtem ko se njihov rezultat vsakokrat le poveča za eno stopnjo. To je skoraj nasprotje hipoteze o eksploziji inteligence. To se lahko v prihodnosti spremeni, vendar AI danes očitno ne raste eksponentno.

Ko si torej predstavljamo »razcvet AI«, si ga ne smemo predstavljati kot plaz, temveč kot razcep na številne nove sorte. Rezultat tehnološkega napredka najverjetneje ne bo nadčlovek, ampak nadčlovek. Onkraj našega znanja, vendar ne nujno "nad" njim.

Še en mit o zasužnjevanju superinteligenci, ki je samoumeven, a komaj podprt z dokazi, pravi, da lahko skoraj neskončna inteligenca hitro reši vse naše težave.

Številni zagovorniki bliskovito hitre umetne inteligence pričakujejo, da bo sprožila pravi razcvet. Vero v to imenujem "thinkism", izraz je prevedel Vyacheslav Golovanov - pribl. Novo kaj). Ta pristop temelji na prepričanju, da napredek ovira le nezadostna raven razmišljanja oziroma inteligence. (Ugotavljam tudi, da je vera v AI kot zdravilo za vse bolezni značilna za večino ljudi, ki radi razmišljajo s svojo glavo.)

Razmislimo o vprašanju premaganja raka ali podaljšanja življenja. To so težave, ki jih ni mogoče rešiti samo z razmišljanjem. Nobena količina misli ne more ugotoviti, kako se celice starajo ali kako se telomeri skrajšajo. Nobena inteligenca, ne glede na to, kako kul, ne more razumeti, kako deluje Človeško telo tako da preprosto preberete vso znano znanstveno literaturo na svetu in jo analizirate.

Super-AI ne more samo pomisliti na vse sedanje in pretekle poskuse jedrske cepitve in dan kasneje pripraviti recept za jedrsko fuzijo. Če želite preiti od nerazumevanja do razumevanja katere koli teme, potrebujete nekaj več kot samo razmišljanje.

V resnici obstaja veliko eksperimentov, od katerih vsak daje cel kup nasprotujočih si podatkov in zahteva nadaljnje eksperimente za oblikovanje pravilne delovne hipoteze. Samo razmišljanje o možnih rezultatih ne bo prineslo pravilnega rezultata.

Mišljenje (inteligenca) je le del instrumenta znanosti. Najverjetneje le majhen del. Na primer, preprosto nimamo dovolj podatkov, da bi se približali rešitvi problema smrti. V primeru dela z živimi organizmi večina teh poskusov zahteva čas. Počasnega celičnega metabolizma ni mogoče pospešiti. Za doseganje rezultatov so potrebna leta, meseci ali vsaj dnevi.

Če želimo vedeti, kaj se zgodi s subatomskimi delci, ni dovolj, da o njih razmišljamo. Izdelati moramo zelo velike, zelo zapletene, zelo sofisticirane fizikalne modele, da ugotovimo. Tudi če največ pametni fiziki postali tisočkrat pametnejši kot sedaj, brez trkalnika ne bodo izvedeli nič novega.

Nobenega dvoma ni, da lahko super-AI pospeši razvoj znanosti. Ustvarimo lahko računalniške modele atomov ali celic, jih lahko pospešimo na mnogo načinov, vendar obstajajo težave, zaradi katerih simulacije ne morejo takoj napredovati.

Ne smemo pozabiti, da je mogoče simulacije in modele raziskati hitreje kot njihove subjekte samo zato, ker zavržejo določene spremenljivke. To je bistvo manekenstva. Pomembno je tudi omeniti, da je potrebno veliko časa za testiranje, preučevanje in potrjevanje takšnih modelov, tako da ustrezajo ravni predmetov. Preizkušanja z izkušnjami ni mogoče pospešiti.

Poenostavljene različice v simulaciji so uporabne za iskanje najbolj obetavnih načinov za pospešitev napredka. A v resnici ni nič odveč, vse je do neke mere pomembno - to je ena velika definicija realnosti. Ko modeli in simulacije postajajo vse bolj podrobni, se raziskovalci soočajo z dejstvom, da resničnost teče hitreje od svoje 100-odstotne simulacije.

Tu je še ena definicija resničnosti: najhitreje delujoča različica vseh možnih podrobnosti in stopenj svobode. Če bi lahko simulirali vse molekule v celici in vse celice v človeškem telesu, ta model ne bi deloval tako hitro kot človeško telo. Ne glede na to, kako premišljeno načrtujete tak model, boste še vedno morali porabiti čas za eksperimentiranje, ne glede na to, ali gre za pravi sistem ali simulacijo.

Da bi bila umetna inteligenca uporabna, jo je treba uvesti v svet in v tem svetu se potrebna hitrost inovacij precej hitro spreminja. Brez prvih poskusov, prototipov, napak in vpetosti v realnost lahko razum razmišlja, vendar ne bo dajal rezultatov. Nobenega trenutnega odkritja ne bo naredil niti v sekundi, niti v eni uri, niti v enem letu, potem ko ga imenujejo "pametnejši od človeka".

Pojavi se AI. Seveda se bo stopnja odkrivanja pospešila, ko bo ta umetna inteligenca postala bolj zapletena, delno zato, ker bo tuja umetna inteligenca postavljala vprašanja, ki si jih ne bi zastavil noben človek, a tudi zelo močna (v primerjavi z nami) inteligenca ne zagotavlja takojšnjega napredka. Za reševanje problemov je potrebno veliko več kot le inteligenca.

Problema raka in dolgoživosti nista edina, ki ju samo inteligenca ne more rešiti. Med zagovorniki ideje tehnološke singularnosti obstaja pogosta napačna predstava: če ustvarimo AI, ki je pametnejši od ljudi, se bo nenadoma začel razvijati in ustvaril še pametnejši AI.

Nova umetna inteligenca bo razmišljala globlje in izumila kaj še pametnejšega in tako naprej, dokler ne bo izumljeno nekaj božjega. Ni dokazov, da je samo razmišljanje dovolj za ustvarjanje novih ravni inteligence. Tovrstno razmišljanje temelji na veri.

Vendar pa obstaja veliko dokazov, da iznajdba nove učinkovite inteligence ne zahteva le miselnih naporov, ampak tudi poskuse, podatke, težka vprašanja, poskušanje.

Razumem, da se morda motim. Medtem ko smo na v zgodnji fazi. Morda bomo odkrili univerzalno lestvico inteligence oziroma njeno neskončnost v vseh pogledih. Obstaja možnost tehnološke singularnosti, saj zelo malo vemo, kaj sta inteligenca in samozavedanje. Po mojem mnenju vse kaže na to, da je to malo verjetno, vendar še vedno obstaja možnost.

Vendar pa podpiram širše cilje OpenAI: razviti moramo prijazno umetno inteligenco in ugotoviti, kako ji dati vrednosti, ki se posnemajo same in se ujemajo z našimi.

Obstaja možnost, da je nadčloveška umetna inteligenca v dolgoročno je lahko škodljiva, vendar ta ideja temelji na nepopolnih dokazih in je ne bi smeli jemati resno, ko gre za znanost, politiko ali napredek.

Trk asteroida na Zemljo bi nas lahko uničil, obstaja možnost takšnega izida (to potrjuje Fundacija B612), vendar ne bi smeli upoštevati takšnega izida pri vprašanjih globalnega segrevanja, vesoljskih potovanj ali načrtovanja mest.

Razpoložljivi dokazi kažejo, da AI najverjetneje ne bo nadčloveški. Imel bo nove različice razmišljanja, ki so človeku nedostopne, vendar brez celovite uporabe ne bo postal bog, ki bo v trenutku rešil naše glavne probleme.

Namesto tega bo postal skupek inteligenc z hendikepiran, nam bo bolje delovalo na za nas neobičajnih področjih, skupaj z nami bodo lahko našli rešitve tako za obstoječe kot za nove probleme.

Razumem, kako privlačna je ideja o nadčloveški in božji AI. Lahko bi bil naslednji Superman. Toda tako kot Superman je tudi to izmišljen lik. Nekje v vesolju bi Superman lahko obstajal, vendar je to zelo malo verjetno. Kakor koli že, miti so lahko koristni in ko nastanejo, ne izginejo.

Ideja o Supermanu bo živela večno. Zamisel o nadčloveški umetni inteligenci in singularnosti se pojavlja zdaj in ne bo nikoli pozabljena. Razumeti moramo, za kakšno idejo gre: religiozno ali znanstveno. Če raziskujemo vprašanje inteligence, umetne ali naravne, moramo jasno razumeti, da naš koncept nadčloveške umetne inteligence ni nič drugega kot mit.

Plemena izoliranih mikronezijskih otokov so prvič stopila v stik z zunanjim svetom med drugo svetovno vojno. Bogovi so prileteli iz daljnih dežel, se na hrupnih pticah spustili z neba, prinesli darila in odleteli za vedno. Po otokih so se razširili kulti vrnitve teh bogov in novih darov. Mnogi tudi zdaj, 50 let pozneje, še vedno čakajo na vrnitev.

Nadčloveška umetna inteligenca bi lahko postala nov kult tovora za nas. Morda bomo čez sto let ljudje tako dojemali naš čas: kot da bi verjeli v nadčloveško umetno inteligenco in desetletja čakali, da se vsak trenutek pojavi in ​​nam prinese nepredstavljiva darila.

Vendar nenadčloveški AI že obstaja. Še naprej iščemo novo definicijo zanjo, jo zapletamo. Vendar pa v širok smisel um, ki nam je tuj, je spekter intelektualnih možnosti, mišljenja, mehanizmov sklepanja, učenja, samozavedanja. AI se širi in se bo še naprej širil. Postane globlji, raznolikejši, močnejši.

Pred AI noben izum ni mogel popolnoma spremeniti sveta. Do konca 21. stoletja bo umetna inteligenca tako močna, da bo spremenila vse v naših življenjih.

Kakor koli že, mit o nadčloveški umetni inteligenci, ki nam bo dal super-bogastvo ali super-suženjstvo (ali oboje), bo živel naprej. Vendar bo ostal mit, ki verjetno ne bo utelešen v resnici.