Možná hrozba zo strany umelej inteligencie. Psychika

A ďalší známi výskumníci napísali otvorený list s výzvou na vytvorenie bezpečnostných štandardov v oblasti vývoja umelej inteligencie (AI). /webová stránka/

Žiadali najmä výskum a vývoj spoľahlivého riadiaceho systému, ktorý by nedovolil, aby nefunkčná umelá inteligencia škodila ľuďom. „Je potrebné vykonať technickú prácu, aby sa zabezpečila úplná ľudská kontrola,“ píše sa v liste.

Napriek umiernenému tónu listu luddisti v strachu z novej technológie spanikárili. V reakcii na to sa v tlači objavilo veľa rozhovorov a vyhlásení vedcov, ktoré rozptýlili tieto obavy.

Andrew Ng, odborník na AI zo spoločnosti Baidu, povedal pre Fusion: "Nevidím realistický scenár, aby sa softvér, na ktorom dnes pracujeme, stal rušivým."

Novinár Scott Alexander zase zostavil zoznam známych vedcov podieľajúcich sa na vývoji AI, ktorí hovorili o potenciálnom nebezpečenstve AI.

Strach a obavy

Stuart Russer, profesor informatiky na Kalifornskej univerzite v Berkeley, prirovnal vývoj mechanizmov na kontrolu AI k prijatiu opatrení pre bezpečnosť jadrových reaktorov.

„Niektorí veria, že tento problém nepredstavuje nebezpečenstvo pre ľudstvo v najbližších stovkách rokov. Zabúdajú, že Leo Szilard objavil jadrovú reťazovú reakciu 24 hodín po tom, čo Rutherford sebavedomo vyhlásil, že atómovú energiu nikdy nezíska,“ napísal Russell.

Russell nie je vo svojom názore sám. V prieskume Vincenta Mullera a Nicka Bostroma z roku 2014 medzi 170 špičkovými odborníkmi na AI sa 18 % z nich domnievalo, že zostrojenie superinteligentného stroja by bolo pre ľudstvo „skutočnou katastrofou“. 13 % uviedlo, že pokročilá AI by mala pre ľudí negatívne dôsledky. Viac ako polovica vedcov uviedla, že by to malo pozitívny vplyv.

Hoci je názor odborníkov na vplyv AI nejednoznačný, väčšina sa zhoduje na tom, že vytvorenie pokročilej AI je len otázkou času. Podľa predpovedí bude AI rovnajúca sa človeku vytvorená už v roku 2050 (50% pravdepodobnosť) alebo do roku 2075 (90% pravdepodobnosť). A 30 rokov po svojom vzniku sa objaví umelá superinteligencia, ktorá prekoná ľudí vo všetkých aspektoch.

bláznivé kamióny

Ako môže vyzerať Rise of the Machines? Vo filmoch sci-fi, ako sú „Terminátor“, „Robot“, „Animatrix“, sa zobrazuje vojna ľudí s kyborgmi.

Súdiac podľa sci-fi filmov, mnohí môžu zastávať názor, že potenciálnemu nebezpečenstvu sa dá ľahko vyhnúť.Umelá inteligencia je totiž v podstate len počítačový softvér.

Umelá inteligencia však nemusí mať mechanické telo, aby získala moc v reálnom svete: môže jednoducho začať ovládať všetky naše každodenné elektronické zariadenia.

Takýto scenár predstavil Stephen King v poviedke „Nákladné autá“. V príbehu napísanom v 70. rokoch sa nákladné autá dostanú do povedomia a začnú útočiť na ľudí. Skupina ľudí sa ukrýva pred rozzúrenými kamiónmi. Nákladné autá stále potrebujú palivo na prevádzku a používajú Morseovu abecedu, aby ľuďom prikázali tankovať, inak im buldozér vyhodí kryt. Ľudia poslúchajú.

Príbeh končí víziou rozprávača, že kamióny zotročili ľudstvo a všade vnucujú svoje hodnoty, napríklad ich nútia stavať diaľnice po celom svete. Zo sveta fantázie ho vytrhne zvuk lietadla letiaceho na oblohe.

Príbeh Stephena Kinga pôsobil v dobe, v ktorej bol napísaný, futuristický, no od reality moderného sveta nie je až tak ďaleko. samojazdiace nákladné autá už existujú a v budúcnosti môžu spoločnosti nahradiť vodičov autonómnym navigačným systémom, aby ušetrili peniaze.

Minulý rok hacknutie Sony dokazuje, že naše informačné systémy sú čoraz zraniteľnejšie. Je to jeden z dôsledkov narastajúcej informatizácie infraštruktúr.

Zatiaľ však nie je dôvod na obavy. Umelá inteligencia má pred sebou ešte dlhú cestu, kým sa vyrovná ľudskému mozgu. Príklad samoriadiaceho nákladného vozidla to dobre ilustruje. Aj keď sú stále príliš nedokonalí na to, aby sa nezávisle premávali po preplnených uliciach mesta.

Nainštalovali by ste si do telefónu aplikáciu na čítanie epochtime článkov?

Globálna apokalypsa zahŕňajúca AI (umelú inteligenciu) čoraz viac desí popredných svetových výskumníkov v oblasti počítačových technológií. Mohlo by ísť o vzburu robotov, ktorí riadení svojim programom a hodnotami budú chcieť zničiť biologické formy života na planéte. Scenár, v ktorom sa stroje riadené AI stanú dominantnou formou života, je možný.

Prečo sú svetoznámi vedci ako Bill Gates, Steve Hawking, Elon Musk a ďalší znepokojení týmto problémom a verejne deklarujú skutočnú hrozbu tohto scenára? Môžu byť udalosti, ktoré sa odohrali v hollywoodskom filme „Terminátor“, prorocké? Je známe, že každý vymyslený príbeh je založený na skutočných skutočnostiach.

Počítače sú čoraz lepšie v klamaní a podvádzaní

Klamstvo je forma správania vyvinutá v procese evolúcie. Ľudia, niektoré zvieratá a vtáky sa uchyľujú k klamaniu kvôli získaniu potravy a výhod, čo zvyšuje šance na prežitie. Nedávno tieto evolučné metódy úspešne prevzali stroje AI.

Dizajnéri z Georgia Institute of Technology pokročili vo vytváraní robotov, ktoré vo svojich algoritmoch správania využívajú klamstvá a podvody. Vedci veria, že v budúcnosti bude táto technológia široko používaná vo vojenskej sfére.

Predpokladá sa, že prototypy robotov môžu byť použité v reálnych bojových podmienkach. Tieto animované mechanizmy budú schopné vykonávať prácu na ochranu zásob a muničných skladov. Pomocou klamlivých programov budú môcť strážcovia budúcnosti zmeniť svoju hliadkovú trasu a vykonávať nepredvídateľné akcie. Ako vývojári plánujú, takéto metódy pomôžu oklamať potenciálnych nepriateľov ľudí a iných robotov.

Podľa profesora Arkina je výskum spojený s množstvom etických problémov. Strata kontroly nad technológiou, keď je vystavená kritikom, môže viesť k vážnej katastrofe.

Stroje preberajú trh práce

Zatiaľ čo verejnosť je zaujatá myšlienkami na globálnu vojnu zahŕňajúcu AI, vedci opisujú bezprostrednejšie a skutočné nebezpečenstvá. Vo výrobe sa čoraz častejšie používajú rôzne automatické stroje a mechanizmy, ktoré ničia pracovné miesta.

Mnohí analytici a experti sa zhodujú, že aktívny vývoj v oblasti logických programov a automatizácie môže viesť k strate mnohých ľudí o prácu. V Spojených štátoch amerických existuje viac ako 250 000 výrobných robotov, ktoré vykonávajú tradičnú ľudskú prácu.

V krajinách východu, ktoré vyrábajú viac ako 90 % svetovej techniky, stále prevláda ručná práca. Čo sa stane s ľuďmi zamestnanými vo výrobe s príchodom robotov, možno len hádať.

Obava, že stroje vytlačia ľudí z trhu práce, sa netýka len pracovníkov. Expert na umelú inteligenciu Andrew Ng z Google Brain Project a vedúci špecialista na čiastočný úväzok v Baidu (čínsky ekvivalent Googlu) tiež vyjadril obavy z aktívneho vývoja v oblasti AI. Umelá elektronická inteligencia je podľa neho schopná robiť to isté ako bežný človek, len rýchlejšie, lepšie a s menšími prostriedkami.

Oxfordská univerzita vo Veľkej Británii uskutočnila výskum odrážajúci dynamiku vplyvu AI na výrobu. Podľa získaných údajov bude v priebehu nasledujúcich dvadsiatich rokov 35 % pracovných miest pridelených manažmentu AI.

Počítačové programy sú lepšie ako hackeri

Z pohľadu bežného človeka je hacker ako superman, ktorý môže dosiahnuť akýkoľvek výsledok. V skutočnosti ide o programátorov s unaveným výrazom v tvári a tradičnou šálkou kávy.

Hackovanie je dosť nudná a únavná činnosť, ktorá si vyžaduje veľa času a zdrojov. Okrem toho sa celé oddelenia špecialistov zaoberajú vývojom programov určených na ochranu pred prienikmi. Najväčšia hrozba pre „zlých hackerov“ pochádza z pokročilých systémov založených na AI.

Umelá inteligencia sa dá využiť nielen na ochranu, ale aj na hackovanie. V podmienkach programu kybernetickej bezpečnosti sa vyvíjajú AI, ktoré sú schopné nájsť zraniteľné miesta nepriateľov a zároveň online chrániť ich logické zariadenia pred vonkajšími hrozbami a útokmi.

Podľa vedcov sa elektronickí hackeri na báze AI vyvíjajú v mene spoločného dobra a prosperity. Ale v prípade prístupu k takýmto programom votrelcami sa môžu vyskytnúť smutné udalosti. Je desivé predstaviť si situáciu, keď sa mocná AI nabúra do bezpečnostných protokolov jadrovej elektrárne a prevezme úplnú kontrolu. V tejto situácii môže byť ľudstvo bezmocné.

Programy sa učia chápať motívy ľudí

Každodenný život mnohých ľudí je neoddeliteľne spojený s využívaním rôznych sociálnych sietí. Jednou z najpopulárnejších sietí na svete je Facebook. Málokto však vie, že zakaždým, keď človek navštívi stránky tejto sociálnej siete, AI nezostane bez povšimnutia. Mark Zuckerberg počas svojej návštevy Berlína hovoril o cieľoch AI.

Program je určený na analýzu správania používateľov na stránkach Facebooku. Na základe zozbieraných údajov program vydáva odporúčania o záujmoch a preferenciách publika. V tomto štádiu vývoja je autonómny systém schopný rozpoznať vzorce a samoučiť sa v súlade s programom.

V budúcnosti sa plánuje vytvorenie inteligentnej AI, ktorá dokáže samostatne zlepšiť svoje schopnosti prepísaním svojho kódu. To môže viesť k zlepšeniu života, alebo sa to môže stať najnovším vývojom ľudstva.

Kyborgovia nahradia milencov

Mnoho hollywoodskych filmov je založených na myšlienke lásky a medzidruhového vzťahu medzi človekom a strojom. Z ríše fantázie tento pojem prúdi do moderného sveta.

Futurista Dr. Ian Pearson verí, že do roku 2050 bude sex medzi človekom a robotom prebiehať častejšie ako len medzi ľuďmi. Vedec aktívne spolupracuje s Bondarou, popredným reťazcom sexuálnych obchodov v Británii.

V správe lekára sa uvádza, že do roku 2025 budú vyvinuté roboty na sex s umelou inteligenciou. Do roku 2035 sa sex prostredníctvom virtuálnej reality rozšíri na úroveň modernej pornografie. A do roku 2050 sa sex s robotmi stane súčasťou každodennej reality a stane sa normou.

Obrancovia tradičných hodnôt, negatívne naklonení sexu s inteligentnými strojmi. Takéto spojenia nastavia latku očakávaní príliš vysoko, čo negatívne ovplyvní postoj k ženám.

Stroje sú čoraz ľudskejšie

Vývojári v oblasti vytvárania humanoidných robotov, Japonec Hiroshi Ishiguro a Číňan Sun Yang, vytvorili unikátny stroj. Cyborg Yang-Yang majú podobu svojho tvorcu a sú pomenované po jej dcére. Stroj má AI a je schopný vykonávať množstvo jednoduchých akcií.

Toto nie je jediný humanoidný príklad robotiky. Singapurský technologický inštitút tiež navrhol moderný prototyp kyborga Nadine. Aj tento prototyp má umelú inteligenciu a funguje vo vzdelávacej inštitúcii.

Kyborg, navrhnutý ako atraktívna brunetka s jemnou pokožkou, má množstvo vstavaných funkcií. Robot sa môže stretnúť a pozdraviť partnera podaním ruky. Zariadenie dokáže nadviazať aj očný kontakt a úsmev. AI si dokáže zapamätať hostí a viesť jednoduchý dialóg na základe predchádzajúcich skúseností.

Roboty získavajú pocity

Moderné roboty nie sú v inteligencii nižšie ako ľudia. Vďaka najnovšiemu vývoju je kyborg navonok dosť ťažké odlíšiť od človeka. Zatiaľ jedinou vlastnosťou, ktorú roboti v skutočnosti nemajú, je schopnosť byť emocionálny. Vedci z celého sveta pracujú na tomto probléme. A čoskoro sú roboti úplne na nerozoznanie od ľudí.

Vývojári z východoázijskej pobočky Microsoft Application & Services Group vydali unikátny program. Počítač je schopný viesť dialóg s partnerom a zároveň prežívať emócie. Umelá inteligencia s názvom Hiaoche dokáže napodobniť spôsob, akým rozpráva sedemnásťročné dievča.

V prípade nedostatku údajov je systém schopný uchýliť sa ku klamstvám. Ak ju prichytia pri podvádzaní, Hiaoche môže prejaviť hnev alebo rozpaky. AI sa môže uchýliť k sarkazmu, byť podozrievavý a prejavovať netrpezlivosť.

Nepredvídateľnosť odpovedí programu pripomína komunikáciu so skutočným človekom. Technológia zatiaľ nenašla široké uplatnenie a najčastejšie sa využíva na zábavu. Tvorca Xiaoche pracuje na zlepšení logických algoritmov, čo môže v budúcnosti viesť k zásadnému prelomu.

Autá budú čoskoro v našich hlavách

Vo svetle posledného vývoja sa otvárajú nové možnosti. Už to nepôsobí ako fantázia, schopnosť naučiť sa cudzí jazyk za pár minút, stiahnutím do mozgu. CTO Google Ray Kurzweil verí, že do roku 2030 bude vyvinutá technológia na implantáciu nano robotov do mozgu. To pozdvihne ľudskú inteligenciu na zásadne novú úroveň.

Tieto mikromechanizmy premenia vedomie na výkonné výpočtové centrum. Osoba si bude môcť okamžite zapamätať akékoľvek informácie, triediť a posielať svoje vlastné myšlienky do archívu. V prípade potreby bude možné sťahovať filmy, dokumenty a prijímať e-maily.

Špecialista na AI Kurzweil verí, že symbióza s nano-robotmi nielenže zvýši inteligenciu, ale dokáže vyliečiť aj množstvo chorôb spojených s činnosťou nervového systému.

Hrozby používania takejto technológie možno prirovnať ku globálnej konšpiračnej teórii. Získaním kontroly mysle nad popredným politikom krajiny ho AI bude môcť ovládať ako bezvládneho zombie. Takýto systém môžu využívať aj špeciálne služby, čo neveští nič dobré.

Ako sa z robotov stávajú zbrane

S pádom Sovietskeho zväzu studená vojna neskončila. Na svetovej scéne sa objavili dve nové superveľmoci Čína a Rusko. Amerika zasa míňa desiatky miliárd dolárov na vývoj v oblasti počítačovej bezpečnosti.

Pentagon verí, že kľúč k budúcej technologickej prevahe spočíva vo využívaní AI. Aktívne sa sleduje rozvoj samoučiacich sa autonómnych systémov, ako aj paralelných a príbuzných oblastí. Prototypy vojenského vybavenia ovládaného na diaľku už boli vyvinuté, zostáva ho vycvičiť, aby konal samostatne.

Použitie takýchto zariadení v čase vojny sľubuje veľké výhody. Vojaci sa nebudú musieť vystavovať nepriateľskej paľbe a riskovať svoje životy. Morálka nepriateľa vo vojne proti neživým robotom bude tiež narušená.

Má to aj nevýhodu. Akékoľvek počítačové vybavenie je náchylné na zlyhania a hacknutia systému. V tomto prípade sú roboti, ktorí stratili kontrolu, schopní obrátiť svoje zbrane proti svojim tvorcom a civilnému obyvateľstvu.

Mnoho popredných odborníkov v oblasti AI nepodporuje myšlienku vytvorenia autonómnych bojových robotov. Ale vo svetle neustále sa zväčšujúcej vojenskej konfrontácie vo svete a absencie medzinárodného zákazu používania takýchto technológií mnohé krajiny vedú svoj vývoj v prísnom utajení. Čoskoro bude pribúdať viac a viac správ o využívaní robotov na horúcich miestach planéty.

Roboty sa učia nesprávnym smerom

S cieľom predvídať možné poruchy v programoch a s cieľom zabrániť vzostupu strojov sa vyvíjajú nové koncepty zamerané na vysvetlenie správneho a nežiaduceho správania stroja.

Tento vývoj by mal potenciálne urobiť AI ľudskejšou. Niektorí vedci považujú tento prístup za kľúč k tomu, aby zabránila AI obrátiť zbrane proti ľudskosti.

Technologický inštitút v Georgii vykonáva jedinečné experimenty. Výskumníci na čele s Markom Riddleom a Brentom Harrisonom doslova rozprávajú príbehy počítaču. Týmto spôsobom sa snažia pripojiť AI k ľudským hodnotám a rozvíjať jej etiku. Vedci používajú metódy používané pri výchove dieťaťa na výučbu programu. AI, rovnako ako neskúsené dieťa, nerozlišuje medzi dobrom a zlom.

Tento prístup má vážny nedostatok. História ľudstva obsahuje mnoho príkladov, keď okolnosti prinútili celé vysoko rozvinuté krajiny rozpútať vojny a páchať strašné zverstvá. Príkladom môže byť fašistické Nemecko, ktorého vojaci vykonali genocídu celých národov. Nemecká kultúra bola zároveň jednou z najrozvinutejších vo vtedajšom svete. Čo zabráni AI v opakovaní Hitlerovho experimentu?

Umelá inteligencia (AI) je téma, ktorá je na stránkach populárno-vedeckých časopisov už dlho a neustále sa jej dotýkajú filmy a knihy. Čím viac odborníkov rozvíja túto oblasť vedy, tým viac sa stáva mýtom.

Vývoj a budúcnosť umelej inteligencie trápi aj tých, ktorí stoja na čele štátu. Nie je to tak dávno, čo ruský prezident Vladimir Putin navštívil kanceláriu Yandex v deň 20. výročia spoločnosti, kde mu vysvetlili, kedy AI prekoná ľudskú inteligenciu.

Každý, kto čo i len trochu prenikne do podstaty potenciálu umelej inteligencie, chápe, že túto tému nemožno ignorovať. Toto nie je len dôležitá téma na diskusiu, ale pravdepodobne jedna z najvýznamnejších v kontexte budúcnosti.

Jedným slovom, aj u nás sú pozoruhodné úspechy.

Čím rýchlejšie sa technológie umelej inteligencie vyvíjajú, tým viac ľudí chytá strach, ako rýchlo budú bez práce. Je naozaj všetko také zlé?

Áno a nie. Ľudstvo už niekoľkokrát zažilo vznik technológií, ktoré spôsobili revolúciu v celom výrobnom sektore.

Tak to bolo s parným strojom v ére priemyselnej revolúcie, ktorá prakticky zničila mnohé profesie (hlavne spojené s primitívnou fyzickou prácou), tak to bolo aj s elektronickými počítačmi, ktoré nahradili človeka v úlohách založených na streamingových matematických výpočtoch.

V 15. – 18. storočí, keď v Anglicku „ovce žrali ľudí“, boli sociálne dôsledky skutočne katastrofálne. Anglicko stratilo podľa rôznych odhadov 7 až 30 % svojej populácie. Vtedajšie mocenské elity sa vážne zaujímali o to, čo robiť s ľuďmi navyše. Jonathan Swift reagoval na tieto vyhľadávania vtipným letákom, v ktorom navrhol jesť deti chudobných.

Dnes však vidíme, že zaniknuté profesie boli nahradené novými a počet obyvateľov Zeme je oveľa väčší ako v 18. storočí. V 20. storočí už dôsledky automatizácie neboli zo spoločenského hľadiska také katastrofálne. Nebezpečenstvo však netreba podceňovať.

„Za 30 rokov budú roboty schopné robiť takmer všetko, čo dokážu ľudia,“ povedal Moshe Vardi, profesor výpočtového inžinierstva a riaditeľ Kennedyho inštitútu pre informačné technológie na Rice University (William Marsh). To povedie k tomu, že viac ako 50 % obyvateľov Zeme sa stane nezamestnanými.“

Roboty berú prácu

Nedávno predseda Výboru Štátnej dumy pre informačnú politiku, informačné technológie a komunikácie Leonid Levin povedal, že pre Rusko je problém nahradenia pracovnej sily umelou inteligenciou dôležitý.

Skôr či neskôr ľudí nahradí automatizovaný systém a 2 % pracujúceho obyvateľstva krajiny sa vysypú na trh. Preto si Levin povedal, ako ich zamestnať, tých, ktorí kvôli rozvoju digitálnych technológií prídu o prácu.

V najbližšom období nás podľa predsedu čaká nárast nezamestnanosti. Ale skutočne nám roboty „vezmú“ prácu a stojí za to sa tým obávať, povedal Reedusovi Sergej Markov, špecialista na strojové učenie.

Sergei, aj teraz existujú „mŕtve povolania“, ktoré nevyžadujú ľudskú prácu, aj keď by sa zdalo, že pred 10 rokmi si nikto nemyslel, že napríklad dirigenti sa čoskoro stanú nepotrebnými. A aké ďalšie profesie nahradia techniku?

Blížime sa k dobe, kedy stroje predčia ľudí takmer v každej oblasti. Domnievam sa, že spoločnosť musí tomuto problému čeliť skôr, ako sa dostane do plnej výšky. Ak sú stroje schopné robiť takmer všetko, čo dokážu ľudia, čo im zostane? povedal Moshe Vardi, profesor výpočtového inžinierstva a riaditeľ Inštitútu Kennedyho pre informačné technológie na Rice University.

Automatizácii dlho stáli v ceste technologické obmedzenia – stroje nerozoznávali obrazy a reč, nevedeli rozprávať, nerozumeli dostatočne dobre významu výrokov v prirodzenom jazyku, nemali dostatok údajov na to, aby sa naučili veľa známych vecí. ľudí.

Vďaka nedávnemu pokroku v oblasti umelej inteligencie boli mnohé z týchto obmedzení skutočne zrušené. Navyše mnohé profesie samotné prešli transformáciou, vďaka ktorej sú vhodnejšie na automatizáciu.

Napríklad moderný kancelársky úradník nekorešponduje na papieri, ale v elektronickej forme účtovník vykonáva účtovanie nie na papieri, ale v účtovnom programe, strojník často ovláda stroj nie pomocou rukovätí, ale pomocou ovládacieho programu. Preto teraz úloha automatizácie v mnohých profesiách prestala byť vedecká a stala sa čisto inžinierskou.

Pravda, zatiaľ je väčšia pravdepodobnosť, že pracovné miesta vytvorí výrobný sektor spojený s AI – sú potrební špecialisti v oblasti strojového učenia a prípravy dát, zamestnanci na označovanie tréningových polí, špecialisti na implementáciu atď. určite začne žrať ľudí a na následky sa treba postarať už teraz.

Zároveň je dôležité pochopiť, že technologický pokrok nemožno zastaviť a pokus o to bude mať oveľa katastrofálnejšie následky.

Budeme niekedy schopní úplne dôverovať robotom (AI), alebo by mal byť v každom podnikaní stále ľudský faktor?

Táto otázka má niekoľko aspektov. Na jednej strane si ľudia v minulosti dávali pozor na takmer akúkoľvek technológiu. Prvý výťah, prvé auto, prvý vlak či lietadlo – to všetko bolo kedysi nezvyčajné a mnohým sa to zdalo nebezpečné. Áno, v mnohých ohľadoch to bolo nebezpečné – katastrofy spôsobené človekom si vyžiadali veľa obetí.

A predsa sa v našich dňoch všetky tieto veci stali známymi a už nespôsobujú veľký strach. V tomto zmysle budú naši potomkovia zaobchádzať so systémami AI pokojnejšie. Ľudia majú niekedy tendenciu mystifikovať veci, ktorým nerozumejú. Diviak si myslí, že v motore žije zlý duch, a moderný laik si myslí, že naše systémy AI sú pri vedomí, hoci to tak ani zďaleka nie je.

Na druhej strane si nemyslím, že systémy umelej inteligencie na všeobecné účely sa niekedy stanú súčasťou nášho odvetvia. Budúcnosť je podľa mňa pravdepodobnejšia pre syntetické systémy – teda pre zjednotenie človeka a stroja do jedného organizmu. V tomto zmysle bude umelou inteligenciou budúcnosti vylepšená ľudská inteligencia.

Mimochodom, ľudskú inteligenciu tiež nie je úplne správne nazývať prirodzenou. Dieťa od narodenia nemá inteligenciu, všetko ho učí spoločnosť, rodičia a okolie. V tomto zmysle sme vy aj ja v podstate „umelá inteligencia“ a naše obavy spojené s AI sú v mnohých ohľadoch strachom o nás samých.

Nedávno mnohí vedci, napríklad Stephen Hawking, Bill Gates alebo ten istý Elon Musk, začali panikáriť, že AI odsúdi ľudstvo na smrť, a budúcnosť vidia ako nejakú dystopiu. Mali by sa takéto predpovede brať vážne?

Úprimne povedané, neponáhľal by som sa, aby som sa vážne zľakol týchto vyhlásení. Stephen Hawking určite nie je špecialistom na AI a ani Elon Musk.

Na druhej strane škály sú vyjadrenia ľudí ako Andrew Ng, americký počítačový vedec, docent na Stanfordskej univerzite, výskumník v oblasti robotiky a strojového učenia a popredný špecialista v laboratóriu umelej inteligencie čínskej korporácie Baidu .

Eun, keď hovorí o probléme bezpečnosti AI, porovnáva to s problémom preľudnenia Marsu – samozrejme, raz budeme Mars kolonizovať a potom možno v určitom bode nastane problém s preľudnením. Ale oplatí sa to robiť dnes?

Mark Zuckerberg bol tiež dosť skeptický voči Muskovým tvrdeniam. „Umelá inteligencia nám v budúcnosti zlepší život a predpovedať koniec sveta je veľmi nezodpovedné,“ povedal.

Osobne si myslím, že Muskove vyjadrenia treba posudzovať pragmaticky – Musk chce túto tému vymedziť a v ideálnom prípade získať od štátu prostriedky na jej rozvoj.

Naozaj je všetko také ružové a nie je sa čoho obávať?

Skutočné nebezpečenstvá spojené s vývojom AI ležia podľa mňa v úplne inej rovine, než sa bežne predpokladá. Hlavné riziká nie sú spojené s tým, že si vytvoríme vlastný „Skynet“, ktorý zotročí ľudstvo. Riziká zo zavedenia AI a technológií strojového učenia sú oveľa prozaickejšie.

Ak zveríme riešenie dôležitých problémov jednému alebo druhému matematickému modelu, môžeme trpieť chybami pri ich vývoji. Umelá inteligencia, ktorá reprodukuje činy ľudských expertov, zdedí ich chyby a predsudky. Chyby v systémoch riadenia výroby alebo dopravy môžu viesť ku katastrofám.

Škodlivé zasahovanie do prevádzky životne dôležitých systémov v podmienkach úplnej automatizácie môže viesť k nebezpečným následkom. Čím sú systémy zložitejšie, tým viac potenciálnych zraniteľností môžu mať, vrátane tých, ktoré súvisia so špecifikami určitých algoritmov umelej inteligencie.

Samozrejme, na zvládnutie týchto rizík je potrebné vytvoriť legislatívny rámec, rozumné bezpečnostné predpisy, špeciálne metódy identifikácie zraniteľností. Niektoré systémy AI sa budú používať na ovládanie iných. Možno bude potrebné zverejniť kódex životne dôležitých systémov pre nezávislý audit. Inými slovami, v tejto oblasti nás čaká ešte veľa práce.

Autorské práva k obrázku Thinkstock Popis obrázku Symbióza človeka a stroja je jednou z ciest rozvoja ľudstva

Inteligentné stroje sa naučili blafovať, poraziť profesionálov v šachu alebo Go, prekladať a rozpoznávať ľudský hlas. Každý týždeň sa dozvedáme o nových výkonoch počítačových programov, ktoré už dokážu robiť lekárske diagnózy, kresliť ako Rembrandt, spievať alebo generovať text. Má sa človek báť umelej inteligencie?

Téma umelej inteligencie (AI / AI) sa v posledných rokoch stala skutočne „horúcou“. Vedci to pripisujú rýchlemu rozvoju neurónových sietí (jedna z oblastí výskumu v oblasti umelej inteligencie), ktorý sa stal možným s príchodom výkonných počítačov.

"Od začiatku roku 2010, poháňaný pôsobivým pokrokom vo viacvrstvových neurónových sieťach (predovšetkým konvolučných a opakujúcich sa), priťahuje táto oblasť významnú pozornosť vedcov, inžinierov a investorov," komentuje autor jeden z ruských šachových programov, špecialista na metódy strojového učenia Sergej Markov.

Vedecká komunita môže polemizovať o načasovaní výskytu inteligentných strojov, no zhoduje sa v jednom: rozvoj technológií bude mať v budúcnosti bezpodmienečný dopad na spoločnosť, ekonomiku a vzťahy medzi ľuďmi. Už teraz sa ozývajú výzvy na zamyslenie sa nad etickými princípmi vývoja AI, aby sa zabezpečilo, že sa AI vyvíja smerom, ktorý je pre ľudí bezpečný.

Táto mmateriál pripravený ako odpoveď na otázkus, odoslanáenaši čitateliao vedeckých úspechoch. Svoje otázky na iné témy môžete položiť na týchto odkazoch ( , ).

Ekonomický efekt a vplyv na trh práce

Sci-fi a Hollywood sformovali predstavu „umelej inteligencie“ ako ďalšej formy života na planéte, ktorá zotročí ľudstvo v Matrixe alebo zorganizuje nukleárny súdny deň. Preživších ukončí Terminátor.

Autorské práva k obrázku Getty Images Popis obrázku Vymrie ľudstvo zo Skynetu?

Vedci a odborníci pripúšťajú, že napriek najnovším úspechom v oblasti umelej inteligencie je vznik inteligentných strojových bytostí ešte ďaleko. Týmto aj iným sa však odporúča venovať pozornosť niektorým aspektom práve teraz.

McKinsey Global Institute odhaduje, že nové technológie v priebehu nasledujúcich desiatich rokov radikálne zmenia globálny trh práce a ušetria približne 50 biliónov dolárov.

Zmeny sa dotknú stoviek miliónov pracovných miest. Čoraz viac ľudí presunie niektoré zo svojich pracovných úloh a mnoho rutinných úloh na stroj, čo im umožní sústrediť sa na svoju tvorivú prácu.

„Z určitého uhla pohľadu má ľudstvo ako celok dôležitú a zaujímavú úlohu – vyvíjať sa pre každého konkrétneho jednotlivca oveľa rýchlejšie, ako ľudstvo vyvíja systémy umelej inteligencie,“ povedal Grigory Bakunov, expert, riaditeľ pre šírenie technológií Yandex.

Spolu s automatizáciou však bude nevyhnutne trpieť aj menej kvalifikovaný personál a teraz je potrebné myslieť na to, ako ho chrániť, preškoliť a pripraviť na nový život.

Ako ukazuje prax, trpieť môžu nielen robotníci, ale aj vedomostní pracovníci. Pred niekoľkými dňami Goldman Sachs nahradil tím 600 obchodníkov dvoma ľuďmi a automatizovanými algoritmickými obchodnými programami, na údržbu ktorých bolo najatých 200 softvérových vývojárov.

Autorské práva k obrázku Thinkstock Popis obrázku Mnohé úlohy sa čoskoro stanú v moci robotických systémov, ktoré postupne začnú nahrádzať ľudí.

Umelá inteligencia sama o sebe nie je totožná s automatizáciou procesov, no vývoj AI povedie k tomu, že stále viac úloh bude v moci počítačového programu.

Medzi riešenia problému premiestňovania človeka strojom na trhu práce, ako Allison Dutman, programová koordinátorka Foresight Institute, neziskovej organizácie so sídlom v Silicon Valley na podporu nových technológií, poukazuje na zavedenie konceptu „univerzálneho základného príjmu“, ktorý by poberal každý rezident bez ohľadu na úroveň príjmu a zamestnanosti. Takýto príjem by bol financovaný z takzvanej Land Value Tax, o ktorej zavedení sa teraz aktívne diskutuje v Silicon Valley.

Je umelá inteligencia človek?

Je robotický systém človek? Môže inteligentný počítač hlasovať? Akého je pohlavia? O vzťahu človeka a inteligentného stroja už rokujú aj europoslanci, ktorí sa pýtajú, či by budúci roboti nemali dostať status „elektronická osobnosť“.

Ako zdôrazňuje Dutman, ľudia sa zdráhajú zdieľať práva s tými, ktorým nerozumejú, čo znamená, že sa budú brániť „humanizácii“ AI.

Autorské práva k obrázku AFP Popis obrázku Človeka a stroja oddeľuje to hlavné – schopnosť myslieť

„Vzhľadom na to, ako dlho ľudstvo smeruje k zrovnoprávneniu všetkých ľudí bez ohľadu na ich farbu pleti, rasu či pohlavie, už teraz možno predpokladať, že stroje neuznávajú okamžite ako rovnocenné.

Spolu s etickými otázkami sú tu aj právne drobnosti: kto prevezme zodpovednosť v prípade nehody bezpilotného vozidla alebo poruchy inteligentného lekárskeho zariadenia – a morálne otázky: stojí za to vyvinúť bezpilotnú zbraň schopnú fungovať bez znalosť človeka?

O tretej etickej hádanke sa diskutuje častejšie ako o iných a vzrušuje ľudstvo oveľa viac: čo teoreticky môže s ľudstvom urobiť superinteligencia, skutočný inteligentný stroj?

Učte etiku AI

Odborníci v oblasti vývoja AI uznávajú, že ak nie v najbližších 20-30 rokoch, ľudstvo sa stále dožije vzniku skutočnej umelej inteligencie, ktorá bude inteligentnejšia ako jej tvorca.

„Posledná bašta bude obsadená, keď sa vytvorí takzvaná „silná AI“ (Silná AI, umelá všeobecná inteligencia), teda taká AI, ktorá bude schopná riešiť neobmedzene širokú škálu intelektuálnych úloh,“ hovorí Sergey. Markov.

A čo je najdôležitejšie, takáto AI bude schopná samostatne myslieť.

Hrozby, ktoré predstavuje AI, ako aj etické problémy spojené s novými technológiami, študujú mnohé inštitúcie vrátane Future of Life Institute, Foresight Institute, Future of Humanity Institute, OpenAI a ďalších.

Riešením Allison Dutman z Foresight Institute je nechať počítač čítať všetku vedeckú literatúru, vedecké práce, ktoré vyvolávajú otázky o etike, a urobiť z týchto informácií základ pre svoje budúce rozhodnutia.

Čo sú neurónové siete a aká je ich budúcnosť?

Väčšina odborníkov pripisuje pokrok vo vývoji AI vývoju neurónových sietí.

Neurónové siete sú jednou z oblastí výskumu v oblasti umelej inteligencie, založenej na simulácii biologických procesov, ktoré prebiehajú v ľudskom mozgu.

Práve im vďačíme za dosiahnutie pôsobivých výsledkov v rozpoznávaní reči a obrazu, lekárskej diagnostike, preklade textu a tvorbe obrazu, generovaní reči a hudobnej kompozícii.

Autorské práva k obrázku iStock Popis obrázku Práve s vývojom neurónových systémov vedci spájajú vývoj umelej inteligencie.

Dnes, ako pripúšťajú odborníci, sú neurónové siete uznávané ako jeden z najlepších algoritmov strojového učenia a riešenia založené na nich vykazujú v súčasnosti najvýraznejšie výsledky.

A to aj napriek tomu, že moderné neurónové siete sú jeden a pol tisíckrát jednoduchšie ako mozog potkana.

"Zatiaľ sú neurónové siete, ktoré vytvárame, relatívne malé v porovnaní povedzme s neurónovou sieťou ľudského mozgu a navyše sú veľmi zjednodušenou obdobou prirodzených neurónových sietí. Preto sa zatiaľ s tzv. pomocou neurónových sietí riešime predovšetkým čisto aplikované problémy,“ hovorí Sergej Markov.

V súčasnosti vznikajú špecializované procesory na trénovanie takýchto sietí (tzv. neuromorfné procesory), ktoré zvýšia rýchlosť výpočtov o niekoľko rádov.

Vývojári sú zaneprázdnení nielen zvyšovaním počtu neurónov v sieti, ale aj zmenou dizajnu sietí. „V súčasnosti sa vykonáva najväčší počet experimentov s komplexnými sieťovými konfiguračnými systémami,“ hovorí Grigorij Bakunov.

Autorské práva k obrázku iStock Popis obrázku V blízkej budúcnosti pribudnú „inteligentní“ asistenti človeka – mikrosenzory v stene, senzor veľkosti tlačidla, ktorý upozorní človeka v prípade nebezpečenstva

A skutočnosť, že takéto systémy sa stali relatívne dostupnými pre veľké množstvo bežných vývojárov, viedla k vzniku startupov experimentujúcich s neurónovými sieťami, ako je napríklad Prisma (aplikácia, ktorá umožňuje spracovávať fotografie a premieňať ich na štylizácie obrazov známych umelci) a Mubert (online skladateľ elektronickej hudby).

Čo nás čaká v blízkej budúcnosti

Ako predpovedá Nick Lane, profesor na University College London a hlavný vedecký pracovník v laboratóriách Nokia Bell, ľudskú bytosť obklopí viac „inteligentných vecí“. Budú menšie a efektívnejšie.

Profesor uvádza nasledujúci príklad: ak si predtým senzor zabudovaný v stene mohol uvedomiť iba to, že niekto prešiel okolo, potom v budúcnosti bude vedieť nielen to, kto konkrétne prešiel, ale aj to, ako sa človek správa, či niečo potrebuje, robí. nereprezentuje, či je hrozbou pre seba alebo iných.

Senzor vo veľkosti tlačidla bude schopný upozorniť osobu v prípade nebezpečenstva.

S profesorom súhlasí aj Grigory Bakunov z Yandexu: „V blízkej budúcnosti uvidíme boom vo vývoji úzkych umelých inteligencií, ktoré pomôžu vyriešiť jednu pomerne jednoduchú úlohu, ktorú však vyriešia ešte lepšie ako človek.“

Autorské práva k obrázku iStock Popis obrázku S vývojom AI sa spája čoraz viac etických otázok

„Najpravdepodobnejšou cestou rozvoja našej civilizácie je cesta syntézy človeka a stroja: palica, oblečenie, auto, mobilný telefón, kardiostimulátor alebo kochleárny implantát – ako sa vyvíjame, naše nástroje sa čoraz viac podobajú rozšírenie našich tiel. Už zajtra budú stroje schopné prijímať mentálne príkazy, vnímať mentálne vytvorené vizuálne obrazy, prenášať informácie priamo do mozgu – takéto projekty už existujú mimo múrov najmodernejších technologických laboratórií,“ zhŕňa Sergej Markov.

Sú ešte potrební novinári?

Financial Times minulý rok uskutočnili dosť riskantný experiment, keď súčasne vyzvali svoju profilovú korešpondentku a inteligentný program menom Emma, ​​aby napísali kópiu. Oba články si potom musel prečítať redaktor Financial Times a uhádnuť, za ktorou z dvoch poznámok stojí novinár a ktorým počítačom.

Pred týmto druhom „nárazového testu“ korešpondent Financial Times priznal: „Myslím si, že program sa s touto úlohou určite vyrovná rýchlejšie ako ja. Dúfam však, že to stále zvládnem lepšie.“

A tak sa stalo: Emma sa skutočne ukázala byť rýchlejšia – program vygeneroval text na základe štatistík o miere nezamestnanosti v Británii za 12 minút. Novinárovi to trvalo 35 minút. A ako sama neskôr priznala, Emma prekonala jej očakávania. Program nielen šikovne spracoval fakty, ale aj zasadil správy do kontextu a naznačil, ako by prípadný Brexit (to bolo v máji 2016, pred referendom o odchode Británie z EÚ) mohol zmeniť situáciu.

Autorské práva k obrázku Thinkstock Popis obrázku Nahradia robotické systémy ľudí? Ľudstvu zostáva 50 rokov, upokojujú odborníci

Emma však urobila niečo horšie ako novinárka. "Emmin článok bol napísaný trochu nemotornejším jazykom. Hlavné však bolo, že v ňom bolo veľa čísel," priznal redaktor FT. "A možno to hlavné, o čo sa tu snažíme, je vyberte len skutočne dôležité čísla."

Emma je produktom startupu Stealth. Spoločnosť tvrdí, že Emma má tím živých asistentov, no tvrdí, že všetko, čo píše alebo robí, je len výplodom jej „mozgu“.

A predsa – je potrebné sa AI báť?

Mnohí, ak nie všetci odborníci, ktorí sa dnes podieľajú na vývoji systémov umelej inteligencie, ochotne pripúšťajú, že AI tak skoro neurobí z ľudí nepotrebných. Práve preto, že umelá inteligencia ešte nie je taká chytrá. To hlavné, čo mu dnes chýba, je autonómna schopnosť myslieť.

"Teraz by ste sa nemali báť AI v akejkoľvek forme. Môžete počkať 30 až 40 rokov, kým dôjde k skutočne radikálnym zmenám," povedal Bakunov.

Ale niečo sa už deje: kúsok po kúsku sa stiera hranica medzi prácou alebo úlohou vykonávanou človekom a úlohou vykonávanou strojom. Ako vysvetľujú odborníci, aj teraz je niekedy ťažké pochopiť, kto sedí vo vnútri systému - osoba alebo stroj.

"Neexistujú žiadne kritériá, kedy môžeme pochopiť, že vo vnútri stroja vzniklo vedomie," pýta sa Bakunov.

Stane sa z osoby kancelárska sponka?

Známy prívrženec alarmistického pohľadu, v rámci ktorého sa hrôzy opísané v Terminátorovi môžu stať skutočnosťou, filozof Nick Bostrom, je toho názoru, že AI, ktorá dosiahla intelektuálnu úroveň človeka, bude schopný zničiť ľudstvo.

Autorské práva k obrázku Getty Images Popis obrázku Stane sa to, čo je opísané vo filme, našou každodennou realitou?

Bostrom vysvetľuje na príklade sponiek: vyzývate umelú inteligenciu, aby vyrobila sponky čo najväčšie a lepšie. V určitom okamihu si AI uvedomí, že človek je hrozbou, pretože môže vypnúť počítač, čo bude v rozpore s úlohou vyrobiť čo najviac sponiek. V prípade, že človek nie je hrozbou, AI rozhodne, že ľudské telá sa skladajú z atómov, ktoré možno použiť na výrobu vynikajúcich kancelárskych sponiek. Výsledok - počítač privedie ľudstvo k kancelárskym spinkám.

Tento scenár sa mnohým zdá prehnaný. Napríklad podľa Sergeja Markova „vysoká efektivita dosiahnutia absurdného cieľa je nezlučiteľná s absurditou tohto cieľa – zhruba povedané, AI schopná premeniť celý svet na kancelárske sponky bude nevyhnutne dostatočne inteligentná na to, aby od takéhoto cieľa upustila. ."

Umelá inteligencia je ako zlatá rybka

Margaret Boden, britská špecialistka na umelú inteligenciu a profesorka kognitívnych vied na University of Sussex, je skeptická voči tvrdeniam o bezprostrednom nástupe inteligentných strojov.

Autorské práva k obrázku Getty Images Popis obrázku V máji 1997 Deep Blue II po prvý raz porazil Garryho Kasparova.

Profesor uvádza príklad „zlatej rybky“, keď rybár výmenou za slobodu vysloví tri želania. Jedným zo želaní je vrátiť syna z vojny, druhým je 50-tisíc dolárov a tretím možnosť vysloviť si ráno ďalšie želanie.

V ten istý večer sa ozvalo zaklopanie na rybárov dom. Syna vrátili z vojny – v truhle. Rybak dostal poistenie 50 tisíc dolárov.

"Nahraďte rybu v tomto podobenstve AI a všetko sa vyjasní - vysvetľuje Boden. - Ach, áno, na druhý deň rybár využil tretie želanie a - zrušil predchádzajúce dve."

Je možné preniesť vedomie do stroja?

Sergej Markov:

„Ak hovoríme o možnosti úplného prenosu vedomia, tak modernými predchodcami takejto technológie budúcnosti sú projekty ako Blue Brain, zamerané na vytváranie fungujúcich elektronických analógov mozgu, ako aj projekty zamerané na vytváranie mozgových strojové rozhrania (BCI) - zariadenia na protetiku straty zraku, sluchu, náhrady stratených končatín, dokonca aj častí mozgu.

Autorské práva k obrázku Vedecká fotografická knižnica Popis obrázku Cieľom AI špecialistov je vytvoriť „silnú umelú inteligenciu“, ktorá by bola schopná riešiť široké spektrum problémov.

Veľmi zaujímavou a perspektívnou oblasťou je optogenetika (v princípe na prepojenie mozgu a stroja je možné meniť nielen stroje, ale aj samotné nervové tkanivo, vytvárajúc v ňom umelé fotoreceptory).

Keď sa v rámci takýchto súkromných projektov vyrieši široká škála inžinierskych problémov, myslím si, že úloha prenosu vedomia sa stane celkom riešiteľnou. Dreamers už navrhujú hypotetické schémy na realizáciu takéhoto projektu.

Napríklad Jan Korchmaryuk, ktorý kedysi navrhol názov „osadníci“ pre smerovanie výskumu súvisiaceho s prenosom vedomia, sa domnieva, že najsľubnejšou schémou je použitie špecializovaných nanorobotov zabudovaných do neurónov ľudského mozgu. Pre úspešnú implementáciu takejto schémy je však potrebné vyriešiť množstvo zložitých inžinierskych problémov.

Populárny americký internetový magazín Wired zverejnil mimoriadne kuriózny text Kevina Kellyho, v ktorom podrobne kritizuje myšlienku nebezpečenstva umelej inteligencie. "NI" publikuje preklad tohto materiálu, vyrobené telegramovým kanálom Newochem s menšími škrtmi.

„Počul som, že v budúcnosti budú počítače s umelou inteligenciou také inteligentnejšie ako ľudia, že nás pripravia o prácu a zdroje a nakoniec ľudstvo skončí. Ale je to tak? Toto je otázka, ktorú dostávam zakaždým, keď prednášam o AI.

Pýtatelia sú vážni ako vždy, ich nepokoj je čiastočne spôsobený úzkosťou niektorých odborníkov, ktorých trápi tá istá otázka. Medzi nimi sú najmúdrejší z našich súčasníkov – Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris a Bill Gates.

Všetci pripúšťajú možnosť takéhoto scenára. Na nedávnej konferencii o AI, panel deviatich najosvietenejších guruov v tejto oblasti prišiel k jednomyseľnému záveru, že vytvorenie nadľudskej inteligencie je blízko a nie je ďaleko.

A predsa je scenár zotročenia ľudstva umelou inteligenciou založený na piatich predpokladoch, ktoré sa pri bližšom skúmaní ukážu ako nepreukázané. Tieto tvrdenia môžu byť v budúcnosti pravdivé, no dodnes sa nič nepotvrdilo.

Tu sú:

1. Umelá inteligencia je už teraz inteligentnejšia ako ľudská myseľ a tento proces je exponenciálny.
2. Vyvinieme umelú inteligenciu na všeobecné použitie podobnú tej našej.
3. Ľudskú inteligenciu môžeme vytvoriť z kremíka.
4. Inteligencia môže byť neobmedzená.
5. Budovanie grandióznej superinteligencie vyrieši väčšinu našich problémov.

V opozícii k týmto ortodoxným postulátom môžem uviesť nasledujúcu preukázanú herézu:

1. Inteligencia nie je jednorozmerná, takže „múdrejší ako človek“ je nezmyselný pojem.
2. Ľudia nie sú obdarení univerzálnou mysľou, ktorá neohrozuje ani umelú inteligenciu.
3. Rivalita medzi človekom a počítačom bude obmedzená nákladmi.
4. Inteligencia nie je neobmedzená.
5. Vytvorenie AI je len časťou pokroku.

Ak je viera v zotročenie človeka umelou inteligenciou založená na piatich nepodložených predpokladoch, potom sa táto predstava viac podobá na náboženské presvedčenia – mýty. V nasledujúcich kapitolách doplním svoje protiargumenty o fakty a dokážem, že nadľudská umelá inteligencia skutočne nie je nič iné ako mýtus.

Najbežnejšia mylná predstava o AI pochádza z rovnako populárneho presvedčenia o prirodzenej inteligencii, že je jednorozmerná. V exaktných vedách mnohí zobrazujú inteligenciu tak, ako to urobil Nick Bostrom vo svojej knihe Supermind – doslova ako jednorozmerný lineárny graf s rastúcou amplitúdou.

Na jednom konci sú bytosti s najnižšou úrovňou inteligencie, napríklad malé zvieratá, a na druhom - géniovia, akoby sa úroveň inteligencie nelíšila od úrovne zvuku, meranej v decibeloch. Samozrejme, v takom prípade je ľahké si predstaviť ďalší nárast, pri ktorom úroveň inteligencie presahuje najvyššiu známku tabuľky a dokonca ju presahuje.

Takýto model je topologicky ekvivalentný rebríku, na stupňoch ktorého sú úrovne inteligencie usporiadané vzostupne. Menej inteligentné zvieratá obsadzujú spodné priečky rebríčka a nad nami sa nevyhnutne bude nachádzať umelá inteligencia vyššej úrovne. Časový rámec, kedy sa to stane, je irelevantný. Oveľa dôležitejšie sú samotné kroky hierarchie – metriky rastúcej inteligencie.

Problém s týmto modelom je, že je mýtický, podobne ako model evolučného rebríčka. Pred darwinizmom bola divoká zver reprezentovaná ako rebrík živých bytostí, kde človek zastával stupienok nad primitívnejšími zvieratami.

A aj po Darwinovi je jedným z najbežnejších konceptov rebrík evolúcie. Ukazuje premenu rýb na plazy, ich na cicavce, primáty na človeka. Navyše, každé ďalšie stvorenie je vyvinutejšie (a, samozrejme, inteligentnejšie) ako jeho predchodca. Takže rebrík intelektu koreluje s rebríkom vesmíru. Oba modely však odrážajú úplne protivedecké názory.

Presnejším vzorom pre prirodzený vývoj by bol disk, ktorý sa rozbieha smerom von, ako na obrázku vyššie. Po prvýkrát takúto štruktúru vyvinul David Hillis z Texaskej univerzity, urobil to na základe DNA. Táto genealogická mandala začína v strede s najprimitívnejšími formami života a potom sa vetví smerom von. Čas ide dopredu, takže najnovšie formy života sa nachádzajú pozdĺž obvodu kruhu.

Tento obrázok poukazuje na nepochopiteľný fakt o evolúcii zásadného významu – všetko živé sa vyvinulo rovnako. Človek sa nachádza na vonkajšej časti disku spolu so švábmi, mäkkýšmi, papraďami, líškami a baktériami.

Všetky druhy bez výnimky prešli nerozlučným reťazcom úspešného rozmnožovania trvajúceho tri miliardy rokov, čo znamená, že baktérie a šváby sa vyvinuli rovnako vysoko ako ľudia. Nie sú tam žiadne schody.

Rovnako tak neexistuje rebríček inteligencie. Inteligencia nie je jednorozmerná. Ide o komplex rôznych typov a metód poznávania, z ktorých každý je spojitý. Urobme si jednoduché cvičenie na meranie inteligencie u zvierat. Ak by bol intelekt jednorozmerný, mohli by sme ľahko zoradiť papagája, delfína, koňa, veveričku, chobotnicu, modrú veľrybu, mačku a gorilu vo vzostupnom poradí intelektu.

V súčasnosti neexistujú žiadne vedecké dôkazy o existencii takejto sekvencie. Dôvodom môže byť nedostatok rozdielov medzi úrovňou inteligencie určitých zvierat, ale to je tiež nerozumné.

Zoológia je bohatá na príklady nápadných rozdielov v myslení zvierat. Možno sú všetky zvieratá obdarené „všeobecnou“ inteligenciou? Možno, ale nemáme jediný nástroj na meranie tohto druhu inteligencie. Máme však mnoho meracích systémov pre rôzne druhy poznania.

Namiesto jedného riadku decibelov by bolo správnejšie zobraziť inteligenciu ako pravdepodobnostný priestorový diagram, ako pri vizualizácii možných foriem, ktorú vytvoril algoritmus Richarda Dawkinsa. Inteligencia je kombinatorické kontinuum. Mnoho uzlov, z ktorých každý je kontinuum, vytvára komplex kolosálnej diverzity v mnohých dimenziách. Niektoré druhy inteligencie môžu byť veľmi zložité, s veľkým súborom poduzlov myslenia. Iné sú jednoduchšie, ale extrémnejšie, dosahujú extrémny bod vesmíru.

Tieto komplexy, ktoré pre nás znamenajú rôzne druhy intelektu, môžeme vnímať ako symfónie hrané na rôznych druhoch hudobných nástrojov. Líšia sa nielen hlasitosťou, ale aj melódiou, farbou, tempom atď. Môžete si ich predstaviť ako ekosystém. V tomto zmysle sú rôzne zložky uzlov myslenia vzájomne závislé a sú postavené jedna od druhej.

Ako povedal Marvin Minsky, ľudské vedomie je spoločnosťou rozumu. Naše myslenie je úplný ekosystém. Náš mozog má mnoho spôsobov poznania, ktoré vykonávajú rôzne mentálne funkcie: dedukciu, indukciu, emocionálnu inteligenciu, abstraktné a priestorové myslenie, krátkodobú a dlhodobú pamäť.

Celý ľudský nervový systém je súčasťou mozgu s vlastnou úrovňou poznania. V skutočnosti proces myslenia nevykonáva mozog, ale celé ľudské telo.

Všetky druhy myslenia sa líšia medzi druhmi aj medzi členmi toho istého druhu. Presnú polohu niekoľkých tisíc žaluďov si veverička dokáže zapamätať celé roky, čo je pre človeka úplne nepochopiteľné. V tomto spôsobe myslenia sú ľudia menejcenní ako bielkoviny. Myseľ veveričky je kombináciou tejto superschopnosti s inými formami inteligencie, v ktorej je človek nadradený veveričke. V živočíšnej ríši možno nájsť mnoho príkladov nadradenosti určitých foriem inteligencie zvierat nad ľudskou.

Rovnaká situácia sa vyvinula aj s umelou inteligenciou, ktorá už v niektorých oblastiach prevyšuje ľudskú. Každá kalkulačka je matematický génius a pamäť Google je už v niektorých ohľadoch lepšia ako tá naša.

Niektoré AI vykonávajú takú mentálnu činnosť, ktorej nie sme schopní. Zapamätať si každé slovo na šiestich miliardách webových stránok je pre ľudí nemožná úloha a pre vyhľadávače maličkosť. V budúcnosti vytvoríme úplne nové spôsoby myslenia, ktoré nie sú pre človeka dostupné a v prírode neexistujú.

Vynálezcovia lietajúcich strojov sa inšpirovali prirodzeným letom – mávaním krídel. Neskôr však bolo vynájdené pevné krídlo s pripevnenými vrtuľami, čo bol úplne nový princíp letu, ktorý sa v prírode nenachádza.

Takto vymýšľame nové spôsoby myslenia, ktorých nie je schopný žiadny druh. S najväčšou pravdepodobnosťou to budú princípy použiteľné len na vysoko špecializované problémy: napríklad nové logické konštrukcie, ktoré sú potrebné len v štatistike a teórii pravdepodobnosti.

Nový druh myslenia pomôže vyriešiť problémy, s ktorými si ľudská myseľ nevie poradiť. Niektoré z najťažších otázok v obchode a vede si vyžadujú dvojkrokové riešenie. Prvým krokom je vynájsť nový spôsob prirodzeného myslenia. Druhým je začať hľadať odpovede spolu s AI.

Ľudia začnú považovať AI za inteligentnejšiu ako oni sami, ak s jej pomocou dokáže vyriešiť predtým neriešiteľné problémy. V skutočnosti myslenie AI nie je lepšie ako naše, je len iné. Domnievam sa, že hlavným prínosom umelej inteligencie je to, že je schopná myslieť ako outsider a práve toto odcudzenie je jej hlavnou výhodou.

Okrem toho vytvoríme komplexné „komunity“ AI s rôznym zmýšľaním. Budú také zložité, že budú vedieť riešiť problémy, s ktorými si nevieme rady. Niektorí ľudia si preto budú mylne myslieť, že komplexy AI sú inteligentnejšie ako ľudia. Ale neveríme, že vyhľadávač Google je múdrejší ako človek, hoci jeho pamäť je lepšia ako tá naša.

Je pravdepodobné, že tieto komplexy umelej inteligencie nás v mnohých oblastiach prekonajú, no žiadny z nich neprekoná ľudí všade naraz. Podobná situácia je s našou fyzickou silou. Dvesto rokov po priemyselnej revolúcii žiadny stroj neprekonal priemerného človeka vo všetkých smeroch, hoci stroje ako trieda výrazne prevyšujú ľudí v rýchlosti behu, zdvíhaní závaží, presnosti rezania a iných činnostiach.

Napriek zložitosti štruktúry AI ju nie je možné merať metódami modernej vedy. Nemáme nástroje na to, aby sme zistili, čo je ťažšie, či uhorka alebo Boeing 747, a nemáme spôsob, ako zmerať rozdiely v ich zložitosti. Preto stále nemáme presné kritériá intelektuálnych schopností.

Postupom času bude čoraz ťažšie určiť, čo je ťažšie, a teda aj inteligentnejšie: inteligencia A alebo inteligencia B. Existuje veľa neprebádaných oblastí duševnej činnosti a hlavne nám to bráni pochopiť, že myseľ nie je jednorozmerný.

Druhá mylná predstava o ľudskej mysli je, že veríme, že naša myseľ je univerzálna. Táto rozšírená viera formuje cestu, ktorou sa vydávame smerom k umelej všeobecnej inteligencii (AGI), ktorú kedysi propagovali odborníci na AI.

Ak však uvažujeme o mysli ako o obrovskom priestore možností, nemôžeme hovoriť o stave všeobecného účelu. Ľudská myseľ nezaberá nejaké abstraktné centrálne miesto a iné špecializované druhy mysle sa okolo nej neotáčajú.

Ľudská inteligencia je skôr mimoriadne špecifický typ inteligencie, ktorý sa vyvíjal milióny rokov na prežitie nášho druhu na tejto planéte. Ak by sme chceli našu inteligenciu zaradiť medzi všetky ostatné možné typy inteligencie, skončila by niekde v kúte – ako samotný náš svet, uhniezdený na okraji obrovskej galaxie.

Samozrejme, vieme si predstaviť a niekedy vymyslieť druh myslenia, ktorý je svojimi charakteristikami podobný švajčiarskemu nožu. Zdá sa, že sa s mnohými úlohami vyrovná, ale nie s treskom.

Existuje aj technické pravidlo, že všetky veci sa musia podriadiť bez ohľadu na to, či boli vytvorené zámerne alebo prišli na svet prirodzenou cestou: „Nedá sa optimalizovať všetky merania. Môžete nájsť len kompromisy. Multifunkčný stroj typu všetko v jednom nemôže prekonať špecializované funkcie.“

Vedomie „do-it-all“ nemôže pracovať na rovnakej úrovni ako špecializovaní odborníci na špecifické úlohy. Keďže naše vedomie považujeme za univerzálny mechanizmus, veríme, že poznanie by nemalo byť založené na kompromisoch a že je možné vynájsť umelú inteligenciu, ktorá preukáže maximálnu mieru efektivity vo všetkých typoch myslenia.

Nevidím však žiadne dôkazy pre toto tvrdenie. Jednoducho sme ešte nevytvorili dostatok odrôd vedomia, ktoré by nám umožnili vidieť úplný obraz (zatiaľ radšej nepovažujeme vedomie zvierat cez prizmu jediného parametra za samostatný typ myslenia s premenlivou amplitúdou).

Časť tohto presvedčenia, že naše myslenie je čo najuniverzálnejšie, pramení z konceptu univerzálneho výpočtu. Tento predpoklad bol v roku 1950 nazvaný Church-Turingova téza. Uvádza, že všetky výpočty, ktoré spĺňajú určité parametre, sú ekvivalentné.

Existuje teda univerzálny základ pre všetky výpočty. Či už sa výpočet vykonáva v jedinom stroji s množstvom rýchlych strojov, stroji s nižším výkonom alebo dokonca v biologickom mozgu, je to rovnaký logický proces. To zase znamená, že môžeme simulovať akýkoľvek výpočtový proces (myslenie) akýmkoľvek strojom, ktorý dokáže vykonávať „univerzálne“ výpočty.

Týmto princípom ospravedlňujú priaznivci singularity svoje očakávania, že dokážeme navrhnúť umelý mozog na báze kremíka, ktorý dokáže prispôsobiť ľudské vedomie, že dokážeme vytvoriť umelú inteligenciu, ktorá bude myslieť rovnakým spôsobom ako človek, ale mnohokrát efektívnejšie. . K týmto nádejam by sa malo pristupovať s určitou dávkou skepticizmu, keďže sú založené na nesprávnom výklade tézy Church-Turing.

Východisková pozícia tejto teórie je: "V podmienkach neobmedzenej pamäte a času sú všetky výpočty ekvivalentné." Problém je v tom, že v skutočnosti žiadny počítač nemá vlastnosti nekonečnej pamäte alebo času. Keď robíte výpočty v reálnom svete, časová zložka je mimoriadne dôležitá až do tej miery, že často ide o život a smrť.

Áno, všetky typy myslenia sú si rovné, ak vylúčime časový aspekt. Áno, je možné napodobniť ľudský myšlienkový proces v akejkoľvek matrici, ak sa rozhodnete ignorovať čas alebo obmedzenia voľného priestoru a pamäte v reálnom svete.

Ak však do tejto rovnice zahrnieme aj časovú premennú, budeme musieť výrazne zmeniť formuláciu princípu: „Dva výpočtové systémy fungujúce na radikálne odlišných platformách nebudú produkovať ekvivalentné výpočty v reálnom čase.“

Tento princíp možno preformulovať takto: „Jediný spôsob, ako získať rovnocenné spôsoby myslenia, je vykonávať ich na rovnakom základe. Fyzické médium, na ktorom vykonávate výpočty – najmä so zvyšujúcim sa stupňom ich zložitosti – výrazne ovplyvňuje spôsob myslenia v podmienkach reálneho času.

V logickom reťazci budem predpokladať, že jediný spôsob, ako vytvoriť typ myslenia čo najbližšie k človeku, je vykonávať výpočty s použitím hmoty, ktorá sa čo najviac podobá našej sivej hmote.

To znamená, že možno tiež predpokladať, že objemná, komplexná umelá inteligencia vytvorená na báze suchého kremíka bude generovať neohrabané, zložité a nepodobné ľudským typom myslenia. Ak by bolo možné vytvoriť umelú inteligenciu, ktorá beží na mokrej hmote pomocou umelých neurónov, ako sú tie ľudské, myšlienkový proces takejto AI by bol oveľa bližší našim.

Výhody takéhoto „mokrého“ systému sú úmerné blízkosti používaných fyzických médií k ľudským. Vytvorenie takejto látky by si vyžadovalo obrovské materiálne náklady, aby sa dosiahla úroveň aspoň podobná tomu, čo je nám vlastné od prírody. A týmto spôsobom môžeme vytvoriť novú osobu - stačí počkať 9 mesiacov.

Tiež, ako už bolo spomenuté, myslíme celou svojou bytosťou, nielen svojím vedomím. Moderná veda má množstvo údajov o tom, ako náš nervový systém ovplyvňuje „racionálny“ proces rozhodovania, predpovedá a prispôsobuje sa. Čím viac zvažujeme systém ľudského tela, tým starostlivejšie ho môžeme následne znovu vytvoriť. Umelá inteligencia fungujúca na látke radikálne odlišnej od našej (suchý kremík namiesto mokrého uhlíka) bude tiež rozmýšľať inak.

Nemyslím si, že táto funkcia je skôr „funkcia, nie chyba“. Ako som uviedol v druhom odseku tohto článku, rozdiely v myšlienkovom procese AI sú jeho hlavnou výhodou. Tu je ďalší dôvod, prečo by bolo chybou tvrdiť, že je „múdrejší ako ľudský mozog“.

Jadrom konceptu nadľudskej inteligencie – a najmä teórie neustáleho sebazdokonaľovania takejto AI – je úprimná viera v neobmedzenosť inteligencie. Pre toto tvrdenie som nenašiel žiadne dôkazy.

K šíreniu tohto tvrdenia opäť prispieva chybné vnímanie inteligencie ako systému definovaného len jednou dimenziou, no musíme pochopiť, že zostáva neopodstatnené. Vo vesmíre nie sú žiadne nekonečné fyzické dimenzie – prinajmenšom sú pre vedu stále neznáme.

Teplota nie je nekonečná - existujú minimálne a maximálne ukazovatele chladu a tepla. Priestor a čas tiež nie sú neobmedzené, rovnako ako rýchlosť. Možno možno číselnú os nazvať nekonečnou, ale všetky ostatné fyzikálne parametre majú svoje hranice. Samozrejme, aj samotná myseľ je konečná.

Vynára sa otázka: kde sú hranice inteligencie? Kedysi sme verili, že hranica je niekde ďaleko, rovnako „nad“ nami, ako sme „nad“ mravcami. Ak odhliadneme od nevyriešeného problému jednorozmernosti, ako dokážeme, že sme ešte nedosiahli limit? Prečo nemôžeme byť korunou stvorenia? Alebo sme už takmer dosiahli hranice ľudských možností? Prečo veríme, že inteligencia je nekonečne sa vyvíjajúci pojem?

Je lepšie považovať našu inteligenciu za jednu z odrôd obrovského množstva typov myslenia. Hoci každá dimenzia poznania a výpočtu má svoj limit, ak existujú stovky dimenzií, potom existuje nespočetné množstvo druhov inteligencie, ale žiadna z nich nie je v žiadnej dimenzii nekonečná.

Keď vytvárame alebo sa stretávame s týmito nespočetnými variáciami na tému vedomia, môžeme ich zažiť ako mimo našich schopností. Vo svojej najnovšej knihe The Inevitable som načrtol zoznam niektorých z týchto odrôd, ktoré sú tak či onak podradné od nás. Tu je časť tohto zoznamu:

Myseľ, čo najbližšie k človeku, ale s vyššou reakčnou rýchlosťou (najjednoduchšia umelá inteligencia);

Veľmi pomalá myseľ, ktorej hlavnými zložkami sú dostatok úložného priestoru a pamäť;

Univerzálna inteligencia, pozostávajúca z miliónov individuálnych vedomí konajúcich jednotne;

Úľová myseľ zložená z veľkého počtu mimoriadne produktívnych inteligencií, ktoré si neuvedomujú, že sú jedna;

Borgská supermysl (rasa kyborgov s kolektívnou mysľou, ktorí sa snažia asimilovať všetko živé zo série Star Trek do svojho kolektívu - približne. Nové čo) - súbor vysoko funkčných intelektov, jasne si uvedomujúcich, že sú jedným celkom;

Myseľ určená na rozvoj osobného vedomia nositeľa, ale nepoužiteľná pre nikoho iného;

Rozum, schopný predstaviť si komplexnejšiu myseľ, ale nedokáže ju vytvoriť;

Rozum schopný jedného dňa úspešne vytvoriť komplexnejšiu myseľ;

Rozum schopný vytvoriť komplexnejšiu myseľ, ktorá zase môže vytvoriť ešte komplexnejšiu myseľ atď.;

Rozum, ktorý má rýchly prístup k svojmu zdrojovému kódu (môže kedykoľvek zmeniť vlastnosti svojho fungovania);

Super-logická myseľ, bez schopnosti prežívať emócie;

Štandardná myseľ, zameraná na riešenie problémov, ale neschopná introspekcie;

Myseľ schopná introspekcie, ale neschopná riešiť úlohy, ktoré jej boli pridelené;

Myseľ, ktorej formovanie trvá dlho a potrebuje strážnu myseľ;

Výnimočne pomalá myseľ rozptýlená v obrovskom fyzickom priestore, ktorý sa javí ako „neviditeľný“ pre rýchlejšie reagujúce formy vedomia;

Myseľ, ktorá dokáže rýchlo a opakovane reprodukovať svoje kópie;

Myseľ schopná reprodukovať svoje kópie a zostať s nimi jedno;

Myseľ schopná dosiahnuť nesmrteľnosť pohybom od hostiteľa k hostiteľovi;

Rýchla, dynamická myseľ, schopná zmeniť proces a povahu myslenia;

Nano-myseľ, najmenšia nezávislá jednotka (pokiaľ ide o veľkosť a uvoľnenú energiu) schopná introspekcie;

Myseľ špecializovaná na skriptovanie a predpovedanie;

Myseľ, ktorá nikdy na nič nezabudne, vrátane nesprávnych informácií;

Napoly stroj, napoly zviera;

Napoly stroj, napoly androgýnny kyborg;

Myseľ, ktorá vo svojej práci využíva pre nás nepochopiteľnú kvantitatívnu analýzu.

Dnes niektorí označujú každú z vymenovaných odrôd myslenia za nadľudskú AI, no v budúcnosti nás rozmanitosť a odcudzenie týchto foriem inteligencie prinúti obrátiť sa na nové slovníky a podrobne študovať tému myslenia a inteligencie.

Okrem toho prívrženci myšlienky nadľudskej AI predpokladajú, že úroveň jej mentálnych schopností bude exponenciálne rásť (hoci stále nemajú systém na hodnotenie tejto úrovne). Možno veria, že proces exponenciálneho vývoja už prebieha.

Každopádne, dnes neexistuje žiadny dôkaz o takomto raste, bez ohľadu na to, ako ho meriate. V opačnom prípade by to znamenalo, že mentálne schopnosti AI sa počas určitého časového obdobia zdvojnásobia.

Kde je na to potvrdenie? Jediná vec, ktorá teraz exponenciálne rastie, sú investície do priemyslu AI. Ale návratnosť týchto investícií sa nedá opísať Moorovým zákonom. AI sa nestane dvakrát inteligentnejšou za tri roky a dokonca ani za desať rokov.

Pýtal som sa mnohých odborníkov na AI, ale všetci súhlasili, že nemáme kritériá na primeranosť. Keď som sa opýtal Raya Kurzweila, skutočného čarodejníka exponenta, kde nájsť dôkazy o exponenciálnom vývoji AI, napísal mi, že vývoj AI nie je výbušný, ale postupný proces.

„Pridanie novej úrovne do hierarchie si vyžaduje exponenciálne zvýšenie výpočtového výkonu a zvýšenie zložitosti algoritmu... Preto by sme mali očakávať lineárny nárast počtu podmienených úrovní, pretože každá z nich vyžaduje exponenciálny nárast našich vlastných schopností. Nezostáva nám veľa úrovní obtiažnosti, aby sme dosiahli schopnosti AI neokortexu (hlavnej časti ľudskej kôry, ktorá je zodpovedná za vyššie nervové funkcie - približne. Nový ako), takže stále verím, že moje predpoklady o roku 2029 sú správne.“

Zdá sa, že Ray hovorí, že to nie je sila umelej inteligencie, ktorá rastie exponenciálne, ale úsilie o jej vytvorenie, pričom ich výsledok sa zakaždým len zvýši o jeden krok. To je takmer opak hypotézy explózie inteligencie. To sa môže v budúcnosti zmeniť, ale AI dnes zjavne nerastie exponenciálne.

Keď si teda predstavíme „boom AI“, nemali by sme si ho predstaviť ako lavínu, ale skôr ako rozdelenie do mnohých nových odrôd. Výsledkom technologického pokroku s najväčšou pravdepodobnosťou nebude superman, ale superman. Nad rámec nášho poznania, ale nie nevyhnutne „nad“ ním.

Ďalším mýtom o zotročení superinteligencie, ktorý sa považuje za samozrejmosť, no len ťažko podopretý dôkazmi, je, že takmer nekonečná inteligencia dokáže rýchlo vyriešiť všetky naše problémy.

Mnohí zástancovia bleskovo rýchlej AI očakávajú, že splodí prebiehajúci boom. Vieru v toto nazývam „thinkizmus“, tento výraz preložil Vyacheslav Golovanov - približne. Nové čo). Tento prístup vychádza z presvedčenia, že pokroku bráni len nedostatočná úroveň myslenia či inteligencie. (Poznamenávam tiež, že viera v AI ako všeliek na všetky neduhy je charakteristická pre väčšinu ľudí, ktorí radi myslia sami za seba.)

Zamyslime sa nad otázkou poraziť rakovinu alebo predĺžiť život. Sú to problémy, ktoré sa nedajú vyriešiť iba myslením. Žiadne množstvo myšlienok nedokáže zistiť, ako bunky starnú alebo ako sa skracujú teloméry. Žiadna inteligencia, akokoľvek chladná, nedokáže pochopiť, ako funguje ľudské telo jednoduchým prečítaním všetkej známej vedeckej literatúry na svete a jej analýzou.

Super-AI nemôže len premýšľať o všetkých súčasných a minulých experimentoch s jadrovým štiepením a o deň neskôr prísť s receptom na jadrovú fúziu. Ak chcete prejsť od nepochopenia k pochopeniu akejkoľvek témy, potrebujete niečo viac, než len premýšľať.

V skutočnosti existuje veľa experimentov, z ktorých každý poskytuje množstvo protichodných údajov a vyžaduje ďalšie experimenty na vytvorenie správnej pracovnej hypotézy. Samotné premýšľanie o možných výsledkoch neprinesie správny výstup.

Myslenie (inteligencia) je len časťou nástroja vedy. S najväčšou pravdepodobnosťou len malá časť. Napríklad jednoducho nemáme dostatok údajov, aby sme sa priblížili k vyriešeniu problému smrti. V prípade práce so živými organizmami si väčšina týchto experimentov vyžaduje čas. Pomalý metabolizmus buniek sa nedá urýchliť. Dosiahnutie výsledkov trvá roky, mesiace alebo aspoň dni.

Ak chceme vedieť, čo sa deje so subatomárnymi časticami, nestačí o nich len premýšľať. Musíme postaviť veľmi veľké, veľmi zložité, veľmi sofistikované fyzikálne modely, aby sme to zistili. Aj keby sa tí najmúdrejší fyzici stali tisíckrát múdrejšími ako sú teraz, bez zrážača sa nič nové nenaučia.

Niet pochýb o tom, že super-AI môže urýchliť rozvoj vedy. Môžeme vytvárať počítačové modely atómov alebo buniek, môžeme ich zrýchliť mnohými spôsobmi, no existujú problémy, ktoré bránia simuláciám okamžite napredovať.

Stojí za to pripomenúť, že simulácie a modely je možné skúmať rýchlejšie ako ich predmety len preto, že vynechávajú určité premenné. Toto je samotná podstata modelovania. Je tiež dôležité poznamenať, že testovanie, štúdium a overovanie takýchto modelov tak, aby zodpovedali úrovni ich predmetov, trvá dlho. Testovanie skúsenosťami sa nedá urýchliť.

Zjednodušené verzie v simulácii sú užitočné pri hľadaní najsľubnejších spôsobov, ako urýchliť pokrok. Ale v skutočnosti nie je nič zbytočné, na všetkom do určitej miery záleží - to je jedna veľká definícia reality. Ako sa modely a simulácie stávajú čoraz detailnejšími, výskumníci čelia skutočnosti, že realita beží rýchlejšie ako jej 100% simulácia.

Tu je ďalšia definícia reality: najrýchlejšie fungujúca verzia všetkých možných detailov a stupňov voľnosti. Ak by ste mohli simulovať všetky molekuly v bunke a všetky bunky v ľudskom tele, tento model by nebežal tak rýchlo ako ľudské telo. Bez ohľadu na to, ako premyslene navrhnete takýto model, stále budete musieť stráviť čas experimentovaním, či už ide o skutočný systém alebo simuláciu.

Aby bola umelá inteligencia užitočná, musí byť zavedená do sveta a v tomto svete sa potrebné tempo inovácií dosť rýchlo mení. Bez prvých experimentov, prototypov, chýb a zapojenia sa do reality môže intelekt myslieť, ale neprinesie výsledky. Neurobí žiadne chvíľkové objavy ani za sekundu, ani za hodinu, ani za rok po tom, čo ho nazvú „múdrejším ako človek“.

Objaví sa AI. Samozrejme, že tempo objavovania sa zrýchli, keď sa táto AI stane zložitejšou, čiastočne preto, že mimozemská umelá inteligencia bude klásť otázky, ktoré by sa nepýtal žiadny človek, ale ani veľmi výkonná (v porovnaní s nami) inteligencia nezaručuje okamžitý pokrok. Riešenie problémov si vyžaduje oveľa viac ako len inteligenciu.

Problémy s rakovinou a dlhovekosťou nie sú jediné, ktoré samotná inteligencia nedokáže vyriešiť. Medzi zástancami myšlienky technologickej singularity existuje všeobecná mylná predstava: ak vytvoríme AI, ktorá je inteligentnejšia ako ľudia, zrazu sa začne vyvíjať a vytvorí ešte inteligentnejšiu AI.

Nová umelá inteligencia sa zamyslí hlbšie a vymyslí niečo ešte šikovnejšie a tak ďalej, kým sa nevynájde niečo bohovské. Neexistuje žiadny dôkaz, že samotné myslenie stačí na vytvorenie nových úrovní inteligencie. Tento druh myslenia je založený na viere.

Existuje však množstvo dôkazov, že vynález novej efektívnej inteligencie si vyžaduje nielen duševné úsilie, ale aj experimenty, dáta, zložité otázky, pokusy a omyly.

Chápem, že sa môžem mýliť. Zatiaľ čo sme v ranom štádiu. Možno objavíme univerzálnu škálu inteligencie alebo jej nekonečnosť v každom zmysle. Existuje možnosť technologickej jedinečnosti, pretože vieme veľmi málo o tom, čo je inteligencia a sebauvedomenie. Podľa mňa všetko nasvedčuje tomu, že je to nepravdepodobné, ale šanca tu stále je.

Podporujem však širšie ciele OpenAI: musíme vyvinúť priateľskú AI a prísť na to, ako jej dať hodnoty, ktoré sa replikujú samostatne a zodpovedajú našim.

Existuje možnosť, že nadľudská AI by mohla byť z dlhodobého hľadiska škodlivá, ale táto myšlienka je založená na neúplných dôkazoch a nemala by sa brať vážne, pokiaľ ide o vedu, politiku alebo pokrok.

Dopad asteroidu na Zem by nás mohol zničiť, existuje možnosť takého výsledku (potvrdzuje to nadácia B612), ale o takomto výsledku by sme nemali uvažovať v otázkach globálneho otepľovania, vesmírneho cestovania alebo plánovania miest.

Dostupné dôkazy naznačujú, že AI s najväčšou pravdepodobnosťou nebude nadčlovekom. Bude mať nové druhy myslenia, ktoré sú pre človeka nedostupné, no bez komplexnej aplikácie sa nestane bohom, ktorý v okamihu vyrieši naše hlavné problémy.

Namiesto toho sa stane akumuláciou intelektu s obmedzenými schopnosťami, bude lepšie ako my pracovať v oblastiach na nás nezvyknutých, spolu s nami bude môcť nájsť riešenia na existujúce aj nové problémy.

Chápem, aká príťažlivá je myšlienka nadľudskej a božskej AI. Mohol by byť ďalším Supermanom. Ale, podobne ako Superman, aj toto je fiktívna postava. Niekde vo vesmíre môže existovať Superman, ale je to veľmi nepravdepodobné. Nech je to akokoľvek, mýty môžu byť užitočné a po vytvorení už nezanikajú.

Myšlienka Supermana bude žiť navždy. Myšlienka nadľudskej AI a Singularity sa objavuje teraz a nikdy sa na ňu nezabudne. Musíme pochopiť, o aký druh idey ide: náboženská alebo vedecká. Ak skúmame otázku inteligencie, umelej alebo prirodzenej, musíme jasne pochopiť, že náš koncept nadľudskej AI nie je nič iné ako mýtus.

Kmene izolovaných ostrovov Mikronézie prvýkrát nadviazali kontakt s vonkajším svetom počas druhej svetovej vojny. Bohovia prileteli z ďalekých krajín, zostúpili z neba na hlučné vtáky, priniesli dary a navždy odleteli. Kulty návratu týchto bohov a nových darov sa šírili po ostrovoch. Aj teraz, po 50 rokoch, mnohí stále čakajú na svoj návrat.

Superhuman AI by sa pre nás mohla stať novým kultom nákladu. Možno o sto rokov budú ľudia našu dobu vnímať rovnako: ako keby sme verili v nadľudskú AI a čakali desaťročia, kým sa každú chvíľu objaví a prinesie nám nepredstaviteľné dary.

Nenadľudská AI však už existuje. Pokračujeme v hľadaní novej definície, aby sme to skomplikovali. Avšak v širšom zmysle je pre nás cudzia myseľ spektrom intelektuálnych schopností, myslenia, mechanizmov uvažovania, učenia, sebauvedomenia. AI sa šíri a bude sa šíriť aj naďalej. Stáva sa hlbším, rozmanitejším, mocnejším.

Pred AI žiaden vynález nedokázal úplne zmeniť svet. Do konca 21. storočia bude umelá inteligencia taká silná, že zmení všetko v našich životoch.

Nech je to akokoľvek, mýtus o nadľudskej AI, ktorá nám dá superbohatstvo alebo superotroctvo (alebo oboje), bude žiť ďalej. Zostane to však mýtus, ktorý sa len ťažko pretaví do reality.