Galima grėsmė dėl dirbtinio intelekto. Ekstrasensai

Ir kiti žinomi mokslininkai parašė atvirą laišką, ragindami sukurti saugos standartus dirbtinio intelekto (DI) kūrimo srityje. /Interneto svetainė/

Visų pirma jie paragino atlikti tyrimus ir kurti patikimą valdymo sistemą, kuri neleistų netinkamai veikiančiam dirbtiniam intelektui pakenkti žmonėms. „Reikia atlikti techninį darbą, kad būtų užtikrinta visiška žmogaus kontrolė“, – sakoma laiške.

Nepaisant saikingo laiško tono, luditai, bijodami naujų technologijų, panikavo. Reaguodama į tai, spaudoje pasirodė daugybė mokslininkų interviu ir pareiškimų, kurie išsklaidė šias baimes.

„Baidu“ dirbtinio intelekto ekspertas Andrew Ng sakė „Fusion“: „Nematau realaus scenarijaus, kad programinė įranga, su kuria šiandien dirbame, taptų trikdanti“.

Savo ruožtu žurnalistas Scottas Alexanderis sudarė žinomų mokslininkų, dalyvaujančių kuriant AI, sąrašą, kurie kalbėjo apie galimą AI keliamą pavojų.

Baimė ir nerimas

Kalifornijos universiteto Berklyje kompiuterių mokslų profesorius Stuartas Russeris palygino AI valdymo mechanizmų kūrimą su branduolinių reaktorių saugos priemonių taikymu.

„Kai kurie mano, kad per ateinančius kelis šimtus metų ši problema nekelia pavojaus žmonijai. Jie pamiršta, kad Leo Szilardas atrado branduolinę grandininę reakciją praėjus 24 valandoms po to, kai Rutherfordas užtikrintai pareiškė, kad atominės energijos niekada nebus gauta“, – rašė Russellas.

Russellas nėra vienas savo nuomone. 2014 m. Vincento Mullerio ir Nicko Bostromo apklausoje, kurioje dalyvavo 170 geriausių dirbtinio intelekto ekspertų, 18 % jų manė, kad itin protingos mašinos sukūrimas būtų „tikra nelaimė“ žmonijai. 13% teigė, kad pažangus AI turės neigiamų pasekmių žmonėms. Kiek daugiau nei pusė mokslininkų teigė, kad tai turės teigiamą poveikį.

Nors ekspertų nuomonė apie AI poveikį yra dviprasmiška, dauguma sutinka, kad pažangaus AI sukūrimas – tik laiko klausimas. Remiantis prognozėmis, dirbtinis intelektas, lygus žmogui, bus sukurtas jau 2050 metais (50% tikimybė) arba iki 2075 metų (90% tikimybė). Ir po 30 metų nuo jo sukūrimo atsiras dirbtinis superintelektas, kuris visais aspektais pranoks žmones.

beprotiški sunkvežimiai

Kaip gali atrodyti Mašinų kilimas? Mokslinės fantastikos filmuose, kaip „Terminatorius“, „Robotas“, „Animatrix“, rodomas žmonių karas su kiborgais.

Sprendžiant iš mokslinės fantastikos filmų, daugelis gali manyti, kad galimo pavojaus lengva išvengti.Juk dirbtinis intelektas iš esmės yra tik kompiuterių programinė įranga.

Tačiau dirbtinis intelektas nebūtinai turi turėti mechaninį korpusą, kad įgytų galią realiame pasaulyje: jis gali tiesiog pradėti valdyti visus mūsų kasdienius elektroninius prietaisus.

Stephenas Kingas tokį scenarijų pristatė apysakoje „Sunkvežimiai“. Istorijoje, parašytoje aštuntajame dešimtmetyje, sunkvežimiai atgauna sąmonę ir pradeda pulti žmones. Nuo įsisiautėjusių sunkvežimių slepiasi būrys žmonių. Sunkvežimiams vis dar reikia degalų, kad jie galėtų veikti, ir naudoti Morzės abėcėlę, kad lieptų žmonėms užsipilti, kitaip buldozeris susprogdins jų dangtį. Žmonės paklūsta.

Istorija baigiasi pasakotojo vizija, kad sunkvežimiai pavergė žmoniją ir visur primeta savo vertybes, pavyzdžiui, verčia juos tiesti greitkelius visame pasaulyje. Iš fantazijų pasaulio jį ištraukia danguje skrendančio lėktuvo garsas.

Stepheno Kingo istorija atrodė futuristinė tuo metu, kai ji buvo parašyta, tačiau ji nėra taip toli nuo šiuolaikinio pasaulio realybės. savaeigiai sunkvežimiai jau egzistuoja, o ateityje įmonės, siekdamos sutaupyti, vairuotojus gali pakeisti autonomine navigacijos sistema.

Praėjusiais metais „Sony“ įsilaužimas rodo, kad mūsų informacinės sistemos tampa vis labiau pažeidžiamos. Tai viena iš didėjančio infrastruktūrų kompiuterizavimo pasekmių.

Tačiau nerimauti kol kas nėra pagrindo. Dirbtinis intelektas turi nueiti ilgą kelią, kol jis prilygs žmogaus smegenims. Savaeigio sunkvežimio pavyzdys tai puikiai iliustruoja. Nors jie vis dar pernelyg netobuli, kad galėtų savarankiškai važiuoti perpildytoje miesto gatvėmis.

Ar savo telefone įdiegtumėte programą epochtimes straipsniams skaityti?

Pasaulinė apokalipsė, susijusi su AI (dirbtiniu intelektu), vis labiau gąsdina pirmaujančius pasaulio mokslininkus kompiuterių technologijų srityje. Tai gali būti robotų sukilimas, kurie, vadovaudamiesi savo programa ir vertybėmis, norės planetoje sunaikinti biologines gyvybės formas. Galimas scenarijus, kai dirbtinio intelekto valdomos mašinos tampa dominuojančia gyvybės forma.

Kodėl pasaulinio garso mokslininkai, tokie kaip Billas Gatesas, Steve'as Hawkingas, Elonas Muskas ir kiti, yra susirūpinę šia problema ir viešai skelbia realią šio scenarijaus grėsmę? Ar Holivudo filme „Terminatorius“ vykę įvykiai gali būti pranašiški? Yra žinoma, kad bet kokia išgalvota istorija yra pagrįsta tikrais faktais.

Kompiuteriai vis geriau meluoja ir apgaudinėja

Melas yra elgesio forma, susiformavusi evoliucijos procese. Žmonės, kai kurie gyvūnai ir paukščiai griebiasi apgaulės, kad gautų maisto ir pašalpų, o tai padidina tikimybę išgyventi. Neseniai šiuos evoliucinius metodus sėkmingai perėmė AI mašinos.

Džordžijos technologijos instituto dizaineriai padarė pažangą kurdami robotus, kurie savo elgesio algoritmuose naudoja melą ir apgaulę. Mokslininkai mano, kad ateityje ši technologija bus plačiai naudojama karinėje sferoje.

Daroma prielaida, kad robotų prototipai gali būti naudojami realiomis kovos sąlygomis. Šie animaciniai mechanizmai galės apsaugoti atsargas ir šaudmenų sandėlius. Apgaulingų programų pagalba ateities sargybiniai galės keisti patruliavimo maršrutą ir atlikti nenuspėjamus veiksmus. Kaip planuoja kūrėjai, tokie metodai padės apgauti galimus žmonių ir kitų robotų priešus.

Pasak profesoriaus Arkino, tyrimai yra susiję su daugybe etinių problemų. Technologijų kontrolės praradimas, kai susiduria su niekinančiais asmenimis, gali sukelti rimtą nelaimę.

Mašinos užvaldo darbo rinką

Nors visuomenė yra susirūpinusi mintimis apie pasaulinį karą, apimantį AI, mokslininkai aprašo daugiau tiesioginių ir realių pavojų. Gamyboje vis dažniau naudojamos įvairios automatinės mašinos ir mechanizmai, naikinantys darbo vietas.

Daugelis analitikų ir ekspertų sutinka, kad dėl aktyvios plėtros logikos programų ir automatizavimo srityje daugelis žmonių gali netekti darbo. Jungtinėse Amerikos Valstijose yra daugiau nei 250 000 gamybos robotų, kurie atlieka tradicinį žmogaus darbą.

Rytų šalyse, kuriose pagaminama daugiau nei 90% pasaulio technologijų, vis dar vyrauja rankų darbas. Kas nutiks gamyboje dirbantiems žmonėms atsiradus robotams, galima tik spėlioti.

Susirūpinimas, kad mašinos išstums žmones iš darbo rinkos, neapsiriboja darbuotojais. Dirbtinio intelekto ekspertas Andrew Ng iš Google Brain Project ir neakivaizdinis vadovaujantis specialistas Baidu (Google atitikmuo kinų kalba) taip pat išreiškė susirūpinimą dėl aktyvių pokyčių AI srityje. Anot jo, dirbtinis elektroninis intelektas sugeba tą patį, ką ir paprastas žmogus, tik greičiau, geriau ir su mažiau resursų.

JK Oksfordo universitetas atliko tyrimus, atspindinčius AI įtakos gamybai dinamiką. Remiantis gautais duomenimis, per ateinančius dvidešimt metų 35% darbo vietų bus skirta dirbtinio intelekto valdymui.

Kompiuterinės programos yra pranašesnės už programišius

Paprasto žmogaus požiūriu įsilaužėlis yra tarsi supermenas, galintis pasiekti bet kokį rezultatą. Realiai tai programišiai su pavargusia veido išraiška ir tradiciniu kavos puodeliu.

Įsilaužimas yra gana nuobodi ir varginanti veikla, kuri atima daug laiko ir išteklių. Be to, ištisi specialistų skyriai užsiima programų, skirtų apsisaugoti nuo įsibrovimų, kūrimu. Didžiausią grėsmę „blogiesiems įsilaužėliams“ kelia pažangios dirbtinio intelekto sistemos.

Dirbtinis intelektas gali būti naudojamas ne tik apsaugai, bet ir įsilaužimui. Kibernetinio saugumo programos sąlygomis kuriami AI, gebantys aptikti priešų pažeidžiamumą, o internetu apsaugoti savo loginius įrenginius nuo išorinių grėsmių ir atakų.

Mokslininkų teigimu, dirbtinio intelekto pagrindu veikiantys elektroniniai įsilaužėliai kuriami vardan bendros gerovės ir klestėjimo. Tačiau įsibrovėlių prieiga prie tokių programų gali įvykti liūdnų įvykių. Baisu įsivaizduoti situaciją, kai galingas AI įsilaužia į atominės elektrinės saugumo protokolus ir visiškai perima kontrolę. Šioje situacijoje žmonija gali būti bejėgė.

Programos moko suprasti žmonių motyvus

Daugelio žmonių kasdienis gyvenimas yra neatsiejamai susijęs su naudojimusi įvairiais socialiniais tinklais. Vienas populiariausių tinklų pasaulyje yra „Facebook“. Tačiau mažai kas žino, kad kiekvieną kartą, kai žmogus apsilanko šio socialinio tinklo puslapiuose, AI nelieka nepastebėtas. Vizito Berlyne metu Markas Zuckerbergas kalbėjo apie AI tikslus.

Programa skirta analizuoti vartotojų elgesį Facebook puslapiuose. Remdamasi surinktais duomenimis, programa pateikia rekomendacijas apie auditorijos pomėgius ir pageidavimus. Šiame vystymosi etape autonominė sistema gali atpažinti modelius ir savarankiškai mokytis pagal programą.

Ateityje planuojama sukurti išmanųjį AI, kuris galėtų savarankiškai tobulinti savo įgūdžius perrašydamas savo kodą. Tai gali padėti pagerinti gyvenimą arba tapti naujausiu žmonijos vystymusi.

Kiborgai pakeis įsimylėjėlius

Daugelis Holivudo filmų yra pagrįsti meilės idėja ir tarprūšiniais žmogaus ir mašinos santykiais. Iš fantazijos srities ši sąvoka įplaukia į šiuolaikinį pasaulį.

Futuristas daktaras Ianas Pearsonas mano, kad iki 2050 m. seksas tarp žmogaus ir roboto vyks dažniau nei tik tarp žmonių. Mokslininkas aktyviai bendradarbiauja su „Bondara“ – pirmaujančiu sekso prekių parduotuvių tinklu Didžiojoje Britanijoje.

Gydytojo išvadoje minima, kad iki 2025-ųjų bus sukurti seksui skirti robotai su dirbtiniu intelektu. Iki 2035 m. seksas per virtualią realybę taps plačiai paplitęs šiuolaikinės pornografijos lygmeniu. O iki 2050 metų seksas su robotais taps kasdienės realybės dalimi ir taps norma.

Tradicinių vertybių gynėjai, neigiamai nusiteikę į seksą su protingomis mašinomis. Tokie ryšiai per aukštai užkels lūkesčių kartelę, o tai neigiamai paveiks požiūrį į moteris.

Mašinos tampa vis žmogiškesnės

Kūrėjai humanoidinių robotų kūrimo srityje, japonas Hiroshi Ishiguro ir kinas Sun Yang, sukūrė unikalią mašiną. Cyborg Yang-Yang atrodo kaip jų kūrėjas ir yra pavadintas jos dukters vardu. Mašina turi AI ir gali atlikti daugybę paprastų veiksmų.

Tai ne vienintelis humanoidinis robotikos pavyzdys. Singapūro technologijos institutas taip pat pasiūlė modernų kiborgo prototipą Nadine. Šis prototipas taip pat turi dirbtinį intelektą ir veikia mokymo įstaigoje.

Sukurtas kaip patraukli brunetė su švelnia oda, kiborgas turi daugybę įmontuotų funkcijų. Robotas gali susitikti ir pasisveikinti su pašnekovu spausdamas ranką. Prietaisas taip pat gali užmegzti akių kontaktą ir šypsotis. AI gali prisiminti svečius ir palaikyti paprastą dialogą, pagrįstą ankstesne patirtimi.

Robotai įgauna jausmus

Šiuolaikiniai robotai intelektu nenusileidžia žmonėms. Dėl naujausių įvykių kiborgą gana sunku atskirti nuo žmogaus išoriškai. Kol kas vienintelė savybė, kurios robotai iš tikrųjų neturi, yra gebėjimas būti emocingiems. Viso pasaulio mokslininkai dirba su šia problema. Ir netrukus robotai visiškai nesiskiria nuo žmonių.

„Microsoft Application & Services Group“ Rytų Azijos filialo kūrėjai išleido unikalią programą. Kompiuteris geba vesti dialogą su pašnekovu ir tuo pačiu išgyventi emocijas. Dirbtinis intelektas, vardu Hiaoche, sugeba mėgdžioti septyniolikmetės merginos kalbą.

Jei trūksta duomenų, sistema gali griebtis melo. Jei ji bus pagauta apgaudinėjanti, Hiaoche gali išreikšti pyktį ar gėdą. AI gali griebtis sarkazmo, būti įtarus ir išreikšti nekantrumą.

Programos atsakymų nenuspėjamumas primena bendravimą su tikru asmeniu. Kol kas technologija nerado plataus pritaikymo ir dažniausiai naudojama pramogoms. „Xiaoche“ kūrėjas tobulina loginius algoritmus, kurie ateityje gali lemti esminį proveržį.

Greitai mūsų galvose atsiras automobiliai

Atsižvelgiant į naujausius pokyčius, atsiveria naujos galimybės. Tai nebeatrodo fantazija, galimybė išmokti užsienio kalbą per kelias minutes, ją parsisiunčiant į smegenis. „Google“ technologijų vadovas Ray'us Kurzweilas mano, kad iki 2030 m. bus sukurta technologija nano robotams implantuoti į smegenis. Tai pakels žmogaus intelektą į iš esmės naują lygį.

Šie mikromechanizmai pavers sąmonę galingu skaičiavimo centru. Žmogus galės akimirksniu įsiminti bet kokią informaciją, surūšiuoti ir siųsti savo mintis į archyvą. Esant poreikiui bus galima parsisiųsti filmus, dokumentus, gauti el.

AI specialistas Kurzweilas mano, kad simbiozė su nanorobotais ne tik padidins intelektą, bet ir galės išgydyti daugybę ligų, susijusių su nervų sistemos veikla.

Tokios technologijos naudojimo grėsmes galima palyginti su pasauline sąmokslo teorija. Įgijęs pirmaujančio šalies politiko proto kontrolę, AI galės jį valdyti kaip suglebusį zombį. Taip pat tokia sistema gali naudotis specialiosios tarnybos, o tai nieko gero nežada.

Kaip robotai tampa ginklais

Žlugus Sovietų Sąjungai, Šaltasis karas nesibaigė. Pasaulinėje arenoje pasirodė dvi naujos supervalstybės – Kinija ir Rusija. Amerika savo ruožtu išleidžia dešimtis milijardų dolerių kompiuterių saugumo srityje.

Pentagonas mano, kad raktas į ateities technologinį pranašumą slypi AI naudojime. Aktyviai plėtojama savarankiškai besimokančių autonominių sistemų, taip pat lygiagrečių ir susijusių sričių kūrimas. Per atstumą valdomos karinės technikos prototipai jau sukurti, belieka ją išmokyti veikti savarankiškai.

Tokių prietaisų naudojimas karo metu žada didelę naudą. Kariams nereikės atsidurti priešo ugnyje ir rizikuoti savo gyvybėmis. Taip pat bus pakenkta priešo moralei kare prieš negyvus robotus.

Yra ir minusas. Bet kuri kompiuterinė įranga yra linkusi į gedimus ir sistemos įsilaužimus. Tokiu atveju kontrolės praradę robotai sugeba atsukti ginklus prieš savo kūrėjus ir civilius gyventojus.

Daugelis pirmaujančių AI srities ekspertų nepritaria idėjai sukurti autonominius kovinius robotus. Tačiau, atsižvelgiant į nuolat stiprėjančią karinę konfrontaciją pasaulyje ir tarptautinio draudimo naudoti tokias technologijas nebuvimą, daugelis šalių savo plėtrą vykdo griežtai slaptai. Netrukus pasirodys vis daugiau pranešimų apie robotų naudojimą karštuosiuose planetos taškuose.

Robotai mokosi neteisinga kryptimi

Numatant galimus programų gedimus ir siekiant užkirsti kelią mašinų atsiradimui, kuriamos naujos koncepcijos, kuriomis siekiama paaiškinti mašinai teisingą ir nepageidaujamą elgesį.

Dėl šių pokyčių dirbtinis intelektas turėtų tapti žmogiškesnis. Kai kurie mokslininkai mano, kad šis požiūris yra raktas, neleidžiantis dirbtiniam intelektui nukreipti ginklus prieš žmoniją.

Džordžijos technologijos institutas atlieka unikalius eksperimentus. Tyrėjai, vadovaujami Marko Riddle'o ir Brento Harrisono, tiesiogine prasme pasakoja istorijas kompiuteriui. Taip jie siekia dirbtinį intelektą priskirti prie žmogiškųjų vertybių, ugdo jo etiką. Mokydami programą mokslininkai naudoja vaiko auklėjimo metodus. AI, kaip ir nepatyręs vaikas, neskiria gėrio ir blogo.

Yra rimtas šio požiūrio trūkumas. Žmonijos istorijoje yra daug pavyzdžių, kai aplinkybės privertė ištisas labai išsivysčiusias šalis pradėti karus ir daryti baisius žiaurumus. Pavyzdys būtų fašistinė Vokietija, kurios kariai vykdė ištisų tautų genocidą. Tuo pat metu vokiečių kultūra tuo metu buvo viena labiausiai išsivysčiusių pasaulyje. Kas neleis AI pakartoti Hitlerio eksperimento?

Dirbtinis intelektas (DI) – jau seniai mokslo populiarinimo žurnalų puslapiuose esanti tema, kuri nuolat liečiama filmuose ir knygose. Kuo daugiau ekspertų plėtoja šią mokslo sritį, tuo daugiau mitų ji tampa.

Dirbtinio intelekto plėtra ir ateitis nerimauja ir prie valstybės vairo stovintiems. Ne taip seniai Rusijos prezidentas Vladimiras Putinas įmonės 20-mečio dieną apsilankė „Yandex“ biure, kur jam paaiškino, kada dirbtinis intelektas pranoks žmogaus intelektą.

Kas nors šiek tiek įsigilina į dirbtinio intelekto potencialo esmę, supranta, kad šios temos negalima ignoruoti. Tai ne tik svarbi diskusijų tema, bet turbūt ir viena reikšmingiausių ateities kontekste.

Žodžiu, pastebimų laimėjimų yra ir mūsų šalyje.

Kuo greičiau vystosi dirbtinio intelekto technologijos, tuo labiau žmones apima baimė, kaip greitai jie neteks darbo. Ar tikrai viskas taip blogai?

Taip ir ne. Žmonija jau kelis kartus patyrė technologijų, kurios padarė perversmą visame gamybos sektoriuje, atsiradimą.

Taip buvo su garo varikliu pramonės revoliucijos eroje, kuri praktiškai sunaikino daugelį profesijų (daugiausia susijusių su primityviu fiziniu darbu), taigi elektroniniai kompiuteriai pakeitė žmones atliekant užduotis, pagrįstas srautiniais matematiniais skaičiavimais.

XV–XVIII a., kai Anglijoje „avys valgė žmones“, socialinės pasekmės buvo tikrai katastrofiškos. Anglija, įvairiais skaičiavimais, prarado nuo 7 iki 30% savo gyventojų. To meto valdžios elitas rimtai susirūpino, ką daryti su papildomais žmonėmis. Jonathanas Swiftas į šias paieškas atsakė nuotaikinga brošiūra, kurioje siūlė valgyti vargšų vaikus.

Tačiau šiandien matome, kad išnykusias profesijas pakeitė naujos, o Žemės gyventojų daug daugiau nei XVIII a. XX amžiuje automatizavimo pasekmės socialiniu požiūriu nebebuvo tokios katastrofiškos. Tačiau nereikėtų nuvertinti pavojaus.

„Po 30 metų robotai galės padaryti beveik viską, ką gali padaryti žmonės“, – sakė Moshe Vardi, skaičiavimo inžinerijos profesorius ir Kenedžio informacinių technologijų instituto direktorius Rice universitete (William Marsh. Rice University). Tai lems tai, kad daugiau nei 50% Žemės gyventojų taps bedarbiais.

Robotai imasi darbo

Neseniai Valstybės Dūmos Informacinės politikos, informacinių technologijų ir ryšių komiteto pirmininkas Leonidas Levinas pareiškė, kad Rusijai aktuali darbo jėgos pakeitimo dirbtiniu intelektu problema.

Anksčiau ar vėliau žmones pakeis automatizuota sistema, o į rinką išsilies 2% dirbančių šalies gyventojų. Todėl Levinas pasakė, kaip įdarbinti juos, tuos, kurie neteks darbo dėl skaitmeninių technologijų plėtros.

Pasak pirmininko, artimiausiu metu susidursime su nedarbo didėjimu. Tačiau ar tikrai robotai „atims“ mūsų darbus ir ar verta dėl to jaudintis, „Reedus“ sakė mašininio mokymosi specialistas Sergejus Markovas.

Sergejau, ir dabar yra „negyvų profesijų“, kurioms nereikia žmogaus darbo, nors, atrodytų, prieš 10 metų niekas nemanė, kad, pavyzdžiui, dirigentai greitai taps nereikalingi. O kokios kitos profesijos pakeis technologijas?

Artėjame prie laiko, kai mašinos beveik visose srityse pranoks žmones. Manau, kad visuomenė turi susidurti su šia problema, kol ji nepakyla iki galo. Jei mašinos gali padaryti beveik viską, ką gali padaryti žmonės, ką jiems beliks daryti? sakė Moshe Vardi, skaičiavimo inžinerijos profesorius ir Keno Kenedžio informacinių technologijų instituto direktorius Rice universitete.

Ilgą laiką automatizavimui trukdė technologiniai apribojimai – mašinos neatpažino vaizdų ir kalbos, nemokėjo kalbėti, nesugebėjo pakankamai gerai suprasti teiginių prasmės natūralia kalba, neturėjo pakankamai duomenų, kad išmoktų daug žinomų dalykų. žmonių.

Dėl pastarojo meto pažangos dirbtinio intelekto srityje daugelis šių apribojimų iš tikrųjų buvo panaikinti. Be to, daugelis profesijų patyrė transformaciją, dėl kurios jos labiau tinka automatizuoti.

Pavyzdžiui, šiuolaikinis biuro darbuotojas susirašinėja ne popierine, o elektronine forma, buhalteris registracijas atlieka ne popieriuje, o buhalterinėje programoje, staklių operatorius dažnai mašiną valdo ne rankenomis, o pagalba. valdymo programos. Todėl dabar daugelio profesijų automatizavimo uždavinys nustojo būti mokslinis ir tapo grynai inžinerine.

Tiesa, kol kas su dirbtiniu intelektu susijęs gamybos sektorius labiau linkęs kurti darbo vietas – reikalingi mašininio mokymosi ir duomenų paruošimo srities specialistai, mokymų masyvų žymėjimo darbuotojai, diegimo specialistai ir t. tikrai pradės ėsti žmones ir su pasekmėmis reikia pasirūpinti dabar.

Kartu svarbu suprasti, kad technologinės pažangos sustabdyti negalima, o bandymas tai padaryti sukels daug katastrofiškesnių pasekmių.

Ar kada nors galėsime visiškai pasitikėti robotais (AI), ar bet kuriame versle vis tiek turėtų būti žmogiškasis faktorius?

Šis klausimas turi keletą aspektų. Viena vertus, žmonės praeityje buvo atsargūs beveik bet kokiai technikai. Pirmasis liftas, pirmas automobilis, pirmasis traukinys ar lėktuvas – visa tai kažkada buvo neįprasta ir daugeliui atrodė pavojinga. Taip, daugeliu atžvilgių tai buvo pavojinga – žmogaus sukeltos nelaimės nusinešė daugybę gyvybių.

Ir vis dėlto mūsų dienomis visi šie dalykai tapo pažįstami ir nebekelia didelės baimės. Šia prasme mūsų palikuonys su AI sistemomis elgsis ramiau. Žmonės kartais linkę mistifikuoti dalykus, kurių nesupranta. Laukinis mano, kad variklyje gyvena piktoji dvasia, o šiuolaikinis pasaulietis mano, kad mūsų AI sistemos yra sąmoningos, nors taip toli gražu.

Kita vertus, nemanau, kad bendros paskirties AI sistemos kada nors taps mūsų pramonės dalimi. Mano nuomone, ateitis labiau tikėtina sintetinėms sistemoms – tai yra žmogaus ir mašinos susijungimui į vieną organizmą. Šia prasme ateities dirbtinis intelektas bus patobulintas žmogaus intelektas.

Beje, žmogaus intelektą taip pat ne visai teisinga vadinti natūraliu. Vaikas nuo gimimo neturi intelekto, visko jį moko visuomenė, tėvai, aplinka. Šia prasme jūs ir aš visi iš esmės esame „dirbtinis intelektas“, o mūsų baimės, susijusios su AI, daugeliu atžvilgių yra mūsų pačių baimės.

Neseniai daugelis mokslininkų, pavyzdžiui, Stephenas Hawkingas, Billas Gatesas ar tas pats Elonas Muskas, pradėjo panikuoti, kad dirbtinis intelektas pasmerkia žmoniją mirčiai, o ateitį jie mato kaip tam tikrą distopiją. Ar į tokias prognozes reikia žiūrėti rimtai?

Jei atvirai, aš neskubėčiau rimtai išsigąsti šių pareiškimų. Stephenas Hawkingas tikrai nėra AI specialistas, taip pat ne Elonas Muskas.

Kitoje skalės pusėje yra tokių žmonių, kaip Andrew Ng, amerikiečių kompiuterių mokslininko, Stanfordo universiteto docento, robotikos ir mašininio mokymosi tyrinėtojo bei Kinijos korporacijos „Baidu“ dirbtinio intelekto laboratorijos pirmaujančio specialisto, pareiškimai. .

Eun, kalbėdamas apie AI saugumo problemą, lygina ją su Marso gyventojų pertekliaus problema – aišku, kada nors mes Marsą kolonizuosime, o tada, galbūt, kažkada atsiras ir gyventojų pertekliaus problema. Bet ar verta tai daryti šiandien?

Markas Zuckerbergas taip pat gana skeptiškai žiūrėjo į Musko teiginius. „Dirbtinis intelektas pagerins mūsų gyvenimą ateityje, o prognozuoti pasaulio pabaigą yra labai neatsakinga“, – sakė jis.

Asmeniškai manau, kad Musko teiginius reikėtų vertinti pragmatiškai – Muskas nori pakelti šią temą ir, idealiu atveju, gauti lėšų iš valstybės jai plėtoti.

Ar tikrai viskas taip rožinė ir nėra ko jaudintis?

Tikrieji pavojai, susiję su AI vystymusi, mano nuomone, yra visiškai kitoje plotmėje, nei įprasta manyti. Pagrindinės rizikos nesusijusios su tuo, kad kursime savo „Skynet“, kuris pavergs žmoniją. Dirbtinio intelekto ir mašininio mokymosi technologijų diegimo rizika yra daug proziškesnė.

Patikėję svarbių klausimų sprendimą vienam ar kitam matematiniam modeliui, galime nukentėti nuo jų kūrimo klaidų. Dirbtinis intelektas, atkartojantis žmonių ekspertų veiksmus, paveldės jų klaidas ir šališkumą. Gamybos ar transporto valdymo sistemų trūkumai gali sukelti nelaimių.

Piktybiškas įsikišimas į gyvybiškai svarbių sistemų veikimą visiškos automatizavimo sąlygomis gali sukelti pavojingų pasekmių. Kuo sistemos sudėtingesnės, tuo daugiau jos gali turėti pažeidžiamumų, įskaitant susijusius su tam tikrų dirbtinio intelekto algoritmų specifika.

Žinoma, norint valdyti šias rizikas, būtina sukurti teisinę bazę, pagrįstus saugumo reglamentus, specialius metodus pažeidžiamumui nustatyti. Kai kurios AI sistemos bus naudojamos valdyti kitas. Galbūt reikės paskelbti gyvybiškai svarbių sistemų kodeksą nepriklausomam auditui. Kitaip tariant, šioje srityje dar reikia daug nuveikti.

Vaizdo autorių teisės Thinkstock Vaizdo antraštė Žmogaus ir mašinos simbiozė yra vienas iš žmonijos vystymosi būdų

Išmaniosios mašinos išmoko blefuoti, įveikti šachmatų ar „Go“ profesionalus, išversti ir atpažinti žmogaus balsą. Kiekvieną savaitę sužinome apie naujus kompiuterinių programų žygdarbius, kurie jau gali nustatyti medicinines diagnozes, piešti kaip Rembrantas, dainuoti ar generuoti tekstą. Ar žmogus turėtų bijoti dirbtinio intelekto?

Dirbtinio intelekto (AI / AI) tema per pastaruosius kelerius metus tapo tikrai „karšta“. Mokslininkai tai sieja su sparčiu neuroninių tinklų (viena iš dirbtinio intelekto tyrimų sričių) plėtra, kuri, savo ruožtu, tapo įmanoma atsiradus galingiems kompiuteriams.

„Nuo 2010-ųjų pradžios, skatinama įspūdingų daugiasluoksnių neuroninių tinklų (pirmiausia konvoliucinių ir pasikartojančių) pažangos, ši sritis sulaukė didelio mokslininkų, inžinierių ir investuotojų dėmesio“, – komentuoja autorius. Viena iš Rusijos šachmatų programų, mašininio mokymosi metodų specialistas Sergejus Markovas.

Mokslo bendruomenė gali ginčytis dėl išmaniųjų mašinų atsiradimo laiko, tačiau sutaria dėl vieno – technologijų plėtra ateityje turės besąlygišką įtaką visuomenei, ekonomikai ir žmonių santykiams. Jau dabar raginama apmąstyti etinius dirbtinio intelekto kūrimo principus ir užtikrinti, kad dirbtinis intelektas vystytųsi žmonėms saugia kryptimi.

Šis mmedžiaga, parengta atsakant į klausimąs, išsiųstasemūsų skaitytojaiapie mokslo pasiekimus. Klausimus kitomis temomis galite užduoti šiose nuorodose ( , ).

Ekonominis poveikis ir įtaka darbo rinkai

Mokslinė fantastika ir Holivudas suformavo „dirbtinio intelekto“ sąvoką kaip kitą planetos gyvybės formą, kuri pavergs žmoniją Matricoje arba suorganizuos branduolinę pasaulio pabaigos dieną. Išgyvenusiuosius pribaigs Terminatorius.

Vaizdo autorių teisės Getty Images Vaizdo antraštė Ar žmonija mirs nuo „Skynet“?

Tiesą sakant, nepaisant naujausių pasiekimų dirbtinio intelekto srityje, iki protingų mašininių būtybių atsiradimo dar toli, pripažįsta mokslininkai ir ekspertai. Tačiau ir tiems, ir kitiems patariama jau dabar atkreipti dėmesį į kai kuriuos aspektus.

McKinsey Global Institute skaičiuoja, kad naujos technologijos per ateinančius dešimt metų radikaliai pakeis pasaulinę darbo rinką ir sutaupys apie 50 trln.

Pokyčiai turės įtakos šimtams milijonų darbo vietų. Vis daugiau žmonių kai kurias savo darbo užduotis ir daugelį įprastinių užduočių perkraus į mašiną, leisdamos sutelkti dėmesį į savo kūrybinį darbą.

„Žiūrint iš tam tikros pozicijos, visai žmonijai tenka svarbi ir įdomi užduotis – vystytis kiekvienam konkrečiam individui daug greičiau, nei žmonija vysto dirbtinio intelekto sistemas“, – sakė ekspertas, „Yandex“ technologijų sklaidos direktorius Grigorijus Bakunovas.

Tačiau kartu su automatizavimu neišvengiamai nukentės ir mažiau kvalifikuoti darbuotojai, o dabar reikia galvoti, kaip juos apsaugoti, perkvalifikuoti ir paruošti naujam gyvenimui.

Kaip rodo praktika, gali nukentėti ne tik mėlynieji, bet ir žinių darbuotojai. Prieš kelias dienas Goldman Sachs pakeitė 600 prekiautojų komandą dviem žmonėmis ir automatizuotomis algoritminėmis prekybos programomis, kurių priežiūrai buvo pasamdyta 200 programinės įrangos kūrėjų.

Vaizdo autorių teisės Thinkstock Vaizdo antraštė Daugelis užduočių netrukus taps robotų sistemų, kurios palaipsniui pradės pakeisti žmones, galia.

Dirbtinis intelektas pats savaime nėra tapatus procesų automatizavimui, tačiau AI vystymasis lems tai, kad vis daugiau užduočių bus kompiuterinės programos galioje.

Kaip nurodo Silicio slėnyje įsikūrusios pelno nesiekiančios organizacijos „Foresight Institute“, kuri propaguoja naujas technologijas, programos koordinatorė Allison Dutman, kaip žmonių išstūmimo mašina darbo rinkoje problemos sprendimų, atkreipia dėmesį į koncepcijos įvedimą. „universaliųjų bazinių pajamų“, kurias gautų kiekvienas gyventojas, nepaisant pajamų ir užimtumo lygio. Tokios pajamos būtų finansuojamos iš vadinamojo Žemės vertės mokesčio, dėl kurio įvedimo dabar aktyviai diskutuojama Silicio slėnyje.

Ar dirbtinis intelektas yra žmogus?

Ar robotų sistema yra žmogus? Ar išmanusis kompiuteris gali balsuoti? Kokios jis lyties? Apie žmogaus ir išmaniosios mašinos santykius jau diskutuoja europarlamentarai, svarstę, ar būsimiems robotams nereikėtų suteikti „elektroninės asmenybės“ statuso.

Kaip pabrėžia Dutmanas, žmonės nelinkę dalytis teisėmis su tais, kurių nesupranta, o tai reiškia, kad jie priešinsis dirbtinio intelekto „humanizavimui“.

Vaizdo autorių teisės AFP Vaizdo antraštė Žmogų ir mašiną skiria pagrindinis dalykas – gebėjimas mąstyti

„Atsižvelgiant į tai, kaip ilgai žmonija juda link vienodų teisių suteikimo visiems žmonėms, nepaisant jų odos spalvos, rasės ar lyties, jau dabar galima daryti prielaidą, kad jie ne iš karto pripažįsta mašinas kaip lygias.

Kartu su etiniais klausimais yra ir teisinių subtilybių: kas prisiims atsakomybę įvykus nepilotuojamos transporto priemonės avarijai ar sugedus išmaniajam medicinos prietaisui – ir moraliniai klausimai: ar verta kurti nepilotuojamą ginklą, galintį veikti be žmogaus pažinimas?

Trečiasis etinis galvosūkis aptariamas dažniau nei kiti ir kur kas labiau jaudina žmoniją: ką teoriškai su žmonija gali padaryti superintelektas, tikra išmanioji mašina?

Išmokykite dirbtinio intelekto etikos

DI kūrimo srities ekspertai pripažįsta, kad jei ne per artimiausius 20-30 metų, žmonija vis tiek išgyvens, kol pasirodys tikras dirbtinis intelektas, kuris bus protingesnis už jo kūrėją.

„Paskutinis bastionas bus paimtas, kai bus sukurtas vadinamasis „stiprus AI“ (Strong AI, Artificial General Intelligence), tai yra toks DI, kuris galės išspręsti be galo platų intelektualinių užduočių spektrą“, – sako Sergejus. Markovas.

Ir svarbiausia, kad toks AI galės mąstyti savarankiškai.

DI keliamas grėsmes, taip pat etinius klausimus, susijusius su naujomis technologijomis, tiria daugelis institucijų, įskaitant „Future of Life Institute“, „Foresight Institute“, „Future of Humanity Institute“, „OpenAI“ ir kt.

Allison Dutman iš Prognozavimo instituto sprendimas – leisti kompiuteriui perskaityti visą mokslinę literatūrą, mokslinius straipsnius, kuriuose keliami klausimai apie etiką, ir padaryti šią informaciją būsimų sprendimų pagrindu.

Kas yra neuroniniai tinklai ir kokia jų ateitis?

Dauguma ekspertų pažangą kuriant AI sieja su neuroninių tinklų plėtra.

Neuroniniai tinklai yra viena iš tyrimų sričių dirbtinio intelekto srityje, paremta žmogaus smegenyse vykstančių biologinių procesų modeliavimu.

Būtent jiems esame dėkingi už įspūdingus kalbos ir vaizdo atpažinimo, medicininės diagnostikos, teksto vertimo ir vaizdo kūrimo, kalbos generavimo ir muzikinės kompozicijos rezultatus.

Vaizdo autorių teisės iStock Vaizdo antraštė Būtent su neuronų sistemų vystymusi mokslininkai sieja dirbtinio intelekto vystymąsi.

Šiandien, kaip pripažįsta ekspertai, neuroniniai tinklai yra pripažinti vienu geriausių mašininio mokymosi algoritmų, o jais pagrįsti sprendimai šiuo metu rodo pačius ryškiausius rezultatus.

Ir tai nepaisant to, kad šiuolaikiniai neuroniniai tinklai yra pusantro tūkstančio kartų paprastesni nei žiurkės smegenys.

"Kol kas mūsų kuriami neuroniniai tinklai yra gana maži, palyginti su, tarkime, žmogaus smegenų neuroniniu tinklu, be to, jie yra labai supaprastintas natūralių neuroninių tinklų analogas. Todėl kol kas su neuroninių tinklų pagalba, daugiausia sprendžiame grynai taikomąsias problemas“, – sako Sergejus Markovas.

Šiuo metu tokiems tinklams lavinti yra kuriami specializuoti procesoriai (vadinamieji neuromorfiniai procesoriai), kurie padidins skaičiavimo greitį keliomis eilėmis.

Kūrėjai ne tik dabar užsiėmę didindami neuronų skaičių tinkle, bet ir keisdami tinklų dizainą. „Sudėtingos tinklo konfigūracijos sistemos yra tai, su kuo šiuo metu atliekama daugiausiai eksperimentų“, – sako Grigorijus Bakunovas.

Vaizdo autorių teisės iStock Vaizdo antraštė Netolimoje ateityje atsiras ir daugiau „išmaniųjų“ žmogaus padėjėjų – mikrojutikliai sienoje, mygtuko dydžio jutiklis, perspėjantis žmogų iškilus pavojui.

O tai, kad tokios sistemos tapo gana prieinamos daugeliui paprastų kūrėjų, lėmė startuolių, eksperimentuojančių su neuroniniais tinklais, atsiradimą, pavyzdžiui, Prisma (programa, leidžianti apdoroti nuotraukas, paverčiant jas garsių paveikslų stilizacijomis). menininkai) ir Mubertas (internetinis elektroninės muzikos kompozitorius).

Kas mūsų laukia artimiausiu metu

Kaip prognozuoja Londono universiteto koledžo profesorius ir „Nokia Bell Labs“ pagrindinis mokslininkas Nickas Lane'as, žmogų sups daugiau „protingų dalykų“. Jie taps mažesni ir efektyvesni.

Profesorius pateikia tokį pavyzdį: jei anksčiau sienoje įmontuotas jutiklis galėjo suvokti tik tai, kad kažkas praėjo, tai ateityje jis ne tik žinos, kas konkrečiai praėjo, bet ir kaip žmogus elgiasi, ar jam ko nors reikia, daro. neatspindi, ar jis kelia grėsmę sau ar kitiems.

Mygtuko dydžio jutiklis galės pranešti žmogui iškilus pavojui.

Profesoriui pritaria ir Grigorijus Bakunovas iš „Yandex“: „Artimiausiu metu sulauksime siauro dirbtinio intelekto, padedančio išspręsti vieną gana paprastą užduotį, kūrimo bumą, bet kurį jie išspręs dar geriau nei žmogus“.

Vaizdo autorių teisės iStock Vaizdo antraštė Vis daugiau kyla etinių klausimų, susijusių su AI kūrimu

„Labiausiai tikėtinas mūsų civilizacijos vystymosi kelias yra žmogaus ir mašinos sintezės kelias: lazda, drabužiai, automobilis, mobilusis telefonas, širdies stimuliatorius ar kochlearinis implantas – tobulėjant mūsų įrankiai vis labiau primena. mūsų kūno pratęsimas. Jau rytoj mašinos galės priimti mentalines komandas, suvokti mintyse suformuotus vizualinius vaizdus, ​​perduoti informaciją tiesiai į smegenis – tokie projektai jau egzistuoja už pažangiausių technologinių laboratorijų sienų“, – apibendrina. Sergejus Markovas.

Ar žurnalistai vis dar reikalingi?

„Financial Times“ praėjusiais metais atliko gana rizikingą eksperimentą, tuo pačiu metu iššaukdamas savo profilio korespondentą ir išmaniąją programą „Emma“ parašyti kopiją. Tada abu straipsnius turėjo perskaityti „Financial Times“ redaktorius ir atspėti, už kurio iš dviejų užrašų žurnalistas stovi ir už kurio kompiuterio.

Prieš tokį „avarijos testą“ „Financial Times“ korespondentas prisipažino: „Manau, kad programa tikrai susidoros su užduotimi greičiau nei aš. Bet, tikiuosi, vis tiek tai padarysiu geriau“.

Taip ir nutiko: Emma tikrai pasirodė greitesnė – programa sugeneravo tekstą, remdamasi Didžiosios Britanijos nedarbo lygio statistika per 12 minučių. Žurnalistė užtruko 35 minutes. Ir, kaip vėliau prisipažino pati, Emma pranoko jos lūkesčius. Laida ne tik sumaniai tvarkė faktus, bet ir įtraukė naujienas į kontekstą, siūlydama, kaip galimas „Brexit“ (tai buvo 2016 m. gegužę, prieš referendumą dėl Didžiosios Britanijos pasitraukimo iš ES) galėtų pakeisti situaciją.

Vaizdo autorių teisės Thinkstock Vaizdo antraštė Ar robotų sistemos pakeis žmones? Žmonijai liko 50 metų, ramina ekspertai

Tačiau Emma padarė ką nors blogiau nei žurnalistė. "Emmos straipsnis buvo parašytas šiek tiek nerangesne kalba. Bet svarbiausia, kad jame buvo daug skaičių, - pripažino FT redaktorius. - Ir, ko gero, pagrindinis dalykas, kurį mes čia stengiamės padaryti, yra pasirinkti tik tikrai svarbius skaičius“.

„Emma“ yra startuolio „Stealth“ produktas. Bendrovė teigia, kad Emma turi gyvų asistentų komandą, tačiau tvirtina, kad viskas, ką ji rašo ar daro, yra tik jos „smegenų“ produktas.

Ir vis dėlto – ar būtina AI bijoti?

Daugelis, jei ne visi, ekspertų, dalyvaujančių kuriant dirbtinio intelekto sistemas, šiandien lengvai pripažįsta, kad dirbtinis intelektas greitai nepadarys žmonių nereikalingais. Būtent todėl, kad dirbtinis intelektas dar nėra toks protingas. Pagrindinis dalykas, kurio jam šiandien trūksta, yra savarankiškas gebėjimas mąstyti.

"Dabar neturėtumėte bijoti dirbtinio intelekto jokia forma. Galite palaukti 30-40 metų, kol įvyks tikrai radikalūs pokyčiai", - sakė Bakunovas.

Tačiau kai kas jau vyksta: po truputį nyksta riba tarp žmogaus atliekamo darbo ar užduoties ir mašinos atliekamos užduoties. Kaip aiškina specialistai, net ir dabar kartais sunku suprasti, kas sėdi sistemos viduje – žmogus ar mašina.

„Nėra kriterijų, kada galime suprasti, kad sąmonė atsirado mašinos viduje“, – klausia Bakunovas.

Ar žmogus taps sąvaržėlę?

Žinomas nerimą keliančio požiūrio, kurio rėmuose Terminatoriuje aprašyti siaubai gali virsti realybe, šalininkas, filosofas Nickas Bostromas, mano, kad intelektualinį žmogaus lygį pasiekęs DI galintis sunaikinti žmoniją.

Vaizdo autorių teisės Getty Images Vaizdo antraštė Ar tai, kas aprašyta filme, taps mūsų kasdiene realybe?

Bostromas aiškina sąvaržėlių pavyzdžiu: jūs iššūkį dirbtiniam intelektui, kad sąvaržėlės būtų kuo didesnės ir geresnės. Tam tikru momentu AI supranta, kad žmogus kelia grėsmę, nes gali išjungti kompiuterį, o tai prieštaraus užduočiai padaryti kuo daugiau sąvaržėlių. Tuo atveju, jei žmogus nekelia grėsmės, AI nusprendžia, kad žmogaus kūnai sudaryti iš atomų, kurie gali būti naudojami puikioms sąvaržėlėms gaminti. Rezultatas – kompiuteris prives žmoniją prie sąvaržėlių.

Šis scenarijus daugeliui atrodo perdėtas. Pavyzdžiui, Sergejaus Markovo teigimu, „didelis absurdiško tikslo įgyvendinimo efektyvumas yra nesuderinamas su šio tikslo absurdiškumu – grubiai tariant, dirbtinis intelektas, galintis visą pasaulį paversti sąvaržėlėmis, neišvengiamai bus pakankamai protingas, kad atsisakytų tokio tikslo. “.

Dirbtinis intelektas yra kaip auksinė žuvelė

Britų dirbtinio intelekto specialistė, Sasekso universiteto kognityvinių mokslų profesorė Margaret Boden skeptiškai vertina teiginius apie neišvengiamą išmaniųjų mašinų atsiradimą.

Vaizdo autorių teisės Getty Images Vaizdo antraštė 1997 m. gegužę Deep Blue II pirmą kartą įveikė Garį Kasparovą.

Profesorius pateikia „auksinės žuvelės“ pavyzdį, kai mainais į laisvę žvejys pateikia tris pageidavimus. Vienas iš pageidavimų – grąžinti sūnų iš karo, antrasis – 50 tūkstančių dolerių ir trečias – galimybė ryte palinkėti dar vieną.

Tą patį vakarą pasigirdo beldimas į žvejo namus. Sūnų grąžino iš karo – karste. Rybakas gavo 50 tūkstančių dolerių draudimą.

"Pakeiskite žuvį šiame palyginime AI ir viskas taps aišku, - paaiškina Bodenas. - O, taip, kitą dieną žvejys pasinaudojo trečiuoju noru ir - atšaukė ankstesnius du."

Ar įmanoma sąmonę perkelti į mašiną?

Sergejus Markovas:

„Jei kalbėtume apie visiško sąmonės perdavimo galimybę, tai šiuolaikiniai tokios ateities technologijos pirmtakai yra tokie projektai kaip „Blue Brain“, kurių tikslas – sukurti veikiančius elektroninius smegenų analogus, taip pat projektai, kuriais siekiama sukurti smegenis. mašinų sąsajos (BCI) – prietaisai, skirti protezuoti prarastą regėjimą, klausą, pakeisti prarastas galūnes, net smegenų dalis.

Vaizdo autorių teisės Mokslo nuotraukų biblioteka Vaizdo antraštė Dirbtinio intelekto specialistų tikslas – sukurti „stiprų dirbtinį intelektą“, kuris būtų pajėgus išspręsti įvairiausias problemas.

Labai įdomi ir perspektyvi sritis – optogenetika (iš esmės norint sujungti smegenis ir mašiną, galima keisti ne tik mašinas, bet ir patį nervinį audinį, sukuriant jame dirbtinius fotoreceptorius).

Kai tokių privačių projektų rėmuose bus išspręstos įvairios inžinerinės problemos, manau, kad sąmonės perdavimo uždavinys taps gana sprendžiamas. Svajotojai jau siūlo hipotetines tokio projekto įgyvendinimo schemas.

Pavyzdžiui, Janas Korchmaryukas, kažkada pasiūlęs pavadinimą „settleretics“ tyrimų, susijusių su sąmonės perkėlimu, krypčiai, mano, kad perspektyviausia schema yra specializuotų nanorobotų, įterptų į žmogaus smegenų neuronus, panaudojimas. Tačiau norint sėkmingai įgyvendinti tokią schemą, būtina išspręsti daugybę sudėtingų inžinerinių problemų.

Populiarus amerikiečių interneto žurnalas „Wired“ paskelbė itin smalsų Kevino Kelly tekstą, kuriame jis detaliai kritikuoja mintį apie dirbtinio intelekto pavojus. "NI" skelbia šios medžiagos vertimą, pagamintas„Telegram“ kanalas „Newochem“ su nedideliais sumažinimais.

„Girdėjau, kad ateityje dirbtinio intelekto kompiuteriai taps tokie protingesni už žmones, kad atims iš mūsų darbo vietas ir išteklius, o galiausiai žmonija baigsis. Bet ar taip? Tai klausimas, kurio man užduoda kiekvieną kartą, kai skaitau paskaitą apie AI.

Klausėjai kaip niekad rimti, jų nerimą iš dalies lemia kai kurių ekspertų, kuriuos kankina tas pats klausimas, nerimas. Tarp jų yra protingiausi mūsų amžininkai – Stephenas Hawkingas, Elonas Muskas, Maxas Tegmarkas, Samas Harrisas ir Billas Gatesas.

Visi jie pripažįsta tokio scenarijaus galimybę. Neseniai vykusioje AI konferencijoje devynių labiausiai apsišvietusių šios srities guru grupė atėjo prie vieningos išvados, kad antžmogiško intelekto sukūrimas yra neišvengiamas ir netoli.

Ir vis dėlto žmonijos pavergimo dirbtiniu intelektu scenarijus remiasi penkiomis prielaidomis, kurios atidžiau panagrinėjus pasirodo neįrodytos. Šie teiginiai gali būti teisingi ateityje, tačiau iki šiol niekas nepatvirtinta.

Jie yra čia:

1. Dirbtinis intelektas jau tampa protingesnis už žmogaus protą, ir šis procesas yra eksponentinis.
2. Sukursime bendros paskirties dirbtinį intelektą, panašų į mūsų.
3. Iš silicio galime sukurti žmogaus intelektą.
4. Intelektas gali būti neribotas.
5. Grandiozinio superintelekto sukūrimas išspręs daugumą mūsų problemų.

Priešingai šiems stačiatikių postulatams, galiu pacituoti tokią įrodytą ereziją:

1. Intelektas nėra vienmatis, todėl „protingesnis už žmogų“ yra beprasmė sąvoka.
2. Žmonės nėra apdovanoti bendro tikslo protu, o tai nekelia grėsmės ir dirbtiniam intelektui.
3. Žmogaus ir kompiuterio konkurenciją ribos išlaidos.
4. Intelektas nėra neribotas.
5. AI sukūrimas yra tik dalis pažangos.

Jei tikėjimas žmogaus pavergimu dirbtiniu intelektu grindžiamas penkiomis nepagrįstomis prielaidomis, tai ši idėja labiau panaši į religinius įsitikinimus – mitus. Tolesniuose skyriuose savo kontrargumentus papildysiu faktais ir įrodysiu, kad antžmogiškas dirbtinis intelektas iš tiesų yra ne kas kita, kaip mitas.

Dažniausias klaidingas supratimas apie AI kyla iš vienodai populiaraus įsitikinimo apie natūralų intelektą, kad jis yra vienmatis. Tiksliųjų mokslų srityje daugelis vaizduoja intelektą taip, kaip Nickas Bostromas savo knygoje Supermind – tiesiogine prasme kaip vienmatį tiesinį grafiką su didėjančia amplitudė.

Viename gale yra žemiausią intelekto lygį turinčios būtybės, pavyzdžiui, smulkūs gyvūnai, o kitame – genijai, tarsi intelekto lygis nesiskiria nuo garso lygio, matuojamo decibelais. Žinoma, tokiu atveju nesunku įsivaizduoti tolesnį kilimą, kuriame intelekto lygis viršija aukščiausią diagramos ženklą ir net peržengia ją.

Toks modelis topologiškai prilygsta kopėčioms, kurių laipteliais didėjančia tvarka išdėstyti intelekto lygiai. Mažiau protingi gyvūnai užima apatinius kopėčių laiptelius, o aukštesnio lygio dirbtinis intelektas neišvengiamai atsidurs virš mūsų. Laikas, kada tai įvyks, nėra svarbus. Daug svarbesni yra patys hierarchijos žingsniai – augančio intelekto metrikai.

Šio modelio problema yra ta, kad jis yra mitinis, kaip ir evoliucinis kopėčių modelis. Iki darvinizmo laukinė gamta buvo vaizduojama kaip gyvų būtybių kopėčios, kur žmogus užėmė laiptelį aukščiau primityvesnių gyvūnų.

Ir net po Darvino viena iš labiausiai paplitusių sąvokų yra evoliucijos kopėčios. Jame demonstruojamas žuvų pavertimas ropliais, jų – žinduoliais, primatų – žmonėmis. Be to, kiekvienas kitas padaras yra labiau išvystytas (ir, žinoma, protingesnis) nei jo pirmtakas. Taigi intelekto kopėčios koreliuoja su visatos kopėčiomis. Tačiau abu modeliai atspindi visiškai antimokslines pažiūras.

Tikslesnis natūralios evoliucijos modelis būtų diskas, kuris skiriasi į išorę, kaip parodyta aukščiau esančiame paveikslėlyje. Pirmą kartą tokią struktūrą sukūrė Davidas Hillisas iš Teksaso universiteto, jis tai padarė remdamasis DNR. Ši genealoginė mandala prasideda centre nuo primityviausių gyvybės formų, o paskui išsišakoja į išorę. Laikas juda į priekį, todėl naujausios gyvybės formos yra išilgai apskritimo perimetro.

Šis vaizdas išryškina nesuprantamą esminės svarbos evoliucijos faktą – visi gyviai vystėsi vienodai. Žmogus yra išorinėje disko dalyje kartu su tarakonais, moliuskais, paparčiais, lapėmis ir bakterijomis.

Be išimties visos rūšys išgyveno nenutraukiamą trijų milijardų metų sėkmingo dauginimosi grandinę, o tai reiškia, kad bakterijos ir tarakonai išsivystė taip pat, kaip ir žmonės. Laiptų nėra.

Taip pat nėra intelekto kopėčių. Intelektas nėra vienmatis. Tai įvairių pažinimo tipų ir metodų kompleksas, kurių kiekvienas yra tęstinis. Atlikime paprastą pratimą gyvūnų intelektui išmatuoti. Jei intelektas būtų vienmatis, galėtume nesunkiai surikiuoti papūgą, delfiną, arklį, voverę, aštuonkojį, mėlynąjį banginį, katę ir gorilą intelekto didėjimo tvarka.

Šiuo metu nėra jokių mokslinių įrodymų, kad tokia seka egzistuoja. To priežastis gali būti tam tikrų gyvūnų intelekto lygio skirtumų trūkumas, tačiau tai taip pat yra nepagrįsta.

Zoologijoje gausu ryškių gyvūnų mąstymo skirtumų pavyzdžių. Gal visi gyvūnai yra apdovanoti „bendrosios paskirties“ intelektu? Galbūt, bet mes neturime vieno įrankio tokiam intelektui išmatuoti. Tačiau turime daug matavimo sistemų, skirtų įvairiems pažinimo būdams.

Vietoj vienos decibelų eilutės teisingiau intelektą būtų pavaizduoti kaip tikimybių erdvės diagramą, kaip galimų formų vizualizacijoje, kuri buvo sukurta Richardo Dawkinso algoritmu. Intelektas yra kombinacinis kontinuumas. Daugelis mazgų, kurių kiekvienas yra kontinuumas, sukuria didžiulės įvairovės kompleksą daugeliu matmenų. Kai kurios intelekto rūšys gali būti labai sudėtingos, su daugybe mąstymo mazgų. Kiti paprastesni, bet ekstremalesni, pasiekia kraštutinį erdvės tašką.

Šie kompleksai, kurie mums reiškia skirtingas intelekto rūšis, gali būti suvokiami kaip simfonijos, atliekamos skirtingų tipų muzikos instrumentais. Jie skiriasi ne tik garsumu, bet ir melodija, spalva, tempu ir kt. Galite galvoti apie juos kaip apie ekosistemą. Šia prasme įvairūs mąstymo mazgų komponentai yra tarpusavyje priklausomi ir yra sudaryti vienas nuo kito.

Kaip sakė Marvinas Minskis, žmogaus sąmonė yra proto visuomenė. Mūsų mąstymas yra išbaigta ekosistema. Mūsų smegenys turi daugybę pažinimo būdų, kurie atlieka įvairias psichines funkcijas: dedukciją, indukciją, emocinį intelektą, abstraktų ir erdvinį mąstymą, trumpalaikę ir ilgalaikę atmintį.

Visa žmogaus nervų sistema yra smegenų dalis, turinti savo pažinimo lygį. Tiesą sakant, mąstymo procesą vykdo ne smegenys, o visas žmogaus kūnas.

Visos mąstymo atmainos skiriasi tiek tarp rūšių, tiek tarp tos pačios rūšies atstovų. Voverė gali metų metus atsiminti tikslią kelių tūkstančių gilių vietą, o tai žmogui visiškai nesuvokiama. Tokiu mąstymu žmonės yra prastesni už baltymus. Voverės protas yra šios supergalios derinys su kitomis intelekto formomis, kuriomis žmogus yra pranašesnis už voverę. Gyvūnų karalystėje galima rasti daug pavyzdžių, kaip tam tikros gyvūnų intelekto formos pranašesnės už žmogų.

Ta pati situacija susiklostė ir su dirbtiniu intelektu, kuris kai kuriose srityse jau yra pranašesnis už žmogų. Bet koks skaičiuotuvas yra matematikos genijus, o „Google“ atmintis jau yra tam tikra prasme geresnė nei mūsų.

Kai kurios AI atlieka tokią protinę veiklą, kurios mes nesugebame. Įsiminti kiekvieną žodį šešiuose milijarduose tinklalapių yra neįmanoma užduotis žmonėms ir smulkmena paieškos sistemoms. Ateityje kursime visiškai naujus mąstymo būdus, kurie žmogui neprieinami ir neegzistuoja gamtoje.

Skraidančių aparatų išradėjus įkvėpė natūralus skrydis – plasnojantys sparnai. Tačiau vėliau buvo išrastas fiksuotas sparnas su prie jo pritvirtintais sraigtais, ir tai buvo visiškai naujas skrydžio principas, neaptinkamas gamtoje.

Taip mes išrandame naujus mąstymo būdus, kurių nepajėgia jokia rūšis. Greičiausiai tai bus tik labai specializuotoms problemoms taikytini principai: pavyzdžiui, naujos loginės konstrukcijos, reikalingos tik statistikoje ir tikimybių teorijoje.

Naujas mąstymas padės išspręsti problemas, su kuriomis žmogaus protas negali susidoroti. Kai kurie iš sunkiausių verslo ir mokslo klausimų reikalauja dviejų žingsnių sprendimo. Pirmas žingsnis – išrasti naują natūralaus mąstymo būdą. Antrasis – pradėti ieškoti atsakymų kartu su AI.

Žmonės pradės manyti, kad dirbtinis intelektas yra protingesnis už save, jei jis gali išspręsti anksčiau neišspręstas problemas. Tiesą sakant, AI mąstymas nėra geresnis nei mūsų, jis tiesiog kitoks. Manau, kad pagrindinė dirbtinio intelekto nauda yra ta, kad jis gali mąstyti kaip pašalinis žmogus, o šis susvetimėjimas yra pagrindinis jo privalumas.

Be to, kursime sudėtingas DI „bendruomenes“ su skirtingu mąstymu. Jie bus tokie sudėtingi, kad galės išspręsti problemas, su kuriomis mes negalime susidoroti. Todėl kai kurie žmonės klaidingai manys, kad dirbtinio intelekto kompleksai yra protingesni už žmones. Bet netikime, kad Google paieškos sistema protingesnė už žmogų, nors jo atmintis geresnė nei mūsų.

Tikėtina, kad šie dirbtinio intelekto kompleksai mus pralenks daugelyje sričių, tačiau nė vienas jų neaplenks žmonių visur iš karto. Panaši situacija yra ir su mūsų fizinėmis jėgomis. Praėjus dviem šimtams metų po pramonės revoliucijos, jokia mašina visais atžvilgiais nepralenkė vidutinių žmonių, nors mašinos kaip klasė gerokai lenkia žmones bėgimo greičiu, svorių kilnojimu, pjovimo tikslumu ir kita veikla.

Nepaisant AI struktūros sudėtingumo, jo neįmanoma išmatuoti šiuolaikinio mokslo metodais. Neturime įrankių, kad galėtume pasakyti, kuris yra sunkesnis, agurkas ar „Boeing 747“, ir neturime būdo įvertinti jų sudėtingumo skirtumus. Štai kodėl mes vis dar neturime tikslių intelektinių galimybių kriterijų.

Laikui bėgant bus vis sunkiau nustatyti, kas yra sunkesnė ir, atitinkamai, protingesnė: intelektas A ar intelektas B. Yra daug neištirtų protinės veiklos sričių, ir tai daugiausia trukdo mums suprasti, kad protas nėra vienmatis.

Antroji klaidinga nuomonė apie žmogaus protą yra ta, kad mes tikime, kad mūsų protas yra universalus. Šis plačiai paplitęs įsitikinimas formuoja kelią, kuriuo einame dirbtinio bendrojo intelekto (AGI) link, kurį kadaise propagavo AI ekspertai.

Tačiau jei mąstome apie protą kaip apie didžiulę galimybių erdvę, negalime kalbėti apie bendro tikslo būseną. Žmogaus protas neužima kažkokios abstrakčios centrinės vietos, o kiti specializuoti proto tipai aplink jį nesisuka.

Atvirkščiai, žmogaus intelektas yra labai specifinis intelekto tipas, kuris per milijonus metų vystėsi tam, kad mūsų rūšis išliktų šioje planetoje. Jei norėtume savo intelektą patalpinti tarp visų kitų galimų intelekto rūšių, jis atsidurtų kažkur kampe – kaip ir pats mūsų pasaulis, įsitaisęs didžiulės galaktikos pakraštyje.

Žinoma, galime įsivaizduoti ir kartais sugalvoti mąstymą, kuris savo savybėmis panašus į Šveicarijos armijos peilį. Atrodo, kad jis susidoroja su daugybe užduočių, bet ne su kaupu.

Taip pat galioja techninė taisyklė, kuriai turi paklusti visi daiktai, nesvarbu, ar jie sukurti tyčia, ar į pasaulį atėjo natūraliu būdu: „Visų matavimų optimizuoti neįmanoma. Galite rasti tik kompromisus. Daugiafunkcis įrenginys „viskas viename“ negali pranokti specializuotų funkcijų.

Viską daranti sąmonė negali lygiuotis su specializuotais konkrečių užduočių vykdytojais. Kadangi savo sąmonę laikome universaliu mechanizmu, manome, kad pažinimas neturėtų būti grindžiamas kompromisais ir kad galima išrasti dirbtinį intelektą, kuris demonstruoja maksimalų visų tipų mąstymo efektyvumą.

Tačiau nematau jokių šio teiginio įrodymų. Mes paprasčiausiai dar nesukūrėme pakankamai sąmonės atmainų, kad galėtume matyti visą vaizdą (kol kas mes nenorime gyvūnų sąmonės per vieno parametro prizmę laikyti atskiru mąstymo tipu su kintama amplitudė).

Dalis šio įsitikinimo, kad mūsų mąstymas yra kiek įmanoma universalesnis, kyla iš universalaus skaičiavimo koncepcijos. Ši prielaida buvo pavadinta Church-Turingo teze 1950 m. Jame teigiama, kad visi skaičiavimai, atitinkantys tam tikrus parametrus, yra lygiaverčiai.

Taigi, yra universalus visų skaičiavimų pagrindas. Nesvarbu, ar skaičiavimai atliekami vienoje mašinoje su daugybe greitų mašinų, mašinoje su mažesniu našumu, ar net biologinėse smegenyse, tai yra tas pats loginis procesas. Tai savo ruožtu reiškia, kad bet kokį skaičiavimo procesą (mąstymą) galime imituoti bet kokia mašina, galinčia atlikti „universalius“ skaičiavimus.

Šiuo principu singuliarumo šalininkai pateisina savo lūkesčius, kad galime sukurti silicio pagrindu sukurtas dirbtines smegenis, kuriose tilptų žmogaus sąmonė, kad galėtume sukurti dirbtinį intelektą, kuris mąstytų taip pat kaip žmogus, bet daug kartų efektyviau. . Šias viltis reikėtų vertinti šiek tiek skeptiškai, nes jos pagrįstos klaidingu Church-Turingo tezės aiškinimu.

Pradinė šios teorijos pozicija yra tokia: „Neribotos atminties ir laiko sąlygomis visi skaičiavimai yra lygiaverčiai“. Problema ta, kad iš tikrųjų joks kompiuteris neturi begalinės atminties ar laiko savybių. Kai atliekate skaičiavimus realiame pasaulyje, laiko komponentas yra nepaprastai svarbus, todėl dažnai tai yra gyvybės ir mirties klausimas.

Taip, visi mąstymo tipai yra vienodi, jei neįtraukiame laiko aspekto. Taip, bet kurioje matricoje galima imituoti žmogaus mąstymo procesą, jei pasirenkate nepaisyti laiko arba realaus pasaulio laisvos erdvės ir atminties apribojimų.

Tačiau jei į šią lygtį įtrauksime laiko kintamąjį, turėsime gerokai pakeisti principo formuluotę: „Dvi skaičiavimo sistemos, veikiančios radikaliai skirtingose ​​platformose, nepadarys lygiaverčių skaičiavimų realiu laiku“.

Šį principą galima suformuluoti taip: „Vienintelis būdas gauti lygiaverčius mąstymo būdus yra juos įgyvendinti tuo pačiu pagrindu. Fizinė terpė, kurioje atliekate skaičiavimus, ypač didėjant jų sudėtingumui, daro didelę įtaką jūsų mąstymui realiu laiku.

Tęsdamas loginę grandinę darysiu prielaidą, kad vienintelis būdas sukurti kuo artimesnį žmogui mąstymo tipą yra atlikti skaičiavimus naudojant medžiagą, kuri kuo labiau primena mūsų pilkąją medžiagą.

Tai reiškia, kad galima daryti prielaidą, kad sauso silicio pagrindu sukurtas tūrinis sudėtingas dirbtinis intelektas sukurs gremėzdišką, sudėtingą ir nepanašų į žmogaus mąstymą. Jei būtų įmanoma sukurti dirbtinį intelektą, kuris veiktų drėgnoje medžiagoje, naudojant dirbtinius neuronus, tokius kaip žmogaus, tokio AI mąstymo procesas būtų daug artimesnis mūsų.

Tokios „šlapios“ sistemos privalumai yra proporcingi naudojamų fizinių terpių artumui žmonėms. Tokios medžiagos sukūrimas pareikalautų didžiulių materialinių išlaidų, kad būtų pasiektas lygis, bent jau panašus į tai, kas mums būdinga iš prigimties. O mes galime sukurti naują žmogų taip – ​​tereikia laukti 9 mėnesius.

Be to, kaip minėta anksčiau, mes mąstome visa savo esybe, o ne tik savo sąmone. Šiuolaikinis mokslas turi daug duomenų, kaip mūsų nervų sistema įtakoja „racionalų“ sprendimų priėmimo procesą, prognozuoja ir prisitaiko. Kuo daugiau atsižvelgsime į žmogaus kūno sistemą, tuo atidžiau galime vėliau ją atkurti. Dirbtinis intelektas, veikiantis medžiagą, kuri radikaliai skiriasi nuo mūsų (sausas silicis, o ne šlapia anglis), taip pat manys kitaip.

Nemanau, kad ši funkcija yra labiau „funkcija, o ne klaida“. Kaip teigiau antroje šio straipsnio pastraipoje, AI mąstymo proceso skirtumai yra pagrindinis jo pranašumas. Štai dar viena priežastis, kodėl būtų klaidinga sakyti, kad jis „protingesnis už žmogaus smegenis“.

Antžmogiško intelekto sampratos – ypač nuolatinio tokio dirbtinio intelekto tobulėjimo teorijos – esmė yra nuoširdus tikėjimas intelekto neribotumu. Aš neradau jokių šio teiginio įrodymų.

Vėlgi, klaidingas intelekto, kaip tik vienos dimensijos apibrėžtos sistemos, suvokimas prisideda prie šio teiginio plitimo, tačiau turime suprasti, kad jis lieka nepagrįstas. Visatoje nėra begalinių fizinių matmenų – bent jau jie vis dar nežinomi mokslui.

Temperatūra nėra begalinė – yra minimalūs ir didžiausi šalčio ir šilumos rodikliai. Erdvė ir laikas taip pat nėra neriboti, kaip ir greitis. Galbūt skaitinę ašį galima pavadinti begaline, tačiau visi kiti fiziniai parametrai turi savo ribas. Žinoma, pats protas taip pat yra baigtinis.

Kyla klausimas: kur yra intelekto ribos? Anksčiau tikėjome, kad riba yra kažkur toli, tiek „aukščiau“ už mus, kiek mes „aukščiau“ už skruzdėlių. Atmetus neišspręstą vienmatiškumo problemą, kaip įrodyti, kad dar nepasiekėme ribos? Kodėl mes negalime būti kūrybos karūna? O gal jau beveik pasiekėme žmogaus galimybių ribas? Kodėl manome, kad intelektas yra be galo besivystanti sąvoka?

Mūsų intelektą geriau laikyti viena iš daugybės mąstymo tipų atmainų. Nors kiekviena pažinimo ir skaičiavimo dimensija turi ribą, jei matmenų yra šimtai, tai yra begalė intelekto atmainų, tačiau nė viena iš jų nėra begalinė jokiame matmenyje.

Kurdami ar susidurdami su šiais nesuskaičiuojamomis sąmonės temos variacijomis, galime patirti jas kaip viršijančias mūsų galimybes. Naujausioje savo knygoje „Neišvengiama“ sudariau sąrašą kai kurių šių vienaip ar kitaip už mus prastesnių veislių. Štai dalis to sąrašo:

Protas, kuo artimesnis žmogui, bet su didesniu reakcijos greičiu (paprasčiausias dirbtinis intelektas);

Labai lėtas protas, kurio pagrindiniai komponentai yra pakankamai vietos saugykloje ir atmintis;

Visuotinis intelektas, susidedantis iš milijonų individualių sąmonių, veikiančių vieningai;

Avilys, sudarytas iš daugybės itin produktyvių intelektų, kurie nežino, kad jie yra viena;

Borg supermind (kiborgų rasė, turinti kolektyvinį protą, bandanti asimiliuoti visus gyvus dalykus iš „Star Trek“ serijos į savo kolektyvą - apytiksliai Nauja kas) – labai funkcionalių intelektų rinkinys, aiškiai suvokiantis, kad jie yra viena visuma;

Protas, sukurtas dėvėtojo asmeninei sąmonei lavinti, bet niekam kitam netinkamas;

Protas, galintis įsivaizduoti sudėtingesnį protą, bet nesugebantis jo sukurti;

Protas, galintis vieną dieną sėkmingai sukurti sudėtingesnį protą;

Protas, galintis sukurti sudėtingesnį protą, kuris savo ruožtu gali sukurti dar sudėtingesnį protą ir pan.;

Priežastis, kuri turi greitą prieigą prie šaltinio kodo (gali bet kada pakeisti savo veikimo ypatybes);

Super logiškas protas, neturintis galimybės patirti emocijų;

Standartinis protas, orientuotas į problemų sprendimą, bet nesugebantis žiūrėti į save;

Protas, gebantis žiūrėti į save, bet nesugebantis išspręsti jam pavestų užduočių;

Protas, kurio formavimasis trunka ilgą laiką, kuriam reikia globėjo proto;

Išskirtinai lėtas protas, pasklidęs didžiulėje fizinėje erdvėje, kuri atrodo „nematoma“ greičiau reaguojančioms sąmonės formoms;

Protas, galintis greitai ir pakartotinai atkurti savo kopijas;

Protas, galintis atkurti savo kopijas ir likti vienas su jomis;

Protas, galintis pasiekti nemirtingumą, judėdamas nuo šeimininko prie šeimininko;

Greitas, dinamiškas protas, gebantis keisti mąstymo procesą ir prigimtį;

Nanoprotas, mažiausias nepriklausomas vienetas (pagal dydį ir išleidžiamą energiją), galintis žiūrėti į save;

Protas, kurio specializacija yra scenarijų kūrimas ir prognozavimas;

Protas, kuris niekada nieko nepamiršta, įskaitant klaidingą informaciją;

pusiau mašina, pusiau gyvūnas;

Pusiau mašina, pusiau androginiškas kiborgas;

Protas, kuris savo darbe naudoja mums nesuprantamą kiekybinę analizę.

Šiandien kai kas kiekvieną iš išvardintų mąstymo atmainų vadina antžmogiškuoju AI, tačiau ateityje šių intelekto formų įvairovė ir susvetimėjimas privers atsiversti naujus žodynus ir išsamiai tyrinėti mąstymo ir intelekto temą.

Be to, antžmogiškojo AI idėjos šalininkai mano, kad jo protinių gebėjimų lygis augs eksponentiškai (nors jie vis dar neturi šio lygio vertinimo sistemos). Galbūt jie mano, kad eksponentinės plėtros procesas jau vyksta.

Šiaip ar taip, šiandien tokio augimo įrodymų nėra, kad ir kaip jį matuotų. Priešingu atveju tai reikštų, kad AI protiniai gebėjimai padvigubėja per tam tikrą laikotarpį.

Kur to patvirtinimas? Vienintelis dalykas, kuris šiuo metu auga eksponentiškai, yra investicijos į AI pramonę. Tačiau šių investicijų grąža negali būti apibūdinta Moore'o įstatymu. AI netampa dvigubai protingesnis per trejus metus ar net per dešimt metų.

Klausiau daugelio AI ekspertų, bet visi sutiko, kad mes neturime pagrįstumo kriterijų. Kai paklausiau tikrojo eksponento vedlio Ray'aus Kurzweilo, kur rasti eksponentinės AI raidos įrodymų, jis man parašė, kad AI vystymasis nėra sprogstamasis, o laipsniškas procesas.

„Norint į hierarchiją įtraukti naują lygį, reikia ir eksponentinio skaičiavimo galios padidėjimo, ir algoritmo sudėtingumo... Taigi, turėtume tikėtis linijinio sąlyginių lygių skaičiaus padidėjimo, nes kiekvienam iš jų reikia eksponentinis mūsų pačių galimybių padidėjimas. Neturime daug sunkumų, kad pasiektume neokortekso (pagrindinės žmogaus žievės dalies, atsakingos už aukštesnes nervų funkcijas) AI gebėjimus. apytiksliai Naujas nei), todėl vis dar tikiu, kad mano prielaidos apie 2029 m. yra teisingos.

Rėjus tarsi sako, kad eksponentiškai auga ne dirbtinio intelekto galia, o pastangos jį sukurti, o jų rezultatas kaskart tik didėja vienu žingsniu. Tai beveik priešinga žvalgybos sprogimo hipotezei. Ateityje tai gali pasikeisti, tačiau akivaizdu, kad AI šiandien neauga eksponentiškai.

Taigi įsivaizduodami „AI bumą“ turėtume įsivaizduoti ne kaip laviną, o kaip skilimą į daugybę naujų atmainų. Technologinės pažangos rezultatas greičiausiai bus ne antžmogis, o supermenas. Už mūsų žinių ribų, bet nebūtinai „aukščiau“.

Kitas mitas apie pavergimą superintelektui, laikomas savaime suprantamu, bet sunkiai pagrįstas įrodymais, yra tai, kad beveik begalinis intelektas gali greitai išspręsti visas mūsų problemas.

Daugelis žaibiško AI šalininkų tikisi, kad tai sukels bumą. Aš vadinu tikėjimą šiuo „mąstymu“, terminą išvertė Viačeslavas Golovanovas - apytiksliai Nauja kas). Šis požiūris pagrįstas įsitikinimu, kad pažangą stabdo tik nepakankamas mąstymo ar intelekto lygis. (Taip pat atkreipiu dėmesį, kad tikėjimas AI kaip panacėja nuo visų ligų būdingas daugumai žmonių, kurie mėgsta mąstyti patys.)

Panagrinėkime klausimą, kaip įveikti vėžį ar pailginti gyvenimą. Tai problemos, kurių negalima išspręsti vien mąstant. Jokios mintys negali išsiaiškinti, kaip ląstelės sensta ar kaip trumpėja telomerai. Joks intelektas, kad ir koks būtų šaunus, negali suprasti, kaip veikia žmogaus kūnas, tiesiog perskaitęs visą žinomą mokslinę literatūrą pasaulyje ir ją analizuodamas.

Super-AI negali tiesiog galvoti apie visus dabartinius ir buvusius branduolio dalijimosi eksperimentus ir po dienos sugalvoti branduolių sintezės receptą. Norint pereiti nuo nesupratimo prie bet kurio dalyko supratimo, reikia kažko daugiau nei tik mąstyti.

Tiesą sakant, yra daug eksperimentų, kurių kiekvienas suteikia daugybę prieštaringų duomenų ir reikalauja tolesnių eksperimentų, kad susidarytų teisinga darbo hipotezė. Vien tik galvodami apie galimus rezultatus nepavyks pasiekti tinkamo rezultato.

Mąstymas (intelektas) yra tik dalis mokslo įrankio. Greičiausiai tik nedidelė dalis. Pavyzdžiui, mes tiesiog neturime pakankamai duomenų, kad galėtume priartėti prie mirties problemos sprendimo. Kalbant apie darbą su gyvais organizmais, dauguma šių eksperimentų užtrunka. Lėtas ląstelių metabolizmas negali būti pagreitintas. Norint pasiekti rezultatų, prireikia metų, mėnesių ar bent dienų.

Jei norime sužinoti, kas atsitinka su subatominėmis dalelėmis, neužtenka vien apie jas galvoti. Norėdami tai išsiaiškinti, turime sukurti labai didelius, labai sudėtingus, labai sudėtingus fizinius modelius. Net jei protingiausi fizikai taps tūkstantį kartų protingesni nei yra dabar, jie nieko naujo nesužinos be priešpriešinio įtaiso.

Nėra jokių abejonių, kad super-AI gali paspartinti mokslo vystymąsi. Galime kurti kompiuterinius atomų ar ląstelių modelius, galime įvairiais būdais juos pagreitinti, tačiau yra problemų, kurios neleidžia modeliavimui akimirksniu progresuoti.

Verta prisiminti, kad modeliavimas ir modeliai gali būti tyrinėjami greičiau nei jų subjektai tik todėl, kad jie atmeta tam tikrus kintamuosius. Tai yra pati modeliavimo esmė. Taip pat svarbu pažymėti, kad tokius modelius išbandyti, tirti ir patvirtinti, kad jie atitiktų tiriamųjų lygį, reikia daug laiko. Patirties išbandymas negali būti paspartintas.

Supaprastintos modeliavimo versijos yra naudingos ieškant perspektyviausių būdų, kaip pagreitinti pažangą. Tačiau iš tikrųjų nėra nieko nereikalingo, viskas tam tikru mastu yra svarbi - tai yra vienas didelis realybės apibrėžimas. Kadangi modeliai ir modeliavimas tampa vis išsamesni, mokslininkai susiduria su faktu, kad tikrovė veikia greičiau nei 100% modeliavimas.

Štai dar vienas realybės apibrėžimas: greičiausiai veikianti visų įmanomų detalių ir laisvės laipsnių versija. Jei galėtumėte imituoti visas ląstelės molekules ir visas žmogaus kūno ląsteles, šis modelis neveiktų taip greitai, kaip žmogaus kūnas. Kad ir kaip apgalvotai kurtumėte tokį modelį, vis tiek turėsite skirti laiko eksperimentams, nesvarbu, ar tai tikra sistema, ar simuliacija.

Kad būtų naudingas, dirbtinis intelektas turi būti pristatytas pasaulyje, o šiame pasaulyje būtini inovacijų tempai keičiasi gana greitai. Be pirmųjų eksperimentų, prototipų, klaidų ir įsitraukimo į realybę, intelektas gali mąstyti, bet neduos rezultatų. Jis nepadarys jokių momentinių atradimų nei per sekundę, nei per valandą, nei per metus po to, kai bus pavadintas „protingesniu už žmogų“.

Pasirodo AI. Žinoma, atradimų greitis paspartės, nes šis dirbtinis intelektas taps sudėtingesnis, iš dalies dėl to, kad ateivių dirbtinis intelektas užduos klausimus, kurių joks žmogus neužduotų, tačiau net ir labai galingas (palyginti su mumis) intelektas negarantuoja tiesioginės pažangos. Norint išspręsti problemas, reikia daug daugiau nei tik intelekto.

Vėžio ir ilgaamžiškumo problemos nėra vienintelės, kurių vien intelektas negali išspręsti. Tarp technologinio singuliarumo idėjos šalininkų paplitusi klaidinga nuomonė: jei sukursime DI, kuris yra protingesnis už žmones, jis staiga pradės vystytis ir sukurs dar protingesnį AI.

Naujasis dirbtinis intelektas mąstys giliau ir išras ką nors dar protingesnio, ir taip toliau, kol bus išrastas kažkas panašaus į dievišką. Nėra įrodymų, kad vien mąstymo pakanka sukurti naujus intelekto lygius. Toks mąstymas grindžiamas tikėjimu.

Tačiau yra daugybė įrodymų, kad naujo efektyvaus intelekto išradimas reikalauja ne tik protinių pastangų, bet ir eksperimentų, duomenų, sudėtingų klausimų, bandymų ir klaidų.

Suprantu, kad galiu klysti. Kol esame ankstyvoje stadijoje. Galbūt atrasime universalų intelekto mastelį ar jo begalybę visomis prasmėmis. Yra technologinio singuliarumo galimybė, nes mes labai mažai žinome, kas yra intelektas ir savimonė. Mano nuomone, viskas rodo, kad tai mažai tikėtina, bet vis tiek yra galimybė.

Tačiau aš palaikau platesnius OpenAI tikslus: turime sukurti draugišką AI ir sugalvoti, kaip suteikti jai vertybes, kurios kartojasi pačios ir atitinka mūsų.

Yra tikimybė, kad antžmogiškas dirbtinis intelektas ilgainiui gali būti žalingas, tačiau ši idėja pagrįsta nepilnais įrodymais ir neturėtų būti rimtai vertinama, kai kalbama apie mokslą, politiką ar pažangą.

Asteroido smūgis į Žemę gali mus sunaikinti, yra tokio rezultato tikimybė (tai patvirtina fondas B612), bet neturėtume tokio rezultato vertinti globalinio atšilimo, kosminių kelionių ar miestų planavimo klausimais.

Turimi įrodymai rodo, kad greičiausiai AI nebus antžmogiškas. Jis turės naujų, žmogui neprieinamų mąstymo atmainų, tačiau be visapusiško pritaikymo netaps dievu, kuris akimirksniu išspręstų pagrindines mūsų problemas.

Vietoj to, tai taps ribotų galimybių intelektų sankaupa, už mus bus geriau dirbti mums neįprastose srityse, kartu su mumis galės rasti sprendimus tiek esamoms, tiek naujoms problemoms.

Suprantu, kokia patraukli yra antžmogiško ir dieviško AI idėja. Jis gali būti kitas Supermenas. Tačiau, kaip ir Supermenas, tai yra išgalvotas personažas. Kažkur visatoje Supermenas gali egzistuoti, bet tai mažai tikėtina. Kad ir kaip būtų, mitai gali būti naudingi, o sukurti – niekur nedingsta.

Supermeno idėja gyvuos amžinai. Superžmogiškojo AI ir singuliarumo idėja kyla dabar ir niekada nebus pamiršta. Turime suprasti, kokia tai idėja: religinė ar mokslinė. Jei tiriame dirbtinio ar natūralaus intelekto klausimą, turime aiškiai suprasti, kad mūsų antžmogiškojo AI samprata yra ne kas kita, kaip mitas.

Išskirtų Mikronezijos salų gentys pirmą kartą kontaktavo su išoriniu pasauliu Antrojo pasaulinio karo metais. Dievai atskrido iš tolimų kraštų, nusileido iš dangaus ant triukšmingų paukščių, atnešė dovanų ir išskrido amžiams. Šių dievų sugrįžimo ir naujų dovanų kultai paplito po visas salas. Net ir dabar, praėjus 50 metų, daugelis vis dar laukia sugrįžtant.

Superžmogiškasis AI gali tapti mums nauju krovinių kultu. Galbūt po šimto metų žmonės mūsų laiką suvoks taip pat: tarsi tikėtume antžmogišku AI ir dešimtmečius lauktume, kol jis bet kurią minutę pasirodys ir atneš mums neįsivaizduojamų dovanų.

Tačiau ne antžmogiškas AI jau egzistuoja dabar. Mes ir toliau ieškome naujo jo apibrėžimo, komplikuojame. Tačiau plačiąja prasme mums svetimas protas – tai intelektualinių galimybių, mąstymo, samprotavimo, mokymosi, savimonės mechanizmų spektras. AI plinta ir plis toliau. Jis tampa gilesnis, įvairesnis, galingesnis.

Iki AI joks išradimas negalėjo visiškai pakeisti pasaulio. Iki XXI amžiaus pabaigos dirbtinis intelektas bus toks galingas, kad pakeis viską mūsų gyvenime.

Kad ir kaip ten būtų, mitas apie antžmogišką dirbtinį intelektą, suteiksiantį mums superturtus arba supervergiją (arba abu). Tačiau tai liks mitu, kuris vargu ar bus įkūnytas realybėje.