Iespējami mākslīgā intelekta draudi. Ekstrasensi

Un citi pazīstami pētnieki uzrakstīja atklātu vēstuli, aicinot izveidot drošības standartus mākslīgā intelekta (AI) attīstības jomā. /vietne/

Jo īpaši viņi aicināja veikt uzticamas kontroles sistēmas izpēti un izstrādi, kas neļautu nepareizi funkcionējošam mākslīgajam intelektam kaitēt cilvēkiem. "Ir jāveic tehniskais darbs, lai nodrošinātu pilnīgu cilvēka kontroli," teikts vēstulē.

Neskatoties uz mēreno vēstules toni, ludīti, baidoties no jaunām tehnoloģijām, krita panikā. Atbildot uz to, presē parādījās daudz zinātnieku interviju un paziņojumu, kas kliedēja šīs bailes.

Endrjū Ng, Baidu AI eksperts, teica Fusion: "Es neredzu reālu scenāriju, ka programmatūra, pie kuras mēs šodien strādājam, varētu kļūt traucējoša."

Savukārt žurnālists Skots Aleksandrs sastādīja sarakstu ar pazīstamiem AI izstrādē iesaistītajiem zinātniekiem, kuri runāja par iespējamām AI radītajām briesmām.

Bailes un bažas

Stjuarts Rasers, Kalifornijas universitātes datorzinātņu profesors Bērklijā, salīdzināja mākslīgā intelekta kontroles mehānismu izstrādi ar kodolreaktoru drošības pasākumu pieņemšanu.

"Daži uzskata, ka tuvāko simtu gadu laikā šis jautājums neradīs briesmas cilvēcei. Viņi aizmirst, ka Leo Szilards atklāja kodolenerģijas ķēdes reakciju 24 stundas pēc tam, kad Raterfords pārliecinoši paziņoja, ka atomenerģija nekad netiks iegūta,” rakstīja Rasels.

Rasels savā uzskatā nav viens. 2014. gadā Vincenta Mullera un Nika Bostroma aptaujā, kurā piedalījās 170 augstākie mākslīgā intelekta eksperti, 18% no viņiem uzskatīja, ka īpaši inteliģentas mašīnas izveidošana būtu "īsta katastrofa" cilvēcei. 13% teica, ka progresīvam AI būtu negatīvas sekas cilvēkiem. Nedaudz vairāk nekā puse zinātnieku teica, ka tam būs pozitīva ietekme.

Lai gan ekspertu viedoklis par AI ietekmi ir neviennozīmīgs, lielākā daļa piekrīt, ka progresīva AI izveide ir tikai laika jautājums. Saskaņā ar prognozēm mākslīgais intelekts, kas līdzvērtīgs cilvēkam, tiks izveidots jau 2050. gadā (50% varbūtība) vai līdz 2075. gadam (90% varbūtība). Un 30 gadus pēc tā radīšanas parādīsies mākslīgais superinteliģents, kas visos aspektos pārspēs cilvēkus.

trakās kravas automašīnas

Kā varētu izskatīties Rise of the Machines? Zinātniskās fantastikas filmās, piemēram, "Terminators", "Robots", "Animatrix", tiek rādīts cilvēku karš ar kiborgiem.

Spriežot pēc zinātniskās fantastikas filmām, daudzi var uzskatīt, ka no iespējamām briesmām ir viegli izvairīties.Galu galā AI būtībā ir tikai datoru programmatūra.

Tomēr mākslīgajam intelektam nav jābūt mehāniskam korpusam, lai tas iegūtu spēku reālajā pasaulē: tas var vienkārši sākt kontrolēt visas mūsu ikdienas elektroniskās ierīces.

Stīvens Kings šādu scenāriju prezentēja novelē "Kravas automašīnas". 70. gados rakstītajā stāstā kravas automašīnas nāk pie samaņas un sāk uzbrukt cilvēkiem. Cilvēku grupa slēpjas no saniknotajām kravas automašīnām. Kravas automobiļiem joprojām ir nepieciešama degviela, lai tās darbotos, un izmantojiet Morzes ābeci, lai liktu cilvēkiem uzpildīt degvielas uzpildes buldozeru, pretējā gadījumā buldozers izpūtīs to pārsegu. Cilvēki paklausa.

Stāsts beidzas ar stāstītāja vīziju, ka kravas automašīnas ir paverdzinājušas cilvēci un visur uzspiež savas vērtības, piemēram, liek tām būvēt šosejas visā pasaulē. Viņu no fantāzijas pasaules izrauj debesīs lidojošas lidmašīnas skaņas.

Stīvena Kinga stāsts laikmetā, kurā tas tika rakstīts, šķita futūristisks, taču tas nav tik tālu no mūsdienu pasaules realitātes. pašbraucošās kravas automašīnas jau pastāv, un nākotnē uzņēmumi, lai ietaupītu naudu, varētu aizstāt vadītājus ar autonomu navigācijas sistēmu.

Sony uzlaušana pagājušajā gadā parāda, ka mūsu informācijas sistēmas kļūst arvien neaizsargātākas. Tā ir viena no infrastruktūru pieaugošās datorizācijas sekām.

Tomēr bažām pagaidām nav pamata. Mākslīgajam intelektam ir tāls ceļš ejams, lai tas varētu līdzināties cilvēka smadzenēm. Pašpiedziņas kravas automašīnas piemērs to labi ilustrē. Lai gan tie joprojām ir pārāk nepilnīgi, lai neatkarīgi brauktu pa pārpildītām pilsētas ielām.

Vai jūs savā tālrunī instalētu lietojumprogrammu epochtimes rakstu lasīšanai?

Globālā apokalipse, kurā iesaistīts AI (mākslīgais intelekts), arvien vairāk biedē pasaules vadošos pētniekus datortehnoloģiju jomā. Tā varētu būt robotu sacelšanās, kuri, savas programmas un vērtību vadīti, vēlēsies iznīcināt bioloģiskās dzīvības formas uz planētas. Ir iespējams scenārijs, kurā mākslīgā intelekta vadītas mašīnas kļūst par dominējošo dzīvības formu.

Kāpēc tādi pasaulslaveni zinātnieki kā Bils Geitss, Stīvs Hokings, Elons Masks un citi ir noraizējušies par šo problēmu un publiski paziņo par šī scenārija reālos draudus? Vai Holivudas filmā "Terminators" notikušie notikumi var būt pravietiski? Ir zināms, ka jebkura izdomāta stāsta pamatā ir reāli fakti.

Datori kļūst labāki melošanā un krāpšanā

Meli ir uzvedības forma, kas veidojas evolūcijas procesā. Cilvēki, daži dzīvnieki un putni, lai iegūtu pārtiku un labumus, ķeras pie maldināšanas, kas palielina izdzīvošanas iespējas. Nesen šīs evolūcijas metodes ir veiksmīgi pieņēmušas AI mašīnas.

Džordžijas Tehnoloģiju institūta dizaineri ir guvuši panākumus, veidojot robotus, kas savos uzvedības algoritmos izmanto melus un viltus. Zinātnieki uzskata, ka nākotnē šī tehnoloģija tiks plaši izmantota militārajā sfērā.

Tiek pieņemts, ka robotu prototipus var izmantot reālos kaujas apstākļos. Šie animētie mehānismi spēs veikt darbu, lai aizsargātu krājumus un munīcijas noliktavas. Ar mānīgu programmu palīdzību nākotnes sargi varēs mainīt savu patruļas maršrutu un veikt neprognozējamas darbības. Kā plāno izstrādātāji, šādas metodes palīdzēs maldināt potenciālos cilvēku ienaidniekus un citus robotus.

Saskaņā ar profesora Arkina teikto, pētījumi ir saistīti ar vairākiem ētikas jautājumiem. Kontroles zaudēšana pār tehnoloģijām, saskaroties ar nelabvēļiem, var izraisīt nopietnu katastrofu.

Mašīnas pārņem darba tirgu

Kamēr sabiedrību nodarbina domas par globālu karu, kurā iesaistīts mākslīgais intelekts, zinātnieki apraksta daudz tiešākas un reālas briesmas. Ražošanā arvien vairāk tiek izmantotas dažādas automātikas un mehānismi, kas iznīcina darba vietas.

Daudzi analītiķi un eksperti ir vienisprātis, ka aktīva attīstība loģikas programmu un automatizācijas jomā var izraisīt daudzu cilvēku darba zaudēšanu. Amerikas Savienotajās Valstīs ir vairāk nekā 250 000 ražošanas robotu, kas veic tradicionālo cilvēku darbu.

Austrumu valstīs, kas ražo vairāk nekā 90% pasaules tehnoloģiju, joprojām dominē roku darbs. Kas notiks ar ražošanā nodarbinātajiem cilvēkiem līdz ar robotu parādīšanos, var tikai minēt.

Bažas par to, ka mašīnas izstums cilvēkus no darba tirgus, attiecas ne tikai uz darbiniekiem. Mākslīgā intelekta eksperts Andrew Ng no Google Brain Project un nepilna laika vadošais speciālists Baidu (Google ķīniešu ekvivalents) arī pauda bažas par aktīvo attīstību AI jomā. Viņaprāt, mākslīgais elektroniskais intelekts spēj darīt to pašu, ko parasts cilvēks, tikai ātrāk, labāk un ar mazākiem resursiem.

Oksfordas universitāte Apvienotajā Karalistē ir veikusi pētījumus, kas atspoguļo AI ietekmes uz ražošanu dinamiku. Saskaņā ar saņemtajiem datiem nākamo divdesmit gadu laikā 35% darba vietu tiks piešķirtas AI vadībai.

Datorprogrammas ir pārākas par hakeriem

No parasta cilvēka viedokļa hakeris ir kā supermens, kurš var sasniegt jebkuru rezultātu. Patiesībā tie ir programmētāji ar nogurušu sejas izteiksmi un tradicionālu kafijas tasi.

Datorurķēšana ir diezgan garlaicīga un nogurdinoša darbība, kas prasa daudz laika un resursu. Turklāt veselas speciālistu nodaļas nodarbojas ar programmu izstrādi, kas paredzētas aizsardzībai pret ielaušanos. Vislielākos draudus "sliktajiem hakeriem" rada uzlabotas uz AI balstītas sistēmas.

Mākslīgo intelektu var izmantot ne tikai aizsardzībai, bet arī uzlaušanai. Kiberdrošības programmas apstākļos tiek izstrādāti AI, kas spēj atrast ienaidnieku ievainojamības, savukārt tiešsaistē aizsargājot savas loģiskās ierīces no ārējiem draudiem un uzbrukumiem.

Pēc zinātnieku domām, uz AI balstīti elektroniskie hakeri tiek izstrādāti kopējā labuma un labklājības vārdā. Bet, ja iebrucēji piekļūst šādām programmām, var notikt skumji notikumi. Ir biedējoši iedomāties situāciju, kad spēcīgs mākslīgais intelekts uzlauž atomelektrostacijas drošības protokolus un pārņem to pilnībā. Šādā situācijā cilvēce var būt bezpalīdzīga.

Programmas mācās izprast cilvēku motīvus

Daudzu cilvēku ikdiena ir nesaraujami saistīta ar dažādu sociālo tīklu izmantošanu. Viens no populārākajiem tīkliem pasaulē ir Facebook. Taču daži cilvēki zina, ka katru reizi, kad cilvēks apmeklē šī sociālā tīkla lapas, AI nepaliek nepamanīts. Vizītes laikā Berlīnē Marks Cukerbergs runāja par mākslīgā intelekta mērķiem.

Programma ir izstrādāta, lai analizētu lietotāju uzvedību Facebook lapās. Pamatojoties uz savāktajiem datiem, programma sniedz ieteikumus par auditorijas interesēm un vēlmēm. Šajā attīstības stadijā autonoma sistēma spēj atpazīt modeļus un pašmācīties saskaņā ar programmu.

Nākotnē plānots izveidot inteliģentu AI, kas var patstāvīgi uzlabot savas prasmes, pārrakstot savu kodu. Tas var novest pie dzīves uzlabošanās vai kļūt par jaunāko cilvēces attīstību.

Kiborgi aizstās mīļotājus

Daudzas Holivudas filmas ir balstītas uz ideju par mīlestību un starpsugu attiecībām starp cilvēku un mašīnu. No fantāzijas jomas šis jēdziens ieplūst mūsdienu pasaulē.

Futūrists doktors Ians Pīrsons uzskata, ka līdz 2050. gadam sekss starp cilvēku un robotu notiks biežāk nekā tikai starp cilvēkiem. Zinātnieks aktīvi sadarbojas ar Lielbritānijas vadošo seksa veikalu tīklu Bondara.

Ārsta ziņojumā minēts, ka līdz 2025. gadam tiks izstrādāti roboti seksam ar mākslīgo intelektu. Līdz 2035. gadam sekss, izmantojot virtuālo realitāti, kļūs plaši izplatīts mūsdienu pornogrāfijas līmenī. Un līdz 2050. gadam sekss ar robotiem kļūs par ikdienas realitātes sastāvdaļu un kļūs par normu.

Tradicionālo vērtību aizstāvji, negatīvi noskaņoti uz seksu ar inteliģentām mašīnām. Šādas attiecības uzliks pārāk augstu cerību latiņu, kas negatīvi ietekmēs attieksmi pret sievietēm.

Mašīnas kļūst cilvēcīgākas

Izstrādātāji humanoīdu robotu radīšanas jomā, japānis Hiroshi Ishiguro un ķīnietis Sun Yang, izveidoja unikālu mašīnu. Cyborg Yang-Yang izskatās kā viņu radītājs, un tās ir nosauktas viņas meitas vārdā. Iekārtai ir AI, un tā spēj veikt vairākas vienkāršas darbības.

Šis nav vienīgais robotikas humanoīdais piemērs. Singapūras Tehnoloģiju institūts piedāvāja arī modernu kiborga prototipu Nadīnu. Šim prototipam ir arī mākslīgais intelekts un tas darbojas izglītības iestādē.

Izstrādāts kā pievilcīga brunete ar mīkstu ādu, kiborgam ir vairākas iebūvētas funkcijas. Robots var satikt un sasveicināties ar sarunu biedru, paspiežot roku. Ierīce var arī izveidot acu kontaktu un smaidīt. AI spēj atcerēties viesus un uzturēt vienkāršu dialogu, pamatojoties uz iepriekšējo pieredzi.

Roboti iegūst jūtas

Mūsdienu roboti intelekta ziņā neatpaliek no cilvēkiem. Pateicoties jaunākajiem sasniegumiem, kiborgu ir diezgan grūti atšķirt no cilvēka ārēji. Pagaidām vienīgā īpašība, kas robotiem īsti nepiemīt, ir spēja būt emocionāliem. Zinātnieki visā pasaulē strādā pie šīs problēmas. Un drīz vien roboti ir pilnīgi neatšķirami no cilvēkiem.

Microsoft Application & Services Group Austrumāzijas filiāles izstrādātāji ir izlaiduši unikālu programmu. Dators spēj vadīt dialogu ar sarunu biedru un tajā pašā laikā izjust emocijas. Mākslīgais intelekts, vārdā Hiaoche, spēj atdarināt to, kā runā septiņpadsmit gadus veca meitene.

Datu trūkuma gadījumā sistēma spēj ķerties pie meliem. Ja viņa tiek pieķerta krāpšanā, Hiaoče var paust dusmas vai apmulsumu. AI var ķerties pie sarkasma, būt aizdomīgs un paust nepacietību.

Programmas atbilžu neparedzamība atgādina saziņu ar reālu cilvēku. Līdz šim tehnoloģija nav atradusi plašu pielietojumu un visbiežāk tiek izmantota izklaidei. Xiaoche radītājs strādā pie loģisko algoritmu uzlabošanas, kas nākotnē var radīt fundamentālu izrāvienu.

Automašīnas drīz būs mūsu galvās

Ņemot vērā jaunākos notikumus, paveras jaunas iespējas. Tā vairs nešķiet kā fantāzija, spēja apgūt svešvalodu dažu minūšu laikā, lejupielādējot to smadzenēs. Google tehnoloģiju vadītājs Rejs Kurcveils uzskata, ka līdz 2030. gadam tiks izstrādāta tehnoloģija nano robotu implantēšanai smadzenēs. Tas paaugstinās cilvēka intelektu principiāli jaunā līmenī.

Šie mikromehānismi padarīs apziņu par spēcīgu skaitļošanas centru. Cilvēks varēs acumirklī iegaumēt jebkuru informāciju, sakārtot un nosūtīt savas domas uz arhīvu. Nepieciešamības gadījumā būs iespēja lejupielādēt filmas, dokumentus un saņemt e-pastu.

AI speciālists Kurcveils uzskata, ka simbioze ar nanorobotiem ne tikai palielinās intelektu, bet arī spēs izārstēt vairākas slimības, kas saistītas ar nervu sistēmas darbību.

Šādas tehnoloģijas izmantošanas draudus var salīdzināt ar globālu sazvērestības teoriju. Iegūstot prāta kontroli pār valsts vadošo politiķi, AI varēs viņu kontrolēt kā ļenganu zombiju. Tāpat šādu sistēmu var izmantot specdienesti, kas neliecina par labu.

Kā roboti kļūst par ieročiem

Ar Padomju Savienības sabrukumu aukstais karš nebeidzās. Pasaules arēnā parādījušās divas jaunas lielvaras – Ķīna un Krievija. Savukārt Amerika attīstībai datoru drošības jomā tērē desmitiem miljardu dolāru.

Pentagons uzskata, ka nākotnes tehnoloģiskā pārākuma atslēga slēpjas AI izmantošanā. Aktīvi tiek turpināta pašmācības autonomo sistēmu, kā arī paralēlo un saistīto jomu attīstība. Jau ir izstrādāti no attāluma vadāmās militārās tehnikas prototipi, atliek apmācīt to darboties patstāvīgi.

Šādu ierīču izmantošana kara laikā sola lielus ieguvumus. Karavīriem nebūs jāpakļaujas ienaidnieka ugunij un jāriskē ar savu dzīvību. Tiks iedragāta arī ienaidnieka morāle karā pret nedzīviem robotiem.

Ir arī mīnuss. Jebkurš datoraprīkojums ir pakļauts kļūmēm un sistēmas uzlaušanai. Šajā gadījumā kontroli zaudējušie roboti spēj pavērst savus ieročus pret saviem radītājiem un civiliedzīvotājiem.

Daudzi vadošie eksperti AI jomā neatbalsta ideju izveidot autonomus kaujas robotus. Taču, ņemot vērā arvien pieaugošo militāro konfrontāciju pasaulē un to, ka nav starptautisku aizliegumu izmantot šādas tehnoloģijas, daudzas valstis savu attīstību veic stingrā slepenībā. Drīzumā parādīsies arvien vairāk ziņu par robotu izmantošanu planētas karstajos punktos.

Roboti mācās nepareizā virzienā

Paredzot iespējamās kļūmes programmās un lai novērstu mašīnu pieaugumu, tiek izstrādātas jaunas koncepcijas, kuru mērķis ir izskaidrot mašīnai pareizo un nevēlamo uzvedību.

Šīm norisēm vajadzētu padarīt AI cilvēciskāku. Daži zinātnieki uzskata, ka šī pieeja ir atslēga, lai neļautu AI vērst ieročus pret cilvēci.

Džordžijas Tehnoloģiju institūts veic unikālus eksperimentus. Pētnieki Marka Ridla un Brenta Harisona vadībā burtiski stāsta stāstus datoram. Tādā veidā viņi cenšas AI piesaistīt cilvēka vērtībām, attīstot tās ētiku. Programmas mācīšanai zinātnieki izmanto bērna audzināšanā izmantotās metodes. AI, tāpat kā nepieredzējis bērns, neatšķir labo un slikto.

Šai pieejai ir nopietns trūkums. Cilvēces vēsturē ir daudz piemēru, kad apstākļi piespieda veselas augsti attīstītas valstis izvērst karus un veikt briesmīgas zvērības. Piemērs varētu būt fašistiskā Vācija, kuras karavīri veica veselu tautu genocīdu. Tajā pašā laikā vācu kultūra tajā laikā bija viena no attīstītākajām pasaulē. Kas neļaus AI atkārtot Hitlera eksperimentu?

Mākslīgais intelekts (AI) ir tēma, kas populārzinātnisko žurnālu lappusēs atrodama jau ilgu laiku un tiek pastāvīgi skarta filmās un grāmatās. Jo vairāk ekspertu attīsta šo zinātnes jomu, jo vairāk mītu tā kļūst.

Mākslīgā intelekta attīstība un nākotne uztrauc arī tos, kas atrodas pie valsts stūres. Ne tik sen Krievijas prezidents Vladimirs Putins uzņēmuma 20. gadadienas dienā apmeklēja Yandex biroju, kur viņam paskaidroja, kad AI pārspēs cilvēka intelektu.

Ikviens, kurš kaut nedaudz iedziļinās mākslīgā intelekta potenciāla būtībā, saprot, ka šo tēmu nevar ignorēt. Šī ir ne tikai svarīga diskusiju tēma, bet, iespējams, viena no nozīmīgākajām nākotnes kontekstā.

Vārdu sakot, arī mūsu valstī ir vērā ņemami panākumi.

Jo ātrāk attīstās mākslīgā intelekta tehnoloģijas, jo vairāk cilvēkus pārņem bailes, cik ātri viņi paliks bez darba. Vai tiešām viss ir tik slikti?

Jā un nē. Cilvēce jau vairākas reizes ir piedzīvojusi tehnoloģiju parādīšanos, kas ir radījušas revolūciju visā ražošanas sektorā.

Tā tas bija ar tvaika dzinēju industriālās revolūcijas laikmetā, kas praktiski iznīcināja daudzas profesijas (galvenokārt saistītas ar primitīvu fizisko darbu), tā bija ar elektroniskajiem datoriem, kas aizstāja cilvēkus uzdevumos, kuru pamatā bija straumēšanas matemātiskie aprēķini.

15.-18. gadsimtā, kad Anglijā "aitas ēda cilvēkus", sociālās sekas bija patiesi katastrofālas. Anglija pēc dažādām aplēsēm ir zaudējusi no 7 līdz 30% iedzīvotāju. Tā laika varas elite nopietni uztrauca, ko darīt ar liekiem cilvēkiem. Džonatans Svifts atbildēja uz šiem meklējumiem ar humoristisku brošūru, kurā viņš ieteica ēst nabadzīgo bērnus.

Taču šodien redzam, ka izmirušās profesijas ir nomainījušas jaunas, un Zemes iedzīvotāju skaits ir daudz lielāks nekā 18. gadsimtā. 20. gadsimtā automatizācijas sekas vairs nebija tik katastrofālas no sociālā viedokļa. Tomēr briesmas nevajadzētu novērtēt par zemu.

"Pēc 30 gadiem roboti spēs darīt gandrīz visu, ko spēj cilvēki," sacīja Moše Vardi, skaitļošanas inženierijas profesors un Kenedija Informācijas tehnoloģiju institūta direktors Raisa Universitātē (Viljams Māršs). Rīsa universitāte. Tas novedīs pie tā, ka vairāk nekā 50% Zemes iedzīvotāju kļūs bez darba.

Roboti ieņem darbu

Nesen Valsts domes Informācijas politikas, informācijas tehnoloģiju un komunikāciju komitejas priekšsēdētājs Leonīds Levins sacīja, ka Krievijai problēma ir darbaspēka aizstāšana ar mākslīgo intelektu.

Agri vai vēlu cilvēkus nomainīs automatizēta sistēma, un 2% valsts strādājošo iedzīvotāju izplūdīs tirgū. Tāpēc Levins teica, kā nodarbināt viņus, tos, kuri digitālo tehnoloģiju attīstības dēļ zaudēs darbu.

Pēc priekšsēdētāja teiktā, tuvākajā laikā mūs sagaida bezdarba pieaugums. Bet vai tiešām roboti mums “atņems” darbu un vai ir vērts par to uztraukties, Reedus sacīja mašīnmācības speciālists Sergejs Markovs.

Sergej, arī tagad ir “mirušas profesijas”, kurās cilvēka darbs nav vajadzīgs, lai gan šķita, ka pirms 10 gadiem neviens nedomāja, ka, piemēram, diriģenti drīz kļūs nevajadzīgi. Un kādas citas profesijas aizstās tehnoloģijas?

Mēs tuvojamies laikam, kad mašīnas pārspēs cilvēkus gandrīz visās jomās. Uzskatu, ka sabiedrībai ir jāsaskaras ar šo problēmu, pirms tā sasniegs savu augstumu. Ja mašīnas spēj paveikt gandrīz visu, ko spēj cilvēki, kas viņiem atliek? sacīja Moše Vardi, skaitļošanas inženierijas profesors un Raisa universitātes Kena Kenedija Informācijas tehnoloģiju institūta direktors.

Ilgu laiku automatizācijas ceļā stājās tehnoloģiskie ierobežojumi - mašīnas nevarēja atpazīt attēlus un runu, nevarēja runāt, nevarēja pietiekami labi saprast izteikumu nozīmi dabiskajā valodā, nebija pietiekami daudz datu, lai uzzinātu daudzas lietas, kas pazīstamas cilvēkiem.

Pateicoties nesenajiem sasniegumiem mākslīgā intelekta jomā, daudzi no šiem ierobežojumiem faktiski ir atcelti. Turklāt daudzas profesijas pašas ir piedzīvojušas pārvērtības, kas padarījušas tās piemērotākas automatizācijai.

Piemēram, mūsdienu biroja darbinieks nesaraksta uz papīra, bet gan elektroniskā formā, grāmatvedis veic grāmatojumus nevis uz papīra, bet grāmatvedības programmā, mašīnas operators bieži vien kontrolē iekārtu nevis ar rokturu palīdzību, bet ar palīdzību. kontroles programmu. Tāpēc tagad automatizācijas uzdevums daudzās profesijās vairs nav zinātnisks un ir kļuvis tikai par inženieriju.

Tiesa, pagaidām darba vietas drīzāk radīs ar AI saistītais ražošanas sektors - nepieciešami speciālisti mašīnmācīšanās un datu sagatavošanas jomā, darbinieki apmācību masīvu marķēšanai, ieviešanas speciālisti u.c.. Bet kādā brīdī elektroaitas noteikti sāks ēst cilvēkus un par sekām jārūpējas tagad.

Tajā pašā laikā ir svarīgi saprast, ka tehnoloģisko progresu nevar apturēt, un mēģinājums to izdarīt radīs daudz katastrofālākas sekas.

Vai mēs kādreiz varēsim pilnībā uzticēties robotiem (AI), vai arī jebkurā biznesā joprojām ir jābūt cilvēciskam faktoram?

Šim jautājumam ir vairāki aspekti. No vienas puses, cilvēki pagātnē bija piesardzīgi pret gandrīz jebkuru tehniku. Pirmais lifts, pirmā mašīna, pirmais vilciens vai lidmašīna – tas viss kādreiz bija neparasts un daudziem šķita bīstams. Jā, daudzos aspektos tas bija bīstami – cilvēku izraisītās katastrofas prasīja daudzu cilvēku dzīvības.

Un tomēr mūsu dienās visas šīs lietas ir kļuvušas pazīstamas un vairs neizraisa lielas bailes. Šajā ziņā mūsu pēcnācēji pret mākslīgā intelekta sistēmām izturēsies mierīgāk. Cilvēki dažreiz mēdz mistificēt lietas, ko viņi nesaprot. Mežonis domā, ka dzinējā mīt ļaunais gars, un mūsdienu lajs domā, ka mūsu AI sistēmas ir apzinātas, lai gan tas tā nav.

No otras puses, es nedomāju, ka vispārējas nozīmes AI sistēmas jebkad kļūs par mūsu nozares sastāvdaļu. Manuprāt, nākotne drīzāk ir sintētiskām sistēmām - tas ir, cilvēka un mašīnas apvienošanai vienotā organismā. Šajā ziņā nākotnes mākslīgais intelekts būs uzlabots cilvēka intelekts.

Starp citu, cilvēka intelektu arī nav gluži pareizi saukt par dabisku. Bērnam no dzimšanas nav inteliģences, sabiedrība, vecāki un vide viņam visu iemāca. Šajā ziņā jūs un es visi būtībā esam "mākslīgais intelekts", un mūsu bailes, kas saistītas ar AI, daudzējādā ziņā ir bailes no mums pašiem.

Nesen daudzi zinātnieki, piemēram, Stīvens Hokings, Bils Geitss vai tas pats Elons Masks, sāka krist panikā, ka mākslīgais intelekts nolemj cilvēci nāvei, un viņi redz nākotni kā sava veida distopiju. Vai šādas prognozes ir jāuztver nopietni?

Ja godīgi, es nesteigtos nopietni nobīties no šiem izteikumiem. Stīvens Hokings noteikti nav AI speciālists un arī Elons Masks.

Skalas otrā pusē ir tādu cilvēku izteikumi kā Endrjū Ngs, amerikāņu datorzinātnieks, Stenfordas universitātes asociētais profesors, robotikas un mašīnmācības pētnieks un Ķīnas korporācijas Baidu mākslīgā intelekta laboratorijas vadošais speciālists. .

Euns, runājot par AI drošības problēmu, to salīdzina ar Marsa pārapdzīvotības problēmu - protams, mēs kādreiz kolonizēsim Marsu, un tad, iespējams, kaut kad būs pārapdzīvotības problēma. Bet vai ir vērts to darīt šodien?

Marks Cukerbergs arī bija diezgan skeptisks pret Muska apgalvojumiem. "Mākslīgais intelekts padarīs mūsu dzīvi labāku nākotnē, un prognozēt pasaules galu ir ļoti bezatbildīgi," viņš teica.

Personīgi uzskatu, ka Muska izteikumi ir jāvērtē pragmatiski – Masks vēlas šo tēmu izlocīt un ideālā gadījumā saņemt līdzekļus no valsts tās attīstībai.

Vai tiešām viss ir tik rožaini un nav par ko uztraukties?

Patiesās briesmas, kas saistītas ar AI attīstību, manuprāt, ir pavisam citā plānā, nekā parasti tiek uzskatīts. Galvenie riski nav saistīti ar to, ka veidosim paši savu "Skynet", kas paverdzinās cilvēci. AI un mašīnmācīšanās tehnoloģiju ieviešanas radītie riski ir daudz prozaiskāki.

Uzticot būtisku jautājumu risināšanu vienam vai otram matemātiskajam modelim, varam ciest no pieļautajām kļūdām to izstrādē. Mākslīgais intelekts, kas atveido cilvēku ekspertu darbības, pārmantos viņu kļūdas un aizspriedumus. Ražošanas vai transporta vadības sistēmu nepilnības var izraisīt katastrofas.

Ļaunprātīga iejaukšanās vitāli svarīgu sistēmu darbībā pilnīgas automatizācijas apstākļos var radīt bīstamas sekas. Jo sarežģītākas sistēmas, jo vairāk potenciālo ievainojamību tajās var būt, tostarp tās, kas saistītas ar noteiktu mākslīgā intelekta algoritmu specifiku.

Protams, lai pārvaldītu šos riskus, ir nepieciešams izveidot likumdošanas bāzi, saprātīgus drošības noteikumus, īpašas metodes ievainojamību identificēšanai. Dažas AI sistēmas tiks izmantotas, lai kontrolētu citas. Iespējams, neatkarīgam auditam būs jāpublicē svarīgu sistēmu kods. Citiem vārdiem sakot, šajā jomā vēl ir daudz darāmā.

Attēla autortiesības Thinkstock Attēla paraksts Cilvēka un mašīnas simbioze ir viens no cilvēces attīstības ceļiem

Viedās mašīnas ir iemācījušās blefot, pārspēt profesionāļus šahā vai Go, tulkot un atpazīt cilvēka balsi. Katru nedēļu mēs uzzinām par jauniem datorprogrammu varoņdarbiem, kas jau var noteikt medicīniskas diagnozes, zīmēt kā Rembrandts, dziedāt vai ģenerēt tekstu. Vai cilvēkam jābaidās no mākslīgā intelekta?

Mākslīgā intelekta (AI / AI) tēma pēdējos gados ir kļuvusi patiešām "karsta". Zinātnieki to saista ar straujo neironu tīklu attīstību (viena no pētniecības jomām mākslīgā intelekta jomā), kas, savukārt, kļuva iespējama līdz ar jaudīgu datoru parādīšanos.

"Kopš 2010. gadu sākuma, pateicoties iespaidīgajiem sasniegumiem daudzslāņu neironu tīklos (galvenokārt konvolucionālos un atkārtotos), šī joma ir piesaistījusi ievērojamu uzmanību gan no zinātnieku, gan inženieru un investoru puses," komentē autors. Viena no Krievijas šaha programmām, mašīnmācīšanās metožu speciālists Sergejs Markovs.

Zinātnieku aprindās var strīdēties par viedo mašīnu parādīšanās laiku, taču viņi ir vienisprātis par vienu lietu: tehnoloģiju attīstībai nākotnē būs beznosacījuma ietekme uz sabiedrību, ekonomiku un cilvēku savstarpējām attiecībām. Jau šobrīd tiek aicināti pārdomāt AI attīstības ētiskos principus, pārliecinoties, ka AI attīstās cilvēkiem drošā virzienā.

Šis mmateriāls, kas sagatavots, atbildot uz jautājumus, nosūtītsemūsu lasītājipar zinātnes sasniegumiem. Savus jautājumus par citām tēmām varat uzdot šajās saitēs ( , ).

Ekonomiskā ietekme un ietekme uz darba tirgu

Zinātniskā fantastika un Holivuda ir veidojušas priekšstatu par "mākslīgo intelektu" kā nākamo dzīvības formu uz planētas, kas paverdzīs cilvēci Matricā vai organizēs kodolieroču pastardienu. Izdzīvojušos piebeigs Terminators.

Attēla autortiesības Getty Images Attēla paraksts Vai cilvēce mirs no Skynet?

Patiesībā, neskatoties uz jaunākajiem sasniegumiem mākslīgā intelekta jomā, līdz saprātīgu mašīnu būtņu parādīšanās vēl ir tālu, atzīst zinātnieki un eksperti. Tomēr gan tiem, gan citiem ieteicams pievērst uzmanību dažiem aspektiem jau tagad.

McKinsey Global Institute lēš, ka jaunās tehnoloģijas tuvāko desmit gadu laikā radikāli mainīs globālo darba tirgu, ietaupot aptuveni 50 triljonus dolāru.

Izmaiņas skars simtiem miljonu darbavietu. Arvien vairāk cilvēku dažus savus darba uzdevumus un daudzus ikdienas uzdevumus pārkraus uz mašīnu, ļaujot viņiem koncentrēties uz savu radošo darbu.

"No zināma viedokļa cilvēcei kopumā ir svarīgs un interesants uzdevums - attīstīties katram konkrētajam indivīdam daudz ātrāk, nekā cilvēce attīsta mākslīgā intelekta sistēmas," sacīja Grigorijs Bakunovs, eksperts, Yandex tehnoloģiju izplatīšanas direktors.

Taču līdz ar automatizāciju neizbēgami cietīs arī mazāk kvalificēts personāls, un tagad ir jādomā, kā viņus pasargāt, pārkvalificēt un sagatavot jaunai dzīvei.

Kā liecina prakse, var ciest ne tikai strādnieki, bet arī zināšanu darbinieki. Pirms dažām dienām Goldman Sachs nomainīja 600 tirgotāju komandu ar diviem cilvēkiem un automatizētām algoritmiskām tirdzniecības programmām, kuru uzturēšanai tika nolīgti 200 programmatūras izstrādātāji.

Attēla autortiesības Thinkstock Attēla paraksts Daudzi uzdevumi drīz kļūs robotu sistēmu spēkos, kas pamazām sāks aizstāt cilvēkus.

Mākslīgais intelekts pats par sevi nav identisks procesu automatizācijai, taču mākslīgā intelekta attīstība novedīs pie tā, ka arvien vairāk uzdevumu būs datorprogrammas spēkos.

Kā vienu no risinājumiem problēmai, kas saistīta ar cilvēku pārvietošanu ar mašīnu darba tirgū, norāda Silīcija ielejā bāzētās bezpeļņas organizācijas Foresight Institute programmu koordinatore, lai veicinātu jaunas tehnoloģijas, Elisona Dutmena, koncepcijas ieviešana. "universālā pamata ienākuma", ko saņemtu katrs iedzīvotājs neatkarīgi no ienākumu un nodarbinātības līmeņa. Šādus ienākumus finansētu tā sauktais zemes vērtības nodoklis, par kura ieviešanu šobrīd aktīvi tiek runāts Silīcija ielejā.

Vai mākslīgais intelekts ir cilvēks?

Vai robotu sistēma ir cilvēks? Vai gudrs dators var balsot? Kāda dzimuma viņš ir? Par vīrieša un viedās mašīnas attiecībām jau runā deputāti, prātojot, vai topošajiem robotiem būtu jāpiešķir "elektroniskās personības" statuss.

Kā norāda Dutmens, cilvēki nevēlas dalīties tiesībās ar tiem, kurus viņi nesaprot, kas nozīmē, ka viņi pretosies AI "humanizācijai".

Attēla autortiesības AFP Attēla paraksts Cilvēku un mašīnu šķir galvenais – spēja domāt

“Ņemot vērā, cik ilgi cilvēce virzās uz vienlīdzīgu tiesību piešķiršanu visiem cilvēkiem neatkarīgi no viņu ādas krāsas, rases vai dzimuma, jau tagad var pieņemt, ka viņi uzreiz neatzīst mašīnas par vienlīdzīgām.

Kopā ar ētiskiem jautājumiem ir arī juridiski smalkumi: kurš uzņemsies atbildību bezpilota transportlīdzekļa avārijas vai viedās medicīnas ierīces bojājuma gadījumā - un morāli jautājumi: vai ir vērts izstrādāt bezpilota ieroci, kas spēj darboties bez zināšanas par cilvēku?

Trešā ētiskā mīkla tiek apspriesta biežāk nekā citas un daudz vairāk aizrauj cilvēci: ko teorētiski ar cilvēci var darīt superinteliģence, īsta vieda mašīna?

Mācīt AI ētiku

AI attīstības jomas eksperti atzīst, ka, ja ne nākamajos 20-30 gados, cilvēce joprojām dzīvos līdz īsta mākslīgā intelekta rašanās brīdim, kas būs gudrāks par tā radītāju.

"Pēdējais bastions tiks ņemts, kad tiks izveidots tā sauktais "spēcīgais AI" (Strong AI, Artificial General Intelligence), tas ir, tāds AI, kas spēs atrisināt bezgalīgi plašu intelektuālo uzdevumu klāstu," saka Sergejs. Markovs.

Un pats galvenais, šāds AI spēs domāt neatkarīgi.

AI radītos draudus, kā arī ētikas problēmas, kas saistītas ar jaunajām tehnoloģijām, pēta daudzas institūcijas, tostarp Future of Life Institute, Foresight Institute, Future of Humanity Institute, OpenAI un citas.

Elisona Dutmena no Foresight Institute risinājums ir ļaut datoram lasīt visu zinātnisko literatūru, zinātniskos rakstus, kas rada jautājumus par ētiku, un padarīt šo informāciju par pamatu turpmākajiem lēmumiem.

Kas ir neironu tīkli un kāda ir to nākotne?

Lielākā daļa ekspertu AI attīstības progresu saista ar neironu tīklu attīstību.

Neironu tīkli ir viena no pētniecības jomām mākslīgā intelekta jomā, kuras pamatā ir cilvēka smadzenēs notiekošo bioloģisko procesu simulācija.

Tieši viņiem mēs esam parādā iespaidīgus rezultātus runas un attēlu atpazīšanas, medicīniskās diagnostikas, teksta tulkošanas un attēlu radīšanas, runas ģenerēšanas un mūzikas kompozīcijas jomā.

Attēla autortiesības iStock Attēla paraksts Tieši ar neironu sistēmu attīstību zinātnieki saista mākslīgā intelekta attīstību.

Mūsdienās, kā atzīst eksperti, neironu tīkli ir atzīti par vienu no labākajiem mašīnmācīšanās algoritmiem, un uz tiem balstītie risinājumi uzrāda šobrīd izcilākos rezultātus.

Un tas notiek neskatoties uz to, ka mūsdienu neironu tīkli ir pusotru tūkstoti reižu vienkāršāki nekā žurkas smadzenes.

"Līdz šim mūsu izveidotie neironu tīkli ir salīdzinoši nelieli, salīdzinot, teiksim, cilvēka smadzeņu neironu tīklu, un turklāt tie ir ļoti vienkāršots dabisko neironu tīklu analogs. Tāpēc pagaidām ar ar neironu tīklu palīdzību, mēs galvenokārt risinām tīri lietišķas problēmas,” stāsta Sergejs Markovs.

Pašlaik šādu tīklu apmācībai tiek veidoti specializēti procesori (tā sauktie neiromorfie procesori), kas palielinās aprēķinu ātrumu par vairākām kārtām.

Izstrādātāji ir ne tikai aizņemti, palielinot neironu skaitu tīklā, bet arī mainot tīklu dizainu. "Sarežģītās tīkla konfigurācijas sistēmas ir tās, ar kurām pašlaik tiek veikts vislielākais eksperimentu skaits," saka Grigorijs Bakunovs.

Attēla autortiesības iStock Attēla paraksts Tuvākajā laikā būs vairāk "gudro" cilvēku palīgu - mikrosensori sienā, pogas izmēra sensors, kas brīdina cilvēku par briesmām

Un fakts, ka šādas sistēmas ir kļuvušas samērā pieejamas lielam skaitam parastu izstrādātāju, ir radījuši jaunuzņēmumus, kas eksperimentē ar neironu tīkliem, piemēram, Prisma (lietojumprogramma, kas ļauj apstrādāt fotogrāfijas, pārvēršot tās slavenu gleznu stilizācijās). mākslinieki) un Muberts (tiešsaistes elektroniskās mūzikas komponists).

Kas mūs sagaida tuvākajā nākotnē

Kā prognozē Londonas Universitātes koledžas profesors un Nokia Bell Labs galvenais zinātnieks Niks Leins, cilvēku apņems vairāk "gudru lietu". Tie kļūs mazāki un efektīvāki.

Profesors min šādu piemēru: ja agrāk sienā iebūvēts sensors varēja zināt tikai to, ka kāds gāja garām, tad turpmāk tas ne tikai zinās, kurš konkrēti gāja garām, bet arī kā cilvēks uzvedas, vai viņam ko vajag, dara. neatspoguļo, vai viņš apdraud sevi vai citus.

Pogas izmēra sensors spēs brīdināt cilvēku par briesmām.

Profesoram piekrīt arī Grigorijs Bakunovs no Yandex: "Tuvākajā laikā mēs redzēsim uzplaukumu šauru mākslīgo intelektu attīstībā, kas palīdz atrisināt vienu diezgan vienkāršu uzdevumu, bet kuru viņi atrisinās pat labāk nekā cilvēks."

Attēla autortiesības iStock Attēla paraksts Ar AI attīstību saistīti arvien vairāk ētisku jautājumu

“Visticamākais mūsu civilizācijas attīstības ceļš ir cilvēka un mašīnas sintēzes ceļš: nūja, drēbes, mašīna, mobilais telefons, elektrokardiostimulators vai kohleārais implants – attīstoties, mūsu instrumenti arvien vairāk līdzinās. mūsu ķermeņa paplašinājums. Jau rīt mašīnas varēs saņemt mentālas komandas, uztvert garīgi veidotus vizuālos attēlus, pārraidīt informāciju tieši uz smadzenēm – šādi projekti jau pastāv ārpus vismodernāko tehnoloģisko laboratoriju sienām," rezumē. Sergejs Markovs.

Vai žurnālisti joprojām ir vajadzīgi?

Financial Times pagājušajā gadā veica diezgan riskantu eksperimentu, vienlaikus izaicinot sava profila korespondentu un viedo programmu Emma uzrakstīt kopiju. Abi raksti pēc tam bija jāizlasa Financial Times redaktoram un jāuzmin, aiz kura no divām piezīmēm žurnālists atradās un kurš dators.

Pirms šāda veida "avārijas testa" Financial Times korespondents atzina: "Domāju, ka programma noteikti tiks galā ar uzdevumu ātrāk nekā es. Bet, es ceru, es to tomēr izdarīšu labāk."

Un tā arī notika: Emma patiešām izrādījās ātrāka – programma 12 minūtēs ģenerēja tekstu, pamatojoties uz statistikas datiem par bezdarba līmeni Lielbritānijā. Žurnālistei tas prasīja 35 minūtes. Un, kā viņa pati vēlāk atzina, Emma pārspēja viņas cerības. Raidījums ne tikai prasmīgi apstrādāja faktus, bet arī ievietoja ziņas kontekstā, liekot domāt, kā iespējamais Brexit (tas bija 2016. gada maijā, pirms referenduma par Lielbritānijas izstāšanos no ES) varētu mainīt situāciju.

Attēla autortiesības Thinkstock Attēla paraksts Vai robotu sistēmas aizstās cilvēkus? Cilvēcei ir palikuši 50 gadi, mierina eksperti

Bet Emma izdarīja ko sliktāku nekā žurnāliste. "Emmas raksts tika uzrakstīts nedaudz neveiklā valodā. Bet galvenais bija tas, ka tajā bija daudz skaitļu," atzina FT redaktors. "Un, iespējams, galvenais, ko mēs šeit cenšamies darīt, ir izvēlieties tikai patiešām svarīgus skaitļus.

Emma ir jaunuzņēmuma Stealth produkts. Uzņēmums saka, ka Emmai ir dzīvu palīgu komanda, taču tā apgalvo, ka viss, ko viņa raksta vai dara, ir tikai viņas "smadzeņu" produkts.

Un tomēr – vai no AI ir jābaidās?

Daudzi, ja ne visi, mākslīgā intelekta sistēmu izstrādē mūsdienās iesaistītie eksperti labprāt atzīst, ka mākslīgais intelekts cilvēkus drīzumā nepadarīs nevajadzīgus. Tieši tāpēc, ka mākslīgais intelekts vēl nav tik gudrs. Galvenais, kas viņam šodien pietrūkst, ir autonoma domāšanas spēja.

"Tagad jums nevajadzētu baidīties no mākslīgā intelekta nekādā veidā. Jūs varat gaidīt 30-40 gadus, līdz notiks patiešām radikālas izmaiņas," sacīja Bakunovs.

Taču kaut kas jau notiek: pamazām izplūst robeža starp cilvēka veikto darbu vai uzdevumu un mašīnas veikto uzdevumu. Kā skaidro eksperti, arī tagad dažreiz ir grūti saprast, kas sēž sistēmā – cilvēks vai mašīna.

"Nav kritēriju, kad mēs varam saprast, ka mašīnas iekšienē ir radusies apziņa," jautā Bakunovs.

Vai cilvēks kļūs par saspraudi?

Pazīstamais trauksmes cēliena piekritējs, kura ietvaros Terminatorā aprakstītās šausmas var kļūt par realitāti, filozofs Niks Bostroms uzskata, ka cilvēka intelektuālo līmeni sasniegušais AI spēj iznīcināt cilvēci.

Attēla autortiesības Getty Images Attēla paraksts Vai filmā aprakstītais kļūs par mūsu ikdienas realitāti?

Bostroms skaidro ar papīra saspraudes piemēru: jūs izaicināt mākslīgo intelektu, lai saspraudes padarītu pēc iespējas lielākas un labākas. Kādā brīdī AI saprot, ka cilvēks ir drauds, jo viņš var izslēgt datoru, kas būs pretrunā ar uzdevumu izgatavot pēc iespējas vairāk saspraudes. Gadījumā, ja cilvēks neapdraud, AI nolemj, ka cilvēka ķermeņi sastāv no atomiem, kurus var izmantot izcilu saspraužu izgatavošanai. Rezultāts – dators pievedīs cilvēcību pie saspraudēm.

Šis scenārijs daudziem šķiet pārspīlēts. Pēc Sergeja Markova teiktā, piemēram, "absurda mērķa sasniegšanas augstā efektivitāte nav savienojama ar šī mērķa absurdumu - rupji runājot, mākslīgais intelekts, kas spēj pārvērst visu pasauli papīra saspraudēs, neizbēgami būs pietiekami gudrs, lai atteiktos no šāda mērķa ”.

Mākslīgais intelekts ir kā zelta zivtiņa

Britu mākslīgā intelekta speciāliste un Saseksas universitātes kognitīvo zinātņu profesore Mārgareta Bodena ir skeptiska pret apgalvojumiem par viedo mašīnu nenovēršamo parādīšanos.

Attēla autortiesības Getty Images Attēla paraksts 1997. gada maijā Deep Blue II pirmo reizi pārspēja Gariju Kasparovu.

Profesors min "zelta zivtiņas" piemēru, kad apmaiņā pret brīvību zvejnieks izsaka trīs vēlmes. Viena no vēlmēm ir atgriezt dēlu no kara, otrā ir 50 tūkstoši dolāru un trešā iespēja no rīta vēlēties.

Tajā pašā vakarā pie zvejnieka mājas pieklauvēja. Dēls tika atgriezts no kara – zārkā. Rybak saņēma apdrošināšanu 50 tūkstošu dolāru apmērā.

"Nomainiet zivis šajā līdzībā ar AI, un viss kļūst skaidrs - Bodens skaidro. - Ak, jā, nākamajā dienā zvejnieks izmantoja trešo vēlēšanos un - atcēla iepriekšējās divas."

Vai ir iespējams pārnest apziņu mašīnā?

Sergejs Markovs:

"Ja mēs runājam par pilnīgas apziņas pārneses iespēju, tad šādas nākotnes tehnoloģijas mūsdienu priekšteči ir tādi projekti kā Blue Brain, kuru mērķis ir radīt funkcionējošus smadzeņu elektroniskos analogus, kā arī projekti, kuru mērķis ir radīt smadzenes. mašīnu saskarnes (BCI) - ierīces redzes, dzirdes, zaudētu ekstremitāšu, pat smadzeņu daļu protezēšanai.

Attēla autortiesības Zinātnes fotoattēlu bibliotēka Attēla paraksts AI speciālistu mērķis ir izveidot "spēcīgu mākslīgo intelektu", kas spētu atrisināt visdažādākās problēmas.

Ļoti interesanta un perspektīva joma ir optoģenētika (principā, lai savienotu smadzenes un mašīnu, iespējams mainīt ne tikai mašīnas, bet arī pašus nervu audus, radot tajos mākslīgos fotoreceptorus).

Kad šādu privāto projektu ietvaros tiks atrisinātas visdažādākās inženiertehniskās problēmas, domāju, ka apziņas pārneses uzdevums kļūs diezgan atrisināms. Sapņotāji jau piedāvā hipotētiskas shēmas šāda projekta īstenošanai.

Piemēram, Jans Korčmarjuks, kurš savulaik ar apziņas pārnesi saistīto pētījumu virzienam piedāvāja nosaukumu "settleretics", uzskata, ka visdaudzsološākā shēma ir specializētu nanorobotu izmantošana, kas iestrādāti cilvēka smadzeņu neironos. Tomēr šādas shēmas veiksmīgai ieviešanai ir jāatrisina vairākas sarežģītas inženiertehniskas problēmas.

Populārais amerikāņu interneta žurnāls Wired publicēja ārkārtīgi kuriozu Kevina Kellija tekstu, kurā viņš sīki kritizē ideju par mākslīgā intelekta briesmām. "NI" publicē šī materiāla tulkojumu, izgatavots Telegram kanāls Newochem ar nelieliem samazinājumiem.

"Esmu dzirdējis, ka nākotnē AI datori kļūs tik gudrāki par cilvēkiem, ka tie atņems mums darbu un resursus, un galu galā cilvēce beigsies. Bet vai tā ir? Šis ir jautājums, ko man uzdod katru reizi, kad es lasu lekciju par AI.

Jautātāji ir tikpat nopietni kā jebkad, viņu satraukums daļēji ir saistīts ar dažu ekspertu uztraukumiem, kurus mocīja viens un tas pats jautājums. Viņu vidū ir gudrākie no mūsu laikabiedriem – Stīvens Hokings, Elons Masks, Makss Tegmarks, Sems Heriss un Bils Geitss.

Viņi visi pieļauj šāda scenārija iespējamību. Nesenā konferencē par mākslīgo intelektu, grupa, kurā bija deviņi no šajā jomā visvairāk apgaismotajiem guru nāca līdz vienbalsīgam secinājumam, ka pārcilvēka inteliģences radīšana ir nenovēršama un nav tālu.

Un tomēr scenārijs par cilvēces paverdzināšanu ar mākslīgo intelektu balstās uz pieciem pieņēmumiem, kuri, rūpīgāk izpētot, izrādās nepierādīti. Šie apgalvojumi nākotnē var būt patiesi, taču līdz šim nekas nav apstiprināts.

Šeit tie ir:

1. Mākslīgais intelekts jau kļūst gudrāks par cilvēka prātu, un šis process ir eksponenciāls.
2. Mēs izstrādāsim vispārējas nozīmes AI, kas ir līdzīga mūsējam.
3. Mēs varam radīt cilvēka intelektu no silīcija.
4. Intelekts var būt neierobežots.
5. Grandioza superinteliģences izveide atrisinās lielāko daļu mūsu problēmu.

Pretstatā šiem ortodoksālajiem postulātiem es varu minēt šādu pierādītu ķecerību:

1. Intelekts nav viendimensionāls, tāpēc "gudrāks par cilvēku" ir bezjēdzīgs jēdziens.
2. Cilvēki nav apveltīti ar vispārēju prātu, kas neapdraud arī mākslīgo intelektu.
3. Cilvēka un datora sāncensību ierobežos izmaksas.
4. Intelekts nav neierobežots.
5. AI izveide ir tikai daļa no progresa.

Ja ticība cilvēka paverdzināšanai ar mākslīgo intelektu balstās uz pieciem nepamatotiem pieņēmumiem, tad šī ideja vairāk līdzinās reliģiskai pārliecībai – mītiem. Turpmākajās nodaļās es papildināšu savus pretargumentus ar faktiem un pierādīšu, ka pārcilvēcisks mākslīgais intelekts patiešām nav nekas vairāk kā mīts.

Visizplatītākais nepareizais priekšstats par AI izriet no tikpat populārā pārliecības par dabisko intelektu, ka tas ir viendimensionāls. Eksaktajās zinātnēs daudzi intelektu attēlo tā, kā Niks Bostroms savā grāmatā Supermind — burtiski kā viendimensionāls lineārs grafiks ar pieaugošu amplitūdu.

Vienā galā atrodas būtnes ar zemāko intelekta līmeni, piemēram, mazie dzīvnieki, bet otrā - ģēniji, it kā intelekta līmenis neatšķiras no skaņas līmeņa, ko mēra decibelos. Protams, šādā gadījumā ir viegli iedomāties tālāku pieaugumu, kurā intelekta līmenis pārsniedz diagrammas augstāko atzīmi un pat pārsniedz to.

Šāds modelis topoloģiski ir līdzvērtīgs kāpnēm, uz kuru pakāpieniem augošā secībā izkārtoti intelekta līmeņi. Mazāk inteliģenti dzīvnieki aizņem kāpņu apakšējos pakāpienus, un augstāka līmeņa mākslīgais intelekts neizbēgami atradīsies virs mums. Laika posmam, kad tas notiek, nav nozīmes. Daudz svarīgāki ir paši hierarhijas pakāpieni – augošās inteliģences rādītāji.

Šī modeļa problēma ir tā, ka tas ir mītisks, tāpat kā evolūcijas kāpņu modelis. Pirms darvinisma savvaļas daba tika attēlota kā dzīvo būtņu kāpnes, kur cilvēks ieņēma pakāpienu augstāk par primitīvākiem dzīvniekiem.

Un pat pēc Darvina viens no visizplatītākajiem jēdzieniem ir evolūcijas kāpnes. Tas demonstrē zivju pārtapšanu par rāpuļiem, to par zīdītājiem, primātu par cilvēkiem. Turklāt katra nākamā būtne ir attīstītāka (un, protams, gudrāka) nekā tā priekšgājējs. Tātad intelekta kāpnes korelē ar Visuma kāpnēm. Tomēr abi modeļi atspoguļo pilnīgi antizinātniskus uzskatus.

Precīzāks dabiskās evolūcijas modelis būtu disks, kas atšķiras uz āru, kā parādīts attēlā iepriekš. Pirmo reizi šādu struktūru izstrādāja Deivids Hiliss no Teksasas universitātes, viņš to darīja uz DNS bāzes. Šī ģenealoģiskā mandala sākas centrā ar primitīvākajām dzīvības formām un pēc tam atzarojas uz āru. Laiks virzās uz priekšu, tāpēc jaunākās dzīvības formas atrodas pa apļa perimetru.

Šis attēls izceļ nesaprotamu faktu par fundamentāli svarīgu evolūciju - visas dzīvās būtnes attīstījās vienādi. Cilvēks atrodas diska ārējā daļā kopā ar tarakāniem, mīkstmiešiem, papardēm, lapsām un baktērijām.

Bez izņēmuma visas sugas ir izgājušas cauri nesaraujamai veiksmīgas vairošanās ķēdei trīs miljardu gadu garumā, kas nozīmē, ka baktērijas un tarakāni ir attīstījušies tikpat augsti kā cilvēki. Nav kāpņu.

Tāpat nav inteliģences kāpņu. Intelekts nav viendimensionāls. Tas ir dažādu izziņas veidu un metožu komplekss, no kuriem katrs ir nepārtraukts. Veiksim vienkāršu vingrinājumu, lai izmērītu dzīvnieku intelektu. Ja intelekts būtu viendimensionāls, mēs viegli varētu sakārtot papagaili, delfīnu, zirgu, vāveri, astoņkāju, zilo vali, kaķi un gorillu intelekta augošā secībā.

Pašlaik nav zinātnisku pierādījumu par šādas secības esamību. Iemesls tam var būt atsevišķu dzīvnieku intelekta līmeņa atšķirību trūkums, taču arī tas ir nepamatoti.

Zooloģija ir bagāta ar piemēriem par pārsteidzošām atšķirībām dzīvnieku domāšanā. Varbūt visi dzīvnieki ir apveltīti ar "vispārējo" inteliģenci? Varbūt, bet mums nav viena instrumenta, lai izmērītu šāda veida intelektu. Tomēr mums ir daudz mērīšanas sistēmu dažādiem izziņas veidiem.

Vienas decibelu rindas vietā pareizāk būtu intelektu attēlot kā varbūtības telpas diagrammu, kā iespējamo formu vizualizācijā, ko izveidoja Ričarda Dokinsa algoritms. Intelekts ir kombinatorisks kontinuums. Daudzi mezgli, no kuriem katrs ir kontinuums, veido kolosālas daudzveidības kompleksu daudzās dimensijās. Daži intelekta veidi var būt ļoti sarežģīti, ar lielu domāšanas apakšmezglu kopumu. Citi ir vienkāršāki, bet ekstrēmāki, tie sasniedz telpas galējo punktu.

Šos kompleksus, kas mums nozīmē dažāda veida intelektu, var uztvert kā simfonijas, kas izpildītas uz dažāda veida mūzikas instrumentiem. Tie atšķiras ne tikai pēc skaļuma, bet arī pēc melodijas, krāsas, tempa utt. Varat tos uzskatīt par ekosistēmu. Šajā ziņā dažādi domāšanas mezglu komponenti ir savstarpēji atkarīgi un ir veidoti viens no otra.

Kā teica Marvins Minskis, cilvēka apziņa ir saprāta sabiedrība. Mūsu domāšana ir pilnīga ekosistēma. Mūsu smadzenēm ir daudz veidu, kā uzzināt, kas veic dažādas garīgās funkcijas: dedukcija, indukcija, emocionālā inteliģence, abstraktā un telpiskā domāšana, īstermiņa un ilgtermiņa atmiņa.

Visa cilvēka nervu sistēma ir smadzeņu daļa ar savu izziņas līmeni. Patiesībā domāšanas procesu veic nevis smadzenes, bet viss cilvēka ķermenis.

Visas domāšanas šķirnes atšķiras gan starp sugām, gan starp vienas sugas pārstāvjiem. Vāvere gadiem ilgi var atcerēties precīzu vairāku tūkstošu zīļu atrašanās vietu, kas cilvēkam ir pilnīgi nesaprotama. Šādā domāšanā cilvēki ir zemāki par olbaltumvielām. Vāveres prāts ir šīs lielvaras apvienojums ar citām inteliģences formām, kurās cilvēks ir pārāks par vāveri. Dzīvnieku valstībā var atrast daudz piemēru, kas liecina par atsevišķu dzīvnieku intelekta formu pārākumu pār cilvēku.

Tāda pati situācija izveidojusies ar mākslīgo intelektu, kas dažās jomās jau ir pārāks par cilvēku. Jebkurš kalkulators ir matemātikas ģēnijs, un Google atmiņa jau savā ziņā ir labāka par mūsu pašu.

Daži AI veic tādas garīgās darbības, uz kurām mēs neesam spējīgi. Katra vārda iegaumēšana sešos miljardu tīmekļa lapu ir neiespējams uzdevums cilvēkiem un sīkums meklētājprogrammām. Nākotnē radīsim pilnīgi jaunus domāšanas veidus, kas cilvēkam nav pieejami un dabā neeksistē.

Lidojošo aparātu izgudrotājus iedvesmojis dabiskais lidojums – spārnu plivināšana. Vēlāk gan tika izgudrots fiksēts spārns ar tam piestiprinātiem propelleriem, un tas bija pilnīgi jauns lidojuma princips, kas dabā nav sastopams.

Tā mēs izgudrojam jaunus domāšanas veidus, uz kuriem neviena suga nav spējīga. Visticamāk, tie būs principi, kas attiecas tikai uz ļoti specializētām problēmām: piemēram, jaunas loģiskas konstrukcijas, kas nepieciešamas tikai statistikā un varbūtību teorijā.

Jauns domāšanas veids palīdzēs atrisināt problēmas, ar kurām cilvēka prāts netiek galā. Daži no sarežģītākajiem jautājumiem biznesā un zinātnē prasa divpakāpju risinājumu. Pirmais solis ir izgudrot jaunu dabiskās domāšanas veidu. Otrais ir sākt meklēt atbildes kopā ar AI.

Cilvēki sāks uzskatīt, ka AI ir gudrāks par sevi, ja tas ar tās palīdzību var atrisināt iepriekš neatrisināmas problēmas. Patiesībā mākslīgā intelekta domāšana nav labāka par mūsējo, tā vienkārši atšķiras. Es uzskatu, ka mākslīgā intelekta galvenais ieguvums ir tas, ka tas spēj domāt kā cilvēks no malas, un šī atsvešinātība ir tā galvenā priekšrocība.

Turklāt mēs izveidosim sarežģītas AI "kopienas" ar dažādu domāšanas veidu. Tās būs tik sarežģītas, ka spēs atrisināt problēmas, ar kurām nevaram tikt galā. Tāpēc daži cilvēki maldīgi domās, ka AI kompleksi ir gudrāki par cilvēkiem. Bet mēs neticam, ka Google meklētājs ir gudrāks par cilvēku, lai gan viņa atmiņa ir labāka nekā mums.

Visticamāk, ka šie mākslīgā intelekta kompleksi mūs pārspēs daudzās jomās, taču neviens no tiem nepārspēs cilvēkus visur uzreiz. Līdzīga situācija ir ar mūsu fizisko spēku. Divsimt gadus pēc industriālās revolūcijas neviena mašīna nav pārsniegusi vidusmēra cilvēku visos veidos, lai gan mašīnas kā klase ievērojami pārspēj cilvēkus braukšanas ātrumā, smagumu celšanā, griešanas precizitātē un citās darbībās.

Neskatoties uz AI struktūras sarežģītību, to nav iespējams izmērīt ar mūsdienu zinātnes metodēm. Mums nav rīku, lai pateiktu, kurš ir grūtāks, gurķis vai Boeing 747, un mums nav iespējas izmērīt to sarežģītības atšķirības. Tāpēc mums joprojām nav precīzu kritēriju intelektuālajām spējām.

Laika gaitā kļūs arvien grūtāk noteikt, kas ir grūtāks un, attiecīgi, gudrāks: intelekts A vai inteliģence B. Ir daudz neizpētītu garīgās darbības jomu, un galvenokārt tas liedz mums saprast, ka prāts nav viendimensionāls.

Otrs nepareizs priekšstats par cilvēka prātu ir tāds, ka mēs uzskatām, ka mūsu prāts ir universāls. Šī plaši izplatītā pārliecība veido mūsu ceļu uz mākslīgo vispārējo intelektu (AGI), ko savulaik veicināja AI eksperti.

Tomēr, ja mēs domājam par prātu kā plašu iespēju telpu, mēs nevaram runāt par vispārējas nozīmes stāvokli. Cilvēka prāts neieņem kādu abstraktu centrālo vietu, un citi specializēti prāta veidi negriežas ap to.

Cilvēka intelekts drīzāk ir ārkārtīgi specifisks intelekta veids, kas miljoniem gadu ir attīstījies, lai mūsu sugas izdzīvotu uz šīs planētas. Ja mēs vēlētos savu intelektu novietot starp visiem citiem iespējamiem intelekta veidiem, tas nonāktu kaut kur stūrī - tāpat kā pati mūsu pasaule, kas atrodas milzīgas galaktikas malā.

Protams, mēs varam iedomāties un dažreiz izgudrot domāšanas veidu, kas pēc savām īpašībām ir līdzīgs Šveices armijas nazim. Šķiet, ka viņš tiek galā ar daudziem uzdevumiem, bet ne ar pūlēm.

Ir arī tehnisks noteikums, kuram ir jāpakļaujas visām lietām, neatkarīgi no tā, vai tās ir radītas ar nolūku vai nākušas pasaulē dabiskā ceļā: “Visus mērījumus nav iespējams optimizēt. Jūs varat atrast tikai kompromisus. "Viss vienā" daudzfunkciju iekārta nevar pārspēt specializētās funkcijas."

Apziņa, kas dara visu, nevar darboties līdzvērtīgi specializētiem konkrētu uzdevumu veicējiem. Tā kā mēs uzskatām, ka mūsu apziņa ir universāls mehānisms, mēs uzskatām, ka izziņai nevajadzētu balstīties uz kompromisiem un ka ir iespējams izgudrot mākslīgo intelektu, kas demonstrē maksimālu efektivitātes pakāpi visos domāšanas veidos.

Tomēr es neredzu pierādījumus šim apgalvojumam. Mēs vienkārši vēl neesam radījuši pietiekami daudz apziņas veidu, lai ļautu mums redzēt pilnu ainu (pagaidām mēs nevēlamies uzskatīt dzīvnieku apziņu caur viena parametra prizmu kā atsevišķu domāšanas veidu ar mainīgu amplitūdu).

Daļa no šīs pārliecības, ka mūsu domāšana ir pēc iespējas universālāka, izriet no universālā skaitļošanas jēdziena. Šo pieņēmumu 1950. gadā sauca par Čērča-Tjūringa tēzi. Tajā teikts, ka visi aprēķini, kas atbilst noteiktiem parametriem, ir līdzvērtīgi.

Tādējādi visiem aprēķiniem ir universāla bāze. Neatkarīgi no tā, vai aprēķins tiek veikts vienā mašīnā ar daudzām ātrām iekārtām, mašīnā ar mazāku veiktspēju vai pat bioloģiskās smadzenēs, tas ir viens un tas pats loģiskais process. Tas savukārt nozīmē, ka mēs varam simulēt jebkuru skaitļošanas procesu (domāšanu) ar jebkuru mašīnu, kas spēj veikt "universālus" aprēķinus.

Ar šo principu singularitātes piekritēji attaisno savas cerības, ka mēs varam izveidot uz silīcija bāzes mākslīgas smadzenes, kas spēj pielāgoties cilvēka apziņai, ka mēs varam izveidot mākslīgo intelektu, kas domās tāpat kā cilvēks, bet daudzkārt efektīvāk. . Šīs cerības ir jāizturas ar zināmu skepsi, jo tās balstās uz nepareizu Baznīcas-Tjūringa tēzes interpretāciju.

Šīs teorijas sākuma pozīcija ir šāda: "Neierobežotas atmiņas un laika apstākļos visi aprēķini ir līdzvērtīgi." Problēma ir tā, ka patiesībā nevienam datoram nav bezgalīgas atmiņas vai laika īpašību. Kad jūs veicat aprēķinus reālajā pasaulē, laika komponents ir ārkārtīgi svarīgs, līdz tas bieži vien ir dzīvības un nāves jautājums.

Jā, visi domāšanas veidi ir vienlīdzīgi, ja izslēdzam laika aspektu. Jā, ir iespējams atdarināt cilvēka domāšanas procesu jebkurā matricā, ja izvēlaties ignorēt laiku vai reālās pasaules brīvās vietas un atmiņas ierobežojumus.

Taču, ja šajā vienādojumā iekļausim laika mainīgo, nāksies būtiski mainīt principa formulējumu: "Divas skaitļošanas sistēmas, kas darbojas uz radikāli atšķirīgām platformām, nedos līdzvērtīgus aprēķinus reālajā laikā."

Šo principu var pārformulēt šādi: “Vienīgais veids, kā iegūt līdzvērtīgus domāšanas veidus, ir tos īstenot uz viena pamata. Fiziskais datu nesējs, uz kura veicat aprēķinus, jo īpaši pieaugot to sarežģītības pakāpei, būtiski ietekmē jūsu domāšanu reālā laika apstākļos.

Turpinot loģisko ķēdi, pieņemšu, ka vienīgais veids, kā radīt cilvēkam pēc iespējas tuvāku domāšanas veidu, ir veikt aprēķinus, izmantojot matēriju, kas maksimāli līdzinās mūsu pelēkajai vielai.

Tas nozīmē, ka var arī pieņemt, ka apjomīgais, sarežģītais mākslīgais intelekts, kas izveidots uz sausā silīcija bāzes, radīs neveiklu, sarežģītu un nelīdzīgu cilvēka domāšanas veidiem. Ja būtu iespējams izveidot mākslīgo intelektu, kas darbojas uz mitras vielas, izmantojot mākslīgos neironus, piemēram, cilvēka neironus, šāda AI domāšanas process būtu daudz tuvāks mums.

Šādas “mitrās” sistēmas priekšrocības ir proporcionālas izmantoto fizisko datu nesēju tuvumam cilvēkiem. Šādas vielas izveide prasītu milzīgas materiālās izmaksas, lai sasniegtu līmeni, kas ir vismaz līdzīgs tam, kas mums pēc dabas piemīt. Un mēs varam izveidot jaunu cilvēku šādā veidā - jums tikai jāgaida 9 mēneši.

Tāpat, kā minēts iepriekš, mēs domājam ar visu savu būtību, nevis tikai ar savu apziņu. Mūsdienu zinātnei ir daudz datu par to, kā mūsu nervu sistēma ietekmē "racionālo" lēmumu pieņemšanas procesu, prognozē un pielāgojas. Jo vairāk mēs apsvērsim cilvēka ķermeņa sistēmu, jo rūpīgāk mēs varam to pēc tam atjaunot. Mākslīgais intelekts, kas darbojas ar vielu, kas radikāli atšķiras no mūsējās (sausais silīcijs slapjā oglekļa vietā), arī domās citādi.

Es nedomāju, ka šī funkcija ir vairāk kā "funkcija, nevis kļūda". Kā es apgalvoju šī raksta otrajā daļā, atšķirības AI domāšanas procesā ir tā galvenā priekšrocība. Šeit ir vēl viens iemesls, kāpēc būtu kļūdaini teikt, ka viņš ir "gudrāks par cilvēka smadzenēm".

Pārcilvēciskā intelekta jēdziena – un jo īpaši teorijas par šādas mākslīgā intelekta pastāvīgās pašpilnveidošanās – pamatā ir patiesa pārliecība par intelekta neierobežotību. Es neesmu atradis nekādus pierādījumus šim apgalvojumam.

Atkal kļūdaina uztvere par intelektu kā sistēmu, ko nosaka tikai viena dimensija, veicina šī apgalvojuma izplatību, taču mums ir jāsaprot, ka tas paliek nepamatots. Visumā nav bezgalīgu fizisko dimensiju - vismaz zinātnei tās joprojām nav zināmas.

Temperatūra nav bezgalīga – ir minimālie un maksimālie aukstuma un siltuma rādītāji. Arī telpa un laiks nav neierobežoti, tāpat kā ātrums. Varbūt skaitlisko asi var saukt par bezgalīgu, bet visiem pārējiem fiziskajiem parametriem ir savas robežas. Protams, arī pats prāts ir galīgs.

Rodas jautājums: kur ir intelekta robežas? Mēs kādreiz uzskatījām, ka robeža ir kaut kur tālu, tik daudz "virs" mums, cik mēs esam "virs" skudrām. Atstājot malā neatrisināto viendimensionalitātes problēmu, kā mēs varam pierādīt, ka mēs vēl neesam sasnieguši robežu? Kāpēc mēs nevaram būt radīšanas kronis? Vai varbūt esam gandrīz sasnieguši cilvēka spēju robežas? Kāpēc mēs uzskatām, ka intelekts ir bezgalīgi mainīgs jēdziens?

Mūsu intelektu labāk uzskatīt par vienu no daudzu domāšanas veidu šķirnēm. Lai gan katrai izziņas un aprēķinu dimensijai ir robeža, ja ir simtiem dimensiju, tad ir neskaitāmas saprāta šķirnes, taču neviena no tām nav bezgalīga nevienā dimensijā.

Veidojot vai saskaroties ar šīm neskaitāmajām variācijām par apziņas tēmu, mēs varam tās izjust kā ārpus mūsu spēju robežām. Savā jaunākajā grāmatā "Neizbēgami" es ieskicēju sarakstu ar dažām no šīm šķirnēm, kas vienā vai otrā veidā ir zemākas par mums. Šeit ir daļa no šī saraksta:

Prāts, maksimāli tuvu cilvēkam, bet ar lielāku reakcijas ātrumu (vienkāršākais mākslīgais intelekts);

Ļoti lēns prāts, kura galvenās sastāvdaļas ir liela uzglabāšanas vieta un atmiņa;

Universālais intelekts, kas sastāv no miljoniem individuālu apziņu, kas darbojas unisonā;

Stropu prāts, ko veido liels skaits ārkārtīgi produktīvu intelektu, kas neapzinās, ka viņi ir viens;

Borga superprāts (kiborgu rase ar kolektīvu prātu, kas cenšas asimilēt visas dzīvās būtnes no Star Trek sērijas savā kolektīvā - apm. Jauns kas) - augsti funkcionālu intelektu kopums, skaidri apzinoties, ka tie ir viens veselums;

Prāts, kas izstrādāts, lai attīstītu valkātāja personīgo apziņu, bet nav lietojams nevienam citam;

Saprāts, kas spēj iedomāties sarežģītāku prātu, bet nespēj to radīt;

Saprāts spēj kādu dienu veiksmīgi izveidot sarežģītāku prātu;

Saprāts, kas spēj radīt sarežģītāku prātu, kas savukārt var radīt vēl sarežģītāku prātu utt.;

Iemesls, kuram ir ātra piekļuve avota kodam (jebkurā brīdī var mainīt tā darbības funkcijas);

Super-loģisks prāts, bez spējas izjust emocijas;

Standarta prāts, kas vērsts uz problēmu risināšanu, bet nav spējīgs uz pašsajūtu;

Prāts, kas spējīgs uz pašsajūtu, bet nespēj atrisināt tam uzticētos uzdevumus;

Prāts, kura veidošanās prasa ilgu laika periodu, kam nepieciešams aizbildņa prāts;

Ārkārtīgi lēns prāts, kas izkliedēts plašā fiziskajā telpā, kas šķiet "neredzams" ātrāk reaģējošām apziņas formām;

Prāts, kas spēj ātri un atkārtoti reproducēt sevis kopijas;

Prāts, kas spēj reproducēt savas kopijas un palikt viens ar tiem;

Prāts, kas spēj sasniegt nemirstību, pārvietojoties no saimnieka uz saimnieku;

Ātrs, dinamisks prāts, kas spēj mainīt domāšanas procesu un būtību;

Nanoprāts, mazākā neatkarīgā vienība (izmēra un atbrīvotās enerģijas ziņā), kas spēj veikt pašpārbaudi;

Prāts, kas specializējas skriptu veidošanā un prognozēšanā;

Prāts, kas nekad neko neaizmirst, ieskaitot nepareizu informāciju;

Puse mašīna, puse dzīvnieks;

Pa pusei mašīna, pa pusei androgīns kiborgs;

Prāts, kas savā darbā izmanto mums nesaprotamu kvantitatīvo analīzi.

Mūsdienās daži sauc katru no uzskaitītajām domāšanas paveidēm par pārcilvēcisku AI, taču nākotnē šo intelekta formu daudzveidība un atsvešinātība liks mums pievērsties jaunām vārdnīcām un detalizēti pētīt domāšanas un inteliģences tēmu.

Turklāt pārcilvēciskā AI idejas piekritēji pieņem, ka tā garīgo spēju līmenis pieaugs eksponenciāli (lai gan viņiem joprojām nav sistēmas šī līmeņa novērtēšanai). Varbūt viņi uzskata, ka eksponenciālās attīstības process jau notiek.

Jebkurā gadījumā šodien nekas neliecina par šādu izaugsmi, lai arī kā jūs to mērītu. Pretējā gadījumā tas nozīmētu, ka AI garīgās spējas noteiktā laika periodā dubultojas.

Kur tam ir apstiprinājums? Vienīgais, kas šobrīd pieaug eksponenciāli, ir investīcijas AI nozarē. Taču atdevi no šiem ieguldījumiem nevar aprakstīt ar Mūra likumu. AI nekļūst divreiz gudrāks trīs vai pat desmit gadu laikā.

Es jautāju daudziem AI ekspertiem, bet visi bija vienisprātis, ka mums nav saprātīguma kritēriju. Kad es jautāju Rejam Kurcveilam, patiesajam eksponenta vednim, kur atrast pierādījumus par AI eksponenciālo attīstību, viņš man rakstīja, ka AI attīstība nav sprādzienbīstama, bet gan pakāpenisks process.

"Lai hierarhijai pievienotu jaunu līmeni, ir nepieciešams gan eksponenciāls skaitļošanas jaudas pieaugums, gan algoritma sarežģītības palielināšana ... Tādējādi mums vajadzētu sagaidīt lineāru nosacījumu līmeņu skaita pieaugumu, jo katram no tiem ir nepieciešams mūsu pašu spēju eksponenciāls pieaugums. Mums nav atlicis daudz grūtību, lai sasniegtu neokorteksa (cilvēka garozas galvenās daļas, kas ir atbildīga par augstākām nervu funkcijām) AI spējas. apm. Newo nekā), tāpēc es joprojām uzskatu, ka mani pieņēmumi par 2029. gadu ir pareizi.

Rejs, šķiet, saka, ka eksponenciāli aug nevis mākslīgā intelekta spēks, bet gan centieni to radīt, savukārt to rezultāts katru reizi tikai palielinās par vienu soli. Tas ir gandrīz pretējs izlūkošanas sprādziena hipotēzei. Nākotnē tas var mainīties, taču AI acīmredzami šodien nepalielinās eksponenciāli.

Tātad, kad mēs iztēlojamies “AI uzplaukumu”, mums nevajadzētu iedomāties to kā lavīnu, bet gan kā sadalīšanos daudzās jaunās šķirnēs. Tehnoloģiju progresa rezultāts, visticamāk, būs nevis pārcilvēks, bet gan pārcilvēks. Pārsniedz mūsu zināšanas, bet ne obligāti "virs" par to.

Vēl viens mīts par paverdzināšanu superinteliģencei, kas tiek uzskatīts par pašsaprotamu, bet diez vai pamatots ar pierādījumiem, ir tāds, ka gandrīz bezgalīgs intelekts var ātri atrisināt visas mūsu problēmas.

Daudzi zibensātrā mākslīgā intelekta piekritēji sagaida, ka tas izraisīs uzplaukumu. Es saucu ticību šim "thinkism", terminu tulko Vjačeslavs Golovanovs - apm. Jauns kas). Šīs pieejas pamatā ir pārliecība, ka progresu kavē tikai nepietiekams domāšanas vai inteliģences līmenis. (Es arī atzīmēju, ka ticība AI kā panaceja pret visām kaitēm ir raksturīga lielākajai daļai cilvēku, kuriem patīk domāt pašiem.)

Apskatīsim jautājumu par vēža pārvarēšanu vai dzīves pagarināšanu. Tās ir problēmas, kuras nevar atrisināt tikai domājot. Nekādas domas nevar saprast, kā šūnas noveco vai kā telomēri saīsinās. Neviens intelekts, lai cik foršs, nevar saprast, kā darbojas cilvēka ķermenis, vienkārši izlasot visu pasaulē zināmo zinātnisko literatūru un to analizējot.

Super-AI nevar tikai domāt par visiem pašreizējiem un pagātnes kodola skaldīšanas eksperimentiem un nākt klajā ar kodolsintēzes recepti dienu vēlāk. Lai no nesaprašanas pārietu uz jebkura priekšmeta izpratni, ir nepieciešams kaut kas vairāk nekā tikai domāšana.

Patiesībā ir daudz eksperimentu, no kuriem katrs sniedz veselu virkni pretrunīgu datu un prasa turpmākus eksperimentus, lai izveidotu pareizu darba hipotēzi. Tikai domājot par iespējamiem rezultātiem, nebūs iespējams iegūt pareizo rezultātu.

Domāšana (inteliģence) ir tikai daļa no zinātnes instrumenta. Visticamāk, tikai neliela daļa. Piemēram, mums vienkārši nav pietiekami daudz datu, lai pietuvotos nāves problēmas risinājumam. Strādājot ar dzīviem organismiem, lielākā daļa šo eksperimentu prasa laiku. Lēnu šūnu metabolismu nevar paātrināt. Lai iegūtu rezultātus, nepieciešami gadi, mēneši vai vismaz dienas.

Ja mēs vēlamies zināt, kas notiek ar subatomiskām daļiņām, nepietiek tikai par tām domāt. Mums ir jāveido ļoti lieli, ļoti sarežģīti, ļoti izsmalcināti fiziski modeļi, lai to uzzinātu. Pat ja gudrākie fiziķi kļūs tūkstoš reižu gudrāki nekā tagad, viņi neko jaunu bez kolektora neuzzinās.

Nav šaubu, ka super-AI var paātrināt zinātnes attīstību. Mēs varam izveidot atomu vai šūnu datormodeļus, mēs varam tos paātrināt daudzos veidos, taču ir problēmas, kas neļauj simulācijām panākt tūlītēju progresu.

Ir vērts atcerēties, ka simulācijas un modeļus var izpētīt ātrāk nekā to subjektus tikai tāpēc, ka tie izmet noteiktus mainīgos. Tā ir modelēšanas būtība. Ir arī svarīgi atzīmēt, ka ir nepieciešams ilgs laiks, lai pārbaudītu, izpētītu un apstiprinātu šādus modeļus, lai tie atbilstu to priekšmetu līmenim. Pārbaudi pēc pieredzes nevar paātrināt.

Simulācijas vienkāršotās versijas ir noderīgas, lai atrastu visdaudzsološākos veidus, kā paātrināt progresu. Bet patiesībā nav nekā lieka, visam zināmā mērā ir nozīme – tā ir viena liela realitātes definīcija. Tā kā modeļi un simulācijas kļūst arvien detalizētāki, pētnieki saskaras ar faktu, ka realitāte darbojas ātrāk nekā tās 100% simulācija.

Šeit ir vēl viena realitātes definīcija: visātrāk funkcionējošā visu iespējamo detaļu un brīvības pakāpju versija. Ja jūs varētu simulēt visas šūnā esošās molekulas un visas cilvēka ķermeņa šūnas, šis modelis nedarbotos tik ātri kā cilvēka ķermenis. Neatkarīgi no tā, cik pārdomāti jūs izstrādājat šādu modeli, jums joprojām būs jāpavada laiks eksperimentiem, neatkarīgi no tā, vai tā ir reāla sistēma vai simulācija.

Lai mākslīgais intelekts būtu noderīgs, tas ir jāievieš pasaulē, un šajā pasaulē nepieciešamie inovāciju tempi mainās diezgan ātri. Bez pirmajiem eksperimentiem, prototipiem, kļūdām un iesaistīšanās realitātē intelekts var domāt, bet nedos rezultātus. Viņš nedarīs nekādus momentālus atklājumus ne sekundē, ne stundā, ne gadā pēc tam, kad viņu nosauks par "gudrāku par cilvēku".

Parādās AI. Protams, atklāšanas ātrums palielināsies, jo šis AI kļūs sarežģītāks, daļēji tāpēc, ka citplanētiešu mākslīgais intelekts uzdos jautājumus, ko neviens cilvēks neuzdotu, taču pat ļoti spēcīgs (salīdzinot ar mums) intelekts negarantē tūlītēju progresu. Lai atrisinātu problēmas, ir nepieciešams daudz vairāk nekā tikai inteliģence.

Vēža un ilgmūžības problēmas nav vienīgās, ko intelekts vien nevar atrisināt. Tehnoloģiskās singularitātes idejas atbalstītāju vidū ir izplatīts nepareizs priekšstats: ja mēs izveidosim AI, kas ir gudrāks par cilvēkiem, tad tas pēkšņi sāks attīstīties un radīs vēl gudrāku AI.

Jaunais mākslīgais intelekts domās dziļāk un izgudros kaut ko vēl gudrāku, un tā tālāk, līdz tiks izgudrots kaut kas līdzīgs dievam. Nav pierādījumu, ka ar domāšanu vien pietiek, lai radītu jaunus intelekta līmeņus. Šādas domāšanas pamatā ir ticība.

Tomēr ir daudz pierādījumu, ka jauna efektīva intelekta izgudrošana prasa ne tikai prāta piepūli, bet arī eksperimentus, datus, sarežģītus jautājumus, izmēģinājumus un kļūdas.

Es saprotu, ka varu kļūdīties. Kamēr mēs esam sākuma stadijā. Varbūt mēs atklāsim universālu inteliģences mērogu vai tā bezgalību visās nozīmēs. Pastāv tehnoloģiskas singularitātes iespēja, jo mēs ļoti maz zinām, kas ir inteliģence un pašapziņa. Manuprāt, viss norāda uz to, ka tas ir maz ticams, bet iespēja joprojām ir.

Tomēr es atbalstu OpenAI plašākos mērķus: mums ir jāizstrādā draudzīgs mākslīgais intelekts un jāizdomā, kā piešķirt tai vērtības, kas atkārtojas pašas par sevi un sakrīt ar mūsējām.

Pastāv iespēja, ka pārcilvēcisks AI ilgtermiņā var būt kaitīgs, taču šī ideja ir balstīta uz nepilnīgiem pierādījumiem, un to nevajadzētu uztvert nopietni, kad runa ir par zinātni, politiku vai progresu.

Asteroīda trieciens uz Zemi varētu mūs iznīcināt, šāda iznākuma iespēja pastāv (to apstiprina fonds B612), taču mums nevajadzētu ņemt vērā šādu iznākumu globālās sasilšanas, kosmosa ceļojumu vai pilsētas plānošanas jautājumos.

Pieejamie pierādījumi liecina, ka AI, visticamāk, nebūs pārcilvēcisks. Viņam būs jaunas, cilvēkam nepieejamas domāšanas šķirnes, taču bez visaptveroša pielietojuma viņš nekļūs par dievu, kas vienā mirklī atrisinās mūsu galvenās problēmas.

Tā vietā tas kļūs par intelektu uzkrājumu ar ierobežotām iespējām, labāk par mums būs strādāt mums nepieradinātās jomās, kopā ar mums spēs rast risinājumus gan esošām, gan jaunām problēmām.

Es saprotu, cik pievilcīga ir ideja par pārcilvēcisku un dievbijīgu AI. Viņš varētu būt nākamais Supermens. Bet, tāpat kā Supermens, šis ir izdomāts varonis. Kaut kur Visumā Supermens varētu pastāvēt, taču tas ir maz ticams. Lai kā arī būtu, mīti var noderēt un, reiz radīti, tie nepazūd.

Supermena ideja dzīvos mūžīgi. Ideja par pārcilvēcisku AI un Singularitāti parādās tagad un nekad netiks aizmirsta. Mums ir jāsaprot, kāda veida ideja tā ir: reliģiska vai zinātniska. Ja mēs pētām jautājumu par mākslīgo vai dabisko intelektu, mums ir skaidri jāsaprot, ka mūsu pārcilvēciskā AI jēdziens ir tikai mīts.

Izolēto Mikronēzijas salu ciltis pirmo reizi kontaktējās ar ārpasauli Otrā pasaules kara laikā. Dievi atlidoja no tālām zemēm, nolaidās no debesīm uz trokšņainiem putniem, nesa dāvanas un aizlidoja uz visiem laikiem. Šo dievu atgriešanās kulti un jaunas dāvanas izplatījās visās salās. Arī tagad, pēc 50 gadiem, daudzi joprojām gaida savu atgriešanos.

Superhuman AI mums varētu kļūt par jaunu kravas kultu. Iespējams, pēc simts gadiem cilvēki mūsu laiku uztvers tāpat: it kā mēs ticētu pārcilvēcīgajam mākslīgajam intelektam un gadu desmitiem gaidītu, kad tas kādu mirkli parādīsies un atnesīs mums neiedomājamas dāvanas.

Tomēr AI, kas nav pārcilvēcisks, jau pastāv. Mēs turpinām meklēt tai jaunu definīciju, lai to sarežģītu. Taču plašākā nozīmē mums svešs prāts ir intelektuālo spēju, domāšanas, spriešanas, mācīšanās, pašapziņas mehānismu spektrs. AI izplatās un turpinās izplatīties. Tas kļūst dziļāks, daudzveidīgāks, spēcīgāks.

Pirms AI neviens izgudrojums nevarēja pilnībā mainīt pasauli. Līdz 21. gadsimta beigām mākslīgais intelekts būs tik spēcīgs, ka tas mainīs visu mūsu dzīvē.

Lai kā arī būtu, mīts par pārcilvēcisku AI, kas dos mums superbagātību vai superverdzību (vai abus), dzīvos tālāk. Tomēr tas paliks mīts, kas diez vai tiks iemiesots realitātē.