Posibilă amenințare din partea inteligenței artificiale. Psihicii

Și alți cercetători celebri au scris scrisoare deschisă, solicitând crearea unor standarde de siguranță în domeniul dezvoltării inteligenței artificiale (AI). /site-ul web/

În special, au cerut cercetarea și dezvoltarea unui sistem de control fiabil care să nu permită ca inteligența artificială defectuoasă să dăuneze oamenilor. „Trebuie făcută lucrări tehnice pentru a asigura controlul uman deplin”, se spune în scrisoare.

În ciuda tonului moderat al scrisorii, ludiții, temându-se de noua tehnologie, au intrat în panică. Ca răspuns, presa au apărut o mulțime de interviuri și declarații ale oamenilor de știință care au spulberat aceste temeri.

Andrew Ng, un expert AI la Baidu, a declarat pentru Fusion: „Nu văd un scenariu realist pentru ca software-ul la care lucrăm astăzi să devină perturbator”.

La rândul său, jurnalistul Scott Alexander a întocmit o listă de oameni de știință cunoscuți implicați în dezvoltarea IA, care au vorbit despre potențialul pericol al AI.

Frica și teama

Stuart Russer, profesor de informatică la Universitatea din California din Berkeley, a comparat dezvoltarea mecanismelor de control al inteligenței artificiale cu adoptarea de măsuri pentru siguranța reactoarelor nucleare.

„Unii cred că această problemă nu reprezintă un pericol pentru umanitate în următoarele câteva sute de ani. Ei uită că Leo Szilard a descoperit reacția nucleară în lanț la 24 de ore după ce Rutherford a declarat cu încredere că energia atomică nu va fi obținută niciodată”, a scris Russell.

Russell nu este singur în opinia lui. Într-un sondaj din 2014 realizat de Vincent Muller și Nick Bostrom asupra a 170 de experți de top în IA, 18% dintre aceștia credeau că construirea unei mașini super-inteligente ar fi un „adevărat dezastru” pentru umanitate. 13% au spus că IA avansată ar avea consecințe negative pentru oameni. Puțin peste jumătate dintre oamenii de știință au spus că ar avea un impact pozitiv.

Deși opinia experților cu privire la impactul AI este ambiguă, majoritatea sunt de acord că crearea unei IA avansate este doar o chestiune de timp. Conform prognozelor, un AI egal cu un om va fi creat încă din 2050 (50% probabilitate) sau până în 2075 (90% probabilitate). Și la 30 de ani de la crearea sa, va apărea o superinteligență artificială care îi va depăși pe oameni din toate punctele de vedere.

camioane nebune

Cum ar putea arăta Rise of the Machines? În filmele științifico-fantastice, precum „Terminator”, „Robot”, „Animatrix”, este prezentat războiul oamenilor cu cyborgi.

Judecând după filmele științifico-fantastice, mulți ar putea fi de părere că pericolul potențial este ușor de evitat. La urma urmei, AI este practic doar un software de calculator.

Cu toate acestea, inteligența artificială nu trebuie să aibă un corp mecanic pentru a câștiga putere în lumea reală: poate începe pur și simplu să controleze toate dispozitivele noastre electronice de zi cu zi.

Stephen King a prezentat un astfel de scenariu în nuvela „Trucks”. În povestea, scrisă în anii 70, camioanele capătă conștiință și încep să atace oamenii. Un grup de oameni se ascund de camioanele furioase. Camioanele încă au nevoie de combustibil pentru a funcționa și folosesc codul Morse pentru a ordona oamenilor să umple, altfel buldozerul le va arunca în aer. Oamenii se supun.

Povestea se încheie cu viziunea naratorului că camioanele au înrobit omenirea și își impun valorile peste tot, cum ar fi forțarea lor să construiască autostrăzi în toată lumea. El este scos din lumea sa fantastică de sunetul unui avion care zboară pe cer.

Povestea lui Stephen King părea futuristă în epoca în care a fost scrisă, dar nu este atât de departe de realitatea lumii moderne. camioane autonome există deja, iar în viitor, companiile pot înlocui șoferii cu un sistem de navigație autonom pentru a economisi bani.

Hackul Sony de anul trecut demonstrează că sistemele noastre informaționale devin din ce în ce mai vulnerabile. Aceasta este una dintre consecințele informatizării tot mai mari a infrastructurilor.

Cu toate acestea, încă nu există motive de îngrijorare. Inteligența artificială are un drum lung de parcurs înainte să se potrivească cu creierul uman. Exemplul de camion cu conducere autonomă ilustrează bine acest lucru. Deși sunt încă prea imperfecte pentru a conduce în mod independent pe străzile aglomerate ale orașului.

Ai instala o aplicație pentru citirea articolelor de epocă pe telefonul tău?

Apocalipsa globală care implică AI (inteligență artificială) îi înspăimântă din ce în ce mai mult pe cei mai importanți cercetători ai lumii în domeniul tehnologiei computerelor. Ar putea fi o revoltă a roboților care, ghidați de programul și valorile lor, vor dori să distrugă formele biologice de viață de pe planetă. Este posibil un scenariu în care mașinile controlate de AI devin forma de viață dominantă.

De ce oamenii de știință de renume mondial, precum Bill Gates, Steve Hawking, Elon Musk și alții sunt preocupați de această problemă și declară public amenințarea reală a acestui scenariu? Pot fi profetice evenimentele care au avut loc în filmul de la Hollywood „Terminator”? Se știe că orice poveste fictivă se bazează pe fapte reale.

Calculatoarele sunt din ce în ce mai bune la minciuna și la înșelăciune

Minciuna este o formă de comportament dezvoltată în procesul de evoluție. Oamenii, unele animale și păsări, recurg la înșelăciune de dragul obținerii de hrană și beneficii, ceea ce crește șansele de supraviețuire. Recent, aceste metode evolutive au fost adoptate cu succes de mașinile AI.

Designerii de la Institutul de Tehnologie din Georgia au făcut progrese în crearea roboților care folosesc minciuna și înșelăciunea în algoritmii lor de comportament. Oamenii de știință cred că, în viitor, această tehnologie va fi utilizată pe scară largă în sfera militară.

Se presupune că prototipurile de roboți pot fi folosite în condiții reale de luptă. Aceste mecanisme animate vor putea desfășura lucrări de protecție a proviziilor și a depozitelor de muniții. Cu ajutorul unor programe înșelătoare, paznicii viitorului își vor putea schimba ruta de patrulare și vor efectua acțiuni imprevizibile. După cum planifică dezvoltatorii, astfel de metode vor ajuta la înșelarea potențialilor inamici ai oamenilor și ai altor roboți.

Potrivit profesorului Arkin, cercetarea este asociată cu o serie de probleme etice. Pierderea controlului asupra tehnologiei, atunci când este expus la detractori, poate duce la un dezastru grav.

Mașinile preiau piața muncii

În timp ce publicul este ocupat să se gândească la un război global care implică inteligența artificială, oamenii de știință descriu mai urgent și pericole reale. Diverse mașini și mecanisme automate sunt din ce în ce mai folosite în producție, distrugând locuri de muncă.

Mulți analiști și experți sunt de acord că evoluțiile active în domeniul programelor logice și al automatizării pot duce la pierderea locurilor de muncă a multor oameni. În Statele Unite ale Americii, există peste 250.000 de roboți de producție care fac muncă tradițională umană.

În țările din Est, care produc mai mult de 90% din tehnologia mondială, încă predomină munca manuală. Ce se va întâmpla cu oamenii angajați în producție odată cu apariția roboților, se poate doar ghici.

Preocuparea că mașinile vor înlocui oamenii de pe piața muncii nu se limitează la muncitori. Expertul în inteligență artificială Andrew Ng de la Google Brain Project și specialist principal cu normă parțială la Baidu (echivalentul chinez al Google) și-au exprimat, de asemenea, îngrijorarea cu privire la evoluțiile active în domeniul AI. Potrivit acestuia, inteligența electronică artificială este capabilă să facă la fel ca o persoană obișnuită, doar mai rapid, mai bine și cu mai puține resurse.

Universitatea Oxford din Marea Britanie a efectuat cercetări care reflectă dinamica impactului AI asupra producției. Conform datelor primite, în următorii douăzeci de ani, 35% din locuri de muncă vor fi date managementului AI.

Programele de calculator sunt superioare hackerilor

Din punctul de vedere al unei persoane obișnuite, un hacker este ca un supraom care poate obține orice rezultat. În realitate, aceștia sunt programatori cu o expresie obosită pe față și o ceașcă de cafea tradițională.

Hackingul este o activitate destul de plictisitoare și plictisitoare, care necesită mult timp și resurse. Mai mult, departamente întregi de specialiști sunt angajate în dezvoltarea de programe menite să protejeze împotriva intruziunilor. Cea mai mare amenințare la adresa „hackerilor răi” vine din sistemele avansate bazate pe inteligență artificială.

Inteligența artificială poate fi folosită nu numai pentru protecție, ci și pentru hacking. În condițiile programului de securitate cibernetică, sunt dezvoltate AI care sunt capabile să găsească vulnerabilități la inamici, protejându-și în același timp online dispozitivele logice de amenințări și atacuri externe.

Potrivit oamenilor de știință, hackerii electronici bazați pe inteligență artificială sunt dezvoltați în numele binelui comun și al prosperității. Dar, în cazul accesului la astfel de programe de către intruși, pot apărea evenimente triste. Este înfricoșător să ne imaginăm o situație în care o IA puternică accesează protocoalele de securitate ale unei centrale nucleare și preia controlul complet. În această situație, omenirea poate fi neputincioasă.

Programele învață să înțeleagă motivele oamenilor

Viața de zi cu zi a multor oameni este indisolubil legată de utilizarea diferitelor rețele sociale. Una dintre cele mai populare rețele din lume este Facebook. Dar, puțini oameni știu că de fiecare dată când o persoană vizitează paginile acestei rețele de socializare, AI nu trece neobservată. În timpul vizitei sale la Berlin, Mark Zuckerberg a vorbit despre obiectivele AI.

Programul este conceput pentru a analiza comportamentul utilizatorilor pe paginile de Facebook. Pe baza datelor colectate, programul emite recomandări cu privire la interesele și preferințele audienței. Pe această etapă dezvoltarea unui sistem autonom, capabil să recunoască tipare și auto-învățare în conformitate cu programul.

În viitor, se plănuiește crearea unui AI inteligent care își poate îmbunătăți în mod independent abilitățile prin rescrierea codului. Acest lucru poate duce la o îmbunătățire a vieții sau poate deveni cea mai recentă dezvoltare a omenirii.

Cyborgii vor înlocui iubitorii

Multe filme de la Hollywood se bazează pe ideea de dragoste și pe relația interspecie dintre om și mașină. Din tărâmul fanteziei, acest concept se revarsă în lumea modernă.

Doctorul futurist Ian Pearson crede că, până în 2050, sexul între un om și un robot va avea loc mai des decât doar între oameni. Omul de știință colaborează activ cu Bondara, principalul lanț de sex-shop-uri din Marea Britanie.

Raportul medicului menționează că, până în 2025, vor fi dezvoltați roboți pentru sex cu inteligență artificială. Până în 2035, sexul prin realitate virtuală va deveni larg răspândit, la nivelul pornografiei moderne. Și până în 2050, sexul cu roboți va deveni parte a realității de zi cu zi și va deveni norma.

Apărători ai valorilor tradiționale, dispuși negativ să facă sex cu mașini inteligente. Astfel de conexiuni vor pune ștacheta așteptărilor prea sus, ceea ce va afecta negativ atitudinea față de femei.

Mașinile devin din ce în ce mai umane

Dezvoltatorii din domeniul creării de roboți umanoizi, japonezul Hiroshi Ishiguro și chinezul Sun Yang, au creat o mașină unică. Cyborg Yang-Yang are aspectul creatorului lor și poartă numele fiicei ei. Aparatul are AI și este capabil să efectueze o serie de acțiuni simple.

Acesta nu este singurul exemplu umanoid de robotică. Institutul de Tehnologie din Singapore a propus și un prototip modern de cyborg, Nadine. Acest prototip are și inteligență artificială și funcționează într-o instituție de învățământ.

Conceput ca o brunetă atrăgătoare, cu piele moale, cyborg-ul are o serie de caracteristici încorporate. Robotul poate întâlni și saluta interlocutorul strângând mâna. Dispozitivul se poate seta contact vizualși zâmbește. AI este capabil să-și amintească oaspeții și să mențină un dialog simplu bazat pe experiența anterioară.

Roboții capătă sentimente

Roboții moderni nu sunt inferiori oamenilor în inteligență. Datorită celor mai recente evoluții, un cyborg este destul de greu de distins de o persoană din exterior. Până acum, singura trăsătură pe care roboții nu o au este capacitatea de a fi emoțional. Oamenii de știință din întreaga lume lucrează la această problemă. Și în curând roboții nu se pot distinge complet de oameni.

Dezvoltatorii din filiala din Asia de Est a Microsoft Application & Services Group au lansat un program unic. Computerul este capabil să conducă un dialog cu interlocutorul și, în același timp, să experimenteze emoții. Inteligența artificială, numită Hiaoche, este capabilă să imite felul în care vorbește o fată de șaptesprezece ani.

În caz de lipsă de date, sistemul este capabil să recurgă la minciuni. Dacă este prinsă trișând, Hiaoche poate exprima furie sau jenă. AI poate recurge la sarcasm, poate fi suspicios și poate exprima nerăbdare.

Imprevizibilitatea răspunsurilor programului, care amintește de comunicarea cu persoana reala. Până acum, tehnologia nu a găsit o aplicație largă și este cel mai des folosită pentru divertisment. Creatorul Xiaoche lucrează la îmbunătățirea algoritmilor logici, ceea ce poate duce la o viitoare descoperire fundamentală.

Mașinile vor fi în curând în capul nostru

În lumina evoluțiilor recente, se deschid noi posibilități. Nu mai pare o fantezie, oportunitatea de a învăța limbă străinăîn câteva minute, prin descărcarea lui în creier. CTO Google, Ray Kurzweil, crede că până în 2030 va fi dezvoltată tehnologia pentru a implanta nanoroboți în creier. Aceasta va ridica inteligența umană la un nivel fundamental nou.

Aceste micro-mecanisme vor transforma conștiința într-un puternic centru de calcul. O persoană va putea să memoreze instantaneu orice informație, să sorteze și să-și trimită propriile gânduri la arhivă. Dacă este necesar, va fi posibil să descărcați filme, documente și să primiți e-mail.

Specialist în inteligență artificială, Kurzweil consideră că simbioza cu nano-roboții nu numai că va crește inteligența, dar va putea și vindeca o serie de boli asociate cu activitatea sistemului nervos.

Amenințările legate de utilizarea unei astfel de tehnologii pot fi comparate cu o teorie globală a conspirației. Prin dobândirea controlului minții asupra liderului politician al țării, AI-ul va putea să-l controleze ca pe un zombi șchiopăt. De asemenea, un astfel de sistem poate fi folosit de serviciile speciale, ceea ce nu este de bun augur.

Cum roboții devin arme

Odată cu căderea Uniunea Sovietică războiul rece nu s-a terminat. Două noi superputeri, China și Rusia, au apărut pe scena mondială. America, la rândul ei, cheltuiește zeci de miliarde de dolari pentru evoluții în domeniul securității computerelor.

Pentagonul consideră că cheia viitoarei superiorități tehnologice constă în utilizarea AI. Se urmărește activ dezvoltarea sistemelor autonome de autoînvățare, precum și a domeniilor paralele și conexe. Au fost deja dezvoltate prototipuri de echipamente militare controlate la distanță, rămâne să-l antrenăm să acționeze independent.

Folosirea unor astfel de dispozitive în timp de război promite mari beneficii. Soldații nu vor trebui să se expună la focul inamicului și să-și riște viața. Moralul inamicului, în războiul împotriva roboților nevii, va fi și el subminat.

Există, de asemenea partea din spate. Orice echipament informatic este predispus la defecțiuni și hack-uri de sistem. În acest caz, roboții care și-au pierdut controlul își pot întoarce armele împotriva creatorilor lor și a populației civile.

Mulți experți de top în domeniul AI nu susțin ideea de a crea roboți de luptă autonomi. Dar, în lumina confruntării militare din ce în ce mai mari din lume și a absenței unei interdicții internaționale privind utilizarea unor astfel de tehnologii, multe țări își desfășoară evoluțiile în strict secret. În curând vor apărea din ce în ce mai multe rapoarte despre utilizarea roboților în punctele fierbinți ale planetei.

Roboții învață în direcția greșită

Anticipând posibilele defecțiuni în programe și pentru a preveni ascensiunea mașinilor, se dezvoltă noi concepte menite să explice mașinii comportamentul corect și nedorit.

Aceste evoluții ar trebui să facă AI mai umană. Unii oameni de știință văd această abordare ca fiind cheia pentru a împiedica AI să întoarcă armele împotriva umanității.

Institutul de Tehnologie din Georgia efectuează experimente unice. Cercetătorii, conduși de Mark Riddle și Brent Harrison, spun literalmente povești computerului. În acest fel, ei caută să atașeze AI valorilor umane, dezvoltându-i etica. Oamenii de știință folosesc metodele folosite în creșterea unui copil pentru a preda programul. AI, la fel ca un copil fără experiență, nu face distincția între bine și rău.

Există o deficiență serioasă în această abordare. Istoria omenirii conține multe exemple când circumstanțele au forțat țări întregi foarte dezvoltate să declanșeze războaie și să comită atrocități teribile. Un exemplu ar fi Germania fascistă, ai cărei soldați au efectuat genocidul unor popoare întregi. În același timp, cultura germană era una dintre cele mai dezvoltate din lume la acea vreme. Ce va împiedica AI să repete experimentul lui Hitler?

Inteligența artificială (AI) este un subiect care a fost de mult timp pe paginile revistelor de știință populară și este atins în mod constant în filme și cărți. Cu cât mai mulți specialiști dezvoltă această zonă a științei, cu atât mai mult mari mituri ea este acoperită.

Dezvoltarea și viitorul inteligenței artificiale îi îngrijorează și pe cei care stau la cârma statului. Nu cu mult timp în urmă, președintele rus Vladimir Putin a vizitat biroul Yandex în ziua aniversării a 20 de ani a companiei, unde i-au explicat când AI va depăși inteligența umană.

Oricine intră chiar și puțin în esența potențialului inteligenței artificiale înțelege că acest subiect nu poate fi ignorat. Acesta nu este doar un subiect important de discuție, ci probabil unul dintre cele mai semnificative în contextul viitorului.

Într-un cuvânt, sunt succese notabile și la noi.

Cu cât tehnologiile de inteligență artificială se dezvoltă mai rapid, cu atât mai mulți oameni sunt cuprinsi de teama de cât de repede vor rămâne fără muncă. Este totul chiar atât de rău?

Da și nu. Omenirea a cunoscut deja de mai multe ori apariția tehnologiilor care au revoluționat întregul sector de producție.

Așa a fost și cu motorul cu abur în epoca revoluției industriale, care practic a distrus multe profesii (în principal legate de primitivul muncă fizică), așa că a fost și cu computerele electronice care au înlocuit oamenii în sarcini bazate pe calcule matematice în flux.

În secolele XV-XVIII, când „oile mâncau oameni” în Anglia, consecințele sociale erau cu adevărat catastrofale. Anglia a pierdut, conform diverselor estimări, de la 7 la 30% din populație. Elita puterii din acea vreme era serios preocupată de ce să facă cu oamenii suplimentari. Jonathan Swift a răspuns acestor căutări cu un pamflet plin de umor în care sugera să mănânce copiii săracilor.

Cu toate acestea, astăzi vedem că profesiile dispărute au fost înlocuite cu altele noi, iar populația Pământului este mult mai mare decât în ​​secolul al XVIII-lea. În secolul XX, consecințele automatizării nu mai erau atât de catastrofale din punct de vedere social. Cu toate acestea, pericolul nu trebuie subestimat.

„În 30 de ani, roboții vor fi capabili să facă aproape tot ce pot face oamenii”, a spus Moshe Vardi, profesor de inginerie computațională și director al Institutului Kennedy pentru Tehnologia Informației de la Universitatea Rice (William Marsh). Acest lucru va duce la faptul că peste 50% dintre locuitorii Pământului vor rămâne șomeri.”

Roboții iau locuri de muncă

Recent, președintele Comitetului Dumei de Stat pentru Politica Informațională, Tehnologii Informaționale și Comunicații, Leonid Levin, a declarat că pentru Rusia problema înlocuirii forței de muncă cu inteligență artificială este una importantă.

Mai devreme sau mai târziu, oamenii vor fi înlocuiți cu un sistem automatizat, iar 2% din populația activă a țării se va revărsa pe piață. De aceea, Levin a spus cum să-i angajeze pe ei, cei care își vor pierde locul de muncă din cauza dezvoltării tehnologiilor digitale.

Potrivit președintelui, în viitorul apropiat ne vom confrunta cu o creștere a șomajului. Dar roboții ne vor „înlătura” cu adevărat locurile de muncă și merită să ne facem griji pentru asta, a spus Sergey Markov, specialist în învățarea automată, pentru Reedus.

Serghei, chiar și acum există „profesii moarte” care nu necesită muncă umană, deși s-ar părea că în urmă cu 10 ani nimeni nu credea că, de exemplu, conducătorii vor deveni în curând inutile. Și ce alte profesii vor înlocui tehnologia?

Ne apropiem de momentul în care mașinile îi vor depăși pe oameni în aproape toate domeniile. Cred că societatea trebuie să se confrunte cu această problemă înainte de a ajunge la apogeu. Dacă mașinile sunt capabile să facă aproape tot ceea ce pot face oamenii, ce vor mai rămâne de făcut? a spus Moshe Vardi, profesor de inginerie computațională și director al Institutului Ken Kennedy pentru Tehnologia Informației de la Universitatea Rice.

Multă vreme, limitările tehnologice au stat în calea automatizării - mașinile nu puteau recunoaște imaginile și vorbirea, nu puteau vorbi, nu puteau înțelege suficient de bine sensul enunțurilor în limbaj natural, nu aveau suficiente date pentru a învăța multe lucruri familiare. oameni.

Datorită progreselor recente în domeniul inteligenței artificiale, multe dintre aceste restricții au fost efectiv ridicate. În plus, multe profesii în sine au suferit o transformare care le-a făcut mai potrivite pentru automatizare.

De exemplu, un funcționar modern de birou nu corespunde pe hârtie, dar în formă electronică, un contabil efectuează postări nu pe hârtie, ci într-un program de contabilitate, un operator de mașină controlează adesea mașina nu cu ajutorul mânerelor, ci cu ajutorul a unui program de control. Prin urmare, acum sarcina de automatizare în multe profesii a încetat să mai fie științifică și a devenit pur inginerie.

Adevărat, până acum, sectorul de producție legat de inteligența artificială are mai multe șanse să creeze locuri de muncă - sunt necesari specialiști în domeniul învățării automate și al pregătirii datelor, angajați pentru marcarea matricelor de formare, specialiști în implementare etc.. Dar la un moment dat, oile electrice cu siguranță va începe să mănânce oameni și consecințele trebuie să fie îngrijite acum.

În același timp, este important să înțelegem că progresul tehnologic nu poate fi oprit, iar o încercare de a face acest lucru va avea drept rezultat consecințe mult mai catastrofale.

Vom putea vreodată să avem încredere completă în roboți (AI) sau ar trebui să mai existe un factor uman în orice afacere?

Această întrebare are mai multe aspecte. Pe de o parte, oamenii din trecut se fereau de aproape orice tehnologie. Primul lift, prima mașină, primul tren sau avion - toate acestea au fost cândva neobișnuite și păreau periculoase pentru mulți. Da, în multe privințe a fost periculos - dezastrele provocate de om au adus multe vieți.

Și totuși, în zilele noastre, toate aceste lucruri au devenit familiare și nu mai provoacă mare frică. În acest sens, descendenții noștri vor trata sistemele AI mai calm. Oamenii tind uneori să mistifice lucrurile pe care nu le înțeleg. Sălbaticul crede că locuiește într-o locomotivă cu abur Duh rău, iar profanul modern crede că sistemele noastre AI sunt conștiente, deși acest lucru este departe de a fi cazul.

Pe de altă parte, nu cred că sistemele AI de uz general vor deveni vreodată o parte a industriei noastre. În opinia mea, viitorul este mai probabil pentru sistemele sintetice - adică pentru unificarea omului și a mașinii într-un singur organism. În acest sens, inteligența artificială a viitorului va fi inteligența umană îmbunătățită.

Apropo, inteligența umană nu este, de asemenea, în întregime corectă pentru a o numi naturală. Un copil de la naștere nu are inteligență; societatea, părinții îl învață totul. mediu inconjurator. În acest sens, tu și cu toții suntem în esență „inteligențe artificiale”, iar fricile noastre asociate cu AI sunt, în multe privințe, frici de noi înșine.

Recent, mulți oameni de știință, de exemplu, Stephen Hawking, Bill Gates sau același Elon Musk, au început să intre în panică că AI condamnă omenirea la moarte și văd viitorul ca un fel de distopie. Ar trebui luate în serios astfel de predicții?

Sincer să fiu, nu m-aș grăbi să mă sperie serios de aceste afirmații. Stephen Hawking, cu siguranță, nu este un specialist în inteligență artificială și nici Elon Musk.

Pe cealaltă parte a scalei se află declarațiile unor oameni precum Andrew Ng, un informatician american, profesor asociat la Universitatea Stanford, cercetător în robotică și învățare automată și un specialist de top în laboratorul de inteligență artificială al corporației chineze Baidu. .

Eun, vorbind despre problema securității AI, o compară cu problema suprapopulării lui Marte - bineînțeles, vom coloniza Marte într-o zi și atunci, poate, la un moment dat va fi o problemă de suprapopulare. Dar merită să o faci astăzi?

Mark Zuckerberg a fost, de asemenea, destul de sceptic cu privire la afirmațiile lui Musk. „Inteligenta artificiala ne va face viata mai buna in viitor, iar a prezice sfarsitul lumii este foarte iresponsabil”, a spus el.

Personal, cred că afirmațiile lui Musk ar trebui luate în considerare într-un mod pragmatic - Musk dorește să pună în evidență acest subiect și, în mod ideal, să primească fonduri de la stat pentru a-l dezvolta.

Este totul într-adevăr atât de roz și nu trebuie să vă faceți griji?

Adevăratele pericole asociate cu dezvoltarea IA se află, în opinia mea, într-un plan complet diferit decât se crede în mod obișnuit. Principalele riscuri nu sunt legate de faptul că ne vom crea propriul „Skynet”, care va înrobi omenirea. Riscurile legate de introducerea AI și a tehnologiilor de învățare automată sunt mult mai prozaice.

Încredințând soluționarea problemelor importante unuia sau altuia model matematic, putem suferi de greșeli comise în dezvoltarea lor. Inteligența artificială care reproduce acțiunile experților umani va moșteni greșelile și părtinirile lor. Defectele sistemelor de management al producției sau transportului pot duce la dezastre.

Interferența rău intenționată în funcționarea sistemelor vitale în condiții de automatizare totală poate duce la consecințe periculoase. Cu cât sistemele sunt mai complexe, cu atât pot avea mai multe vulnerabilități potențiale, inclusiv cele legate de specificul anumitor algoritmi de inteligență artificială.

Desigur, pentru a gestiona aceste riscuri, este necesar să se creeze cadru legislativ, reglementări rezonabile de securitate, metode speciale de identificare a vulnerabilităților. Unele sisteme AI vor fi folosite pentru a controla altele. Poate că va trebui publicat codul sistemelor vitale pentru audit independent. Cu alte cuvinte, mai este mult de lucru în acest domeniu.

Drepturi de autor pentru imagine Thinkstock Legendă imagine Simbioza dintre om și mașină este una dintre căile de dezvoltare a omenirii

Mașinile inteligente au învățat să blufeze, să învingă profesioniștii de la șah sau Go, să traducă și să recunoască vocea umană. În fiecare săptămână aflăm despre noi fapte ale programelor de calculator care deja pot face diagnostice medicale, pot desena ca Rembrandt, pot cânta sau pot genera text. O persoană ar trebui să se teamă de inteligența artificială?

Subiectul inteligenței artificiale (AI/AI) a devenit cu adevărat „fierbinte” în ultimii câțiva ani. Oamenii de știință atribuie acest lucru dezvoltării rapide a rețelelor neuronale (una dintre domeniile de cercetare în domeniul inteligenței artificiale), care, la rândul lor, a devenit posibilă odată cu apariția computerelor puternice.

„De la începutul anilor 2010, condus de progresele impresionante ale rețelelor neuronale cu mai multe straturi (în primul rând convoluționale și recurente), acest domeniu a atras o atenție semnificativă atât din partea oamenilor de știință, cât și a inginerilor și a investitorilor”, comentează autorul, unul dintre programele de șah rusești, un specialist în metode de învățare automată Sergey Markov.

Comunitatea științifică poate discuta cu privire la momentul apariției mașinilor inteligente, dar sunt de acord asupra unui lucru: dezvoltarea tehnologiei va avea un impact necondiționat asupra societății, economiei și relațiilor dintre oameni în viitor. Deja, se fac apeluri pentru a reflecta asupra principiilor etice ale dezvoltării AI, asigurându-se că AI se dezvoltă într-o direcție sigură pentru oameni.

Acest mmaterial pregătit ca răspuns la o întrebares, trimisecititorii noștridespre realizările științifice. Vă puteți adresa întrebări despre alte subiecte la aceste link-uri ( , ).

Efectul economic și impactul asupra pieței muncii

Science-fiction și Hollywood au modelat noțiunea de „inteligență artificială” ca următoarea formă de viață de pe planetă care va înrobi omenirea în Matrix sau va organiza o zi a apocalipsei nucleare. Supraviețuitorii vor fi terminați de Terminator.

Drepturi de autor pentru imagine Getty Images Legendă imagine Va muri omenirea din cauza Skynet?

De fapt, în ciuda realizările recenteîn domeniul inteligenței artificiale, apariția ființelor mașini inteligente este încă departe, recunosc oamenii de știință și experții. Atât aceștia, cât și alții, totuși, sunt sfătuiți să acorde atenție unor aspecte chiar acum.

McKinsey Global Institute estimează că noile tehnologii vor schimba radical piața mondială a muncii în următorii zece ani, economisind aproximativ 50 de trilioane de dolari.

Schimbările vor afecta sute de milioane de locuri de muncă. Din ce în ce mai mulți oameni își vor descărca unele dintre sarcinile lor de lucru și multe sarcini de rutină pe mașină, permițându-le să se concentreze asupra muncii lor creative.

„Din un anumit punct de vedere, omenirea în ansamblu are o sarcină importantă și interesantă - să se dezvolte pentru fiecare individ specific mult mai rapid decât dezvoltă omenirea sisteme de inteligență artificială”, a declarat Grigory Bakunov, expert, director de diseminare a tehnologiei Yandex.

Dar, alături de automatizare, personalul mai puțin calificat va avea de suferit inevitabil, iar acum este necesar să ne gândim la cum să-i protejăm, să-i recalificăm și să-i pregătim pentru o nouă viață.

După cum arată practica, nu numai lucrătorii care lucrează cu gulere albastre, ci și lucrătorii din cunoștințe pot suferi. În urmă cu câteva zile, Goldman Sachs a înlocuit o echipă de 600 de comercianți cu două persoane și cu programe automate de tranzacționare algoritmică, pentru care au fost angajați 200 de dezvoltatori de software pentru întreținere.

Drepturi de autor pentru imagine Thinkstock Legendă imagine Multe sarcini vor intra în curând în puterea sistemelor robotizate, care vor începe treptat să înlocuiască oamenii.

Inteligența artificială în sine nu este identică cu automatizarea proceselor, dar dezvoltarea AI va duce la faptul că tot mai multe sarcini vor fi în puterea unui program de calculator.

Printre soluțiile la problema deplasării omului de către mașini pe piața muncii, așa cum subliniază Allison Dutman, coordonatorul programului Foresight Institute, o organizație non-profit cu sediul în Silicon Valley pentru promovarea noilor tehnologii, introducerea conceptului. a unui „venit de bază universal” care ar fi primit de fiecare rezident, indiferent de venituri și niveluri de ocupare. Astfel de venituri ar urma să fie finanțate prin așa-numita taxă pe valoarea terenurilor, a cărei introducere este acum în discuție activă în Silicon Valley.

Este inteligența artificială o persoană?

Este un sistem robotic o persoană? Poate un computer inteligent să voteze? Ce sex este el? Relația dintre un om și o mașină inteligentă este deja discutată de europarlamentari, întrebându-se dacă viitorii roboți ar trebui să primească statutul de „personalitate electronică”.

După cum subliniază Dutman, oamenii sunt reticenți în a împărtăși drepturile cu cei pe care nu îi înțeleg, ceea ce înseamnă că vor rezista „umanizării” AI.

Drepturi de autor pentru imagine AFP Legendă imagine Omul și mașina sunt separate de principalul lucru - capacitatea de a gândi

„Având în vedere cât timp i-a luat omenirii să-l doteze drepturi egale dintre toți oamenii, indiferent de culoarea pielii, rasă sau sex, se poate presupune deja că nu recunosc imediat mașinile ca fiind egale.

Alături de întrebările etice, există și subtilități legale: cine își va asuma responsabilitatea în cazul unui accident al unui vehicul fără pilot sau al unei defecțiuni a unui dispozitiv medical inteligent - și întrebări morale: merită să dezvolte o armă fără pilot capabilă să funcționeze fără cunoasterea unei persoane?

Al treilea puzzle etic este discutat mai des decât alții și entuziasmează mult mai mult umanitatea: ce poate face teoretic o superinteligență, o adevărată mașină inteligentă, cu umanitatea?

Predați etica AI

Experții în domeniul dezvoltării inteligenței artificiale recunosc că dacă nu în următorii 20-30 de ani, omenirea va trăi totuși pentru a vedea apariția unei inteligențe artificiale reale, care va fi mai inteligentă decât creatorul ei.

„Ultimul bastion va fi luat atunci când va fi creat așa-numitul „AI puternic” (Strong AI, Artificial General Intelligence), adică un astfel de AI care va putea decide la infinit gamă largă sarcini intelectuale”, spune Serghei Markov.

Și cel mai important, un astfel de AI va putea gândi independent.

Studiul amenințărilor reprezentate de AI, precum și probleme etice legate de noile tehnologii, sunt implicate numeroase instituții, printre care Institutul Future of Life (Institutul pentru Viitorul Vieții), Institutul Foresight, Institutul Future of Humanity, OpenAI și altele.

Soluția lui Allison Dutman de la Foresight Institute este să lase computerul să citească toată literatura științifică, articole de știință ridicând problema eticii și să facă din aceste informații baza deciziilor sale viitoare.

Ce sunt rețelele neuronale și care este viitorul lor?

Majoritatea experților atribuie progresul în dezvoltarea IA dezvoltării rețelelor neuronale.

Rețelele neuronale reprezintă unul dintre domeniile de cercetare în domeniul inteligenței artificiale, bazate pe simularea proceselor biologice care au loc în creierul uman.

Lor le datorăm apariția unor rezultate impresionante în recunoașterea vorbirii și a imaginilor, diagnosticul medical, traducerea textului și crearea imaginilor, generarea vorbirii și compoziția muzicală.

Drepturi de autor pentru imagine iStock Legendă imagine Cu dezvoltarea sistemelor neuronale, oamenii de știință asociază dezvoltarea inteligenței artificiale.

Astăzi, după cum recunosc experții, rețelele neuronale sunt recunoscute drept unul dintre cei mai buni algoritmi de învățare automată, iar soluțiile bazate pe aceștia arată cele mai remarcabile rezultate în acest moment.

Și asta în ciuda faptului că rețelele neuronale moderne sunt de o mie și jumătate de ori mai simple decât creierul unui șobolan.

„Până în prezent, rețelele neuronale pe care le creăm sunt relativ mici în comparație, de exemplu, cu rețeaua neuronală a creierului uman și, în plus, sunt un analog foarte simplificat al rețelelor neuronale naturale. Prin urmare, deocamdată, cu cu ajutorul rețelelor neuronale, rezolvăm în principal probleme pur aplicate," - spune Serghei Markov.

În prezent, se creează procesoare specializate pentru antrenarea unor astfel de rețele (așa-numitele procesoare neuromorfe), care vor crește viteza de calcul cu câteva ordine de mărime.

Dezvoltatorii nu sunt doar ocupați acum să mărească numărul de neuroni din rețea, ci și să schimbe designul rețelelor. „Sistemele complexe de configurare a rețelei sunt cele cu care se desfășoară în prezent cel mai mare număr de experimente”, spune Grigory Bakunov.

Drepturi de autor pentru imagine iStock Legendă imagine Vor exista mai mulți asistenți umani „inteligenti” în viitorul apropiat - microsenzori în perete, un senzor de dimensiunea unui buton care alertează o persoană în caz de pericol

Iar faptul că astfel de sisteme au devenit relativ accesibile unui număr mare de dezvoltatori obișnuiți a dus la apariția unor startup-uri care experimentează rețele neuronale, precum Prisma (o aplicație care vă permite să procesați fotografii, transformându-le în stilizări de picturi de celebre artiști) și Mubert (un compozitor de muzică electronică online) .

Ce ne așteaptă în viitorul apropiat

După cum prezice Nick Lane, profesor la University College London și principal om de știință la Nokia Bell Labs, mai multe „lucruri inteligente” vor înconjura ființa umană. Ele vor deveni mai mici și mai eficiente.

Profesorul dă următorul exemplu: dacă mai devreme un senzor încorporat în perete putea să fie conștient doar că cineva a trecut pe acolo, atunci în viitor va ști nu numai cine a trecut în mod specific, ci și cum se comportă o persoană, dacă are nevoie de ceva. nu reprezintă dacă este o amenințare pentru sine sau pentru alții.

Un senzor de dimensiunea unui buton va putea anunța o persoană în caz de pericol.

Grigory Bakunov de la Yandex este, de asemenea, de acord cu profesorul: „În viitorul apropiat, vom vedea un boom în dezvoltarea inteligenței artificiale înguste care ajută la rezolvarea unei sarcini destul de simple, dar pe care o vor rezolva chiar mai bine decât o persoană.”

Drepturi de autor pentru imagine iStock Legendă imagine Există tot mai multe întrebări etice legate de dezvoltarea IA

"Cel mai mod probabil dezvoltarea civilizației noastre este calea de sinteză a omului și a mașinii: băț, haine, mașină, telefon mobil, un stimulator cardiac sau un implant cohlear - pe măsură ce ne dezvoltăm, instrumentele noastre devin din ce în ce mai mult ca extensii ale corpului nostru. Deja mâine, mașinile vor putea primi comenzi mentale de la o persoană, vor percepe imagini vizuale formate mental, vor putea transmite informații direct către creier - astfel de proiecte există deja în afara zidurilor celor mai avansate laboratoare tehnologice”, rezumă Sergey Markov.

Mai este nevoie de jurnaliști?

Financial Times a desfășurat un experiment destul de riscant anul trecut, provocând simultan corespondentul său de profil și un program inteligent numit Emma să scrie o copie. Ambele articole au trebuit apoi să fie citite de editorul Financial Times și să ghicească care dintre cele două note se afla în spatele jurnalistului și care computer.

Înainte de acest tip de „test de blocare”, corespondentul Financial Times a recunoscut: „Cred că programul cu siguranță va face față sarcinii mai repede decât mine. Dar, sper, o voi face în continuare mai bine”.

Și așa s-a întâmplat: Emma s-a dovedit cu adevărat a fi mai rapidă - programul a generat text bazat pe statistici privind rata șomajului în Marea Britanie în 12 minute. Jurnalistului i-a luat 35 de minute. Și, după cum ea însăși a recunoscut mai târziu, Emma și-a depășit așteptările. Programul nu numai că a gestionat cu pricepere faptele, ci și a pus știrile în context, sugerând cum un posibil Brexit (acesta a fost în mai 2016, înainte de referendumul privind părăsirea Marii Britanii din UE) ar putea schimba situația.

Drepturi de autor pentru imagine Thinkstock Legendă imagine Sistemele robotizate vor înlocui oamenii? Omenirii mai are 50 de ani, asigură experții

Dar Emma a făcut ceva mai rău decât un jurnalist. "Articolul Emmei a fost scris într-un limbaj ceva mai stângaci. Dar principalul lucru a fost că erau multe numere în el", a recunoscut editorul FT. "Și, poate, principalul lucru pe care încercăm să-l facem aici este să alege doar numere cu adevărat importante.”

Emma este un produs al startup-ului Stealth. Compania spune că Emma are o echipă de asistenți live, dar susține că tot ceea ce scrie sau face este doar produsul „creierului” ei.

Și totuși - este necesar să ne fie frică de AI?

Mulți, dacă nu toți, experții implicați astăzi în dezvoltarea sistemelor de inteligență artificială recunosc cu ușurință că AI nu va face în curând oamenii inutile. Tocmai pentru că inteligența artificială nu este încă atât de inteligentă. Principalul lucru care îi lipsește astăzi este capacitatea autonomă de a gândi.

"Acum nu ar trebui să vă fie frică de AI sub nicio formă. Puteți aștepta 30-40 de ani până vor avea loc unele schimbări cu adevărat radicale", a spus Bakunov.

Dar ceva se întâmplă deja: încetul cu încetul, linia dintre munca sau sarcina îndeplinită de un om și sarcina îndeplinită de o mașină se estompează. După cum explică experții, chiar și acum este uneori dificil de înțeles cine stă în interiorul sistemului - o persoană sau o mașină.

„Nu există criterii pentru când putem înțelege că conștiința a apărut în interiorul mașinii”, întreabă Bakunov.

Va deveni persoana o agrafă?

Un cunoscut adept al punctului de vedere alarmist, în cadrul căruia ororile descrise în Terminator pot deveni realitate, filozoful Nick Bostrom, este de părere că o IA care a atins nivelul intelectual al unei persoane va fi capabil să distrugă umanitatea.

Drepturi de autor pentru imagine Getty Images Legendă imagine Va deveni ceea ce este descris în film realitatea noastră zilnică?

Bostrom explică prin exemplul agrafelor: provoci inteligența artificială să facă agrafele cât mai mari și mai bune. La un moment dat, AI realizează că o persoană este o amenințare, deoarece poate opri computerul, ceea ce va fi contrar sarcinii de a face cât mai multe agrafe posibil. În cazul în care un om nu este o amenințare, AI decide că corpurile umane sunt formate din atomi care pot fi folosiți pentru a produce agrafe excelente. Rezultatul - computerul va aduce umanitatea la agrafe.

Acest scenariu pare multora a fi o exagerare. Potrivit lui Serghei Markov, de exemplu, „eficiența ridicată a realizării unui obiectiv absurd este incompatibilă cu absurditatea acestui obiectiv - aproximativ vorbind, un AI capabil să transforme întreaga lume în agrafe va fi inevitabil suficient de inteligent pentru a abandona un astfel de obiectiv. ."

Inteligența artificială este ca un pește de aur

Margaret Boden, specialist britanic în inteligență artificială și profesor de științe cognitive la Universitatea din Sussex, este sceptic în ceea ce privește afirmațiile despre apariția iminentă a mașinilor inteligente.

Drepturi de autor pentru imagine Getty Images Legendă imagine În mai 1997, Deep Blue II l-a învins pentru prima dată pe Garry Kasparov.

Profesorul dă un exemplu de „pește de aur” când, în schimbul libertății, un pescar își pune trei dorințe. Una dintre dorințe este să-și întoarcă fiul din război, a doua este de 50 de mii de dolari și a treia este ocazia de a-și pune o altă dorință dimineața.

În aceeași seară s-a auzit o bătaie la casa pescarului. Fiul a fost întors din război - într-un sicriu. Rybak a primit o asigurare de 50 de mii de dolari.

"Înlocuiește peștele din această pildă cu AI și totul devine clar - explică Boden. - Oh, da, a doua zi, pescarul a folosit a treia dorință și - le-a anulat pe cele două anterioare."

Este posibil să transferăm conștiința într-o mașină?

Serghei Markov:

„Dacă vorbim despre posibilitatea unui transfer complet al conștiinței, atunci precursorii moderni ai unei astfel de tehnologii a viitorului sunt proiecte precum Blue Brain, care vizează crearea de analogi electronici funcționali ai creierului, precum și proiecte care vizează crearea creierului. interfețe de mașină (BCI) - dispozitive pentru protezarea pierderii vederii, auzului, înlocuirea membrelor pierdute, chiar și a unor părți ale creierului.

Drepturi de autor pentru imagine Fototeca științifică Legendă imagine Scopul specialiștilor în inteligență artificială este de a crea o „inteligență artificială puternică” care ar fi capabilă să rezolve o gamă largă de probleme.

O zonă foarte interesantă și promițătoare este optogenetica (în principiu, pentru a conecta creierul și mașina, este posibil să se schimbe nu numai mașinile, ci și țesutul nervos însuși, creând în el fotoreceptori artificiali).

Când o gamă largă de probleme de inginerie sunt rezolvate în cadrul unor astfel de proiecte private, cred că sarcina transferului de conștiință va deveni destul de rezolvabilă. Visătorii propun deja scheme ipotetice pentru implementarea unui astfel de proiect.

De exemplu, Jan Korchmaryuk, care a propus odată denumirea de „settleretics” pentru direcția de cercetare legată de transferul conștiinței, consideră că cea mai promițătoare schemă este utilizarea nanoroboților specializați încorporați în neuronii creierului uman. Cu toate acestea, pentru implementarea cu succes a unei astfel de scheme, este necesar să se rezolve o serie de probleme complexe de inginerie.

Populara revistă americană de internet Wired a publicat un text extrem de curios al lui Kevin Kelly, în care critică în detaliu ideea pericolelor inteligenței artificiale. „NI” publică o traducere a acestui material, făcut de canalul Telegram Newochem cu mici reduceri.

„Am auzit că, în viitor, computerele cu inteligență artificială vor deveni atât de inteligente decât oamenii, încât ne vor lipsi de locuri de muncă și resurse și, în cele din urmă, omenirea se va sfârși. Dar este? Aceasta este întrebarea pe care mi se pune de fiecare dată când dau prelegeri despre AI.

Cei care au întrebat sunt la fel de serioși ca întotdeauna, neliniștea lor datorată parțial anxietăților unor experți care sunt chinuiți de aceeași întrebare. Printre aceștia se numără cei mai deștepți dintre contemporanii noștri - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris și Bill Gates.

Toți admit posibilitatea unui astfel de scenariu. La o conferință recentă despre AI, un panel format din nouă dintre cei mai luminați guru din domeniu a venit la concluzia unanimă că crearea inteligenței supraumane este iminentă și nu departe.

Și totuși, scenariul aservirii umanității de către inteligența artificială se bazează pe cinci ipoteze, care, la o examinare mai atentă, se dovedesc a fi nedovedite. Aceste afirmații pot fi adevărate în viitor, dar nimic nu a fost confirmat până în prezent.

Aici sunt ei:

1. Inteligența artificială devine deja mai inteligentă decât mintea umană, iar acest proces este exponențial.
2. Vom dezvolta o IA cu scop general similar cu a noastră.
3. Putem crea inteligență umană din siliciu.
4. Inteligența poate fi nelimitată.
5. Construirea unei superinteligențe grandioase ne va rezolva majoritatea problemelor.

În opoziție cu aceste postulate ortodoxe, pot cita următoarea erezie dovedită:

1. Inteligența nu este unidimensională, așa că „mai inteligent decât o persoană” este un concept lipsit de sens.
2. Oamenii nu sunt înzestrați cu o minte cu scop general, care să nu amenințe nici inteligența artificială.
3. Rivalitatea dintre om și computer va fi limitată de costuri.
4. Inteligența nu este nelimitată.
5. Crearea AI este doar o parte a progresului.

Dacă credința în înrobirea omului de către inteligența artificială se bazează pe cinci presupuneri fără temei, atunci această idee este mai asemănătoare cu credințele religioase - mituri. În capitolele următoare, voi completa contraargumentele mele cu fapte și voi demonstra că inteligența artificială supraomenească nu este într-adevăr altceva decât un mit.

Cea mai comună concepție greșită despre AI provine din credința la fel de populară despre inteligența naturală că este unidimensională. În științele exacte, mulți descriu inteligența așa cum a făcut Nick Bostrom în cartea sa Supermind - literalmente ca un grafic liniar unidimensional cu amplitudine crescândă.

La un capăt se află ființe cu cel mai scăzut nivel de inteligență, de exemplu, animalele mici, iar la celălalt - genii, ca și cum nivelul de inteligență nu diferă cu nimic de nivelul sunetului, măsurat în decibeli. Desigur, într-un astfel de caz, este ușor să ne imaginăm o nouă creștere, în care nivelul de inteligență depășește cel mai înalt punct al graficului și chiar depășește-l.

Un astfel de model este echivalent topologic cu o scară, pe treptele căreia nivelurile de inteligență sunt dispuse în ordine crescătoare. Animalele mai puțin inteligente ocupă treptele inferioare ale scării, iar inteligența artificială de nivel superior va fi inevitabil situată deasupra noastră. Perioada de timp pentru care se întâmplă acest lucru este irelevant. Mult mai importanți sunt pașii ierarhiei înșiși - metricile creșterii inteligenței.

Problema cu acest model este că este mitic, ca modelul scării evolutive. Înainte de darwinism, fauna sălbatică era reprezentată ca o scară a ființelor vii, unde omul ocupa o treaptă deasupra animalelor mai primitive.

Și chiar și după Darwin, unul dintre cele mai comune concepte este scara evoluției. Demonstrează transformarea peștilor în reptile, a acestora în mamifere, a primatelor în oameni. Mai mult, fiecare creatură următoare este mai dezvoltată (și, desigur, mai inteligentă) decât predecesorul ei. Deci scara intelectului se corelează cu scara universului. Cu toate acestea, ambele modele reflectă opinii complet antiștiințifice.

Un model mai precis pentru evoluția naturală ar fi un disc care diverge spre exterior, ca în imaginea de mai sus. Pentru prima dată o astfel de structură a fost dezvoltată de David Hillis de la Universitatea din Texas, el a făcut-o pe baza ADN-ului. Această mandala genealogică începe în centru cu cele mai primitive forme de viață și apoi se ramifică spre exterior. Timpul merge înainte, deci cel mai mult forme ulterioare viețile sunt situate în jurul perimetrului cercului.

Această imagine evidențiază un fapt de neînțeles despre evoluție de importanță fundamentală - toate viețuitoarele au evoluat în mod egal. Omul este situat pe partea exterioară a discului împreună cu gândaci, moluște, ferigi, vulpi și bacterii.

Fără excepție, toate speciile au trecut printr-un lanț inextricabil de reproducere cu succes de trei miliarde de ani, ceea ce înseamnă că bacteriile și gândacii au evoluat la fel de mult ca oamenii. Nu există scări.

La fel, nu există o scară a inteligenței. Inteligența nu este unidimensională. Este un complex diferite feluriși modalități de cunoaștere, fiecare dintre ele fiind continuă. Să facem un exercițiu simplu pentru a măsura inteligența la animale. Dacă intelectul ar fi unidimensional, am putea clasifica cu ușurință papagalul, delfinul, calul, veverița, caracatița, balena albastră, pisica și gorila în ordine crescătoare a intelectului.

Nu acum dovada stiintifica existența unei astfel de secvențe. Motivul pentru aceasta poate fi lipsa diferențelor între nivelul de inteligență al anumitor animale, dar și acest lucru este nerezonabil.

Zoologia este bogată în exemple de diferențe izbitoare în gândirea animalelor. Poate că toate animalele sunt înzestrate cu inteligență „de scop general”? Poate, dar nu avem un singur instrument pentru a măsura acest tip de inteligență. Cu toate acestea, avem multe sisteme de măsurare pentru diferite tipuri de cunoaștere.

În loc de o singură linie de decibeli, ar fi mai corect să descriem inteligența ca o diagramă a spațiului de probabilitate, ca în vizualizarea formelor posibile, care a fost creată de algoritmul lui Richard Dawkins. Inteligența este un continuum combinatoriu. Multe noduri, fiecare dintre acestea fiind un continuum, creează un complex de diversitate colosală în multe dimensiuni. Unele tipuri de inteligență pot fi foarte complexe, cu un set mare de sub-noduri de gândire. Altele sunt mai simple, dar mai extreme, ajung în punctul extrem al spațiului.

Aceste complexe, care înseamnă pentru noi diferite tipuri de intelect, pot fi percepute ca simfonii interpretate pe diferite tipuri de instrumente muzicale. Ele diferă nu numai prin volum, ci și prin melodie, culoare, tempo etc. Vă puteți gândi la ele ca pe un ecosistem. În acest sens, diferitele componente ale nodurilor gândirii sunt interdependente și sunt construite unele de altele.

După cum spunea Marvin Minsky, conștiința umană este o societate a rațiunii. Gândirea noastră este un ecosistem complet. Creierul nostru are multe moduri de cunoaștere care îndeplinesc diferite funcții mentale: deducție, inducție, inteligență emoțională, gândire abstractă și spațială, memorie pe termen scurt și pe termen lung.

Toate sistem nervos O persoană este o parte a creierului cu propriul nivel de cunoaștere. De fapt, procesul de gândire este realizat nu de creier, ci de întregul corp uman.

Toate varietățile de gândire diferă atât între specii, cât și între membrii aceleiași specii. O veveriță își poate aminti de ani de zile locația exactă a câtorva mii de ghinde, ceea ce este complet de neînțeles pentru o persoană. În acest tip de gândire, oamenii sunt inferiori proteinelor. Mintea unei veverițe este o combinație a acestei superputeri cu alte forme de inteligență în care o persoană este superioară unei veverițe. În regnul animal, se pot găsi multe exemple de superioritate a anumitor forme de inteligență animală asupra omului.

Aceeași situație s-a dezvoltat și cu inteligența artificială, care în unele zone este deja superioară omului. Orice calculator este un geniu al matematicii, iar memoria Google este deja în anumite privințe mai bună decât a noastră.

Unele IA realizează o astfel de activitate mentală de care nu suntem capabili. Memorarea fiecărui cuvânt de pe șase miliarde de pagini web este o sarcină imposibilă pentru oameni și un fleac pentru motoarele de căutare. În viitor, vom crea moduri complet noi de gândire care nu sunt disponibile omului și nu există în natură.

Inventatorii mașinilor zburătoare s-au inspirat din zborul natural - aripile batătoare. Mai târziu, însă, a fost inventată o aripă fixă ​​cu elice atașate, iar acesta a fost un principiu complet nou de zbor, care nu se găsește în natură.

Așa inventăm noi moduri de a gândi de care nicio specie nu este capabilă. Cel mai probabil, acestea vor fi principii aplicabile numai problemelor foarte specializate: de exemplu, noi construcții logice care sunt necesare doar în statistică și teoria probabilității.

Un nou tip de gândire va ajuta la rezolvarea problemelor cărora mintea umană nu le poate face față. Unele dintre cele mai dificile întrebări din afaceri și știință necesită o soluție în doi pași. Primul pas este să inventezi un nou mod de gândire naturală. Al doilea este să începeți să căutați răspunsuri împreună cu AI.

Oamenii vor începe să considere inteligența artificială mai inteligentă decât ei înșiși dacă poate rezolva cu ajutorul ei probleme nerezolvate anterior. De fapt, gândirea AI nu este mai bună decât a noastră, este doar diferită. Cred că principalul beneficiu al inteligenței artificiale este că este capabilă să gândească ca un străin, iar această alienare este principalul ei avantaj.

Mai mult, vom crea „comunități” complexe de AI, cu diferite mentalități. Vor fi atât de complexe încât vor putea rezolva probleme cărora nu le putem face față. Prin urmare, unii oameni vor crede în mod eronat că complexele AI sunt mai inteligent decât oamenii. Dar noi nu credem asta sistem de căutare Google este mai inteligent decât un bărbat, deși memoria lui este mai bună decât a noastră.

Este probabil ca aceste complexe de inteligență artificială să ne depășească în multe domenii, dar niciunul dintre ele nu va depăși oamenii de pretutindeni simultan. O situație similară există și cu noi forță fizică. La două sute de ani de la Revoluția Industrială, nicio mașină nu a depășit omul obișnuit în toate privințele, deși mașinile ca clasă îi depășesc cu mult pe oameni în ceea ce privește viteza de alergare, ridicarea greutăților, precizia de tăiere și alte activități.

În ciuda complexității structurii AI, este imposibil să o măsurați cu metodele științei moderne. Nu avem instrumentele pentru a spune care este mai dificil, un castravete sau un Boeing 747, și nu avem o modalitate de a măsura diferențele de complexitate. De aceea încă nu avem criterii exacte capacitati intelectuale.

În timp, va deveni din ce în ce mai dificil să stabilim care este mai dificil și, în consecință, mai inteligent: inteligența A sau inteligența B. Există multe domenii neexplorate ale activității mentale și, în principal, acest lucru ne împiedică să înțelegem că mintea nu este unidimensional.

A doua concepție greșită despre mintea umană este că credem că mintea noastră este universală. Această credință larg răspândită modelează calea pe care o parcurgem către inteligența generală artificială (AGI), promovată cândva de experții AI.

Totuși, dacă ne gândim la minte ca la un spațiu vast de posibilități, nu putem vorbi de o stare de scop general. Mintea umană nu ocupă un loc central abstract și alte tipuri specializate de minte nu se învârt în jurul ei.

Mai degrabă, inteligența umană este un tip de inteligență extrem de specific care a evoluat de-a lungul a milioane de ani pentru supraviețuirea speciei noastre pe această planetă. Dacă am fi vrut să ne punem intelectul printre toate celelalte tipuri posibile motiv, el ar fi undeva în colț - ca lumea noastră însăși, înghesuit la marginea unei galaxii uriașe.

Desigur, putem să ne imaginăm și uneori să inventăm un fel de gândire care este similară prin caracteristici cu un cuțit elvețian. Se pare că se descurcă cu multe sarcini, dar nu cu un bang.

Aceasta include și regula tehnică pe care toate lucrurile trebuie să se supună, indiferent dacă au fost create intenționat sau s-au născut. natural: „Nu este posibilă optimizarea tuturor măsurătorilor. Nu poți găsi decât compromisuri. Un aparat multifuncțional all-in-one nu poate depăși funcțiile specializate.”

Conștiința „Do-it-all” nu poate funcționa la egalitate cu artiștii specialiști sarcini specifice. Deoarece considerăm conștiința noastră un mecanism universal, credem că cunoașterea nu trebuie să se bazeze pe compromis și că este posibil să se inventeze inteligența artificială care să demonstreze gradul maxim de eficiență în toate tipurile de gândire.

Cu toate acestea, nu văd nicio dovadă pentru această afirmație. Pur și simplu nu am creat încă suficiente varietăți de conștiință pentru a ne permite să vedem imagine completă(deocamdată, preferăm să nu considerăm conștiința animalelor prin prisma unui parametru ca un tip separat de gândire cu o amplitudine variabilă).

O parte din această credință că gândirea noastră este cât se poate de universală provine din conceptul de calcul universal. Această presupunere a fost numită teza Church-Turing în 1950. Afirmă că toate calculele care satisfac anumiți parametri sunt echivalente.

Astfel, există o bază universală pentru toate calculele. Fie că calculul se face într-o singură mașină cu o mulțime de mașini rapide, o mașină cu performanță mai mică sau chiar într-un creier biologic, este același proces logic. Aceasta, la rândul său, înseamnă că putem simula orice proces de calcul (gândire) cu orice mașină care poate efectua calcule „universale”.

Cu acest principiu, susținătorii singularității își justifică așteptările că putem proiecta un creier artificial pe bază de siliciu care poate găzdui conștiința umană, că putem crea o inteligență artificială care va gândi la fel ca o persoană, dar de multe ori mai eficient. . Aceste speranțe ar trebui tratate cu un anumit scepticism, deoarece se bazează pe o interpretare greșită a tezei Church-Turing.

Poziția de pornire a acestei teorii este: „În condiții de memorie și timp nelimitat, toate calculele sunt echivalente”. Problema este că, în realitate, niciun computer nu are caracteristicile memoriei infinite sau timpului. Când faci calcule în lumea reală, componenta de timp este extrem de importantă, până la punctul în care este adesea o chestiune de viață și de moarte.

Da, toate tipurile de gândire sunt egale, dacă excludem aspectul temporal. Da, este posibil să imiteți procesul gândirii umane în orice matrice dacă alegeți să ignorați timpul sau limitările din lumea reală ale spațiului liber și memoriei.

Totuși, dacă includem variabila timp în această ecuație, va trebui să schimbăm semnificativ formularea principiului: „Două sisteme de calcul care funcționează pe platforme radical diferite nu vor produce calcule echivalente în timp real”.

Acest principiu poate fi reformulat astfel: „Singura modalitate de a obține modalități de gândire echivalente este de a le realiza pe aceeași bază. Mediul fizic pe care îți faci calculele – mai ales pe măsură ce gradul de complexitate a acestora crește – afectează semnificativ modul în care gândești în condiții de timp real.

Continuând lanțul logic, voi presupune că singura modalitate de a crea un tip de gândire cât mai apropiat de uman este să efectuăm calcule folosind materia care seamănă cât mai mult cu materia noastră cenușie.

Aceasta înseamnă că se poate presupune, de asemenea, că inteligența artificială voluminoasă, complexă, creată pe baza de siliciu uscat, va genera gândire stângace, complexă și nu similară cu tipurile de gândire umane. Dacă ar fi posibil să se creeze inteligență artificială care rulează pe materie umedă folosind neuroni artificiali precum cei umani, procesul de gândire al unei astfel de IA ar fi mult mai aproape de al nostru.

Avantajele unui astfel de sistem „umed” sunt proporționale cu apropierea mediilor fizice folosite de cele umane. Crearea unei astfel de substanțe ar necesita costuri materiale uriașe pentru a atinge un nivel cel puțin similar cu ceea ce ne este inerent prin natură. Și putem crea o persoană nouă în acest fel - trebuie doar să așteptați 9 luni.

De asemenea, așa cum am menționat mai devreme, gândim cu întreaga noastră ființă, nu doar cu conștiința noastră. Știința modernă are o mulțime de date despre modul în care sistemul nostru nervos influențează procesul de luare a deciziilor „rațional”, prezice și se adaptează. Cu cât luăm în considerare mai mult sistemul corpului uman, cu atât mai atent îl putem recrea ulterior. Inteligența artificială care operează pe o substanță radical diferită de a noastră (siliciu uscat în loc de carbon umed) va gândi și ea diferit.

Nu cred că această caracteristică este mai degrabă o „funcție, nu o eroare”. După cum am argumentat în al doilea paragraf al acestui articol, diferențele în proces de gandire AI este principalul său avantaj. Iată un alt motiv pentru care ar fi o greșeală să spunem că el este „mai inteligent decât creierul uman”.

În centrul conceptului de inteligență supraumană - și în special a teoriei auto-îmbunătățirii constante a unei astfel de AI - se află credința sinceră în nelimitarea inteligenței. Nu am găsit nicio dovadă pentru această afirmație.

Din nou, percepția eronată a inteligenței ca sistem definit de o singură dimensiune contribuie la răspândirea acestei afirmații, dar trebuie să înțelegem că ea rămâne nefondată. Nu există dimensiuni fizice infinite în univers - cel puțin, ele sunt încă necunoscute științei.

Temperatura nu este infinită - există indicatori de minim și maxim de frig și căldură. De asemenea, spațiul și timpul nu sunt nelimitate, la fel ca și viteza. Poate că axa numerică poate fi numită infinită, dar toți ceilalți parametri fizici au limitele lor. Desigur, mintea în sine este, de asemenea, finită.

Se pune întrebarea: unde sunt limitele inteligenței? Obișnuiam să credem că limita este undeva departe, la fel de „deasupra” noastră, cât suntem „de deasupra” furnicilor. Lăsând deoparte problema nerezolvată a unidimensionalității, cum putem demonstra că nu am atins încă limita? De ce nu putem fi coroana creației? Sau poate că am ajuns aproape la limita capacităților umane? De ce credem că inteligența este un concept în continuă evoluție?

Este mai bine să considerăm inteligența noastră ca una dintre varietățile unui număr imens de tipuri de gândire. Deși fiecare dimensiune a cunoașterii și calculului are o limită, dacă există sute de dimensiuni, atunci există nenumărate varietăți de inteligență, dar niciuna dintre ele nu este infinită în nicio dimensiune.

Pe măsură ce creăm sau întâlnim aceste nenumărate variații pe tema conștiinței, le putem experimenta ca fiind peste capacitatea noastră. În cea mai recentă carte a mea, The Inevitable, am schițat o listă cu unele dintre aceste soiuri care ne sunt inferioare într-un fel sau altul. Iată o parte din acea listă:

Mintea, cât mai aproape de om, dar cu o rată de reacție mai mare (cea mai simplă inteligență artificială);

O minte foarte lentă, ale cărei componente principale sunt spațiu amplu de stocare și memorie;

Inteligența universală, constând din milioane de conștiințe individuale care acționează la unison;

O minte stup formată dintr-un număr mare de inteligențe extrem de productive, neștiind că sunt una;

Borg supermind (o rasă de cyborgi cu o minte colectivă, care încearcă să asimileze toate lucrurile vii din seria Star Trek în colectivul lor - aproximativ Nou ce) - un ansamblu de intelecte extrem de funcționale, clar conștienți că sunt un întreg;

O minte concepută pentru a dezvolta conștiința personală a purtătorului, dar inutilizabilă pentru oricine altcineva;

Rațiunea, capabilă să-și imagineze o minte mai complexă, dar incapabil să o creeze;

Rațiune capabilă într-o zi să creeze cu succes o minte mai complexă;

Rațiune capabilă să creeze o minte mai complexă, care, la rândul ei, poate crea o minte și mai complexă etc.;

Reason, care are acces rapid la codul sursă (poate schimba oricând caracteristicile funcționării acestuia);

Minte super-logică, lipsită de capacitatea de a experimenta emoții;

Minte standard, orientată spre rezolvarea problemelor, dar incapabilă de introspecție;

O minte capabilă de introspecție, dar nu capabilă să rezolve sarcinile care i-au fost atribuite;

Mintea a cărei devenire ia o perioadă lungă timp, au nevoie de o minte protectoare;

O minte excepțional de lentă dispersată într-un spațiu fizic vast care pare „invizibil” pentru formele de conștiință care răspund mai rapid;

O minte care poate reproduce rapid și în mod repetat copii ale ei înșiși;

O minte capabilă să-și reproducă copiile și să rămână una cu ele;

Minte capabilă să atingă nemurirea trecând de la gazdă la gazdă;

Minte rapidă, dinamică, capabilă să schimbe procesul și natura gândirii;

Nano-minte, cea mai mică unitate independentă (în ceea ce privește dimensiunea și energia eliberată) capabilă de introspecție;

O minte specializată în scripting și prognoză;

O minte care nu uită niciodată nimic, inclusiv informații greșite;

Jumătate mașină, jumătate animal;

Jumătate mașină, jumătate cyborg androgin;

O minte care folosește analiza cantitativă de neînțeles pentru noi în munca sa.

Astăzi, unii numesc fiecare dintre varietățile enumerate de gândire supraumană AI, dar în viitor, diversitatea și alienarea acestor forme de inteligență ne vor obliga să apelăm la noi dicționare și să studiem în detaliu subiectul gândirii și inteligenței.

În plus, adepții ideii de IA supraumană presupun că nivelul abilităților sale mentale va crește exponențial (deși încă nu au un sistem de evaluare a acestui nivel). Poate că ei cred că procesul de dezvoltare exponențială este deja în curs.

Oricum, astăzi nu există nicio dovadă a unei astfel de creșteri, indiferent cum ai măsura. Altfel, asta ar însemna că capacitate mentala AI se dublează într-o anumită perioadă de timp.

Unde este confirmarea pentru asta? Singurul lucru care crește exponențial în acest moment este investiția în industria AI. Dar randamentul acestor investiții nu poate fi descris de legea lui Moore. AI nu devine de două ori mai inteligent în trei ani, sau chiar în zece ani.

Am întrebat o mulțime de experți în inteligență artificială, dar toată lumea a fost de acord că nu avem criterii de rezonanță. Când l-am întrebat pe Ray Kurzweil, adevăratul vrăjitor al exponentului, unde să găsesc dovezi ale dezvoltării exponențiale a IA, mi-a scris că dezvoltarea AI nu este explozivă, ci un proces gradual.

„Adăugarea unui nou nivel la ierarhie necesită atât o creștere exponențială a puterii de calcul, cât și o creștere a complexității algoritmului... Astfel, ar trebui să ne așteptăm la o creștere liniară a numărului de niveluri condiționate, deoarece fiecare dintre ele necesită o creșterea exponențială a propriilor capacități. Nu mai avem multe niveluri de dificultate pentru a atinge abilitățile AI ale neocortexului (partea principală a cortexului uman, care este responsabilă pentru funcțiile nervoase superioare - aproximativ Nou decât), așa că încă cred că presupunerile mele despre 2029 sunt corecte.”

Ray pare să spună că nu puterea inteligenței artificiale crește exponențial, ci eforturile de a o crea, în timp ce rezultatul lor crește doar cu un pas de fiecare dată. Acesta este aproape opusul ipotezei exploziei inteligenței. Acest lucru se poate schimba în viitor, dar în mod clar AI nu crește exponențial astăzi.

Așadar, atunci când ne imaginăm „boom-ul AI”, nu ar trebui să ne imaginăm ca o avalanșă, ci mai degrabă ca o împărțire în multe varietăți noi. Rezultatul progresului tehnologic nu va fi cel mai probabil un supraom, ci un supraom. Dincolo de cunoștințele noastre, dar nu neapărat „de mai sus”.

Un alt mit al aservirii superinteligenței, luat de la sine înțeles, dar cu greu susținut de dovezi, este că o inteligență aproape infinită poate rezolva rapid toate problemele noastre.

Mulți susținători ai IA fulgerătoare se așteaptă ca aceasta să declanșeze un boom în desfășurare. Eu numesc credința în acest „gândism”, termenul este tradus de Vyacheslav Golovanov - aproximativ Nou ce). Această abordare se bazează pe credința că progresul este împiedicat doar de un nivel insuficient de gândire sau de inteligență. (De asemenea, observ că credința în inteligența artificială ca panaceu pentru toate bolile este caracteristică pentru majoritatea oamenilor cărora le place să gândească pentru ei înșiși.)

Să luăm în considerare problema de a învinge cancerul sau de a prelungi viața. Acestea sunt probleme care nu pot fi rezolvate doar gândind. Nicio cantitate de gândire nu poate da seama cum îmbătrânesc celulele sau cum se scurtează telomerii. Nicio inteligență, oricât de cool, nu poate înțelege cum funcționează corpul uman prin simpla citire a întregii literaturi științifice cunoscute din lume și analizând-o.

Un super-AI nu poate să se gândească doar la toate experimentele de fisiune nucleară actuale și trecute și să vină cu o rețetă pentru fuziunea nucleară o zi mai târziu. Pentru a trece de la a nu înțelege la a înțelege orice subiect, ai nevoie de ceva mai mult decât doar gândire.

În realitate, există o mulțime de experimente, fiecare dintre ele oferă o mulțime de date contradictorii și necesită experimente suplimentare pentru a forma o ipoteză de lucru corectă. Gândirea numai la posibilele rezultate nu va produce rezultatul corect.

Gândirea (inteligența) este doar o parte a instrumentului științei. Cel mai probabil doar o mică parte. De exemplu, pur și simplu nu avem suficiente date pentru a ne apropia de rezolvarea problemei morții. În cazul lucrului cu organisme vii, majoritatea acestor experimente necesită timp. Metabolismul celular lent nu poate fi accelerat. Este nevoie de ani, luni sau cel puțin zile pentru a obține rezultate.

Dacă vrem să știm ce se întâmplă cu particulele subatomice, nu este suficient să ne gândim doar la ele. Trebuie să construim modele fizice foarte mari, foarte complexe, foarte sofisticate pentru a afla. Chiar dacă cel mai mult fizicieni inteligenți deveniți de o mie de ori mai deștepți decât acum, nu vor învăța nimic nou fără un ciocnitor.

Nu există nicio îndoială că super-AI poate accelera dezvoltarea științei. Putem crea modele computerizate de atomi sau celule, le putem accelera în multe feluri, dar există probleme care împiedică simulările să facă progrese instantanee.

Merită să ne amintim că simulările și modelele pot fi explorate mai rapid decât subiecții lor doar pentru că elimină anumite variabile. Aceasta este însăși esența modelării. De asemenea, este important de menționat că este nevoie de mult timp pentru a testa, studia și valida astfel de modele, astfel încât să corespundă nivelului subiecților lor. Testarea prin experiență nu poate fi accelerată.

Versiunile simplificate dintr-o simulare sunt utile pentru a găsi cele mai promițătoare modalități de a accelera progresul. Dar, în realitate, nu este nimic de prisos, totul contează într-o oarecare măsură - aceasta este o mare definiție a realității. Pe măsură ce modelele și simulările devin din ce în ce mai detaliate, cercetătorii se confruntă cu faptul că realitatea rulează mai repede decât simularea sa 100%.

Iată o altă definiție a realității: cea mai rapidă versiune a tuturor detaliilor și gradelor de libertate posibile. Dacă ai putea simula toate moleculele dintr-o celulă și toate celulele din corpul uman, acest model nu ar rula la fel de repede ca corpul uman. Indiferent cât de atent ai proiecta un astfel de model, va trebui totuși să petreci timp experimentând, fie că este un sistem real sau o simulare.

Pentru a fi utilă, inteligența artificială trebuie introdusă în lume, iar în această lume, ritmul necesar de inovare se schimbă destul de repede. Fără primele experimente, prototipuri, greșeli și implicare în realitate, intelectul poate gândi, dar nu va produce rezultate. Nu va face descoperiri de moment nici într-o secundă, nici într-o oră, nici într-un an după ce va fi numit „mai deștept decât un om”.

Apare AI. Desigur, rata de descoperire se va accelera pe măsură ce această inteligență artificială devine mai complexă, în parte pentru că inteligența artificială extraterestră va pune întrebări pe care niciun om nu le-ar pune, dar chiar și o inteligență foarte puternică (în comparație cu noi) nu garantează progresul imediat. Este nevoie de mult mai mult decât inteligență pentru a rezolva probleme.

Problemele cancerului și longevității nu sunt singurele pe care inteligența singură nu le poate rezolva. Există o concepție greșită comună printre susținătorii ideii de singularitate tehnologică: dacă creăm un AI care este mai inteligent decât oamenii, atunci acesta va începe brusc să se dezvolte și să creeze un AI și mai inteligent.

Noua inteligență artificială va gândi mai profund și va inventa ceva și mai inteligent și așa mai departe până când se va inventa ceva asemănător lui Dumnezeu. Nu există dovezi că doar gândirea este suficientă pentru a crea noi niveluri de inteligență. Acest tip de gândire se bazează pe credință.

Cu toate acestea, există multe dovezi că inventarea unei noi inteligențe eficiente necesită nu numai eforturi mentale, ci și experimente, date, întrebări dificile, încercare și eroare.

Înțeleg că s-ar putea să greșesc. În timp ce suntem pe stadiu timpuriu. Poate că vom descoperi o scară universală a inteligenței sau infinitul ei în toate sensurile. Există posibilitatea unei singularități tehnologice, pentru că știm foarte puține despre ce sunt inteligența și conștiința de sine. În opinia mea, totul indică faptul că acest lucru este puțin probabil, dar există încă o șansă.

Cu toate acestea, susțin obiectivele mai largi ale OpenAI: trebuie să dezvoltăm IA prietenoasă și să ne dăm seama cum să îi dăm valori care să se reproducă singure și să se potrivească cu ale noastre.

Există posibilitatea ca IA supraomenească să intre termen lung poate fi dăunătoare, dar această idee se bazează pe dovezi incomplete și nu trebuie luată în serios când vine vorba de știință, politică sau progres.

Un impact de asteroid pe Pământ ne-ar putea distruge, există posibilitatea unui astfel de rezultat (acest lucru este confirmat de Fundația B612), dar nu ar trebui să luăm în considerare un astfel de rezultat în chestiuni de încălzire globală, călătorii în spațiu sau urbanism.

Dovezile disponibile indică faptul că cel mai probabil IA nu va fi supraomenească. El va avea noi soiuri de gândire care sunt inaccesibile omului, dar fără o aplicație cuprinzătoare, el nu va deveni un zeu care să ne rezolve principalele probleme într-o clipă.

În schimb, va deveni un grup de inteligențe cu handicapat, ne va fi mai bine să lucrăm în domenii care ne sunt neobișnuite, împreună cu noi vor putea găsi soluții atât la problemele existente, cât și la cele noi.

Înțeleg cât de atractivă este ideea de IA supraomenească și divină. El ar putea fi următorul Superman. Dar, ca și Superman, acesta este un personaj fictiv. Undeva în univers, Superman ar putea exista, dar este foarte puțin probabil. Oricum ar fi, miturile pot fi utile și, odată create, nu dispar.

Ideea lui Superman va trăi pentru totdeauna. Ideea de IA supraomenească și de Singularitate apare acum și nu va fi uitată niciodată. Trebuie să înțelegem ce fel de idee este: religioasă sau științifică. Dacă investigăm problema inteligenței, artificială sau naturală, trebuie să înțelegem clar că conceptul nostru de IA supraomenească nu este altceva decât un mit.

Triburile insulelor izolate din Micronezia au luat contact pentru prima dată cu lumea exterioară în timpul celui de-al Doilea Război Mondial. Zeii au zburat din țări îndepărtate, au coborât din cer pe păsări zgomotoase, au adus daruri și au zburat pentru totdeauna. Cultele revenirii acestor zei și noi daruri s-au răspândit pe tot insulele. Chiar și acum, 50 de ani mai târziu, mulți încă așteaptă întoarcerea.

Inteligența artificială supraumană ar putea deveni un nou cult al încărcăturii pentru noi. Poate că peste o sută de ani, oamenii vor percepe timpul nostru în același mod: de parcă am crede în IA supraomenească și am așteptat zeci de ani să apară în orice moment și să ne aducă cadouri de neimaginat.

Cu toate acestea, IA non-supraumană există deja acum. Continuăm să căutăm o nouă definiție pentru ea, să o complicăm. Cu toate acestea, în în sens larg o minte străină pentru noi este un spectru de posibilități intelectuale, gândire, mecanisme de raționament, învățare, conștientizare de sine. AI se răspândește și va continua să se răspândească. Devine mai profund, mai divers, mai puternic.

Înainte de AI, nicio invenție nu putea schimba complet lumea. Până la sfârșitul secolului 21, inteligența artificială va fi atât de puternică încât va schimba totul în viața noastră.

Oricum ar fi, mitul unei IA supraumane care ne va oferi super-bogăție sau super-sclavie (sau ambele) va continua. Cu toate acestea, va rămâne un mit, care este puțin probabil să fie întruchipat în realitate.