Possibile minaccia da parte dell'intelligenza artificiale. Fisica

E altri famosi ricercatori hanno scritto lettera aperta, che chiede la creazione di norme di sicurezza nel campo degli sviluppi dell'intelligenza artificiale (AI). /sito web/

In particolare, hanno chiesto la ricerca e lo sviluppo di un sistema di controllo affidabile che impedisca all’intelligenza artificiale difettosa di danneggiare le persone. “È necessario svolgere un lavoro tecnico per garantire il pieno controllo umano”, afferma la lettera.

Nonostante il tono moderato della lettera, i luddisti, timorosi delle nuove tecnologie, furono presi dal panico. In risposta, sulla stampa sono apparse molte interviste e dichiarazioni di scienziati, dissipando queste paure.

Andrew Ng, un esperto di intelligenza artificiale di Baidu, ha dichiarato a Fusion: "Non vedo uno scenario realistico per come il software su cui stiamo lavorando oggi potrebbe diventare dirompente".

A sua volta, il giornalista Scott Alexander ha compilato un elenco di famosi scienziati coinvolti nello sviluppo dell’intelligenza artificiale che hanno parlato del potenziale pericolo dell’intelligenza artificiale.

Paura e apprensione

Stuart Russer, professore di informatica presso l’Università della California, Berkeley, ha paragonato lo sviluppo di controlli per l’intelligenza artificiale all’implementazione di misure di sicurezza per i reattori nucleari.

“Alcuni credono che questo problema non rappresenti una minaccia per l’umanità nei prossimi centinaia di anni. Dimenticano che Leo Szilard scoprì la reazione nucleare a catena 24 ore dopo che Rutherford aveva dichiarato con sicurezza che l’energia atomica non sarebbe mai stata prodotta”, ha scritto Russell.

Russell non è il solo secondo lui. In un sondaggio del 2014 condotto da Vincent Mueller e Nick Bostrom su 170 importanti esperti di intelligenza artificiale, il 18% riteneva che la creazione di una macchina super intelligente sarebbe un “vero disastro” per l’umanità. Il 13% ritiene che l’intelligenza artificiale avanzata avrebbe conseguenze negative per le persone. Poco più della metà degli scienziati ha affermato che avrebbe un effetto positivo.

Sebbene gli esperti abbiano opinioni contrastanti sull’impatto dell’intelligenza artificiale, la maggior parte concorda sul fatto che è solo questione di tempo prima che venga creata un’intelligenza artificiale avanzata. Secondo le previsioni, un’intelligenza artificiale uguale a quella umana verrà creata già nel 2050 (50% di probabilità) o entro il 2075 (90% di probabilità). E 30 anni dopo la sua creazione, apparirà una superintelligenza artificiale che supererà l'uomo sotto tutti gli aspetti.

Camion pazzeschi

Come potrebbe essere una rivolta delle macchine? Film di fantascienza come “Terminator”, “Robot”, “Animatrix” mostrano la guerra tra persone e cyborg.

A giudicare dai film di fantascienza, molti potrebbero avere l’impressione che un potenziale pericolo sia facile da evitare, perché l’intelligenza artificiale è essenzialmente solo un software per computer.

Tuttavia, l’intelligenza artificiale non ha bisogno di avere un corpo meccanico per acquisire potere nel mondo reale: può semplicemente iniziare a controllare tutti i nostri dispositivi elettronici quotidiani.

Stephen King ha presentato uno scenario del genere nel racconto "Trucks". Nella storia, scritta negli anni '70, i camion prendono coscienza e iniziano ad attaccare le persone. Un gruppo di persone si nasconde dai camion infuriati. I camion hanno ancora bisogno di carburante per funzionare e usano il codice Morse per ordinare alle persone di fare il pieno, altrimenti il ​​bulldozer farà saltare via il loro rifugio. Le persone obbediscono.

La storia si conclude con la visione del narratore secondo cui i camion hanno schiavizzato l'umanità e impongono i loro valori ovunque, costringendoli, ad esempio, a costruire autostrade in tutto il mondo. Il suono di un aereo che vola nel cielo lo porta fuori dal suo mondo fantastico.

La storia di Stephen King sembrava futuristica nell'epoca in cui è stata scritta, ma non è poi così lontana dalla realtà del mondo moderno. Camion a guida autonoma esistono già e in futuro le aziende potrebbero sostituire gli autisti con un sistema di navigazione autonomo per risparmiare denaro.

L’hacking di Sony dello scorso anno dimostra che i nostri sistemi informativi stanno diventando sempre più vulnerabili. Questa è una delle conseguenze della crescente informatizzazione delle infrastrutture.

Tuttavia, non c’è ancora motivo di preoccuparsi. L’intelligenza artificiale ha ancora molta strada da fare prima di poter eguagliare il cervello umano. L’esempio dei camion a guida autonoma lo dimostra bene. Sono ancora troppo imperfetti per guidare autonomamente nelle affollate strade cittadine.

Installeresti un'applicazione sul tuo telefono per leggere articoli dal sito web di epochtimes?

Un'apocalisse globale che coinvolge l'intelligenza artificiale (intelligenza artificiale) sta spaventando sempre più i principali ricercatori mondiali nel campo della tecnologia informatica. Potrebbe trattarsi di una rivolta di robot che, guidati dal loro programma e dai loro valori, vorranno distruggere le forme di vita biologica sul pianeta. Uno scenario in cui le macchine controllate dall’intelligenza artificiale diventeranno la forma di vita dominante è possibile.

Perché scienziati di fama mondiale come Bill Gates, Steve Hawking, Elon Musk e altri sono preoccupati per questo problema e dichiarano pubblicamente la reale minaccia di questo scenario? Gli eventi accaduti nel film di Hollywood "Terminator" potrebbero essere profetici? È noto che qualsiasi storia di fantasia si basa su fatti reali.

I computer stanno migliorando nel mentire e nell’ingannare

La menzogna è una forma di comportamento sviluppata nel processo di evoluzione. Le persone, alcuni animali e uccelli, ricorrono all'inganno per ottenere cibo e benefici, il che aumenta le possibilità di sopravvivenza. Recentemente, questi metodi evolutivi sono stati padroneggiati con successo dalle macchine IA.

I progettisti del Georgia Institute of Technology hanno fatto progressi nella creazione di robot che utilizzano bugie e inganni nei loro algoritmi comportamentali. Gli scienziati ritengono che in futuro questa tecnologia troverà ampia applicazione nella sfera militare.

Si presume che i prototipi di robot potranno essere utilizzati in condizioni di combattimento reali. Questi meccanismi animati potranno svolgere attività di protezione delle provviste e dei depositi di munizioni. Utilizzando programmi di inganno, le guardie di sicurezza del futuro saranno in grado di modificare i loro percorsi di pattugliamento e compiere azioni imprevedibili. Come pianificato dagli sviluppatori, tali metodi aiuteranno a ingannare i potenziali nemici delle persone e di altri robot.

Secondo il professor Arkin, la ricerca è associata a una serie di problemi etici. La perdita di controllo sulla tecnologia, se cade nelle mani dei malvagi, può portare a un grave disastro.

Le macchine stanno conquistando il mercato del lavoro

Mentre l’opinione pubblica è impegnata a pensare ad una guerra globale che coinvolga l’intelligenza artificiale, gli scienziati descrivono una guerra più urgente e più urgente pericoli reali. Varie macchine e meccanismi automatici vengono sempre più utilizzati nella produzione, distruggendo posti di lavoro.

Molti analisti ed esperti concordano sul fatto che gli sviluppi attivi nel campo dei programmi logici e dell’automazione potrebbero portare molte persone a perdere il lavoro. Negli Stati Uniti d’America sono più di 250mila i robot coinvolti nella produzione del tradizionale lavoro umano.

Nei paesi orientali, che producono oltre il 90% della tecnologia mondiale, prevale ancora il lavoro manuale. Si può solo immaginare cosa accadrà alle persone impiegate nella produzione con l’avvento dei robot.

Non sono solo i lavoratori a esprimere preoccupazione per il fatto che le macchine sostituiranno gli esseri umani dal mercato del lavoro. Anche l'esperto di intelligenza artificiale Andrew Ng del Google Brain Project e uno dei massimi esperti di Baidu (l'equivalente cinese di Google) hanno espresso preoccupazione per gli sviluppi attivi nel campo dell'intelligenza artificiale. Secondo lui, l’intelligenza elettronica artificiale è in grado di fare le stesse cose di una persona comune, solo più velocemente, meglio e con meno risorse.

L’Università di Oxford nel Regno Unito ha condotto una ricerca che riflette le dinamiche dell’impatto dell’intelligenza artificiale sulla produzione. Secondo i dati ottenuti, nei prossimi vent’anni il 35% dei posti di lavoro sarà controllato dall’intelligenza artificiale.

I programmi per computer sono superiori agli hacker

Dal punto di vista di una persona comune, un hacker è come un superuomo, capace di ottenere qualsiasi risultato. In realtà si tratta di programmatori con un'espressione stanca sui volti e una tradizionale tazza di caffè.

L’hacking è un’attività piuttosto noiosa e noiosa che richiede molto tempo e risorse. Inoltre, interi dipartimenti di specialisti sono impegnati nello sviluppo di programmi progettati per proteggere dalle intrusioni. La più grande minaccia per gli hacker cattivi proviene dai sistemi di intelligenza artificiale avanzati.

L’intelligenza artificiale può essere utilizzata non solo per la protezione, ma anche per l’hacking. Nell’ambito di un programma di sicurezza informatica si sta sviluppando un’intelligenza artificiale in grado di individuare i punti deboli dei nemici e di proteggere online i propri dispositivi logici da minacce e attacchi esterni.

Secondo gli scienziati, gli hacker elettronici basati sull’intelligenza artificiale vengono sviluppati con l’obiettivo di raggiungere il bene comune e la prosperità. Ma se gli aggressori riuscissero ad accedere a tali programmi, potrebbero verificarsi eventi tristi. È spaventoso immaginare una situazione in cui una potente intelligenza artificiale viola i protocolli di sicurezza di una centrale nucleare e ne ottiene il controllo completo. In questa situazione, l’umanità potrebbe trovarsi impotente.

I programmi imparano a comprendere le motivazioni delle persone

La vita quotidiana di molte persone è indissolubilmente legata all'utilizzo dei vari social network. Una delle reti più popolari al mondo è Facebook. Ma pochi sanno che ogni visita di una persona alle pagine di un determinato social network non passa inosservata all'intelligenza artificiale. Durante la sua visita a Berlino, Mark Zuckerberg ha spiegato a cosa serve l’intelligenza artificiale.

Il programma è progettato per analizzare il comportamento degli utenti sulle pagine Facebook. Sulla base dei dati raccolti, il programma formula raccomandazioni sugli interessi e le preferenze del pubblico. SU in questa fase lo sviluppo è un sistema autonomo, capace di riconoscere modelli e di autoapprendere in conformità con il programma.

In futuro, si prevede di creare un'intelligenza artificiale intelligente in grado di migliorare autonomamente le proprie capacità riscrivendo il proprio codice. Ciò potrebbe portare a un miglioramento della vita o potrebbe diventare l'ultimo sviluppo dell'umanità.

I cyborg sostituiranno gli amanti

Molti film di Hollywood si basano sull’idea dell’amore e delle relazioni interspecie tra uomo e macchina. Dal regno della fantascienza, questo concetto sfocia nel mondo moderno.

Il futurista Ian Pearson ritiene che entro il 2050 il sesso tra una persona e un robot avverrà più spesso che solo tra persone. Lo scienziato collabora attivamente con Bondara, la principale catena di sexy store in Gran Bretagna.

Il rapporto del medico afferma che entro il 2025 verranno sviluppati robot sessuali dotati di intelligenza artificiale. Entro il 2035, il sesso attraverso la realtà virtuale diventerà diffuso, al livello della moderna pornografia. Ed entro il 2050, il sesso con i robot diventerà una realtà quotidiana e diventerà la norma.

I difensori dei valori tradizionali sono negativamente disposti nei confronti del sesso con macchine intelligenti. Tali connessioni porranno l’asticella delle aspettative troppo in alto, il che influenzerà negativamente il modo in cui le donne vengono trattate.

Le macchine stanno diventando sempre più simili all’uomo

Gli sviluppatori nel campo della creazione di robot umanoidi, il giapponese Hiroshi Ishiguro e il cinese Sun Yang, hanno creato una macchina unica. Il cyborg Yang-Yan ha le sembianze del suo creatore e prende il nome da sua figlia. La macchina è dotata di intelligenza artificiale ed è in grado di eseguire una serie di semplici azioni.

Questo non è l’unico esempio umanoide di robotica. La Singapore Technological University ha anche proposto un moderno esempio di cyborg: Nadine. Questo prototipo è dotato anche di intelligenza artificiale e opera in un istituto scolastico.

A forma di attraente bruna con la pelle morbida, il cyborg ha una serie di funzioni integrate. Il robot può incontrare e salutare il suo interlocutore stringendogli la mano. Il dispositivo può anche essere installato contatto visivo e sorridi. L'intelligenza artificiale è in grado di ricordare gli ospiti e mantenere un dialogo semplice basato sull'esperienza precedente.

I robot acquisiscono sentimenti

I robot moderni non sono inferiori agli umani in termini di intelligenza. Grazie ai recenti sviluppi, è abbastanza difficile distinguere un cyborg da un essere umano. Finora, l’unica caratteristica che i robot in realtà non hanno è la capacità di esprimere emozioni. Gli scienziati di tutto il mondo stanno lavorando su questo problema. E presto i robot saranno completamente indistinguibili dalle persone.

Gli sviluppatori della filiale dell'Asia orientale di Microsoft Application & Services Group hanno rilasciato un programma unico. Il computer è in grado di condurre un dialogo con l'interlocutore e allo stesso tempo provare emozioni. L'intelligenza artificiale, chiamata Hiaoche, è capace di imitare lo stile di conversazione di una ragazza di diciassette anni.

Se mancano i dati, il sistema può ricorrere alla menzogna. Se viene sorpresa a tradire, Hiaoche potrebbe esprimere rabbia o imbarazzo. L’intelligenza artificiale può ricorrere al sarcasmo, essere sospettosa ed esprimere impazienza.

L'imprevedibilità delle risposte del programma ricorda la comunicazione con persona reale. Finora, la tecnologia non ha trovato ampia applicazione e viene spesso utilizzata per l'intrattenimento. Il creatore Hiaoche sta lavorando al miglioramento degli algoritmi logici, che potrebbero portare a una futura svolta fondamentale.

Presto le automobili saranno nelle nostre teste

Alla luce dei recenti sviluppi, si aprono nuove opportunità. Non sembra più fantastica, l'opportunità di imparare lingua straniera in pochi minuti, scaricandolo nel cervello. Ray Kurzweil, CTO di Google, ritiene che entro il 2030 sarà sviluppata la tecnologia per impiantare nanorobot nel cervello. Ciò eleverà l’intelligenza umana a un livello fondamentalmente nuovo.

Questi micromeccanismi trasformeranno la coscienza in un potente centro di calcolo. Una persona sarà in grado di ricordare immediatamente qualsiasi informazione, ordinare e inviare i propri pensieri all'archivio. Se necessario sarà possibile scaricare filmati, documenti e ricevere email alla testata.

Esperto nel campo dell'intelligenza artificiale, Kurzweil ritiene che la simbiosi con i nanorobot non solo aiuterà ad aumentare l'intelligenza, ma sarà anche in grado di curare una serie di malattie associate all'attività del sistema nervoso.

Le minacce derivanti dall’utilizzo di tale tecnologia possono essere paragonate a una teoria della cospirazione globale. Avendo acquisito il controllo mentale del principale politico del paese, l'IA sarà in grado di controllarlo come uno zombie dalla volontà debole. Inoltre, un tale sistema può essere utilizzato dai servizi di intelligence, il che non promette nulla di buono.

Come i robot diventano armi

Con la caduta Unione Sovietica, la Guerra Fredda non è finita. Due nuove superpotenze, Cina e Russia, sono emerse sulla scena mondiale. L'America, a sua volta, spende decine di miliardi di dollari per lo sviluppo nel campo della sicurezza informatica.

Il Pentagono ritiene che la chiave per la futura superiorità tecnologica risieda nell’uso dell’intelligenza artificiale. Lo sviluppo di sistemi autonomi di autoapprendimento, nonché di aree parallele e correlate, è in fase di sviluppo attivo. Sono già stati sviluppati prototipi di equipaggiamenti militari controllati a distanza; non resta che addestrarli a funzionare in modo indipendente.

L'uso di tali dispositivi durante la guerra promette grandi vantaggi. I soldati non dovranno esporsi al fuoco nemico e rischiare la vita. Anche il morale del nemico, in una guerra contro i robot non viventi, sarà minato.

Ci sono anche lato posteriore. Qualsiasi apparecchiatura informatica è soggetta a guasti e attacchi di sistema. In questo caso, i robot che escono fuori controllo sono in grado di rivolgere armi contro i loro creatori e i civili.

Molti importanti esperti di intelligenza artificiale non supportano l’idea di creare robot da combattimento autonomi. Ma, alla luce del crescente confronto militare nel mondo e dell’assenza di un divieto internazionale sull’uso di tali tecnologie, molti paesi conducono il loro sviluppo in assoluta segretezza. Presto appariranno sempre più rapporti sull'uso dei robot nei punti caldi del pianeta.

I robot stanno imparando nella direzione sbagliata

Anticipando possibili guasti nei programmi e per prevenire il sollevamento delle macchine, si stanno sviluppando nuovi concetti volti a spiegare alla macchina il comportamento corretto e indesiderato.

Questi sviluppi potrebbero potenzialmente rendere l’IA più umana. Alcuni scienziati vedono questo approccio come la chiave per impedire all’intelligenza artificiale di rivolgere armi contro l’umanità.

Esperimenti unici vengono condotti presso il Georgia Institute of Technology. I ricercatori, guidati da Mark Riedl e Brent Harrison, raccontano le storie dei computer, letteralmente. In questo modo, si sforzano di introdurre l’intelligenza artificiale nei valori umani sviluppandone l’etica. Gli scienziati utilizzano metodi utilizzati per allevare un bambino per insegnare il programma. L'intelligenza artificiale, come un bambino inesperto, non distingue tra i concetti di buono e cattivo.

Rimane un grave difetto in questo approccio. La storia dell'umanità contiene molti esempi di circostanze in cui interi paesi altamente sviluppati hanno costretto interi paesi altamente sviluppati a iniziare guerre e commettere terribili atrocità. Un esempio potrebbe essere la Germania fascista, i cui soldati hanno compiuto il genocidio di interi popoli. Allo stesso tempo, la cultura tedesca a quel tempo era una delle più sviluppate al mondo. Cosa impedirà all'IA di ripetere l'esperienza di Hitler?

L'intelligenza artificiale (AI) è un argomento che è stato a lungo sulle pagine delle riviste scientifiche popolari ed è costantemente toccato in film e libri. Più specialisti sviluppano quest'area della scienza, tanto più grandi mitiè coperta.

Lo sviluppo e il futuro dell’intelligenza artificiale preoccupano anche i dirigenti dello Stato. Non molto tempo fa, il presidente russo Vladimir Putin ha visitato l’ufficio Yandex in occasione del 20° anniversario dell’azienda, dove gli hanno spiegato quando l’intelligenza artificiale supererà l’intelligenza umana.

Chiunque comprenda anche solo minimamente l'essenza delle potenzialità dell'intelligenza artificiale capisce che questo argomento non può essere ignorato. Questo non è solo un importante argomento di discussione, ma probabilmente anche uno dei più significativi nel contesto del futuro.

Insomma, nel nostro Paese si registrano notevoli successi.

Quanto più velocemente si sviluppano le tecnologie di intelligenza artificiale, tanto più le persone si preoccupano di quanto velocemente rimarranno senza lavoro. È davvero così brutto?

Sì e no. L’umanità ha già più volte incontrato l’emergere di tecnologie che hanno rivoluzionato l’intero settore produttivo.

Questo è stato il caso della macchina a vapore durante la rivoluzione industriale, che ha praticamente distrutto molte professioni (principalmente legate al primitivo lavoro fisico), è stato il caso dei computer elettronici che hanno sostituito l'uomo in compiti basati su continui calcoli matematici.

Nei secoli XV-XVIII, quando in Inghilterra “le pecore mangiavano le persone”, le conseguenze sociali furono davvero catastrofiche. L'Inghilterra perse, secondo varie stime, dal 7 al 30% della sua popolazione. L’élite al potere di quel tempo era seriamente preoccupata di cosa fare con le persone in più. Jonathan Swift ha risposto a queste ricerche con un opuscolo divertente in cui proponeva di mangiare i figli dei poveri.

Tuttavia, oggi vediamo che le professioni estinte sono state sostituite da nuove e la popolazione della Terra è molto più numerosa rispetto al XVIII secolo. Nel XX secolo le conseguenze dell’automazione non erano più così catastrofiche dal punto di vista sociale. Tuttavia il pericolo non va sottovalutato.

“Tra 30 anni, i robot saranno in grado di fare quasi tutto ciò che possono fare gli esseri umani”, ha previsto Moshe Vardi, professore di ingegneria informatica e direttore del Ken Kennedy Institute for Information Technology presso la Rice University). Ciò porterà più del 50% degli abitanti del mondo a rimanere disoccupati."

I robot stanno rubando posti di lavoro

L'altro giorno, il presidente del comitato della Duma di Stato per la politica dell'informazione, le tecnologie dell'informazione e delle comunicazioni Leonid Levin ha affermato che il problema della sostituzione della forza lavoro con l'intelligenza artificiale è importante per la Russia.

Prima o poi, le persone saranno sostituite da un sistema automatizzato e il 2% della popolazione attiva del paese si riverserà sul mercato. Per questo bisogna pensare a come impiegare coloro che perderanno il lavoro a causa dello sviluppo delle tecnologie digitali, ha già detto Levin.

Secondo il presidente nel prossimo futuro dovremo far fronte ad un aumento della disoccupazione. Ma i robot “ci porteranno davvero via” il lavoro e vale la pena preoccuparsene?, ha detto a Reedus lo specialista di machine learning Sergei Markov.

Sergey, anche adesso esistono già “professioni morte” che non richiedono lavoro umano, anche se, a quanto pare, 10 anni fa nessuno pensava che, ad esempio, i conduttori sarebbero presto diventati inutili. Quali altre professioni sostituirà la tecnologia?

Ci stiamo avvicinando a un’epoca in cui le macchine supereranno gli esseri umani in quasi tutte le attività. Credo che la società debba affrontare questo problema prima che raggiunga la sua massima espressione. Se le macchine sono in grado di fare quasi tutto ciò che possono fare le persone, cosa rimarranno loro da fare? ha affermato Moshe Vardi, professore di ingegneria informatica e direttore del Ken Kennedy Institute for Information Technology presso la Rice University.

Per molto tempo, i limiti tecnologici hanno ostacolato l'automazione: le macchine non potevano riconoscere le immagini e il parlato, non potevano parlare, non potevano comprendere abbastanza bene il significato delle affermazioni in linguaggio naturale e non disponevano di dati sufficienti per apprendere molte cose familiari. agli esseri umani.

Grazie ai recenti progressi nel campo dell’intelligenza artificiale, molte di queste restrizioni sono state effettivamente rimosse. Inoltre, molte professioni stesse hanno subito una trasformazione, rendendole più adatte all’automazione.

Ad esempio, un moderno impiegato d'ufficio conduce la corrispondenza non su carta, ma in formato elettronico, un contabile effettua registrazioni non su carta, ma in un programma di contabilità, un operatore della macchina spesso controlla la macchina non con l'aiuto delle maniglie, ma con l'aiuto di un programma di controllo. Pertanto, ora il compito dell'automazione in molte professioni ha cessato di essere scientifico ed è diventato puramente ingegneristico.

È vero, finora è più probabile che il settore produttivo legato all'intelligenza artificiale crei posti di lavoro: abbiamo bisogno di specialisti nel campo dell'apprendimento automatico e della preparazione dei dati, dipendenti per la marcatura di matrici di formazione, specialisti dell'implementazione, ecc. Ma ad un certo punto, le pecore elettriche lo faranno sicuramente iniziare a mangiare le persone e le conseguenze devono essere affrontate ora.

Allo stesso tempo, è importante capire che è impossibile fermare il progresso tecnologico e che un tentativo in tal senso comporterebbe conseguenze molto più disastrose.

Potremo mai fidarci completamente dei robot (AI) o dovrebbe esserci ancora un fattore umano in ogni attività?

Ci sono diversi aspetti di questa domanda. Da un lato, in passato le persone erano diffidenti nei confronti di quasi tutte le tecnologie. Il primo ascensore, la prima macchina, il primo treno o aereo: tutto questo una volta era insolito e sembrava pericoloso a molti. Sì, per molti aspetti è stato pericoloso: i disastri causati dall'uomo hanno causato molte vittime.

Eppure, oggigiorno, tutte queste cose sono diventate familiari e non suscitano più grande paura. In questo senso, i nostri discendenti tratteranno i sistemi di intelligenza artificiale con più calma. Le persone a volte tendono a mistificare cose che non capiscono. Il selvaggio crede di vivere in una locomotiva a vapore spirito maligno, e la persona media moderna pensa che i nostri sistemi di intelligenza artificiale siano coscienti, anche se questo è tutt'altro che vero.

D’altra parte, non credo che i sistemi di intelligenza artificiale per scopi generali diventeranno mai parte del nostro ambiente produttivo. Secondo me, il futuro risiede piuttosto nei sistemi sintetici, cioè nell'unificazione dell'uomo e della macchina in un unico organismo. In questo senso, l’intelligenza artificiale del futuro sarà potenziata dall’intelligenza umana.

A proposito, non è del tutto corretto definire naturale l'intelligenza umana. Un bambino dalla nascita non ha intelligenza, tutto gli viene insegnato dalla società, dai genitori, ambiente. In questo senso, tu ed io siamo tutti essenzialmente “intelligenze artificiali” e le nostre paure associate all’intelligenza artificiale sono per molti versi paure verso noi stessi.

Recentemente, molti scienziati, ad esempio Stephen Hawking, Bill Gates o lo stesso Elon Musk, hanno iniziato a farsi prendere dal panico pensando che l'intelligenza artificiale condanni a morte l'umanità e vedono il futuro come una sorta di distopia. Tali previsioni dovrebbero essere prese sul serio?

Ad essere sincero, non avrei fretta di essere seriamente spaventato da queste affermazioni. Stephen Hawking non è certamente un esperto nel campo dell’intelligenza artificiale, e nemmeno Elon Musk.

Dall'altro lato della scala ci sono le dichiarazioni di persone come Andrew Ng, informatico americano, professore associato all'Università di Stanford, ricercatore di robotica e apprendimento automatico, specialista di spicco nel laboratorio di intelligenza artificiale della società cinese Baidu.

Eun, parlando del problema della sicurezza dell'intelligenza artificiale, lo paragona al problema della sovrappopolazione su Marte: ovviamente un giorno colonizzeremo Marte e poi, forse, ad un certo punto ci sarà un problema di sovrappopolazione lì. Ma vale la pena farlo oggi?

Anche Mark Zuckerberg si è mostrato piuttosto scettico riguardo alle dichiarazioni di Musk. “L’intelligenza artificiale migliorerà le nostre vite in futuro e prevedere la fine del mondo è molto irresponsabile”, ha affermato.

Personalmente, penso che le dichiarazioni di Musk dovrebbero essere viste in modo pragmatico: Musk vuole rivendicare un diritto su questo argomento e, idealmente, ricevere fondi dallo Stato per il suo sviluppo.

È davvero tutto così roseo e non c'è nulla di cui preoccuparsi?

I veri pericoli legati allo sviluppo dell’intelligenza artificiale, a mio avviso, si collocano su un piano completamente diverso da quanto comunemente si pensa. I rischi principali non sono legati al fatto che creeremo “Skynet” con la nostra, che schiavizzerà l’umanità. I rischi derivanti dall’introduzione dell’intelligenza artificiale e delle tecnologie di apprendimento automatico sono molto più prosaici.

Affidando la soluzione di problemi importanti all'uno o all'altro modello matematico, potremmo soffrire di errori commessi durante il loro sviluppo. L’intelligenza artificiale che replica le azioni degli esperti umani ne erediterà gli errori e i pregiudizi. Difetti nei sistemi di gestione della produzione o dei trasporti possono portare a disastri.

L'interferenza da parte di aggressori nel funzionamento di sistemi vitali in condizioni di totale automazione può portare a conseguenze pericolose. Più complessi sono i sistemi, maggiori sono le potenziali vulnerabilità che potrebbero avere, comprese quelle legate alle specificità di alcuni algoritmi di intelligenza artificiale.

Naturalmente, per gestire questi rischi è necessario creare Quadro legislativo, norme di sicurezza ragionevoli, metodi speciali per identificare le vulnerabilità. Alcuni sistemi di intelligenza artificiale verranno utilizzati per controllarne altri. È possibile che il codice dei sistemi vitali debba essere pubblicato per un audit indipendente. Insomma, gli specialisti in questo campo hanno ancora molto lavoro da fare.

Diritto d'autore sull'illustrazione Thinkstock Didascalia dell'immagine La simbiosi tra uomo e macchina è una delle vie dello sviluppo umano

Le macchine intelligenti hanno imparato a bluffare, a battere i professionisti a scacchi o a Go, a tradurre e riconoscere la voce umana. Ogni settimana veniamo a conoscenza di nuovi exploit di programmi informatici che possono già fare diagnosi mediche, disegnare come Rembrandt, cantare o generare testi. Le persone dovrebbero avere paura dell’intelligenza artificiale?

Il tema dell’intelligenza artificiale (AI) è diventato negli ultimi anni un tema davvero “caldo”. Gli scienziati lo attribuiscono al rapido sviluppo delle reti neurali (una delle aree di ricerca nel campo dell'intelligenza artificiale), che a sua volta è diventato possibile con l'avvento di potenti computer.

"Dall'inizio degli anni 2010, grazie agli impressionanti progressi nelle reti neurali multistrato (principalmente convoluzionali e ricorrenti), quest'area ha attirato un'attenzione significativa da parte di scienziati, ingegneri e investitori", commenta l'autore di uno dei programmi di scacchi russi, uno specialista nei metodi di apprendimento automatico Sergei Markov.

La comunità scientifica può discutere sui tempi della comparsa delle macchine intelligenti, ma su una cosa concorda: lo sviluppo della tecnologia avrà un impatto incondizionato sulla società, sull'economia e sulle relazioni tra le persone in futuro. Esistono già richieste di considerare i principi etici dello sviluppo dell’intelligenza artificiale, assicurandosi che l’intelligenza artificiale sia sviluppata in una direzione sicura per gli esseri umani.

Questo mIl materiale è stato preparato come risposta alla domandaS, inviatoedai nostri lettorisulle conquiste scientifiche. Puoi porre le tue domande su altri argomenti utilizzando questi link ( , ).

Effetto economico e impatto sul mercato del lavoro

La fantascienza e Hollywood hanno plasmato l'idea di "intelligenza artificiale" come la prossima forma di vita sul pianeta che schiavizzerà l'umanità in Matrix o orchestrerà un giorno del giudizio nucleare. Il Terminator finirà i sopravvissuti.

Diritto d'autore sull'illustrazione Immagini Getty Didascalia dell'immagine L'umanità morirà a causa di Skynet?

In effetti, nonostante ultime realizzazioni Nel campo dell’intelligenza artificiale, l’emergere di creature-macchine intelligenti è ancora lontano, ammettono scienziati ed esperti. Entrambi però consigliano di prestare attenzione adesso ad alcuni aspetti.

Secondo l’organizzazione di ricerca McKinsey Global Institute, nei prossimi dieci anni le nuove tecnologie cambieranno radicalmente il mercato del lavoro del pianeta, facendo risparmiare circa 50 trilioni di dollari.

I cambiamenti influenzeranno centinaia di milioni di posti di lavoro. Le persone sposteranno sempre più alcuni dei loro incarichi lavorativi e molte attività di routine sulla macchina, consentendo loro di concentrarsi sul lavoro creativo.

"Da un certo punto di vista, l'umanità nel suo insieme ha un compito importante e interessante: sviluppare ogni singolo individuo molto più velocemente di quanto l'umanità sviluppi i sistemi di intelligenza artificiale", afferma l'esperto, direttore della distribuzione tecnologica di Yandex Grigory Bakunov.

Ma insieme all’automazione, anche il personale meno qualificato soffrirà inevitabilmente, e ora è necessario pensare a come proteggerlo, riqualificarlo e prepararlo per una nuova vita.

Come dimostra la pratica, non solo gli operai, ma anche i lavoratori della conoscenza possono soffrire. Pochi giorni fa, Goldman Sachs ha sostituito il suo team di 600 trader con due persone e programmi di trading algoritmico automatizzato, per la cui manutenzione ha assunto 200 sviluppatori di software.

Diritto d'autore sull'illustrazione Thinkstock Didascalia dell'immagine Molti compiti saranno presto affidati ai sistemi robotici, che gradualmente inizieranno a sostituire le persone

L'intelligenza artificiale di per sé non è la stessa cosa dell'automazione dei processi, ma lo sviluppo dell'intelligenza artificiale porterà al fatto che sempre più compiti rientreranno nelle capacità di un programma per computer.

Tra le opzioni per risolvere il problema della sostituzione degli esseri umani con le macchine nel mercato del lavoro, come sottolinea Allison Dutman, coordinatrice del programma del Foresight Institute, un'organizzazione no-profit con sede nella Silicon Valley per la promozione delle nuove tecnologie, c'è l'introduzione del concetto di “reddito di base universale”, che dovrebbe ricevere ogni residente indipendentemente dalla sua età, reddito e livello di occupazione. Tali redditi verrebbero finanziati dalla cosiddetta tassa sul valore fondiario innovativo, la cui introduzione è attualmente oggetto di discussioni attive nella Silicon Valley.

L'intelligenza artificiale è una persona?

Un sistema robotico è una persona? Un computer intelligente può votare? Di che sesso è? Il rapporto tra uomo e macchina intelligente è già oggetto di discussione da parte dei membri del Parlamento europeo, che chiedono se ai futuri robot debba essere conferito lo status di “personalità elettronica”.

Come sottolinea Dutman, le persone sono riluttanti a condividere i diritti con coloro che non capiscono, il che significa che resisteranno all’“umanizzazione” dell’intelligenza artificiale.

Diritto d'autore sull'illustrazione AFP Didascalia dell'immagine Ciò che separa l’uomo dalla macchina è la capacità di pensare

"Considerando quanto tempo ha impiegato l'umanità per donare pari diritti Si può già presumere che tutte le persone, indipendentemente dal colore della pelle, dalla razza o dal sesso, non riconoscano immediatamente le macchine come uguali.

Insieme a quelle etiche, sorgono anche sottigliezze legali: chi si assumerà la responsabilità in caso di incidente di un veicolo senza pilota o di guasto di un dispositivo medico intelligente - e questioni morali: vale la pena sviluppare armi senza pilota in grado di agire all'insaputa di una persona ?

Il terzo enigma etico viene discusso più spesso di altri e preoccupa molto di più l’umanità: cosa può fare teoricamente la superintelligenza, una vera macchina intelligente, con l’umanità?

Insegnare l’etica dell’IA

Gli esperti nel campo dello sviluppo dell’intelligenza artificiale ammettono: anche se non nei prossimi 20-30 anni, l’umanità vivrà ancora abbastanza da vedere l’avvento della vera intelligenza artificiale, che sarà più intelligente del suo creatore.

“L’ultimo bastione verrà preso quando verrà creata la cosiddetta “IA forte” (Strong AI, Artificial General Intelligence), cioè un’intelligenza artificiale che sarà in grado di decidere all’infinito vasta gamma compiti intellettuali”, afferma Sergey Markov.

E, cosa più importante, tale intelligenza artificiale sarà in grado di pensare in modo indipendente.

La ricerca sulle minacce poste dall'intelligenza artificiale, nonché problemi etici Molti istituti sono coinvolti nelle nuove tecnologie, tra cui il Future of Life Institute, il Foresight Institute, il Future of Humanity Institute, OpenAI e altri.

La soluzione di Allison Dutman del Foresight Institute è di lasciare che sia il computer a leggere tutta la letteratura scientifica. articoli scientifici sollevando una questione etica e facendo di queste informazioni la base per le sue decisioni future.

Cosa sono le reti neurali e qual è il loro futuro?

La maggior parte degli esperti associa i progressi nello sviluppo dell’intelligenza artificiale allo sviluppo delle reti neurali.

Le reti neurali sono una delle aree di ricerca nel campo dell'intelligenza artificiale, basata sulla modellizzazione dei processi biologici che avvengono nel cervello umano.

È a loro che dobbiamo l'emergere di risultati impressionanti nel riconoscimento del parlato e delle immagini, nella diagnosi medica, nella traduzione di testi e nella creazione di immagini, nella generazione del parlato e nella composizione musicale.

Diritto d'autore sull'illustrazione iStock Didascalia dell'immagine Gli scienziati associano lo sviluppo dell'intelligenza artificiale allo sviluppo dei sistemi neurali.

Oggi, come ammettono gli esperti, le reti neurali sono riconosciute come uno dei migliori algoritmi di apprendimento automatico e le soluzioni basate su di esse mostrano attualmente i risultati più eccezionali.

E questo nonostante il fatto che le moderne reti neurali siano mille e mezzo volte più semplici del cervello di un topo.

"Finora, le reti neurali che stiamo creando sono relativamente piccole rispetto, ad esempio, alla rete neurale del cervello umano e, inoltre, sono un analogo molto semplificato delle reti neurali naturali. Pertanto, per ora, con l'aiuto di reti neurali, risolviamo principalmente problemi puramente applicativi", afferma Sergei Markov.

Ora vengono creati processori specializzati per l'addestramento di tali reti (i cosiddetti processori neuromorfici), che aumenteranno la velocità dei calcoli di diversi ordini di grandezza.

Gli sviluppatori ora non sono solo impegnati ad aumentare il numero di neuroni nella rete, ma anche a cambiare la progettazione delle reti. "I sistemi complessi di configurazione della rete sono ciò con cui attualmente viene condotto il maggior numero di esperimenti", afferma Grigory Bakunov.

Diritto d'autore sull'illustrazione iStock Didascalia dell'immagine Nel prossimo futuro ci saranno più assistenti umani “intelligenti”: microsensori nel muro, un sensore delle dimensioni di un pulsante che avvisa una persona in caso di pericolo

E il fatto che tali sistemi siano diventati relativamente accessibili a un gran numero di sviluppatori ordinari ha portato alla nascita di startup che sperimentano con le reti neurali, ad esempio Prisma (un'applicazione che consente di elaborare foto, trasformandole in stilizzazioni di dipinti di famosi artisti) e Mubert (un compositore online di musica elettronica).

Cosa ci aspetta nel prossimo futuro

Come prevede Nick Lane, professore all’University College di Londra e Principal Scientist presso i Nokia Bell Labs, le persone saranno circondate da ancora più “cose intelligenti”. Diventeranno più compatti ed efficienti.

Il professore fa il seguente esempio: se prima un sensore integrato nel muro poteva solo accorgersi del passaggio di qualcuno, in futuro saprà non solo chi è passato esattamente, ma anche come si comporta quella persona, se ha bisogno di qualcosa, non ha idea se rappresenta una minaccia per se stesso o per gli altri.

Un sensore delle dimensioni di un pulsante sarà in grado di avvisare una persona in caso di pericolo.

Anche Grigory Bakunov di Yandex è d'accordo con il professore: "Nel prossimo futuro vedremo un boom nello sviluppo dell'intelligenza artificiale ristretta, che aiuterà a risolvere un problema piuttosto semplice, ma che risolveranno anche meglio di una persona."

Diritto d'autore sull'illustrazione iStock Didascalia dell'immagine Ci sono sempre più questioni etiche legate allo sviluppo dell’intelligenza artificiale.

"Maggior parte modo probabile lo sviluppo della nostra civiltà è il percorso di sintesi tra uomo e macchina: bastone, vestiti, macchina, cellulare, pacemaker o impianto cocleare: man mano che cresciamo, i nostri strumenti diventano sempre più come estensioni del nostro corpo. Domani le macchine saranno in grado di ricevere comandi mentali dall'uomo, percepire immagini visive formate mentalmente, trasmettere informazioni direttamente al cervello: progetti del genere esistono già fuori dalle mura dei laboratori tecnologici più avanzati", riassume Sergei Markov.

I giornalisti servono ancora?

Il Financial Times l'anno scorso ha condotto un esperimento piuttosto rischioso, affidando contemporaneamente il compito di scrivere un testo al suo corrispondente di profilo e ad un programma intelligente di nome Emma. L'editore del Financial Times ha quindi dovuto leggere entrambi gli articoli e indovinare quale delle due storie era il giornalista dietro e quale il computer.

Prima di questo tipo di "crash test", il corrispondente del Financial Times ha ammesso: "Penso che il programma riuscirà sicuramente a far fronte al compito più velocemente di me. Ma spero che lo farò comunque meglio".

E così è successo: Emma si è rivelata davvero più veloce: il programma ha generato testo basato sulle statistiche sul tasso di disoccupazione in Gran Bretagna in 12 minuti. Il giornalista ha impiegato 35 minuti. E, come lei stessa ha ammesso in seguito, Emma ha superato le sue aspettative. Il programma non solo ha gestito abilmente i fatti, ma ha anche contestualizzato le notizie, suggerendo come una possibile “Brexit” (avvenuta nel maggio 2016, prima del referendum sull’uscita della Gran Bretagna dall’UE) potrebbe cambiare la situazione.

Diritto d'autore sull'illustrazione Thinkstock Didascalia dell'immagine I sistemi robotici sostituiranno gli esseri umani? All’umanità restano 50 anni, rassicurano gli esperti

Ma Emma ha fatto qualcosa di peggio di una giornalista. "L'articolo di Emma è stato scritto in un linguaggio un po' più goffo. Ma, cosa più importante, conteneva molti numeri", ha ammesso l'editore del FT. “E forse la cosa principale che stiamo cercando di fare qui è selezionare solo i numeri veramente importanti. "

Emma è un prodotto della startup Stealth. L'azienda afferma che Emma ha un team di assistenti dal vivo, ma sostiene che tutto ciò che scrive o fa è esclusivamente il prodotto del suo "cervello".

Eppure, dovremmo avere paura dell’intelligenza artificiale?

Molti, se non tutti, gli esperti coinvolti oggi nello sviluppo di sistemi di intelligenza artificiale ammettono prontamente che l’intelligenza artificiale non renderà presto le persone superflue. Proprio perché l’intelligenza artificiale non è ancora così intelligente. La cosa principale che gli manca oggi è la capacità autonoma di pensare.

"Ora non dovresti aver paura dell'intelligenza artificiale in nessuna forma. Puoi aspettare 30-40 anni prima che avvengano davvero cambiamenti radicali", afferma Bakunov.

Ma qualcosa sta già accadendo: il confine tra un lavoro o un compito svolto da una persona e un compito svolto da una macchina si sta gradualmente sfumando. Come spiegano gli esperti, anche adesso a volte è difficile capire chi è seduto all'interno del sistema: una persona o una macchina.

"Non esistono criteri per stabilire quando possiamo capire che la coscienza è sorta all'interno della macchina", chiede Bakunov.

La persona diventerà una graffetta?

Un noto sostenitore del punto di vista allarmista, nell'ambito del quale gli orrori descritti in Terminator possono diventare realtà, il filosofo Nick Bostrom, è dell'opinione che l'IA che ha raggiunto il livello intellettuale di una persona sarà in grado di distruggere l'umanità.

Diritto d'autore sull'illustrazione Immagini Getty Didascalia dell'immagine Quanto descritto nel film diventerà la nostra realtà quotidiana?

Bostrom lo spiega usando l'esempio delle graffette: si dà all'intelligenza artificiale il compito di creare graffette quanto più grandi e belle possibile. L'intelligenza artificiale a un certo punto si rende conto che la persona rappresenta una minaccia perché può spegnere il computer, il che sarebbe in conflitto con l'obiettivo di realizzare quante più graffette possibile. Nel caso in cui la persona non costituisca una minaccia, l'IA decide che i corpi umani sono fatti di atomi che possono essere utilizzati per realizzare ottime graffette. Il risultato è che il computer ridurrà l’umanità in graffette.

Questo scenario sembra a molti un’esagerazione. Secondo Sergei Markov, ad esempio, “un'elevata efficienza nel raggiungere un obiettivo assurdo è incompatibile con l'assurdità di questo obiettivo: in parole povere, un'intelligenza artificiale capace di trasformare il mondo intero in graffette sarà inevitabilmente abbastanza intelligente da abbandonare un simile obiettivo. "

L’intelligenza artificiale è come un pesce rosso

Margaret Boden, esperta britannica nel campo dell'intelligenza artificiale, professoressa di scienze cognitive all'Università del Sussex, è scettica riguardo alle affermazioni sull'imminente arrivo delle macchine intelligenti.

Diritto d'autore sull'illustrazione Immagini Getty Didascalia dell'immagine Nel maggio 1997, il computer Deep Blue II vinse per la prima volta una partita contro Garry Kasparov

Il professore fa l'esempio del “pesce rosso”, quando in cambio della libertà il pescatore esprime tre desideri. Uno dei desideri è che il figlio ritorni dalla guerra, il secondo sono 50mila dollari e il terzo è la possibilità di esprimere un altro desiderio la mattina dopo.

La sera stessa bussarono alla casa del pescatore. Il figlio è tornato dalla guerra - in una bara. Il pescatore ha ricevuto un'assicurazione di 50mila dollari.

"Sostituisci il pesce in questa parabola con l'intelligenza artificiale e tutto diventerà chiaro", spiega Boden, "Oh, sì, il giorno dopo il pescatore ha approfittato del terzo desiderio e ha annullato i due precedenti".

È possibile trasferire la coscienza in una macchina?

Sergej Markov:

"Se parliamo della possibilità di un trasferimento completo di coscienza, i moderni predecessori di tale tecnologia futura sono progetti come Blue Brain, volti a creare analoghi elettronici funzionanti del cervello, nonché progetti volti a creare interfacce cervello-macchina ( BCI) - dispositivi per protesi di perdita della vista, dell'udito, sostituzione di arti perduti, persino parti del cervello.

Diritto d'autore sull'illustrazione Libreria fotografica scientifica Didascalia dell'immagine L’obiettivo degli esperti di intelligenza artificiale è creare una “forte intelligenza artificiale” in grado di risolvere un’ampia gamma di problemi

Un'area molto interessante e promettente è l'optogenetica (in linea di principio, per connettere il cervello e una macchina, è possibile modificare non solo le macchine, ma anche il tessuto nervoso stesso, creando al suo interno fotorecettori artificiali).

Quando una vasta gamma di problemi ingegneristici verrà risolta nel quadro di tali progetti privati, penso che il problema del trasferimento della coscienza diventerà abbastanza risolvibile. I sognatori stanno già proponendo schemi ipotetici per l’attuazione di un simile progetto.

Ad esempio, Jan Korchmaryuk, che un tempo propose il nome "settleretic" per la direzione della ricerca relativa al trasferimento della coscienza, ritiene che lo schema più promettente sia l'uso di nanorobot specializzati introdotti nei neuroni del cervello umano. Tuttavia, per il successo dell’implementazione di un tale schema, è necessario risolvere una serie di complessi problemi ingegneristici”.

La popolare rivista online americana Wired ha pubblicato un testo estremamente interessante di Kevin Kelly, in cui critica a fondo l'idea dei pericoli dell'intelligenza artificiale. "NI" pubblica una traduzione di questo materiale, fatto utilizzando il canale telegramma Newochem con lievi riduzioni.

“Ho sentito che in futuro i computer dotati di intelligenza artificiale diventeranno molto più intelligenti degli esseri umani da privarci di posti di lavoro e risorse e, alla fine, l’umanità finirà. Ma lo è? Mi viene posta una domanda simile ogni volta che tengo una conferenza sull’intelligenza artificiale.

Gli interroganti sono più seri che mai, la loro preoccupazione è in parte dovuta alle preoccupazioni di alcuni esperti che sono tormentati dalla stessa domanda. Questi includono i più intelligenti dei nostri contemporanei: Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris e Bill Gates.

Tutti ammettono la possibilità di uno scenario del genere. In una recente conferenza sull’intelligenza artificiale, un gruppo di nove tra i guru più illuminati del settore venni alla conclusione unanime che la creazione di un’intelligenza sovrumana è inevitabile ed è proprio dietro l’angolo.

Eppure, lo scenario della schiavitù dell’umanità da parte dell’intelligenza artificiale si basa su cinque presupposti che, a un esame più attento, risultano non dimostrati. Queste affermazioni potrebbero essere vere in futuro, ma al momento non sono comprovate.

Eccoli:

1. L’intelligenza artificiale sta già diventando più intelligente della mente umana e questo processo è esponenziale.
2. Svilupperemo un’intelligenza artificiale generale simile alla nostra.
3. Possiamo creare l'intelligenza umana dal silicio.
4. L'intelligenza può essere illimitata.
5. La creazione di una grandiosa superintelligenza risolverà la maggior parte dei nostri problemi.

In contrasto con questi postulati ortodossi, posso citare la seguente provata eresia:

1. L’intelligenza non è unidimensionale, quindi “più intelligente di una persona” è un concetto privo di significato.
2. Le persone non sono dotate di intelligenza generica, che non rappresenta nemmeno una minaccia per l’intelligenza artificiale.
3. La concorrenza tra esseri umani e computer sarà limitata dai costi.
4. L'intelligenza non è illimitata.
5. La creazione dell’intelligenza artificiale è solo una parte del progresso.

Se la fede nella schiavitù dell'uomo da parte dell'intelligenza artificiale si basa su cinque presupposti infondati, allora questa idea è più simile alle credenze religiose: ai miti. Nei capitoli seguenti integrerò le mie controargomentazioni con i fatti e dimostrerò che l’intelligenza artificiale sovrumana non è altro che un mito.

L’idea sbagliata più comune sull’intelligenza artificiale deriva dalla visione altrettanto popolare dell’intelligenza naturale secondo cui essa è unidimensionale. Nelle scienze esatte, molti descrivono l'intelligenza come ha fatto Nick Bostrom nel suo libro Superintelligence, letteralmente come un grafico lineare unidimensionale con ampiezza crescente.

Da un lato ci sono esseri con il livello di intelligenza più basso, ad esempio piccoli animali, e dall'altro ci sono i geni, come se il livello di intelligenza non fosse diverso dal livello del suono misurato in decibel. Naturalmente, in questo caso, è facile immaginare un ulteriore aumento in cui il livello di intelligenza supera il punto più alto del grafico e addirittura lo supera.

Questo modello è topologicamente equivalente ad una scala, sui cui gradini sono disposti in ordine crescente i livelli di intelligenza. Gli animali meno intelligenti occupano i gradini più bassi della scala e l’intelligenza artificiale di livello superiore sarà inevitabilmente posizionata sopra di noi. Il periodo di tempo in cui ciò accade non ha importanza. Molto più importanti sono i passaggi della gerarchia stessa: i parametri della crescita dell'intelligenza.

Il problema con questo modello è che è mitico, proprio come il modello a scala evolutiva. Prima del darwinismo, la natura vivente era rappresentata come una scala di esseri viventi, dove l'uomo occupava un gradino sopra gli animali più primitivi.

E anche dopo Darwin, la scala dell'evoluzione rimane uno dei concetti più comuni. Dimostra la trasformazione dei pesci in rettili, di questi in mammiferi e dei primati in esseri umani. Inoltre, ogni creatura successiva è più sviluppata (e, ovviamente, più intelligente) della precedente. Pertanto, la scala dell'intelletto è correlata alla scala dell'universo. Tuttavia, entrambi i modelli riflettono visioni del tutto antiscientifiche.

Un diagramma più accurato per l'evoluzione naturale sarebbe un disco che si irradia verso l'esterno, come nell'immagine sopra. Questa struttura è stata sviluppata per la prima volta da David Hillis dell'Università del Texas, sulla base del DNA. Questo mandala genealogico inizia al centro con le forme di vita più primitive e poi si ramifica verso l'esterno. Il tempo va avanti, quindi di più forme successive le vite si trovano attorno al perimetro del cerchio.

Questa immagine evidenzia un fatto inestimabile sull'evoluzione di fondamentale importanza: tutti gli esseri viventi si sono evoluti allo stesso modo. L'uomo si trova nella parte esterna del disco insieme a scarafaggi, molluschi, felci, volpi e batteri.

Tutte le specie, senza eccezione, hanno attraversato una catena ininterrotta di riproduzione riuscita durata tre miliardi di anni, il che significa che i batteri e gli scarafaggi sono altamente evoluti quanto gli esseri umani. Non ci sono scale.

Allo stesso modo, non esiste una scala dell’intelligenza. L’intelligenza non è unidimensionale. Questo è un complesso vari tipi e modi di conoscere, ciascuno dei quali è continuo. Facciamo un semplice esercizio per misurare l'intelligenza negli animali. Se l’intelligenza fosse unidimensionale, potremmo facilmente classificare in ordine crescente di intelligenza il pappagallo, il delfino, il cavallo, lo scoiattolo, il polipo, la balenottera azzurra, il gatto e il gorilla.

Non adesso prova scientifica esistenza di tale sequenza. La ragione di ciò potrebbe essere la mancanza di differenze tra il livello di intelligenza di alcuni animali, ma anche questo è infondato.

La zoologia è ricca di esempi di sorprendenti differenze nel modo di pensare degli animali. Forse tutti gli animali sono dotati di intelligenza “generale”? Forse, ma non abbiamo un unico strumento per misurare questo tipo di intelligenza. Tuttavia, abbiamo molti sistemi di misurazione per diversi tipi di cognizione.

Invece di una singola linea di decibel, sarebbe più appropriato rappresentare l'intelligenza come un diagramma dello spazio di probabilità, come nella visualizzazione di possibili forme creata dall'algoritmo di Richard Dawkins. L’intelligenza è un continuum combinatorio. Molti nodi, ciascuno dei quali è un continuum, creano un complesso di colossale diversità in molte dimensioni. Alcuni tipi di intelligenza possono essere molto complessi, con un ampio insieme di sottonodi di pensiero. Altri sono più semplici, ma più estremi, raggiungono il punto estremo dello spazio.

Questi complessi, che per noi significano diversi tipi di intelligenza, possono essere percepiti come sinfonie eseguite su diversi tipi di strumenti musicali. Differiscono non solo nel volume, ma anche nella melodia, nel colore, nel tempo, ecc. Puoi percepirli come un ecosistema. In questo senso, le varie componenti dei nodi pensanti sono interdipendenti e nascono l'una dall'altra.

Come ha detto Marvin Minsky, la coscienza umana è una società della ragione. Il nostro pensiero è un ecosistema completo. Il nostro cervello ha molti modi di conoscere che svolgono diverse funzioni mentali: deduzione, induzione, intelligenza emotiva, pensiero astratto e spaziale, memoria a breve e lungo termine.

Tutto sistema nervoso una persona è una parte del cervello con il proprio livello di cognizione. In effetti, il processo di pensiero non viene eseguito dal cervello, ma dall'intero corpo umano.

Tutte le varietà di pensiero variano sia tra le specie che tra i membri della stessa specie. Uno scoiattolo può ricordare per anni la posizione esatta di diverse migliaia di ghiande, il che è del tutto incomprensibile per l'uomo. In questo modo di pensare gli esseri umani sono inferiori agli scoiattoli. L'intelligenza dello scoiattolo è una combinazione di questo superpotere con altre forme di intelligenza in cui gli umani sono superiori agli scoiattoli. Nel regno animale si possono trovare molti esempi della superiorità di certe forme di intelligenza animale rispetto all'intelligenza umana.

La stessa situazione si è verificata con l’intelligenza artificiale, che in alcuni ambiti è già superiore a quella umana. Qualsiasi calcolatrice è un genio della matematica e la memoria del motore di ricerca Google è già in qualche modo migliore della nostra.

Alcune IA svolgono attività mentali di cui non siamo capaci. Ricordare ogni parola su sei miliardi di pagine web è un compito arduo per gli esseri umani e un gioco da ragazzi per i motori di ricerca. In futuro creeremo modi di pensare completamente nuovi che non sono accessibili agli esseri umani e non esistono in natura.

Gli inventori degli aerei si sono ispirati al volo naturale: il battito delle ali. Tuttavia, in seguito fu inventata un'ala fissa con eliche attaccate ad essa, e questo era un principio di volo completamente nuovo, che non si trova in natura.

È così che inventiamo nuovi modi di pensare di cui nessun’altra specie è capace. Molto probabilmente, questi saranno principi che si applicano solo a problemi altamente specializzati: ad esempio, nuovi costrutti logici necessari solo in statistica e teoria della probabilità.

Un nuovo tipo di pensiero aiuterà a risolvere i problemi che la mente umana non può affrontare. Alcune delle domande più difficili nel mondo degli affari e della scienza richiedono soluzioni in due fasi. La prima fase è inventare un nuovo modo di pensare naturale. Il secondo è iniziare a cercare risposte insieme all’intelligenza artificiale.

Le persone inizieranno a considerare l’intelligenza artificiale più intelligente di loro se può aiutare a risolvere problemi precedentemente irrisolvibili. In effetti, il pensiero dell'intelligenza artificiale non è migliore del nostro, è semplicemente diverso. Credo che il vantaggio principale dell’intelligenza artificiale sia che è in grado di pensare come un alieno, e questa alienazione è il suo principale vantaggio.

Inoltre, creeremo “comunità” complesse di intelligenza artificiale con diversi modi di pensare. Saranno così complessi che saranno in grado di risolvere problemi che noi non possiamo risolvere. Pertanto, alcune persone penseranno erroneamente che i complessi AI lo siano più intelligente delle persone. Ma non lo pensiamo sistema di ricerca Google è più intelligente dell'uomo, anche se la sua memoria è migliore della nostra.

È probabile che questi complessi di intelligenza artificiale ci supereranno in molti settori, ma nessuno di essi supererà l’uomo ovunque contemporaneamente. Una situazione simile si è verificata con il ns forza fisica. Sono trascorsi duecento anni dalla rivoluzione industriale e nessuna macchina è diventata più forte della persona media sotto alcun aspetto, sebbene le macchine come classe siano significativamente superiori agli esseri umani nella velocità di corsa, nel sollevamento pesi, nella precisione del taglio e in altre attività.

Nonostante la crescente complessità della struttura dell’intelligenza artificiale, è impossibile misurarla utilizzando i metodi della scienza moderna. Non abbiamo gli strumenti per capire se un cetriolo o un Boeing 747 siano più complessi, né abbiamo un modo per misurare le differenze nella loro complessità. Ecco perché non abbiamo ancora criteri precisi capacità intellettuali.

Con il passare del tempo, diventerà sempre più difficile stabilire quale sia la più complessa e, di conseguenza, la più intelligente: l'intelligenza A o l'intelligenza B. Esistono molte aree inesplorate dell'attività mentale, e soprattutto questo ci impedisce di comprendere che la mente non è una- dimensionale.

Il secondo malinteso sulla mente umana è che crediamo che la nostra mente sia universale. Questa convinzione diffusa influenza il percorso che intraprendiamo verso la creazione dell’intelligenza generale artificiale (AGI), un tempo annunciata dagli esperti di intelligenza artificiale.

Tuttavia, se pensiamo alla mente come ad un vasto spazio di possibilità, non possiamo parlare di uno stato di scopo generale. La mente umana non occupa un posto centrale astratto e altri tipi di mente specializzati non ruotano attorno ad essa.

Piuttosto, l’intelligenza umana è un tipo di intelligenza estremamente specifica che si è evoluta nel corso di milioni di anni per la sopravvivenza della nostra specie su questo pianeta. Se volessimo collocare il nostro intelletto tra tutti gli altri tipologie possibili mente, sarebbe finito da qualche parte in un angolo, come il nostro stesso mondo, rannicchiato sul bordo di un'enorme galassia.

Naturalmente possiamo immaginare, e talvolta inventare, un modo di pensare simile nelle sue caratteristiche a un coltellino svizzero. Sembra che faccia fronte a molti compiti, ma non con il botto.

Ciò include anche una regola tecnica a cui tutte le cose devono obbedire, indipendentemente dal fatto che siano state create intenzionalmente o siano nate. naturalmente: “È impossibile ottimizzare tutte le misurazioni. Puoi trovare solo compromessi. Una macchina multifunzione per uso generale non può superare le funzioni specializzate.

La mentalità del "fai tutto" non può funzionare così bene come gli artisti specializzati. compiti specifici. Poiché consideriamo la nostra coscienza un meccanismo universale, crediamo che la cognizione non debba basarsi sul compromesso e che sia possibile inventare un'intelligenza artificiale che dimostri il massimo grado di efficienza in tutti i tipi di pensiero.

Tuttavia, non vedo alcuna prova per questa affermazione. Semplicemente non abbiamo ancora creato abbastanza varietà di coscienza per permetterci di vedere quadro completo(per ora preferiamo non considerare la coscienza degli animali attraverso il prisma di un parametro come un tipo di pensiero separato di ampiezza variabile).

Parte di questa convinzione che il nostro pensiero sia il più universale possibile deriva dal concetto di elaborazione universale. Questa ipotesi fu chiamata tesi di Church-Turing nel 1950. Afferma che tutti i calcoli che soddisfano determinati parametri sono equivalenti.

Esiste quindi una base universale per tutti i calcoli. Indipendentemente dal fatto che il calcolo venga eseguito da un'unica macchina con molti meccanismi veloci, da una macchina con una produttività meno elevata o addirittura da un cervello biologico, stiamo parlando dello stesso processo logico. Ciò a sua volta significa che possiamo simulare qualsiasi processo computazionale (pensiero) utilizzando qualsiasi macchina in grado di eseguire calcoli "universali".

Usando questo principio, i sostenitori della singolarità giustificano la loro aspettativa che saremo in grado di progettare un cervello artificiale a base di silicio in grado di ospitare la coscienza umana, che saremo in grado di creare un’intelligenza artificiale che penserà allo stesso modo di una persona, ma molto più efficiente. Queste speranze dovrebbero essere trattate con un certo grado di scetticismo, poiché si basano su un'errata interpretazione della tesi di Church-Turing.

Il punto di partenza di questa teoria è: “In condizioni di memoria e tempo illimitati, tutti i calcoli sono equivalenti”. Il problema è che in realtà nessun computer ha le caratteristiche di memoria o tempo infinito. Quando si eseguono calcoli nel mondo reale, la componente temporale è estremamente importante, al punto che spesso si tratta di vita o di morte.

Sì, tutti i tipi di pensiero sono uguali, se si esclude l'aspetto temporale. Sì, è possibile simulare il pensiero umano in qualsiasi matrice se si sceglie di ignorare il tempo o le limitazioni dello spazio e della memoria nella realtà.

Tuttavia, se si include la variabile tempo in questa equazione, si dovrà cambiare significativamente la formulazione del principio: “Due sistemi informatici che operano su piattaforme radicalmente diverse non eseguiranno calcoli equivalenti in tempo reale”.

Questo principio può essere riformulato come segue: “L’unico metodo per ottenere modi di pensare equivalenti è attuarli sulle stesse basi. Il supporto fisico su cui esegui i calcoli, soprattutto quando la loro complessità aumenta, influenza notevolmente il modo di pensare in tempo reale."

Continuando la catena logica, suppongo che l'unico metodo per creare un tipo di pensiero il più vicino possibile a quello umano sia eseguire calcoli utilizzando materia che somiglia molto alla nostra materia grigia.

Ciò significa che possiamo anche supporre che un’intelligenza artificiale voluminosa e complessa, creata sulla base del silicio secco, genererà tipi di pensiero goffi, complessi e non umani. Se si potesse creare un’intelligenza artificiale che funzioni sulla materia umida utilizzando neuroni artificiali simili a quelli umani, il processo di pensiero di tale intelligenza artificiale sarebbe molto più vicino al nostro.

I vantaggi di un tale sistema “umido” sono proporzionali alla vicinanza dei mezzi fisici utilizzati a quelli umani. La creazione di una tale sostanza richiederebbe enormi costi materiali per raggiungere un livello almeno simile a quello che è insito in noi per natura. E possiamo creare una nuova persona in questo modo: dobbiamo solo aspettare 9 mesi.

Inoltre, come accennato in precedenza, pensiamo con tutto il nostro essere, non solo con la nostra coscienza. La scienza moderna dispone di una grande quantità di dati su come il nostro sistema nervoso influenza, prevede e si adatta al nostro processo decisionale “razionale”. Quanto più dettagliatamente osserviamo il sistema del corpo umano, tanto più attentamente potremo ricrearlo successivamente. Anche l’intelligenza artificiale, che opera con una sostanza radicalmente diversa dalla nostra (silicio secco invece di carbonio umido), penserà diversamente.

Non penso che questa funzionalità sia più una "funzionalità piuttosto che un bug". Come ho affermato nel secondo paragrafo di questo articolo, le differenze in processo di pensiero L’intelligenza artificiale è il suo principale vantaggio. Ecco un'altra ragione per cui sarebbe sbagliato dire che è "più intelligente del cervello umano".

Al centro del concetto di intelligenza sovrumana - e in particolare della teoria del costante auto-miglioramento di tale intelligenza artificiale - c'è una sincera convinzione nell'illimitatezza dell'intelligenza. Non ho trovato alcuna prova per questa affermazione.

Ancora una volta, l’idea sbagliata dell’intelligenza come sistema definito da una sola dimensione contribuisce alla diffusione di questa affermazione, ma dobbiamo capire che rimane infondata. Nell'universo non esistono dimensioni fisiche infinite, o almeno non sono ancora note alla scienza.

La temperatura non è infinita: esistono valori minimi e massimi di freddo e caldo. Anche lo spazio e il tempo non sono illimitati, e nemmeno la velocità. Forse l'asse dei numeri può essere definito infinito, ma tutti gli altri parametri fisici hanno i loro limiti. Naturalmente, anche la mente stessa è finita.

La domanda sorge spontanea: dove sono i limiti dell’intelligenza? Siamo abituati a credere che il limite sia da qualche parte lontano, “sopra” di noi come noi siamo “sopra” le formiche. Tralasciando il problema irrisolto dell’unidimensionalità, come possiamo dimostrare che non abbiamo ancora raggiunto il limite? Perché non possiamo essere la corona della creazione? O forse abbiamo quasi raggiunto i limiti delle capacità umane? Perché crediamo che l’intelligenza sia un concetto in continua evoluzione?

È meglio percepire il nostro intelletto come una delle varietà di un numero enorme di tipi di pensiero. Sebbene ogni dimensione della cognizione e del calcolo abbia un limite, se esistono centinaia di dimensioni, allora esistono innumerevoli varietà di intelligenza, ma nessuna è infinita in nessuna dimensione.

Mentre creiamo o incontriamo queste innumerevoli variazioni sul tema della coscienza, potremmo sperimentarle come al di là delle nostre capacità. Nel mio ultimo libro, The Inevitable, ho delineato un elenco di alcune di queste varietà che sono inferiori a noi in un modo o nell’altro. Di seguito riporterò una parte di questo elenco:

Una mente il più vicino possibile a quella umana, ma con una velocità di reazione più elevata (l'intelligenza artificiale più semplice);

Una mente molto lenta, i cui componenti principali sono ampio spazio di archiviazione e memoria;

Intelligenza universale, costituita da milioni di coscienze individuali che agiscono all'unisono;

Una mente alveare composta da un gran numero di intelligenze estremamente produttive, ignare di essere una cosa sola;

Supermente Borg (una razza di cyborg con una mente collettiva, che cerca di assimilare nel proprio collettivo tutti gli esseri viventi della serie Star Trek - ca. Novità) - una moltitudine di intelligenze altamente funzionali, chiaramente consapevoli di essere un tutto unico;

Una mente creata con lo scopo di sviluppare la coscienza personale di chi lo indossa, ma inadatta a chiunque altro;

Una mente capace di immaginare una mente più complessa, ma non di poterla creare;

Una mente capace un giorno di creare con successo una mente più complessa;

Una mente che può creare una mente più complessa, la quale a sua volta può creare una mente ancora più complessa, ecc.;

Una mente che ha accesso rapido al suo codice sorgente (può modificare le caratteristiche del suo funzionamento in qualsiasi momento);

Mente superlogica, privata della capacità di provare emozioni;

Mente standard, volta a risolvere problemi assegnati, ma incapace di introspezione;

Una mente capace di introspezione, ma incapace di risolvere i problemi che le vengono assegnati;

La mente la cui formazione avviene un lungo periodo tempo, bisognoso di una mente protettiva;

Una mente eccezionalmente lenta, dispersa in uno spazio fisico vasto, che appare "invisibile" a forme di coscienza che rispondono più rapidamente;

Una mente capace di riprodurre rapidamente e ripetutamente copie di se stessa;

Una mente capace di riprodurre le sue copie e restare tutt'uno con esse;

Una mente capace di raggiungere l'immortalità passando da un ospite all'altro;

Una mente veloce e dinamica, capace di cambiare il processo e la natura del pensiero;

Nano-mente, la più piccola unità indipendente (per dimensioni e produzione di energia) capace di autoanalisi;

Una mente specializzata nella creazione di scenari e previsioni;

Una mente che non dimentica mai nulla, comprese le informazioni errate;

Metà macchina e metà animale;

In parte macchina, in parte cyborg androgino;

Una mente che utilizza nel suo lavoro analisi quantitative per noi incomprensibili.

Oggi alcuni chiamano ciascuno di questi tipi di pensiero AI sovrumano, ma in futuro la diversità e l'estraneità di queste forme di intelligenza ci costringeranno a ricorrere a nuovi dizionari e studiare in dettaglio il tema del pensiero e dell'intelligenza.

Inoltre, i sostenitori dell'idea di un'intelligenza artificiale sovrumana presumono che il livello delle sue capacità mentali aumenterà in modo esponenziale (sebbene non dispongano ancora di un sistema per valutare questo livello). Forse credono che il processo di sviluppo esponenziale sia già in atto.

In ogni caso, oggi non vi è alcuna prova di tale crescita, indipendentemente da come la si misuri. Altrimenti significherebbe questo capacità mentale Le IA raddoppiano in un certo periodo di tempo.

Dov'è la conferma di ciò? L’unica cosa che ora sta crescendo in modo esponenziale sono gli investimenti nel settore dell’intelligenza artificiale. Ma il rendimento di questi investimenti non può essere descritto dalla legge di Moore. L’intelligenza artificiale non diventa due volte più intelligente in tre anni, e nemmeno in dieci anni.

Ho chiesto a molti esperti nel campo dell’intelligenza artificiale, ma tutti concordano sul fatto che non esistono criteri per l’intelligenza. Quando ho chiesto a Ray Kurzweil, un vero mago dell’esponenziale, dove trovare prove dello sviluppo esponenziale dell’IA, mi ha scritto che lo sviluppo dell’IA non è un processo esplosivo, ma un processo graduale.

“Aggiungere un nuovo livello alla gerarchia richiede sia un aumento esponenziale della potenza di calcolo sia un aumento della complessità dell’algoritmo… Dovremmo quindi aspettarci un aumento lineare del numero di livelli condizionali, poiché ciascuno di essi richiede un aumento esponenziale delle nostre capacità. Non ci restano molti livelli di complessità per acquisire le capacità di intelligenza artificiale della neocorteccia (la parte principale della corteccia cerebrale umana, responsabile delle funzioni nervose superiori). ca. Novità cosa), quindi credo ancora che le mie ipotesi sul 2029 siano corrette”.

Ray sembra dire che non è il potere dell'intelligenza artificiale a crescere in modo esponenziale, ma gli sforzi per crearla, mentre il loro risultato viene semplicemente aumentato di un passo ogni volta. Questo è quasi l’opposto dell’ipotesi dell’esplosione dell’intelligence. Ciò potrebbe cambiare in futuro, ma chiaramente l’intelligenza artificiale oggi non sta crescendo in modo esponenziale.

Quindi, quando immaginiamo il “boom dell’intelligenza artificiale”, dovremmo pensarlo non come una valanga, ma piuttosto come una scissione in molte nuove varietà. Il risultato del progresso tecnologico molto probabilmente non sarà un superuomo, ma un superuomo. Al di là della nostra conoscenza, ma non necessariamente “al di sopra” di essa.

Un altro mito ampiamente accettato ma in gran parte non supportato sulla schiavitù da parte della superintelligenza è che un’intelligenza quasi infinita può risolvere rapidamente tutti i nostri problemi.

Molti sostenitori del rapido sviluppo dell’intelligenza artificiale si aspettano che crei un boom in atto. Chiamo la fede in questo “pensismo” (il termine è stato tradotto da Vyacheslav Golovanov - ca. Novità). Questo approccio si basa sulla convinzione che il progresso sia ostacolato solo da pensiero o intelligenza insufficienti. (Noterò anche che credere nell’intelligenza artificiale come panacea per tutti i mali è per lo più caratteristico delle persone a cui piace pensare.)

Consideriamo la questione della sconfitta del cancro o del prolungamento della vita. Questi sono problemi che non possono essere risolti pensando solo. Nessuna capacità di pensiero può capire come invecchiano le cellule o come si accorciano i telomeri. Nessuna intelligenza, per quanto interessante, può capire come funziona corpo umano, semplicemente leggendo tutta la letteratura scientifica conosciuta nel mondo e analizzandola.

La Super-AI non sarà in grado di pensare semplicemente a tutti gli esperimenti attuali e passati sulla scissione del nucleo atomico e il giorno dopo elaborare una ricetta già pronta per la fusione termonucleare. Per passare dall'incomprensione alla comprensione di qualsiasi argomento è necessario qualcosa di più del semplice pensiero.

In realtà, ci sono molti esperimenti, ognuno dei quali fornisce una serie di dati contraddittori e richiede ulteriori esperimenti per formulare l'ipotesi di lavoro corretta. Pensare solo ai possibili risultati non produrrà il risultato giusto.

Il pensiero (intelligenza) è solo una parte dello strumento della scienza. Molto probabilmente solo una piccola parte. Ad esempio, semplicemente non disponiamo di dati sufficienti per avvicinarci alla soluzione del problema della morte. Quando si lavora con organismi viventi, la maggior parte di questi esperimenti richiede tempo. Il metabolismo cellulare lento non può accelerare. Ci vogliono anni, mesi o almeno giorni per ottenere risultati.

Se vogliamo sapere cosa succede alle particelle subatomiche, non basta pensarci. Per scoprirlo dobbiamo costruire modelli fisici molto grandi, molto complessi e molto sofisticati. Anche se di più fisici intelligenti diventeranno mille volte più intelligenti di adesso, non impareranno nulla di nuovo senza il collisore.

Non c’è dubbio che la super-intelligenza artificiale possa accelerare lo sviluppo della scienza. Possiamo creare modelli computerizzati di atomi o cellule e possiamo accelerarli in molti modi, ma ci sono problemi che impediscono alle simulazioni di fare progressi immediati.

Vale la pena ricordare che le simulazioni e i modelli possono essere esaminati più velocemente dei loro soggetti semplicemente perché scartano determinate variabili. Questa è l'essenza stessa del modellismo. È anche importante notare che tali modelli richiedono molto tempo per essere testati, studiati e convalidati per garantire che siano rilevanti per i loro argomenti. I test basati sull’esperienza non possono essere accelerati.

Le versioni semplificate nella simulazione sono utili per trovare i modi più promettenti per accelerare i progressi. Ma in realtà nulla è superfluo, tutto conta in una certa misura: questa è una grande definizione della realtà. Man mano che i modelli e le simulazioni diventano sempre più dettagliati, i ricercatori si trovano ad affrontare il fatto che la realtà corre più velocemente della sua simulazione al 100%.

Ecco un'altra definizione di realtà: la versione più veloce di tutti i possibili dettagli e gradi di libertà. Se potessimo modellare tutte le molecole di una cellula e tutte le cellule di un corpo umano, il modello non funzionerebbe alla stessa velocità del corpo umano. Non importa quanto attentamente progetti un modello del genere, dovrai comunque dedicare del tempo alla sperimentazione e non importa se si tratta di un sistema reale o di una simulazione.

Per essere utile, l’intelligenza artificiale deve essere introdotta nel mondo, e in questo mondo il ritmo necessario dell’innovazione sta cambiando abbastanza rapidamente. Senza primi esperimenti, prototipi, errori e confronto con la realtà, l'intelletto può pensare, ma non produrrà risultati. Non farà alcuna scoperta immediata né un secondo, né un’ora, né un anno dopo essere stato definito “più intelligente dell’uomo”.

Appare l'IA. Naturalmente, il tasso di scoperta accelererà man mano che questa intelligenza artificiale diventa più complessa, in parte perché l’intelligenza artificiale straniera porrà domande che nessun essere umano si porrebbe, ma anche un’intelligenza molto potente (rispetto a noi) non garantisce progressi immediati. Risolvere i problemi richiede molto più della semplice intelligenza.

I problemi del cancro e dell’aspettativa di vita non sono gli unici che l’intelligenza da sola non può risolvere. Un malinteso comune tra i sostenitori della singolarità tecnologica è che se creiamo un’intelligenza artificiale più intelligente degli esseri umani, improvvisamente si evolverà e creerà un’intelligenza artificiale ancora più intelligente.

La nuova intelligenza artificiale penserà più in profondità e inventerà qualcosa di ancora più intelligente, e così via finché non verrà inventato qualcosa di divino. Non ci sono prove che pensare da solo sia sufficiente per creare nuovi livelli di intelligenza. Questo tipo di contemplazione si basa sulla fede.

Tuttavia, esistono numerose prove del fatto che inventare una nuova intelligenza efficace richiede non solo uno sforzo mentale, ma anche esperimenti, dati, domande difficili, tentativi ed errori.

Capisco che potrei sbagliarmi. Già che ci siamo fase iniziale. Forse scopriremo una scala universale dell'intelligenza o la sua infinità in tutti i sensi. Esiste la possibilità di una singolarità tecnologica, perché sappiamo molto poco di cosa siano l’intelligenza e l’autoconsapevolezza. A mio avviso tutto indica che ciò è improbabile, ma esiste ancora una possibilità.

Tuttavia, sostengo gli obiettivi più ampi di OpenAI: dobbiamo sviluppare un’IA amichevole e capire come darle valori che siano autoreplicanti e allineati con i nostri.

Esiste la possibilità che l'A.I. lungo termine può essere dannoso, ma questa idea si basa su prove incomplete e non dovrebbe essere presa sul serio quando si tratta di scienza, politica o progresso.

Un asteroide che colpisca la Terra potrebbe distruggerci, è una possibilità (lo conferma la Fondazione B612), ma non dovremmo considerare un simile risultato in materia di riscaldamento globale, viaggi spaziali o pianificazione urbana.

Le prove disponibili indicano che è probabile che l’intelligenza artificiale non sarà sovrumana. Avrà nuove varietà di pensiero inaccessibili all'uomo, ma senza un'applicazione completa non diventerà un dio che risolverà in un istante i nostri problemi principali.

Diventerà invece un’aggregazione di intelletti con disabilità, lavoreranno meglio di noi in ambiti a noi sconosciuti e insieme a noi potranno trovare soluzioni sia ai problemi esistenti che a quelli nuovi.

Capisco quanto sia attraente l'idea di un'intelligenza artificiale sovrumana e divina. Potrebbe diventare il nuovo Superman. Ma, come Superman, è un personaggio immaginario. Superman potrebbe esistere da qualche parte nell'universo, ma è altamente improbabile. Comunque sia, i miti possono essere utili e, una volta creati, non scompaiono.

L'idea di Superman vivrà per sempre. L’idea dell’intelligenza artificiale sovrumana e della singolarità sta emergendo ora e non sarà mai dimenticata. Dobbiamo capire che tipo di idea è questa: religiosa o scientifica. Se esploriamo la questione dell’intelligenza, artificiale o naturale, dobbiamo comprendere chiaramente che le nostre idee sull’IA sovrumana sono solo un mito.

Le tribù delle isole isolate della Micronesia entrarono in contatto per la prima volta con il mondo esterno durante la seconda guerra mondiale. Gli dei volarono da terre lontane, scesero dal cielo su uccelli rumorosi, portarono doni e volarono via per sempre. Culti del ritorno di questi dei e nuovi doni si diffusero in tutte le isole. Anche adesso, 50 anni dopo, molti stanno ancora aspettando il loro ritorno.

L’intelligenza artificiale sovrumana potrebbe diventare il nostro nuovo culto del carico. Forse tra cento anni, le persone percepiranno il nostro tempo allo stesso modo: come se credessimo nell’intelligenza artificiale sovrumana e aspettassimo per decenni che appaia da un momento all’altro e ci porti doni inimmaginabili.

Tuttavia, l’intelligenza artificiale non sovrumana esiste già. Continuiamo a cercare una nuova definizione per complicarlo. Tuttavia, dentro in senso lato La mente che ci è estranea è uno spettro di capacità intellettuali, pensiero, meccanismi di ragionamento, apprendimento, autocoscienza. L’intelligenza artificiale si sta diffondendo e continuerà a diffondersi. Diventa più profondo, più diversificato, più potente.

Prima dell’intelligenza artificiale, nessuna invenzione poteva cambiare completamente il mondo. Entro la fine del 21° secolo, l’intelligenza artificiale sarà così potente da cambiare ogni cosa nella nostra vita.

Comunque sia, il mito dell’intelligenza artificiale sovrumana che ci darà la super-ricchezza o la super-schiavitù (o entrambe) continuerà a vivere. Resterà però un mito, che difficilmente potrà tradursi in realtà”.