Възможна заплаха от изкуствен интелект. Екстрасенси

И други известни изследователи написаха отворено писмо, призовавайки за създаване на стандарти за безопасност в областта на разработването на изкуствен интелект (AI). /сайт/

По-специално, те призоваха за изследване и разработване на надеждна система за контрол, която да не позволи на неправилно функциониращ изкуствен интелект да навреди на хората. „Трябва да се извърши техническа работа, за да се осигури пълен човешки контрол“, се казва в писмото.

Въпреки умерения тон на писмото, лудитите, уплашени от новите технологии, се паникьосаха. В отговор на това в пресата се появиха много интервюта и изявления на учени, които разсеяха тези страхове.

Андрю Нг, експерт по изкуствен интелект в Baidu, каза пред Fusion, "Не виждам реалистичен сценарий софтуерът, върху който работим днес, да стане разрушителен."

На свой ред журналистът Скот Александър състави списък с известни учени, участващи в разработването на AI, които говорят за потенциалната опасност от AI.

Страх и опасения

Стюарт Русер, професор по компютърни науки в Калифорнийския университет в Бъркли, сравни разработването на механизми за контролиране на ИИ с приемането на мерки за безопасност на ядрените реактори.

„Някои смятат, че този въпрос не представлява опасност за човечеството през следващите няколкостотин години. Те забравят, че Лео Силард откри ядрената верижна реакция 24 часа след като Ръдърфорд уверено заяви, че атомната енергия никога няма да бъде получена“, пише Ръсел.

Ръсел не е сам в мнението си. В проучване от 2014 г. на Винсент Мюлер и Ник Бостром сред 170 топ експерти по изкуствен интелект, 18% от тях смятат, че изграждането на суперинтелигентна машина би било „истинска катастрофа“ за човечеството. 13% казват, че напредналият AI би имал отрицателни последици за хората. Малко над половината от учените казаха, че това ще има положително въздействие.

Въпреки че мнението на експертите за въздействието на AI е двусмислено, повечето са съгласни, че създаването на усъвършенстван AI е само въпрос на време. Според прогнозите AI, равен на човек, ще бъде създаден още през 2050 г. (50% вероятност) или до 2075 г. (90% вероятност). А 30 години след създаването му ще се появи изкуствен суперинтелект, който ще надмине човека във всички аспекти.

луди камиони

Как може да изглежда Възходът на машините? В научнофантастични филми като "Терминатор", "Робот", "Аниматрикс" е показана войната на хората с киборгите.

Съдейки по научнофантастичните филми, мнозина може да са на мнение, че потенциалната опасност е лесна за избягване.В крайна сметка AI е просто компютърен софтуер.

Изкуственият интелект обаче не трябва да има механично тяло, за да получи власт в реалния свят: той може просто да започне да контролира всички наши ежедневни електронни устройства.

Стивън Кинг представи такъв сценарий в разказа "Камиони". В историята, написана през 70-те години, камионите идват в съзнание и започват да нападат хора. Група хора се крият от разярените камиони. Камионите все още се нуждаят от гориво, за да работят и използват морзовата азбука, за да наредят на хората да заредят, или булдозерът ще ги взриви. Хората се подчиняват.

Историята завършва с визията на разказвача, че камионите са поробили човечеството и налагат ценностите си навсякъде, като например ги принуждават да строят магистрали по целия свят. Той е изваден от своя фантастичен свят от звука на летящ в небето самолет.

Историята на Стивън Кинг изглеждаше футуристична в епохата, в която е написана, но не е толкова далеч от реалността на съвременния свят. самоуправляващи се камионивече съществуват и в бъдеще компаниите могат да заменят шофьорите с автономна навигационна система, за да спестят пари.

Хакването на Sony миналата година показва, че нашите информационни системи стават все по-уязвими. Това е едно от последствията от нарастващата компютъризация на инфраструктурите.

Повод за безпокойство обаче все още няма. Изкуственият интелект трябва да извърви дълъг път, преди да успее да се справи с човешкия мозък. Примерът със самоуправляващ се камион добре илюстрира това. Докато те все още са твърде несъвършени, за да шофират самостоятелно през претъпканите градски улици.

Бихте ли инсталирали на телефона си приложение за четене на статии от епохи?

Глобалният апокалипсис, свързан с AI (изкуствения интелект) все повече плаши водещите световни изследователи в областта на компютърните технологии. Това може да бъде въстание на роботи, които, водени от своята програма и ценности, ще искат да унищожат биологичните форми на живот на планетата. Възможен е сценарий, при който управляваните от AI машини се превръщат в доминираща форма на живот.

Защо световноизвестни учени като Бил Гейтс, Стив Хокинг, Илън Мъск и други са загрижени за този проблем и публично декларират реалната заплаха от този сценарий? Могат ли събитията, случили се в холивудския филм "Терминатор", да бъдат пророчески? Известно е, че всяка измислена история се основава на реални факти.

Компютрите стават все по-добри в лъжите и измамите

Лъжата е форма на поведение, развита в процеса на еволюцията. Хората, някои животни и птици прибягват до измама в името на получаването на храна и ползи, което увеличава шансовете за оцеляване. Наскоро тези еволюционни методи бяха успешно възприети от машините с изкуствен интелект.

Дизайнерите от Технологичния институт на Джорджия постигнаха напредък в създаването на роботи, които използват лъжи и измама в алгоритмите си за поведение. Учените смятат, че в бъдеще тази технология ще се използва широко във военната сфера.

Предполага се, че прототипи на роботи могат да се използват в реални бойни условия. Тези анимирани механизми ще могат да извършват работа за защита на провизии и складове за боеприпаси. С помощта на измамни програми пазачите на бъдещето ще могат да променят маршрута си на патрулиране и да извършват непредвидими действия. Както планират разработчиците, такива методи ще помогнат за измама на потенциални врагове на хора и други роботи.

Според проф. Аркин изследването е свързано с редица етични проблеми. Загубата на контрол върху технологията, когато е изложена на недоброжелатели, може да доведе до сериозна катастрофа.

Машините превземат пазара на труда

Докато обществеността е заета с мисли за глобална война, включваща ИИ, учените описват по-непосредствени и реални опасности. В производството все повече се използват различни автомати и механизми, които унищожават работни места.

Много анализатори и експерти са съгласни, че активните разработки в областта на логическите програми и автоматизацията могат да доведат до загуба на много хора от работата им. В Съединените американски щати има над 250 000 производствени робота, които извършват традиционна човешка работа.

В страните от Изтока, които произвеждат повече от 90% от световната технология, все още преобладава ръчният труд. Какво ще се случи с хората, заети в производството с появата на роботите, може само да се гадае.

Загрижеността, че машините ще изместят хората от пазара на труда, не се ограничава само до работниците. Експертът по изкуствен интелект Андрю Нг от Google Brain Project и водещ специалист на непълно работно време в Baidu (китайския еквивалент на Google) също изрази загриженост относно активното развитие в областта на AI. Според него изкуственият електронен интелект е в състояние да направи същото като обикновения човек, само че по-бързо, по-добре и с по-малко ресурси.

Оксфордският университет в Обединеното кралство е провел изследване, отразяващо динамиката на въздействието на ИИ върху производството. Според получените данни през следващите двадесет години 35% от работните места ще бъдат дадени на управлението на ИИ.

Компютърните програми превъзхождат хакерите

От гледна точка на обикновен човек, хакерът е като супермен, който може да постигне всякакви резултати. В действителност това са програмисти с уморено изражение на лицата и традиционна чаша кафе.

Хакването е доста скучно и досадно занимание, което отнема много време и ресурси. Освен това цели отдели от специалисти се занимават с разработването на програми, предназначени да предпазват от прониквания. Най-голямата заплаха за „лошите хакери“ идва от усъвършенствани системи, базирани на AI.

Изкуственият интелект може да се използва не само за защита, но и за хакване. В условията на програмата за киберсигурност се разработват AI, които са способни да откриват уязвимости във враговете, докато онлайн защитават техните логически устройства от външни заплахи и атаки.

Според учени електронните хакери, базирани на AI, се разработват в името на общото благо и просперитет. Но в случай на достъп до такива програми от нарушители, могат да възникнат тъжни събития. Страшно е да си представим ситуация, в която мощен AI прониква в протоколите за сигурност на атомна електроцентрала и поема пълен контрол. В тази ситуация човечеството може да се окаже безпомощно.

Програмите се учат да разбират мотивите на хората

Ежедневието на много хора е неразривно свързано с използването на различни социални мрежи. Една от най-популярните мрежи в света е Facebook. Но малко хора знаят, че всеки път, когато човек посети страниците на тази социална мрежа, AI не остава незабелязан. По време на посещението си в Берлин Марк Зукърбърг говори за целите на ИИ.

Програмата е предназначена да анализира поведението на потребителите във Facebook страници. Въз основа на събраните данни програмата издава препоръки за интересите и предпочитанията на аудиторията. На този етап на развитие автономната система е в състояние да разпознава модели и да се самообучава в съответствие с програмата.

В бъдеще се планира да се създаде интелигентен AI, който може самостоятелно да подобрява уменията си, като пренаписва своя код. Това може да доведе до подобряване на живота или може да се превърне в най-новото развитие на човечеството.

Киборгите ще заменят любовниците

Много холивудски филми се основават на идеята за любовта и междувидовата връзка между човека и машината. От областта на фантазията тази концепция се влива в съвременния свят.

Футуристът д-р Иън Пиърсън вярва, че до 2050 г. сексът между човек и робот ще се случва по-често, отколкото само между хората. Ученият активно си сътрудничи с Bondara, водещата верига секс магазини във Великобритания.

Докладът на лекаря споменава, че до 2025 г. ще бъдат разработени роботи за секс с изкуствен интелект. До 2035 г. сексът чрез виртуална реалност ще стане масов, на нивото на съвременната порнография. А до 2050 г. сексът с роботи ще стане част от ежедневната реалност и ще стане норма.

Защитници на традиционните ценности, негативно настроени към секса с интелигентни машини. Такива връзки ще поставят летвата на очакванията твърде високо, което ще се отрази негативно на отношението към жените.

Машините стават все по-човечни

Разработчиците в областта на създаването на хуманоидни роботи, японският Хироши Ишигуро и китайският Сун Янг, създадоха уникална машина. Cyborg Yang-Yang имат външния вид на своя създател и са кръстени на дъщеря си. Машината има AI и е в състояние да извършва редица прости действия.

Това не е единственият хуманоиден пример за роботика. Сингапурският технологичен институт също предложи модерен прототип на киборг, Надин. Този прототип също има изкуствен интелект и работи в учебно заведение.

Проектиран като привлекателна брюнетка с мека кожа, киборгът има редица вградени функции. Роботът може да се срещне и поздрави със събеседника чрез ръкостискане. Устройството може също така да осъществява зрителен контакт и да се усмихва. AI е в състояние да запомни гостите и да поддържа прост диалог въз основа на предишен опит.

Роботите изпитват чувства

Съвременните роботи не отстъпват на хората по интелигентност. Благодарение на най-новите разработки, киборгът е доста трудно да се различи от човек външно. Засега единствената черта, която роботите всъщност нямат, е способността да бъдат емоционални. По този проблем работят учени от цял ​​свят. И скоро роботите са напълно неразличими от хората.

Разработчиците от източноазиатския клон на Microsoft Application & Services Group пуснаха уникална програма. Компютърът е в състояние да води диалог със събеседника и в същото време да изпитва емоции. Изкуственият интелект, наречен Hiaoche, е в състояние да имитира начина, по който говори седемнадесетгодишно момиче.

При липса на данни системата е в състояние да прибегне до лъжи. Ако бъде хваната да изневерява, Hiaoche може да изрази гняв или смущение. AI може да прибегне до сарказъм, да бъде подозрителен и да изрази нетърпение.

Непредсказуемостта на отговорите на програмата наподобява комуникация с реален човек. Засега технологията не е намерила широко приложение и най-често се използва за забавление. Създателят на Xiaoche работи върху подобряването на логическите алгоритми, което може да доведе до бъдещ фундаментален пробив.

Колите скоро ще бъдат в главите ни

В светлината на последните развития се отварят нови възможности. Вече не изглежда като фантазия, способността да научите чужд език за няколко минути, като го изтеглите в мозъка. Техническият директор на Google Рей Курцвейл смята, че до 2030 г. ще бъде разработена технология за имплантиране на нано роботи в мозъка. Това ще издигне човешкия интелект на принципно ново ниво.

Тези микромеханизми ще превърнат съзнанието в мощен изчислителен център. Човек ще може незабавно да запомни всяка информация, да сортира и изпраща собствените си мисли в архива. Ако е необходимо, ще можете да изтегляте филми, документи и да получавате електронна поща.

Специалист по изкуствен интелект, Кърцвейл смята, че симбиозата с нанороботи не само ще увеличи интелекта, но и ще може да лекува редица заболявания, свързани с дейността на нервната система.

Заплахите от използването на такава технология могат да бъдат сравнени с теория на световната конспирация. Придобивайки контрол върху съзнанието на водещия политик в страната, AI ще може да го контролира като отпуснато зомби. Също така такава система може да се използва от специални служби, което не вещае нищо добро.

Как роботите стават оръжия

С падането на Съветския съюз Студената война не свърши. На световната сцена се появиха две нови суперсили - Китай и Русия. Америка, от своя страна, харчи десетки милиарди долари за разработки в областта на компютърната сигурност.

Пентагонът вярва, че ключът към бъдещото технологично превъзходство се крие в използването на AI. Развитието на самообучаващи се автономни системи, както и на паралелни и свързани области, се преследва активно. Вече са разработени прототипи на военна техника, управлявана от разстояние, остава да бъде обучена да действа самостоятелно.

Използването на такива устройства по време на война обещава големи ползи. Войниците няма да трябва да се излагат на вражески огън и да рискуват живота си. Моралът на врага във войната срещу неживите роботи също ще бъде подкопан.

Има и недостатък. Всяко компютърно оборудване е склонно към повреди и системни хакове. В този случай роботите, които са загубили контрол, са в състояние да обърнат оръжията си срещу своите създатели и цивилното население.

Много водещи експерти в областта на AI не подкрепят идеята за създаване на автономни бойни роботи. Но в светлината на непрекъснато нарастващата военна конфронтация в света и липсата на международна забрана за използването на подобни технологии, много страни провеждат своите разработки в строга секретност. Скоро ще има все повече доклади за използването на роботи в горещите точки на планетата.

Роботите учат в грешна посока

Предвиждайки възможни повреди в програмите и за да се предотврати появата на машини, се разработват нови концепции, целящи да обяснят на машината правилното и нежелано поведение.

Тези разработки потенциално трябва да направят AI по-човешки. Някои учени виждат този подход като ключ към предотвратяването на ИИ да обърне оръжия срещу човечеството.

Технологичният институт на Джорджия провежда уникални експерименти. Изследователите, ръководени от Марк Ридъл и Брент Харисън, буквално разказват истории на компютъра. По този начин те се стремят да привържат ИИ към човешките ценности, развивайки неговата етика. Учените използват методите, използвани при отглеждането на дете, за да преподават програмата. AI, точно като неопитно дете, не прави разлика между добро и лошо.

Има сериозен недостатък в този подход. Историята на човечеството съдържа много примери, когато обстоятелствата са принуждавали цели високоразвити страни да отприщват войни и да извършват ужасни зверства. Пример може да бъде фашистка Германия, чиито войници извършиха геноцида на цели народи. В същото време немската култура е една от най-развитите в света по това време. Какво ще попречи на AI да повтори опита на Хитлер?

Изкуственият интелект (AI) е тема, която отдавна е на страниците на научнопопулярните списания и постоянно се засяга във филми и книги. Колкото повече експерти развиват тази област на науката, толкова повече стават митове.

Развитието и бъдещето на изкуствения интелект тревожи и тези, които са начело на държавата. Не толкова отдавна руският президент Владимир Путин посети офиса на Yandex в деня на 20-годишнината на компанията, където му обясниха кога AI ще надмине човешкия интелект.

Всеки, който дори малко навлиза в същността на потенциала на изкуствения интелект, разбира, че тази тема не може да бъде пренебрегната. Това е не само важна тема за обсъждане, но може би една от най-значимите в контекста на бъдещето.

С една дума, забележителни успехи има и у нас.

Колкото по-бързо се развиват технологиите за изкуствен интелект, толкова повече хората са обхванати от страха колко бързо ще останат без работа. Наистина ли всичко е толкова лошо?

Да и не. Човечеството вече е преживяло няколко пъти появата на технологии, които революционизираха целия производствен сектор.

Така беше с парната машина в ерата на индустриалната революция, която на практика унищожи много професии (главно свързани с примитивен физически труд), така беше и с електронните компютри, които замениха хората в задачи, базирани на поточни математически изчисления.

През 15-18 век, когато в Англия „овцете ядат хора“, социалните последици са наистина катастрофални. Англия е загубила, според различни оценки, от 7 до 30% от населението си. Силовият елит от онова време беше сериозно загрижен какво да прави с допълнителни хора. Джонатан Суифт отговори на тези търсения с хумористичен памфлет, в който предложи да се ядат децата на бедните.

Днес обаче виждаме, че изчезналите професии са заменени от нови, а населението на Земята е много по-голямо, отколкото през 18 век. През 20 век последствията от автоматизацията вече не са толкова катастрофални от социална гледна точка. Опасността обаче не бива да се подценява.

„След 30 години роботите ще могат да правят почти всичко, което могат да правят хората“, каза Моше Варди, професор по изчислително инженерство и директор на Института за информационни технологии Кенеди в университета Райс (Уилям Марш). Това ще доведе до факта, че повече от 50% от жителите на Земята ще останат безработни.

Роботите заемат работа

Наскоро председателят на Комитета на Държавната дума по информационна политика, информационни технологии и комуникации Леонид Левин заяви, че за Русия проблемът с подмяната на работната сила с изкуствен интелект е важен.

Рано или късно хората ще бъдат заменени от автоматизирана система и 2% от работещото население на страната ще се излее на пазара. Ето защо Левин каза как да ги наемем, тези, които ще загубят работата си поради развитието на цифровите технологии.

Според председателя в близко бъдеще ни очаква ръст на безработицата. Но наистина ли роботите ще ни „отнемат“ работните места и струва ли си да се тревожим за това, каза пред Reedus Сергей Марков, специалист по машинно обучение.

Сергей, дори и сега има „мъртви професии“, които не изискват човешки труд, въпреки че изглежда, че преди 10 години никой не е мислил, че например диригентите скоро ще станат ненужни. И какви други професии ще заменят технологиите?

Наближаваме времето, когато машините ще надминат хората в почти всяка област. Вярвам, че обществото трябва да се изправи пред този проблем, преди да се издигне до пълния си размах. Ако машините са в състояние да правят почти всичко, което могат да правят хората, какво ще им остане да правят? каза Моше Варди, професор по изчислително инженерство и директор на Института за информационни технологии Кен Кенеди в университета Райс.

Дълго време технологичните ограничения стояха на пътя на автоматизацията – машините не можеха да разпознават изображения и реч, не можеха да говорят, не разбираха достатъчно добре значението на изявленията на естествения език, нямаха достатъчно данни, за да научат много неща, познати на хора.

Благодарение на скорошния напредък в областта на изкуствения интелект, много от тези ограничения всъщност бяха премахнати. Освен това самите много професии са претърпели трансформация, която ги е направила по-подходящи за автоматизация.

Например, модерен офис служител не кореспондира на хартия, а в електронен вид, счетоводител извършва осчетоводявания не на хартия, а в счетоводна програма, машинен оператор често управлява машината не с помощта на дръжки, а с помощта на контролна програма. Следователно сега задачата за автоматизация в много професии е престанала да бъде научна и се е превърнала в чисто инженерна.

Вярно е, че засега производственият сектор, свързан с ИИ, има по-голяма вероятност да създаде работни места - необходими са специалисти в областта на машинното обучение и подготовката на данни, служители за маркиране на обучителни масиви, специалисти по внедряване и т. н. Но в един момент електроовцете определено ще започне да яде хора и последствията трябва да се погрижат сега.

В същото време е важно да се разбере, че технологичният прогрес не може да бъде спрян и опитът за това ще доведе до много по-катастрофални последици.

Ще можем ли някога да се доверим напълно на роботите (AI) или все още трябва да има човешки фактор във всеки бизнес?

Този въпрос има няколко аспекта. От една страна, хората в миналото са били предпазливи към почти всяка техника. Първият асансьор, първата кола, първият влак или самолет - всичко това някога беше необичайно и изглеждаше опасно за мнозина. Да, в много отношения беше опасно - предизвиканите от човека бедствия отнеха много животи.

И все пак в наши дни всички тези неща са станали познати и вече не предизвикват голям страх. В този смисъл нашите потомци ще се отнасят по-спокойно към AI системите. Хората понякога са склонни да мистифицират неща, които не разбират. Дивакът смята, че в двигателя живее зъл дух, а съвременният лаик смята, че нашите AI системи са съзнателни, въпреки че това далеч не е така.

От друга страна, не мисля, че AI системите с общо предназначение някога ще станат част от нашата индустрия. Според мен бъдещето е по-вероятно за синтетичните системи - тоест за обединяването на човека и машината в единен организъм. В този смисъл изкуственият интелект на бъдещето ще бъде подобреният човешки интелект.

Между другото, човешкият интелект също не е напълно правилно да се нарича естествен. Детето от раждането си няма интелигентност, обществото, родителите и средата го учат на всичко. В този смисъл вие и аз сме по същество „изкуствен интелект“ и нашите страхове, свързани с ИИ, в много отношения са страхове от самите нас.

Напоследък много учени, например Стивън Хокинг, Бил Гейтс или същият Илон Мъск, започнаха да се паникьосват, че AI обрича човечеството на смърт и виждат бъдещето като някаква антиутопия. Трябва ли подобни прогнози да се приемат сериозно?

Честно казано, не бих избързал да се уплаша сериозно от тези твърдения. Стивън Хокинг със сигурност не е специалист по ИИ, както и Илон Мъск.

От другата страна на везната са изявленията на хора като Андрю Нг, американски компютърен учен, доцент в Станфордския университет, изследовател в областта на роботиката и машинното обучение и водещ специалист в лабораторията за изкуствен интелект на китайската корпорация Baidu. .

Юн, говорейки за проблема със сигурността на ИИ, го сравнява с проблема с пренаселването на Марс - разбира се, ние ще колонизираме Марс някой ден и тогава може би в един момент ще има проблем с пренаселването. Но струва ли си да го правите днес?

Марк Зукърбърг също беше доста скептичен към твърденията на Мъск. „Изкуственият интелект ще направи живота ни по-добър в бъдеще и предсказването на края на света е много безотговорно“, каза той.

Лично аз смятам, че изявленията на Мъск трябва да се разглеждат по прагматичен начин - Мъск иска да заложи тази тема и в идеалния случай да получи средства от държавата, за да я развие.

Наистина ли всичко е толкова розово и няма повод за притеснение?

Истинските опасности, свързани с развитието на ИИ, според мен са в съвсем различна равнина, отколкото обикновено се смята. Основните рискове не са свързани с факта, че ще създадем свой собствен "Скайнет", който ще пороби човечеството. Рисковете от въвеждането на AI и технологиите за машинно обучение са много по-прозаични.

Поверявайки решаването на важни въпроси на един или друг математически модел, можем да страдаме от грешки, допуснати при тяхното разработване. Изкуственият интелект, който възпроизвежда действията на човешки експерти, ще наследи техните грешки и пристрастия. Грешките в системите за управление на производството или транспорта могат да доведат до бедствия.

Злонамерената намеса в работата на жизненоважни системи в условията на пълна автоматизация може да доведе до опасни последици. Колкото по-сложни са системите, толкова повече потенциални уязвимости могат да имат, включително такива, свързани със спецификата на определени алгоритми за изкуствен интелект.

Разбира се, за да се управляват тези рискове, е необходимо да се създаде законодателна рамка, разумни правила за сигурност, специални методи за идентифициране на уязвимости. Някои AI системи ще бъдат използвани за контрол на други. Може би кодът на жизненоважни системи ще трябва да бъде публикуван за независим одит. С други думи, има още много работа в тази област.

Авторско право на изображението ThinkstockНадпис на изображението Симбиозата на човек и машина е един от пътищата за развитие на човечеството

Умните машини са се научили да блъфират, да побеждават професионалисти на шах или го, да превеждат и разпознават човешкия глас. Всяка седмица научаваме за нови постижения на компютърни програми, които вече могат да поставят медицински диагнози, да рисуват като Рембранд, да пеят или да генерират текст. Трябва ли човек да се страхува от изкуствения интелект?

Темата за изкуствения интелект (AI/AI) стана наистина „гореща“ през последните няколко години. Учените отдават това на бързото развитие на невронните мрежи (една от областите на изследване в областта на изкуствения интелект), което от своя страна стана възможно с появата на мощни компютри.

„От началото на 2010 г., водени от впечатляващия напредък в многослойните невронни мрежи (предимно конволюционни и повтарящи се), тази област привлече значително внимание както от учени, така и от инженери и инвеститори“, коментира авторът. една от руските шах програми, специалист по методи за машинно обучение Сергей Марков.

Научната общност може да спори за времето на появата на умните машини, но те са единодушни в едно: развитието на технологиите ще окаже безусловно влияние върху обществото, икономиката и отношенията между хората в бъдеще. Вече се отправят призиви за размисъл върху етичните принципи на разработването на AI, като се гарантира, че AI се развива в посока, която е безопасна за хората.

Това мматериал, изготвен в отговор на въпросс, изпратеноднашите читателиза научни постижения. Можете да задавате вашите въпроси по други теми на тези връзки ( , ).

Икономически ефект и влияние върху пазара на труда

Научната фантастика и Холивуд оформиха представата за „изкуствения интелект“ като следващата форма на живот на планетата, която ще пороби човечеството в Матрицата или ще организира ядрен съден ден. Оцелелите ще бъдат довършени от Терминатора.

Авторско право на изображението Getty ImagesНадпис на изображението Ще умре ли човечеството от Skynet?

Всъщност, въпреки последните постижения в областта на изкуствения интелект, появата на интелигентни машинни същества е все още далече, признават учени и експерти. И тези, и другите обаче се съветват да обърнат внимание на някои аспекти точно сега.

Глобалният институт McKinsey изчислява, че новите технологии радикално ще променят световния пазар на труда през следващите десет години, спестявайки около 50 трилиона долара.

Промените ще засегнат стотици милиони работни места. Все повече и повече хора ще прехвърлят някои от работните си задачи и много рутинни задачи на машината, което им позволява да се съсредоточат върху творческата си работа.

„От определена гледна точка човечеството като цяло има важна и интересна задача - да се развива за всеки конкретен индивид много по-бързо, отколкото човечеството развива системи с изкуствен интелект“, каза Григорий Бакунов, експерт, директор по разпространение на технологиите на Yandex.

Но заедно с автоматизацията, по-малко квалифициран персонал неизбежно ще пострада и сега е необходимо да се помисли как да ги защитим, преквалифицираме и подготвим за нов живот.

Както показва практиката, не само служителите, но и работниците, работещи със знания, могат да пострадат. Преди няколко дни Goldman Sachs замени екип от 600 търговци с двама души и програми за автоматизирана алгоритмична търговия, за чието поддържане бяха наети 200 софтуерни разработчици.

Авторско право на изображението ThinkstockНадпис на изображението Много задачи скоро ще станат по силите на роботизирани системи, които постепенно ще започнат да заместват хората.

Изкуственият интелект сам по себе си не е идентичен с автоматизацията на процесите, но развитието на AI ще доведе до факта, че все повече задачи ще бъдат по силите на компютърна програма.

Сред решенията на проблема с изместването на човека от машината на пазара на труда, както посочва Алисън Дътман, програмен координатор на Foresight Institute, организация с нестопанска цел, базирана в Силиконовата долина за насърчаване на нови технологии, въвеждането на концепцията на „универсален базов доход“, който би получавал всеки жител, независимо от доходите и нивата на заетост. Такива приходи ще бъдат финансирани от така наречения данък върху стойността на земята, въвеждането на който сега се обсъжда активно в Силиконовата долина.

Човек ли е изкуственият интелект?

Една роботизирана система човек ли е? Може ли интелигентен компютър да гласува? какъв пол е той Връзката между човек и умна машина вече се обсъжда от евродепутатите, които се чудят дали бъдещите роботи трябва да получат статут на „електронна личност“.

Както отбелязва Дутман, хората не са склонни да споделят права с онези, които не разбират, което означава, че ще се противопоставят на „хуманизирането“ на ИИ.

Авторско право на изображението AFPНадпис на изображението Човекът и машината са разделени от основното - способността да се мисли

„Като се има предвид колко време човечеството върви към предоставяне на равни права на всички хора, независимо от техния цвят на кожата, раса или пол, вече може да се предположи, че те не разпознават веднага машините като равни.

Заедно с етичните въпроси има и правни тънкости: кой ще поеме отговорност в случай на инцидент с безпилотно превозно средство или повреда на интелигентно медицинско устройство - и морални въпроси: струва ли си да се разработи безпилотно оръжие, способно да работи без познаване на човек?

Третият етичен пъзел се обсъжда по-често от други и вълнува човечеството много повече: какво теоретично може да направи един суперинтелект, една истинска умна машина, с човечеството?

Преподавайте етика на AI

Експертите в областта на развитието на ИИ признават, че ако не в следващите 20-30 години, човечеството все пак ще доживее появата на истински изкуствен интелект, който ще бъде по-умен от своя създател.

„Последният бастион ще бъде превзет, когато бъде създаден така нареченият „силен AI“ (Strong AI, Artificial General Intelligence), тоест такъв AI, който ще може да решава неограничено широк спектър от интелектуални задачи“, казва Сергей Марков.

И най-важното, такъв AI ще може да мисли независимо.

Заплахите, породени от AI, както и етичните въпроси, свързани с новите технологии, се изучават от много институции, включително Future of Life Institute, Foresight Institute, Future of Humanity Institute, OpenAI и други.

Решението на Алисън Дътман от Foresight Institute е да позволи на компютъра да прочете цялата научна литература, научни статии, които повдигат въпроси относно етиката, и да превърне тази информация в основа за бъдещи решения.

Какво представляват невронните мрежи и какво е тяхното бъдеще?

Повечето експерти отдават напредъка в развитието на AI на развитието на невронните мрежи.

Невронните мрежи са една от областите на изследване в областта на изкуствения интелект, базирана на симулация на биологични процеси, протичащи в човешкия мозък.

Именно на тях дължим появата на впечатляващи резултати в разпознаването на реч и изображения, медицинска диагностика, превод на текст и създаване на изображения, генериране на реч и музикално композиране.

Авторско право на изображението iStockНадпис на изображението Именно с развитието на невронните системи учените свързват развитието на изкуствения интелект.

Днес, както признават експертите, невронните мрежи са признати за един от най-добрите алгоритми за машинно обучение, а решенията, базирани на тях, показват най-забележителните резултати в момента.

И това е въпреки факта, че съвременните невронни мрежи са една и половина хиляди пъти по-прости от мозъка на плъх.

„Досега невронните мрежи, които създаваме, са сравнително малки в сравнение, да речем, с невронната мрежа на човешкия мозък и освен това те са много опростен аналог на естествените невронни мрежи. Следователно, за момента, с с помощта на невронни мрежи, ние решаваме предимно чисто приложни проблеми", - казва Сергей Марков.

В момента се създават специализирани процесори за обучение на такива мрежи (така наречените невроморфни процесори), които ще увеличат скоростта на изчисленията с няколко порядъка.

Разработчиците са заети не само с увеличаването на броя на невроните в мрежата, но и с промяната на дизайна на мрежите. „Системите за сложна мрежова конфигурация са това, с което в момента се провеждат най-много експерименти“, казва Григорий Бакунов.

Авторско право на изображението iStockНадпис на изображението В близко бъдеще ще има повече "умни" човешки асистенти - микросензори в стената, сензор с размер на бутон, който предупреждава човек в случай на опасност

А фактът, че подобни системи са станали относително достъпни за голям брой обикновени разработчици, доведе до появата на стартиращи компании, експериментиращи с невронни мрежи, като Prisma (приложение, което ви позволява да обработвате снимки, превръщайки ги в стилизации на картини на известни артисти) и Mubert (онлайн композитор на електронна музика) .

Какво ни очаква в близко бъдеще

Както Ник Лейн, професор в Университетския колеж в Лондон и главен учен в Nokia Bell Labs, прогнозира, повече "умни неща" ще заобикалят човешкото същество. Те ще станат по-малки и по-ефективни.

Професорът дава следния пример: ако по-рано сензорът, вграден в стената, можеше само да знае, че някой е минал, то в бъдеще той ще знае не само кой конкретно е минал, но и как се държи човек, дали има нужда от нещо не представя дали е заплаха за себе си или за другите.

Сензор с размер на бутон ще може да уведомява човек в случай на опасност.

Григорий Бакунов от Yandex също е съгласен с професора: „В близко бъдеще ще видим бум в развитието на тесни изкуствени интелекти, които помагат за решаването на една доста проста задача, но която те ще решат дори по-добре от човек.“

Авторско право на изображението iStockНадпис на изображението Има все повече и повече етични въпроси, свързани с развитието на ИИ

„Най-вероятният път за развитие на нашата цивилизация е пътят на синтеза на човек и машина: пръчка, дрехи, кола, мобилен телефон, пейсмейкър или кохлеарен имплант – докато се развиваме, нашите инструменти все повече приличат на продължение на телата ни. Още утре машините ще могат да получават мисловни команди, да възприемат умствено формирани визуални образи, да предават информация директно на мозъка – такива проекти вече съществуват извън стените на най-напредналите технологични лаборатории“, обобщава Сергей Марков.

Нужни ли са още журналисти?

Financial Times проведе доста рискован експеримент миналата година, като предизвика едновременно своя кореспондент в профила и интелигентна програма на име Emma да напишат копие. След това и двете статии трябваше да бъдат прочетени от редактора на Financial Times и да познаят зад коя от двете бележки стои журналистът и кой компютър.

Преди този вид "краш тест" кореспондентът на Financial Times призна: "Мисля, че програмата определено ще се справи със задачата по-бързо от мен. Но се надявам, че все пак ще се справя по-добре."

И така се случи: Ема наистина се оказа по-бърза - програмата генерира текст въз основа на статистика за нивото на безработица във Великобритания за 12 минути. Това отне на журналиста 35 минути. И както самата тя призна по-късно, Ема надмина очакванията си. Програмата не само умело се справи с фактите, но и постави новините в контекст, подсказвайки как евентуален Брекзит (това беше през май 2016 г., преди референдума за излизане на Великобритания от ЕС) може да промени ситуацията.

Авторско право на изображението ThinkstockНадпис на изображението Ще заменят ли роботизираните системи хората? На човечеството му остават 50 години, успокояват експертите

Но Ема направи нещо по-лошо от журналист. "Статията на Ема беше написана на малко по-тромав език. Но основното беше, че в нея имаше много цифри", призна редакторът на FT. "И може би основното нещо, което се опитваме да направим тук, е да избирайте само наистина важни числа.“

Emma е продукт на стартъпа Stealth. Компанията казва, че Ема има екип от асистенти на живо, но твърди, че всичко, което пише или прави, е продукт само на нейния „мозък“.

И все пак - необходимо ли е да се страхуваме от AI?

Много, ако не и всички, експерти, участващи в разработването на системи с изкуствен интелект днес, с готовност признават, че AI няма скоро да направи хората ненужни. Именно защото изкуственият интелект все още не е толкова умен. Основното, което му липсва днес, е автономната способност да мисли.

"Сега не трябва да се страхувате от AI под каквато и да е форма. Можете да изчакате 30-40 години, докато настъпят някои наистина радикални промени", каза Бакунов.

Но нещо вече се случва: малко по малко границата между работата или задачата, изпълнявана от човек, и задачата, изпълнявана от машина, се размива. Както обясняват експертите, дори сега понякога е трудно да се разбере кой седи вътре в системата - човек или машина.

„Няма критерии кога можем да разберем, че вътре в машината е възникнало съзнание“, пита Бакунов.

Ще стане ли човекът кламер?

Известният привърженик на алармистката гледна точка, в рамките на която ужасите, описани в Терминатора, могат да се превърнат в реалност, философът Ник Бостром, е на мнение, че ИИ, който е достигнал интелектуалното ниво на човек, ще бъде в състояние да унищожи човечеството.

Авторско право на изображението Getty ImagesНадпис на изображението Ще стане ли описаното във филма наша ежедневна реалност?

Bostrom обяснява с примера на кламерите: вие предизвиквате изкуствения интелект да направи кламерите възможно най-големи и по-добри. В един момент AI осъзнава, че човек е заплаха, защото може да изключи компютъра, което ще бъде в противоречие със задачата да се направят колкото се може повече кламери. В случай, че човек не е заплаха, AI решава, че човешките тела са съставени от атоми, които могат да бъдат използвани за производството на отлични кламери. Резултатът - компютърът ще доведе човечеството до кламери.

На мнозина този сценарий изглежда преувеличен. Според Сергей Марков, например, „високата ефективност на постигането на абсурдна цел е несъвместима с абсурдността на тази цел – грубо казано, AI, способен да превърне целия свят в кламери, неизбежно ще бъде достатъчно умен, за да се откаже от такава цел ."

Изкуственият интелект е като златна рибка

Маргарет Боден, британски специалист по изкуствен интелект и професор по когнитивна наука в университета в Съсекс, е скептична по отношение на твърденията за предстоящото навлизане на умни машини.

Авторско право на изображението Getty ImagesНадпис на изображението През май 1997 г. Deep Blue II победи Гари Каспаров за първи път.

Професорът дава пример със "златна рибка", когато в замяна на свобода рибар си пожелава три желания. Едно от желанията е да върне сина си от войната, второто е 50 хиляди долара, а третото е възможността да си пожелае още едно сутрин.

Същата вечер в къщата на рибаря се почука. Синът го върнаха от войната - в ковчег. Рибак получи застраховка от 50 хиляди долара.

"Заменете рибата в тази притча с AI и всичко ще стане ясно - обяснява Боден. - О, да, на следващия ден рибарят използва третото желание и - отмени предишните две."

Възможно ли е съзнанието да се прехвърли в машина?

Сергей Марков:

„Ако говорим за възможността за пълен трансфер на съзнанието, тогава съвременните предшественици на такава технология на бъдещето са проекти като Blue Brain, насочени към създаване на работещи електронни аналози на мозъка, както и проекти, насочени към създаване на мозък- машинни интерфейси (BCI) - устройства за протезиране на загубено зрение, слух, заместване на загубени крайници, дори части от мозъка.

Авторско право на изображениетоНаучна фотобиблиотекаНадпис на изображението Целта на специалистите по изкуствен интелект е да създадат „силен изкуствен интелект“, който да може да решава широк кръг от проблеми.

Много интересна и обещаваща област е оптогенетиката (по принцип за свързване на мозъка и машината е възможно да се променят не само машините, но и самата нервна тъкан, създавайки в нея изкуствени фоторецептори).

Когато в рамките на такива частни проекти се решават широк кръг от инженерни проблеми, мисля, че задачата за трансфер на съзнание ще стане напълно разрешима. Мечтатели вече предлагат хипотетични схеми за реализацията на подобен проект.

Например Ян Корчмарюк, който веднъж предложи името „селетритика“ за посоката на изследване, свързано с трансфера на съзнание, смята, че най-обещаващата схема е използването на специализирани нанороботи, вградени в невроните на човешкия мозък. Въпреки това, за успешното прилагане на такава схема е необходимо да се решат редица сложни инженерни проблеми.

Популярното американско интернет списание Wired публикува изключително любопитен текст на Кевин Кели, в който той подробно критикува идеята за опасностите от изкуствения интелект. "NI" публикува превод на този материал, направениот канала на Telegram Newochem с малки съкращения.

„Чувал съм, че в бъдеще AI компютрите ще станат толкова по-умни от хората, че ще ни лишат от работа и ресурси и в крайна сметка човечеството ще свърши. Но дали е така? Това е въпросът, който ми задават всеки път, когато изнасям лекция за ИИ.

Питащите са толкова сериозни, колкото винаги, безпокойството им отчасти се дължи на тревогите на някои експерти, които се измъчват от същия въпрос. Сред тях са най-умните наши съвременници - Стивън Хокинг, Илон Мъск, Макс Тегмарк, Сам Харис и Бил Гейтс.

Всички те допускат възможността за такъв сценарий. На скорошна конференция за AI група от девет от най-просветените гурута в областта дойдедо единодушното заключение, че създаването на свръхчовешки разум е неизбежно и не е далеч.

И все пак сценарият за поробването на човечеството от изкуствения интелект се основава на пет предположения, които при по-внимателно разглеждане се оказват недоказани. Тези твърдения може да са верни в бъдеще, но нищо не е потвърдено до момента.

Ето ги и тях:

1. Изкуственият интелект вече става по-умен от човешкия ум и този процес е експоненциален.
2. Ще разработим ИИ с общо предназначение, подобен на нашия.
3. Можем да създадем човешки интелект от силиций.
4. Интелигентността може да бъде неограничена.
5. Изграждането на грандиозен суперинтелект ще реши повечето ни проблеми.

В противовес на тези ортодоксални постулати мога да цитирам следната доказана ерес:

1. Интелигентността не е едноизмерна, така че "по-умен от човек" е безсмислено понятие.
2. Хората не са надарени с ум с общо предназначение, което също не застрашава изкуствения интелект.
3. Съперничеството между човек и компютър ще бъде ограничено от разходите.
4. Интелигентността не е неограничена.
5. Създаването на AI е само част от напредъка.

Ако вярата в поробването на човека от изкуствения интелект се основава на пет безпочвени предположения, то тази идея е по-близка до религиозните вярвания - митове. В следващите глави ще допълня контрааргументите си с факти и ще докажа, че свръхчовешкият изкуствен интелект наистина не е нищо повече от мит.

Най-често срещаното погрешно схващане за ИИ идва от също толкова популярното вярване за естествения интелект, че той е едноизмерен. В точните науки мнозина изобразяват интелигентността по начина, по който го направи Ник Бостром в книгата си "Свръхразум" - буквално като едномерна линейна графика с нарастваща амплитуда.

В единия край са същества с най-ниско ниво на интелигентност, например малки животни, а в другия - гении, сякаш нивото на интелигентност не се различава от нивото на звука, измерено в децибели. Разбира се, в такъв случай е лесно да си представим по-нататъшно увеличение, при което нивото на интелигентност надвишава най-високата оценка на диаграмата и дори я надхвърля.

Такъв модел е топологично еквивалентен на стълба, на стъпалата на която нивата на интелигентност са подредени във възходящ ред. По-малко интелигентните животни заемат най-долните стъпала на стълбата, а изкуственият интелект от по-високо ниво неизбежно ще бъде разположен над нас. Времевата рамка, когато това се случва, е без значение. Много по-важни са самите стъпала на йерархията – метриката на растящата интелигентност.

Проблемът с този модел е, че той е митичен, като модела на еволюционната стълба. Преди дарвинизма дивата природа е била представяна като стълба от живи същества, където човекът е заемал едно стъпало над по-примитивните животни.

И дори след Дарвин една от най-разпространените концепции е стълбата на еволюцията. Демонстрира превръщането на рибите във влечуги, на тях в бозайници, на приматите в хора. Освен това всяко следващо същество е по-развито (и, разбира се, по-интелигентно) от предшественика си. Така че стълбата на интелекта корелира със стълбата на вселената. И двата модела обаче отразяват напълно антинаучни възгледи.

По-точен модел за естествена еволюция би бил диск, който се отклонява навън, както е на изображението по-горе. За първи път такава структура е разработена от Дейвид Хилис от Тексаския университет, той го прави на базата на ДНК. Тази генеалогична мандала започва в центъра с най-примитивните форми на живот и след това се разклонява навън. Времето се движи напред, така че най-новите форми на живот са разположени по периметъра на кръга.

Това изображение подчертава един неразбираем факт за еволюцията от фундаментално значение - всички живи същества са еволюирали еднакво. Човекът е разположен във външната част на диска заедно с хлебарки, мекотели, папрати, лисици и бактерии.

Всички видове без изключение са преминали през неразривна верига от успешно възпроизвеждане от три милиарда години, което означава, че бактериите и хлебарките са еволюирали толкова високо, колкото хората. Няма стълби.

По същия начин няма стълба на интелигентност. Интелигентността не е едноизмерна. Това е комплекс от различни видове и методи на познание, всеки от които е непрекъснат. Нека направим едно просто упражнение за измерване на интелигентността на животните. Ако интелектът беше едноизмерен, лесно бихме могли да класираме папагала, делфина, коня, катеричката, октопода, синия кит, котката и горилата във възходящ ред на интелекта.

В момента няма научни доказателства за съществуването на такава последователност. Причината за това може да е липсата на разлики в нивото на интелигентност на определени животни, но това също е неразумно.

Зоологията е богата на примери за поразителни различия в мисленето на животните. Може би всички животни са надарени с "универсален" интелект? Може би, но ние нямаме нито един инструмент за измерване на този вид интелигентност. Имаме обаче много системи за измерване на различни видове познание.

Вместо един ред децибели би било по-правилно интелектът да се изобрази като вероятностна пространствена диаграма, както при визуализацията на възможните форми, създадена от алгоритъма на Ричард Докинс. Интелигентността е комбинативен континуум. Много възли, всеки от които е континуум, създават комплекс от колосално разнообразие в много измерения. Някои видове интелигентност могат да бъдат много сложни, с голям набор от подвъзли на мислене. Други са по-прости, но по-екстремни, достигат до крайната точка на пространството.

Тези комплекси, които за нас означават различни видове интелект, могат да се възприемат като симфонии, изпълнявани на различни видове музикални инструменти. Те се различават не само по обем, но и по мелодия, цвят, темпо и т.н. Можете да ги разглеждате като екосистема. В този смисъл различните компоненти на мисловните възли са взаимозависими и са изградени един от друг.

Както каза Марвин Мински, човешкото съзнание е общество на разума. Нашето мислене е цялостна екосистема. Нашият мозък има много начини за познание, които изпълняват различни умствени функции: дедукция, индукция, емоционална интелигентност, абстрактно и пространствено мислене, краткосрочна и дългосрочна памет.

Цялата човешка нервна система е част от мозъка със собствено ниво на познание. Всъщност процесът на мислене се осъществява не от мозъка, а от цялото човешко тяло.

Всички разновидности на мислене се различават както между видовете, така и между членовете на един и същи вид. Една катерица може да помни точното местоположение на няколко хиляди жълъди в продължение на години, което е напълно неразбираемо за човек. В този вид мислене хората са по-ниски от протеините. Умът на катерица е комбинация от тази суперсила с други форми на интелигентност, в които човек превъзхожда катерицата. В животинското царство могат да се намерят много примери за превъзходството на определени форми на животински интелект над човешкия.

Същата ситуация се разви и с изкуствения интелект, който в някои области вече превъзхожда човешкия. Всеки калкулатор е математически гений и паметта на Google вече в някои отношения е по-добра от нашата.

Някои ИИ извършват такава умствена дейност, на която ние не сме способни. Запомнянето на всяка дума от шест милиарда уеб страници е непосилна задача за хората и дреболия за търсачките. В бъдеще ще създадем напълно нови начини на мислене, които не са достъпни за човека и не съществуват в природата.

Изобретателите на летателни машини са били вдъхновени от естествения полет - пляскащи крила. По-късно обаче е изобретено неподвижно крило с прикрепени към него витла и това е напълно нов принцип на полет, който не се среща в природата.

Ето как измисляме нови начини на мислене, на които нито един вид не е способен. Най-вероятно това ще бъдат принципи, приложими само към високоспециализирани проблеми: например нови логически конструкции, които са необходими само в статистиката и теорията на вероятностите.

Нов вид мислене ще помогне за решаването на проблеми, с които човешкият ум не може да се справи. Някои от най-трудните въпроси в бизнеса и науката изискват решение в две стъпки. Първата стъпка е да изобретите нов начин на естествено мислене. Второто е да започнете да търсите отговори заедно с AI.

Хората ще започнат да смятат изкуствения интелект за по-умен от себе си, ако успее да разреши с негова помощ неразрешими досега проблеми. Всъщност AI мисленето не е по-добро от нашето, просто е различно. Вярвам, че основното предимство на изкуствения интелект е, че той може да мисли като външен човек и това отчуждение е основното му предимство.

Освен това ще създадем сложни AI „общности“ с различни нагласи. Те ще бъдат толкова сложни, че ще могат да решават проблеми, с които не можем да се справим. Следователно някои хора погрешно ще си помислят, че AI комплексите са по-умни от хората. Но ние не вярваме, че търсачката Google е по-умна от човек, въпреки че паметта му е по-добра от нашата.

Вероятно тези комплекси с изкуствен интелект ще ни надминат в много области, но никой от тях няма да надмине хората навсякъде наведнъж. Подобна ситуация съществува и с нашата физическа сила. Двеста години след Индустриалната революция никоя машина не е превъзхождала средностатистическия човек във всяко отношение, въпреки че машините като клас значително превъзхождат хората в скоростта на бягане, вдигане на тежести, прецизност на рязане и други дейности.

Въпреки сложността на структурата на ИИ е невъзможно тя да бъде измерена с методите на съвременната наука. Нямаме инструментите, за да кажем кое е по-трудно, краставица или Боинг 747, и нямаме начин да измерим разликите в тяхната сложност. Ето защо все още нямаме точни критерии за интелектуалните възможности.

С течение на времето ще става все по-трудно да се определи кое е по-трудно и съответно по-умно: интелигентност А или интелигентност Б. Има много неизследвани области на умствената дейност и главно това ни пречи да разберем, че умът не е едноизмерен.

Второто погрешно схващане за човешкия ум е, че ние вярваме, че нашият ум е универсален. Това широко разпространено вярване оформя пътя, който поемаме към изкуствения общ интелект (AGI), някога насърчаван от експерти по ИИ.

Ако обаче мислим за ума като за огромно пространство от възможности, не можем да говорим за състояние с обща цел. Човешкият ум не заема някакво абстрактно централно място и други специализирани видове ум не се въртят около него.

По-скоро човешкият интелект е изключително специфичен тип интелект, който се е развивал в продължение на милиони години за оцеляването на нашия вид на тази планета. Ако искахме да поставим интелигентността си сред всички други възможни видове интелигентност, тя щеше да се озове някъде в ъгъла - като самия наш свят, сгушен на ръба на огромна галактика.

Разбира се, можем да си представим и понякога да измислим начин на мислене, който е подобен по своите характеристики на швейцарския армейски нож. Изглежда, че се справя с много задачи, но не с гръм и трясък.

Има и техническо правило, на което всички неща трябва да се подчиняват, независимо дали са създадени умишлено или са дошли на света по естествен път: „Невъзможно е да се оптимизират всички измервания. Можете да намерите само компромиси. Една мултифункционална машина „всичко в едно“ не може да надмине специализираните функции.“

Съзнанието „направи всичко“ не може да работи наравно със специализираните изпълнители на конкретни задачи. Тъй като считаме нашето съзнание за универсален механизъм, ние вярваме, че познанието не трябва да се основава на компромиси и че е възможно да се измисли изкуствен интелект, който демонстрира максимална степен на ефективност във всички видове мислене.

Не виждам обаче доказателства за това твърдение. Просто все още не сме създали достатъчно разновидности на съзнанието, за да можем да видим пълната картина (засега предпочитаме да не разглеждаме съзнанието на животните през призмата на един параметър като отделен тип мислене с променлива амплитуда).

Част от това убеждение, че нашето мислене е възможно най-универсално, произтича от концепцията за универсално изчисление. Това предположение беше наречено тезата на Чърч-Тюринг през 1950 г. Той гласи, че всички изчисления, които отговарят на определени параметри, са еквивалентни.

По този начин има универсална база за всички изчисления. Независимо дали изчислението се извършва в една машина с много бързи машини, машина с по-ниска производителност или дори в биологичен мозък, това е един и същ логичен процес. Това от своя страна означава, че можем да симулираме всеки изчислителен процес (мислене) с всяка машина, която може да извършва "универсални" изчисления.

С този принцип привържениците на сингулярността оправдават очакванията си, че можем да проектираме базиран на силиций изкуствен мозък, който да побира човешкото съзнание, че можем да създадем изкуствен интелект, който ще мисли по същия начин като човек, но многократно по-ефективно . Тези надежди трябва да се третират с известна доза скептицизъм, тъй като се основават на погрешно тълкуване на тезата Чърч-Тюринг.

Изходната позиция на тази теория е: "В условията на неограничена памет и време всички изчисления са еквивалентни." Проблемът е, че в действителност никой компютър няма характеристиките на безкрайна памет или време. Когато правите изчисления в реалния свят, компонентът на времето е изключително важен до такава степен, че често е въпрос на живот и смърт.

Да, всички видове мислене са равни, ако изключим темпоралния аспект. Да, възможно е да имитирате човешкия мисловен процес във всяка матрица, ако решите да игнорирате времето или реалните ограничения на свободното пространство и паметта.

Въпреки това, ако включим времевата променлива в това уравнение, ще трябва значително да променим формулировката на принципа: „Две изчислителни системи, работещи на коренно различни платформи, няма да произвеждат еквивалентни изчисления в реално време.“

Този принцип може да бъде преформулиран по следния начин: „Единственият начин да се получат еквивалентни начини на мислене е да се прилагат на една и съща основа. Физическият носител, върху който извършвате своите изчисления - особено с нарастването на степента на тяхната сложност - значително влияе върху начина, по който мислите в реално време.

Продължавайки логическата верига, ще предположа, че единственият начин да създадем тип мислене, възможно най-близо до човешкото, е да извършваме изчисления, използвайки материя, която наподобява максимално нашето сиво вещество.

Това означава, че може да се предположи, че обемистият, сложен изкуствен интелект, създаден на базата на сух силиций, ще генерира тромаво, сложно и неподобно на човешкото мислене. Ако беше възможно да се създаде изкуствен интелект, който работи върху мокра материя, използвайки изкуствени неврони като човешките, мисловният процес на такъв ИИ би бил много по-близо до нашия.

Предимствата на такава „мокра“ система са пропорционални на близостта на използваните физически носители до човешките. Създаването на такова вещество би изисквало огромни материални разходи, за да се постигне ниво, поне подобно на това, което ни е присъщо по природа. И ние можем да създадем нов човек по този начин - просто трябва да изчакате 9 месеца.

Освен това, както споменахме по-рано, ние мислим с цялото си същество, а не само със съзнанието си. Съвременната наука разполага с много данни за това как нашата нервна система влияе върху процеса на „рационално“ вземане на решения, предвижда и се адаптира. Колкото повече разглеждаме системата на човешкото тяло, толкова по-внимателно можем впоследствие да я пресъздадем. Изкуственият интелект, работещ с вещество, коренно различно от нашето (сух силиций вместо мокър въглерод), също ще мисли по различен начин.

Не мисля, че тази функция е по-скоро „функция, а не грешка“. Както твърдях във втория параграф на тази статия, разликите в мисловния процес на AI са основното му предимство. Ето още една причина, поради която би било грешка да се каже, че той е „по-умен от човешкия мозък“.

В основата на концепцията за свръхчовешкия интелект – и по-специално на теорията за постоянното самоусъвършенстване на такъв ИИ – лежи искрената вяра в безграничността на интелекта. Не намерих никакви доказателства за това твърдение.

Отново, погрешното възприемане на интелигентността като система, дефинирана само от едно измерение, допринася за разпространението на това твърдение, но трябва да разберем, че то остава неоснователно. Във Вселената няма безкрайни физически измерения - поне те все още са неизвестни на науката.

Температурата не е безкрайна - има минимални и максимални показатели за студ и топлина. Пространството и времето също не са неограничени, както и скоростта. Може би числовата ос може да се нарече безкрайна, но всички други физически параметри имат своите граници. Разбира се, самият ум също е ограничен.

Възниква въпросът: къде са границите на интелигентността? Вярвахме, че границата е някъде далеч, колкото „над“ нас, толкова и ние „над“ мравките. Като оставим настрана нерешения проблем с едноизмерността, как можем да докажем, че все още не сме достигнали границата? Защо не можем да бъдем венецът на творението? Или може би почти сме достигнали границите на човешките възможности? Защо вярваме, че интелигентността е безкрайно развиваща се концепция?

По-добре е да разглеждаме нашата интелигентност като една от разновидностите на огромен брой видове мислене. Въпреки че всяко измерение на познанието и изчислението има ограничение, ако има стотици измерения, тогава има безброй разновидности на интелигентност, но нито едно от тях не е безкрайно в нито едно измерение.

Докато създаваме или се сблъскваме с тези безброй вариации по темата за съзнанието, може да ги преживеем като нещо извън нашите способности. В последната си книга „Неизбежното“ начертах списък на някои от тези разновидности, които са по-ниски от нас по един или друг начин. Ето част от този списък:

Умът, максимално близък до човешкия, но с по-висока скорост на реакция (най-простият изкуствен интелект);

Много бавен ум, основните компоненти на който са достатъчно място за съхранение и памет;

Универсална интелигентност, състояща се от милиони индивидуални съзнания, действащи в унисон;

Кошерен ум, съставен от голям брой изключително продуктивни интелигентности, които не знаят, че са едно цяло;

Борг суперум (раса от киборги с колективен ум, опитващи се да асимилират всички живи същества от поредицата Стар Трек в своя колектив - прибл. Ново какво) - набор от високофункционални интелекти, ясно осъзнаващи, че са едно цяло;

Ум, създаден да развива личното съзнание на носещия, но неизползваем за никой друг;

Разум, способен да си представи по-сложен ум, но неспособен да го създаде;

Разум, способен един ден успешно да създаде по-сложен ум;

Разум, способен да създаде по-сложен ум, който, от своя страна, може да създаде още по-сложен ум и т.н.;

Reason, който има бърз достъп до изходния си код (може да променя характеристиките на функционирането си по всяко време);

Свръхлогичен ум, лишен от способността да изпитва емоции;

Стандартен ум, насочен към решаване на проблеми, но неспособен на интроспекция;

Ум, способен на интроспекция, но неспособен да решава възложените му задачи;

Ум, чието формиране отнема дълъг период от време, нуждаещ се от ум-пазител;

Изключително бавен ум, разпръснат в огромно физическо пространство, което изглежда „невидимо“ за по-бързо реагиращите форми на съзнание;

Ум, който може бързо и многократно да възпроизвежда свои копия;

Ум, способен да възпроизвежда своите копия и да остане едно с тях;

Ум, способен да постигне безсмъртие чрез преминаване от домакин на домакин;

Бърз, динамичен ум, способен да променя процеса и характера на мисленето;

Нано-ум, най-малката независима единица (като размер и освободена енергия), способна на интроспекция;

Ум, специализиран в писане на скриптове и прогнозиране;

Ум, който никога не забравя нищо, включително грешна информация;

Наполовина машина, наполовина животно;

Наполовина машина, наполовина андрогинен киборг;

Ум, който използва в работата си непонятен за нас количествен анализ.

Днес някои наричат ​​всяка от изброените разновидности на мислене свръхчовешки ИИ, но в бъдеще многообразието и отчуждението на тези форми на интелигентност ще ни принуди да се обърнем към новите речници и да проучим подробно темата за мисленето и интелигентността.

В допълнение, привържениците на идеята за свръхчовешки AI предполагат, че нивото на умствените му способности ще нараства експоненциално (въпреки че все още нямат система за оценка на това ниво). Може би смятат, че процесът на експоненциално развитие вече е в ход.

Както и да е, днес няма доказателства за такъв растеж, както и да го измервате. В противен случай това би означавало, че умствените способности на AI се удвояват за определен период от време.

Къде е потвърждението за това? Единственото нещо, което расте експоненциално в момента, са инвестициите в AI индустрията. Но възвръщаемостта на тези инвестиции не може да се опише със закона на Мур. ИИ не става два пъти по-умен за три или дори за десет години.

Питах много експерти по изкуствен интелект, но всички се съгласиха, че нямаме критерии за разумност. Когато попитах Рей Кърцвейл, истинският магьосник на степента, къде да намеря доказателства за експоненциалното развитие на ИИ, той ми написа, че развитието на ИИ не е експлозивен, а постепенен процес.

„Добавянето на ново ниво към йерархията изисква както експоненциално увеличение на изчислителната мощност, така и увеличаване на сложността на алгоритъма ... Следователно трябва да очакваме линейно увеличение на броя на условните нива, тъй като всяко от тях изисква експоненциално нарастване на собствените ни способности. Не ни остават много нива на трудност, за да достигнем AI способностите на неокортекса (основната част от човешкия кортекс, която е отговорна за висшите нервни функции - прибл. Ново от това), така че все още вярвам, че предположенията ми за 2029 г. са верни.

Рей сякаш казва, че не силата на изкуствения интелект расте експоненциално, а усилията за създаването му, докато резултатът от тях просто се увеличава с една стъпка всеки път. Това е почти обратното на хипотезата за експлозията на интелекта. Това може да се промени в бъдеще, но AI очевидно не расте експоненциално днес.

Така че, когато си представяме „бума на ИИ“, не трябва да си го представяме като лавина, а по-скоро като разделяне на много нови разновидности. Резултатът от технологичния прогрес най-вероятно няма да бъде супермен, а супермен. Отвъд нашето знание, но не непременно „над“ него.

Друг мит за робуването на суперинтелигентността, който се приема за даденост, но едва ли е подкрепен от доказателства, е, че почти безкрайният интелект може бързо да реши всички наши проблеми.

Много привърженици на светкавично бърз AI очакват той да предизвика бум в ход. Аз наричам вярата в това "мислене", терминът е преведен от Вячеслав Голованов - прибл. Ново какво). Този подход се основава на убеждението, че напредъкът се възпрепятства само от недостатъчно ниво на мислене или интелигентност. (Отбелязвам също, че вярата в AI като панацея за всички болести е характерна за по-голямата част от хората, които обичат да мислят сами.)

Нека разгледаме въпроса за победата над рака или за удължаването на живота. Това са проблеми, които не могат да бъдат решени само с мислене. Никаква мисъл не може да разбере как клетките стареят или как теломерите се скъсяват. Нито един интелект, колкото и да е готин, не може да разбере как работи човешкото тяло, като просто прочете цялата известна научна литература в света и я анализира.

Един супер-AI не може просто да мисли за всички настоящи и минали експерименти с ядрено делене и ден по-късно да измисли рецепта за ядрен синтез. За да преминете от неразбиране към разбиране на който и да е предмет, имате нужда от нещо повече от просто мислене.

В действителност има много експерименти, всеки от които дава цял куп противоречиви данни и изисква допълнителни експерименти, за да се формира правилна работна хипотеза. Мисленето само за възможните резултати няма да доведе до правилния резултат.

Мисленето (интелигентността) е само част от инструмента на науката. Най-вероятно само малка част. Например, ние просто нямаме достатъчно данни, за да се доближим до решаването на проблема със смъртта. В случай на работа с живи организми повечето от тези експерименти отнемат време. Бавният клетъчен метаболизъм не може да бъде ускорен. Необходими са години, месеци или поне дни, за да получите резултати.

Ако искаме да знаем какво се случва със субатомните частици, не е достатъчно просто да мислим за тях. Трябва да изградим много големи, много сложни, много сложни физически модели, за да разберем. Дори ако най-умните физици станат хиляди пъти по-умни, отколкото са сега, те няма да научат нищо ново без колайдер.

Няма съмнение, че супер-AI може да ускори развитието на науката. Можем да създаваме компютърни модели на атоми или клетки, можем да ги ускоряваме по много начини, но има проблеми, които пречат на симулациите да постигнат мигновен напредък.

Струва си да се помни, че симулациите и моделите могат да бъдат изследвани по-бързо от техните обекти само защото отхвърлят определени променливи. Това е самата същност на моделирането. Също така е важно да се отбележи, че отнема много време за тестване, проучване и валидиране на такива модели, така че да отговарят на нивото на своите предмети. Тестването чрез опит не може да бъде ускорено.

Опростените версии в симулацията са полезни за намиране на най-обещаващите начини за ускоряване на прогреса. Но в действителност няма нищо излишно, всичко има значение до известна степен - това е една голяма дефиниция на реалността. Тъй като моделите и симулациите стават все по-подробни, изследователите са изправени пред факта, че реалността работи по-бързо от своята 100% симулация.

Ето още една дефиниция на реалността: най-бързо работещата версия на всички възможни детайли и степени на свобода. Ако можете да симулирате всички молекули в една клетка и всички клетки в човешкото тяло, този модел няма да работи толкова бързо, колкото човешкото тяло. Без значение колко обмислено проектирате такъв модел, все пак ще трябва да прекарате време в експерименти, независимо дали е реална система или симулация.

За да бъде полезен, изкуственият интелект трябва да бъде въведен в света, а в този свят необходимото темпо на иновациите се променя доста бързо. Без първите опити, прототипи, грешки и въвличане в реалността, интелектът може да мисли, но няма да дава резултати. Той няма да направи моментни открития нито след секунда, нито след час, нито след година, след като го нарекат „по-умен от човек“.

Появява се AI. Разбира се, скоростта на откриване ще се ускори, тъй като този AI стане по-сложен, отчасти защото извънземният изкуствен интелект ще задава въпроси, които никой човек не би задал, но дори един много мощен (в сравнение с нас) интелект не гарантира незабавен напредък. Изисква се много повече от просто интелигентност, за да се решават проблеми.

Проблемите с рака и дълголетието не са единствените, които интелектът сам по себе си не може да разреши. Има често срещано погрешно схващане сред привържениците на идеята за технологична сингулярност: ако създадем AI, който е по-умен от хората, тогава той внезапно ще започне да се развива и ще създаде още по-умен AI.

Новият изкуствен интелект ще мисли по-дълбоко и ще измисли нещо още по-умно и така нататък, докато не бъде изобретено нещо богоподобно. Няма доказателства, че мисленето само по себе си е достатъчно за създаване на нови нива на интелигентност. Този вид мислене се основава на вяра.

Въпреки това има много доказателства, че изобретяването на нов ефективен интелект изисква не само умствени усилия, но и експерименти, данни, трудни въпроси, опити и грешки.

Разбирам, че може и да греша. Докато сме на ранен етап. Може би ще открием универсален мащаб на интелигентността или нейната безкрайност във всеки смисъл. Има възможност за технологична уникалност, защото знаем много малко за това какво е интелигентност и самосъзнание. Според мен всичко сочи, че това е малко вероятно, но все пак има шанс.

Въпреки това подкрепям по-широките цели на OpenAI: трябва да разработим приятелски AI и да разберем как да му дадем стойности, които се възпроизвеждат сами и съответстват на нашите.

Има възможност свръхчовешкият изкуствен интелект да бъде вреден в дългосрочен план, но тази идея се основава на непълни доказателства и не трябва да се приема на сериозно, когато става дума за наука, политика или прогрес.

Ударът на астероид върху Земята може да ни унищожи, има възможност за такъв резултат (това се потвърждава от фондация B612), но не трябва да обмисляме такъв резултат по въпросите на глобалното затопляне, космическите пътувания или градоустройството.

Наличните доказателства показват, че най-вероятно AI няма да бъде свръхчовек. Той ще има нови разновидности на мислене, които са недостъпни за човека, но без цялостно приложение, той няма да се превърне в бог, който ще реши основните ни проблеми за миг.

Вместо това ще се превърне в струпване на интелекти с ограничени възможности, ще бъде по-добре от нас да работи в непривични за нас области, заедно с нас ще може да намира решения както на съществуващи, така и на нови проблеми.

Разбирам колко привлекателна е идеята за свръхчовешки и божествен AI. Той може да бъде следващият Супермен. Но, подобно на Супермен, това е измислен герой. Някъде във Вселената Супермен може да съществува, но е много малко вероятно. Както и да е, митовете могат да бъдат полезни и веднъж създадени, те не изчезват.

Идеята за Супермен ще живее вечно. Идеята за свръхчовешки AI и Сингулярността се появява сега и никога няма да бъде забравена. Трябва да разберем какъв вид идея е: религиозна или научна. Ако изследваме въпроса за интелекта, изкуствен или естествен, трябва ясно да разберем, че нашата концепция за свръхчовешки ИИ не е нищо друго освен мит.

Племената от изолираните острови на Микронезия за първи път са осъществили контакт с външния свят по време на Втората световна война. Боговете долетяха от далечни страни, слязоха от небето на шумни птици, донесоха дарове и отлетяха завинаги. Култовете за завръщането на тези богове и нови дарове се разпространяват из островите. Дори сега, 50 години по-късно, много от тях все още чакат завръщането си.

Свръхчовешкият изкуствен интелект може да се превърне в нов карго култ за нас. Може би след сто години хората ще възприемат нашето време по същия начин: сякаш сме вярвали в свръхчовешкия ИИ и сме чакали десетилетия той да се появи всеки момент и да ни донесе невъобразими дарове.

Въпреки това вече съществува AI, който не е свръхчовек. Продължаваме да търсим нова дефиниция за него, да го усложняваме. Въпреки това, в широк смисъл, чуждият за нас ум е спектър от интелектуални способности, мислене, механизми на разсъждение, учене, самосъзнание. AI се разпространява и ще продължи да се разпространява. Става по-дълбоко, по-разнообразно, по-мощно.

Преди изкуствения интелект никое изобретение не може напълно да промени света. До края на 21-ви век изкуственият интелект ще бъде толкова мощен, че ще промени всичко в живота ни.

Както и да е, митът за свръхчовешки AI, който ще ни даде свръхбогатство или супер-робство (или и двете), ще продължи да живее. Това обаче ще си остане мит, който едва ли ще бъде въплътен в реалността.