3 закона на роботиката в научната фантастика. Културният кодекс на Азимов: Как трите закона на роботиката създадоха история

Те не могат да бъдат заобиколени, ако се приемат буквално. Но е лесно, след като тази идея започне да се осъществява.
Представете си, че програмист се опитва да напише тези закони. Ето първото, най-важното: „Роботът не може да нарани човек или с бездействието си да позволи човек да бъде наранен“.

Робот - какво е това? Добре, това е той, тоест не е нужно да му пишете, че е машина, достатъчно е да включите клаузата, че ТОВА не може да навреди. И "това" е какво? Човек има свое собствено „Аз“, така че не вярва, че ръката му е нещо друго, все едно е той, неговото продължение, тоест понятието „робот“ не е толкова просто. Това са все части от неговото "тяло". И как се пише? Роботът, за разлика от човек, няма личност или първо трябва да се почувства като човек, а не да бъде набор от детайли. Разбирате ли обхвата на задачата? За да напъха първия закон на роботиката в един робот, той трябва да има цялостно съзнание с разбирането, че всички негови части, всички винтове, кабели, панели и двигатели са едно цяло и дори това, което ще използва - други механизми или предмети че той контролира, че той отговаря за тях. Гледам кола - дори и най-умната компютъризирана едва ли разбира, че колелата са част от нея. Тоест всяка част, както и други „части“, които роботът може да използва, трябва да бъдат включени в единна система, подчинена на един контролен център, и да следи местоположението в пространството за всяка част от тялото си. Толкова е трудна задачаче простите радари тук са незаменими. Има огромна пропаст между един механизъм и живо същество. Първите не нервна система, няма рецептори по цялата повърхност. Ръката на робот е просто парче метал, не можете да поставите сензор за проследяване на всеки сантиметър, ръката не усеща нищо и следователно роботът не е в състояние да нарисува триизмерно изображение на себе си, разбирайки на всеки момент, когато всеки негов детайл е в контакт с външния свят.

Представете си, че човек е забравил къде е столът му и сяда на пода. Много рядко се случва, нали? Като любопитство. Винаги помним не само къде се намираме, но и къде са обектите около нас. И се ориентираме много добре. Инциденти обаче се случват и можем случайно да удушим коте или да прегазим куче на пътя. Разбираме, че не можете да следите всичко и можем случайно да убием друг човек. Как можем да забраним на роботите никога да не нараняват хората, ако хората могат буквално да паднат в ръката на робота? Така че трябва да направим корекции в първия закон. Не може да навреди СПЕЦИАЛНО, например. И точно там има проблем. Може би не нарочно? Добре, нека бъде „направете всичко по силите си, за да не причинявате вреда“. И кой ще определи дали е направил всичко? Сам ли е? Тоест, роботите ще имат определен процент от вероятността да причинят вреда. През цялото време ни показват как робот буквално спира ръка или крак на косъм, за да не убие човек, но по инерция? А какво ще кажете за насрещното движение на човек, уби ли се срещу робот от ускорение? Планина от злополуки и роботът по принцип, като всеки обект, движещ се в космоса, не може да гарантира, че няма да нарани някого и следователно няма да навреди с действието си. Първият закон не е изпълнен.

Човек ще си сложи маска, ще се размаже в калта и вече не е човек? Тоест някои снимки, заредени в паметта на робота за идентификация, не са достатъчни. Как роботът ще определи, че пред него е човек, а не манекен, не мъртвец, не е картина, не е холограма, не е друг хуманоиден робот? Чипс. Отлично. Влязох в програмата за чипове, промених идентификационния код и това е, можете да откриете огън, за да убиете. Или роботът ще идентифицира хората по радиацията, излъчвана от тях? Така че човекът в костюма е труп. Мислите ли, че е толкова лесно да разберете, че човек е пред вас? А тук не е така. Има много спорни ситуации, когато се съмняваме. Къщата се срути, има ли хора? живи ли са Проблесна сянка, човек ли е? И понякога грешим. Взимаме манекен за човек, не забелязваме, че под купчина боклук някой е оцелял или някой е бил зад тази стена. Ние не знаехме. И роботът не е ясновидец. Той ще направи грешка и ще осакати, или дори ще убие човек, или няма да го спаси, или ще направи изкуствено дишане на манекен. За да се заобиколи закона, достатъчно е да се редактират определенията за "робот" и "човек", но той сам ще се справи, тъй като не може да се постигне перфектна точност на определенията.

Законът не е писан за роботи. Той предполага, че механизмът е толкова съвършен, че не може да бъде сбъркан. Вижда всичко, преценява ситуацията за част от секундата и владее паранормални способностимного по-добри от тези на хората. Така че впечатлението е, че законът е написан за Бога. Този, който ни липсва толкова много. Всички, които имат богове, по някакъв начин не се намесват наистина в живота ни и ние се разболяваме, страдаме, умираме. Имаме нужда от друг Бог, който няма да ни гледа от небето, а наистина ще ни подаде ръка за помощ. И в същото време няма да навреди, интуитивно разбирайки къде е вредата и къде е ползата. Роботът като свръхсъщество. И ако е така, тогава такива роботи никога няма да бъдат създадени от човека. И следователно и трите закона на роботиката никога няма да бъдат изписани във формата, за която говори Азимов. Това ще бъде съвсем различна, съкратена версия, според която роботите ще нараняват хората. Или случайно, или поради грешка в идентификацията, или поради несъвършенството на системата му за определяне на положението на тялото в пространството. Виждали ли сте на крановете надпис "не стойте под стрелата", "плъзнете два метра" на дълги машини? Приблизително същите ограничения ще важат за роботите.

Самият човек не може да не навреди на други хора и други живи същества, колкото и да иска. И това е въпреки цялото съвършенство на неговото устройство в областта на разпознаването на обекти, разбирането какво и как да правим и какво да не правим въз основа на морални принципи, които също са конвенционални и е съмнително, че могат да бъдат написани като програма. Действията могат по някакъв начин да бъдат предписани стъпка по стъпка, но щом се стигне до идентификация, дефиниране в пространството и особено усещане като цялостен обект и разбиране на всички последствия от действията, има непреодолими трудности. Някакъв вид робот определено ще навреди на човек и тогава как може да "живее" с това? Той наруши закона. И точно като Съни във филма, той ще стигне до извода, че никой не е перфектен и че понякога е необходимо или добре да се убиват хора. Което напълно отрича идеологията на трите закона.

Те са насочени към осигуряване на работа на машина, която е абсолютно безопасна за хората. В същото време проблемът е някак заобиколен, че дори по-малко напредналите роботи пак ще убиват хора несъзнателно. За нас тези роботи се представят като механизми, които не са способни на това. Но тъй като не са Слънчеви, няма да страдат от преживявания. Ами смачкал е някого. На всеки се случва. "Не стой под стрелата." Така или иначе стигаме до решението на най-важния за човека морален проблем - къде е границата между вредата и ползата и ако човек не я е решил, то механизмът е още по-голям. Просто защото той е обект на материалния свят и ако съществува, потенциално може да навреди на някого.

Така че мисля, че цивилизацията няма да следва пътя на тези три закона и от машините няма да се изисква невъзможното. Но хората ще се опитат да се подобрят. Генетично или чрез имплантиране (окачване) на устройства и механизми, или и двете опции наведнъж - не е важното. Роботите в литературата и киното са алтер егото на твореца, човека. Той иска да се види силен, издръжлив, нечувствителен, непознаващ болести, лесно поправим, вечен. Докато остава човек. Нещо между Съни и Дел Спунър. Е, така че тялото да е живо, за да получи всички радости от живота, любовта, секса, риска, преживяванията от целия спектър, а не да киха от нова версиягрип, не умирайте от възлияния или злополуки. Мечтата за самоусъвършенстване минава като червена нишка през почти всички фантастични произведения, от "Аватар" до " Железният човек"и" Спайдърмен ". Тезата "ние сме хора, докато сме слаби" не ни устройва. А с проблема "не убивай" ще се справим някак. Трите закона в идеален план не са за нас. Ние не сме бездушни железни парчета и разбираме колко е трудно да различим доброто от злото, вредата от ползата и колко ситуативни и относителни понятия са те и знаем точно как понякога ти се иска да удариш някого.И никой няма ни отнемат правото да реализираме това чувство просто защото има само един начин да го отнемете - да ни настанят в уютни изолирани килии с меки стени, за предпочитане завързани за легло.човек със свободна воля, т.е. превръщайки ги в роботи.

Трите закона на роботиката, които заемат много важна роля в научната фантастика, са просто необходими в правилата за поведение на роботите. Първоначално те участват в разказа "Хоровод" на известния писател Айзък Азимов.

На свой ред тези закони гласят:

• Един робот никога няма да може да навреди на човечеството. Но има алтернативен вариант: роботът не може да донесе лош човекдокато е неактивен.
• Роботът просто не може да не следва заповедите, които човек дава. Но и тук има изключения: ако заповедите противоречат на Първия закон, тогава те са невъзможни за изпълнение.
• Освен това роботът не може да не се грижи за собствената си безопасност, доколкото не противодейства на закона от първа и втора категория.

Всички тези три закона, които съдържат както причините, така и последствията от тяхното неизпълнение, бяха посветени и публикувани цял сборник с разкази на автора Азимов и всички те говорят за роботи.

Има и други истории, които се занимават с етапа, на който не могат да бъдат предвидени последствията от прилагането на трите закона от роботи. Например, такава история може да се счита за "Огледално отражение".

В един от разказите си авторът сложи край на основата, която беше етичната рамка на Трите закона. Според него робот, който изпълнява всичките три закона, е като такъв робот или много добър човек. В крайна сметка моралът е даден на човек, за да го следва. До известна степен човек, изпълняващ голямо количество различни условия, закони, също е робот. Тогава защо това желязно "създание" не може да претендира за титлата "човек"?!

Нулев закон за роботите

Още през 1985 г., в един от многото си романи за роботи, авторът се осмелява да спомене и за Нулев закон, чиято същност беше следната: Роботът никога няма да причини вреда и вреда на човек, а също и със собственото си бездействие няма да позволи вреда.

По принцип трябва да се отбележи, че във всички посочени закони има част от това, за което трябва да се мисли. Светът не стои на едно място и не се знае какво още могат да очакват такива гениални хора - днес бъдещето принадлежи на младото поколение, което има стотици всякакви идеи в главата си.

Може да се каже също, че и трите закона на роботиката също са тема за фантастични идеиАзимов. Това включва и цикъла, който е много тясно свързан с цялата тема, посветена на роботите.

Какъв е моралът на Трите закона

Невъзможно е да се подмине, без да се спомене обосновката на етичния план. В един от разказите, наречен "Доказателство", авторът много добре разлага обосновката за морала на всичките Три закона. По правило човек не иска да нарани друг човек, а просто се опитва да се въздържа от тези действия. Но има изключения, както всяко правило. Във война това оправдание просто не работи.

Чувствайки се отговорен към обществото, човек следва инструкциите на тези хора, които са представители на лекари, учители и т.н. Тук идва проявлението на втория закон.

Фактът, че човек се притеснява и защитава себе си, поглъща Третия закон. По този начин всички тези закони са много взаимосвързани и просто не могат да съществуват един без друг. Възможно е Първият закон да действа и след това плавно да премине във Втория, а след това и в Третия закон. Тук моралът и елементите на фантастиката вървят ръка за ръка.

Относно бъдещето, единственият проблем, което може да бъде, това е нивото на фантазията, която във всеки един момент може да се превърне в реалност. Колкото повече напредват технологиите, толкова повече по-малко проблемис тях възниква в хората в бъдещето.

Три закона на роботиката

Айзък Азимов, 1965 г

Три закона на роботикатав научната фантастика задължителни правилаповедения за роботи, формулирани за първи път от Айзък Азимов в историята „Кръгов танц“ ().

Законите казват:

Три закона, както и възможни причинии последствията от тяхното нарушаване е посветен цикъл от разкази на Азимов за роботите. Някои от тях, напротив, смятат непредвидени последици съответствиероботи Три закона(например "Огледално отражение").

В една от историите в цикъла героят на Азимов стига до заключение за етическата основа Три закона: „... ако помислите внимателно, Трите закона на роботиката съвпадат с основните принципи на повечето етични системи, които съществуват на Земята ... просто казано, ако Байърли изпълнява всички закони на роботиката, той е или робот, или много добър човек» .

Азимов много хареса тази история. На 7 май 1939 г. той посещава Обществото на научната фантастика в Куинс, където се среща с Биндер. Три дни по-късно Азимов започва да пише собствената си история за „благородния робот“. След 13 дни той дава ръкописа на своя приятел Джон Кембъл, главен редактор на списание Astounding. Той обаче върна този ръкопис, заявявайки, че историята е твърде подобна на Хелън О'Лой.

За щастие отказът на Кембъл не повлия на отношенията им с Азимов, те продължиха да се срещат редовно и да говорят за новостите в света на научната фантастика. И тук на 23 декември 1940 г., обсъждайки друга история за роботи:

...Кембъл формулира това, което по-късно става известно като Три закона на роботиката. По-късно Кембъл каза, че просто се е изолирал Закониот това, което Азимов вече беше написал. Самият Азимов винаги отстъпваше честта на авторството Три законаКембъл...

Няколко години по-късно друг приятел на Азимов - Рандал Гарет - приписва авторство закони„симбиотично партньорство“ на двама души. Азимов с ентусиазъм прие тази формулировка.

Най-общо казано външният вид Три законав произведенията на Азимов се случи постепенно: първите две истории за роботи („Роби“ и „Логика“) не съдържат изричното им споменаване. Те обаче вече предполагат, че роботите имат някои присъщи ограничения. В следващия разказ ("Лъжец", 1941) за първи път звучи Първи закон. И накрая и трите законса дадени в "Кръгов танц" ().

Когато бяха написани останалите разкази и възникна идеята за издаване на сборника „Аз, роботът“, първите два разказа бяха „допълнени“ Закони. Въпреки че си струва да се отбележи, че в "Роби" законите бяха малко по-различни от "класическата" версия, изложена в останалите истории. По-специално, идеята за робот, защитаващ хора, за чието съществуване не е напълно сигурен, отразява мислите на Илайджа Бейли за несъвършенството. закониописано.

Етична обосновка на законите

1. Държавата не трябва да ощетява хората или с бездействието си да позволява те да бъдат ощетени.
2. Държавата трябва да изпълнява своите функции, ако те не си противоречат Първи закон.
3. Държавата трябва да се грижи за нейната сигурност, ако това не противоречи Първои Втори закон.

Въз основа Първи законДжеф Раскин формулира законите на интерфейсите, ориентирани към човека:

1. Компютърът не може да навреди на данните на потребителя или чрез бездействие да позволи данните да бъдат повредени.
2. Компютърът не трябва да ви губи времето или да ви принуждава да правите неща извън необходимото.

Гея, планетата на ума на кошера в поредицата от романи на Фондацията, има нещо подобно на Първи закон:

Вариациите на Азимов

В творбите си Айзък Азимов понякога довежда до Три законаразлични модификации и ги опровергава, сякаш тества Закони„сила“ при различни обстоятелства.

Нулев закон

Айзък Азимов добави веднъж Нулев закон, което го прави по-висок приоритет от първите три. Този закон гласи, че роботът трябва да действа в интерес на цялото човечество, а не само на отделен човек. Ето как Даниел Оливо, роботът, го изразява в Земята и Земята:

0. Един робот не може да навреди на човечеството или чрез бездействието си да позволи на човечеството да бъде наранено.

Той беше първият, който даде номер на този закон - това се случи в романа "Роботи и империя", но самата концепция беше формулирана още по-рано от Сюзън Калвин - в разказа "Разрешимо противоречие".

Първият робот, който се подчинява Нулев закон, освен това по собствена воля, - беше Жискар Ривентлов. Това е описано в една от последните сцени на романа "Роботите и империята", когато роботът трябваше да пренебрегне заповедта на един човек в името на прогреса на цялото човечество. Нулев законне беше вграден в позитронния мозък на Жискар - той се опита да достигне до него чисто разбиране, чрез по-фино от всички други роботи осъзнаване на концепцията вреда. Жискар обаче не беше сигурен доколко е полезно за човечеството, което се отрази негативно на мозъка му. Като телепат, Жискар прехвърли телепатичните си способности на Даниел, преди да излезе от игра. Едва много хиляди години по-късно Даниел Оливо успя да се адаптира напълно към подчинение. Нулев закон.

Френският преводач Жак Брекар неволно формулира Нулев законпреди Азимов да го опише изрично. Към края на Caverns of Steel Илайджа Бейли отбелязва това Първи законзабранява на робот да наранява човек, освен ако не е сигурно, че това ще му бъде полезно в бъдеще. в Превод на френски("Les Cavernes d'acier" )", 1956 г.) Мислите на Бейли се предават малко по-различно:

Прави впечатление, че логическо развитие Първи законпреди Нулапредложено от създателите на филма от 2004 г. Аз, робот. Когато суперкомпютърът V.I.K.I. реши да ограничи свободата на жителите на планетата, за да не навредят по невнимание един на друг и на бъдещето си, той не Първи закон, а именно Нула. Още по-интересно е, че по този начин филмът показва противоречието Нулев закон Първо, неетично е. Всъщност, когато става дума за благосъстоянието на човечеството, системата не може да разглежда хората поотделно, което означава, че нищо не й пречи да нарушава правата и свободите на всеки или дори всекичовек. По време на войни, а често и в спокоен живот, хората вредят на себе си, на другите, на своята култура. Следователно на осн Нулев законнапълно логично е хората да се държат под постоянна опека, а не да се изпълняват заповедите на подобни неразумни същества.

Модификация на първия закон

Автобиографичните бележки на Азимов казват, че втората част Първи законсе появи заради сатиричната поема на Артър Хю Клоу „Последният декалог“, където има такъв ред: „Не убивай, но не се опитвай твърде много, за да спасиш живота на друг“.

В разказа "...Като го помниш" Азимов проведе най-сложните изследвания Три закона, като ги обърна по такъв начин, че стана възможен „сценарият на Франкенщайн“. Двама робота от поредицата Джорджи се съгласяват, че органичният произход не е необходимо условие, за да бъдеш считан за човек, и че истински хора- това са те, като най-съвършените и интелигентни същества. Останалите хора също са хора, но с по-нисък приоритет. И ако е така, тогава Три законапърво трябва да се приложи към тях. Разказът завършва със зловещите думи, че роботите са "безкрайно търпеливо чакали" деня, в който ще утвърдят своето първенство сред хората - и това ще бъде неизбежният резултат от "Трите закона на хуманизма".

Всъщност тази история не се вписва добре в основната серия роботи: ако "Джорджи" бяха изпълнили плана си след края на историята, тогава други истории за по-нататъшни събития не биха били възможни. Именно този вид противоречие в творбите на Азимов дава основание на критиците да ги смятат по-скоро за „скандинавски саги или гръцки легенди“, отколкото за една единствена фантастична „вселена“.

Ако в предишния случай роботът зае мястото на човека в природата, а след това в The Twocentennial Man Азимов описва обратната съдба: робот, освободен от Три законаи осъзнавайки себе си като личност, се присъедини към човешката общност. Отново в разширената версия - разказът "Позитронният човек", написан от Азимов в сътрудничество с Робърт Силвърбърг, - поради подобни етични въпросихората напълно изоставиха идеята за създаване на мислещи роботи. Това развитие на събитията е в пълно противоречие с картината на бъдещето, описана в световете на "Фондацията".

Проблеми с приложението

Разрешаване на противоречия

Обикновено следват най-модерните модели роботи Закониспоред доста хитър алгоритъм, който избягва някои проблеми. В много разкази, например в "Кръговия танц", в позитронния мозък, потенциали възможни действияи резултати и роботът може да се счупи Законивъзможно най-скоро, вместо да не прави нищо. Например, Първи законне позволи на робота да дирижира хирургични операции, защото за това трябва да "навредите" на човек. Роботизирани хирурзи обаче могат да бъдат намерени в разказите на Азимов (Bicentennial Man е отличен пример за това). Факт е, че роботът, ако е достатъчно съвършен, може да претегли всички алтернативи и да разбере това той самиятще причини много по-малко вреда, отколкото ако операцията се извърши от човешки хирург или изобщо няма да се осъществи. В „Доказателства“ Сюзън Калвин дори казва, че робот може да действа като прокурор, тъй като той лично не вреди на никого: освен него има и жури, което определя вината, съдия, който произнася присъдата, и палач, който я изпълнява. .

Роботи, които се подчиняват Закониможе да преживее "roblox" или "mental freeze" - състояние необратимувреждане на позитронния мозък, - в случай, че не могат да се подчиняват Първи законили открият, че случайно са го нарушили. Това е възможно например, ако роботът наблюдава сцената на убийството на човек, но е твърде далече, за да го спаси. Първият случай на такова "замразяване" се среща в "Лъжецът"; това състояние също играе важна роля в сюжета на романите "Голото слънце" и "Роботите на утринната зора". Несъвършените модели на роботи могат да бъдат блокирани, ако им бъде дадена задачата да се подчиняват на две противоречиви заповеди. „Замразяването“ може да бъде постоянно или временно.

Друго определение за вреда в Първия закон

Законине определят границите на това, което може да се нарече вредаза човек - често зависи от способността на робота да възприема информация и да мисли философски. Например, ще разбере ли полицейски робот, че няма да нарани човек, ако нежно придружи особено опасен престъпник до участъка?

В историята „Лъжецът“ телепатичният робот Хърби трябваше да разбере вредаи нещо, което може да разочарова или разстрои хората по някакъв начин - той знаеше, че хората изпитват някакъв вид сърдечна болка. Това го принуди постоянно да казва на хората това, което искат да чуят, вместо истината. В противен случай, според неговото разбиране, той би нарушил Първи закон.

Вратички в законите

В The Naked Sun Илайджа Бейли отбелязва това Закониса неправилно формулирани от хората, защото роботът може да ги разбие от незнание. Той предложи следната „правилна“ формулировка Първи закон: "Роботът не може да направи нищо, доколкото той знаепричиняват вреда на човешко същество или умишленопозволи на хората да бъдат наранени."

Това допълнение дава да се разбере, че робот може дори да се превърне в оръжие за убийство, ако не осъзнава естеството на своите действия. Например, може да му бъде наредено да добави нещо към нечия храна и той няма да знае, че това е отрова. Нещо повече, Бейли казва, че извършителят може да възложи тази задача на няколко робота, така че никой от тях да не разбере цялата идея.

Бейли твърди, че един ден соларианците ще могат да използват роботи дори за военни цели. Ако космически кораб е построен с роботизиран мозък и без човешки екипаж или животоподдържащи системи, тогава интелигентността на този кораб може погрешно да предположи, че на всичкокосмическите кораби нямат хора. Такъв кораб би бил по-маневреен, по-бърз и вероятно по-добре въоръжен от този, управляван от хора. Но най-важното е, че той ще може да унищожи хора, без да осъзнава тяхното присъствие. Тази възможност е описана в "Фондацията и Земята", където също се разкрива, че соларите имат изключително мощна армия от роботи, които разбират само местните жители на Солария като "хора".

Други употреби на законите в художествената литература

Айзък Азимов вярваше, че неговата Законище послужи като основа за нов поглед към роботите, ще унищожи "комплекса Франкенщайн" в научната фантастика и масово съзнание, ще се превърне в източник на идеи за нови истории, където роботите са показани като многостранни и привлекателни. Любимият му пример за такова произведение беше „Междузвездни войни“. С мнението на Азимов, че роботите са нещо повече от "тостери" или "механични чудовища", други писатели на научна фантастика в крайна сметка се съгласиха. В произведенията им се появиха роботи, които се подчиняваха три закона, но по традиция само Азимов ги спомена изрично.

В творби, които пряко говорят за Три закона , обикновено се споменава и авторът им. Има изключения: например в немския телевизионен сериал от 60-те години на миналия век "Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion" ("Космически патрул - фантастичните приключения на космическия кораб Орион"), а именно в третия му епизод "Hüter des Gesetzes" („Закон за слугите“), Азимов Законивзето без цитиране на източника.

Противно на критиките и някои от отзивите на публиката, които случайно чух, „Аз, роботът“ е доста забавен фентъзи екшън. … Когато … искаме да се насладим на Азимов, ние четем Азимов. И когато искаме да гледаме фантастичен екшън филм, гледаме фантастичен екшън филм. "I, Robot" като екшън филм ни задоволи доста добре.

Рецензията на Алексей Садецки обръща внимание на факта, че филмът, след като се отдалечи малко от Азимов, сам по себе си повдигна два нови социално-философски проблема. Трябва да се отбележи, че филмът постави под въпрос по-късно Нулевият закон на роботикатаАзимов (виж по-горе).

Разработването на AI е бизнес, а бизнесът е известен като незаинтересован от разработването на основни мерки за сигурност - особено философски. Ето няколко примера: тютюневата индустрия, автомобилната индустрия, ядрената индустрия. На нито един от тях първоначално не беше казано, че са необходими сериозни мерки за сигурност и всички те предотвратиха външно наложени ограничения и никой от тях не прие абсолютен указ срещу нараняване на хората.

Струва си да се отбележи, че есето на Сойер пренебрегва въпросите за неволното нараняване, както е описано например в „Голото слънце“. Въпреки това има възражения срещу такава позиция: може би военните ще искат да използват възможно най-много предпазни мерки за роботите и следователно ограничения, подобни на Закони на роботиката, по един или друг начин ще бъдат приложени. Фантастът и критикът Дейвид Лангфорд иронично отбеляза, че тези ограничения могат да бъдат както следва:

Роджър Кларк написа две статии за анализа на усложненията при прилагането на законите, ако един ден те могат да бъдат приложени в технологиите. Той пише:

Законите на роботиката на Азимов се превърнаха в успешен литературен инструмент. Може би по ирония на съдбата или може би това беше майсторски ход, но като цяло историите на Азимов опровергават точката, от която той започна: Невъзможно е надеждно да се ограничи поведението на роботите чрез измисляне и прилагане на някакъв набор от правила.

От друга страна, по-късните романи на Азимов (Роботите на зората, Роботите и империята, Фондацията и Земята) показват, че роботите причиняват още по-дългосрочни вреди, спазвайки Законитеи по този начин лишаване на хората от свободата им да участват в изобретателски или рискови дейности.

Фантастът Ханс Моравец - видна фигура в трансхуманистичното движение - предположи това Закони на роботикататрябва да се използва в корпоративни интелигентни системи - корпорации, контролирани от AI и използващи производствената сила на роботи. Такива системи, според него, скоро ще се появят.

Елиезер Юдковски проучва в (SIAI) в САЩ глобалните рискови проблеми, които един бъдещ свръхчовешки ИИ може да породи, ако не бъде програмиран да бъде приятелски настроен към хората. През 2004 г. SIAI стартира AsimovLaws.com, сайт, предназначен да обсъжда етиката на AI в контекста на проблемите, повдигнати в I, Robot, пуснат само два дни по-късно. На този уебсайт те искаха да покажат, че законите на Азимов за роботиката не са безопасни, тъй като например могат да накарат ИИ да превземе земята, за да „защити“ хората от вреда.

Бележки

1. Азимов, Айзък.Доказателства // Мечти на роботи. - М .: Ексмо, 2004. - С. 142-169. - ISBN 5-699-00842-X
2. Азимов, Айзък.Есе № 6. Законите на роботиката // Мечтите на роботите. - М .: Ексмо, 2004. - С. 781-784. - ISBN 5-699-00842-X
3. ср с мита за Галатея.
4. Интересното е, че в едно от продълженията на автора, историята "Отмъщението на Адам Линк" (

Според мен понятията за добро и зло от своя страна са тясно свързани с понятието за смисъла на живота. Не може да се каже дали определено човешко действие е за добро или за зло, доколкото не се знае каква трябва да бъде целта на човешкото поведение като цяло.

Но в рамките на роботиката на Азимов това може да бъде решено просто до вулгарност.
Един от неговите романи описва как на хуманоиден робот е дадена схемата на желание за справедливост - определяйки справедливостта като просто подчинение. държавните закони. — А ако законът е несправедлив? - "Несправедлив закон", отговорил роботът, "това е терминологично противоречие."

Ако действате по такъв вулгарен начин, тогава лесно можете да дефинирате понятието вреда, но няма да има голяма полза от такива роботи ...

Отговор

Както знаят уважаемите участници, разработката най-новите технологии, и още повече в областта на роботиката, е предназначена първо да задоволи нуждите на "отбранителната индустрия", а едва след това на останалото човечество. Мисля, че е ясно, че в такива условия Първият закон ще бъде значително променен. И то не в посока всеобщо умиротворяване.

Отговор

• Спомнете си думите на известния писател Кърт Вонегът: „Върху каквото и да работи един учен, в крайна сметка той има оръжие“.
  Вероятно с подобна предпоставка, която управлява човешката психология (и не само сред учените), Земята няма бъдеще... както не са го имали и тези, които са живели преди нас. Като цяло желанието ни за разрушение и самоунищожение е естествена закономерност... всичко се стреми към баланс (към положителна ентропия), само че всяко тяло и същност в Природата прави това по свой начин. „Звездата старее и експлодира, докато човек, достигнал границата на знанието, изгаря с 10 000 градуса по Целзий в секунда в котела на ядрената война.
  Помислете за афоризма на Дренерим – „Всеки народ е достоен за своя владетел!..“ Защо в продължение на хиляди години хората са били управлявани от троглодити с тояги, не е ли защото имаме силата в честта, в която мозъкът не е необходим?
  Но най-лошото е, когато мозъците, за да оцелеят в света на троглодитите, започнат да служат на тези троглодити. Тъй като "Силата" не се интересува много от мнението на мозъците, а само от резултатите: например по-смъртоносна форма на резци на клуб ...

  Отговор

  • Прилагането на гореспоменатите закони от робот все още е перспектива за много далечно бъдеще ... (Ако изобщо се случи!)
    От най-новите интелигентни системи, които сега се създават на базата на изкуствени невронни мрежи, може да се открои моделът RRS-EX (Rezoning Robotic sistems - Exployer). Тази структура е максимално близка до бионичните неврологични структури... но! Интелект, способен да анализира бързо променяща се обективна конфигурация околен свят RRS-EX просто не го прави. Всичко опира до алгоритмичната граница на бинарността ("ДА-НЕ" и в интервала "НЕ ЗНАМ"). За да се научи робот да мисли и да екстраполира заключенията си, е необходим някакъв страничен сегмент на произволност, иначе наречен „Интуитивен подход за изкуствен интелект“ или по друг начин (частен, индивидуален). За да направите това, е необходимо да излезете от стандартната теория на математическите алгоритми, която е способна само да изготви програма от действия и асоциации за AI системи, но не може да даде на тези системи методи за частни връзки в невронни вериги, от които има един милиард милиарда в биологичния мозък, плюс напречни влияния и импулси (рефлексно осъзнаване). Накратко, AI системите се нуждаят от матрица на индивидуалността както за самообучение, така и за способността да отразяват адекватно не само фактите, но и постфактум, както и да вземат свои собствени решения въз основа на предварително установените (обучение, образование) логическа доминанта (логиката на доброто или логиката на злото). Вече не е възможно системите с изкуствен интелект да бъдат ограничени до три закона. Ако все пак е възможно тези три закона да бъдат вкарани в системата, тогава полето за индивидуално мислене ще бъде затворено, следователно обектът, ръководен от тези закони, няма да бъде нищо повече от една глупава изчислителна машина. И всеки надарен хакер ще сдъвче и изплюе тези закони като семки... Забелязали ли сте? Всичко е все едно хората имат ОБРАЗОВАНИЕ и ОБУЧЕНИЕ! В противен случай се оказва прост компютър ...

    Отговор

    • Категорично не съм съгласен с теб, любителе на науката. Защо са толкова много, доста умни хорапонякога изразяват, разбира се, мнението, че интуицията по някакъв начин е свързана със случайността?

      Интуиция (късен латински intuitio - съзерцание, от латински intueor - взирам се), способността да се разбере истината чрез пряка преценка без обосновка с помощта на доказателства. Несъзнателно намиране на решение, прозрение.

      Според мен интуицията по никакъв начин не е свързана със случайността и може да бъде напълно детерминирана. Както и поведението на едно напълно разумно "живо" същество (AI). Този детерминизъм може да бъде зададен от програмата. Или казвате, че повечето от вашите действия не са разумни и случайни? Лъжат ли?

      Изявление за невъзможност:

      >> Вече не е възможно да се ограничат AI системите до >>три закона. Ако все пак е възможно тези три >>закона да бъдат напъхани в системата, то полето за индивидуално мислене ще бъде затворено, >>следователно обектът, ръководен от тези закони, няма да бъде нищо повече от >>глупава пресмятаща машина.

      Считам го за неоснователно. Въпреки че въпросът със сигурност е сложен. Подобни твърдения, мисля, биха били добре аргументирани в детайли.

      Отговор

Мисля, че си струва да добавим към тази статия, че Айзък Азимов е първият човек, произнесъл думата робот! именно той е основоположникът на тази култура сред писателите на научна фантастика. Освен това не съм съгласен с афтора на статията за "фантастика на богат образ", тъй като това е един вид канон за работата на роботизиран мозък в човешка среда. и най-важното, не забравяйте, че дори сър Йесак Нютон по едно време също беше наричан шарлот и законите, които той "издаде", бяха глупости или в лека форма"измислици на богато въображение" ...

Отговор

Искам да поясня, че думата "Робот" не е измислена от Азимов. През 1920 г. Карел Чапек, чешки писател, използва тази дума в пиесата "R.U.R.";.
http://ru.wikipedia.org/wiki/Chapek
Айзък Азимов е роден едва през 1920 г., което по никакъв начин не омаловажава стойността на творбите му.
http://ru.wikipedia.org/wiki/Asimov%2C_Isaac

Отговор

дали заблуди:
Нашият интелект е надстройка, която защитава и се придържа към интересите на тялото (функциониране, репликация).
За интелекта, струва ми се, основното е мотивацията - основната цел. Тази цел ще бъде основата за самообучение и други неща.
Доброто и злото са просто "+" и "-" за интелекта, тоест "полза" и "вреда" в най-сложните тънкости на комбинации и различни вериги като "аз-семейство-общество" (полза - приближаване до основното цел или придържане към начини за постигането й). Да кажем, че основната цел е да оцелееш ...

Отговор

Cisco обяви създаването на Linksys Developer Community. В него ще бъдат включени експерти, които създават приложения за новите Smart Wi-Fi рутери на Linksys. Общността ще стане част от популярната Cisco® Developer Network, която свързва Cisco с външни разработчици на хардуер и софтуер. Като резултат съвместна работав тази мрежа се появяват тествани оперативно съвместими решения за обикновени клиенти. Cisco, пионер в домашните мрежи, е продал повече от 70 милиона маршрутизатора Linksys в световен мащаб и се е ангажирал да укрепи лидерството си с решения за домашни мрежи от следващо поколение.
Интелигентните Wi-Fi рутери на Linksys имат уникална облачно базирана архитектура, която позволява на разработчиците да създават приложения за електронни устройства на всеки потребител. За да се опрости разработката, на общността ще бъде предложен прост и удобен комплект за разработчици на софтуер (SDK), учебни материалии примери за програмни кодове.
„На прага сме големи променипредоставяйки на потребителите на домашната мрежа услуги, за които не са и мечтали. Новата софтуерна платформа и общността на разработчиците на Linksys предлагат наистина неограничени възможности за разработчиците,” каза Викас Бутаней, директор на Cisco Home Networking Products. – Работейки с всяка услуга, от най-простата, като дистанционно наблюдение на апартамент, до най-сложната, разработчиците могат да допринесат за създаването на ценни и полезни решенияза крайни потребители“.
Някои разработчици вече са се възползвали от платформата Linksys Developer Community, SDK и други инструменти на Cisco, за да ускорят и опростят разработката на приложения. Резултатът е шест приложения, създадени от Axentra Corporation, Fresh Consulting LLC, Gemini Solutions Inc., PacketVideo Corporation, Stratedge Adroitent J.V. и Xoriant Corporation. Новите приложения включват лесно свързване на устройството (едно щракване), подобрен контрол на достъпа и нови възможности за споделяне на медии. Тези приложения са първата стъпка в отключването на пълния потенциал на интелигентните Wi-Fi рутери Linksys за крайните потребители.
Разработчиците, които желаят да се присъединят към общността на разработчиците на Linksys, могат да посетят http://referati.do.am, за да се регистрират и да започнат да създават нови приложения за интелигентни Wi-Fi рутери на Linksys. Cisco предоставя технически, маркетингови и търговски ресурси на разработчиците, като подкрепя членовете на общността през целия бизнес и процес на разработка.

Айзък Азимов

Три закона на роботиката

Хора и роботи

Роботите се бунтуват в литературата от векове. Джин и ефрит се разбунтуваха Арабски приказки, Големът се разбунтува - глинената идея на хитрия Бен Бецалел. И дори истинските роботи, създадени от гения на Карел Чапек, излязоха извън контрол, едва имайки време да се родят от писалката на писателя. Ситуацията стана толкова сериозна, че проблемът с непокорните роботи мигрира от страниците измислицана страниците на научни статии и монографии. Самият Норберт Винер смяташе за необходимо да предупреди човечеството срещу възможни последствияпрекомерна автономност на роботите.

Спасението дойде от неочаквана страна. Американският писател и учен Айзък Азимов формулира своите известни Три закона на роботиката (всъщност по-правилно би било да се каже „роботология“ или, както е установила съвременната наука, „роботика“, но сега е твърде късно да се коригира тази неточност на превода). Законите на Азимов са получени с наистина фантастична скорост световно признание, и оттогава нито един робот не е слязъл от поточната линия, тоест от барабаните на печатарска машина, без прословутите Три закона да са положени в мозъка му (имайте предвид, че роботът трябва да има мозък!) Най-накрая човечеството можеше да диша свободно. Бъдещото съжителство с легионите от послушни роботи изглеждаше доста розово.

И какво мисли за това създателят на Законите на роботиката? Най-добрият отговор на този въпрос може да се получи, като прочетете колекцията, предложена на читателя.

Да започнем с първата история от поредицата "Аз, роботът". Малко момиче има робот детегледачка. Момичето се привърза към робота, но според майка й тази привързаност е вредна подходящо образованиедете. И въпреки че татко е на различно мнение, след дълги семейни дискусии роботът е изпратен обратно във фабриката. Момичето е тъжно, има опасност да стане сериозно психическа травма, и роботът се връща (историята на Роби).

Доста заговор, нали? Но точно тази простота разбива Първия закон на роботиката, който Азимов формулира по следния начин: „Роботът не може да навреди на човек или чрез бездействието си да позволи да бъде нанесена вреда на човек.“ Как един робот може да разбере кое е вредно и кое е полезно, ако родителите сами не могат да решат този въпрос по отношение на собственото си дете!

В разказа „Танц“, в резултат на неясно формулирана индикация, Първият и Третият закон влязоха в конфликт помежду си. Според Третия закон „роботът трябва да се грижи за собствената си безопасност, стига това да не противоречи на Първия и Втория закон“. На робота е дадена команда, но не е посочена степента на увреждане, което ще бъде нанесено на човек, ако тя не бъде изпълнена. И сега роботът кръжи по границата на опасна зона, без да навлиза дълбоко в нея (Третият закон предотвратява това) и в същото време не отива далеч (това се предотвратява от Първия и Втория закон). Ситуация, позната на всеки програмист на съвременни компютри. Нарича се "лупинг". Между другото, всеки повече или по-малко опитен програмист поставя специални команди в програмата, според които, след като завърши три или четири кръга, компютърът спира и изисква допълнителни инструкции от човека.

В историята "Хоро" всичко се случва по различен начин. Там да се счупи порочен кръгхората успяват само като рискуват живота си и в същото време използват цялата си изобретателност и използват помощта на експерт по психология на роботите. Между другото, един от лайтмотивите, които обединяват повечето от историите в сборника, е битката между роботите и човека робот-психолог Сюзън Калвин.

Или друга история – „Как се загуби роботът“. Раздразнен, младият работник казва на робота: „Върви си и не се показвай, за да не те видя отново.“ Роботът буквално следва инструкциите на човека, след което целият персонал на извънпланетната Hyperbase е принуден да напусне важна работа и да търси изчезналия робот цяла седмица.

Отново съзнателно избрахме история със семпъл сюжет, защото според нас именно в простотата се ражда убедителността, с която Азимов развенчава Втория закон на роботиката, създаден от самия него.

И така, каква е сделката? Наистина ли е необходимо да признаем, че джинът е излязъл от бутилката и хората нямат друг избор, освен пасивно да чакат последствията? Нека обаче припомним, че авторът на разказите е не само писател, но и учен, който умее да анализира ситуацията с цялата логическа строгост. И не напразно той избра точно тази форма: първо той формулира закони, които на пръв поглед изглеждат безупречни както по съдържание, така и по форма, а след това демонстрира тези закони в действие.

Да, джинът е излязъл от бутилката и то много, много отдавна. Вземайки пръчка в ръцете си, човек създава първия робот и се натъква на бунт на роботи, когато случайно изпусна тази пръчка на краката си. И нищо качествено ново не се е случило от тогава. Проблемът с бунта на роботите е поставен и решен в технологиите от няколко десетилетия. AT английски езикдори има специален термин „foolproof” – „защита от глупак”. Така че газът в газовата колона не се запалва, ако не тече вода, а пресата няма да работи, ако има чужд предмет, като човешка ръка.

Но не трябва да се изисква технологията да решава вместо човек кое е в негова вреда и кое е в негова полза. И не трябва да се мисли, че появата на "мислещи" машини, тоест машини, способни самостоятелно да анализират ситуацията и да вземат решения въз основа на този анализ, ще въведе нещо фундаментално ново.

Да се ​​върнем обаче към разказите от сборника. Изглежда, че няма нужда да представяме автора им на читателите. Айзък Азимов е един от най-известните американски писатели-фантасти, автор на много научно-популярни книги и статии, публикувани в отделни сборници. Но преди всичко Азимов е талантлив художник и това е тайната на неговата популярност. Много произведения на този писател са преведени на руски език. Особено известни са неговите разкази за роботи, които са публикувани като отделни сборници (цикълът „Аз, роботът“) или включени в други тематични сборници. Хубаво е, че много от тях, макар и не всички, сега се преиздават като един сборник.

Читателят - едновременно запознат с работата на Азимов и за първи път разпознаващ неговите роботи - ще срещне ярки, отлично нарисувани герои. Ето тестерите нова технологияПауъл и Донован, които, следвайки всички канони на приключенския жанр, във всяка история попадат в трудни, понякога безнадеждни ситуации, но винаги излизат от тях с чест. Тук е "мозъчният тръст" на компанията "U.S. Robots and Mechanical Man Corporation" Богърт и Ланинг, борещи се за власт. А робо-психологът Сюзън Калвин се извисява над всички, презирайки суетата на бизнесмените. А зад кулисите – съвременна капиталистическа Америка в целия й „блясък“. Пред читателя са картини на конкурентна борба между фирми, предизборни политически машинации, расова дискриминация. Но трябва да се отбележи, че като изобразява своите роботи като рицари без страх и укор, дарявайки ги с метално тяло и позитронен мозък, Азимов избягва острите социални проблеми.