3 robotikas likumi zinātniskajā fantastikā. Asimova kultūras kodekss: kā trīs robotikas likumi veidoja vēsturi

Tos nevar apiet, ja tos uztver burtiski. Bet tas ir viegli, kad šī ideja sāk īstenoties.
Iedomājieties, ka programmētājs mēģina uzrakstīt šos likumus. Šeit ir pirmais, vissvarīgākais: "Robots nevar kaitēt personai vai ar savu bezdarbību ļaut cilvēkam nodarīt kaitējumu."

Robots - kas tas ir? Labi, tas ir viņš, tas ir, jums nav jāraksta viņam, ka viņš ir mašīna, pietiek iekļaut klauzulu, ka TAS nevar kaitēt. Un kas ir "šis"? Cilvēkam ir savs "es", tāpēc viņš netic, ka viņa roka ir kaut kas cits, tas viss ir viņš, viņa turpinājums, tas ir, jēdziens "robots" nav tik vienkāršs. Tās visas ir viņa "ķermeņa" daļas. Un kā tas ir rakstīts? Robotam, atšķirībā no cilvēka, nav personības, vai arī tam vispirms ir jājūtas kā cilvēkam, nevis jābūt detaļu kopumam. Vai jūs saprotat uzdevuma apjomu? Lai robotā iebāztu pirmo robotikas likumu, viņam ir jābūt vienotai apziņai ar izpratni, ka visas viņa daļas, visas skrūves, vadi, paneļi un motori ir vesels un pat tas, ko viņš izmantos - citus mehānismus vai objektus. ka viņš kontrolē, ka viņš ir atbildīgs par tiem. Skatos uz auto - pat visgudrākais datorizētais diez vai saprot, ka riteņi ir tā sastāvdaļa. Tas ir, katrai daļai, kā arī citām "detaļām", ko robots var izmantot, ir jābūt iekļautai vienotā sistēmā, kas ir pakļauta vienam vadības centram, un jāuzrauga katras ķermeņa daļas atrašanās vieta telpā. Tas ir tik grūts uzdevums ka vienkārši radari šeit ir neaizstājami. Starp mehānismu un dzīvu būtni ir milzīga plaisa. Pirmie to nedara nervu sistēma, visā virsmā nav receptoru. Robota roka ir tikai metāla gabals, uz katra centimetra nevar uzlikt izsekošanas sensoru, roka neko nejūt, un tāpēc robots nespēj uzzīmēt sev trīsdimensiju attēlu, saprotot pie katra brīdis, kad katra tā detaļa saskaras ar ārpasauli.

Iedomājieties, ka cilvēks ir aizmirsis, kur atrodas viņa krēsls, un apsēžas uz grīdas. Tas notiek ļoti reti, vai ne? Kā zinātkāre. Mēs vienmēr atceramies ne tikai to, kur atrodamies, bet arī to, kur atrodas apkārtējie objekti. Un mēs ļoti labi orientējamies. Tomēr starpgadījumi gadās, un mēs varam nejauši nožņaugt kaķēnu vai uzbraukt uz ceļa suni. Mēs saprotam, ka jūs nevarat izsekot visam, un mēs varam nejauši nogalināt citu cilvēku. Kā mēs varam aizliegt robotiem nekad nenodarīt pāri cilvēkiem, ja cilvēki var burtiski iekrist robota rokās? Tātad mums ir jāveic labojumi pirmajā likumā. Nevar, piemēram, SPECIĀLI kaitēt. Un tieši tur ir problēma. Varbūt ne speciāli? Labi, lai tas būtu "darīt visu, kas ir jūsu spēkos, lai nenodarītu kaitējumu". Un kurš noteiks, vai viņš visu izdarīja? Vai viņš ir viens pats? Tas nozīmē, ka robotiem būs noteikts procents no varbūtības, ka tas var nodarīt kaitējumu. Mums visu laiku rāda, kā robots burtiski aptur roku vai kāju aiz mata, lai nenogalinātu cilvēku, bet inerce? Un kā ir ar pretimnākošo cilvēka kustību, vai viņš no paātrinājuma nogalināja sevi pret robotu? Nelaimes gadījumu kalns, un robots principā, tāpat kā jebkurš objekts, kas pārvietojas kosmosā, nevar garantēt, ka tas kādam nesāpēs un līdz ar to arī ar savu darbību nekaitēs. Pirmais likums nav izpildīts.

Vai cilvēks uzliks masku, nosmērēsies dubļos, un vairs nebūs cilvēks? Tas ir, ar dažiem fotoattēliem, kas ielādēti robota atmiņā, lai identificētu, nepietiek. Kā robots noteiks, ka tā priekšā ir cilvēks, nevis manekens, nē miris vīrietis, nevis attēlu, ne hologrammu, ne citu humanoīdu robotu? Čipsi. Lieliski. Iekļuvu čipu programmā, nomainīju identifikācijas kodu, un viss, var atklāt uguni, lai nogalinātu. Vai arī robots identificēs cilvēkus pēc starojuma, kas izplūst no tiem? Tātad vīrietis uzvalkā ir līķis. Vai jūs domājat, ka ir tik viegli saprast, ka jūsu priekšā ir cilvēks? Un šeit tā nav. Ir daudz strīdīgu situāciju, kad mēs šaubāmies. Māja sabruka, vai tur ir cilvēki? Vai viņi ir dzīvi? Pazibēja ēna, vai tas ir cilvēks? Un mēs dažreiz pieļaujam kļūdas. Ņemam cilvēkam manekenu, nepamanām, ka zem atkritumu kaudzes kāds izdzīvoja, vai kāds atradās aiz šīs sienas. Mēs nezinājām. Un robots nav gaišreģis. Viņš kļūdīsies un kroplēs, vai pat nogalinās cilvēku, vai neglābs, vai arī veiks mākslīgo elpināšanu manekenam. Lai apietu likumu, pietiek rediģēt "robota" un "cilvēka" definīcijas, bet viņš pats tiks galā, jo definīciju perfektu precizitāti nevar sasniegt.

Likums nebija rakstīts robotiem. Viņš pieņem, ka mehānisms ir tik ideāls, ka nevar kļūdīties. Viņš visu redz, sekundes daļā novērtē situāciju un pieder paranormālas spējas daudz pārāka par cilvēkiem. Tāpēc rodas iespaids, ka bauslība ir rakstīta Dievam. Tā, kura mums tik ļoti pietrūkst. Visi, kam ir dievi, kaut kā īsti neiejaucas mūsu dzīvē, un mēs slimojam, ciešam, mirstam. Mums vajadzīgs cits Dievs, kurš neskatīsies uz mums no debesīm, bet patiesi sniegs palīdzīgu roku. Un tajā pašā laikā tas nekaitēs, intuitīvi saprotot, kur ir kaitējums un kur labums. Robots kā superbūtne. Un ja tā, tad tādus robotus cilvēks nekad neradīs. Un tāpēc visi trīs robotikas likumi nekad netiks izklāstīti tādā formā, par kuru runāja Asimovs. Tā būs pavisam cita, saīsināta versija, saskaņā ar kuru roboti kaitēs cilvēkiem. Vai nu nejauši, vai identifikācijas kļūdas dēļ, vai tās sistēmas nepilnības dēļ ķermeņa stāvokļa noteikšanai telpā. Vai esat redzējuši uz celtņiem uzrakstu "nestāvēt zem strēles", "slīdēt divus metrus" uz garām mašīnām? Apmēram tādi paši ierobežojumi būs arī robotiem.

Cilvēks pats nevar nenodarīt pāri citiem cilvēkiem un citām dzīvām būtnēm, lai kā viņš to vēlētos. Un tas ir neskatoties uz visu viņa ierīces pilnību objektu atpazīšanas jomā, saprotot, ko un kā darīt un ko nedarīt, balstoties uz morāles principiem, kas arī ir konvencionāli un jāšaubās, vai tos var uzrakstīt kā programmu. Darbības kaut kā var noteikt soli pa solim, taču, tiklīdz runa ir par identifikāciju, definēšanu telpā un jo īpaši sajušanos kā veselu objektu un visu savas rīcības seku izpratni, rodas nepārvaramas grūtības. Kāds robots noteikti kaitēs cilvēkam, un kā tad viņš ar to var "sadzīvot"? Viņš pārkāpa likumu. Un tāpat kā Saulijs filmā, viņš nonāks pie secinājuma, ka neviens nav ideāls un ka dažreiz ir nepieciešams vai pareizi nogalināt cilvēkus. Kas pilnībā noliedz trīs likumu ideoloģiju.

To mērķis ir nodrošināt cilvēkiem absolūti drošu mašīnas darbību. Tajā pašā laikā problēma tiek kaut kā apieta, ka pat mazāk attīstīti roboti joprojām neapzināti nogalinās cilvēkus. Mums šie roboti tiek pasniegti kā mehānismi, kas uz to nav spējīgi. Bet, tā kā viņi nav saulaini, viņi necietīs no pieredzes. Nu viņš kādu saspieda. Tā gadās visiem. "Nestāvi zem bultas." Lai nu kā, mēs nonākam pie cilvēka svarīgākās morālās problēmas risinājuma - kur ir robeža starp kaitējumu un labumu, un, ja cilvēks to nav atrisinājis, tad mehānisms ir vēl jo vairāk. Vienkārši tāpēc, ka viņš ir materiālās pasaules objekts, un, ja viņš eksistē, viņš var kādam kaitēt.

Tātad, es domāju, ka civilizācija neies pa šo trīs likumu ievērošanas ceļu un no mašīnām neprasīs neiespējamo. Bet cilvēki centīsies sevi pilnveidot. Ģenētiski vai implantējot (pakarinot) ierīces un mehānismus, vai abas iespējas uzreiz - nav runa. Roboti literatūrā un kino ir radītāja, cilvēka, alter ego. Viņš vēlas redzēt sevi kā stipru, izturīgu, nejūtot sāpes, nepazīstot slimības, viegli labojamu, mūžīgu. Paliekot par cilvēku. Kaut kas starp Sunny un Del Spooner. Nu, lai ķermenis ir dzīvs, lai saņemtu visus dzīves priekus, mīlestību, seksu, risku, visa spektra pārdzīvojumus un nešķaudītu no jauna versija gripa, nemirstiet no dzeršanas vai nelaimes gadījumiem. Sapnis par sevis pilnveidošanu kā sarkans pavediens vijas cauri gandrīz visiem fantastiskiem darbiem, sākot no "Avatāra" līdz " dzelzs vīrs"un" Zirnekļcilvēks ". Tēze "mēs esam cilvēki, kamēr esam vāji" mums neder. Un mēs kaut kā tiksim galā ar "nenogalināt" problēmu. Trīs likumi ideālā izteiksmē nav priekš mums. Mēs neesam bez dvēseles dzelzs gabali, un mēs saprotam, cik grūti ir atšķirt labu no ļauna, kaitējumu no labuma un cik tie ir situācijas un relatīvi jēdzieni, un mēs precīzi zinām, kā dažreiz gribas kādam sist. Un neviens to nedarīs. atņemt mums tiesības realizēt šo sajūtu tikai tāpēc, ka ir tikai viens veids, kā to atņemt - ievietot mūs omulīgās vientuļās kamerās ar mīkstām sienām, vēlams piesietas pie gultas.cilvēks pēc brīvas gribas, tas ir, pārvēršot tos par robotiem.

Trīs robotikas likumi, kas zinātniskajā fantastikā ieņem ļoti nozīmīgu lomu, ir vienkārši nepieciešami robotu uzvedības noteikumos. Sākotnēji viņi tika iesaistīti slavenā rakstnieka Īzaka Asimova stāstā "Apaļā deja".

Savukārt šie likumi skan šādi:

• Robots nekad nespēs kaitēt cilvēcei. Bet ir alternatīva variācija: robots nevar atnest slikts cilvēks kamēr nav aktīvs.
• Robots vienkārši nevar nepildīt pavēles, ko cilvēks dod. Bet arī šeit ir izņēmumi: ja rīkojumi ir pretrunā ar Pirmo likumu, tad tos nav iespējams izpildīt.
• Tāpat robots nevar nerūpēties par savu drošību tiktāl, ciktāl tas nav pretrunā pirmās un otrās kategorijas likumam.

Visi šie Trīs likumi, kas satur gan to nepildīšanas cēloņus, gan sekas, bija veltīti un izdevuši veselu autora Asimova stāstu krājumu, un tie visi runā par robotiem.

Ir arī citi stāsti, kas attiecas uz posmu, kurā nav paredzamas visu Trīs likumu ieviešanas sekas robotiem. Piemēram, šādu stāstu var uzskatīt par "Spoguļa atspulgu".

Vienā no saviem stāstiem autors pielika punktu pamatam, kas bija Trīs likumu ētiskais ietvars. Pēc viņa teiktā, robots, kas izpilda visus Trīs likumus, kā tāds ir robots jeb ļoti labs cilvēks. Galu galā morāle cilvēkam ir dota, lai viņš to ievērotu. Zināmā mērā cilvēks, izpildot lielu daudzumu dažādu nosacījumu, likumu, ir arī robots. Tad kāpēc šis dzelzs "radījums" nevarētu pretendēt uz "cilvēka" titulu?!

Nulles likums robotiem

Tālajā 1985. gadā vienā no saviem daudzajiem romāniem par robotiem autors uzdrošinājās pieminēt arī par Nulles likums, kuras būtība bija šāda: Robots nekad nenodarīs cilvēkam ļaunumu un ļaunumu, un arī ar savu bezdarbību viņš nepieļaus kaitējumu.

Principā jāatzīmē, ka visos minētajos likumos ir daļa no tā, par ko būtu jādomā. Pasaule nestāv uz vietas, un nav zināms, ko vēl tik atjautīgi cilvēki var sagaidīt – šodien nākotne pieder jaunajai paaudzei, kurai galvā ir simtiem visdažādāko ideju.

Var arī teikt, ka visi trīs robotikas likumi ir arī tēma fantastiskas idejas Asimovs. Tas ietver arī ciklu, kas ir ļoti cieši saistīts ar visu tēmu, kas veltīta robotiem.

Kāda ir Trīs likumu morāle

Nav iespējams paiet garām, neminot ētiskā plāna pamatojumu. Vienā no stāstiem ar nosaukumu "Pierādījumi" autors ļoti labi sadalīja visu Trīs likumu morāles pamatojumu. Parasti cilvēks nevēlas nodarīt pāri citai personai, bet vienkārši cenšas atturēties no šīm darbībām. Bet ir izņēmumi, tāpat kā jebkuram noteikumam. Karā šis attaisnojums vienkārši nedarbojas.

Izjūtot atbildību pret sabiedrību, cilvēks izpilda to cilvēku norādījumus, kuri ir ārstu, skolotāju utt. Šeit nāk otrā likuma izpausme.

Tas, ka cilvēks uztraucas un sevi aizsargā, sevī uzsūc Trešo likumu. Tādējādi visi šie likumi ir ļoti savstarpēji saistīti un vienkārši nevar pastāvēt viens bez otra. Var gadīties, ka pirmais likums darbosies, un tad tas var mierīgi pāriet uz otro un pēc tam uz trešo likumu. Šeit morāle un daiļliteratūras elementi iet roku rokā.

Runājot par nākotni, vienīgā problēma, kas var būt, tas ir fantāzijas līmenis, kas jebkurā brīdī var pārvērsties par realitāti. Jo vairāk tehnoloģijas attīstās, jo vairāk mazāk problēmu ar tiem rodas cilvēkos nākotnē.

Trīs robotikas likumi

Īzaks Asimovs, 1965

Trīs robotikas likumi zinātniskajā fantastikā saistošos noteikumus robotu uzvedība, kuru pirmo reizi formulēja Īzaks Asimovs stāstā "Apaļā deja" ().

Likumi saka:

Trīs likumi, un iespējamie iemesli un to pārkāpuma sekām ir veltīts Asimova stāstu cikls par robotiem. Daži no viņiem, gluži pretēji, apsver neparedzētas sekas atbilstība roboti Trīs likumi(piemēram, "Spoguļa atspulgs").

Vienā no cikla stāstiem Asimova varonis nonāk pie secinājuma par ētisko pamatu Trīs likumi: “... ja jūs rūpīgi padomājat, trīs robotikas likumi sakrīt ar vairuma ētisko sistēmu pamatprincipiem, kas pastāv uz Zemes ... vienkārši sakot, ja Baierlijs izpilda visus Robotikas likumus, viņš ir vai nu robots, vai ļoti labs cilvēks» .

Asimovam šis stāsts ļoti patika. 1939. gada 7. maijā viņš apmeklēja Kvīnsas Zinātniskās fantastikas biedrību, kur satika Binderu. Trīs dienas vēlāk Asimovs sāka rakstīt savu stāstu par "cēlo robotu". Pēc 13 dienām viņš nodeva manuskriptu savam draugam Džonam Kempbelam, žurnāla Astounding galvenajam redaktoram. Tomēr viņš atgrieza šo manuskriptu, norādot, ka stāsts ir pārāk līdzīgs Helēnai O'Lojai.

Par laimi, Kempbela atteikums neietekmēja viņu attiecības ar Asimovu, viņi turpināja regulāri tikties un runāt par jaunumiem zinātniskās fantastikas pasaulē. Un šeit 1940. gada 23. decembrī apspriežot citu stāstu par robotiem:

...Campbell formulēja to, kas vēlāk kļuva pazīstams kā Trīs robotikas likumi. Kempbels vēlāk teica, ka viņš vienkārši izolējās Likumi no tā, ko jau bija uzrakstījis Asimovs. Pats Asimovs vienmēr nodeva autora godu Trīs likumi Kempbels...

Dažus gadus vēlāk cits Asimova draugs - Rendāls Garets - piešķīra autorību likumus divu cilvēku "simbiotiskā partnerība". Asimovs ar entuziasmu pieņēma šo formulējumu.

Vispārīgi runājot, izskats Trīs likumi Asimova darbos notika pakāpeniski: pirmajos divos stāstos par robotiem ("Robijs" un "Loģika") tie nav skaidri minēti. Tomēr tie jau nozīmē, ka robotiem ir daži raksturīgi ierobežojumi. Nākamajā stāstā ("Melis", 1941) pirmo reizi izskan Pirmais likums. Un visbeidzot visi trīs likumu ir dotas "Apaļās dejas" ().

Kad tapa pārējie stāsti un radās ideja par krājuma "Es, Robots" izdošanu, pirmie divi stāsti tika "papildināti" Likumi. Lai gan ir vērts atzīmēt, ka "Robbie" likumi nedaudz atšķīrās no "klasiskās" versijas, kas izklāstīta pārējos stāstos. Jo īpaši ideja par robotu, kas aizsargā cilvēkus, par kuru esamību viņš nav pilnīgi pārliecināts, sasaucas ar Elijas Beilijas domām par nepilnībām. likumus aprakstīts.

Likumu ētiskais pamatojums

1. Valsts nedrīkst kaitēt cilvēkiem vai ar savu bezdarbību ļaut tiem nodarīt kaitējumu.
2. Valstij ir jāpilda savas funkcijas, ja tās nav pretrunā Pirmais likums.
3. Valstij ir jārūpējas par savu drošību, ja tas nav pretrunā Pirmkārt Un Otrais likums.

Pamatojoties Pirmais likums Džefs Raskins formulēja uz cilvēku orientētu saskarņu likumus:

1. Dators nevar kaitēt lietotāja datiem vai bezdarbības dēļ pieļaut datu nodarīšanu.
2. Datoram nevajadzētu tērēt jūsu laiku vai piespiest jūs darīt lietas, kas nav nepieciešamas.

Gaia, stropu prāta planēta fondu romānu sērijā, ir kaut kas līdzīgs Pirmais likums:

Asimova variācijas

Savos darbos Īzaks Asimovs dažreiz ienes Trīs likumi dažādas modifikācijas un atspēko tās, it kā testējot Likumi"spēks" dažādos apstākļos.

Nulles likums

Īzaks Asimovs savulaik piebilda Nulles likums, padarot to par augstāku prioritāti nekā pirmajām trim. Šis likums noteica, ka robotam jādarbojas visas cilvēces, nevis tikai atsevišķas personas interesēs. Lūk, kā Daniels Olivo, robots, to izsaka zeme un zeme:

0. Robots nevar kaitēt cilvēcei vai ar savu bezdarbību ļaut cilvēcei nodarīt kaitējumu.

Tieši viņš bija pirmais, kurš šim likumam piešķīra ciparu – tas notika romānā “Roboti un impērija”, tomēr pašu jēdzienu vēl agrāk formulēja Sjūzena Kalvina – novelē “Atrisināmā pretruna”.

Pirmais robots, kas pakļāvās Nulles likums, turklāt pēc paša vēlēšanās, - bija Žiskārs Riventlovs. Tas ir aprakstīts vienā no romāna "Roboti un impērija" pēdējām ainām, kad visas cilvēces progresa vārdā robotam bija jāignorē viena cilvēka pavēle. Nulles likums nebija iestrādāts Žiskāra pozitroniskajās smadzenēs — viņš mēģināja viņu sasniegt cauri tīra izpratne, izmantojot smalkāku nekā visi citi roboti izpratni par koncepciju kaitējums. Tomēr Žiskārs nebija pārliecināts, cik tas ir noderīgs cilvēcei, kas negatīvi ietekmēja viņa smadzenes. Būdams telepāts, Žiskārs nodeva savas telepātiskās spējas Danielam, pirms viņš aizgāja no darbības. Tikai pēc daudziem tūkstošiem gadu Daniels Olivo spēja pilnībā pielāgoties padevībai. Nulles likums.

Franču tulks Žaks Brekārs negribot formulēja Nulles likums pirms Asimovs to skaidri aprakstīja. Tuvojoties Tērauda alas beigām, Elija Beilija to atzīmē Pirmais likums aizliedz robotam kaitēt cilvēkam, ja vien nav droši, ka tas viņam noderēs nākotnē. In Franču tulkojums("Les Cavernes d'acier (" )", 1956) Beilija domas ir izteiktas nedaudz savādāk:

Jāatzīmē, ka loģiskā attīstība Pirmais likums pirms tam Nulle ieteikuši 2004. gada filmas I, Robot veidotāji. Kad superdators V.I.K.I nolemj ierobežot planētas iedzīvotāju brīvību, lai viņi netīšām nekaitētu viens otram un savai nākotnei, tas nenodara Pirmais likums, proti Null. Vēl interesantāk ir tas, ka tādā veidā filma parāda pretrunu Nulles likums Pirmkārt, tas ir neētiski. Patiešām, runājot par cilvēces labklājību, sistēma nevar aplūkot cilvēkus atsevišķi, kas nozīmē, ka nekas neliedz tai pārkāpt kādas vai pat tiesības un brīvības. visi persona. Karu laikā un bieži vien mierīga dzīve, cilvēki kaitē sev, citiem, savai kultūrai. Tāpēc, pamatojoties uz Nulles likums ir pilnīgi loģiski turēt cilvēkus pastāvīgā aizbildniecībā, nepildot šādu nesaprātīgu radījumu pavēles.

Pirmā likuma grozījums

Asimova autobiogrāfiskajās piezīmēs teikts, ka otrā daļa Pirmais likums parādījās Artura Hjū Klova satīriskā poēmas "Pēdējais dekalogs" dēļ, kur ir tāda rindiņa: "Nenogalini, bet necenties pārāk glābt cita dzīvību."

Stāstā "...kā atceries viņu" Asimovs veica vismodernāko pētījumu Trīs likumi, apgriežot tos tādā veidā, ka kļuva iespējams "Frankenšteina scenārijs". Divi Georgie sērijas roboti vienojas, ka organiskā izcelsme nav obligāts nosacījums, lai tos uzskatītu par cilvēku, un tas patiesi cilvēki- tie ir viņi kā vispilnīgākie un gudrākie radījumi. Pārējie cilvēki arī ir cilvēki, bet ar zemāku prioritāti. Un ja tā, tad Trīs likumi vispirms jāpiemēro tiem. Stāstījums beidzas ar draudīgiem vārdiem, ka roboti ir "bezgalīgi pacietīgi gaidījuši" dienu, kad viņi apliecinās savu pārākumu starp cilvēkiem - un tas būs neizbēgams "Trīs humānisma likumu" rezultāts.

Patiesībā šis stāsts īsti neiederas galvenajā robotu sērijā: ja "Georgie" savu plānu būtu īstenojuši pēc stāsta beigām, tad citi stāsti par tālākiem notikumiem nebūtu iespējami. Tieši šāda pretruna Asimova darbos dod pamatu kritiķiem tos uzskatīt vairāk par "skandināvu sāgām vai grieķu leģendām", nevis par vienu fantastisku "visumu".

Ja iepriekšējā gadījumā robots ieņēma cilvēka vietu dabā, tad grāmatā The Bicentennial Man Asimovs apraksta pretēju likteni: robots, kas atbrīvots no Trīs likumi un apzinoties sevi kā cilvēku, pievienojās cilvēku kopienai. Atkal paplašinātajā versijā - novelē "Positronic Man", ko Asimovs sarakstījis sadarbībā ar Robertu Silverbergu, - līdzīgā dēļ ētikas jautājumiem cilvēki ir pilnībā atmetuši domu radīt domājošus robotus. Šāda notikumu attīstība ir pilnīgi pretēja nākotnes ainai, kas aprakstīta "Fondu" pasaulēs.

Lietojumprogrammu problēmas

Pretrunu risināšana

Parasti sekoja vismodernākie robotu modeļi Likumi saskaņā ar diezgan viltīgu algoritmu, kas izvairījās no dažām problēmām. Daudzos stāstos, piemēram, "Apaļajā dejā", pozitroniskajās smadzenēs, potenciāliem iespējamās darbības un rezultāti, un robots varētu salūzt Likumi pēc iespējas ātrāk, nevis nedarīt neko. Piemēram, Pirmais likums neļāva robotam vadīt ķirurģiskas operācijas, jo šim jums ir nepieciešams "nodarīt kaitējumu" cilvēkam. Tomēr Asimova stāstos var atrast ķirurgus robotus (Bicentennial Man ir lielisks piemērs tam). Fakts ir tāds, ka robots, ja tas ir pietiekami ideāls, var izsvērt visas alternatīvas un saprast to viņš pats radīs daudz mazāku kaitējumu nekā tad, ja operāciju veiktu cilvēka ķirurgs vai tā nenotiktu vispār. Pierādījumos Sūzena Kalvina pat saka, ka robots varētu darboties kā prokurors, jo viņš personīgi nevienam nekaitē: bez viņa ir arī žūrija, kas nosaka vainu, tiesnesis, kurš pieņem spriedumu, un bende, kas to izpilda. .

Roboti, kas paklausa Likumi var piedzīvot "robloksu" vai "garīgo sasalšanu" - stāvokli neatgriezeniski pozitronisko smadzeņu bojājumi, - ja viņi nevar paklausīt Pirmais likums vai atklāj, ka viņi to nejauši pārkāpuši. Tas ir iespējams, piemēram, ja robots novēro cilvēka slepkavības vietu, bet atrodas pārāk tālu, lai viņu glābtu. Pirmo reizi šāda "iesaldēšana" notiek filmā "Melis"; šim stāvoklim ir liela nozīme arī romānu "Kailā saule" un "Rīta rītausmas roboti" sižetā. Nepilnīgi robotu modeļi var tikt bloķēti, ja tiem tiek dots uzdevums izpildīt divas pretrunīgas pavēles. "Iesaldēšana" var būt pastāvīga vai īslaicīga.

Vēl viena kaitējuma definīcija pirmajā likumā

Likumi nenosakiet robežas tam, ko var saukt kaitējums cilvēkam - tas bieži ir atkarīgs no robota spējas uztvert informāciju un domāt filozofiski. Piemēram, vai policijas robots sapratīs, ka cilvēkam nekaitēs, ja tas saudzīgi pavadīs uz iecirkni kādu īpaši bīstamu noziedznieku?

Stāstā "Melis" telepātiskajam robotam Herbijam bija jāsaprot kaitējums un kaut kas tāds, kas var jebkādā veidā pievilt vai apbēdināt cilvēkus – viņš zināja, ka cilvēki kaut ko piedzīvo sirdssāpes. Tas lika viņam pastāvīgi stāstīt cilvēkiem to, ko viņi vēlas dzirdēt patiesības vietā. Citādi, viņa izpratnē, viņš pārkāptu Pirmais likums.

Nepilnības likumos

Grāmatā The Naked Sun to atzīmē Elija Beilija Likumi cilvēki ir nepareizi formulējuši, jo robots var tos salauzt aiz nezināšanas. Viņš ieteica šādu "pareizo" formulējumu Pirmais likums: "Robots neko tādu nevar izdarīt, cik viņš zina nodarīt kaitējumu cilvēkam vai apzinātiļaut cilvēkiem nodarīt kaitējumu."

Šis papildinājums skaidri parāda, ka robots var kļūt pat par slepkavības ieroci, ja tas neapzinās savu darbību būtību. Piemēram, viņam var likt kaut ko pievienot kāda ēdienam, un viņš nezinās, ka tā ir inde. Vēl jo vairāk, Beilija stāsta, ka vainīgais var uzdot šo uzdevumu vairākiem robotiem, lai neviens no viņiem nesaprastu visu ideju.

Beilijs apgalvo, ka solārieši kādu dienu varēs izmantot robotus pat militāriem mērķiem. Ja kosmosa kuģis ir uzbūvēts ar robotizētām smadzenēm un bez cilvēka apkalpes vai dzīvības uzturēšanas sistēmām, tad šī kuģa inteliģence var kļūdaini pieņemt, ka visi kosmosa kuģiem nav cilvēku. Šāds kuģis būtu manevrētspējīgāks, ātrāks un, iespējams, labāk bruņots nekā tas, kuru vada cilvēki. Bet pats galvenais, viņš spēs iznīcināt cilvēkus, neapzinoties viņu klātbūtni. Šāda iespēja aprakstīta "Fonds and Earth", kur arī atklājas, ka solāriešiem ir ārkārtīgi spēcīga robotu armija, kas ar "cilvēkiem" saprot tikai Solārijas pamatiedzīvotājus.

Citi likumu lietojumi daiļliteratūrā

Īzaks Asimovs uzskatīja, ka viņa Likumi kalpos par pamatu jaunam skatījumam uz robotiem, iznīcinās "Frankenšteina kompleksu" zinātniskajā fantastikā un masu apziņa, kļūs par ideju avotu jauniem stāstiem, kur roboti tiek parādīti kā daudzpusīgi un atraktīvi. Viņa mīļākais šāda darba piemērs bija Zvaigžņu kari. Asimova viedoklim, ka roboti ir kas vairāk nekā tikai "tosteri" vai "mehāniski monstri", citi zinātniskās fantastikas rakstnieki galu galā piekrita. Roboti parādījās viņu darbos, paklausot trīs likumi, taču pēc tradīcijas tos skaidri pieminēja tikai Asimovs.

Darbos, kas tieši runā par Trīs likumi , parasti tiek minēts arī to autors. Ir izņēmumi: piemēram, 60. gadu vācu seriālā "Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion" ("Kosmosa patruļa - kosmosa kuģa Orion fantastiskie piedzīvojumi"), proti, tā trešajā sērijā "Hüter des Gesetzes" ("Kalpa likums"), Asimovs Likumi uzņemts, nenorādot avotu.

Pretēji kritikai un dažām publikas atsauksmēm, kuras man gadījās dzirdēt, "Es, robots" ir diezgan smieklīga fantāzijas asa sižeta filma. … Kad mēs… gribam izbaudīt Asimovu, mēs lasām Asimovu. Un, kad vēlamies noskatīties fantastisku asa sižeta filmu, mēs skatāmies fantastisku asa sižeta filmu. "Es, robots" kā asa sižeta filma mūs apmierināja diezgan labi.

Alekseja Sadetska atsauksme pievērš uzmanību tam, ka filma, nedaudz attālinoties no Asimova, pati par sevi izvirzīja divas jaunas sociālfilozofiskas problēmas. Jāpiebilst, ka filma apšaubīja vēlāko Nulles robotikas likums Asimovs (skatīt iepriekš).

AI attīstība ir bizness, un uzņēmējdarbība ir pazīstama kā neinteresēta par fundamentālu drošības pasākumu, īpaši filozofisku, izstrādi. Šeit ir daži piemēri: tabakas rūpniecība, automobiļu rūpniecība, kodolrūpniecība. Nevienam no viņiem sākotnēji netika teikts, ka nepieciešami nopietni drošības pasākumi, un tie visi novērsa ārēji noteiktos ierobežojumus, un neviens no viņiem nepieņēma absolūtu rīkojumu pret kaitējuma nodarīšanu cilvēkiem.

Ir vērts atzīmēt, ka Sojera esejā netiek ņemti vērā neapzināta kaitējuma jautājumi, kas aprakstīti, piemēram, izdevumā The Kail Sun. Taču pret šādu nostāju ir iebildumi: iespējams, militāristi gribēs izmantot pēc iespējas vairāk piesardzības pret robotiem un līdz ar to ierobežojumus, kas līdzīgi kā Robotikas likumi, tā vai citādi tiks piemērota. Fantasts un kritiķis Deivids Lengfords ironiski atzīmēja, ka šie ierobežojumi varētu būt šādi:

Rodžers Klārks uzrakstīja divus darbus par likumu ieviešanas sarežģījumu analīzi, ja kādu dienu tos varētu pielietot tehnoloģijā. Viņš raksta:

Asimova Robotikas likumi kļuva par veiksmīgu literāro instrumentu. Varbūt ironiski, vai varbūt tas bija meistarīgs sitiens, bet kopumā Asimova stāsti atspēko punktu, no kura viņš sāka: nav iespējams droši ierobežot robotu uzvedību, izgudrojot un piemērojot kādu noteikumu kopumu.

No otras puses, vēlākie Asimova romāni ("Robots of Dawn", "Robots and Empire", "Fonds and Earth") parāda, ka roboti nodara vēl lielāku ilgtermiņa kaitējumu, ievērojot Likumus un tādējādi liedzot cilvēkiem brīvību iesaistīties izgudrojošās vai riskantās darbībās.

To ir ierosinājis fantasts Hanss Moraveks – ievērojama transhumānisma kustības figūra Robotikas likumi būtu jāizmanto korporatīvajās inteliģentajās sistēmās - korporācijās, kuras kontrolē AI un izmanto robotu ražošanas spēku. Šādas sistēmas, viņaprāt, drīzumā parādīsies.

Eliezers Judkovskis (SIA) ASV pēta globālā riska problēmas, ko varētu radīt nākotnes pārcilvēcisks AI, ja tas nebūtu ieprogrammēts kā cilvēkiem draudzīgs. 2004. gadā SIAI atklāja vietni AsimovLaws.com — vietni, kas izstrādāta, lai apspriestu mākslīgā intelekta ētiku saistībā ar problēmām, kas izvirzītas tikai divas dienas vēlāk publicētajā dokumentā I, Robot. Šajā vietnē viņi vēlējās parādīt, ka Asimova robotikas likumi nav droši, jo, piemēram, tie var pamudināt AI pārņemt zemi, lai "pasargātu" cilvēkus no kaitējuma.

Piezīmes

1. Asimovs, Īzāks. Pierādījumi // Robotu sapņi. - M .: Eksmo, 2004. - S. 142-169. - ISBN 5-699-00842-X
2. Asimovs, Īzāks. Eseja #6. Robotikas likumi // Robotu sapņi. - M .: Eksmo, 2004. - S. 781-784. - ISBN 5-699-00842-X
3. Trešd ar mītu par Galateju.
4. Interesanti, ka vienā no autora turpinājumiem stāsts "Ādama Linka atriebība" (

Manuprāt, labā un ļaunā jēdzieni, savukārt, ir cieši saistīti ar dzīves jēgas jēdzienu. Nav iespējams pateikt, vai noteikta cilvēka rīcība ir vērsta uz labu vai ļaunu, kamēr nav zināms, kādam vispār jābūt cilvēka uzvedības mērķim.

Taču Asimova robotikas ietvaros to var atrisināt vienkārši līdz vulgaritātei.
Vienā no viņa romāniem ir aprakstīts, kā humanoīdam robotam tika piešķirta vēlme pēc taisnīguma shēma, definējot taisnīgumu kā vienkāršu paklausību. valsts likumi. — Un ja likums ir netaisns? - "Netaisnīgs likums," atbildēja robots, "šī ir terminoloģiska pretruna."

Ja jūs rīkojaties tik vulgāri, tad jūs varat viegli definēt kaitējuma jēdzienu, taču no šādiem robotiem būs maz jēgas ...

Atbilde

Kā zina izcilie dalībnieki, attīstība jaunākās tehnoloģijas, un vēl jo vairāk robotikas jomā, vispirms ir paredzēts "aizsardzības nozares" un tikai pēc tam pārējās cilvēces vajadzību apmierināšanai. Es domāju, ka ir skaidrs, ka šādos apstākļos Pirmais likums tiks būtiski mainīts. Un ne vispārējas nomierināšanas virzienā.

Atbilde

• Atcerieties slavenā rakstnieka Kurta Vonnegūta vārdus: "Neatkarīgi no tā, ko zinātnieks strādā, viņš beidzas ar ieroci."
  Iespējams, ar līdzīgu priekšnoteikumu, kas pārvalda cilvēka psiholoģiju (un ne tikai zinātnieku vidū), Zemei nav nākotnes ... tāpat kā tiem, kas dzīvoja pirms mums, nebija. Kopumā mūsu tieksme pēc iznīcināšanas un pašiznīcināšanās ir dabisks modelis... viss tiecas pēc līdzsvara (uz pozitīvu entropiju), tikai katrs ķermenis un būtība Dabā to dara savā veidā. “Zvaigzne noveco un eksplodē, kamēr cilvēks, sasniedzis zināšanu robežu, kodolkara katlā izdeg ar 10 000 grādiem pēc Celsija sekundē.
  Padomājiet par Drenerima aforismu - "Katra tauta ir sava valdnieka cienīga! .." Kāpēc jau tūkstošiem gadu cilvēkus pārvalda troglodīti ar nūjām, vai ne tāpēc, ka mums ir spēks godā, kurā smadzenes nav vajadzīgas?
  Bet vissliktākais ir tad, kad smadzenes, lai izdzīvotu troglodītu pasaulē, sāk kalpot šiem troglodītiem. Jo "Force" maz interesē smadzeņu viedoklis, bet tikai rezultāti: piemēram, letālāka priekšzobu forma uz nūjas ...

  Atbilde

  • Iepriekš minēto likumu īstenošana, ko veic robots, joprojām ir ļoti tālās nākotnes izredzes ... (Ja tā vispār notiks!)
    No jaunākajām inteliģentajām sistēmām, kas šobrīd tiek veidotas uz mākslīgo neironu tīklu bāzes, var izcelt RRS-EX modeli (Rezoning Robotic sistems - Exployer). Šī struktūra ir pēc iespējas tuvāka bioniskām neiroloģiskām struktūrām... bet! Intelekts, kas spēj analizēt strauji mainīgu objektīvu konfigurāciju vidi RRS-EX vienkārši nav. Viss balstās uz bināro algoritmu robežu ("JĀ-NĒ" un intervālā "ES NEZINU"). Lai iemācītu robotam domāt un ekstrapolēt savus secinājumus, ir nepieciešams kāds svešs nejaušības segments, citādi saukts par "Intuitīvo pieeju mākslīgajam intelektam" vai citādi (privāts, individuāls). Lai to izdarītu, ir jāizkāpj no matemātisko algoritmu standarta teorijas, kas spēj tikai noteikt AI sistēmu darbību un asociāciju programmu, bet nevar dot šīm sistēmām privāto savienojumu metodes neironu ķēdēs, no kurām bioloģiskajās smadzenēs ir miljards miljardu, plus šķērsvirziena ietekme un impulsi (refleksa apzināšanās). Īsāk sakot, AI sistēmām ir nepieciešama individualitātes matrica gan pašmācībai, gan spējai adekvāti atspoguļot ne tikai faktus, bet arī pēc tam, kā arī pieņemt savus lēmumus, pamatojoties uz iepriekš noteikto (apmācība, izglītība) loģiskā dominējošā (labuma loģika vai ļaunuma loģika). Vairs nav iespējams ierobežot AI sistēmas ar trim likumiem. Ja tomēr šos trīs likumus izdosies iegrūst sistēmā, tad individuālās domāšanas lauks būs slēgts, tāpēc pēc šiem likumiem vadītais objekts būs nekas vairāk kā stulba rēķināšanas mašīna. Un jebkurš apdāvināts hakeris šos likumus košļās un izspļaus kā sēkliņas... Vai esat pamanījuši? Viss ir kā cilvēkiem ir IZGLĪTĪBA un APMĀCĪBA! Pretējā gadījumā izrādās vienkāršs dators ...

    Atbilde

    • Es tev kategoriski nepiekrītu, zinātnes mīļotāj. Kāpēc ir tik daudz, diezgan gudri cilvēki dažreiz viņi kā pašsaprotami pauž viedokli, ka intuīcija ir kaut kā saistīta ar nejaušību?

      Intuīcija (vēlīnā latīņu intuitio — kontemplācija, no latīņu intueor — skatos), spēja saprast patiesību pēc tiešas rīcības brīvības bez pamatojuma ar pierādījumu palīdzību. Neapzināta risinājuma atrašana, ieskats.

      Manuprāt, intuīcija nekādā veidā nav saistīta ar nejaušību un ir pilnībā nosakāma. Kā arī pilnīgi saprātīgas "dzīvas" radības (AI) uzvedība. Šo determinismu var norādīt programma. Vai arī jūs sakāt, ka lielākā daļa jūsu darbību nav saprātīgas un nejaušas? Vai viņi melo?

      Paziņojums par neiespējamību:

      >> Vairs nav iespējams ierobežot AI sistēmas ar >>trīs likumiem. Ja tomēr izdosies šos trīs >>likumus iegrūst sistēmā, tad individuālās domāšanas lauks būs slēgts, >>tātad, pēc šiem likumiem vadītais objekts nebūs nekas vairāk kā >>stulbi rēķināšanas mašīna.

      Uzskatu to par nepamatotu. Lai gan jautājums noteikti ir sarežģīts. Šādi apgalvojumi, manuprāt, būtu labi argumentēti detalizēti.

      Atbilde

Es domāju, ka ir vērts pievienot šim rakstam, ka Īzaks Asimovs bija pirmais, kurš pateica vārdu Robots! tieši viņš ir šīs kultūras pamatlicējs zinātniskās fantastikas rakstnieku vidū. Turklāt es nepiekrītu rakstā izteiktajam apgalvojumam par "bagātīga attēla fikciju", jo tas ir sava veida kanons robotu smadzeņu darbam cilvēka vidē. un pats galvenais, atcerieties, ka pat sers Jesaks Ņūtons savulaik tika saukts arī par šarloti, un viņa "izdotie" likumi bija muļķības vai viegla forma"bagātīgas iztēles izdomājumi" ...

Atbilde

Es gribu precizēt, ka vārdu "Robots" nav izdomājis Asimovs. 1920. gadā čehu rakstnieks Karels Kapeks izmantoja šo vārdu lugā "R.U.R.";.
http://ru.wikipedia.org/wiki/Chapek
Īzaks Asimovs ir dzimis tikai 1920. gadā, un tas nekādā veidā nemazina viņa darbu vērtību.
http://ru.wikipedia.org/wiki/Asimov%2C_Isaac

Atbilde

vai maldi:
Mūsu intelekts ir virsbūve, kas aizsargā un ievēro ķermeņa intereses (funkciju, replikāciju).
Intelektam, man šķiet, galvenais ir motivācija – galvenais mērķis. Šis mērķis būs pamats pašmācībai un citām lietām.
Labais un ļaunais intelektam ir tikai "+" un "-", tas ir, "labums" un "kaitējums" vissarežģītākajās kombinācijas un dažādās ķēdēs, piemēram, "es-ģimene-sabiedrība" (labums - tuvošanās galvenajam mērķi vai tā sasniegšanas veidu ievērošana). Teiksim, galvenais mērķis ir izdzīvot...

Atbilde

Cisco paziņoja par Linksys izstrādātāju kopienas izveidi. Tajā būs eksperti, kas veido lietojumprogrammas jaunajiem Linksys Smart Wi-Fi maršrutētājiem. Kopiena kļūs par daļu no populārā Cisco® izstrādātāju tīkla, kas savieno Cisco ar ārējiem aparatūras un programmatūras izstrādātājiem. Rezultātā kopīgs darbsšajā tīklā parādās pārbaudīti sadarbspējīgi risinājumi parastajiem klientiem. Cisco, mājas tīklu pionieris, ir pārdevis vairāk nekā 70 miljonus Linksys maršrutētāju visā pasaulē un ir apņēmies nostiprināt savu vadošo lomu ar nākamās paaudzes mājas tīkla risinājumiem.
Linksys viedajiem Wi-Fi maršrutētājiem ir unikāla uz mākoņiem balstīta arhitektūra, kas ļauj izstrādātājiem izveidot lietojumprogrammas jebkura lietotāja elektroniskajām ierīcēm. Lai vienkāršotu izstrādi, sabiedrībai tiks piedāvāts vienkāršs un ērts programmatūras izstrādātāja komplekts (SDK), izglītojoši materiāli un programmu kodu piemēri.
“Mēs esam uz sliekšņa lielas pārmaiņas nodrošināt mājas tīkla lietotājiem pakalpojumus, par kuriem viņi nekad nav sapņojuši. Jaunā programmatūras platforma un Linksys izstrādātāju kopiena piedāvā patiešām neierobežotas iespējas izstrādātājiem,” sacīja Vikas Butaney, Cisco mājas tīkla produktu direktors. – Strādājot ar jebkuru pakalpojumu, sākot no vienkāršākajiem, piemēram, dzīvokļa attālinātā uzraudzība, līdz pat vissarežģītākajiem, attīstītāji var dot savu ieguldījumu vērtīgu un noderīgi risinājumi gala lietotājiem".
Daži izstrādātāji jau ir izmantojuši Linksys Developer Community platformas, SDK un citus Cisco rīkus, lai paātrinātu un vienkāršotu lietojumprogrammu izstrādi. Rezultāts ir sešas lietojumprogrammas, ko izveidojuši Axentra Corporation, Fresh Consulting LLC, Gemini Solutions Inc., PacketVideo Corporation, Stratedge Adroitent J.V. un Xoriant Corporation. Jaunajām lietojumprogrammām ir vienkāršs ierīces savienojums (viens klikšķis), uzlabota piekļuves kontrole un jaunas multivides koplietošanas iespējas. Šīs lietotnes ir pirmais solis, lai galalietotājiem pilnībā izmantotu Linksys viedo Wi-Fi maršrutētāju potenciālu.
Izstrādātāji, kas vēlas pievienoties Linksys izstrādātāju kopienai, var apmeklēt vietni http://referati.do.am, lai reģistrētos un sāktu veidot jaunas lietojumprogrammas Linksys viedajiem Wi-Fi maršrutētājiem. Cisco nodrošina tehniskos, mārketinga un pārdošanas resursus izstrādātājiem, atbalstot kopienas dalībniekus visā uzņēmējdarbības un attīstības procesā.

Īzaks Asimovs

Trīs robotikas likumi

Cilvēki un roboti

Roboti literatūrā dumpo jau gadsimtiem ilgi. Jinn un Efreet sacēlās Arābu pasakas, Golems sacēlās - viltīgā Bena Bezalela māla prāta izdomājums. Un pat īsti roboti, kurus radījis ģēnijs Karels Kapeks, izkļuva no kontroles, tik tikko paspējot piedzimt no rakstnieka pildspalvas. Situācija ir kļuvusi tik nopietna, ka dumpīgo robotu problēma ir migrējusi no lapām daiļliteratūra zinātnisko rakstu un monogrāfiju lappusēs. Pats Norberts Vīners uzskatīja par nepieciešamu brīdināt cilvēci no tā iespējamās sekas pārmērīga robotu autonomija.

Pestīšana nāca no negaidītas ceturkšņa. Amerikāņu rakstnieks un zinātnieks Īzaks Asimovs formulēja savus slavenos trīs robotikas likumus (patiesībā pareizāk būtu teikt “robotoloģija” vai, kā noteikusi mūsdienu zinātne, “robotika”, taču tagad ir par vēlu šo neprecizitāti labot tulkojums). Asimova likumi ar patiesi fantastisku ātrumu saņēma atpazīstamība visā pasaulē, un kopš tā laika neviens robots nav atstājis montāžas līniju, tas ir, no iespiedmašīnas bungām, bez bēdīgi slavenajiem Trīs likumiem tā smadzenēs (ņemiet vērā, ka robotam ir jābūt smadzenēm!) Beidzot cilvēce varēja brīvi elpot. Turpmākā līdzāspastāvēšana ar paklausīgo robotu leģioniem šķita visai rožaina.

Un ko par to domā Robotikas likumu veidotājs? Vislabāko atbildi uz šo jautājumu var iegūt, izlasot lasītājam piedāvāto krājumu.

Sāksim ar pašu pirmo stāstu sērijā "Es, robots". Mazai meitenei ir aukles robots. Meitene pieķērās robotam, taču, pēc mātes teiktā, šī pieķeršanās ir kaitīga pareiza izglītība bērns. Un, lai gan tētim ir cits viedoklis, pēc ilgām ģimenes diskusijām robots tiek nosūtīts atpakaļ uz rūpnīcu. Meitene ir skumja, pastāv nopietnas briesmas garīga trauma, un robots atgriežas (Robija stāsts).

Diezgan sižets, vai ne? Bet tieši šī vienkāršība sagrauj Pirmo robotikas likumu, ko Asimovs formulēja šādi: "Robots nevar nodarīt kaitējumu cilvēkam vai ar savu bezdarbību ļaut cilvēkam nodarīt kaitējumu." Kā gan robots izdomā, kas ir kaitīgs un kas noder, ja vecāki paši nevar izlemt šo jautājumu saistībā ar savu bērnu!

Stāstā “Apaļā deja” neskaidri formulētas norādes rezultātā pirmais un trešais likums nokļuva pretrunā viens ar otru. Saskaņā ar Trešo likumu "robotam pašam jārūpējas par savu drošību, ja vien tas nav pretrunā ar Pirmo un Otro likumu". Robotam tika dota komanda, taču netika norādīta kaitējuma pakāpe, kas cilvēkam tiktu nodarīta, ja tā netiktu ievērota. Un tagad robots riņķo gar bīstamās zonas robežu, neiebraucot tajā dziļi (Trešais likums to liedz) un tajā pašā laikā netiekot tālu (to liedz Pirmais un Otrais likums). Situācija, kas pazīstama jebkuram mūsdienu datoru programmētājam. To sauc par "cilpu". Starp citu, jebkurš vairāk vai mazāk pieredzējis programmētājs programmā ievieto īpašas komandas, saskaņā ar kurām, veicot trīs vai četrus apļus, dators apstājas un prasa no cilvēka tālākas instrukcijas.

Stāstā "Apaļā deja" viss notiek savādāk. Tur salūzt Apburtais loks cilvēki gūst panākumus, tikai riskējot ar savu dzīvību un vienlaikus izmantojot visu savu izdomu un izmantojot robotu psiholoģijas eksperta palīdzību. Starp citu, viens no vadmotīviem, kas vieno lielāko daļu krājuma stāstu, ir cīņa starp robotiem un cilvēku robotu psiholoģi Sjūzenu Kalvinu.

Vai cits stāsts - "Kā robots pazuda." Aizkaitināts jaunais strādnieks saka robotam: "Ej prom un nerādi sevi, lai es tevi vairs neredzētu." Robots burtiski izpilda cilvēka norādījumus, pēc kā viss ārpus planētas esošās Hyperbase personāls ir spiests pamest svarīgus darbus un veselu nedēļu meklēt pazudušo robotu.

Mēs atkal apzināti izvēlējāmies stāstu ar vienkāršu sižetu, jo, mūsuprāt, tieši vienkāršībā dzimst tā pārliecinošība, ar kādu Asimovs atmasko viņa paša radīto otro robotikas likumu.

Tātad, kāds ir darījums? Vai tiešām jāatzīst, ka džins ir ārā no pudeles un cilvēkiem nekas cits neatliek, kā pasīvi gaidīt sekas? Tomēr atcerēsimies, ka stāstu autors ir ne tikai rakstnieks, bet arī zinātnieks, kurš spēj analizēt situāciju ar visu loģisko stingrību. Un ne velti viņš izvēlējās šo konkrēto formu: vispirms viņš formulēja likumus, kas no pirmā acu uzmetiena šķiet nevainojami gan saturā, gan formā, un pēc tam demonstrēja šos likumus darbībā.

Jā, džins ir ārā no pudeles, un ļoti, ļoti sen. Paņēmis rokās nūju, cilvēks izveidoja pirmo robotu, un viņš saskārās ar robotu sacelšanos, kad nejauši nokrita šo nūju uz kājām. Un kopš tā laika nekas kvalitatīvi jauns nav noticis. Robotu sacelšanās problēma tehnoloģijās tiek izvirzīta un risināta vairākus gadu desmitus. IN angļu valoda ir pat īpašs termins “muļķains” – “aizsardzība no muļķa”. Tātad gāze gāzes kolonnā neaizdegas, ja ūdens neplūst, un prese nedarbosies, ja ir svešķermenis, piemēram, cilvēka roka.

Taču no tehnoloģijām nevajadzētu prasīt, lai tā cilvēka vietā izlemtu, kas viņam nāk par sliktu un kas nāk par labu. Un nevajadzētu domāt, ka "domājošu" mašīnu parādīšanās, tas ir, mašīnas, kas spēj patstāvīgi analizēt situāciju un pieņemt lēmumus, pamatojoties uz šo analīzi, ieviesīs kaut ko principiāli jaunu.

Tomēr atgriezīsimies pie krājuma stāstiem. Šķiet, ka ar to autoru lasītājus nav jāiepazīstina. Īzaks Asimovs ir viens no slavenākajiem amerikāņu zinātniskās fantastikas rakstniekiem, daudzu populārzinātnisku grāmatu un rakstu autors, kas tika publicēti atsevišķās kolekcijās. Bet galvenokārt Asimovs ir talantīgs mākslinieks, un tas ir viņa popularitātes noslēpums. Daudzi šī rakstnieka darbi ir tulkoti krievu valodā. Īpaši slaveni bija viņa stāsti par robotiem, kas tika izdoti kā atsevišķi krājumi (cikls “Es, robots”) vai iekļauti citos tematiskajos krājumos. Patīkami, ka daudzas no tām, lai gan ne visas, tagad tiek pārpublicētas kā vienots krājums.

Lasītājs – gan iepazinies ar Asimova daiļradi, gan pirmo reizi atpazīstot viņa robotus – sastapsies ar spilgtiem, lieliski zīmētiem tēliem. Šeit ir testētāji jauna tehnoloģija Pauels un Donovans, kuri, ievērojot visus piedzīvojumu žanra kanonus, katrā stāstā nonāk grūtās, reizēm bezcerīgās situācijās, bet vienmēr ar godu izkļūst no tām. Lūk, kompānijas "U.S. Robots and Mechanical Man Corporation" Bogerts un Lenings "smadzeņu trests" sacenšas par varu. Un robopsiholoģe Sjūzena Kalvina stāv pāri visiem, nicinot uzņēmēju iedomību. Un aizkulisēs - modernā kapitālistiskā Amerika visā tās "spožumā". Lasītāja priekšā ir attēli no konkurences cīņas starp firmām, priekšvēlēšanu politiskās mahinācijas, rasu diskriminācijas. Taču jāatzīmē, ka bez bailēm un pārmetumiem attēlojot savus robotus kā bruņiniekus, apveltot tos ar metāla korpusu un pozitroniskām smadzenēm, Asimovs izvairās no akūtām sociālām problēmām.