กฎ 3 ข้อของหุ่นยนต์ในนิยายวิทยาศาสตร์ รหัสวัฒนธรรมของอาซิมอฟ: กฎสามข้อของวิทยาการหุ่นยนต์สร้างประวัติศาสตร์ได้อย่างไร

พวกเขาไม่สามารถข้ามได้หากใช้ตามตัวอักษร แต่เป็นเรื่องง่ายเมื่อความคิดนี้เริ่มเป็นรูปเป็นร่าง
ลองนึกภาพโปรแกรมเมอร์พยายามเขียนกฎหมายเหล่านี้ นี่คือสิ่งแรกที่สำคัญที่สุด: "หุ่นยนต์ไม่สามารถทำร้ายคนได้

หุ่นยนต์ - มันคืออะไร? โอเค นี่คือเขา คุณไม่จำเป็นต้องเขียนถึงเขาว่าเขาเป็นเครื่องจักร แค่รวมประโยคที่สิ่งนี้ไม่สามารถทำอันตรายได้ และ "นี่" คืออะไร? บุคคลมี "ฉัน" ของตัวเอง ดังนั้นเขาไม่เชื่อว่ามือของเขาเป็นอย่างอื่น มันเหมือนกันหมด นั่นคือแนวคิดของ "หุ่นยนต์" นั้นไม่ง่ายนัก เหล่านี้ล้วนเป็นส่วนหนึ่งของ "ร่างกาย" ของเขา และมันเขียนอย่างไร? หุ่นยนต์ไม่เหมือนคนไม่มีบุคลิกภาพหรือต้องรู้สึกเหมือนเป็นคนก่อนและไม่ใช่ชุดของรายละเอียด คุณเข้าใจขอบเขตของงานหรือไม่? เพื่อที่จะผลักดันกฎข้อที่หนึ่งของวิทยาการหุ่นยนต์เข้าไปในหุ่นยนต์ เขาต้องมีจิตสำนึกที่สมบูรณ์พร้อมด้วยความเข้าใจว่าชิ้นส่วนทั้งหมดของเขา สกรู สายไฟ แผงและมอเตอร์ทั้งหมดล้วนเป็นส่วนประกอบ และแม้กระทั่งสิ่งที่เขาจะใช้ - กลไกหรือวัตถุอื่น ๆ ที่เขาควบคุม ว่าเขารับผิดชอบพวกเขา ฉันกำลังดูรถ - แม้แต่รถที่ฉลาดที่สุดก็ยังไม่ค่อยเข้าใจว่าล้อเป็นส่วนหนึ่งของมัน นั่นคือ แต่ละรายละเอียด เช่นเดียวกับ "รายละเอียด" อื่นๆ ที่หุ่นยนต์สามารถใช้ได้ ต้องรวมอยู่ในระบบเดียวภายใต้ศูนย์ควบคุมแห่งเดียว และตรวจสอบตำแหน่งในอวกาศสำหรับแต่ละส่วนของร่างกาย นี่เป็นงานที่ยากอย่างยิ่งที่เรดาร์ธรรมดาจะขาดไม่ได้ที่นี่ มีช่องว่างขนาดใหญ่ระหว่างกลไกและสิ่งมีชีวิต อย่างแรกไม่มีระบบประสาทไม่มีตัวรับทั่วพื้นผิว แขนหุ่นยนต์เป็นเพียงชิ้นส่วนของโลหะ คุณไม่สามารถใส่เซ็นเซอร์ติดตามทุก ๆ เซนติเมตร แขนไม่รู้สึกอะไร ดังนั้น หุ่นยนต์จึงไม่สามารถวาดภาพสามมิติของตัวเอง เข้าใจทุก ช่วงเวลาที่รายละเอียดแต่ละรายการติดต่อกับโลกภายนอก

ลองนึกภาพว่ามีคนลืมว่าเก้าอี้ของเขาอยู่ที่ไหนและนั่งลงกับพื้น มันเกิดขึ้นน้อยมากใช่มั้ย? เหมือนอยากรู้อยากเห็น เราจำได้เสมอไม่เพียงแค่ว่าเราอยู่ที่ไหน แต่ยังจำตำแหน่งของสิ่งของรอบตัวเราด้วย และเราทำงานได้ดีมากในการปรับทิศทางตัวเอง อย่างไรก็ตาม มีเหตุการณ์เกิดขึ้น และเราสามารถรัดคอลูกแมวหรือวิ่งทับสุนัขโดยไม่ได้ตั้งใจได้ เราเข้าใจดีว่าคุณไม่สามารถติดตามทุกสิ่งได้ และเราสามารถฆ่าคนอื่นได้โดยไม่ได้ตั้งใจ เราจะห้ามหุ่นยนต์ไม่ให้ทำร้ายผู้คนได้อย่างไรถ้าคนสามารถตกลงไปในแขนของหุ่นยนต์ได้อย่างแท้จริง? ดังนั้น เราต้องปรับเปลี่ยนกฎข้อแรก ไม่สามารถทำร้าย SPECIALLY ตัวอย่างเช่น และมีปัญหาอยู่ตรงที่ อาจไม่ได้ตั้งใจ? โอเค ปล่อยให้มันเป็น "ทำทุกอย่างในอำนาจของคุณเพื่อไม่ให้เกิดอันตราย" และใครจะเป็นผู้กำหนดว่าเขาทำทุกอย่างหรือไม่? เขาอยู่คนเดียวเหรอ? กล่าวคือ หุ่นยนต์จะมีโอกาสเป็นเปอร์เซ็นต์ที่อาจทำให้เกิดอันตรายได้ เราแสดงให้เห็นตลอดเวลาว่าหุ่นยนต์หยุดแขนหรือขาด้วยผมอย่างแท้จริงเพื่อไม่ให้ฆ่าคน แต่เป็นความเฉื่อย? แล้วการเคลื่อนไหวที่กำลังจะมาถึงของบุคคลนั้นเขาฆ่าตัวตายด้วยการเร่งความเร็วของหุ่นยนต์หรือไม่? ภูเขาแห่งอุบัติเหตุและโดยหลักการแล้วหุ่นยนต์ก็เหมือนกับวัตถุใด ๆ ที่เคลื่อนที่ในอวกาศไม่สามารถรับประกันได้ว่าจะไม่ทำร้ายใครซักคนและด้วยเหตุนี้จึงไม่เป็นอันตรายต่อการกระทำของมัน กฎข้อแรกไม่สำเร็จ.

คนจะใส่หน้ากาก เปื้อนโคลน แล้วจะไม่เป็นคนอีกไหม? นั่นคือภาพถ่ายบางรูปที่โหลดลงในหน่วยความจำของหุ่นยนต์เพื่อระบุตัวตนไม่เพียงพอ หุ่นยนต์จะตัดสินได้อย่างไรว่ามีคนอยู่ข้างหน้าเขา ไม่ใช่หุ่น ไม่ใช่คนตาย ไม่ใช่รูปภาพ ไม่ใช่โฮโลแกรม ไม่ใช่หุ่นยนต์ฮิวแมนนอยด์ตัวอื่น? ชิป. ยอดเยี่ยม. ฉันเข้าโปรแกรมชิป เปลี่ยนรหัสประจำตัว เท่านี้ก็เปิดไฟเพื่อฆ่าได้ หรือหุ่นยนต์จะระบุตัวบุคคลโดยรังสีที่เล็ดลอดออกมาจากพวกเขา? ดังนั้นชายในชุดสูทจึงเป็นศพ คุณคิดว่ามันง่ายมากที่จะเข้าใจว่ามีคนอยู่ตรงหน้าคุณหรือไม่? และนี่ไม่ใช่ มีหลายสถานการณ์ที่ขัดแย้งกันเมื่อเราสงสัย บ้านพัง มีคนอยู่ไหม พวกเขายังมีชีวิตอยู่? เงาที่ส่องประกายคือคน? และบางครั้งเราก็ทำผิดพลาด เราใช้หุ่นสำหรับบุคคล เราไม่ได้สังเกตว่าภายใต้กองขยะมีคนรอด หรือมีคนอยู่หลังกำแพงนี้ เราไม่รู้ และหุ่นยนต์ไม่มีญาณทิพย์ เขาจะทำผิดพลาดและทำให้พิการหรือแม้กระทั่งฆ่าคนหรือไม่ช่วยเขาหรือจะให้เครื่องช่วยหายใจแก่หุ่น เพื่อหลีกเลี่ยงกฎหมายก็เพียงพอที่จะแก้ไขคำจำกัดความของ "หุ่นยนต์" และ "มนุษย์" แต่ตัวเขาเองจะจัดการเนื่องจากไม่สามารถบรรลุความแม่นยำที่สมบูรณ์แบบของคำจำกัดความได้

กฎหมายไม่ได้เขียนขึ้นสำหรับหุ่นยนต์ เขาสันนิษฐานว่ากลไกนั้นสมบูรณ์แบบจนไม่สามารถเข้าใจผิดได้ เขาเห็นทุกอย่าง ประเมินสถานการณ์ในเสี้ยววินาที และมีความสามารถเหนือธรรมชาติเหนือมนุษย์มาก ความประทับใจก็คือบทบัญญัติเขียนขึ้นเพื่อพระเจ้า ที่เราคิดถึงมาก การมีพระเจ้าทุกคนไม่ได้เข้ามายุ่งในชีวิตของเราจริงๆ และเราเจ็บป่วย ทุกข์ทรมาน ตาย เราต้องการพระเจ้าอีกองค์ที่จะไม่มองดูเราจากสวรรค์ แต่จะทรงยื่นพระหัตถ์ช่วย และในขณะเดียวกันก็จะไม่เป็นอันตราย เข้าใจโดยสัญชาตญาณว่าอันตรายอยู่ที่ไหน และประโยชน์อยู่ที่ไหน หุ่นยนต์เป็นสิ่งมีชีวิตที่ยอดเยี่ยม และถ้าเป็นเช่นนั้น มนุษย์จะไม่มีวันสร้างหุ่นยนต์ดังกล่าว ดังนั้นกฎทั้งสามของหุ่นยนต์จะไม่ถูกสะกดออกมาในรูปแบบที่อาซิมอฟพูดถึง มันจะเป็นรุ่นที่แตกต่างอย่างสิ้นเชิงและถูกตัดทอนตามที่หุ่นยนต์จะทำร้ายมนุษย์ ไม่ว่าจะโดยบังเอิญหรือเนื่องจากข้อผิดพลาดในการระบุตัวตนหรือเนื่องจากความไม่สมบูรณ์ของระบบในการกำหนดตำแหน่งของร่างกายในอวกาศ คุณเคยเห็นคำจารึกบนเครนว่า "อย่ายืนใต้บูม", "ไถลสองเมตร" บนเครื่องยาวๆ ไหม? นั่นคือข้อจำกัดเดียวกันสำหรับหุ่นยนต์

ตัวเขาเองไม่สามารถทำร้ายผู้อื่นและสิ่งมีชีวิตอื่น ๆ ได้ไม่ว่าเขาจะต้องการมากแค่ไหน และนี่คือแม้อุปกรณ์ของเขาจะสมบูรณ์แบบในด้านการรับรู้วัตถุ ทำความเข้าใจว่าต้องทำอะไรและอย่างไรและไม่ควรทำอะไรตามหลักการทางศีลธรรมซึ่งเป็นแบบแผนและน่าสงสัยว่าจะเขียนเป็นโปรแกรมได้ การกระทำสามารถกำหนดได้เป็นขั้นเป็นตอน แต่ทันทีที่ต้องมีการระบุตัวตน คำจำกัดความในอวกาศ และโดยเฉพาะอย่างยิ่งความรู้สึกเหมือนเป็นวัตถุทั้งหมด และการเข้าใจผลที่ตามมาจากการกระทำของคนๆ หนึ่ง ย่อมมีปัญหาที่ผ่านไม่ได้ หุ่นยนต์บางชนิดจะทำร้ายคนอย่างแน่นอนแล้วเขาจะ "อยู่" กับสิ่งนี้ได้อย่างไร? เขาทำผิดกฏหมาย และเช่นเดียวกับซันนี่ในหนัง เขาจะสรุปได้ว่าไม่มีใครสมบูรณ์แบบและจำเป็นหรือโอเคที่จะฆ่าคนในบางครั้ง ซึ่งขัดต่ออุดมการณ์ของกฎหมายทั้งสามโดยสิ้นเชิง

พวกเขามีจุดมุ่งหมายเพื่อให้แน่ใจว่าการทำงานของเครื่องจักรที่ปลอดภัยสำหรับมนุษย์อย่างแน่นอน ในเวลาเดียวกัน ปัญหาถูกหลีกเลี่ยงโดยที่แม้แต่หุ่นยนต์ที่ก้าวหน้าน้อยกว่าก็ยังฆ่าคนโดยไม่รู้ตัว สำหรับเรา หุ่นยนต์เหล่านี้ถูกนำเสนอเป็นกลไกที่ไม่สามารถทำได้ แต่เนื่องจากพวกเขาไม่ใช่ซันนี่ พวกเขาจึงไม่ต้องทนทุกข์จากประสบการณ์ ดีเขาบดขยี้ใครบางคน มันเกิดขึ้นกับทุกคน "อย่ายืนอยู่ใต้ลูกศร" อย่างไรก็ตาม เรามาถึงการแก้ปัญหาทางศีลธรรมที่สำคัญที่สุดสำหรับบุคคล - พรมแดนระหว่างอันตรายและผลประโยชน์อยู่ที่ไหน และหากบุคคลไม่แก้ไข กลไกก็ยิ่งมากขึ้นเท่านั้น เพียงเพราะเขาเป็นวัตถุของโลกวัตถุ และถ้าเขามีอยู่ เขาอาจทำร้ายใครก็ได้

ดังนั้น ฉันคิดว่าอารยธรรมจะไม่ปฏิบัติตามกฎสามข้อนี้ และเครื่องจักรจะไม่เรียกร้องสิ่งที่เป็นไปไม่ได้ แต่คนจะพยายามปรับปรุงตัวเอง อุปกรณ์และกลไกทางพันธุกรรมหรือโดยการฝัง (แขวน) หรือทั้งสองตัวเลือกพร้อมกัน - ไม่ใช่ประเด็น หุ่นยนต์ในวรรณคดีและภาพยนตร์คืออัตตาที่เปลี่ยนแปลงไปของผู้สร้าง นั่นคือมนุษย์ อยากเห็นตนเองเข้มแข็ง อดทน ไม่รู้สึกเจ็บ ไม่รู้โรค ซ่อมแซมได้ง่าย นิรันดร์ ในขณะที่เหลือมนุษย์ บางอย่างระหว่างซันนี่กับเดล สปูนเนอร์ ก็เพื่อให้ร่างกายได้มีชีวิต เพื่อที่จะรับทุกความสุขของชีวิต ความรัก เซ็กส์ ความเสี่ยง ประสบการณ์ต่างๆ นานา และไม่จามจากไข้หวัดใหญ่รุ่นใหม่ ไม่ตายจากการดื่มสุราหรือ อุบัติเหตุ. ความฝันที่จะพัฒนาตนเองดำเนินไปราวกับด้ายสีแดงในผลงานที่ยอดเยี่ยมเกือบทั้งหมด ตั้งแต่อวาตาร์ไปจนถึงไอรอนแมนและสไปเดอร์แมน วิทยานิพนธ์ "เราเป็นคนอ่อนแอ" ไม่เหมาะกับเรา และด้วยปัญหาที่ว่า "เจ้าอย่าฆ่า" เราจะหาทางออกให้ได้ กฎสามข้อในแง่อุดมคติไม่เหมาะกับเรา ท้ายที่สุด เราไม่ใช่เหล็กไร้วิญญาณ และเราเข้าใจดีว่าการแยกแยะความดีกับความชั่ว อันตรายจากผลประโยชน์ เป็นเรื่องยากเพียงใด และแนวคิดเกี่ยวกับสถานการณ์และความสัมพันธ์เป็นอย่างไร และเรารู้ดีว่าบางครั้งคุณต้องการตีใครบางคนอย่างไร และไม่มีใครจะขโมยสิทธิ์ที่จะรับรู้ความรู้สึกนี้ไปจากเราเพียงเพราะมีวิธีเดียวเท่านั้นที่จะนำมันออกไปได้ - เพื่อให้เราอยู่ในห้องขังอันแสนสบายที่มีผนังนุ่ม ควรผูกติดกับเตียง แล้ว VIKI ต้องการทำจากภาพยนตร์เรื่อง "I, Robot" ได้อย่างไร มนุษยชาติที่แท้จริงสามารถรับรู้ได้ด้วยวิธีนี้ - โดยการกีดกันบุคคลที่มีเจตจำนงเสรี นั่นคือการเปลี่ยนพวกเขาให้เป็นหุ่นยนต์

กฎสามข้อของวิทยาการหุ่นยนต์ซึ่งมีบทบาทสำคัญมากในนิยายวิทยาศาสตร์ มีความจำเป็นอย่างยิ่งในกฎของพฤติกรรมหุ่นยนต์ ในขั้นต้นพวกเขามีส่วนร่วมในเรื่อง "Round Dance" โดยนักเขียนชื่อดัง Isaac Asimov

ในทางกลับกัน กฎหมายเหล่านี้อ่านว่า:

• หุ่นยนต์จะไม่มีวันทำร้ายมนุษย์ได้ แต่มีอีกรูปแบบหนึ่งคือ หุ่นยนต์ไม่สามารถนำสิ่งเลวร้ายมาสู่คนได้ในขณะที่ไม่ทำอะไรเลย
• หุ่นยนต์ไม่สามารถทำตามคำสั่งของบุคคลได้ แต่ที่นี่ก็มีข้อยกเว้นเช่นกัน: หากคำสั่งนั้นขัดต่อกฎข้อที่หนึ่ง ก็ไม่สามารถดำเนินการได้
• นอกจากนี้ หุ่นยนต์ไม่สามารถดูแลความปลอดภัยของตัวเองได้เท่าที่จะไม่ขัดต่อกฎหมายประเภทที่หนึ่งและสอง

กฎสามข้อนี้ซึ่งมีทั้งสาเหตุและผลที่ตามมาของการไม่ปฏิบัติตาม ได้รับการอุทิศและตีพิมพ์เรื่องราวทั้งหมดโดยผู้เขียน Asimov และพวกเขาทั้งหมดพูดถึงหุ่นยนต์

นอกจากนี้ยังมีเรื่องราวอื่น ๆ ที่เกี่ยวข้องกับขั้นตอนที่ไม่สามารถคาดการณ์ผลของการดำเนินการตามกฎทั้งสามโดยหุ่นยนต์ได้ ตัวอย่างเช่น เรื่องราวดังกล่าวถือได้ว่าเป็น "การสะท้อนของกระจก"

ในเรื่องหนึ่งของเขา ผู้เขียนได้ยุติพื้นฐานซึ่งเป็นกรอบทางจริยธรรมของกฎหมายสามข้อ ตามที่เขาพูด หุ่นยนต์ที่ปฏิบัติตามกฎสามข้อทั้งหมด เช่นนั้น หุ่นยนต์ หรือคนดี ท้ายที่สุดแล้วคุณธรรมนั้นมอบให้กับบุคคลเพื่อที่เขาจะได้ปฏิบัติตาม ในระดับหนึ่งบุคคลที่ปฏิบัติตามเงื่อนไขกฎหมายจำนวนมากก็เป็นหุ่นยนต์เช่นกัน แล้วทำไม "สิ่งมีชีวิต" เหล็กนี้ถึงอ้างชื่อ "มนุษย์" ไม่ได้!

กฎศูนย์สำหรับหุ่นยนต์

ย้อนกลับไปในปี 1985 ในนิยายเรื่องหุ่นยนต์เรื่องหนึ่งของเขา ผู้เขียนกล้าพูดถึง กฎหมายศูนย์โดยมีสาระสำคัญดังนี้: หุ่นยนต์จะไม่ก่อให้เกิดอันตรายต่อบุคคลใด ๆ และด้วยการกระทำของเขาเองเขาจะไม่ยอมให้ทำร้าย

โดยหลักการแล้ว ควรสังเกตว่าในกฎหมายทั้งหมดที่กล่าวถึงมีส่วนของสิ่งที่ควรคำนึงถึง โลกไม่ได้หยุดนิ่ง และไม่มีใครรู้ว่าคนฉลาดๆ เช่นนี้คาดหวังอะไรได้อีก วันนี้เป็นของคนรุ่นใหม่ซึ่งมีความคิดหลายร้อยประเภทอยู่ในหัว

อาจกล่าวได้ว่ากฎของวิทยาการหุ่นยนต์ทั้งสามนั้นยังเป็นหัวข้อของความคิดอันยอดเยี่ยมของอาซิมอฟอีกด้วย ซึ่งรวมถึงวงจรซึ่งเกี่ยวข้องอย่างใกล้ชิดกับหัวข้อทั้งหมดที่เกี่ยวกับหุ่นยนต์

คุณธรรมของกฎสามข้อคืออะไร

เป็นไปไม่ได้ที่จะผ่านไปโดยไม่กล่าวถึงเหตุผลของแผนจริยธรรม ในเรื่องหนึ่งที่เรียกว่า "หลักฐาน" ผู้เขียนได้แยกแยะเหตุผลด้านศีลธรรมของกฎสามข้อเป็นอย่างดี ตามกฎแล้วบุคคลไม่ต้องการทำร้ายบุคคลอื่น แต่เพียงพยายามละเว้นจากการกระทำเหล่านี้ แต่มีข้อยกเว้นเช่นเดียวกับกฎใด ๆ ในสงคราม เหตุผลนี้ใช้ไม่ได้ผล

รู้สึกรับผิดชอบต่อสังคม บุคคลปฏิบัติตามคำแนะนำของคนเหล่านั้นที่เป็นตัวแทนของแพทย์ ครู ฯลฯ การสำแดงของกฎข้อที่สองมาถึงแล้ว

ความจริงที่ว่าบุคคลหนึ่งกังวลและปกป้องตัวเองดูดซับกฎข้อที่สาม ดังนั้น กฎหมายเหล่านี้ทั้งหมดมีความเชื่อมโยงถึงกันอย่างมาก และไม่สามารถดำรงอยู่ได้โดยปราศจากกันและกัน อาจเป็นไปได้ว่ากฎข้อที่หนึ่งจะทำงาน และจากนั้นก็สามารถเคลื่อนเข้าสู่กฎข้อที่สองได้อย่างราบรื่น จากนั้นเข้าสู่กฎข้อที่สาม ที่นี่คุณธรรมและองค์ประกอบของนิยายไปควบคู่กัน

เกี่ยวกับอนาคต ปัญหาเดียวที่อาจเป็นไปได้คือระดับของจินตนาการ ซึ่งในขณะใดก็สามารถกลายเป็นความจริงได้ ยิ่งเทคโนโลยีพัฒนาขึ้นมากเท่าไร ผู้คนก็จะยิ่งมีปัญหาน้อยลงเท่านั้นในอนาคต

กฎสามข้อของวิทยาการหุ่นยนต์

ไอแซก อาซิมอฟ, 1965

กฎสามข้อของวิทยาการหุ่นยนต์ในนิยายวิทยาศาสตร์ - กฎบังคับสำหรับพฤติกรรมของหุ่นยนต์ คิดค้นโดย Isaac Asimov ในเรื่อง "Round Dance" ()

กฎหมายกล่าวว่า:

สามกฎหมายเช่นเดียวกับสาเหตุและผลที่เป็นไปได้ของการละเมิดนั้นอุทิศให้กับวัฏจักรเรื่องราวของหุ่นยนต์ของอาซิมอฟ ตรงกันข้าม บางคนกลับนึกถึงผลที่คาดไม่ถึง การปฏิบัติตามหุ่นยนต์ สามกฎหมาย(เช่น "กระจกสะท้อน")

ในเรื่องราวหนึ่งในวัฏจักร ตัวละครของอาซิมอฟได้ข้อสรุปเกี่ยวกับพื้นฐานทางจริยธรรม สามกฎหมาย: "... ถ้าคุณคิดให้รอบคอบ กฎสามข้อของวิทยาการหุ่นยนต์นั้นตรงกับหลักการพื้นฐานของระบบจริยธรรมส่วนใหญ่ที่มีอยู่บนโลก ... พูดง่ายๆ ก็คือ ถ้า Byerly ปฏิบัติตามกฎของวิทยาการหุ่นยนต์ทั้งหมด เขาก็เป็นหุ่นยนต์หรือหุ่นยนต์ คนดีมาก"

อาซิมอฟชอบเรื่องนี้มาก เมื่อวันที่ 7 พฤษภาคม พ.ศ. 2482 เขาได้ไปเยี่ยมสมาคมนิยายวิทยาศาสตร์แห่งควีนส์ ซึ่งเขาได้พบกับ Binder สามวันต่อมา อาซิมอฟเริ่มเขียนเรื่องราวของเขาเองเกี่ยวกับ "หุ่นยนต์ผู้สูงศักดิ์" หลังจาก 13 วัน เขาได้มอบต้นฉบับให้จอห์น แคมป์เบลล์ เพื่อนของเขา หัวหน้าบรรณาธิการของนิตยสาร Astounding อย่างไรก็ตาม เขาส่งคืนต้นฉบับนั้น โดยระบุว่าเรื่องนี้คล้ายกับเฮเลน โอลอยเกินไป

โชคดีที่การปฏิเสธของ Campbell ไม่ได้ส่งผลกระทบต่อความสัมพันธ์ของพวกเขากับ Asimov พวกเขายังคงพบกันเป็นประจำและพูดคุยเกี่ยวกับสิ่งใหม่ ๆ ในโลกแห่งนิยายวิทยาศาสตร์ และในวันที่ 23 ธันวาคม พ.ศ. 2483 กล่าวถึงเรื่องอื่นเกี่ยวกับหุ่นยนต์:

...แคมป์เบลล์ได้คิดค้นสิ่งที่ต่อมากลายเป็นที่รู้จักในนาม กฎสามข้อของวิทยาการหุ่นยนต์. แคมป์เบลกล่าวในภายหลังว่าเขาเพียงแยกออก กฎหมายจากสิ่งที่อาซิมอฟเขียนไว้แล้ว อาซิมอฟเองมักจะยกให้เกียรติของการประพันธ์ สามกฎหมายแคมป์เบล...

ไม่กี่ปีต่อมา เพื่อนอีกคนของอาซิมอฟ - แรนดัล การ์เร็ตต์ - เป็นผู้ประพันธ์ กฎหมาย"หุ้นส่วนทางชีวภาพ" ของคนสองคน อาซิมอฟยอมรับสูตรนี้อย่างกระตือรือร้น

โดยทั่วไปลักษณะที่ปรากฏ สามกฎหมายในงานของอาซิมอฟเกิดขึ้นทีละน้อย: สองเรื่องแรกเกี่ยวกับหุ่นยนต์ ("ร็อบบี้" และ "ลอจิก") ไม่มีการกล่าวถึงอย่างชัดเจน อย่างไรก็ตาม พวกเขาบอกเป็นนัยแล้วว่าหุ่นยนต์มีข้อ จำกัด บางอย่างโดยธรรมชาติ ในเรื่องต่อไป ("Liar", 1941) ฟังครั้งแรก กฎหมายฉบับที่หนึ่ง. และสุดท้ายทั้งสาม กฎจะได้รับใน "การเต้นรำแบบกลม" ()

เมื่อเรื่องราวที่เหลือถูกเขียนขึ้นและแนวคิดในการเผยแพร่คอลเลกชัน "I, Robot" เกิดขึ้น สองเรื่องแรก "เสริม" กฎหมาย. แม้ว่าจะเป็นที่น่าสังเกตว่าใน "Robbie" กฎหมายค่อนข้างแตกต่างจากเวอร์ชัน "คลาสสิก" ที่กำหนดไว้ในเรื่องราวที่เหลือ โดยเฉพาะอย่างยิ่ง แนวคิดเรื่องหุ่นยนต์ปกป้องผู้คนที่เขาไม่แน่ใจว่ามีอยู่จริงนั้นสะท้อนความคิดของเอลียาห์ เบลีย์เกี่ยวกับความไม่สมบูรณ์ กฎหมายอธิบายไว้

การให้เหตุผลทางจริยธรรมของกฎหมาย

1. รัฐต้องไม่ทำร้ายผู้คนหรือปล่อยให้พวกเขาได้รับอันตรายจากการไม่ดำเนินการ
2. รัฐต้องทำหน้าที่ของตน ถ้าไม่ขัดแย้ง กฎหมายฉบับที่หนึ่ง.
3. รัฐต้องดูแลความปลอดภัย ถ้าไม่ขัดแย้ง อันดับแรกและ กฎหมายที่สอง.

ซึ่งเป็นรากฐาน กฎหมายฉบับที่หนึ่ง Jeff Raskin ได้กำหนดกฎของอินเทอร์เฟซที่มุ่งเน้นมนุษย์:

1. คอมพิวเตอร์ไม่สามารถทำอันตรายข้อมูลของผู้ใช้ หรือปล่อยให้ข้อมูลเสียหายได้
2. คอมพิวเตอร์ไม่ควรเสียเวลาหรือบังคับให้คุณทำสิ่งต่าง ๆ เกินความจำเป็น

Gaia ดาวเคราะห์แห่งรังผึ้งในนวนิยายชุด Foundation มีบางอย่างที่คล้ายคลึงกัน กฎหมายฉบับที่หนึ่ง:

รูปแบบของอาซิมอฟ

ในงานของเขา Isaac Asimov บางครั้งนำมาสู่ สามกฎหมายการดัดแปลงต่างๆและหักล้างพวกเขาราวกับว่ากำลังทดสอบ กฎหมาย"ความแข็งแกร่ง" ในสถานการณ์ต่างๆ

กฎหมายศูนย์

Isaac Asimov เคยเพิ่ม กฎหมายศูนย์ทำให้มีลำดับความสำคัญสูงกว่าสามอันดับแรก กฎหมายฉบับนี้ระบุว่าหุ่นยนต์ต้องทำหน้าที่เพื่อประโยชน์ของมวลมนุษยชาติ ไม่ใช่เฉพาะบุคคล นี่คือวิธีที่หุ่นยนต์ Daniel Olivo แสดงออกใน Ground และ Earth:

0. หุ่นยนต์ไม่สามารถทำอันตรายต่อมนุษยชาติได้

เขาเป็นคนแรกที่ให้ตัวเลขกฎหมายนี้ - เรื่องนี้เกิดขึ้นในนวนิยายเรื่อง "Robots and Empire" อย่างไรก็ตามแนวคิดนี้ได้รับการกำหนดขึ้นก่อนหน้านี้โดย Susan Calvin - ในเรื่องสั้น "Resolvable Contradiction"

หุ่นยนต์ตัวแรกที่เชื่อฟัง กฎหมายศูนย์ยิ่งไปกว่านั้นด้วยเจตจำนงเสรีของเขาเองคือ Giscard Riventlov สิ่งนี้อธิบายไว้ในฉากสุดท้ายของนวนิยายเรื่อง "Robots and the Empire" เมื่อหุ่นยนต์ต้องเพิกเฉยต่อคำสั่งของบุคคลเพียงคนเดียวเพื่อประโยชน์ของความก้าวหน้าของมวลมนุษยชาติ กฎหมายศูนย์ไม่ได้ฝังอยู่ในสมองโพซิโทรนิกของ Giscard - เขาพยายามเข้าถึงเขาผ่าน ความเข้าใจอันบริสุทธิ์ผ่านการรับรู้แนวคิดที่ละเอียดอ่อนกว่าหุ่นยนต์อื่น ๆ ทั้งหมด อันตราย. อย่างไรก็ตาม Giscard ไม่แน่ใจว่ามันมีประโยชน์ต่อมนุษยชาติเพียงใด ซึ่งส่งผลเสียต่อสมองของเขา ในฐานะที่เป็น telepath Giscard ได้โอนความสามารถในการส่งกระแสจิตของเขาไปยัง Daniel ก่อนดำเนินการ จนกระทั่งหลายพันปีต่อมา แดเนียล โอลิโวก็สามารถปรับตัวให้เข้ากับการยอมจำนนได้อย่างเต็มที่ กฎหมายศูนย์.

นักแปลภาษาฝรั่งเศส Jacques Brecard คิดค้นสูตรโดยไม่ได้ตั้งใจ กฎหมายศูนย์ก่อนที่อาซิมอฟจะอธิบายไว้อย่างชัดเจน ใกล้ถึงจุดสิ้นสุดของ Caverns of Steel, Elijah Bailey ตั้งข้อสังเกตว่า กฎหมายฉบับที่หนึ่งห้ามหุ่นยนต์ทำอันตรายบุคคล เว้นแต่จะแน่ใจว่าสิ่งนี้จะเป็นประโยชน์กับเขาในอนาคต ในการแปลภาษาฝรั่งเศส ("Les Cavernes d'acier ( )", 1956) ความคิดของ Bailey ค่อนข้างแตกต่าง:

เป็นที่น่าสังเกตว่าการพัฒนาตรรกะ กฎหมายฉบับที่หนึ่งก่อน ศูนย์แนะนำโดยผู้สร้างภาพยนตร์เรื่อง I, Robot ในปี 2004 เมื่อซูเปอร์คอมพิวเตอร์ V.I.K.I. ตัดสินใจจำกัดเสรีภาพของชาวโลกเพื่อไม่ให้เกิดอันตรายต่อกันและอนาคตของพวกเขาโดยไม่ได้ตั้งใจ กฎหมายฉบับที่หนึ่ง, กล่าวคือ โมฆะ. ที่น่าสนใจยิ่งกว่าคือด้วยวิธีนี้ ภาพยนตร์แสดงให้เห็นถึงความขัดแย้ง กฎหมายศูนย์ อันดับแรก, มันผิดจรรยาบรรณ แท้จริงแล้ว เมื่อพูดถึงสวัสดิการของมนุษยชาติ ระบบไม่สามารถแยกคนออกจากกันได้ ซึ่งหมายความว่าไม่มีสิ่งใดมาขัดขวางไม่ให้ละเมิดสิทธิและเสรีภาพของใครหรือแม้แต่ ทุกคนบุคคล. ในช่วงสงครามและบ่อยครั้งในชีวิตที่สงบสุข ผู้คนทำร้ายตัวเอง คนรอบข้าง และวัฒนธรรมของพวกเขา ดังนั้นบนพื้นฐาน กฎหมายศูนย์เป็นการสมควรอย่างยิ่งที่จะให้ผู้คนอยู่ภายใต้การดูแลอย่างต่อเนื่อง ไม่ปฏิบัติตามคำสั่งของสิ่งมีชีวิตที่ไร้เหตุผลดังกล่าว

การแก้ไขกฎหมายฉบับที่ 1

บันทึกอัตชีวประวัติของ Asimov บอกว่าส่วนที่สอง กฎหมายฉบับที่หนึ่งปรากฏเพราะบทกวีเหน็บแนม "The Last Decalogue" ของ Arthur Hugh Clow ซึ่งมีบรรทัดดังกล่าว: "อย่าฆ่า แต่อย่าพยายามมากเกินไปที่จะช่วยชีวิตผู้อื่น"

ในเรื่อง "...เหมือนจำเขาได้" อาซิมอฟทำการวิจัยที่ซับซ้อนที่สุด สามกฎหมายพลิกกลับในลักษณะที่ "สถานการณ์แฟรงเกนสไตน์" เป็นไปได้ หุ่นยนต์สองตัวจากซีรีส์ Georgie บรรลุข้อตกลงว่าแหล่งกำเนิดอินทรีย์ไม่ใช่เงื่อนไขที่จำเป็นในการถูกมองว่าเป็นมนุษย์ และคนที่แท้จริงคือพวกเขาในฐานะสิ่งมีชีวิตที่สมบูรณ์แบบและชาญฉลาดที่สุด คนที่เหลือก็เป็นคนเช่นกัน แต่มีลำดับความสำคัญต่ำกว่า แล้วถ้าเป็นอย่างนั้น สามกฎหมายควรจะนำไปใช้กับพวกเขาก่อน การเล่าเรื่องจบลงด้วยคำพูดลางร้ายที่หุ่นยนต์ได้ "รออย่างอดทนอย่างไม่สิ้นสุด" สำหรับวันที่พวกเขาจะยืนยันความเป็นอันดับหนึ่งในหมู่มนุษย์ - และนี่จะเป็นผลลัพธ์ที่หลีกเลี่ยงไม่ได้ของ "กฎสามประการของมนุษยนิยม"

อันที่จริง เรื่องนี้ไม่เหมาะกับซีรีส์หุ่นยนต์หลัก: ถ้า "จอร์จ" ทำตามแผนหลังจากจบเรื่องแล้ว เรื่องอื่นๆ เกี่ยวกับเหตุการณ์ต่อๆ ไปก็คงเป็นไปไม่ได้ ความขัดแย้งในลักษณะนี้ในงานของ Asimov ที่ทำให้นักวิจารณ์มีเหตุผลที่จะต้องพิจารณาว่าเป็น "เทพนิยายสแกนดิเนเวียหรือตำนานกรีก" มากกว่า "จักรวาล" ที่น่าอัศจรรย์เพียงเรื่องเดียว

ถ้าในกรณีก่อนหน้านี้หุ่นยนต์ เข้ามาแทนที่มนุษย์ในธรรมชาติจากนั้นใน The Bicentennial Man Asimov อธิบายถึงชะตากรรมที่ตรงกันข้าม: หุ่นยนต์ที่เป็นอิสระจาก สามกฎหมายและตระหนักว่าตนเองเป็นคน เข้าร่วมชุมชนมนุษย์. อีกครั้งในเวอร์ชันขยาย โนเวลลา "Positronic Man" ที่เขียนโดย Asimov ร่วมกับ Robert Silverberg เนื่องจากประเด็นด้านจริยธรรมดังกล่าว ผู้คนจึงละทิ้งแนวคิดในการสร้างหุ่นยนต์คิดโดยสิ้นเชิง เหตุการณ์ที่เกิดขึ้นนี้ขัดกับภาพแห่งอนาคตอย่างสิ้นเชิงตามที่อธิบายไว้ในโลกแห่ง "มูลนิธิ"

ปัญหาการสมัคร

การแก้ปัญหาความขัดแย้ง

โมเดลหุ่นยนต์ที่ทันสมัยที่สุดมักจะตามมา กฎหมายตามอัลกอริธึมที่ค่อนข้างฉลาดแกมโกงซึ่งหลีกเลี่ยงปัญหาบางอย่าง ในหลายเรื่อง เช่น ใน "ระบำรอบ" ในสมองโพซิทรอนิกส์ ศักยภาพการกระทำและผลลัพธ์ที่เป็นไปได้และหุ่นยนต์สามารถละเมิดได้ กฎหมายโดยเร็วที่สุด แทนที่จะไม่ทำอะไรเลย ตัวอย่างเช่น, กฎหมายฉบับที่หนึ่งไม่อนุญาตให้หุ่นยนต์ทำการผ่าตัด เนื่องจากสิ่งนี้ต้องการ "อันตราย" ต่อบุคคล อย่างไรก็ตาม หุ่นยนต์ศัลยแพทย์สามารถพบได้ในเรื่องราวของอาซิมอฟ (Bicentennial Man เป็นตัวอย่างที่สำคัญของเรื่องนี้) ความจริงก็คือว่าหุ่นยนต์ถ้าสมบูรณ์เพียงพอสามารถชั่งน้ำหนักทางเลือกทั้งหมดและเข้าใจว่า เขาเองจะทำให้เกิดอันตรายน้อยกว่าการผ่าตัดโดยศัลยแพทย์มนุษย์ หรือจะไม่เกิดขึ้นเลย ในหลักฐาน Susan Calvin ยังกล่าวอีกว่าหุ่นยนต์สามารถทำหน้าที่เป็นอัยการได้ เนื่องจากโดยส่วนตัวแล้วเขาไม่ได้ทำอันตรายใครเลย นอกจากเขาแล้ว ยังมีคณะลูกขุนที่ตัดสินความผิด ผู้พิพากษาที่ผ่านโทษ และเพชฌฆาตที่ดำเนินการ .

หุ่นยนต์ที่เชื่อฟัง กฎหมายอาจประสบกับ "roblox" หรือ "การหยุดจิต" - สถานะ กลับไม่ได้ความเสียหายต่อสมองโพซิโทรนิก - ในกรณีที่ไม่เชื่อฟัง กฎหมายฉบับที่หนึ่งหรือพบว่าพวกเขาบังเอิญละเมิดมัน สิ่งนี้เป็นไปได้ ตัวอย่างเช่น หากหุ่นยนต์สังเกตฉากการฆาตกรรมของบุคคล แต่อยู่ไกลเกินกว่าที่จะช่วยเขาได้ ตัวอย่างแรกของ "การหยุดนิ่ง" เกิดขึ้นใน "The Liar"; รัฐนี้ยังมีบทบาทสำคัญในเนื้อเรื่องของนวนิยายเรื่อง "The Naked Sun" และ "Robots of the Morning Dawn" โมเดลหุ่นยนต์ที่ไม่สมบูรณ์อาจถูกบล็อกหากได้รับมอบหมายให้ปฏิบัติตามคำสั่งที่ขัดแย้งกันสองคำสั่ง "การหยุดนิ่ง" อาจเป็นแบบถาวรหรือชั่วคราว

คำจำกัดความของอันตรายอื่นในกฎหมายฉบับที่หนึ่ง

กฎหมายไม่ได้กำหนดขอบเขตของสิ่งที่เรียกว่า อันตรายสำหรับบุคคล - มักขึ้นอยู่กับความสามารถของหุ่นยนต์ในการรับรู้ข้อมูลและคิดในเชิงปรัชญา ตัวอย่างเช่น หุ่นยนต์ตำรวจจะเข้าใจหรือไม่ว่าจะไม่ทำอันตรายต่อบุคคล ถ้ามันค่อยๆ คุ้มกันอาชญากรที่อันตรายโดยเฉพาะไปยังสถานี?

ในเรื่อง The Liar หุ่นยนต์กระแสจิต เฮอร์บี้ ต้องเข้าใจ อันตรายและบางสิ่งที่อาจทำให้ผู้คนผิดหวังหรือไม่พอใจในทางใดทางหนึ่ง เขารู้ว่าผู้คนต้องพบกับความเจ็บปวดทางจิตใจ สิ่งนี้ทำให้เขาต้องบอกผู้คนอย่างต่อเนื่องถึงสิ่งที่พวกเขาต้องการได้ยินแทนที่จะเป็นความจริง มิฉะนั้น ในความเข้าใจของเขา เขาจะละเมิด กฎหมายฉบับที่หนึ่ง.

ช่องโหว่ในกฎหมาย

ใน The Naked Sun, Elijah Bailey ตั้งข้อสังเกตว่า กฎหมายถูกคิดค้นโดยคนผิดเพราะหุ่นยนต์สามารถทำลายได้ ด้วยความไม่รู้. เขาแนะนำสูตรที่ "ถูกต้อง" ต่อไปนี้ กฎหมายฉบับที่หนึ่ง: "หุ่นยนต์ไม่สามารถทำอะไรที่ เท่าที่เขารู้ก่อให้เกิดอันตรายแก่มนุษย์หรือ อย่างจงใจให้มนุษย์ได้รับอันตราย"

การเพิ่มนี้ทำให้ชัดเจนว่าหุ่นยนต์สามารถกลายเป็นอาวุธสังหารได้หากไม่ได้ตระหนักถึงธรรมชาติของการกระทำของมัน ตัวอย่างเช่น เขาอาจได้รับคำสั่งให้เติมบางอย่างลงในอาหารของใครบางคน และเขาจะไม่รู้ว่ามันเป็นพิษ ยิ่งไปกว่านั้น Bailey ยังกล่าวอีกว่าผู้กระทำความผิดสามารถมอบหมายงานนี้ให้กับหุ่นยนต์หลายตัว เพื่อไม่ให้มีหุ่นยนต์ตัวใดตัวหนึ่งเข้าใจแนวคิดทั้งหมด

Bailey อ้างว่าสักวันหนึ่ง Solarians จะสามารถใช้หุ่นยนต์ได้แม้กระทั่งเพื่อวัตถุประสงค์ทางการทหาร หากยานอวกาศถูกสร้างขึ้นด้วยสมองหุ่นยนต์และไม่มีลูกเรือหรือระบบช่วยชีวิต สติปัญญาของเรือลำนี้อาจเข้าใจผิดว่า ทั้งหมดยานอวกาศไม่มีคน เรือลำดังกล่าวจะคล่องตัว เร็วกว่า และอาจติดอาวุธได้ดีกว่าลำที่มนุษย์ขับเคลื่อน แต่ที่สำคัญที่สุด เขาจะสามารถทำลายผู้คนได้โดยไม่รู้ตัว ความเป็นไปได้นี้มีอธิบายไว้ใน "มูลนิธิและโลก" ซึ่งเปิดเผยด้วยว่าชาวโซลาเรียนมีกองทัพหุ่นยนต์ที่ทรงพลังอย่างยิ่ง ผู้ซึ่งเข้าใจเฉพาะชาวโซลาเรียว่าเป็น "มนุษย์" เท่านั้น

การใช้กฎหมายอื่นในนิยาย

ไอแซก อาซิมอฟเชื่อว่าเขา กฎหมายจะทำหน้าที่เป็นพื้นฐานสำหรับรูปลักษณ์ใหม่ของหุ่นยนต์ ทำลาย "แฟรงเกนสไตน์ที่ซับซ้อน" ในนิยายวิทยาศาสตร์และจิตสำนึกของมวลชน กลายเป็นแหล่งที่มาของความคิดสำหรับเรื่องราวใหม่ ๆ ที่หุ่นยนต์จะแสดงว่าหลากหลายและน่าสนใจ ตัวอย่างที่เขาชื่นชอบในงานดังกล่าวคือ Star Wars ด้วยความเห็นของอาซิมอฟที่ว่าหุ่นยนต์เป็นมากกว่า "เครื่องปิ้งขนมปัง" หรือ "สัตว์ประหลาดที่มีกลไก" นักเขียนนิยายวิทยาศาสตร์คนอื่นๆ ก็เห็นด้วยในที่สุด หุ่นยนต์ปรากฏในผลงานของพวกเขาเชื่อฟัง สามกฎหมายแต่ตามธรรมเนียมแล้ว มีเพียงอาซิมอฟเท่านั้นที่กล่าวถึงพวกเขาอย่างชัดเจน

ในงานที่พูดถึง .โดยตรง สามกฎหมายมักจะกล่าวถึงผู้เขียนของพวกเขาด้วย มีข้อยกเว้น: ตัวอย่างเช่น ในละครโทรทัศน์ของเยอรมันในทศวรรษ 1960 "Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion" ("Space Patrol - การผจญภัยอันมหัศจรรย์ของยานอวกาศ Orion") ในตอนที่สาม "Hüter des Gesetzes" ("กฎหมายผู้รับใช้") ของอาซิมอฟ กฎหมายถ่ายโดยไม่อ้างแหล่งที่มา

ตรงกันข้ามกับการวิจารณ์และข้อเสนอแนะบางส่วนจากผู้ชมที่ฉันได้ยินว่า "I, Robot" เป็นหนังแอคชั่นแฟนตาซีที่ค่อนข้างตลก … เมื่อเรา … ต้องการเพลิดเพลินกับ Asimov เราอ่าน Asimov และเมื่อเราต้องการชมภาพยนตร์แอ็กชันที่ยอดเยี่ยม เราก็ได้ดูหนังแอ็กชันที่น่าอัศจรรย์ "I, Robot" เป็นหนังแอคชั่นที่ทำให้เราพอใจได้ค่อนข้างดี

การตรวจสอบของ Alexey Sadetsky ดึงความสนใจไปที่ความจริงที่ว่าภาพยนตร์เรื่องนี้อยู่ห่างจากอาซิมอฟเพียงเล็กน้อยทำให้เกิดปัญหาทางสังคมและปรัชญาใหม่สองประการ ควรสังเกตว่าภาพยนตร์เรื่องนี้ตั้งคำถามในภายหลัง กฎศูนย์ของวิทยาการหุ่นยนต์อาซิมอฟ (ดูด้านบน)

การพัฒนา AI เป็นเรื่องของธุรกิจ และธุรกิจก็ไม่สนใจที่จะพัฒนามาตรการรักษาความปลอดภัยขั้นพื้นฐาน โดยเฉพาะอย่างยิ่งในด้านปรัชญา นี่คือตัวอย่างบางส่วน: อุตสาหกรรมยาสูบ อุตสาหกรรมยานยนต์ อุตสาหกรรมนิวเคลียร์ เบื้องต้นไม่มีใครรู้ว่ามาตรการรักษาความปลอดภัยที่เข้มงวดนั้นมีความจำเป็น และทุกมาตรการก็ป้องกันข้อจำกัดที่บังคับใช้จากภายนอก และไม่มีใครผ่านกฤษฎีกาเด็ดขาดในการทำร้ายผู้คน

เป็นที่น่าสังเกตว่าเรียงความของ Sawyer มองข้ามปัญหาการทำร้ายโดยไม่ได้ตั้งใจดังที่อธิบายไว้ใน The Naked Sun อย่างไรก็ตาม มีการคัดค้านตำแหน่งดังกล่าว: บางที กองทัพอาจต้องการใช้มาตรการป้องกันสำหรับหุ่นยนต์ให้มากที่สุดเท่าที่จะเป็นไปได้ ดังนั้นจึงมีข้อจำกัดที่คล้ายคลึงกัน กฎหมายหุ่นยนต์ไม่ทางใดก็ทางหนึ่งจะถูกนำไปใช้ นักวิจารณ์และนักวิจารณ์ David Langford ตั้งข้อสังเกตแดกดันว่าข้อจำกัดเหล่านี้อาจเป็นดังนี้:

โรเจอร์ คลาร์กเขียนบทความสองฉบับเกี่ยวกับการวิเคราะห์ความยุ่งยากในการบังคับใช้กฎหมาย หากวันหนึ่งสามารถนำไปประยุกต์ใช้ในเทคโนโลยีได้ เขากำลังเขียน:

กฎหุ่นยนต์ของอาซิมอฟกลายเป็นเครื่องมือทางวรรณกรรมที่ประสบความสำเร็จ อาจเป็นเรื่องน่าขันหรือบางทีอาจเป็นเรื่องสำคัญ แต่เรื่องราวทั้งหมดของอาซิมอฟได้หักล้างประเด็นที่เขาเริ่มต้น: เป็นไปไม่ได้ที่จะจำกัดพฤติกรรมของหุ่นยนต์โดยการประดิษฐ์และใช้กฎเกณฑ์บางชุด

ในทางกลับกัน นวนิยายของอาซิมอฟในภายหลัง (Robots of Dawn, Robots and Empire, Foundation and Earth) แสดงให้เห็นว่าหุ่นยนต์ทำอันตรายในระยะยาวมากยิ่งขึ้น การปฏิบัติตามกฎหมายและทำให้ผู้คนขาดอิสระในการมีส่วนร่วมในกิจกรรมที่สร้างสรรค์หรือเสี่ยงภัย

Fantast Hans Moravec - บุคคลสำคัญในขบวนการ transhumanist - ได้แนะนำว่า กฎหมายหุ่นยนต์ควรใช้ในระบบอัจฉริยะขององค์กร - บริษัท ที่ควบคุมโดย AI และใช้กำลังผลิตของหุ่นยนต์ ระบบดังกล่าวในความเห็นของเขาจะเกิดขึ้นในไม่ช้า

Eliezer Yudkowsky กำลังค้นคว้าที่ (SIAI) ในสหรัฐอเมริกาเกี่ยวกับปัญหาความเสี่ยงทั่วโลกที่ AI เหนือมนุษย์ในอนาคตอาจเกิดขึ้นได้หากไม่ได้ตั้งโปรแกรมให้เป็นมิตรกับมนุษย์ ในปี 2547 SIAI ได้เปิดตัว AsimovLaws.com ซึ่งเป็นเว็บไซต์ที่ออกแบบมาเพื่อหารือเกี่ยวกับจริยธรรมของ AI ในบริบทของปัญหาใน I, Robot ซึ่งเปิดตัวเพียงสองวันต่อมา ในเว็บไซต์นี้ พวกเขาต้องการแสดงให้เห็นว่ากฎหุ่นยนต์ของอาซิมอฟนั้นไม่ปลอดภัย ตัวอย่างเช่น พวกเขาสามารถส่งเสริมให้ AI เข้ายึดครองโลกเพื่อ "ปกป้อง" ผู้คนจากอันตราย

หมายเหตุ

1. อาซิมอฟ, ไอแซค.หลักฐาน // ความฝันของหุ่นยนต์ - M.: Eksmo, 2004. - S. 142-169. - ISBN 5-699-00842-X
2. อาซิมอฟ, ไอแซค.เรียงความ #6. กฎหมายหุ่นยนต์ // ความฝันของหุ่นยนต์. - M.: Eksmo, 2004. - S. 781-784. - ISBN 5-699-00842-X
3. พุธ กับตำนานของกาลาเทีย
4. ที่น่าสนใจในภาคต่อของผู้เขียนเรื่องหนึ่งเรื่อง "Revenge of Adam Link" (

ในความคิดของฉัน แนวความคิดเรื่องความดีและความชั่วกลับมีความเกี่ยวข้องอย่างใกล้ชิดกับแนวคิดเรื่องความหมายของชีวิต เป็นไปไม่ได้ที่จะบอกว่าการกระทำบางอย่างของมนุษย์ทำเพื่อความดีหรือความชั่ว ตราบใดที่ยังไม่รู้ว่าเป้าหมายของพฤติกรรมมนุษย์โดยทั่วไปควรเป็นอย่างไร

อย่างไรก็ตาม ภายใต้กรอบของวิทยาการหุ่นยนต์ของอาซิมอฟ สิ่งนี้สามารถแก้ไขได้จนถึงจุดที่หยาบคาย
นวนิยายเรื่องหนึ่งของเขาอธิบายว่าหุ่นยนต์ฮิวแมนนอยด์ถูกสร้างขึ้นอย่างไรในวงจรของความปรารถนาในความยุติธรรม นิยามความยุติธรรมว่าเป็นเพียงการปฏิบัติตามกฎหมายของรัฐ “แล้วถ้ากฎหมายไม่ยุติธรรมล่ะ” - "กฎหมายที่ไม่ยุติธรรม" หุ่นยนต์ตอบ "นี่เป็นความขัดแย้งทางคำศัพท์"

หากคุณประพฤติตัวหยาบคาย คุณสามารถกำหนดแนวคิดเรื่องอันตรายได้อย่างง่ายดาย แต่หุ่นยนต์ดังกล่าวจะมีประโยชน์เพียงเล็กน้อย ...

ตอบกลับ

ดังที่ผู้ชมที่โดดเด่นต่างทราบ การพัฒนาเทคโนโลยีล่าสุด และยิ่งไปกว่านั้นในด้านวิทยาการหุ่นยนต์ ได้รับการออกแบบมาเพื่อตอบสนองความต้องการของอุตสาหกรรมการป้องกันประเทศเป็นครั้งแรก และต่อจากนี้ไปในส่วนที่เหลือของมนุษยชาติเท่านั้น ฉันคิดว่ามันชัดเจนว่าในเงื่อนไขดังกล่าว กฎข้อที่หนึ่งจะมีการเปลี่ยนแปลงอย่างมาก และไม่อยู่ในทิศทางของความสงบสากล

ตอบกลับ

• จำคำพูดของนักเขียนชื่อดัง Kurt Vonnegut: "ไม่ว่านักวิทยาศาสตร์จะทำอะไร เขาก็ลงเอยด้วยอาวุธ"
  อาจมีหลักฐานที่คล้ายกันซึ่งควบคุมจิตวิทยาของมนุษย์ (และไม่เพียง แต่ในหมู่นักวิทยาศาสตร์) โลกไม่มีอนาคต ... เช่นเดียวกับผู้ที่อาศัยอยู่ก่อนเราไม่มี โดยทั่วไป ความปรารถนาในการทำลายและการทำลายตนเองของเราเป็นรูปแบบธรรมชาติ ... ทุกอย่างมีแนวโน้มที่จะสมดุล (เป็นเอนโทรปีเชิงบวก) มีเพียงร่างกายและสาระสำคัญในธรรมชาติเท่านั้นที่ทำเช่นนี้ในแบบของตัวเอง “ดาวฤกษ์นั้นมีอายุและระเบิด ในขณะที่บุคคลที่มีความรู้ถึงขีด จำกัด ก็ถูกเผาไหม้ที่ 10,000 องศาเซลเซียสต่อวินาทีในหม้อต้มของสงครามนิวเคลียร์
  ลองนึกถึงคำพังเพยของ Drenerim - "ทุกประเทศมีค่าควรแก่ผู้ปกครองของมัน! .." ทำไมคนหลายพันปีจึงถูกปกครองโดย troglodytes กับสโมสรไม่ใช่เพราะเรามีความแข็งแกร่งในเกียรติซึ่งสมองไม่ต้องการ?
  แต่สิ่งที่เลวร้ายที่สุดคือเมื่อสมองเพื่อที่จะเอาชีวิตรอดในโลกของโทรกลอยด์ เริ่มรับใช้โทรโกลดีเหล่านี้ เพราะ "แรง" ไม่ค่อยสนใจในความคิดของสมอง แต่เฉพาะในผลลัพธ์เท่านั้น เช่น ฟันซี่ที่ร้ายแรงกว่าบนไม้กระบอง ...

  ตอบกลับ

  • การดำเนินการตามกฎหมายดังกล่าวโดยหุ่นยนต์ยังคงเป็นอนาคตที่ห่างไกล ... (ถ้าเป็นอย่างนั้น!)
    จากระบบอัจฉริยะล่าสุดที่ตอนนี้สร้างขึ้นบนพื้นฐานของโครงข่ายประสาทเทียม เราสามารถเลือกรุ่น RRS-EX ได้ (Rezoning Robotic sistems - Exployer) โครงสร้างนี้ใกล้เคียงกับโครงสร้างทางระบบประสาทแบบไบโอนิคมากที่สุด... แต่! RRS-EX ไม่มีสติปัญญาที่สามารถวิเคราะห์การกำหนดค่าวัตถุประสงค์ของสภาพแวดล้อมที่เปลี่ยนแปลงอย่างรวดเร็ว ทุกอย่างขึ้นอยู่กับขีดจำกัดของอัลกอริทึมของไบนารี ("ใช่-ไม่ใช่" และในช่วง "ฉันไม่รู้") เพื่อที่จะสอนหุ่นยนต์ให้คิดและคาดการณ์ข้อสรุปของมัน จำเป็นต้องมีบางส่วนของการสุ่มที่ไม่เกี่ยวข้อง หรือที่เรียกว่า "แนวทางที่ใช้งานง่ายสำหรับปัญญาประดิษฐ์" หรืออย่างอื่น (ส่วนตัว บุคคล) ในการทำเช่นนี้จำเป็นต้องออกจากทฤษฎีมาตรฐานของอัลกอริธึมทางคณิตศาสตร์ซึ่งสามารถวางโปรแกรมการกระทำและการเชื่อมโยงสำหรับระบบ AI เท่านั้น แต่ไม่สามารถให้วิธีการของระบบเหล่านี้ในการเชื่อมต่อส่วนตัวในวงจรประสาทได้ มีสมองทางชีวภาพนับพันล้านล้านรวมทั้งอิทธิพลและแรงกระตุ้นตามขวาง (การรับรู้แบบสะท้อนกลับ) กล่าวโดยย่อ ระบบ AI จำเป็นต้องมีเมทริกซ์ของความเป็นปัจเจก ทั้งสำหรับการเรียนรู้ด้วยตนเองและสำหรับความสามารถในการสะท้อนข้อเท็จจริงอย่างเพียงพอ ไม่เพียงแต่ข้อเท็จจริงเท่านั้น แต่ยังรวมถึงหลังจากข้อเท็จจริงด้วย เช่นเดียวกับการตัดสินใจด้วยตนเองตามที่กำหนดไว้ก่อนหน้านี้ (การฝึกอบรม การศึกษา) ตรรกะที่โดดเด่น (ตรรกะของความดีหรือตรรกะที่ชั่วร้าย) เป็นไปไม่ได้ที่จะจำกัดระบบ AI ไว้เพียงสามกฎหมายอีกต่อไป หากยังคงเป็นไปได้ที่จะผลักกฎสามข้อนี้เข้าสู่ระบบ เขตข้อมูลสำหรับการคิดของปัจเจกบุคคลจะถูกปิด ดังนั้น สิ่งที่นำโดยกฎเหล่านี้จะไม่มีอะไรมากไปกว่าเครื่องคำนวณที่โง่เขลา และแฮ็กเกอร์ที่มีพรสวรรค์คนใดจะเคี้ยวและคายกฎหมายเหล่านี้ออกเหมือนเมล็ดพืช... คุณสังเกตเห็นไหม? ทุกอย่างก็เหมือนคนมีการศึกษาและการฝึกอบรม! มิฉะนั้นจะกลายเป็นคอมพิวเตอร์ธรรมดา ...

    ตอบกลับ

    • ฉันไม่เห็นด้วยกับคุณอย่างยิ่ง คนรักวิทยาศาสตร์ เหตุใดคนค่อนข้างฉลาดจำนวนมากจึงมักแสดงความคิดเห็นว่าสัญชาตญาณเชื่อมโยงกับโอกาสอย่างใด

      สัญชาตญาณ (สัญชาตญาณภาษาละตินตอนปลาย - การไตร่ตรองจากภาษาละติน intuor - ฉันมองอย่างใกล้ชิด) ความสามารถในการเข้าใจความจริงผ่านดุลยพินิจโดยตรงโดยไม่ต้องพิสูจน์ด้วยความช่วยเหลือของหลักฐาน การหาทางออกโดยไม่รู้ตัว

      ในความคิดของฉัน สัญชาตญาณไม่ได้เชื่อมโยงกับการสุ่มแต่อย่างใดและสามารถกำหนดได้อย่างสมบูรณ์ เช่นเดียวกับพฤติกรรมของสิ่งมีชีวิต "ที่มีชีวิต" ที่สมเหตุสมผลอย่างสมบูรณ์ (AI) การกำหนดนี้สามารถกำหนดได้โดยโปรแกรม หรือคุณบอกว่าการกระทำส่วนใหญ่ของคุณไม่สมเหตุสมผลและสุ่มเสี่ยง? พวกเขากำลังโกหก?

      คำชี้แจงความเป็นไปไม่ได้:

      >> ไม่สามารถจำกัดระบบ AI ให้เหลือ >>กฎหมายสามข้อได้อีกต่อไป ถ้าอย่างไรก็ตาม หากสามารถผลักกฎสาม >> กฎเหล่านี้เข้าสู่ระบบ ฟิลด์สำหรับการคิดส่วนบุคคลจะถูกปิด >> ดังนั้น วัตถุที่นำโดยกฎเหล่านี้จะไม่มีอะไรมากไปกว่า >> เครื่องจักรคำนวณที่โง่เขลา

      ฉันคิดว่ามันไม่มีมูล แม้ว่าคำถามจะซับซ้อนอย่างแน่นอน ฉันคิดว่าข้อความดังกล่าวจะได้รับการโต้แย้งในรายละเอียดเป็นอย่างดี

      ตอบกลับ

ฉันคิดว่ามันคุ้มค่าที่จะเพิ่มบทความนี้ที่ Isaac Asimov เป็นคนแรกที่พูดคำว่า Robot! เขาเป็นผู้ก่อตั้งวัฒนธรรมนี้ในหมู่นักเขียนนิยายวิทยาศาสตร์ นอกจากนี้ ฉันไม่เห็นด้วยกับบทความเรื่อง "fiction of a rich image" เนื่องจากเป็นหลักการสำหรับการทำงานของสมองหุ่นยนต์ในสภาพแวดล้อมของมนุษย์ และที่สำคัญที่สุด อย่าลืมว่าแม้แต่เซอร์ เยสัก นิวตันในคราวเดียวก็ยังถูกเรียกว่าชาร์ล็อต และกฎหมายที่เขา "ออก" นั้นไร้สาระหรือในรูปแบบที่ไม่รุนแรง "นิยายแห่งจินตนาการอันล้ำค่า" ...

ตอบกลับ

ฉันต้องการชี้แจงว่าคำว่า "หุ่นยนต์" ไม่ได้ถูกคิดค้นโดยอาซิมอฟ ในปี 1920 Karel Capek นักเขียนชาวเช็กใช้คำนี้ในละคร "R.U.R.";.
http://ru.wikipedia.org/wiki/Chapek
Isaac Asimov เกิดในปี 1920 ซึ่งไม่เคยลดคุณค่างานของเขา
http://en.wikipedia.org/wiki/Asimov%2C_Isaac

ตอบกลับ

ไม่ว่าจะเป็นภาพลวงตา:
สติปัญญาของเราเป็นโครงสร้างพื้นฐานที่ปกป้องและยึดมั่นในผลประโยชน์ของร่างกาย (การทำงาน การจำลองแบบ)
สำหรับสติปัญญาแล้ว สำหรับฉัน สิ่งสำคัญคือแรงจูงใจ - เป้าหมายหลัก เป้าหมายนี้จะเป็นรากฐานสำหรับการเรียนรู้ด้วยตนเองและเรื่องอื่นๆ
ความดีและความชั่วเป็นเพียง "+" และ "-" เท่านั้นสำหรับสติปัญญา นั่นคือ "ประโยชน์" และ "ความเสียหาย" ในความซับซ้อนที่สลับซับซ้อนที่สุดของการผสมผสานและโซ่ตรวนต่างๆ เช่น "I-family-society" (ผลประโยชน์ - เข้าใกล้หลัก) เป้าหมายหรือยึดแนวทางให้สำเร็จ) เอาเป็นว่าเป้าหมายหลักคือเอาตัวรอด ...

ตอบกลับ

Cisco ประกาศสร้างชุมชนนักพัฒนา Linksys ซึ่งจะรวมถึงผู้เชี่ยวชาญที่สร้างแอปพลิเคชันสำหรับเราเตอร์ Linksys Smart Wi-Fi ใหม่ ชุมชนจะกลายเป็นส่วนหนึ่งของ Cisco® Developer Network ยอดนิยม ซึ่งเชื่อมต่อ Cisco กับนักพัฒนาฮาร์ดแวร์และซอฟต์แวร์ภายนอก การทำงานร่วมกันบนเครือข่ายนี้ส่งผลให้เกิดการทดสอบโซลูชันการทำงานร่วมกันสำหรับลูกค้าทั่วไป Cisco ซึ่งเป็นผู้บุกเบิกเครือข่ายภายในบ้านได้จำหน่ายเราเตอร์ Linksys ไปแล้วกว่า 70 ล้านเครื่องทั่วโลก และมุ่งมั่นที่จะเสริมความแข็งแกร่งให้กับความเป็นผู้นำด้วยโซลูชันเครือข่ายภายในบ้านยุคใหม่
เราเตอร์ Linksys Smart Wi-Fi มีสถาปัตยกรรมบนคลาวด์ที่เป็นเอกลักษณ์ ซึ่งช่วยให้นักพัฒนาสามารถสร้างแอปพลิเคชันสำหรับอุปกรณ์อิเล็กทรอนิกส์ของผู้ใช้ เพื่อให้การพัฒนาง่ายขึ้น ชุมชนจะได้รับชุดเครื่องมือสำหรับนักพัฒนาซอฟต์แวร์ (SDK) ที่ใช้งานง่ายและเป็นมิตรกับผู้ใช้ บทช่วยสอน และตัวอย่างโค้ด
Vikas Byutani ผู้อำนวยการ Cisco Home กล่าวว่า "เรากำลังเผชิญกับการเปลี่ยนแปลงครั้งใหญ่ที่จะมอบบริการที่ผู้ใช้เครือข่ายในบ้านไม่เคยคิดฝันถึง แพลตฟอร์มซอฟต์แวร์ใหม่และชุมชนนักพัฒนาของ Linksys เป็นโอกาสที่ไร้ขีดจำกัดอย่างแท้จริงสำหรับนักพัฒนา ผลิตภัณฑ์ระบบเครือข่าย Butaney) "ด้วยการทำงานกับบริการใดๆ ตั้งแต่วิธีที่ง่ายที่สุด เช่น การตรวจสอบบ้านจากระยะไกล ไปจนถึงความซับซ้อนที่สุด นักพัฒนาสามารถมีส่วนร่วมในการสร้างโซลูชันที่มีคุณค่าและมีประโยชน์สำหรับผู้ใช้ปลายทาง"
นักพัฒนาบางคนได้ใช้ประโยชน์จากแพลตฟอร์มชุมชนนักพัฒนา Linksys, SDK และเครื่องมืออื่นๆ ของ Cisco แล้ว เพื่อเพิ่มความเร็วและลดความยุ่งยากในการพัฒนาแอปพลิเคชัน ผลลัพธ์คือหกแอปพลิเคชันที่สร้างโดย Axentra Corporation, Fresh Consulting LLC, Gemini Solutions Inc., PacketVideo Corporation, Stratedge Adroitent J.V. และ Xoriant คอร์ปอเรชั่น แอปพลิเคชั่นใหม่นี้มีการเชื่อมต่ออุปกรณ์ที่ง่ายดาย (คลิกเดียว) การควบคุมการเข้าถึงที่ได้รับการปรับปรุง และความสามารถในการแบ่งปันสื่อใหม่ แอปเหล่านี้เป็นขั้นตอนแรกในการปลดล็อกศักยภาพของเราเตอร์ Linksys Smart Wi-Fi สำหรับผู้ใช้ปลายทาง
นักพัฒนาที่สนใจเข้าร่วมชุมชนนักพัฒนาของ Linksys สามารถไปที่ http://referati.do.am เพื่อลงทะเบียนและเริ่มสร้างแอปพลิเคชันใหม่สำหรับเราเตอร์ Linksys Smart Wi-Fi Cisco จัดหาทรัพยากรด้านเทคนิค การตลาด และการขายให้กับนักพัฒนา สนับสนุนสมาชิกชุมชนตลอดกระบวนการทางธุรกิจและการพัฒนา

ไอแซก อาซิมอฟ

กฎสามข้อของวิทยาการหุ่นยนต์

มนุษย์และหุ่นยนต์

หุ่นยนต์ได้ก่อกบฏในวรรณคดีมานานหลายศตวรรษ จีนี่ส์และอิฟริทแห่งเทพนิยายอาหรับก่อกบฏ โกเลมกบฏ - ผลิตผลงานจากดินเหนียวของเบ็น เบซาเลลเจ้าเล่ห์ และแม้แต่หุ่นยนต์ตัวจริงที่สร้างโดยอัจฉริยะของ Karel Capek ก็ยังควบคุมไม่ได้ แทบไม่มีเวลาให้กำเนิดจากปากกาของนักเขียน สถานการณ์รุนแรงมากจนปัญหาของหุ่นยนต์กบฏได้ย้ายจากหน้านิยายไปยังหน้าบทความทางวิทยาศาสตร์และเอกสาร Norbert Wiener เองคิดว่าจำเป็นต้องเตือนมนุษยชาติเกี่ยวกับผลที่อาจเกิดขึ้นจากการที่หุ่นยนต์มีอิสระมากเกินไป

ความรอดมาจากไตรมาสที่ไม่คาดคิด นักเขียนและนักวิทยาศาสตร์ชาวอเมริกัน Isaac Asimov ได้กำหนดกฎสามข้อของวิทยาการหุ่นยนต์ (อันที่จริง การพูดว่า "วิทยาวิทยาการหุ่นยนต์" หรือ "วิทยาการหุ่นยนต์" ที่วิทยาศาสตร์สมัยใหม่ได้กำหนดขึ้นแล้ว คงจะถูกต้องมากกว่า แต่ตอนนี้ยังสายเกินไปที่จะแก้ไขความคลาดเคลื่อนของการแปลนี้ ). กฎของอาซิมอฟด้วยความเร็วที่น่าอัศจรรย์อย่างแท้จริงได้รับการยอมรับทั่วโลกและตั้งแต่นั้นมาก็ไม่มีหุ่นยนต์ตัวใดออกจากสายการประกอบนั่นคือจากกลองของเครื่องพิมพ์โดยไม่ได้อยู่ในสมองของมัน (โปรดทราบว่าหุ่นยนต์ต้องมีสมอง !) กฎสามข้อที่มีชื่อเสียง ในที่สุด มนุษย์ก็สามารถหายใจได้อย่างอิสระ การอยู่ร่วมกันในอนาคตกับกองทัพหุ่นยนต์ที่เชื่อฟังดูเหมือนดอกกุหลาบ

และผู้สร้างกฎหมายหุ่นยนต์คิดอย่างไรเกี่ยวกับเรื่องนี้? คำตอบที่ดีที่สุดสำหรับคำถามนี้สามารถหาได้โดยการอ่านคอลเล็กชันที่เสนอให้กับผู้อ่าน

มาเริ่มกันที่เรื่องแรกในซีรีส์ "I, Robot" เด็กหญิงตัวเล็ก ๆ มีหุ่นยนต์เลี้ยงเด็ก เด็กผู้หญิงติดอยู่กับหุ่นยนต์ แต่ตามที่แม่ของเธอบอกว่าสิ่งที่แนบมานี้เป็นอันตรายต่อการเลี้ยงดูที่เหมาะสมของเด็ก และแม้ว่าพ่อจะมีความเห็นแตกต่างออกไป แต่หลังจากการสนทนาในครอบครัวเป็นเวลานาน หุ่นยนต์ก็ถูกส่งกลับไปที่โรงงาน หญิงสาวเศร้า มีอันตรายจากบาดแผลทางจิตใจอย่างรุนแรง และหุ่นยนต์ก็กลับมา (เรื่อง "ร็อบบี้")

ค่อนข้างพล็อตใช่มั้ย? แต่ความเรียบง่ายนี้เองที่ทำลายกฎข้อที่หนึ่งของหุ่นยนต์ ซึ่งอาซิมอฟได้กำหนดไว้ดังนี้: “หุ่นยนต์ไม่สามารถทำร้ายบุคคลหรือปล่อยให้บุคคลทำอันตรายได้ หุ่นยนต์จะเข้าใจได้อย่างไรว่าอะไรเป็นอันตรายและมีประโยชน์อย่างไรหากผู้ปกครองเองไม่สามารถตัดสินใจเรื่องนี้เกี่ยวกับลูกของตัวเองได้!

ในเรื่อง "การเต้นรำแบบกลม" อันเป็นผลมาจากการบ่งชี้ที่ไม่ชัดเจน กฎข้อที่หนึ่งและสามจึงขัดแย้งกันเอง ตามกฎข้อที่สาม "หุ่นยนต์ต้องดูแลความปลอดภัยของตัวเอง ตราบใดที่มันไม่ขัดแย้งกับกฎข้อที่หนึ่งและสอง" หุ่นยนต์ได้รับคำสั่ง แต่ระดับของอันตรายที่จะเกิดขึ้นกับบุคคลหากไม่ปฏิบัติตามนั้นไม่ได้ระบุ และตอนนี้หุ่นยนต์กำลังวนไปตามเขตแดนของพื้นที่อันตรายโดยไม่เข้าไปลึก (กฎข้อที่สามป้องกันสิ่งนี้) และในขณะเดียวกันก็ไม่ไกล (กฎข้อที่หนึ่งและสองป้องกันไว้) สถานการณ์ที่คุ้นเคยกับโปรแกรมเมอร์ของคอมพิวเตอร์สมัยใหม่ เรียกว่า "วนลูป" โดยวิธีการที่โปรแกรมเมอร์ที่มีประสบการณ์ไม่มากก็น้อยใส่คำสั่งพิเศษลงในโปรแกรมซึ่งหลังจากเสร็จสิ้นวงกลมสามหรือสี่วงแล้วคอมพิวเตอร์จะหยุดและต้องการคำแนะนำเพิ่มเติมจากบุคคลนั้น

ในเรื่อง "Round dance" ทุกอย่างเกิดขึ้นแตกต่างกัน ที่นั่นผู้คนสามารถทำลายวงจรอุบาทว์ได้ด้วยการเสี่ยงชีวิตและในขณะเดียวกันก็ใช้ความเฉลียวฉลาดทั้งหมดและใช้ความช่วยเหลือจากผู้เชี่ยวชาญในด้านจิตวิทยาของหุ่นยนต์ อย่างไรก็ตาม แนวเพลงอย่างหนึ่งที่รวมเรื่องราวส่วนใหญ่ไว้ในคอลเล็กชันคือการต่อสู้ระหว่างหุ่นยนต์และนักจิตวิทยาหุ่นยนต์มนุษย์ ซูซาน คาลวิน

หรืออีกเรื่องหนึ่ง - "หุ่นยนต์หลงทางได้อย่างไร" คนงานหนุ่มบอกกับหุ่นยนต์ด้วยความรำคาญว่า “ไปให้พ้น อย่าแสดงตัว ฉันจะไม่ได้พบคุณอีก” หุ่นยนต์ปฏิบัติตามคำแนะนำของบุคคลนั้นอย่างแท้จริง หลังจากนั้นพนักงานทุกคนของ Hyperbase นอกโลก ถูกบังคับให้ออกจากงานสำคัญและค้นหาหุ่นยนต์ที่หายไปตลอดทั้งสัปดาห์

เราจงใจเลือกเรื่องราวที่มีโครงเรื่องง่ายๆ อีกครั้ง เพราะในความเห็นของเรา ความเรียบง่ายคือความโน้มน้าวใจที่อาซิมอฟหักล้างกฎข้อที่สองของวิทยาการหุ่นยนต์ซึ่งเขาสร้างขึ้นเอง

แล้วตกลงว่าไง? จำเป็นจริง ๆ ไหมที่ต้องยอมรับว่ามารออกจากขวดแล้วและผู้คนไม่มีทางเลือกอื่นนอกจากรอผลที่ตามมาอย่างอดทน? อย่างไรก็ตาม ขอให้เราระลึกว่าผู้เขียนเรื่องราวไม่ได้เป็นเพียงนักเขียนเท่านั้น แต่ยังเป็นนักวิทยาศาสตร์ที่สามารถวิเคราะห์สถานการณ์ด้วยความเข้มงวดเชิงตรรกะทั้งหมดได้ และมันก็ไม่ไร้ประโยชน์ที่เขาเลือกรูปแบบเฉพาะนี้: ตอนแรกเขากำหนดกฎที่ในแวบแรกดูเหมือนจะไร้ที่ติทั้งในด้านเนื้อหาและรูปแบบ จากนั้นเขาก็แสดงกฎเหล่านี้ในการดำเนินการ

ใช่ จีนี่ออกจากขวดแล้ว และนานมากแล้ว ชายคนหนึ่งสร้างหุ่นยนต์ตัวแรกขึ้นมาโดยถือไม้เท้าในมือของเขา และเขาก็พบกับกลุ่มกบฏของหุ่นยนต์เมื่อเขาทำไม้นี้ตกบนเท้าของเขาโดยไม่ตั้งใจ และไม่มีอะไรใหม่เชิงคุณภาพเกิดขึ้นตั้งแต่นั้นมา ปัญหาการจลาจลของหุ่นยนต์ได้ถูกวางและแก้ไขในเทคโนโลยีมานานหลายทศวรรษ ในภาษาอังกฤษมีแม้กระทั่งคำว่า "เข้าใจผิด" - "การป้องกันจากคนโง่" ดังนั้นแก๊สในคอลัมน์แก๊สจะไม่จุดไฟหากน้ำไม่ไหล และกดจะไม่ทำงานหากมีวัตถุแปลกปลอมในพื้นที่ทำงาน เช่น มือมนุษย์

แต่เทคโนโลยีไม่ควรมีความจำเป็นในการตัดสินใจสำหรับบุคคลว่าอะไรเป็นอันตรายและสิ่งที่เป็นประโยชน์ และไม่ควรคิดว่าการเกิดขึ้นของเครื่องจักร "การคิด" กล่าวคือ เครื่องจักรที่สามารถวิเคราะห์สถานการณ์อย่างอิสระและตัดสินใจตามการวิเคราะห์นี้จะแนะนำสิ่งใหม่โดยพื้นฐาน

ให้เรากลับไปที่เรื่องราวของคอลเลกชัน ดูเหมือนว่าไม่จำเป็นต้องแนะนำผู้เขียนให้กับผู้อ่าน Isaac Asimov เป็นหนึ่งในนักเขียนนิยายวิทยาศาสตร์ชาวอเมริกันที่มีชื่อเสียงที่สุด ผู้แต่งหนังสือและบทความวิทยาศาสตร์ยอดนิยมหลายเล่มที่ตีพิมพ์ในคอลเล็กชันแยกกัน แต่เหนือสิ่งอื่นใด อาซิมอฟเป็นศิลปินที่มีความสามารถ และนี่คือเคล็ดลับของความนิยมของเขา ผลงานหลายชิ้นของนักเขียนคนนี้ได้รับการแปลเป็นภาษารัสเซีย ที่มีชื่อเสียงเป็นพิเศษคือเรื่องราวของเขาเกี่ยวกับหุ่นยนต์ ซึ่งได้รับการตีพิมพ์เป็นคอลเลกชั่นแยกกัน (วัฏจักร “I, Robot”) หรือรวมไว้ในคอลเล็กชั่นเฉพาะเรื่องอื่นๆ เป็นเรื่องที่ดีที่หลาย ๆ คนแม้ว่าจะไม่ใช่ทั้งหมดก็ตาม แต่ขณะนี้ได้รับการตีพิมพ์ซ้ำเป็นคอลเล็กชันเดียว

ผู้อ่าน - ทั้งคุ้นเคยกับงานของ Asimov และเป็นครั้งแรกที่รู้จักหุ่นยนต์ของเขา - จะได้พบกับตัวละครที่สดใสและยอดเยี่ยม นี่คือผู้ทดสอบเทคโนโลยีใหม่ Powell และ Donovan ผู้ซึ่งปฏิบัติตามหลักการทั้งหมดของประเภทการผจญภัยในแต่ละเรื่องราวพบว่าตัวเองอยู่ในสถานการณ์ที่ยากลำบากและบางครั้งก็สิ้นหวัง แต่ก็ออกมาจากพวกเขาด้วยเกียรติเสมอ นี่คือสมองของ US Robots and Mechanical Men Corporation ที่เชื่อมั่นใน Bogert และ Lanning เพื่อแย่งชิงอำนาจ และนักโรโบนักจิตวิทยา ซูซาน คาลวิน ตั้งตระหง่านเหนือทุกคน รังเกียจความไร้สาระของนักธุรกิจ และเบื้องหลัง - อเมริกาทุนนิยมสมัยใหม่ใน "ความรุ่งโรจน์" ทั้งหมดของมัน ก่อนที่ผู้อ่านจะมีภาพการแข่งขันกันระหว่างบริษัท การหลอกลวงทางการเมืองก่อนการเลือกตั้ง การเลือกปฏิบัติทางเชื้อชาติ แต่ควรสังเกตว่าการแสดงให้หุ่นยนต์ของเขาเป็นอัศวินโดยปราศจากความกลัวและตำหนิ มอบร่างกายที่เป็นโลหะและสมองโพซิทรอนิกส์ให้พวกเขาด้วย Asimov หลีกเลี่ยงปัญหาสังคมที่รุนแรง