ภัยคุกคามที่อาจเกิดขึ้นจากปัญญาประดิษฐ์ พลังจิต

และนักวิจัยที่มีชื่อเสียงคนอื่นๆ ได้เขียนจดหมายเปิดผนึกถึงการสร้างมาตรฐานความปลอดภัยในด้านการพัฒนาปัญญาประดิษฐ์ (AI) /เว็บไซต์/

โดยเฉพาะอย่างยิ่ง พวกเขาเรียกร้องให้มีการวิจัยและพัฒนาระบบควบคุมที่เชื่อถือได้ซึ่งจะไม่ยอมให้ปัญญาประดิษฐ์ที่ทำงานผิดพลาดเป็นอันตรายต่อผู้คน “งานด้านเทคนิคจำเป็นต้องทำเพื่อให้แน่ใจว่ามนุษย์สามารถควบคุมได้อย่างเต็มที่” จดหมายกล่าว

แม้ว่าตัวอักษรจะใช้น้ำเสียงปานกลาง แต่กลุ่ม Luddites ซึ่งกลัวเทคโนโลยีใหม่ก็ตื่นตระหนก ในการตอบสนองสื่อมวลชนได้ให้สัมภาษณ์และแถลงการณ์ของนักวิทยาศาสตร์มากมายที่ช่วยขจัดความกลัวเหล่านี้

Andrew Ng ผู้เชี่ยวชาญด้าน AI ของ Baidu บอกกับ Fusion ว่า "ฉันไม่เห็นสถานการณ์จริงสำหรับซอฟต์แวร์ที่เรากำลังดำเนินการอยู่ในปัจจุบันจนกลายเป็นการก่อกวน"

ในทางกลับกัน นักข่าว Scott Alexander ได้รวบรวมรายชื่อนักวิทยาศาสตร์ที่มีชื่อเสียงที่เกี่ยวข้องกับการพัฒนา AI ซึ่งพูดถึงอันตรายที่อาจเกิดขึ้นจาก AI

ความกลัวและความหวาดระแวง

Stuart Russer ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่ University of California at Berkeley เปรียบเทียบการพัฒนากลไกในการควบคุม AI กับการใช้มาตรการเพื่อความปลอดภัยของเครื่องปฏิกรณ์นิวเคลียร์

“บางคนเชื่อว่าปัญหานี้จะไม่เป็นอันตรายต่อมนุษยชาติในอีกไม่กี่ร้อยปีข้างหน้า พวกเขาลืมไปว่าลีโอ ซิลลาร์ดค้นพบปฏิกิริยาลูกโซ่นิวเคลียร์ 24 ชั่วโมงหลังจากที่รัทเธอร์ฟอร์ดประกาศอย่างมั่นใจว่าจะไม่มีวันได้รับพลังงานปรมาณู” รัสเซลล์เขียน

รัสเซลไม่ได้อยู่คนเดียวในความคิดของเขา ในการสำรวจในปี 2014 โดย Vincent Muller และ Nick Bostrom จากผู้เชี่ยวชาญด้าน AI ชั้นนำ 170 คน พบว่า 18% เชื่อว่าการสร้างเครื่องจักรที่ชาญฉลาดจะเป็น "หายนะที่แท้จริง" สำหรับมนุษยชาติ 13% กล่าวว่า AI ขั้นสูงจะส่งผลเสียต่อมนุษย์ นักวิทยาศาสตร์กว่าครึ่งกล่าวว่ามันจะส่งผลดี

แม้ว่าความคิดเห็นของผู้เชี่ยวชาญเกี่ยวกับผลกระทบของ AI จะคลุมเครือ แต่ส่วนใหญ่เห็นด้วยว่าการสร้าง AI ขั้นสูงนั้นเป็นเพียงเรื่องของเวลาเท่านั้น ตามการคาดการณ์ AI ที่เท่ากับมนุษย์จะถูกสร้างขึ้นในปี 2050 (ความน่าจะเป็น 50%) หรือภายในปี 2075 (ความน่าจะเป็น 90%) และ 30 ปีหลังจากการสร้าง ปัญญาประดิษฐ์จะปรากฎขึ้นเหนือมนุษย์ในทุกด้าน

รถบรรทุกบ้า

Rise of the Machines จะเป็นอย่างไร? ในภาพยนตร์นิยายวิทยาศาสตร์เช่น "Terminator", "Robot", "Animatrix" จะแสดงสงครามของผู้คนที่มีไซบอร์ก

เมื่อพิจารณาจากภาพยนตร์แนววิทยาศาสตร์ หลายคนอาจเห็นว่าอันตรายที่อาจเกิดขึ้นนั้นหลีกเลี่ยงได้ง่าย อย่างไรก็ตาม โดยพื้นฐานแล้ว AI เป็นเพียงซอฟต์แวร์คอมพิวเตอร์

อย่างไรก็ตาม ปัญญาประดิษฐ์ไม่จำเป็นต้องมีกลไกเพื่อให้ได้พลังงานในโลกแห่งความเป็นจริง มันสามารถเริ่มควบคุมอุปกรณ์อิเล็กทรอนิกส์ของเราทุกวัน

Stephen King นำเสนอสถานการณ์ดังกล่าวในเรื่องสั้น "Trucks" ในเรื่องที่เขียนขึ้นในยุค 70 รถบรรทุกได้รับสติและเริ่มโจมตีผู้คน กลุ่มคนซ่อนตัวจากรถบรรทุกที่โกรธจัด รถบรรทุกยังคงต้องใช้เชื้อเพลิงในการทำงานและใช้รหัสมอร์สเพื่อสั่งให้คนเติมน้ำมัน มิฉะนั้นรถปราบดินจะระเบิดที่กำบัง ผู้คนเชื่อฟัง

เรื่องราวจบลงด้วยวิสัยทัศน์ของผู้บรรยายที่ว่ารถบรรทุกได้กดขี่มนุษย์และกำลังเก็บค่านิยมของพวกเขาไปทุกที่ เช่น บังคับให้พวกเขาสร้างทางหลวงไปทั่วโลก เขาถูกดึงออกจากโลกจินตนาการของเขาด้วยเสียงเครื่องบินที่บินอยู่บนท้องฟ้า

เรื่องราวของสตีเฟน คิงดูล้ำสมัยในยุคที่มันถูกเขียนขึ้น แต่ก็ไม่ได้ห่างไกลจากความเป็นจริงของโลกสมัยใหม่มากนัก รถบรรทุกขับเองมีอยู่แล้ว และในอนาคต บริษัทต่างๆ อาจแทนที่คนขับด้วยระบบนำทางอัตโนมัติเพื่อประหยัดเงิน

การแฮ็กของ Sony เมื่อปีที่แล้วแสดงให้เห็นว่าระบบข้อมูลของเรามีความเสี่ยงมากขึ้น นี่เป็นหนึ่งในผลที่ตามมาของการใช้คอมพิวเตอร์โครงสร้างพื้นฐานที่เพิ่มขึ้น

อย่างไรก็ตาม ยังไม่มีสาเหตุที่ทำให้เกิดความกังวล ปัญญาประดิษฐ์ยังมีหนทางอีกยาวไกลก่อนที่จะสามารถจับคู่กับสมองของมนุษย์ได้ ตัวอย่างรถบรรทุกไร้คนขับแสดงให้เห็นสิ่งนี้ได้ดี ในขณะที่พวกเขายังไม่สมบูรณ์เกินกว่าจะขับรถไปตามถนนในเมืองที่พลุกพล่านอย่างอิสระ

คุณจะติดตั้งแอพพลิเคชั่นสำหรับอ่านบทความเกี่ยวกับยุคสมัยบนโทรศัพท์ของคุณหรือไม่?

การเปิดเผยทั่วโลกที่เกี่ยวข้องกับ AI (ปัญญาประดิษฐ์) ทำให้นักวิจัยชั้นนำของโลกในด้านเทคโนโลยีคอมพิวเตอร์หวาดกลัวมากขึ้น อาจเป็นการจลาจลของหุ่นยนต์ที่ต้องการทำลายรูปแบบชีวิตทางชีววิทยาบนโลกใบนี้ตามแผนงานและค่านิยมของพวกเขา สถานการณ์ที่เครื่องจักรควบคุมด้วย AI กลายเป็นรูปแบบชีวิตที่โดดเด่นนั้นเป็นไปได้

เหตุใดนักวิทยาศาสตร์ที่มีชื่อเสียงระดับโลก เช่น Bill Gates, Steve Hawking, Elon Musk และคนอื่นๆ กังวลเกี่ยวกับปัญหานี้และประกาศต่อสาธารณชนถึงภัยคุกคามที่แท้จริงของสถานการณ์นี้ เหตุการณ์ที่เกิดขึ้นในภาพยนตร์ฮอลลีวูดเรื่อง "Terminator" สามารถทำนายได้หรือไม่? เป็นที่ทราบกันดีอยู่แล้วว่าเรื่องราวสมมติใด ๆ ก็ตามที่มีพื้นฐานมาจากข้อเท็จจริงที่แท้จริง

คอมพิวเตอร์เก่งขึ้นในการโกหกและโกง

การโกหกเป็นรูปแบบหนึ่งของพฤติกรรมที่พัฒนาขึ้นในกระบวนการวิวัฒนาการ ผู้คน สัตว์ และนกบางชนิดต่างหันไปหลอกลวงเพื่อให้ได้มาซึ่งอาหารและประโยชน์ซึ่งเพิ่มโอกาสในการอยู่รอด เมื่อเร็ว ๆ นี้วิธีการวิวัฒนาการเหล่านี้ได้รับการยอมรับจากเครื่อง AI เรียบร้อยแล้ว

นักออกแบบจากสถาบันเทคโนโลยีแห่งจอร์เจียมีความก้าวหน้าในการสร้างหุ่นยนต์ที่ใช้การโกหกและหลอกลวงในอัลกอริธึมพฤติกรรม นักวิทยาศาสตร์เชื่อว่าในอนาคตเทคโนโลยีนี้จะถูกนำมาใช้อย่างแพร่หลายในวงการทหาร

สันนิษฐานว่าต้นแบบของหุ่นยนต์สามารถใช้ได้ในสภาพการต่อสู้จริง กลไกเคลื่อนไหวเหล่านี้จะสามารถทำงานเพื่อปกป้องบทบัญญัติและคลังกระสุนได้ ด้วยความช่วยเหลือของโปรแกรมหลอกลวง ผู้พิทักษ์แห่งอนาคตจะสามารถเปลี่ยนเส้นทางการลาดตระเวนและดำเนินการที่คาดเดาไม่ได้ ตามที่นักพัฒนาวางแผน วิธีการดังกล่าวจะช่วยหลอกลวงศัตรูที่อาจเป็นศัตรูของผู้คนและหุ่นยนต์อื่นๆ

ศาสตราจารย์อาร์กินกล่าวว่าการวิจัยเกี่ยวข้องกับประเด็นทางจริยธรรมหลายประการ การสูญเสียการควบคุมเทคโนโลยีเมื่อสัมผัสกับผู้ว่าอาจนำไปสู่ภัยพิบัติร้ายแรง

เครื่องจักรเข้ายึดตลาดงาน

ในขณะที่สาธารณชนกำลังหมกมุ่นอยู่กับความคิดเกี่ยวกับสงครามระดับโลกที่เกี่ยวข้องกับ AI นักวิทยาศาสตร์กำลังอธิบายถึงอันตรายที่เกิดขึ้นทันทีและเกิดขึ้นจริงมากขึ้น เครื่องจักรและกลไกอัตโนมัติต่างๆ ถูกใช้มากขึ้นในการผลิต ทำลายงาน

นักวิเคราะห์และผู้เชี่ยวชาญหลายคนเห็นพ้องกันว่าการพัฒนาเชิงรุกในด้านโปรแกรมลอจิกและระบบอัตโนมัติอาจทำให้คนจำนวนมากตกงาน ในสหรัฐอเมริกา มีหุ่นยนต์สำหรับการผลิตมากกว่า 250,000 ตัวที่ทำงานแบบมนุษย์ดั้งเดิม

ในประเทศทางตะวันออกซึ่งผลิตเทคโนโลยีมากกว่า 90% ของโลก แรงงานคนยังคงมีชัย จะเกิดอะไรขึ้นกับคนที่ทำงานด้านการผลิตด้วยการถือกำเนิดของหุ่นยนต์ เราคาดเดาได้เท่านั้น

ความกังวลว่าเครื่องจักรจะขับไล่มนุษย์ออกจากตลาดแรงงานไม่ได้จำกัดอยู่แค่คนงานเท่านั้น Andrew Ng ผู้เชี่ยวชาญด้านปัญญาประดิษฐ์จาก Google Brain Project และผู้เชี่ยวชาญเฉพาะทางแบบพาร์ทไทม์ที่ Baidu (เทียบเท่าภาษาจีนของ Google) ยังแสดงความกังวลเกี่ยวกับการพัฒนาเชิงรุกในด้าน AI ตามที่เขาพูดปัญญาประดิษฐ์อิเล็กทรอนิกส์สามารถทำได้เช่นเดียวกับคนทั่วไปเพียงเร็วขึ้นดีขึ้นและใช้ทรัพยากรน้อยลงเท่านั้น

Oxford University ในสหราชอาณาจักรได้ดำเนินการวิจัยที่สะท้อนถึงพลวัตของผลกระทบของ AI ต่อการผลิต ตามข้อมูลที่ได้รับ ในอีกยี่สิบปีข้างหน้า 35% ของงานจะถูกมอบให้กับการจัดการ AI

โปรแกรมคอมพิวเตอร์เหนือกว่าแฮกเกอร์

จากมุมมองของคนธรรมดา แฮ็กเกอร์เป็นเหมือนซุปเปอร์แมนที่สามารถบรรลุผลใดๆ ในความเป็นจริง คนเหล่านี้เป็นโปรแกรมเมอร์ที่มีสีหน้าเหนื่อยล้าและดื่มกาแฟแบบดั้งเดิม

การแฮ็กเป็นกิจกรรมที่ค่อนข้างน่าเบื่อและน่าเบื่อ ซึ่งต้องใช้เวลาและทรัพยากรเป็นจำนวนมาก นอกจากนี้ ผู้เชี่ยวชาญทั้งแผนกยังมีส่วนร่วมในการพัฒนาโปรแกรมที่ออกแบบมาเพื่อป้องกันการบุกรุก ภัยคุกคามที่ใหญ่ที่สุดสำหรับ "แฮกเกอร์ที่ไม่ดี" มาจากระบบที่ใช้ AI ขั้นสูง

ปัญญาประดิษฐ์สามารถใช้ได้ไม่เพียง แต่สำหรับการป้องกัน แต่ยังสำหรับการแฮ็กด้วย ภายใต้เงื่อนไขของโปรแกรมความปลอดภัยทางไซเบอร์นั้น AI กำลังได้รับการพัฒนาซึ่งสามารถค้นหาช่องโหว่ในศัตรูได้ ในขณะที่ออนไลน์ปกป้องอุปกรณ์เชิงตรรกะจากภัยคุกคามและการโจมตีจากภายนอก

นักวิทยาศาสตร์กล่าวว่าแฮ็กเกอร์อิเล็กทรอนิกส์ที่ใช้ AI กำลังได้รับการพัฒนาในนามของความดีและความเจริญรุ่งเรืองร่วมกัน แต่ในกรณีที่ผู้บุกรุกเข้าถึงโปรแกรมดังกล่าว อาจเกิดเหตุการณ์ที่น่าเศร้าได้ เป็นเรื่องน่ากลัวที่จะจินตนาการถึงสถานการณ์ที่ AI อันทรงพลังเจาะเข้าไปในโปรโตคอลความปลอดภัยของโรงไฟฟ้านิวเคลียร์และเข้าควบคุมอย่างสมบูรณ์ ในสถานการณ์เช่นนี้ มนุษยชาติอาจทำอะไรไม่ถูก

โปรแกรมเรียนรู้ที่จะเข้าใจแรงจูงใจของผู้คน

ชีวิตประจำวันของคนจำนวนมากเชื่อมโยงกับการใช้โซเชียลเน็ตเวิร์กต่างๆ อย่างแยกไม่ออก หนึ่งในเครือข่ายที่ได้รับความนิยมมากที่สุดในโลกคือ Facebook แต่มีเพียงไม่กี่คนที่รู้ว่าทุกครั้งที่มีคนเข้าชมเพจของโซเชียลเน็ตเวิร์กนี้ AI จะไม่มีใครสังเกตเห็น ในระหว่างการเยือนเบอร์ลินของเขา Mark Zuckerberg พูดถึงเป้าหมายของ AI

โปรแกรมนี้ออกแบบมาเพื่อวิเคราะห์พฤติกรรมของผู้ใช้บนเพจ Facebook จากข้อมูลที่เก็บรวบรวม โปรแกรมจะออกคำแนะนำเกี่ยวกับความสนใจและความชอบของผู้ชม ในขั้นของการพัฒนานี้ ระบบอัตโนมัติสามารถรับรู้รูปแบบและเรียนรู้ด้วยตนเองตามโปรแกรม

ในอนาคต มีการวางแผนที่จะสร้าง AI อัจฉริยะที่สามารถพัฒนาทักษะได้อย่างอิสระโดยการเขียนโค้ดใหม่ สิ่งนี้สามารถนำไปสู่การพัฒนาชีวิต หรืออาจกลายเป็นการพัฒนาล่าสุดของมนุษยชาติ

ไซบอร์กจะมาแทนคู่รัก

ภาพยนตร์ฮอลลีวูดหลายเรื่องมีพื้นฐานมาจากแนวคิดเรื่องความรักและความสัมพันธ์ระหว่างมนุษย์กับเครื่องจักร จากโลกแห่งจินตนาการ แนวคิดนี้ไหลเข้าสู่โลกสมัยใหม่

ดร.เอียน เพียร์สัน นักอนาคตศาสตร์เชื่อว่าภายในปี 2050 การมีเพศสัมพันธ์ระหว่างมนุษย์กับหุ่นยนต์จะเกิดขึ้นบ่อยกว่าแค่ระหว่างคน นักวิทยาศาสตร์กำลังร่วมมือกับ Bondara ซึ่งเป็นเครือข่ายร้านขายเซ็กซ์ชั้นนำในสหราชอาณาจักร

รายงานของแพทย์ระบุว่าภายในปี 2568 หุ่นยนต์เพื่อการมีเพศสัมพันธ์ด้วยปัญญาประดิษฐ์จะได้รับการพัฒนา ภายในปี 2035 การมีเพศสัมพันธ์ผ่านความเป็นจริงเสมือนจะแพร่หลายในระดับของภาพลามกอนาจารสมัยใหม่ และภายในปี 2050 การมีเพศสัมพันธ์กับหุ่นยนต์จะกลายเป็นส่วนหนึ่งของความเป็นจริงในชีวิตประจำวันและกลายเป็นเรื่องปกติ

ผู้ปกป้องค่านิยมดั้งเดิม ทัศนคติเชิงลบต่อการมีเพศสัมพันธ์ด้วยเครื่องจักรอัจฉริยะ ความเชื่อมโยงดังกล่าวจะสร้างความคาดหวังสูงเกินไป ซึ่งจะส่งผลเสียต่อทัศนคติต่อผู้หญิง

เครื่องจักรกลายเป็นมนุษย์มากขึ้น

นักพัฒนาด้านการสร้างหุ่นยนต์ฮิวแมนนอยด์ชาวญี่ปุ่น Hiroshi Ishiguro และ Chinese Sun Yang ได้สร้างเครื่องจักรที่ไม่เหมือนใคร Cyborg Yang-Yang มีรูปลักษณ์เหมือนผู้สร้างและตั้งชื่อตามลูกสาวของเธอ เครื่องมี AI และสามารถดำเนินการอย่างง่าย ๆ ได้หลายอย่าง

นี่ไม่ใช่ตัวอย่างเฉพาะของหุ่นยนต์ สถาบันเทคโนโลยีแห่งสิงคโปร์ยังเสนอต้นแบบหุ่นยนต์สมัยใหม่ชื่อ Nadine ต้นแบบนี้ยังมีปัญญาประดิษฐ์และดำเนินการในสถาบันการศึกษา

หุ่นยนต์ตัวนี้ได้รับการออกแบบมาให้เป็นสีน้ำตาลที่น่าดึงดูดและมีผิวที่อ่อนนุ่ม หุ่นยนต์มีคุณสมบัติในตัวหลายอย่าง หุ่นยนต์สามารถพบปะและทักทายคู่สนทนาได้ด้วยการจับมือ อุปกรณ์ยังสามารถสบตาและยิ้มได้ AI สามารถจดจำแขกและรักษาบทสนทนาง่ายๆ ตามประสบการณ์ก่อนหน้านี้

หุ่นยนต์มีความรู้สึก

หุ่นยนต์สมัยใหม่ไม่ได้ด้อยกว่ามนุษย์ในด้านสติปัญญา ด้วยการพัฒนาล่าสุด ไซบอร์กจึงค่อนข้างยากที่จะแยกแยะจากบุคคลภายนอก จนถึงตอนนี้ หุ่นยนต์ที่มีลักษณะเฉพาะตัวเดียวยังไม่มีคือความสามารถในการแสดงอารมณ์ นักวิทยาศาสตร์ทั่วโลกกำลังทำงานเกี่ยวกับปัญหานี้ และในไม่ช้าหุ่นยนต์ก็แยกไม่ออกจากมนุษย์โดยสิ้นเชิง

นักพัฒนาจาก Microsoft Application & Services Group สาขาเอเชียตะวันออกได้เปิดตัวโปรแกรมพิเศษ คอมพิวเตอร์สามารถสนทนากับคู่สนทนาและในขณะเดียวกันก็สัมผัสกับอารมณ์ ปัญญาประดิษฐ์ชื่อ Hiaoche สามารถเลียนแบบวิธีการพูดของเด็กหญิงอายุสิบเจ็ดปีได้

ในกรณีที่ไม่มีข้อมูล ระบบสามารถใช้การโกหกได้ หากเธอถูกจับได้ว่าโกง Hiaoche อาจแสดงความโกรธหรือเขินอาย AI สามารถหันไปประชดประชัน สงสัย และแสดงความไม่อดทน

การตอบสนองของโปรแกรมที่คาดเดาไม่ได้นั้นคล้ายกับการสื่อสารกับบุคคลจริง จนถึงตอนนี้ เทคโนโลยียังไม่พบการนำไปใช้อย่างกว้างขวางและมักใช้เพื่อความบันเทิง ผู้สร้าง Xiaoche กำลังทำงานเพื่อปรับปรุงอัลกอริทึมลอจิก ซึ่งอาจนำไปสู่การพัฒนาขั้นพื้นฐานในอนาคต

รถยนต์จะอยู่ในหัวของเราในไม่ช้า

ในแง่ของการพัฒนาล่าสุด ความเป็นไปได้ใหม่ ๆ กำลังเปิดขึ้น มันไม่เหมือนจินตนาการอีกต่อไป ความสามารถในการเรียนรู้ภาษาต่างประเทศในเวลาไม่กี่นาที โดยการดาวน์โหลดเข้าสู่สมอง Ray Kurzweil CTO ของ Google เชื่อว่าภายในปี 2030 เทคโนโลยีจะได้รับการพัฒนาเพื่อปลูกฝังหุ่นยนต์นาโนในสมอง ที่จะยกระดับความฉลาดของมนุษย์ไปสู่ระดับใหม่โดยพื้นฐาน

กลไกขนาดเล็กเหล่านี้จะเปลี่ยนจิตสำนึกให้กลายเป็นศูนย์กลางการคำนวณที่ทรงพลัง บุคคลจะสามารถจดจำข้อมูลใด ๆ ได้ทันที จัดเรียงและส่งความคิดของเขาเองไปยังที่เก็บถาวร หากจำเป็น จะสามารถดาวน์โหลดภาพยนตร์ เอกสาร และรับอีเมลได้

Kurzweil ผู้เชี่ยวชาญด้าน AI เชื่อว่าการอยู่ร่วมกันของหุ่นยนต์นาโนจะไม่เพียงเพิ่มความฉลาดเท่านั้น แต่ยังสามารถรักษาโรคต่างๆ ที่เกี่ยวข้องกับการทำงานของระบบประสาทได้อีกด้วย

ภัยคุกคามของการใช้เทคโนโลยีดังกล่าวสามารถเปรียบเทียบได้กับทฤษฎีสมคบคิดระดับโลก ด้วยการควบคุมจิตใจเหนือนักการเมืองชั้นนำของประเทศ AI จะสามารถควบคุมเขาได้เหมือนซอมบี้ที่ปวกเปียก นอกจากนี้ระบบดังกล่าวยังสามารถใช้บริการพิเศษซึ่งไม่เป็นลางดี

หุ่นยนต์กลายเป็นอาวุธได้อย่างไร

ด้วยการล่มสลายของสหภาพโซเวียต สงครามเย็นก็ไม่สิ้นสุด สองมหาอำนาจใหม่ จีนและรัสเซีย ปรากฏตัวบนเวทีโลก ในทางกลับกัน อเมริกาใช้เงินหลายหมื่นล้านดอลลาร์ในการพัฒนาด้านความปลอดภัยของคอมพิวเตอร์

เพนตากอนเชื่อว่ากุญแจสู่ความเหนือกว่าทางเทคโนโลยีในอนาคตอยู่ที่การใช้ AI การพัฒนาระบบการเรียนรู้ด้วยตนเองด้วยตนเองตลอดจนพื้นที่คู่ขนานและที่เกี่ยวข้องกำลังดำเนินการอย่างแข็งขัน ต้นแบบของยุทโธปกรณ์ทางทหารที่ควบคุมระยะไกลได้รับการพัฒนาแล้ว แต่ก็ยังคงต้องฝึกให้ทำหน้าที่อย่างอิสระ

การใช้อุปกรณ์ดังกล่าวในยามสงครามให้ประโยชน์อย่างมาก ทหารจะไม่ต้องเสี่ยงชีวิตกับการยิงของศัตรู ขวัญกำลังใจของศัตรูในการทำสงครามกับหุ่นยนต์ที่ไม่มีชีวิตก็จะถูกบ่อนทำลายเช่นกัน

นอกจากนี้ยังมีข้อเสีย อุปกรณ์คอมพิวเตอร์ใด ๆ มีแนวโน้มที่จะล้มเหลวและการแฮ็กระบบ ในกรณีนี้ หุ่นยนต์ที่สูญเสียการควบคุมจะหันอาวุธของตนไปต่อสู้กับผู้สร้างและประชากรพลเรือน

ผู้เชี่ยวชาญชั้นนำหลายคนในด้าน AI ไม่สนับสนุนแนวคิดในการสร้างหุ่นยนต์ต่อสู้อัตโนมัติ แต่เนื่องจากการเผชิญหน้าทางทหารที่เพิ่มขึ้นเรื่อยๆ ในโลกและการไม่มีข้อห้ามระหว่างประเทศในการใช้เทคโนโลยีดังกล่าว หลายประเทศกำลังดำเนินการพัฒนาอย่างเป็นความลับอย่างเข้มงวด เร็วๆ นี้จะมีรายงานเกี่ยวกับการใช้หุ่นยนต์ในจุดร้อนของโลกมากขึ้นเรื่อยๆ

หุ่นยนต์กำลังเรียนรู้ไปในทางที่ผิด

คาดการณ์ความล้มเหลวที่อาจเกิดขึ้นในโปรแกรมและเพื่อป้องกันการเพิ่มขึ้นของเครื่องจักร แนวคิดใหม่ได้รับการพัฒนาโดยมุ่งเป้าไปที่การอธิบายให้เครื่องจักรทราบถึงพฤติกรรมที่ถูกต้องและไม่พึงปรารถนา

การพัฒนาเหล่านี้น่าจะทำให้ AI เป็นมนุษย์มากขึ้น นักวิทยาศาสตร์บางคนมองว่าแนวทางนี้เป็นกุญแจสำคัญในการป้องกันไม่ให้ AI เปลี่ยนอาวุธต่อต้านมนุษยชาติ

สถาบันเทคโนโลยีแห่งจอร์เจียกำลังทำการทดลองที่ไม่เหมือนใคร นักวิจัยนำโดย Mark Riddle และ Brent Harrison กำลังเล่าเรื่องผ่านคอมพิวเตอร์ ด้วยวิธีนี้ พวกเขาพยายามที่จะแนบ AI เข้ากับค่านิยมของมนุษย์ พัฒนาจรรยาบรรณ นักวิทยาศาสตร์ใช้วิธีการเลี้ยงลูกเพื่อสอนโปรแกรม AI ก็เหมือนกับเด็กที่ไม่มีประสบการณ์ ไม่มีความแตกต่างระหว่างความดีและความชั่ว

มีข้อบกพร่องร้ายแรงในแนวทางนี้ ประวัติศาสตร์ของมนุษยชาติมีตัวอย่างมากมายเมื่อสถานการณ์บีบคั้นให้ประเทศที่พัฒนาแล้วระดับสูงทั้งประเทศต้องก่อสงครามและก่อความทารุณโหดร้าย ตัวอย่างจะเป็นฟาสซิสต์เยอรมนีซึ่งทหารดำเนินการฆ่าล้างเผ่าพันธุ์ของประชาชนทั้งหมด ในเวลาเดียวกัน วัฒนธรรมเยอรมันเป็นหนึ่งในวัฒนธรรมที่พัฒนามากที่สุดในโลกในขณะนั้น อะไรจะขัดขวาง AI จากการทำซ้ำการทดลองของฮิตเลอร์

ปัญญาประดิษฐ์ (AI) เป็นหัวข้อที่อยู่ในหน้านิตยสารวิทยาศาสตร์ยอดนิยมมาเป็นเวลานานและได้รับความสนใจอย่างต่อเนื่องในภาพยนตร์และหนังสือ ยิ่งผู้เชี่ยวชาญพัฒนาวิทยาศาสตร์ในด้านนี้มากเท่าไหร่ ก็ยิ่งกลายเป็นตำนานมากขึ้นเท่านั้น

การพัฒนาและอนาคตของปัญญาประดิษฐ์ยังสร้างความกังวลให้กับผู้ที่อยู่ภายใต้การควบคุมของรัฐ เมื่อไม่นานมานี้ ประธานาธิบดีรัสเซีย วลาดิมีร์ ปูติน ได้เยี่ยมชมสำนักงานยานเดกซ์ในวันครบรอบ 20 ปีของบริษัท ซึ่งพวกเขาได้อธิบายให้เขาฟังว่าเมื่อใดที่ AI จะเกินความฉลาดของมนุษย์

ใครก็ตามที่เข้าใจถึงศักยภาพของปัญญาประดิษฐ์เพียงเล็กน้อยก็เข้าใจดีว่าหัวข้อนี้ไม่สามารถละเลยได้ นี่ไม่ใช่แค่หัวข้อสำคัญสำหรับการอภิปราย แต่อาจเป็นหนึ่งในหัวข้อที่สำคัญที่สุดในบริบทของอนาคต

กล่าวอีกนัยหนึ่งก็คือความสำเร็จที่โดดเด่นในประเทศของเราเช่นกัน

เทคโนโลยีปัญญาประดิษฐ์ที่พัฒนาขึ้นเร็วขึ้น คนจำนวนมากขึ้นเท่านั้นที่กลัวว่าพวกเขาจะตกงานเร็วแค่ไหน ทุกอย่างเลวร้ายจริงหรือ?

ใช่และไม่. มนุษยชาติได้ประสบมาแล้วหลายครั้งกับการเกิดขึ้นของเทคโนโลยีที่ปฏิวัติภาคการผลิตทั้งหมด

ดังนั้นมันจึงเป็นเครื่องจักรไอน้ำในยุคของการปฏิวัติอุตสาหกรรม ซึ่งในทางปฏิบัติได้ทำลายอาชีพจำนวนมาก (ส่วนใหญ่เกี่ยวข้องกับการใช้แรงงานทางกายภาพดั้งเดิม) ดังนั้นคอมพิวเตอร์อิเล็กทรอนิกส์จึงเข้ามาแทนที่มนุษย์ในงานโดยอาศัยการคำนวณทางคณิตศาสตร์แบบสตรีม

ในศตวรรษที่ 15-18 เมื่อ "แกะกินคน" ในอังกฤษ ผลกระทบทางสังคมก็กลายเป็นหายนะอย่างแท้จริง อังกฤษสูญเสียประชากรตามการประมาณการต่างๆ จาก 7 ถึง 30% ของประชากรทั้งหมด ผู้มีอำนาจสูงสุดในสมัยนั้นกังวลอย่างจริงจังว่าจะทำอย่างไรกับคนพิเศษ โจนาธาน สวิฟต์ตอบสนองต่อการค้นหาเหล่านี้ด้วยแผ่นพับตลกๆ ที่เขาแนะนำให้กินเด็กที่ยากจน

อย่างไรก็ตาม วันนี้เราพบว่าอาชีพที่สูญพันธุ์ได้ถูกแทนที่ด้วยอาชีพใหม่ และจำนวนประชากรของโลกก็มากกว่าในศตวรรษที่ 18 มาก ในศตวรรษที่ 20 ผลที่ตามมาจากระบบอัตโนมัติไม่ได้เลวร้ายนักจากมุมมองทางสังคมอีกต่อไป อย่างไรก็ตาม อันตรายไม่ควรมองข้าม

Moshe Vardi ศาสตราจารย์ด้านวิศวกรรมคอมพิวเตอร์และผู้อำนวยการสถาบันเทคโนโลยีสารสนเทศเคนเนดีแห่งมหาวิทยาลัยไรซ์ (William Marsh) กล่าวว่า "ในอีก 30 ปีข้างหน้า หุ่นยนต์จะสามารถทำได้เกือบทุกอย่างที่มนุษย์สามารถทำได้" มหาวิทยาลัยไรซ์ กล่าว สิ่งนี้จะนำไปสู่ความจริงที่ว่ามากกว่า 50% ของชาวโลกจะตกงาน”

หุ่นยนต์รับงาน

เมื่อเร็ว ๆ นี้ Leonid Levin ประธานคณะกรรมการ State Duma ด้านนโยบายข้อมูล เทคโนโลยีสารสนเทศและการสื่อสาร กล่าวว่าสำหรับรัสเซีย ปัญหาในการเปลี่ยนพนักงานด้วยปัญญาประดิษฐ์เป็นสิ่งสำคัญ

ไม่ช้าก็เร็ว ผู้คนจะถูกแทนที่ด้วยระบบอัตโนมัติ และ 2% ของประชากรที่ทำงานในประเทศจะหลั่งไหลเข้าสู่ตลาด นั่นคือเหตุผลที่เลวินกล่าวว่าจะจ้างพวกเขาอย่างไร คนที่จะตกงานเนื่องจากการพัฒนาเทคโนโลยีดิจิทัล

ตามที่ประธานกล่าว ในอนาคตอันใกล้นี้ เราจะเผชิญกับการว่างงานที่เพิ่มขึ้น แต่หุ่นยนต์จะ "แย่งชิง" งานของเราจริง ๆ และมันคุ้มค่าไหมที่จะกังวลเรื่องนี้ Sergey Markov ผู้เชี่ยวชาญด้านแมชชีนเลิร์นนิงกล่าวกับ Reedus

Sergei แม้ว่าตอนนี้มี "อาชีพที่ตายแล้ว" ที่ไม่ต้องการแรงงานมนุษย์แม้ว่าจะดูเหมือนว่าเมื่อ 10 ปีที่แล้วไม่มีใครคิดว่าตัวอย่างเช่นตัวนำจะไม่จำเป็นในไม่ช้า และอาชีพอื่นใดที่จะมาแทนที่เทคโนโลยี?

เรากำลังเข้าใกล้เวลาที่เครื่องจักรจะแซงหน้ามนุษย์ในแทบทุกสาขา ฉันเชื่อว่าสังคมต้องเผชิญปัญหานี้ก่อนที่จะเติบโตเต็มที่ ถ้าเครื่องจักรทำได้เกือบทุกอย่างที่คนทำได้ พวกเขาจะเหลือทำอะไร? Moshe Vardi ศาสตราจารย์ด้านวิศวกรรมคอมพิวเตอร์และผู้อำนวยการสถาบันเทคโนโลยีสารสนเทศ Ken Kennedy แห่งมหาวิทยาลัย Rice กล่าว

เป็นเวลานานที่ข้อจำกัดทางเทคโนโลยีขัดขวางการทำงานของระบบอัตโนมัติ - เครื่องจักรไม่รู้จักภาพและคำพูด ไม่สามารถพูดได้ ไม่เข้าใจความหมายของข้อความในภาษาธรรมชาติดีพอ ไม่มีข้อมูลเพียงพอที่จะเรียนรู้สิ่งต่าง ๆ ที่คุ้นเคย มนุษย์.

ต้องขอบคุณความก้าวหน้าล่าสุดในด้านปัญญาประดิษฐ์ ข้อจำกัดเหล่านี้หลายๆ ข้อจึงถูกยกเลิกไปจริงๆ นอกจากนี้ หลายอาชีพเองก็ได้ผ่านการเปลี่ยนแปลงซึ่งทำให้เหมาะสมกับการทำงานอัตโนมัติมากขึ้น

ตัวอย่างเช่น เสมียนสำนักงานสมัยใหม่ไม่โต้ตอบบนกระดาษ แต่ในรูปแบบอิเล็กทรอนิกส์ นักบัญชีไม่ได้ทำการผ่านรายการบนกระดาษ แต่ในโปรแกรมบัญชี ผู้ควบคุมเครื่องจักรมักจะควบคุมเครื่องโดยไม่ใช้มือจับ แต่ด้วยความช่วยเหลือ ของโปรแกรมควบคุม ดังนั้นตอนนี้งานของระบบอัตโนมัติในหลาย ๆ อาชีพจึงหยุดเป็นวิทยาศาสตร์และกลายเป็นงานวิศวกรรมล้วนๆ

จริงอยู่ จนถึงตอนนี้ ภาคการผลิตที่เกี่ยวข้องกับ AI มีแนวโน้มที่จะสร้างงานมากขึ้น - จำเป็นต้องมีผู้เชี่ยวชาญในด้านการเรียนรู้ของเครื่องและการจัดเตรียมข้อมูล พนักงานสำหรับการทำเครื่องหมายอาร์เรย์การฝึกอบรม ผู้เชี่ยวชาญด้านการใช้งาน ฯลฯ เป็นสิ่งจำเป็น แต่ในบางจุด แกะไฟฟ้า จะเริ่มกินคนอย่างแน่นอนและผลที่ตามมาจะต้องได้รับการดูแลในขณะนี้

ในขณะเดียวกัน สิ่งสำคัญคือต้องเข้าใจว่าไม่สามารถหยุดความก้าวหน้าทางเทคโนโลยีได้ และความพยายามที่จะทำเช่นนั้นจะส่งผลให้เกิดความหายนะมากขึ้น

เราจะสามารถไว้วางใจหุ่นยนต์ (AI) ได้อย่างสมบูรณ์หรือควรจะยังมีปัจจัยมนุษย์ในธุรกิจใด ๆ หรือไม่?

คำถามนี้มีหลายแง่มุม ด้านหนึ่ง คนในอดีตมักระมัดระวังเทคโนโลยีแทบทุกอย่าง ลิฟต์ตัวแรก รถคันแรก รถไฟขบวนแรกหรือเครื่องบิน ทั้งหมดนี้เคยไม่ปกติ และดูเหมือนอันตรายสำหรับหลายๆ คน ใช่ มันอันตรายในหลาย ๆ ด้าน ภัยพิบัติที่มนุษย์สร้างขึ้นได้คร่าชีวิตผู้คนไปมากมาย

แต่ในสมัยของเรา สิ่งเหล่านี้ได้กลายเป็นสิ่งที่คุ้นเคยและไม่ก่อให้เกิดความกลัวอีกต่อไป ในแง่นี้ ลูกหลานของเราจะปฏิบัติต่อระบบ AI อย่างใจเย็นมากขึ้น บางครั้งผู้คนมักจะทำให้เข้าใจผิดในสิ่งที่พวกเขาไม่เข้าใจ ป่าเถื่อนคิดว่าวิญญาณชั่วร้ายอาศัยอยู่ในเครื่องยนต์ และคนธรรมดาสมัยใหม่คิดว่าระบบ AI ของเรานั้นมีสติสัมปชัญญะ แม้ว่าสิ่งนี้จะยังห่างไกลจากกรณีนี้

ในทางกลับกัน ฉันไม่คิดว่าระบบ AI สำหรับงานทั่วไปจะเข้ามาเป็นส่วนหนึ่งของอุตสาหกรรมของเรา ในความคิดของฉัน อนาคตมีแนวโน้มมากขึ้นสำหรับระบบสังเคราะห์ - นั่นคือสำหรับการรวมกันของมนุษย์และเครื่องจักรเป็นสิ่งมีชีวิตเดียว ในแง่นี้ปัญญาประดิษฐ์แห่งอนาคตจะพัฒนาสติปัญญาของมนุษย์

อย่างไรก็ตาม สติปัญญาของมนุษย์ยังไม่ถูกต้องทั้งหมดที่จะเรียกว่าเป็นธรรมชาติ เด็กตั้งแต่แรกเกิดไม่มีสติปัญญา สังคม พ่อแม่ และสิ่งแวดล้อมสอนทุกอย่างให้เขา ในแง่นี้ คุณและฉันต่างก็เป็น "ปัญญาประดิษฐ์" โดยพื้นฐานแล้ว และความกลัวของเราที่เกี่ยวข้องกับ AI ก็คือความกลัวในตัวเองในหลาย ๆ ด้าน

เมื่อเร็ว ๆ นี้ นักวิทยาศาสตร์หลายคน เช่น Stephen Hawking, Bill Gates หรือ Elon Musk คนเดียวกัน เริ่มตื่นตระหนกว่า AI จะลงโทษมนุษย์ให้ตาย และพวกเขามองว่าอนาคตเป็นโทเปียบางอย่าง การคาดการณ์ดังกล่าวควรได้รับการพิจารณาอย่างจริงจังหรือไม่?

พูดตามตรงฉันจะไม่รีบร้อนที่จะตกใจกับข้อความเหล่านี้อย่างจริงจัง Stephen Hawking ไม่ใช่ผู้เชี่ยวชาญด้าน AI และ Elon Musk ก็เช่นกัน

อีกด้านหนึ่งของมาตราส่วนคือคำกล่าวของผู้คนเช่น Andrew Ng นักวิทยาศาสตร์คอมพิวเตอร์ชาวอเมริกัน รองศาสตราจารย์ที่ Stanford University นักวิจัยด้านวิทยาการหุ่นยนต์และการเรียนรู้ของเครื่อง และผู้เชี่ยวชาญชั้นนำในห้องปฏิบัติการปัญญาประดิษฐ์ของบริษัท Baidu ของจีน .

อึนที่พูดถึงปัญหาความปลอดภัยของ AI เปรียบเทียบกับปัญหาการมีประชากรมากเกินไปบนดาวอังคาร แน่นอนว่าเราจะตั้งอาณานิคมบนดาวอังคารสักวันหนึ่ง และในบางครั้งอาจมีปัญหาเรื่องประชากรมากเกินไป แต่มันคุ้มค่าที่จะทำวันนี้หรือไม่?

Mark Zuckerberg ค่อนข้างสงสัยในคำกล่าวอ้างของ Musk “ปัญญาประดิษฐ์จะทำให้ชีวิตของเราดีขึ้นในอนาคต และการทำนายวันสิ้นโลกนั้นเป็นสิ่งที่ขาดความรับผิดชอบอย่างมาก” เขากล่าว

โดยส่วนตัวแล้ว ฉันคิดว่าคำกล่าวของ Musk ควรได้รับการพิจารณาในเชิงปฏิบัติ - มัสค์ต้องการเดิมพันในหัวข้อนี้และในอุดมคติแล้ว ควรได้รับเงินทุนจากรัฐเพื่อพัฒนามัน

ทุกอย่างเป็นสีดอกกุหลาบจริง ๆ และไม่มีอะไรต้องกังวลหรือไม่?

อันตรายที่แท้จริงที่เกี่ยวข้องกับการพัฒนาของ AI ในความคิดของฉันอยู่ในระนาบที่แตกต่างไปจากเดิมอย่างสิ้นเชิงกว่าที่คิดทั่วไป ความเสี่ยงหลักไม่ได้เชื่อมโยงกับความจริงที่ว่าเราจะสร้าง "Skynet" ของเราเองซึ่งจะทำให้มนุษย์ตกเป็นทาส ความเสี่ยงจากการนำ AI และเทคโนโลยีการเรียนรู้ของเครื่องมาใช้นั้นเป็นเรื่องที่น่าเบื่อหน่ายกว่ามาก

มอบการแก้ปัญหาที่สำคัญให้กับแบบจำลองทางคณิตศาสตร์อย่างใดอย่างหนึ่งหรือแบบอื่น เราสามารถประสบข้อผิดพลาดที่เกิดขึ้นในการพัฒนาของพวกเขา ปัญญาประดิษฐ์ที่ทำซ้ำการกระทำของผู้เชี่ยวชาญของมนุษย์จะสืบทอดความผิดพลาดและอคติ ข้อบกพร่องในระบบการจัดการการผลิตหรือการขนส่งสามารถนำไปสู่ภัยพิบัติได้

การรบกวนที่เป็นอันตรายในการทำงานของระบบที่สำคัญในสภาวะของระบบอัตโนมัติทั้งหมดสามารถนำไปสู่ผลที่เป็นอันตราย ยิ่งระบบซับซ้อนมากเท่าใด ช่องโหว่ที่อาจเกิดขึ้นก็จะยิ่งมากขึ้นเท่านั้น รวมถึงช่องโหว่ที่เกี่ยวข้องกับอัลกอริธึมปัญญาประดิษฐ์บางอย่าง

แน่นอน ในการจัดการความเสี่ยงเหล่านี้ จำเป็นต้องสร้างกรอบกฎหมาย ข้อบังคับด้านความปลอดภัยที่เหมาะสม วิธีการพิเศษในการระบุช่องโหว่ ระบบ AI บางระบบจะใช้เพื่อควบคุมระบบอื่น บางทีอาจจำเป็นต้องเผยแพร่รหัสของระบบที่สำคัญสำหรับการตรวจสอบที่เป็นอิสระ กล่าวอีกนัยหนึ่ง ยังมีงานอีกมากที่ต้องทำในพื้นที่นี้

ลิขสิทธิ์ภาพ Thinkstockคำบรรยายภาพ การอยู่ร่วมกันของมนุษย์และเครื่องจักรเป็นวิธีหนึ่งในการพัฒนามนุษยชาติ

แมชชีนอัจฉริยะเรียนรู้ที่จะบลัฟฟ์ เอาชนะมืออาชีพในหมากรุกหรือเกมโก แปลและจดจำเสียงมนุษย์ได้ ทุกสัปดาห์เราเรียนรู้เกี่ยวกับความสามารถใหม่ๆ ของโปรแกรมคอมพิวเตอร์ที่สามารถวินิจฉัยทางการแพทย์ได้แล้ว วาดภาพเหมือนแรมแบรนดท์ ร้องเพลงหรือสร้างข้อความ บุคคลควรกลัวปัญญาประดิษฐ์หรือไม่?

หัวข้อปัญญาประดิษฐ์ (AI / AI) กลายเป็น "ร้อนแรง" ในช่วงไม่กี่ปีที่ผ่านมา นักวิทยาศาสตร์เชื่อว่าสิ่งนี้เกิดจากการพัฒนาอย่างรวดเร็วของโครงข่ายประสาทเทียม (หนึ่งในงานวิจัยด้านปัญญาประดิษฐ์) ซึ่งในทางกลับกันก็เป็นไปได้ด้วยการถือกำเนิดของคอมพิวเตอร์ที่ทรงพลัง

"ตั้งแต่ช่วงต้นทศวรรษ 2010 ซึ่งได้รับแรงหนุนจากความก้าวหน้าที่น่าประทับใจในโครงข่ายประสาทเทียมแบบหลายชั้น (ส่วนใหญ่เป็นแบบหมุนวนและเป็นซ้ำ) สาขาวิชานี้ได้รับความสนใจอย่างมากจากทั้งนักวิทยาศาสตร์ วิศวกร และนักลงทุน" ผู้เขียนให้ความเห็น หนึ่งในโปรแกรมหมากรุกของรัสเซีย ผู้เชี่ยวชาญในวิธีการเรียนรู้ของเครื่อง Sergey Markov

ชุมชนวิทยาศาสตร์อาจโต้แย้งเกี่ยวกับจังหวะเวลาของการปรากฏตัวของเครื่องจักรอัจฉริยะ แต่พวกเขาเห็นด้วยกับสิ่งหนึ่ง: การพัฒนาเทคโนโลยีจะมีผลกระทบอย่างไม่มีเงื่อนไขต่อสังคม เศรษฐกิจ และความสัมพันธ์ระหว่างผู้คนในอนาคต มีการเรียกร้องให้สะท้อนถึงหลักการทางจริยธรรมของการพัฒนา AI เพื่อให้แน่ใจว่า AI พัฒนาไปในทิศทางที่ปลอดภัยสำหรับมนุษย์

นี้ mวัสดุที่จัดทำขึ้นเพื่อตอบคำถามส, ส่งแล้วอีผู้อ่านของเราเกี่ยวกับความสำเร็จทางวิทยาศาสตร์. คุณสามารถถามคำถามของคุณในหัวข้ออื่น ๆ ได้ที่ลิงค์เหล่านี้ ( , ).

ผลกระทบทางเศรษฐกิจและผลกระทบต่อตลาดแรงงาน

นิยายวิทยาศาสตร์และฮอลลีวูดได้กำหนดแนวคิดของ "ปัญญาประดิษฐ์" ว่าเป็นสิ่งมีชีวิตรูปแบบต่อไปบนโลกที่จะกดขี่มนุษยชาติในเมทริกซ์หรือจัดระเบียบวันโลกาวินาศนิวเคลียร์ ผู้รอดชีวิตจะถูกกำจัดโดยเทอร์มิเนเตอร์

ลิขสิทธิ์ภาพเก็ตตี้อิมเมจคำบรรยายภาพ มนุษยชาติจะตายจาก Skynet หรือไม่?

นักวิทยาศาสตร์และผู้เชี่ยวชาญยอมรับว่า นักวิทยาศาสตร์และผู้เชี่ยวชาญต่างยอมรับการเกิดขึ้นของจักรกลอัจฉริยะในด้านที่ประสบความสำเร็จล่าสุดในด้านล่าสุด อย่างไรก็ตาม ทั้งสิ่งเหล่านั้นและอื่น ๆ ควรให้ความสนใจกับบางแง่มุมในตอนนี้

McKinsey Global Institute ประมาณการว่าเทคโนโลยีใหม่จะเปลี่ยนตลาดแรงงานทั่วโลกอย่างรุนแรงในช่วง 10 ปีข้างหน้า โดยประหยัดเงินได้ประมาณ 50 ล้านล้านดอลลาร์

การเปลี่ยนแปลงจะส่งผลต่องานหลายร้อยล้านงาน ผู้คนจำนวนมากขึ้นเรื่อยๆ จะถ่ายงานบางส่วนและงานประจำจำนวนมากลงในเครื่อง ทำให้พวกเขามุ่งความสนใจไปที่งานสร้างสรรค์ของตน

Grigory Bakunov ผู้เชี่ยวชาญ ผู้อำนวยการฝ่ายเผยแพร่เทคโนโลยี Yandex กล่าวว่า "จากมุมมองหนึ่งๆ มนุษยชาติโดยรวมมีภารกิจที่สำคัญและน่าสนใจ - การพัฒนาระบบปัญญาประดิษฐ์สำหรับแต่ละคนเร็วกว่าที่มนุษย์จะพัฒนาได้เร็วกว่ามนุษย์มาก

แต่หากใช้ร่วมกับระบบอัตโนมัติ บุคลากรที่มีคุณสมบัติน้อยกว่าจะต้องทนทุกข์อย่างหลีกเลี่ยงไม่ได้ และตอนนี้จำเป็นต้องคิดหาวิธีปกป้องพวกเขา ฝึกฝน และเตรียมพวกเขาให้พร้อมสำหรับชีวิตใหม่

จากการฝึกฝนแสดงให้เห็นว่า ไม่เพียงแต่คนงานคอปกเท่านั้น แต่คนงานที่มีความรู้ก็สามารถทนทุกข์ได้เช่นกัน เมื่อไม่กี่วันก่อน Goldman Sachs ได้เปลี่ยนทีมเทรดเดอร์ 600 คนด้วยคนสองคนและโปรแกรมการซื้อขายอัลกอริทึมอัตโนมัติ ซึ่งนักพัฒนาซอฟต์แวร์ 200 คนได้รับการว่าจ้างให้ดูแล

ลิขสิทธิ์ภาพ Thinkstockคำบรรยายภาพ ในไม่ช้างานจำนวนมากจะกลายเป็นพลังของระบบหุ่นยนต์ ซึ่งจะค่อยๆ เริ่มเข้ามาแทนที่ผู้คน

ปัญญาประดิษฐ์ในตัวเองนั้นไม่เหมือนกันกับกระบวนการอัตโนมัติ แต่การพัฒนา AI จะนำไปสู่ความจริงที่ว่างานจำนวนมากขึ้นจะอยู่ในอำนาจของโปรแกรมคอมพิวเตอร์

ท่ามกลางการแก้ปัญหาการกระจัดของมนุษย์โดยเครื่องจักรในตลาดแรงงาน ดังที่ Allison Dutman ผู้ประสานงานโครงการของ Foresight Institute ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่ตั้งอยู่ใน Silicon Valley เพื่อส่งเสริมเทคโนโลยีใหม่ ๆ ชี้ให้เห็นถึงการแนะนำแนวคิด ของ "รายได้พื้นฐานสากล" ที่ผู้อยู่อาศัยทุกคนจะได้รับ โดยไม่คำนึงถึงรายได้และระดับการจ้างงาน รายได้ดังกล่าวจะได้รับการสนับสนุนทางการเงินจากภาษีมูลค่าที่ดิน ซึ่งขณะนี้ได้มีการหารือกันอย่างแข็งขันในซิลิคอนแวลลีย์

ปัญญาประดิษฐ์เป็นคนหรือไม่?

ระบบหุ่นยนต์เป็นคนหรือไม่? สมาร์ทคอมพิวเตอร์สามารถโหวตได้หรือไม่? เขาเป็นเพศอะไร ความสัมพันธ์ระหว่างผู้ชายกับเครื่องจักรอัจฉริยะกำลังถูกหารือกันโดย MEPs โดยสงสัยว่าหุ่นยนต์ในอนาคตควรได้รับสถานะ "บุคลิกภาพแบบอิเล็กทรอนิกส์" หรือไม่

ดังที่ Dutman ชี้ให้เห็น ผู้คนไม่เต็มใจที่จะแบ่งปันสิทธิ์กับคนที่พวกเขาไม่เข้าใจ ซึ่งหมายความว่าพวกเขาจะต่อต้าน "การทำให้เป็นมนุษย์" ของ AI

ลิขสิทธิ์ภาพเอเอฟพีคำบรรยายภาพ มนุษย์กับเครื่องจักรแยกจากกันโดยสิ่งสำคัญ - ความสามารถในการคิด

“เมื่อพิจารณาถึงระยะเวลาที่มนุษยชาติมุ่งไปสู่การให้สิทธิที่เท่าเทียมกันกับทุกคน โดยไม่คำนึงถึงสีผิว เชื้อชาติ หรือเพศ ก็สามารถสันนิษฐานได้แล้วว่าพวกเขาไม่รู้จักเครื่องจักรว่าเท่าเทียมกันในทันที

เมื่อรวมกับคำถามด้านจริยธรรมแล้ว ยังมีรายละเอียดทางกฎหมายอีกด้วย: ผู้ที่จะรับผิดชอบในกรณีที่เกิดอุบัติเหตุจากยานพาหนะไร้คนขับหรืออุปกรณ์การแพทย์อัจฉริยะเสีย - และคำถามทางศีลธรรม: การพัฒนาอาวุธไร้คนขับที่สามารถทำงานได้โดยไม่ต้องมีคนขับนั้นคุ้มค่าหรือไม่ ความรู้ของบุคคล?

ปริศนาจริยธรรมข้อที่สามถูกกล่าวถึงบ่อยกว่าเกมอื่นและกระตุ้นมนุษยชาติให้ตื่นตาตื่นใจมากขึ้น: อัจฉริยะขั้นสูงสุดในเชิงทฤษฎี เครื่องจักรอันชาญฉลาดจริง ๆ จะทำอะไรกับมนุษยชาติได้บ้าง

สอนจรรยาบรรณ AI

ผู้เชี่ยวชาญในด้านการพัฒนา AI ตระหนักดีว่าหากไม่ใช่ในอีก 20-30 ปีข้างหน้า มนุษยชาติจะยังคงมีชีวิตอยู่เพื่อดูการเกิดขึ้นของปัญญาประดิษฐ์ที่แท้จริง ซึ่งจะฉลาดกว่าผู้สร้าง

“ปราการสุดท้ายจะถูกยึดเมื่อสิ่งที่เรียกว่า “AI ที่แข็งแกร่ง” (Strong AI, ปัญญาประดิษฐ์ทั่วไป) ถูกสร้างขึ้น นั่นคือ AI ดังกล่าวที่จะสามารถแก้ไขงานทางปัญญาที่หลากหลายอย่างไม่มีกำหนด” Sergey กล่าว มาร์คอฟ

และที่สำคัญที่สุด AI ดังกล่าวจะสามารถคิดได้อย่างอิสระ

ภัยคุกคามที่เกิดจาก AI รวมถึงประเด็นด้านจริยธรรมที่เกี่ยวข้องกับเทคโนโลยีใหม่ กำลังได้รับการศึกษาโดยสถาบันหลายแห่ง รวมถึงสถาบัน Future of Life, สถาบัน Foresight, สถาบัน Future of Humanity, OpenAI และอื่นๆ

วิธีแก้ปัญหาของ Allison Dutman จาก Foresight Institute คือให้คอมพิวเตอร์อ่านวรรณกรรมทางวิทยาศาสตร์ เอกสารทางวิทยาศาสตร์ที่ตั้งคำถามเกี่ยวกับจริยธรรม และทำให้ข้อมูลนั้นเป็นพื้นฐานสำหรับการตัดสินใจในอนาคต

Neural Networks คืออะไรและอนาคตของพวกเขาคืออะไร?

ผู้เชี่ยวชาญส่วนใหญ่ระบุว่าความก้าวหน้าในการพัฒนา AI มาจากการพัฒนาโครงข่ายประสาทเทียม

โครงข่ายประสาทเทียมเป็นหนึ่งในพื้นที่ของการวิจัยในด้านปัญญาประดิษฐ์ โดยอิงจากการจำลองกระบวนการทางชีววิทยาที่เกิดขึ้นในสมองของมนุษย์

สำหรับพวกเขาแล้ว เราเป็นหนี้การแสดงผลลัพธ์ที่น่าประทับใจในการรู้จำคำพูดและภาพ การวินิจฉัยทางการแพทย์ การแปลข้อความและการสร้างภาพ การสร้างคำพูด และองค์ประกอบทางดนตรี

ลิขสิทธิ์ภาพ iStockคำบรรยายภาพ มันอยู่กับการพัฒนาระบบประสาทที่นักวิทยาศาสตร์เชื่อมโยงการพัฒนาปัญญาประดิษฐ์

ในปัจจุบัน ตามที่ผู้เชี่ยวชาญยอมรับ โครงข่ายประสาทเทียมได้รับการยอมรับว่าเป็นหนึ่งในอัลกอริธึมการเรียนรู้ด้วยเครื่องที่ดีที่สุด และโซลูชันที่อิงตามเหล่านี้ได้แสดงผลลัพธ์ที่โดดเด่นที่สุดในขณะนี้

และนี่คือความจริงที่ว่าโครงข่ายประสาทเทียมสมัยใหม่นั้นง่ายกว่าสมองของหนูหนึ่งพันห้าพันเท่า

"จนถึงตอนนี้ โครงข่ายประสาทเทียมที่เราสร้างขึ้นมีขนาดค่อนข้างเล็กเมื่อเทียบกับโครงข่ายประสาทของสมองมนุษย์ และนอกจากนี้ โครงข่ายประสาทเทียมธรรมชาติยังเป็นแอนะล็อกที่เข้าใจง่ายมาก ดังนั้น ในขณะนี้ด้วย ด้วยความช่วยเหลือของโครงข่ายประสาทเทียม เราส่วนใหญ่แก้ปัญหาที่ใช้อย่างหมดจด" - Sergei Markov กล่าว

ปัจจุบันมีการสร้างโปรเซสเซอร์เฉพาะสำหรับการฝึกอบรมเครือข่ายดังกล่าว (เรียกว่าโปรเซสเซอร์ neuromorphic) ซึ่งจะเพิ่มความเร็วในการคำนวณตามลำดับความสำคัญหลายระดับ

นักพัฒนาไม่เพียงแต่ยุ่งกับการเพิ่มจำนวนเซลล์ประสาทในเครือข่ายเท่านั้น แต่ยังต้องเปลี่ยนการออกแบบเครือข่ายอีกด้วย Grigory Bakunov กล่าวว่า "ระบบการกำหนดค่าเครือข่ายที่ซับซ้อนเป็นสิ่งที่ทำการทดลองจำนวนมากที่สุดในปัจจุบัน

ลิขสิทธิ์ภาพ iStockคำบรรยายภาพ ในอนาคตอันใกล้จะมีผู้ช่วยมนุษย์ที่ "ฉลาด" มากขึ้น - ไมโครเซ็นเซอร์ในผนัง เซ็นเซอร์ขนาดปุ่มที่เตือนบุคคลในกรณีที่เกิดอันตราย

และความจริงที่ว่าระบบดังกล่าวเข้าถึงได้ง่ายสำหรับนักพัฒนาทั่วไปจำนวนมากได้นำไปสู่การเริ่มต้นของการทดลองกับโครงข่ายประสาทเทียมเช่น Prisma (แอปพลิเคชันที่ช่วยให้คุณสามารถประมวลผลภาพถ่ายโดยเปลี่ยนให้เป็นสไตล์ของภาพวาดที่มีชื่อเสียง ศิลปิน) และ Mubert (นักประพันธ์เพลงอิเล็กทรอนิกส์ออนไลน์)

สิ่งที่รอเราอยู่ในอนาคตอันใกล้นี้

อย่างที่นิค เลน ศาสตราจารย์จาก University College London และหัวหน้านักวิทยาศาสตร์ของ Nokia Bell Labs คาดการณ์ว่า "สิ่งที่ชาญฉลาด" รอบตัวมนุษย์จะมีมากขึ้น จะเล็กลงและมีประสิทธิภาพมากขึ้น

ศาสตราจารย์ให้ตัวอย่างต่อไปนี้: หากก่อนหน้านี้เซ็นเซอร์ที่ติดตั้งอยู่ในผนังสามารถรับรู้ได้ว่ามีใครบางคนเดินผ่านไปในอนาคตจะไม่เพียง แต่รู้ว่าใครผ่านไปโดยเฉพาะเท่านั้น แต่ยังรู้ว่าบุคคลนั้นมีพฤติกรรมอย่างไรไม่ว่าเขาจะต้องการอะไรก็ตาม ไม่แสดงว่าตนเป็นภัยต่อตนเองหรือผู้อื่น

เซ็นเซอร์ขนาดปุ่มจะสามารถแจ้งเตือนบุคคลในกรณีที่เกิดอันตราย

Grigory Bakunov จาก Yandex ก็เห็นด้วยกับศาสตราจารย์เช่นกันว่า "ในอนาคตอันใกล้นี้ เราจะเห็นความเจริญในการพัฒนาปัญญาประดิษฐ์แบบแคบ ซึ่งช่วยแก้ปัญหาที่ค่อนข้างง่ายอย่างหนึ่ง แต่จะแก้ปัญหาได้ดีกว่าตัวบุคคล"

ลิขสิทธิ์ภาพ iStockคำบรรยายภาพ มีคำถามเกี่ยวกับจริยธรรมมากขึ้นเรื่อยๆ ที่เกี่ยวข้องกับการพัฒนา AI

"เส้นทางที่เป็นไปได้มากที่สุดสำหรับการพัฒนาอารยธรรมของเราคือเส้นทางของการสังเคราะห์ของมนุษย์และเครื่องจักร: ไม้, เสื้อผ้า, รถยนต์, โทรศัพท์มือถือ, เครื่องกระตุ้นหัวใจหรือประสาทหูเทียม - ขณะที่เราพัฒนาเครื่องมือของเรามีความคล้ายคลึงกันมากขึ้น ส่วนขยายของร่างกายของเรา ในวันพรุ่งนี้ เครื่องจักรจะสามารถรับคำสั่งทางจิต รับรู้ภาพที่สร้างขึ้นในจิตใจ ส่งข้อมูลโดยตรงไปยังสมอง - โครงการดังกล่าวมีอยู่แล้วนอกกำแพงของห้องปฏิบัติการเทคโนโลยีขั้นสูงสุด" สรุป เซอร์เกย์ มาร์คอฟ

นักข่าวยังมีความจำเป็นอยู่หรือไม่?

Financial Times ได้ทำการทดลองที่ค่อนข้างเสี่ยงในปีที่แล้วโดยท้าทายนักข่าวโปรไฟล์และโปรแกรมอัจฉริยะชื่อ Emma ให้เขียนสำเนา บรรณาธิการของไฟแนนเชียลไทมส์ต้องอ่านบทความทั้งสองบทความและเดาว่านักข่าวคนไหนในสองคนนี้อยู่เบื้องหลังและคอมพิวเตอร์เครื่องไหน

ก่อน "การทดสอบการชน" แบบนี้ ผู้สื่อข่าวของ Financial Times ยอมรับว่า: "ฉันคิดว่าโปรแกรมจะรับมือกับงานนี้ได้เร็วกว่าฉันแน่นอน แต่ฉันหวังว่าฉันจะยังทำมันได้ดีขึ้น"

และมันก็เกิดขึ้น: เอ็มม่ากลายเป็นเร็วขึ้นจริง ๆ - โปรแกรมสร้างข้อความตามสถิติอัตราการว่างงานในสหราชอาณาจักรใน 12 นาที นักข่าวใช้เวลา 35 นาที และในขณะที่เธอยอมรับในเวลาต่อมา เอ็มมาก็เกินความคาดหมายของเธอ โครงการนี้ไม่เพียงแต่จัดการกับข้อเท็จจริงอย่างชำนาญเท่านั้น แต่ยังนำข่าวมาใส่ในบริบทด้วย โดยแนะนำว่า Brexit ที่เป็นไปได้ (ในเดือนพฤษภาคม 2559 ก่อนการลงประชามติในสหราชอาณาจักรจะออกจากสหภาพยุโรป) จะเปลี่ยนสถานการณ์ได้อย่างไร

ลิขสิทธิ์ภาพ Thinkstockคำบรรยายภาพ ระบบหุ่นยนต์จะเข้ามาแทนที่คนหรือไม่? มนุษยชาติเหลือเวลาอีก 50 ปี ผู้เชี่ยวชาญมั่นใจ

แต่เอ็มมาทำสิ่งที่แย่กว่านักข่าว “บทความของ Emma เขียนด้วยภาษาที่ดูงุ่มง่ามกว่าเล็กน้อย แต่สิ่งสำคัญคือ มีตัวเลขจำนวนมากอยู่ในนั้น” บรรณาธิการ FT ยอมรับ “และบางที สิ่งสำคัญที่เราพยายามทำในที่นี้คือ เลือกเฉพาะตัวเลขที่สำคัญจริงๆ”

Emma เป็นผลงานของสตาร์ทอัพ Stealth บริษัทกล่าวว่า Emma มีทีมผู้ช่วยที่ถ่ายทอดสด แต่อ้างว่าทุกอย่างที่เธอเขียนหรือทำคือผลผลิตของ "สมอง" ของเธอเท่านั้น

และยัง - จำเป็นต้องกลัว AI หรือไม่?

หากไม่ใช่ทั้งหมด ผู้เชี่ยวชาญหลายคนที่เกี่ยวข้องกับการพัฒนาระบบปัญญาประดิษฐ์ในปัจจุบันยอมรับว่า AI จะไม่ทำให้คนไม่จำเป็นในไม่ช้า แม่นยำเพราะปัญญาประดิษฐ์ยังไม่ฉลาดนัก สิ่งสำคัญที่เขาขาดในวันนี้คือความสามารถในการคิดแบบอิสระ

"ตอนนี้คุณไม่ควรกลัว AI ในรูปแบบใด ๆ คุณสามารถรอ 30-40 ปีจนกว่าจะมีการเปลี่ยนแปลงที่รุนแรงจริงๆ" Bakunov กล่าว

แต่มีบางอย่างกำลังเกิดขึ้น ทีละเล็กละน้อย เส้นแบ่งระหว่างงานหรืองานที่ดำเนินการโดยมนุษย์กับงานที่ดำเนินการโดยเครื่องจะเบลอ ตามที่ผู้เชี่ยวชาญอธิบาย แม้แต่ตอนนี้ก็ยากที่จะเข้าใจว่าใครกำลังนั่งอยู่ในระบบ - บุคคลหรือเครื่องจักร

"ไม่มีเกณฑ์ว่าเมื่อใดที่เราจะเข้าใจว่าจิตสำนึกได้เกิดขึ้นภายในเครื่อง" บาคูนอฟถาม

บุคคลนั้นจะกลายเป็นคลิปหนีบกระดาษหรือไม่?

นักปรัชญาที่รู้จักกันดีในมุมมองของผู้ตื่นตระหนกในกรอบที่ความน่าสะพรึงกลัวที่อธิบายไว้ใน Terminator สามารถกลายเป็นจริงได้ นักปรัชญา Nick Bostrom มีความเห็นว่า AI ที่ไปถึงระดับสติปัญญาของบุคคลแล้วจะเป็น สามารถทำลายมนุษยชาติได้

ลิขสิทธิ์ภาพเก็ตตี้อิมเมจคำบรรยายภาพ สิ่งที่อธิบายในภาพยนตร์จะกลายเป็นความจริงในชีวิตประจำวันของเราหรือไม่?

Bostrom อธิบายด้วยตัวอย่างคลิปหนีบกระดาษ: คุณท้าทายปัญญาประดิษฐ์ในการทำคลิปหนีบกระดาษให้ใหญ่และดีขึ้นให้ได้มากที่สุด เมื่อถึงจุดหนึ่ง AI ก็ตระหนักว่าบุคคลเป็นภัยคุกคาม เพราะเขาสามารถปิดคอมพิวเตอร์ได้ ซึ่งจะขัดกับงานทำคลิปหนีบกระดาษให้ได้มากที่สุด ในกรณีที่มนุษย์ไม่ใช่ภัยคุกคาม AI ตัดสินใจว่าร่างกายมนุษย์ประกอบด้วยอะตอมที่สามารถใช้ผลิตคลิปหนีบกระดาษที่ยอดเยี่ยมได้ ผลลัพธ์ - คอมพิวเตอร์จะนำมนุษยชาติมาสู่คลิปหนีบกระดาษ

สถานการณ์นี้ดูเหมือนว่าหลายคนจะพูดเกินจริง ตัวอย่างเช่น Sergei Markov "ประสิทธิภาพสูงในการบรรลุเป้าหมายที่ไร้สาระนั้นไม่สอดคล้องกับความไร้สาระของเป้าหมายนี้ กล่าวโดยคร่าว ๆ AI ที่สามารถแปลงโลกทั้งใบให้เป็นคลิปหนีบกระดาษย่อมจะฉลาดพอที่จะละทิ้งเป้าหมายดังกล่าว ."

ปัญญาประดิษฐ์ก็เหมือนปลาทอง

Margaret Boden ผู้เชี่ยวชาญด้านปัญญาประดิษฐ์ของอังกฤษและศาสตราจารย์ด้านวิทยาศาสตร์ความรู้ความเข้าใจที่มหาวิทยาลัย Sussex ไม่เชื่อเรื่องการกล่าวอ้างเกี่ยวกับการถือกำเนิดของเครื่องจักรอัจฉริยะที่กำลังจะเกิดขึ้น

ลิขสิทธิ์ภาพเก็ตตี้อิมเมจคำบรรยายภาพ ในเดือนพฤษภาคม 1997 Deep Blue II เอาชนะ Garry Kasparov เป็นครั้งแรก

ศาสตราจารย์ยกตัวอย่างของ "ปลาทอง" เมื่อชาวประมงขอพรสามประการเพื่อแลกกับอิสรภาพ ความปรารถนาอย่างหนึ่งคือการคืนลูกชายของเขาจากสงคราม ครั้งที่สองคือ 50,000 ดอลลาร์ และข้อที่สามคือโอกาสที่จะอธิษฐานอีกครั้งในตอนเช้า

เย็นวันเดียวกันนั้นก็มีเสียงเคาะที่บ้านของชาวประมง ลูกชายกลับมาจากสงคราม - ในโลงศพ Rybak ได้รับประกัน 50,000 ดอลลาร์

"แทนที่ปลาในอุปมานี้ด้วย AI และทุกอย่างชัดเจน - Boden อธิบาย - โอ้ใช่ วันรุ่งขึ้นชาวประมงใช้ความปรารถนาที่สามและ - ยกเลิกสองข้อก่อนหน้า"

เป็นไปได้ไหมที่จะถ่ายทอดความรู้สึกตัวเข้าสู่เครื่อง?

เซอร์เกย์ มาร์คอฟ:

"ถ้าเราพูดถึงความเป็นไปได้ของการถ่ายโอนสติอย่างสมบูรณ์สารตั้งต้นที่ทันสมัยของเทคโนโลยีแห่งอนาคตคือโครงการเช่น Blue Brain ซึ่งมุ่งเป้าไปที่การสร้างแอนะล็อกอิเล็กทรอนิกส์ที่ใช้งานได้ของสมองเช่นเดียวกับโครงการที่มุ่งสร้างสมอง- ส่วนต่อประสานเครื่อง (BCI) - อุปกรณ์สำหรับอวัยวะเทียมที่สูญเสียการมองเห็น การได้ยิน การเปลี่ยนแขนขาที่หายไป แม้แต่ส่วนต่าง ๆ ของสมอง

ลิขสิทธิ์ภาพห้องสมุดภาพวิทยาศาสตร์คำบรรยายภาพ เป้าหมายของผู้เชี่ยวชาญด้าน AI คือการสร้าง "ปัญญาประดิษฐ์ที่แข็งแกร่ง" ที่สามารถแก้ปัญหาได้หลากหลาย

พื้นที่ที่น่าสนใจและมีแนวโน้มมากคือออปโตเจเนติกส์ (โดยหลักการแล้วในการเชื่อมต่อสมองกับเครื่องจักรนั้นเป็นไปได้ที่จะเปลี่ยนไม่เพียง แต่เครื่องจักร แต่ยังรวมถึงเนื้อเยื่อประสาทด้วยสร้างตัวรับแสงเทียมในนั้น)

เมื่อปัญหาทางวิศวกรรมหลากหลายได้รับการแก้ไขภายในกรอบของโครงการส่วนตัวดังกล่าว ฉันคิดว่างานของการถ่ายทอดจิตสำนึกจะสามารถแก้ไขได้ค่อนข้างมาก ผู้ฝันได้เสนอแผนการสมมติสำหรับการดำเนินโครงการดังกล่าวแล้ว

ตัวอย่างเช่น Jan Korchmaryuk ซึ่งเคยเสนอชื่อ "settleretics" สำหรับทิศทางของการวิจัยที่เกี่ยวข้องกับการถ่ายโอนสติ เชื่อว่าโครงการที่มีแนวโน้มมากที่สุดคือการใช้ nanorobots เฉพาะที่ฝังอยู่ในเซลล์ประสาทของสมองมนุษย์ อย่างไรก็ตาม สำหรับการดำเนินการตามแผนดังกล่าวที่ประสบความสำเร็จ จำเป็นต้องแก้ปัญหาทางวิศวกรรมที่ซับซ้อนจำนวนหนึ่ง

นิตยสาร American Internet ยอดนิยม Wired ได้ตีพิมพ์ข้อความที่น่าสนใจอย่างยิ่งโดย Kevin Kelly ซึ่งเขาวิพากษ์วิจารณ์ในรายละเอียดเกี่ยวกับแนวคิดเรื่องอันตรายของปัญญาประดิษฐ์ "NI" เผยแพร่คำแปลของเนื้อหานี้ ทำโดยช่องทางโทรเลข Newochem ที่มีการตัดเล็กน้อย

“ฉันได้ยินมาว่าในอนาคต คอมพิวเตอร์ AI จะฉลาดกว่ามนุษย์มาก จนทำให้เราไม่มีงานทำและทรัพยากร และในที่สุดมนุษยชาติก็จะสิ้นสุดลง แต่มันคือ? นี่เป็นคำถามที่ฉันถูกถามทุกครั้งที่บรรยายเกี่ยวกับ AI

ผู้ถามมีความจริงจังเช่นเคย ความไม่สบายใจของพวกเขาส่วนหนึ่งเกิดจากความวิตกกังวลของผู้เชี่ยวชาญบางคนที่ถูกทรมานด้วยคำถามเดียวกัน ในบรรดาพวกเขาคือคนที่ฉลาดที่สุดในรุ่นของเรา - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris และ Bill Gates

พวกเขาทั้งหมดยอมรับความเป็นไปได้ของสถานการณ์ดังกล่าว ในการประชุมล่าสุดเกี่ยวกับ AI คณะผู้เชี่ยวชาญเก้าคนที่รู้แจ้งมากที่สุดในภาคสนาม มาเพื่อสรุปเป็นเอกฉันท์ว่าการสร้างปัญญาเหนือมนุษย์นั้นใกล้เข้ามาและอยู่ไม่ไกล

แต่ถึงกระนั้น สถานการณ์การตกเป็นทาสของมนุษยชาติด้วยปัญญาประดิษฐ์นั้นมีพื้นฐานอยู่บนสมมติฐานห้าประการ ซึ่งเมื่อตรวจสอบอย่างละเอียดแล้ว กลับกลายเป็นว่าไม่ได้รับการพิสูจน์ ข้อความเหล่านี้อาจเป็นจริงในอนาคต แต่ยังไม่มีการยืนยันใดๆ จนถึงปัจจุบัน

นี่คือ:

1. ปัญญาประดิษฐ์นั้นฉลาดกว่าจิตใจของมนุษย์อยู่แล้ว และกระบวนการนี้ก็ทวีคูณ
2. เราจะพัฒนา AI วัตถุประสงค์ทั่วไปที่คล้ายกับของเรา
3. เราสามารถสร้างปัญญาของมนุษย์จากซิลิคอนได้
4. ความฉลาดสามารถมีได้ไม่จำกัด
5. การสร้างความฉลาดหลักแหลมที่ยิ่งใหญ่จะช่วยแก้ปัญหาส่วนใหญ่ของเราได้

ตรงข้ามกับสมมุติฐานดั้งเดิมเหล่านี้ ฉันสามารถอ้างถึงบาปที่พิสูจน์แล้วต่อไปนี้:

1. ความฉลาดไม่ได้มีมิติเดียว ดังนั้น "ฉลาดกว่าคน" จึงเป็นแนวคิดที่ไม่มีความหมาย
2. ผู้คนไม่ได้มีจุดประสงค์ทั่วไปซึ่งไม่ได้คุกคามปัญญาประดิษฐ์เช่นกัน
3. การแข่งขันระหว่างมนุษย์กับคอมพิวเตอร์จะถูกจำกัดด้วยต้นทุน
4. ความฉลาดไม่ได้จำกัด
5. การสร้าง AI เป็นเพียงส่วนหนึ่งของความก้าวหน้าเท่านั้น

หากความเชื่อในการตกเป็นทาสของมนุษย์โดยปัญญาประดิษฐ์มีพื้นฐานมาจากสมมติฐานที่ไร้เหตุผล 5 ข้อ แนวคิดนี้ก็คล้ายกับความเชื่อทางศาสนา - ตำนานมากกว่า ในบทต่อไปนี้ ฉันจะเสริมการโต้แย้งของฉันด้วยข้อเท็จจริงและพิสูจน์ว่าปัญญาประดิษฐ์ที่เหนือมนุษย์นั้นแท้จริงแล้วไม่มีอะไรมากไปกว่าตำนาน

ความเข้าใจผิดที่พบบ่อยที่สุดเกี่ยวกับ AI มาจากความเชื่อที่นิยมพอๆ กันเกี่ยวกับความฉลาดทางธรรมชาติว่ามันเป็นมิติเดียว ในศาสตร์ที่แน่นอน หลายคนพรรณนาถึงความเฉลียวฉลาดอย่างที่ Nick Bostrom ทำในหนังสือของเขา Supermind - ตามตัวอักษรเป็นกราฟเชิงเส้นหนึ่งมิติที่มีแอมพลิจูดที่เพิ่มขึ้น

ด้านหนึ่งเป็นสิ่งมีชีวิตที่มีระดับสติปัญญาต่ำที่สุด เช่น สัตว์เล็ก และอีกด้านเป็นอัจฉริยะ ราวกับว่าระดับสติปัญญาไม่ต่างจากระดับเสียงที่วัดเป็นเดซิเบล แน่นอน ในกรณีเช่นนี้ เป็นการง่ายที่จะจินตนาการถึงการเพิ่มขึ้นอีก ซึ่งระดับความฉลาดนั้นสูงกว่าเครื่องหมายสูงสุดของแผนภูมิและมากกว่านั้นด้วยซ้ำ

แบบจำลองดังกล่าวเทียบเท่าโทโพโลยีกับขั้นบันได ซึ่งระดับสติปัญญาจะเรียงตามลำดับจากน้อยไปมาก สัตว์ที่ฉลาดน้อยกว่าจะอยู่ด้านล่างของบันได และปัญญาประดิษฐ์ระดับสูงจะอยู่เหนือเราอย่างหลีกเลี่ยงไม่ได้ กรอบเวลาเมื่อสิ่งนี้เกิดขึ้นไม่เกี่ยวข้อง สิ่งที่สำคัญกว่านั้นคือขั้นตอนของลำดับชั้นเอง - ตัวชี้วัดของความฉลาดที่เพิ่มขึ้น

ปัญหาของโมเดลนี้คือมันเป็นตำนาน เช่นเดียวกับโมเดลแลดเดอร์วิวัฒนาการ ก่อนลัทธิดาร์วิน สัตว์ป่าถูกมองว่าเป็นบันไดของสิ่งมีชีวิต ซึ่งมนุษย์อยู่เหนือสัตว์ดึกดำบรรพ์

และแม้กระทั่งหลังจากดาร์วิน แนวคิดที่พบบ่อยที่สุดอย่างหนึ่งก็คือบันไดแห่งวิวัฒนาการ มันแสดงให้เห็นการเปลี่ยนแปลงของปลาเป็นสัตว์เลื้อยคลาน พวกเขาเป็นสัตว์เลี้ยงลูกด้วยนม บิชอพในมนุษย์ ยิ่งกว่านั้น สิ่งมีชีวิตตัวต่อไปแต่ละตัวมีการพัฒนามากขึ้น (และแน่นอนว่าฉลาดกว่า) มากกว่ารุ่นก่อน ดังนั้นขั้นบันไดแห่งปัญญาจึงสัมพันธ์กับขั้นบันไดแห่งจักรวาล อย่างไรก็ตาม ทั้งสองรุ่นสะท้อนมุมมองที่ต่อต้านวิทยาศาสตร์โดยสิ้นเชิง

รูปแบบที่แม่นยำยิ่งขึ้นสำหรับวิวัฒนาการตามธรรมชาติคือดิสก์ที่แยกออกด้านนอก ดังในภาพด้านบน เป็นครั้งแรกที่โครงสร้างดังกล่าวได้รับการพัฒนาโดย David Hillis จากมหาวิทยาลัยเท็กซัส เขาสร้างโดยใช้ DNA จักรวาลลำดับวงศ์ตระกูลนี้เริ่มต้นจากจุดศูนย์กลางด้วยรูปแบบชีวิตดั้งเดิมที่สุดแล้วแตกแขนงออกไปด้านนอก เวลาเคลื่อนไปข้างหน้า ดังนั้นรูปแบบชีวิตล่าสุดจึงอยู่ที่เส้นรอบวงของวงกลม

ภาพนี้เน้นข้อเท็จจริงที่เข้าใจยากเกี่ยวกับวิวัฒนาการของความสำคัญพื้นฐาน - สิ่งมีชีวิตทั้งหมดวิวัฒนาการเท่าเทียมกัน มนุษย์อาศัยอยู่ที่ส่วนนอกของจานพร้อมกับแมลงสาบ หอย เฟิร์น จิ้งจอกและแบคทีเรีย

โดยไม่มีข้อยกเว้น ทุกสายพันธุ์ได้ผ่านสายสัมพันธ์ที่แยกไม่ออกของการสืบพันธุ์ที่ประสบความสำเร็จเป็นเวลาสามพันล้านปี ซึ่งหมายความว่าแบคทีเรียและแมลงสาบมีวิวัฒนาการสูงพอๆ กับมนุษย์ ไม่มีบันได

ในทำนองเดียวกัน ไม่มีขั้นบันไดแห่งปัญญา ความฉลาดไม่ได้มีมิติเดียว มันเป็นความซับซ้อนของประเภทและวิธีการรับรู้ที่แตกต่างกันซึ่งแต่ละวิธีต่อเนื่องกัน มาทำแบบฝึกหัดง่ายๆ เพื่อวัดความฉลาดในสัตว์กัน หากสติปัญญามีมิติเดียว เราก็สามารถจัดอันดับนกแก้ว โลมา ม้า กระรอก ปลาหมึกยักษ์ วาฬสีน้ำเงิน แมว และกอริลลาได้อย่างง่ายดาย

ขณะนี้ยังไม่มีหลักฐานทางวิทยาศาสตร์สำหรับการมีอยู่ของลำดับดังกล่าว สาเหตุอาจเป็นเพราะขาดความแตกต่างระหว่างระดับความฉลาดของสัตว์บางชนิด แต่ก็ไม่สมเหตุสมผลเช่นกัน

สัตววิทยาอุดมไปด้วยตัวอย่างของความแตกต่างที่โดดเด่นในความคิดของสัตว์ บางทีสัตว์ทุกตัวอาจได้รับสติปัญญา "วัตถุประสงค์ทั่วไป"? บางที แต่เราไม่มีเครื่องมือเดียวที่จะวัดความฉลาดประเภทนี้ อย่างไรก็ตาม เรามีระบบการวัดมากมายสำหรับการรับรู้ประเภทต่างๆ

แทนที่จะเป็นเดซิเบลบรรทัดเดียว จะเป็นการถูกต้องมากกว่าที่จะพรรณนาความฉลาดเป็นแผนภาพความน่าจะเป็นของพื้นที่ เช่นเดียวกับในการแสดงภาพรูปแบบที่เป็นไปได้ ซึ่งสร้างโดยอัลกอริธึมของ Richard Dawkins หน่วยสืบราชการลับเป็นความต่อเนื่องแบบผสมผสาน โหนดจำนวนมาก ซึ่งแต่ละโหนดเป็นคอนตินิวอัม ทำให้เกิดความซับซ้อนของความหลากหลายมหาศาลในหลายมิติ ความฉลาดบางประเภทอาจซับซ้อนมาก โดยมีโหนดย่อยจำนวนมากในการคิด บางอย่างง่ายกว่า แต่สุดขั้วกว่า พวกมันไปถึงจุดสูงสุดของอวกาศ

คอมเพล็กซ์เหล่านี้ซึ่งหมายถึงสติปัญญาประเภทต่างๆ สำหรับเรา สามารถรับรู้ได้ว่าเป็นการแสดงซิมโฟนีในเครื่องดนตรีประเภทต่างๆ พวกมันแตกต่างกันไม่เพียงแต่ในด้านเสียงเท่านั้น แต่ยังรวมถึงท่วงทำนอง, สี, จังหวะ, ฯลฯ คุณคิดได้ว่ามันเป็นเหมือนระบบนิเวศ ในแง่นี้ ส่วนประกอบต่างๆ ของโหนดแห่งความคิดนั้นต้องพึ่งพาอาศัยกันและสร้างขึ้นจากกันและกัน

ดังที่ Marvin Minsky กล่าว จิตสำนึกของมนุษย์เป็นสังคมแห่งเหตุผล ความคิดของเราคือระบบนิเวศที่สมบูรณ์ สมองของเรามีวิธีรู้หลายวิธีที่ทำหน้าที่ทางจิตที่แตกต่างกัน: การอนุมาน การชักนำ ความฉลาดทางอารมณ์ การคิดเชิงนามธรรมและเชิงพื้นที่ ความจำระยะสั้นและระยะยาว

ระบบประสาทของมนุษย์ทั้งหมดเป็นส่วนหนึ่งของสมองที่มีระดับความรู้ความเข้าใจในตัวเอง อันที่จริง กระบวนการคิดไม่ได้กระทำโดยสมอง แต่กระทำโดยร่างกายมนุษย์ทั้งหมด

ความคิดที่หลากหลายแตกต่างกันทั้งระหว่างสปีชีส์และระหว่างสมาชิกของสปีชีส์เดียวกัน กระรอกสามารถจำตำแหน่งที่แน่นอนของลูกโอ๊กหลายพันตัวได้เป็นเวลาหลายปี ซึ่งมนุษย์ไม่สามารถเข้าใจได้อย่างสมบูรณ์ ในการคิดแบบนี้ ผู้คนด้อยกว่าโปรตีน จิตใจของกระรอกเป็นการรวมกันของมหาอำนาจนี้กับความฉลาดในรูปแบบอื่นซึ่งบุคคลนั้นเหนือกว่ากระรอก ในอาณาจักรสัตว์ เราพบตัวอย่างมากมายเกี่ยวกับความเหนือกว่าของความฉลาดทางสัตว์บางรูปแบบเหนือมนุษย์

สถานการณ์เดียวกันได้พัฒนาด้วยปัญญาประดิษฐ์ซึ่งในบางพื้นที่มีความเหนือกว่ามนุษย์อยู่แล้ว เครื่องคิดเลขใด ๆ เป็นอัจฉริยะทางคณิตศาสตร์และหน่วยความจำของ Google ก็ดีกว่าของเราอยู่แล้ว

AI บางตัวทำกิจกรรมทางจิตที่เราไม่สามารถทำได้ การจำทุกคำบนหน้าเว็บหกพันล้านหน้าเป็นงานที่เป็นไปไม่ได้สำหรับมนุษย์และเป็นเรื่องเล็กน้อยสำหรับเครื่องมือค้นหา ในอนาคต เราจะสร้างวิธีคิดใหม่ๆ ที่มนุษย์ใช้ไม่ได้และไม่มีอยู่ในธรรมชาติ

ผู้ประดิษฐ์เครื่องบินได้รับแรงบันดาลใจจากการบินตามธรรมชาติ - กระพือปีก อย่างไรก็ตาม ต่อมาได้มีการประดิษฐ์ปีกคงที่ที่มีใบพัดติดอยู่ และนี่คือหลักการใหม่ของการบินที่ไม่พบในธรรมชาติ

นี่คือวิธีที่เราคิดค้นวิธีคิดใหม่ที่ไม่มีสายพันธุ์ใดสามารถทำได้ เป็นไปได้มากว่าสิ่งเหล่านี้จะเป็นหลักการที่ใช้ได้กับปัญหาเฉพาะทางสูงเท่านั้น ตัวอย่างเช่น การสร้างตรรกะใหม่ที่จำเป็นในสถิติและทฤษฎีความน่าจะเป็นเท่านั้น

การคิดแบบใหม่จะช่วยแก้ปัญหาที่จิตใจมนุษย์ไม่สามารถรับมือได้ คำถามที่ยากที่สุดในธุรกิจและวิทยาศาสตร์ต้องการวิธีแก้ปัญหาแบบสองขั้นตอน ขั้นตอนแรกคือการคิดค้นวิธีคิดแบบธรรมชาติใหม่ อย่างที่สองคือการเริ่มค้นหาคำตอบร่วมกับ AI

ผู้คนจะเริ่มพิจารณาว่า AI ฉลาดกว่าตัวเอง หากสามารถแก้ปัญหาที่แก้ไม่ตกได้ก่อนหน้านี้ด้วยความช่วยเหลือ อันที่จริง การคิดของ AI ไม่ได้ดีไปกว่าของเรา แต่มันต่างกัน ฉันเชื่อว่าประโยชน์หลักของปัญญาประดิษฐ์คือสามารถคิดเหมือนคนนอก และความแปลกแยกนี้เป็นข้อได้เปรียบหลัก

นอกจากนี้ เราจะสร้าง "ชุมชน" AI ที่ซับซ้อนด้วยความคิดที่แตกต่างกัน พวกเขาจะซับซ้อนมากจนสามารถแก้ปัญหาที่เราไม่สามารถรับมือได้ ดังนั้นบางคนจะเข้าใจผิดคิดว่า AI complexes ฉลาดกว่ามนุษย์ แต่เราไม่เชื่อว่าเสิร์ชเอ็นจิ้นของ Google ฉลาดกว่าบุคคล แม้ว่าเขาจะจำได้ดีกว่าของเราก็ตาม

มีแนวโน้มว่าคอมเพล็กซ์ปัญญาประดิษฐ์เหล่านี้จะเหนือกว่าเราในหลาย ๆ ด้าน แต่ไม่มีสิ่งใดที่จะเหนือกว่ามนุษย์ทุกแห่งในคราวเดียว สถานการณ์ที่คล้ายกันเกิดขึ้นกับความแข็งแกร่งทางกายภาพของเรา สองร้อยปีหลังการปฏิวัติอุตสาหกรรม ไม่มีเครื่องจักรใดที่มีประสิทธิภาพเหนือมนุษย์ทั่วไปในทุกด้าน แม้ว่าเครื่องจักรในระดับกลุ่มจะมีประสิทธิภาพเหนือกว่ามนุษย์อย่างมากมายในด้านความเร็วในการวิ่ง การยกน้ำหนัก ความแม่นยำในการตัด และกิจกรรมอื่นๆ

แม้จะมีความซับซ้อนของโครงสร้างของ AI แต่ก็เป็นไปไม่ได้ที่จะวัดด้วยวิธีวิทยาศาสตร์สมัยใหม่ เราไม่มีเครื่องมือที่จะบอกได้ว่าอันไหนยากกว่ากัน เช่น แตงกวาหรือโบอิ้ง 747 และเราไม่มีทางวัดความแตกต่างในความซับซ้อนของมัน นั่นคือเหตุผลที่เรายังไม่มีเกณฑ์ที่ชัดเจนสำหรับความสามารถทางปัญญา

เมื่อเวลาผ่านไป มันจะยากขึ้นเรื่อยๆ ที่จะตัดสินว่าอันไหนยากกว่า และตามนั้น ฉลาดกว่า: ปัญญา A หรือ ปัญญา B กิจกรรมทางจิตยังมีส่วนที่ไม่ได้สำรวจมากมาย และส่วนใหญ่สิ่งนี้ทำให้เราไม่เข้าใจว่าจิตไม่ใช่ หนึ่งมิติ

ความเข้าใจผิดประการที่สองเกี่ยวกับจิตใจมนุษย์คือเราเชื่อว่าจิตใจของเราเป็นสากล ความเชื่อที่แพร่หลายนี้กำลังกำหนดเส้นทางที่เรามุ่งสู่ปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งครั้งหนึ่งเคยได้รับการส่งเสริมโดยผู้เชี่ยวชาญด้าน AI

อย่างไรก็ตาม หากเราคิดว่าจิตเป็นพื้นที่กว้างใหญ่ของความเป็นไปได้ เราไม่สามารถพูดถึงสภาวะวัตถุประสงค์ทั่วไปได้ จิตใจของมนุษย์ไม่ได้ครอบครองสถานที่ที่เป็นนามธรรมบางส่วน และจิตใจประเภทพิเศษอื่นๆ ไม่ได้หมุนรอบจิตใจนั้น

ในทางกลับกัน สติปัญญาของมนุษย์เป็นหน่วยสืบราชการลับที่เจาะจงอย่างยิ่ง ซึ่งได้พัฒนามาเป็นเวลาหลายล้านปีเพื่อความอยู่รอดของเผ่าพันธุ์ของเราบนโลกใบนี้ หากเราต้องการใส่ความฉลาดของเราท่ามกลางความฉลาดประเภทอื่นๆ ที่เป็นไปได้ มันก็จะจบลงที่ไหนสักแห่งในมุมหนึ่ง - เช่นเดียวกับโลกของเราซึ่งตั้งอยู่บนขอบของดาราจักรขนาดใหญ่

แน่นอน เราสามารถจินตนาการและบางครั้งก็ประดิษฐ์ความคิดที่คล้ายกับมีด Swiss Army ดูเหมือนว่าเขาจะรับมือกับงานหลายอย่างแต่ไม่ปัง

นอกจากนี้ยังมีกฎทางเทคนิคที่ทุกสิ่งต้องปฏิบัติตาม ไม่ว่าสิ่งเหล่านั้นจะถูกสร้างขึ้นโดยเจตนาหรือเข้ามาในโลกในลักษณะที่เป็นธรรมชาติก็ตาม “เป็นไปไม่ได้ที่จะเพิ่มประสิทธิภาพการวัดทั้งหมด คุณสามารถหาการประนีประนอม เครื่องมัลติฟังก์ชั่นแบบ all-in-one ไม่สามารถทำงานได้ดีกว่าฟังก์ชันพิเศษ”

การมีสติสัมปชัญญะไม่สามารถทำได้เทียบเท่าผู้ปฏิบัติงานเฉพาะด้าน เนื่องจากเราถือว่าจิตสำนึกของเราเป็นกลไกสากล เราจึงเชื่อว่าความรู้ความเข้าใจไม่ควรอยู่บนพื้นฐานของการประนีประนอม และเป็นไปได้ที่จะประดิษฐ์ปัญญาประดิษฐ์ที่แสดงให้เห็นถึงระดับสูงสุดของประสิทธิภาพในการคิดทุกประเภท

อย่างไรก็ตาม ฉันไม่เห็นหลักฐานสำหรับการอ้างสิทธิ์นี้ เรายังไม่ได้สร้างจิตสำนึกที่หลากหลายมากพอที่จะทำให้เราเห็นภาพทั้งหมดได้ (สำหรับตอนนี้ เราไม่ต้องการพิจารณาจิตสำนึกของสัตว์ผ่านปริซึมของพารามิเตอร์ตัวเดียวว่าเป็นประเภทการคิดที่แยกจากกันด้วยแอมพลิจูดที่แปรผัน)

ส่วนหนึ่งของความเชื่อที่ว่าความคิดของเรานั้นเป็นสากลมากที่สุด เกิดจากแนวคิดของการคำนวณสากล สมมติฐานนี้เรียกว่าวิทยานิพนธ์ของคริสตจักรทัวริงในปี 1950 มันระบุว่าการคำนวณทั้งหมดที่ตรงตามพารามิเตอร์บางอย่างนั้นเทียบเท่ากัน

ดังนั้นจึงมีฐานสากลสำหรับการคำนวณทั้งหมด ไม่ว่าการคำนวณจะทำในเครื่องเดียวที่มีเครื่องเร็วจำนวนมาก เครื่องที่มีประสิทธิภาพต่ำ หรือแม้แต่ในสมองชีวภาพ ก็เป็นกระบวนการทางตรรกะเดียวกัน ในทางกลับกัน หมายความว่าเราสามารถจำลองกระบวนการคำนวณใดๆ (การคิด) ด้วยเครื่องใดๆ ที่สามารถทำการคำนวณแบบ "สากล" ได้

ด้วยหลักการนี้ ผู้สนับสนุนภาวะเอกฐานแสดงให้เห็นถึงความคาดหวังของพวกเขาว่า เราสามารถออกแบบสมองเทียมที่มีซิลิกอนที่สามารถรองรับจิตสำนึกของมนุษย์ ว่าเราสามารถสร้างปัญญาประดิษฐ์ที่จะคิดในลักษณะเดียวกับบุคคล แต่มีประสิทธิภาพมากกว่าหลายเท่า . ความหวังเหล่านี้ควรได้รับการปฏิบัติด้วยความสงสัยในระดับหนึ่ง เนื่องจากความหวังเหล่านี้มีพื้นฐานมาจากการตีความวิทยานิพนธ์ของคริสตจักร-ทัวริงที่ผิดพลาด

ตำแหน่งเริ่มต้นของทฤษฎีนี้คือ: "ในเงื่อนไขของหน่วยความจำและเวลาที่ไม่ จำกัด การคำนวณทั้งหมดจะเท่ากัน" ปัญหาคือในความเป็นจริงไม่มีคอมพิวเตอร์ใดที่มีคุณสมบัติของหน่วยความจำหรือเวลาที่ไม่มีที่สิ้นสุด เมื่อคุณทำการคำนวณในโลกแห่งความเป็นจริง องค์ประกอบของเวลามีความสำคัญอย่างยิ่ง จนถึงจุดที่มักเป็นเรื่องของชีวิตและความตาย

ใช่ การคิดทุกประเภทมีความเท่าเทียมกัน ถ้าเรายกเว้นด้านชั่วขณะ ใช่ เป็นไปได้ที่จะเลียนแบบกระบวนการคิดของมนุษย์ในเมทริกซ์ใดๆ หากคุณเลือกที่จะเพิกเฉยต่อเวลาหรือข้อจำกัดของพื้นที่ว่างและหน่วยความจำในโลกแห่งความเป็นจริง

อย่างไรก็ตาม หากเรารวมตัวแปรเวลาในสมการนี้ เราจะต้องเปลี่ยนการกำหนดหลักการอย่างมีนัยสำคัญ: "ระบบคอมพิวเตอร์สองระบบที่ทำงานบนแพลตฟอร์มที่แตกต่างกันอย่างสิ้นเชิงจะไม่สร้างการคำนวณที่เทียบเท่าในแบบเรียลไทม์"

หลักการนี้สามารถจัดรูปแบบใหม่ได้ดังนี้ “วิธีเดียวที่จะได้วิธีคิดที่เท่าเทียมกันคือการดำเนินการบนพื้นฐานเดียวกัน สื่อทางกายภาพที่คุณใช้คำนวณ โดยเฉพาะอย่างยิ่งเมื่อระดับความซับซ้อนเพิ่มขึ้น จะส่งผลต่อวิธีคิดของคุณในสภาวะแบบเรียลไทม์อย่างมาก

ต่อจากห่วงโซ่ตรรกะ ฉันจะถือว่าวิธีเดียวที่จะสร้างประเภทการคิดที่ใกล้เคียงกับมนุษย์มากที่สุดคือการคำนวณโดยใช้สสารที่คล้ายกับสสารสีเทาของเราให้มากที่สุด

ซึ่งหมายความว่าเราสามารถสรุปได้ว่าปัญญาประดิษฐ์ขนาดใหญ่ที่ซับซ้อนซึ่งสร้างขึ้นบนพื้นฐานของซิลิคอนแห้งจะทำให้เกิดเงอะงะ ซับซ้อนและไม่เหมือนกับความคิดของมนุษย์ หากเป็นไปได้ที่จะสร้างปัญญาประดิษฐ์ที่ทำงานบนวัตถุเปียกโดยใช้เซลล์ประสาทเทียมเหมือนของมนุษย์ กระบวนการคิดของ AI ดังกล่าวจะใกล้ชิดกับเรามากขึ้น

ข้อดีของระบบ "เปียก" ดังกล่าวเป็นสัดส่วนกับความใกล้ชิดของสื่อทางกายภาพที่ใช้กับมนุษย์ การสร้างสารดังกล่าวจะต้องมีต้นทุนวัสดุจำนวนมากเพื่อที่จะบรรลุระดับอย่างน้อยก็คล้ายกับที่มีอยู่ในตัวเราโดยธรรมชาติ และเราสามารถสร้างคนใหม่ด้วยวิธีนี้ - คุณแค่ต้องรอ 9 เดือน

ดังที่ได้กล่าวไว้ก่อนหน้านี้ เราคิดว่าด้วยตัวของเราทั้งหมด ไม่ใช่แค่ด้วยจิตสำนึกของเรา วิทยาศาสตร์สมัยใหม่มีข้อมูลมากมายเกี่ยวกับวิธีที่ระบบประสาทของเรามีอิทธิพลต่อกระบวนการตัดสินใจ การคาดการณ์ และการปรับตัวที่ "มีเหตุผล" ยิ่งเราพิจารณาระบบของร่างกายมนุษย์มากเท่าไร เราก็สามารถสร้างมันขึ้นมาใหม่ได้อย่างระมัดระวังมากขึ้นเท่านั้น ปัญญาประดิษฐ์ที่ทำงานบนสารที่แตกต่างจากของเราอย่างสิ้นเชิง (ซิลิกอนแห้งแทนคาร์บอนเปียก) ก็จะคิดแตกต่างกันเช่นกัน

ฉันไม่คิดว่าคุณลักษณะนี้เป็น "คุณลักษณะ ไม่ใช่ข้อบกพร่อง" มากกว่า ตามที่ฉันโต้เถียงในย่อหน้าที่สองของบทความนี้ ความแตกต่างในกระบวนการคิดของ AI เป็นข้อได้เปรียบหลัก นี่เป็นอีกเหตุผลหนึ่งที่ผิดที่จะบอกว่าเขา "ฉลาดกว่าสมองมนุษย์"

หัวใจของแนวคิดเรื่องความฉลาดเหนือมนุษย์ และโดยเฉพาะอย่างยิ่ง ทฤษฎีการพัฒนาตนเองอย่างต่อเนื่องของ AI ดังกล่าว มีความเชื่ออย่างจริงใจในความฉลาดไร้ขีดจำกัด ฉันไม่พบหลักฐานใด ๆ สำหรับการอ้างสิทธิ์นี้

อีกครั้ง การรับรู้ที่ผิดพลาดของความฉลาดในฐานะระบบที่กำหนดโดยมิติเดียวมีส่วนทำให้เกิดการแพร่กระจายของคำยืนยันนี้ แต่เราต้องเข้าใจว่ามันยังไม่มีมูล ไม่มีมิติทางกายภาพที่ไม่มีที่สิ้นสุดในจักรวาล อย่างน้อย วิทยาศาสตร์ก็ยังไม่รู้จัก

อุณหภูมิไม่สิ้นสุด - มีตัวบ่งชี้ต่ำสุดและสูงสุดของความเย็นและความอบอุ่น พื้นที่และเวลาไม่ จำกัด เช่นเดียวกับความเร็ว บางทีแกนตัวเลขสามารถเรียกได้ว่าไม่มีที่สิ้นสุด แต่พารามิเตอร์ทางกายภาพอื่น ๆ ทั้งหมดมีขีดจำกัด แน่นอนว่าจิตใจเองก็มีขอบเขตเช่นกัน

คำถามเกิดขึ้น: ขีด จำกัด ของสติปัญญาอยู่ที่ไหน เราเคยเชื่อว่าขีดจำกัดนั้นอยู่ห่างไกลจากที่อื่น มาก "เหนือ" เราเท่ากับที่เราอยู่ "เหนือ" มด ละทิ้งปัญหามิติเดียวที่ยังแก้ไม่ได้ เราจะพิสูจน์ได้อย่างไรว่าเรายังไม่ถึงขีดจำกัด? ทำไมเราไม่สามารถเป็นมงกุฎแห่งการสร้างสรรค์ได้? หรือบางทีเราเกือบจะถึงขีด จำกัด ของความสามารถของมนุษย์แล้ว? เหตุใดเราจึงเชื่อว่าความฉลาดเป็นแนวคิดที่พัฒนาไม่รู้จบ

เป็นการดีกว่าที่จะพิจารณาความฉลาดของเราว่าเป็นหนึ่งในรูปแบบการคิดที่หลากหลาย แม้ว่าทุกมิติของความรู้ความเข้าใจและการคำนวณมีขีดจำกัด แต่ถ้ามีหลายร้อยมิติ สติปัญญาก็มีมากมายนับไม่ถ้วน แต่ไม่มีมิติใดที่เป็นอนันต์ในทุกมิติ

เมื่อเราสร้างหรือพบกับรูปแบบต่างๆ มากมายเหล่านี้ในหัวข้อของจิตสำนึก เราอาจประสบกับสิ่งเหล่านี้เกินกว่าความสามารถของเรา ในหนังสือเล่มล่าสุดของฉัน The Inevitable ฉันได้ร่างรายชื่อพันธุ์เหล่านี้บางส่วนที่ด้อยกว่าเราในทางใดทางหนึ่ง นี่เป็นส่วนหนึ่งของรายการนั้น:

จิตใจใกล้เคียงกับมนุษย์มากที่สุด แต่มีอัตราการเกิดปฏิกิริยาสูงกว่า (ปัญญาประดิษฐ์ที่ง่ายที่สุด);

จิตใจที่เชื่องช้ามาก ซึ่งมีองค์ประกอบหลักคือพื้นที่จัดเก็บและหน่วยความจำที่เพียงพอ

หน่วยสืบราชการลับสากลประกอบด้วยจิตสำนึกส่วนบุคคลนับล้านที่ทำหน้าที่พร้อมเพรียงกัน

จิตใจที่เป็นรังประกอบด้วยปัญญาที่มีประสิทธิผลอย่างยิ่งจำนวนมาก โดยไม่ทราบว่าเป็นหนึ่งเดียว

Borg supermind (เผ่าพันธุ์ของไซบอร์กที่มีจิตใจร่วมกัน พยายามดูดกลืนสิ่งมีชีวิตทั้งหมดจากซีรีส์ Star Trek เข้าเป็นกลุ่มของพวกเขา - ประมาณ อะไรใหม่ๆ) - ชุดของสติปัญญาที่ใช้งานได้สูงโดยตระหนักดีว่าสิ่งเหล่านี้เป็นหนึ่งเดียว

จิตใจที่ออกแบบมาเพื่อพัฒนาจิตสำนึกส่วนตัวของผู้สวมใส่ แต่ใช้ไม่ได้กับคนอื่น

เหตุผล สามารถจินตนาการถึงจิตใจที่ซับซ้อนมากขึ้น แต่ไม่สามารถสร้างขึ้นได้

วันหนึ่งอาจใช้เหตุผลในการสร้างจิตใจที่ซับซ้อนขึ้นได้สำเร็จ

เหตุผลที่สามารถสร้างจิตใจที่ซับซ้อนมากขึ้น ซึ่งในทางกลับกัน ก็สามารถสร้างความคิดที่ซับซ้อนยิ่งขึ้นได้ เป็นต้น

เหตุผลซึ่งเข้าถึงซอร์สโค้ดได้อย่างรวดเร็ว (สามารถเปลี่ยนคุณสมบัติของการทำงานได้ตลอดเวลา);

จิตใจที่เหนือตรรกะ ไร้ความสามารถในการสัมผัสอารมณ์

จิตมาตรฐาน มุ่งแก้ปัญหา แต่ไม่สามารถวิปัสสนาได้

จิตใจที่สามารถวิปัสสนา แต่ไม่สามารถแก้ไขงานที่ได้รับมอบหมายได้

จิตที่การก่อตัวต้องใช้เวลานาน ต้องการจิตผู้พิทักษ์

จิตใจที่เชื่องช้าเป็นพิเศษกระจัดกระจายไปทั่วพื้นที่ทางกายภาพอันกว้างใหญ่ซึ่งปรากฏว่า "มองไม่เห็น" ต่อรูปแบบของสติที่ตอบสนองเร็วขึ้น

จิตใจที่สามารถสร้างสำเนาของตัวเองได้อย่างรวดเร็วและซ้ำแล้วซ้ำอีก

จิตใจที่สามารถทำซ้ำสำเนาและเหลือไว้เป็นหนึ่งเดียวกับพวกเขา

จิตใจสามารถบรรลุความเป็นอมตะโดยการย้ายจากโฮสต์หนึ่งไปอีกโฮสต์หนึ่ง

จิตใจที่ว่องไว มีพลัง สามารถเปลี่ยนกระบวนการและธรรมชาติของการคิดได้

จิตนาโน หน่วยอิสระที่เล็กที่สุด (ในแง่ของขนาดและพลังงานที่ปล่อยออกมา) ความสามารถในการวิปัสสนา

จิตใจที่เชี่ยวชาญในการเขียนสคริปต์และการพยากรณ์

จิตใจที่ไม่เคยลืมสิ่งใด รวมทั้งข้อมูลที่ไม่ถูกต้อง

ครึ่งเครื่องครึ่งสัตว์

ครึ่งเครื่องครึ่งหุ่นยนต์กะเทย;

จิตใจที่ใช้การวิเคราะห์เชิงปริมาณที่เราไม่สามารถเข้าใจได้ในการทำงาน

ทุกวันนี้ บางคนเรียกแต่ละประเภทว่าปัญญาประดิษฐ์ที่เหนือมนุษย์ แต่ในอนาคต ความหลากหลายและความแปลกแยกของรูปแบบความฉลาดเหล่านี้จะบังคับให้เราหันไปใช้พจนานุกรมใหม่และศึกษาหัวข้อการคิดและสติปัญญาอย่างละเอียด

นอกจากนี้ ผู้ที่ยึดมั่นในแนวคิด AI เหนือมนุษย์ ถือว่าระดับความสามารถทางจิตของมันจะเพิ่มขึ้นแบบทวีคูณ (แม้ว่าจะยังไม่มีระบบการประเมินระดับนี้ก็ตาม) บางทีพวกเขาอาจเชื่อว่ากระบวนการพัฒนาแบบทวีคูณกำลังดำเนินการอยู่

อย่างไรก็ตาม วันนี้ไม่มีหลักฐานของการเติบโตดังกล่าว ไม่ว่าคุณจะวัดมันอย่างไร ไม่เช่นนั้นจะหมายความว่าความสามารถทางจิตของ AI เพิ่มขึ้นเป็นสองเท่าในช่วงเวลาหนึ่ง

การยืนยันนี้อยู่ที่ไหน? สิ่งเดียวที่เติบโตอย่างทวีคูณในตอนนี้คือการลงทุนในอุตสาหกรรม AI แต่ผลตอบแทนจากการลงทุนเหล่านี้ไม่สามารถอธิบายได้โดยกฎของมัวร์ AI ไม่ได้ฉลาดเป็นสองเท่าในสามปี หรือแม้แต่ในสิบปี

ฉันถามผู้เชี่ยวชาญ AI หลายคน แต่ทุกคนเห็นตรงกันว่าเราไม่มีเกณฑ์ความสมเหตุสมผล เมื่อฉันถาม Ray Kurzweil พ่อมดที่แท้จริงของเลขชี้กำลังที่จะหาหลักฐานการพัฒนา AI แบบเลขชี้กำลังได้ที่ไหน เขาเขียนว่าการพัฒนา AI นั้นไม่ได้ระเบิด แต่เป็นกระบวนการที่ค่อยเป็นค่อยไป

“ในการเพิ่มระดับใหม่ให้กับลำดับชั้นต้องใช้ทั้งกำลังการคำนวณที่เพิ่มขึ้นแบบทวีคูณและความซับซ้อนของอัลกอริธึมที่เพิ่มขึ้น ... ดังนั้น เราควรคาดหวังว่าจำนวนระดับเงื่อนไขจะเพิ่มขึ้นเชิงเส้น เนื่องจากแต่ละระดับต้องการ ความสามารถของเราเพิ่มขึ้นแบบทวีคูณ เราไม่มีความยากหลายระดับในการเข้าถึงความสามารถของ AI ของ neocortex (ส่วนหลักของเยื่อหุ้มสมองของมนุษย์ซึ่งมีหน้าที่ในการทำงานของประสาทที่สูงขึ้น - ประมาณ นิวโอ ทัน) ดังนั้นฉันจึงยังคงเชื่อว่าสมมติฐานของฉันเกี่ยวกับปี 2029 นั้นถูกต้อง”

ดูเหมือนว่า Ray จะบอกว่าไม่ใช่พลังของปัญญาประดิษฐ์ที่เติบโตแบบทวีคูณ แต่เป็นความพยายามที่จะสร้างมันขึ้นมา ในขณะที่ผลลัพธ์ของมันก็เพิ่มขึ้นทีละขั้นในแต่ละครั้ง เกือบจะตรงกันข้ามกับสมมติฐานการระเบิดของหน่วยสืบราชการลับ สิ่งนี้อาจเปลี่ยนแปลงได้ในอนาคต แต่ AI ยังไม่เติบโตอย่างทวีคูณในวันนี้อย่างชัดเจน

ดังนั้น เมื่อเราจินตนาการถึง "ความเจริญของ AI" เราไม่ควรจินตนาการว่าเป็นหิมะถล่ม แต่ควรแยกออกเป็นพันธุ์ใหม่ๆ มากมาย ผลลัพธ์ของความก้าวหน้าทางเทคโนโลยีมักจะไม่ใช่ซูเปอร์แมน แต่เป็นซูเปอร์แมน เกินความรู้ของเรา แต่ไม่จำเป็นต้อง "อยู่เหนือ" มัน

มายาคติอีกประการหนึ่งเกี่ยวกับการตกเป็นทาสของความฉลาดหลักแหลม (superintelligence) ซึ่งถูกมองข้ามไป แต่แทบไม่ได้รับการสนับสนุนจากหลักฐานก็คือ ความฉลาดที่แทบจะไร้ขอบเขตสามารถแก้ปัญหาทั้งหมดของเราได้อย่างรวดเร็ว

ผู้เสนอ AI ที่เร็วดุจสายฟ้าหลายคนคาดหวังว่ามันจะทำให้เกิดการเติบโตอย่างรวดเร็ว ฉันเรียกความเชื่อใน "ความคิด" นี้คำนี้แปลโดย Vyacheslav Golovanov - ประมาณ อะไรใหม่ๆ). แนวทางนี้มีพื้นฐานอยู่บนความเชื่อที่ว่าความก้าวหน้าถูกขัดขวางโดยระดับความคิดหรือสติปัญญาที่ไม่เพียงพอเท่านั้น (ฉันยังทราบด้วยว่าความเชื่อใน AI เป็นยาครอบจักรวาลสำหรับโรคภัยไข้เจ็บทั้งหมดเป็นลักษณะเฉพาะสำหรับคนส่วนใหญ่ที่ชอบคิดด้วยตนเอง)

ลองพิจารณาคำถามของการเอาชนะมะเร็งหรือยืดอายุขัย ปัญหาเหล่านี้แก้ไม่ได้ด้วยการคิดคนเดียว ไม่มีความคิดใดที่จะสามารถระบุได้ว่าเซลล์มีอายุเท่าใด หรือเทโลเมียร์สั้นลงได้อย่างไร ไม่มีสติปัญญา ไม่ว่าจะเจ๋งแค่ไหน ก็สามารถเข้าใจการทำงานของร่างกายมนุษย์ได้เพียงแค่อ่านวรรณกรรมทางวิทยาศาสตร์ที่เป็นที่รู้จักทั้งหมดในโลกและวิเคราะห์มัน

ซูเปอร์-AI ไม่สามารถคิดถึงการทดลองฟิชชันนิวเคลียร์ในปัจจุบันและในอดีตทั้งหมด และคิดสูตรสำหรับนิวเคลียร์ฟิวชันในอีกหนึ่งวันต่อมา ในการที่จะเปลี่ยนจากการไม่เข้าใจไปสู่การเข้าใจเรื่องใดเรื่องหนึ่ง คุณต้องมีบางอย่างที่มากกว่าแค่การคิด

ในความเป็นจริง มีการทดลองมากมาย แต่ละการทดลองให้ข้อมูลที่ขัดแย้งกันทั้งหมด และต้องมีการทดลองเพิ่มเติมเพื่อสร้างสมมติฐานการทำงานที่ถูกต้อง การคิดถึงผลลัพธ์ที่เป็นไปได้เพียงอย่างเดียวจะไม่สร้างผลลัพธ์ที่ถูกต้อง

การคิด (ปัญญา) เป็นเพียงส่วนหนึ่งของเครื่องมือของวิทยาศาสตร์ ส่วนใหญ่จะเป็นเพียงส่วนน้อย ตัวอย่างเช่น เราไม่มีข้อมูลเพียงพอที่จะแก้ไขปัญหาการเสียชีวิตได้ ในกรณีของการทำงานกับสิ่งมีชีวิต การทดลองเหล่านี้ส่วนใหญ่ต้องใช้เวลา การเผาผลาญของเซลล์ช้าไม่สามารถเร่งได้ ต้องใช้เวลาเป็นปี เดือน หรืออย่างน้อยหลายวันจึงจะได้ผล

หากเราต้องการทราบว่าเกิดอะไรขึ้นกับอนุภาคของอะตอม แค่คิดถึงอนุภาคเหล่านี้ก็ไม่เพียงพอ เราต้องสร้างแบบจำลองทางกายภาพที่ใหญ่มาก ซับซ้อนมาก และซับซ้อนมากเพื่อค้นหา แม้ว่านักฟิสิกส์ที่ฉลาดที่สุดจะฉลาดกว่าพวกเขาเป็นพันเท่าในตอนนี้ พวกเขาจะไม่เรียนรู้อะไรใหม่ ๆ หากไม่มีเครื่องชนกัน

ไม่ต้องสงสัยเลยว่า super-AI สามารถเร่งการพัฒนาวิทยาศาสตร์ได้ เราสามารถสร้างแบบจำลองคอมพิวเตอร์ของอะตอมหรือเซลล์ เราสามารถเร่งความเร็วได้หลายวิธี แต่มีปัญหาที่ทำให้การจำลองไม่สามารถดำเนินการได้ในทันที

โปรดจำไว้ว่าแบบจำลองและแบบจำลองสามารถสำรวจได้เร็วกว่าตัวแบบเท่านั้นเพราะจะละทิ้งตัวแปรบางอย่าง นี่คือแก่นแท้ของการสร้างแบบจำลอง สิ่งสำคัญที่ควรทราบคือต้องใช้เวลานานในการทดสอบ ศึกษา และตรวจสอบแบบจำลองดังกล่าว เพื่อให้สอดคล้องกับระดับของวิชานั้นๆ การทดสอบด้วยประสบการณ์ไม่สามารถเร่งได้

เวอร์ชันที่ง่ายขึ้นในการจำลองมีประโยชน์ในการค้นหาวิธีที่มีแนวโน้มมากที่สุดในการเร่งความคืบหน้า แต่ในความเป็นจริง ไม่มีอะไรฟุ่มเฟือย ทุกสิ่งทุกอย่างมีความสำคัญในระดับหนึ่ง นี่คือคำจำกัดความที่ยิ่งใหญ่อย่างหนึ่งของความเป็นจริง เนื่องจากแบบจำลองและการจำลองมีรายละเอียดมากขึ้นเรื่อยๆ นักวิจัยจึงต้องเผชิญกับความจริงที่ว่าความเป็นจริงดำเนินไปเร็วกว่าการจำลองแบบ 100%

นี่คือคำจำกัดความของความเป็นจริงอีกประการหนึ่ง: เวอร์ชันที่ทำงานเร็วที่สุดของรายละเอียดที่เป็นไปได้ทั้งหมดและระดับความเป็นอิสระ หากคุณสามารถจำลองโมเลกุลทั้งหมดในเซลล์และทุกเซลล์ในร่างกายมนุษย์ แบบจำลองนี้จะไม่วิ่งเร็วเท่ากับร่างกายมนุษย์ ไม่ว่าคุณจะออกแบบโมเดลดังกล่าวอย่างรอบคอบเพียงใด คุณก็ยังต้องใช้เวลาในการทดลอง ไม่ว่าจะเป็นระบบจริงหรือการจำลอง

ในการจะมีประโยชน์นั้น ปัญญาประดิษฐ์จะต้องถูกนำเข้าสู่โลก และในโลกนี้ ก้าวแห่งนวัตกรรมที่จำเป็นนั้นกำลังเปลี่ยนแปลงไปอย่างรวดเร็วทีเดียว หากไม่มีการทดลอง ต้นแบบ ความผิดพลาด และการมีส่วนร่วมในความเป็นจริง สติปัญญาสามารถคิดได้ แต่จะไม่สร้างผลลัพธ์ เขาจะไม่ทำการค้นพบชั่วขณะใด ๆ ไม่ว่าในวินาทีหรือในหนึ่งชั่วโมงหรือหนึ่งปีหลังจากที่เขาถูกเรียกว่า "ฉลาดกว่าผู้ชาย"

AI ปรากฏขึ้น แน่นอนว่าอัตราการค้นพบจะเพิ่มขึ้นเมื่อ AI นี้ซับซ้อนมากขึ้น ส่วนหนึ่งเป็นเพราะปัญญาประดิษฐ์ของมนุษย์ต่างดาวจะถามคำถามที่ไม่มีมนุษย์คนใดจะถาม แต่ถึงแม้สติปัญญาอันทรงพลัง (เมื่อเทียบกับเรา) ก็ไม่รับประกันความก้าวหน้าในทันที ต้องใช้มากกว่าความฉลาดในการแก้ปัญหา

ปัญหามะเร็งและอายุยืนไม่ใช่ปัญหาเดียวที่ปัญญาอย่างเดียวไม่สามารถแก้ไขได้ มีความเข้าใจผิดกันในหมู่ผู้สนับสนุนแนวคิดเรื่องเอกฐานทางเทคโนโลยี: หากเราสร้าง AI ที่ฉลาดกว่ามนุษย์ ทันใดนั้นก็จะเริ่มพัฒนาและสร้าง AI ที่ชาญฉลาดยิ่งขึ้น

ปัญญาประดิษฐ์ใหม่จะคิดให้ลึกขึ้นและประดิษฐ์บางสิ่งที่ฉลาดยิ่งขึ้นไปอีก จนกว่าจะมีการประดิษฐ์สิ่งที่เหมือนพระเจ้า ไม่มีหลักฐานว่าการคิดเพียงอย่างเดียวก็เพียงพอที่จะสร้างระดับความฉลาดใหม่ได้ การคิดแบบนี้มีพื้นฐานมาจากความเชื่อ

อย่างไรก็ตาม มีหลักฐานมากมายที่แสดงว่าการประดิษฐ์ปัญญาที่มีประสิทธิภาพใหม่ไม่เพียงแต่ต้องใช้ความพยายามทางจิตเท่านั้น แต่ยังต้องใช้การทดลอง ข้อมูล คำถามยากๆ การลองผิดลองถูกด้วย

ฉันเข้าใจว่าฉันอาจจะผิด ในขณะที่เราอยู่ในช่วงเริ่มต้น บางทีเราอาจค้นพบความฉลาดระดับสากลหรือความไม่มีที่สิ้นสุดในทุกแง่มุม มีความเป็นไปได้ที่จะเกิดภาวะเอกฐานทางเทคโนโลยี เพราะเรารู้เพียงเล็กน้อยเกี่ยวกับความฉลาดและความตระหนักในตนเอง ในความคิดของฉันทุกอย่างชี้ให้เห็นถึงความจริงที่ว่าสิ่งนี้ไม่น่าเป็นไปได้ แต่ก็ยังมีโอกาส

อย่างไรก็ตาม ฉันสนับสนุนเป้าหมายที่กว้างขึ้นของ OpenAI: เราต้องพัฒนา AI ที่เป็นมิตรและหาวิธีให้คุณค่าที่ทำซ้ำได้ด้วยตัวเองและตรงกับของเรา

มีความเป็นไปได้ที่ AI ที่เหนือมนุษย์อาจเป็นอันตรายในระยะยาว แต่แนวคิดนี้มีพื้นฐานมาจากหลักฐานที่ไม่สมบูรณ์ และไม่ควรนำมาพิจารณาอย่างจริงจังในด้านวิทยาศาสตร์ การเมือง หรือความก้าวหน้า

ผลกระทบของดาวเคราะห์น้อยบนโลกสามารถทำลายเราได้ มีความเป็นไปได้ที่จะเกิดผลลัพธ์ดังกล่าว (ซึ่งได้รับการยืนยันโดยมูลนิธิ B612) แต่เราไม่ควรคำนึงถึงผลลัพธ์ดังกล่าวในเรื่องภาวะโลกร้อน การเดินทางในอวกาศ หรือการวางผังเมือง

หลักฐานที่มีอยู่บ่งชี้ว่าส่วนใหญ่แล้ว AI จะไม่เหนือมนุษย์ เขาจะมีความคิดใหม่ๆ ที่ไม่สามารถเข้าถึงได้โดยมนุษย์ แต่ถ้าปราศจากการประยุกต์ใช้อย่างครอบคลุม เขาจะไม่กลายเป็นพระเจ้าที่จะแก้ปัญหาหลักของเราได้ในทันที

แต่จะกลายเป็นการสะสมของสติปัญญาที่มีความสามารถจำกัด จะดีกว่าการทำงานในพื้นที่ที่ไม่คุ้นเคยกับเรา ร่วมกับเราจะสามารถค้นหาแนวทางแก้ไขทั้งปัญหาที่มีอยู่และปัญหาใหม่ได้

ฉันเข้าใจว่าแนวคิดของ AI ที่เหนือมนุษย์และเหมือนพระเจ้านั้นน่าสนใจเพียงใด เขาอาจจะเป็นซูเปอร์แมนคนต่อไป แต่เช่นเดียวกับซูเปอร์แมน นี่คือตัวละครสมมติ ที่ใดที่หนึ่งในจักรวาล ซุปเปอร์แมนอาจมีอยู่จริง แต่ก็ไม่น่าเป็นไปได้อย่างยิ่ง อย่างไรก็ตาม ตำนานก็มีประโยชน์ และเมื่อสร้างแล้ว ตำนานก็จะไม่หายไป

ความคิดของ Superman จะคงอยู่ตลอดไป ความคิดของ AI เหนือมนุษย์และภาวะเอกฐานกำลังเกิดขึ้นในขณะนี้และจะไม่มีวันลืม เราต้องเข้าใจว่ามันเป็นความคิดแบบไหน: ศาสนาหรือวิทยาศาสตร์ หากเรากำลังตรวจสอบคำถามของปัญญาประดิษฐ์หรือโดยธรรมชาติ เราต้องเข้าใจให้ชัดเจนว่าแนวคิดเรื่อง AI เหนือมนุษย์ของเรานั้นเป็นเพียงตำนาน

ชนเผ่าในหมู่เกาะที่แยกตัวของไมโครนีเซียได้ติดต่อกับโลกภายนอกเป็นครั้งแรกในช่วงสงครามโลกครั้งที่สอง เหล่าทวยเทพบินมาจากแดนไกล ลงมาจากสวรรค์ด้วยนกที่ส่งเสียงอึกทึก นำของขวัญและบินหนีไปตลอดกาล ลัทธิการกลับมาของเหล่าทวยเทพและของขวัญใหม่ ๆ กระจายไปทั่วเกาะ แม้กระทั่งตอนนี้ 50 ปีต่อมา หลายคนยังคงรอการกลับมาของพวกเขา

Superhuman AI อาจกลายเป็นลัทธิขนส่งสินค้ารูปแบบใหม่สำหรับเรา บางทีในอีกร้อยปีข้างหน้าผู้คนจะรับรู้เวลาของเราในลักษณะเดียวกัน ราวกับว่าเราเชื่อใน AI ที่เหนือมนุษย์และรอมานานหลายทศวรรษเพื่อให้เวลานั้นปรากฏขึ้นและนำของขวัญที่เหนือจินตนาการมาให้เรา

อย่างไรก็ตาม AI ที่ไม่ใช่ยอดมนุษย์มีอยู่แล้วในขณะนี้ เรายังคงมองหาคำจำกัดความใหม่สำหรับมัน เพื่อให้มันซับซ้อน อย่างไรก็ตาม ในความหมายกว้าง ความคิดของมนุษย์ต่างดาวสำหรับเรานั้นเป็นสเปกตรัมของความสามารถทางปัญญา การคิด กลไกของการให้เหตุผล การเรียนรู้ การตระหนักรู้ในตนเอง AI กำลังแพร่กระจายและจะแพร่กระจายต่อไป มันลึกซึ้งขึ้น หลากหลายขึ้น มีพลังมากขึ้น

ก่อน AI ไม่มีสิ่งประดิษฐ์ใดที่สามารถเปลี่ยนแปลงโลกได้อย่างสมบูรณ์ ในตอนท้ายของศตวรรษที่ 21 ปัญญาประดิษฐ์จะทรงพลังมากจนจะเปลี่ยนทุกอย่างในชีวิตของเรา

อย่างไรก็ตาม ตำนานของ AI ที่เหนือมนุษย์ที่จะมอบความมั่งคั่งมหาศาลหรือความเป็นทาสขั้นสูงสุด (หรือทั้งสองอย่าง) ให้กับเรา จะคงอยู่ต่อไป อย่างไรก็ตาม มันยังคงเป็นตำนาน ซึ่งไม่น่าจะเป็นไปได้ในความเป็นจริง