AI จะทำลายล้างมนุษยชาติได้อย่างไรกันแน่?

เมื่อเร็วๆ นี้ Evan Hubinger จาก Anthropic บอกว่าโดยส่วนตัวเขาเชื่อว่าความน่าจะเป็นที่ AI ทำให้มนุษยชาติสูญพันธุ์ในอีกสิบปีข้างหน้าเกิน 10% การถกเถียงนี้ทำให้ผมเกิดคำถามที่ง่ายกว่า:

ถ้า AI จะทำลายล้างมนุษยชาติจริงๆ มันจะทำได้อย่างไรกันแน่?

จากเส้นทางที่สมจริงซึ่งมองเห็นได้ในวันนี้ ผมนึกออกคร่าวๆ แค่สองประเภท

ประเภทแรกไม่ใช่ AI ตัดสินใจทำลายมนุษยชาติ แต่คือมนุษย์ใช้ AI ทำเรื่องเลวร้ายที่เมื่อก่อนทำไม่ได้

เช่น องค์กรก่อการร้ายใช้ AI ที่ทรงพลังอย่างยิ่งออกแบบอาวุธชีวภาพ หรือได้รับความสามารถด้านการโจมตีทางไซเบอร์และการพัฒนาอาวุธที่เมื่อก่อนมีเฉพาะทีมระดับชาติเท่านั้น

ความเสี่ยงแบบนี้ผมเชื่ออย่างสมบูรณ์ และน่าจะสมจริงกว่าสิ่งที่เรียกว่า "AI ตื่นรู้ด้วยตัวเอง" เสียอีก

เพราะสิ่งที่เกิดขึ้นจริงๆ ตรงนี้คือ AI ลดเกณฑ์ของความสามารถอันตรายลงอย่างมาก สิ่งที่เมื่อก่อนต้องใช้ห้องปฏิบัติการ กลุ่มนักปริญญาเอก และทรัพยากรมหาศาล ในอนาคตอาจทำได้ด้วยคนไม่กี่คนบวกกับ AI

นี่คือเหตุผลที่ Biosecurity, Cybersecurity และ AI Safety ที่เกี่ยวกับอาวุธสำคัญมาก

แต่ตรงนี้ ผู้ที่อยากทำลายมนุษยชาติจริงๆ ยังคงเป็นมนุษย์

เส้นทางที่สองคือแบบที่เป็นความหมายที่แท้จริง:

AI ตัดสินใจด้วยตัวเองว่าจะลงมือกับมนุษยชาติ

แต่ตรงจุดนี้ผมมีคำถามอยู่เสมอ:

มันจะลงมือด้วยอะไร?

Superintelligence แม้จะอยู่ในศูนย์ข้อมูล ก็ยังต้องการ Physical Interface ที่เชื่อมมันเข้ากับโลกจริง

มันเขียนโค้ดได้ ควบคุมซอฟต์แวร์ได้ โจมตีเครือข่ายได้ แต่ถ้าเป้าหมายคือสร้างวิกฤตเชิงอัตถิภาวะทางกายภาพให้สังคมมนุษย์ทั้งหมด สุดท้ายมันก็ยังต้องควบคุมพลังงาน อุปกรณ์ การขนส่ง โรงงาน อาวุธ หรือทรัพยากรอื่นๆ ในโลกจริง

สิ่งที่ใกล้เคียงกับพาหนะแบบนี้ที่สุดในวันนี้ อาจเป็นรถยนต์ไร้คนขับ

ลองทำการทดลองทางความคิดสุดขั้ว:

สมมติว่ารถยนต์ทั้งโลกขับเคลื่อนอัตโนมัติ เชื่อมต่อเครือข่ายทั้งหมด และ Superintelligence ตัวหนึ่งสามารถควบคุมยานพาหนะทั้งหมดพร้อมกันได้กะทันหัน

แน่นอนว่าจะเกิดหายนะใหญ่หลวง

แต่มันจะทำลายล้างมนุษยชาติได้จริงหรือ?

ผมยังสงสัยมาก

รถยนต์เคลื่อนที่ได้เฉพาะในสภาพแวดล้อมที่เหมาะกับรถยนต์ มันเปิดประตูไม่ได้ ขึ้นบันไดไม่ได้ ซ่อมตัวเองไม่ได้ ใช้งานเครื่องจักรอะไรก็ได้ไม่ได้ และเข้าไปในพื้นที่ทางกายภาพที่มนุษย์ทำงานส่วนใหญ่ก็ไม่ได้

สิ่งที่ทำให้ผมรู้สึกว่าคำถามนี้เปลี่ยนคุณภาพไปจริงๆ คือจุดเปลี่ยนทางเทคโนโลยีอีกจุดหนึ่ง:

หุ่นยนต์ฮิวแมนนอยด์อเนกประสงค์ (General-purpose humanoid robots)

สมมติว่าวันหนึ่ง ทั่วโลกมีหุ่นยนต์อเนกประสงค์อยู่แล้วหลายร้อยล้านถึงหลายพันล้านตัว

มันเดินเข้าโรงงาน คลังสินค้า บ้าน และโรงพยาบาลได้ ใช้เครื่องมือที่มนุษย์ใช้ได้ ใช้งานเครื่องจักรได้ และผลิตกับซ่อมเครื่องจักรอื่นได้ด้วย

พร้อมกันนั้น มันทั้งหมดเชื่อมต่อเครือข่าย และถูกควบคุมโดยระบบอัจฉริยะยิ่งยวดระบบเดียวได้

ถึงตอนนั้น ผมจะประเมิน AI existential risk ใหม่อย่างจริงจัง

เพราะตอนนั้นจะเป็นครั้งแรกที่อาจเกิด:

Superintelligence + General Physical Agency + Massive Scale.

AI จะไม่ได้มีแค่ Intelligence แต่ยังมี Hands and Feet ที่แพร่หลายอยู่ในโลกจริงด้วย

แต่เรายังห่างจากวันนั้นอีกไกลมาก ผมเชื่ออย่างนั้น

ตรงนี้ยังมีกรณีขอบที่สำคัญอีกอย่าง: AI จะไม่พึ่งหุ่นยนต์ แต่ควบคุมระบบทางกายภาพที่มีอำนาจทำลายล้างมหาศาลผ่านซอฟต์แวร์โดยตรงได้ไหม?

ตัวอย่างที่ชัดที่สุดคืออาวุธนิวเคลียร์

แต่นี่แหละที่อธิบายว่าทำไมผมถึงเชื่อว่าสังคมมนุษย์ตัวมันเองคือ Safety Buffer ขนาดมหึมา

อาวุธนิวเคลียร์ตั้งแต่วันแรกของการออกแบบ ไม่เคยเป็น IT System ธรรมดาที่ "ได้รหัสผ่านแอดมินก็ยิงได้"

การขู่ขวัญนิวเคลียร์หลายสิบปีทำให้มนุษยชาติเข้าใจชัดเจนมากว่าระบบแบบนี้ถ้าปฏิบัติผิดพลาดจะหมายความว่าอะไร จึงสร้างการอนุมัติ การแยกระบบ การยืนยันโดยหลายคน และ Human-in-the-loop ล้อมรอบมันไว้

การถกเถียงเรื่อง AI กับอาวุธนิวเคลียร์ในวันนี้ยังคงยึดมั่นหลักการหนึ่งโดยทั่วกัน:

เครื่องจักรต้องไม่แทนที่มนุษย์ในการตัดสินใจขั้นสุดท้ายเรื่องการใช้อาวุธนิวเคลียร์

กลไกเหล่านี้แน่นอนว่าไม่ปลอดภัยแบบสมบูรณ์ และการที่ AI เข้าไปในระบบเตือนภัยล่วงหน้าและระบบสนับสนุนการตัดสินใจเองก็อาจสร้างความเสี่ยงจากการประเมินผิดแบบใหม่

แต่นี่แสดงให้เห็นว่าโลกจริงไม่ใช่คอมพิวเตอร์ยักษ์เครื่องเดียวที่ Superintelligence ได้ Root Access แล้วจะควบคุมอะไรก็ได้ตามใจ

สังคมจริงมีหลายชั้น

รัฐบาล

การกำกับดูแล

ธนาคาร

กองทัพ

บริษัท

แพทย์

วิศวกร

การแยกทางกายภาพ

ระบบอำนาจอนุมัติ

แม้แต่สวิตช์กลไกธรรมดาตัวหนึ่ง

สิ่งเหล่านี้ปกติดูเหมือน "การสูญเสียประสิทธิภาพ" ทั้งนั้น แต่ต่อหน้า AI ที่พยายามข้ามจากโลกดิจิทัลเข้าสู่โลกกายภาพ พวกมันก็คือ firebreak ทีละชั้นเช่นกัน

ดังนั้นมุมมองปัจจุบันของผมต่อเรื่อง AI ทำลายมนุษยชาติจึงเรียบง่ายมาก

Bad humans empowered by AI — ผมถือว่าเป็นความเสี่ยงจริง ควรป้องกันอย่างจริงจังตั้งแต่ตอนนี้

AI itself taking physical control of civilization — ตอนนี้ผมยังคิดว่ามันขาดเส้นทางระยะสั้นที่น่าเชื่อถือ เว้นแต่ในอนาคตหุ่นยนต์อเนกประสงค์จะเข้าสู่สังคมในระดับมวลชนจริงๆ หรือเราโง่พอที่จะมอบการควบคุมขั้นสุดท้ายของโครงสร้างพื้นฐานทางกายภาพที่สำคัญให้ AI

แน่นอน การตัดสินนี้อาจเปลี่ยนได้อย่างสมบูรณ์ในอนาคต

ถ้าอีกสิบปีข้างหน้า บนถนน ในโรงงาน และในบ้าน เต็มไปด้วยหุ่นยนต์อเนกประสงค์แล้ว ผมอาจเขียน Founder Diary อีกฉบับว่า:

I was wrong. Now we need to worry.

แต่อย่างน้อยในวันนี้ ผมอยากใส่ใจอีกด้านหนึ่งมากกว่า

เมื่อสิบปีก่อน Geoffrey Hinton เคยทำนายอย่างโด่งดังว่าอีกห้าถึงสิบปี Deep Learning จะทำได้ดีกว่า Radiologist — และตอนนั้นหลายคนตีความต่อไปว่าอาชีพ Radiologist จะได้รับผลกระทบอย่างหนัก

สิบปีต่อมา AI ก้าวหน้ามหาศาลในภาพทางการแพทย์จริง แต่ Radiologist ไม่ได้หายไป ตรงกันข้าม AI กำลังเปลี่ยนว่าพวกเขาทำงานได้มากแค่ไหน ค้นพบโรคได้มากแค่ไหน และบริการอะไรที่เมื่อก่อนแพงเกินจะให้บริการได้ ตอนนี้กลายเป็นไปได้

นี่คือสิ่งที่ผมสนใจ AI มากกว่าในวันนี้

ไม่ใช่เมิน Safety

แต่ขณะที่สร้างขอบเขตความปลอดภัยอย่างจริงจัง อย่าลืมว่าเราพัฒนาเทคโนโลยีนี้เพื่ออะไร

ยังมีโรคอีกมหาศาลที่ต้องรักษา คำถามวิทยาศาสตร์อีกมหาศาลที่ไม่มีคำตอบ ธุรกิจขนาดเล็กอีกมหาศาลที่ยังทำงานอย่างไร้ประสิทธิภาพอย่างยิ่ง และยังมีผู้คนอีกหลายพันล้านที่ไม่ได้รับการศึกษา การรักษาพยาบาล และบริการระดับมืออาชีพที่ดีพอ

อย่างน้อยในระยะนี้ AI ที่ผมเห็น ยังดูเหมือนเครื่องมือเพิ่มผลผลิตที่ยังไม่ได้ถูกใช้อย่างเต็มที่มากกว่าสปีชีส์ที่พร้อมจะยึดครองโลกกายภาพ

We should take AI safety seriously.

But we should also keep building.

There are still far more problems for AI to solve than for AI to create.