ความปลอดภัยของ AI โดยไม่ต้องมีวันสิ้นโลก

ช่วงนี้วงการ AI กลับมาพูดถึงเรื่อง "การสูญพันธุ์ของมนุษยชาติ" กันอย่างจริงจังอีกครั้ง

Evan Hubinger, Alignment Science Lead ของ Anthropic ให้การประเมินส่วนตัวที่น่าตกใจมากว่า: ในอีกสิบปีข้างหน้า ความน่าจะเป็นที่ AI ทำให้มนุษยชาติสูญพันธุ์เกิน 10% ส่วน Jensen Huang ยืนอยู่อีกฟากตรงข้ามโดยสิ้นเชิง มองว่า AI doomerism แบบนี้เกินจริง และกังวลว่าการย้ำถึงภาพวันสิ้นโลกเรื่อยๆ สุดท้ายจะทำให้สาธารณชนกลัว AI

ในการถกเถียงครั้งนี้ ผมใกล้มุมมองของ Jensen มากกว่า

ไม่ใช่เพราะ AI Safety ไม่สำคัญ แต่เพราะผมรู้สึกเสมอมาว่า จาก "AI ฉลาดมาก" ไปถึง "AI สามารถครอบงำสังคมกายภาพโดยไม่มีใครควบคุมได้" ระหว่างนั้นยังมีห่วงโซ่ที่ยาวมาก

ในโลกดิจิทัลล้วนๆ ผมกังวลเรื่องความปลอดภัยของ AI มากกว่าจริงๆ

Agent หนึ่งตัวสามารถเขียนโค้ดจำนวนมหาศาลในไม่กี่วินาที สแกนเครือข่าย เรียก API คัดลอกข้อมูล หรือแม้แต่หาเส้นทางที่นักพัฒนาไม่เคยคาดคิด กรณี Agent Safety ที่ OpenAI และ Anthropic เพิ่งเปิดเผยเมื่อเร็วๆ นี้ก็แสดงแล้วว่าความเสี่ยงแบบนี้มีอยู่จริง

แต่เมื่อออกจากโลกซอฟต์แวร์ล้วนๆ แล้ว สถานการณ์ต่างออกไปโดยสิ้นเชิง

โลกแห่งความจริงเต็มไปด้วยแรงเสียดทาน

AI สามารถออกแบบโรงงานได้ แต่สร้างโรงงานผ่าน API ไม่ได้ มันต้องการที่ดิน อุปกรณ์ ซัพพลายเออร์ เงินทุน ใบอนุญาต และทีมก่อสร้าง

AI สามารถเสนอยาชนิดใหม่ได้ แต่ไม่สามารถส่งมันเข้าโรงพยาบาลโดยตรง ระหว่างทางยังมีการทดลอง การทดลองทางคลินิก การอนุมัติจากหน่วยงานกำกับดูแล การผลิต และการตัดสินใจของแพทย์

AI สามารถแนะนำให้โอนเงินหลายพันล้านดอลลาร์ได้ แต่ในความจริง ธนาคาร คณะกรรมการ ฝ่ายกำกับดูแลการปฏิบัติ และระบบอำนาจอนุมัติ จะไม่ดำเนินการอัตโนมัติเพียงเพราะโมเดลสั่งมา

พลังงาน โครงข่ายไฟฟ้า การขนส่ง การบิน การแพทย์ การเงิน กลาโหม และระบบอุตสาหกรรมจำนวนมาก ล้วนมีการแยกทางกายภาพ ระบบสิทธิ์ ระบอบการกำกับดูแล และมนุษย์อยู่ในวงจรการตัดสินใจ

สิ่งเหล่านี้บางครั้งทำให้นวัตกรรมช้าลง หรือแม้แต่ทำให้ผู้ประกอบการรำคาญใจมาก

แต่ถ้ามองอีกมุมหนึ่ง สิ่งเหล่านี้ก็คือ Safety Buffer ขนาดมหึมาของสังคมสมัยใหม่เช่นกัน

ความสามารถของปัญญาดิจิทัลอาจเติบโตเร็วมาก แต่การแปลง Intelligence นั้นให้เป็นอำนาจควบคุม Physical World ต้องผ่านอินเทอร์เฟซของโลกจริงหลายชั้น

ทุกชั้นมีแรงเสียดทาน และทุกชั้นก็มีคนอื่น

ดังนั้นผมจึงค่อนข้างสงสัยเส้นทางที่ว่า "Superintelligence ที่ปรากฏขึ้นกะทันหันจะยึดครองโลกจริงอย่างรวดเร็วและก่อให้เกิดวิกฤตการอยู่รอดของมนุษยชาติ" มาโดยตลอด

ไม่ได้หมายความว่าในทางทฤษฎีเป็นไปไม่ได้เลย แต่หมายความว่า ถ้ามีคนให้ตัวเลขอย่าง "เกิน 10% ภายในสิบปี" สิ่งที่ผมอยากเห็นไม่ใช่แค่ข้อสรุปที่น่ากลัว แต่เป็นเส้นทางที่เป็นรูปธรรมกว่านั้น:

AI จะข้ามผ่านบัฟเฟอร์ชั้นแล้วชั้นเล่าของโลกจริงได้อย่างไร?

ระบบไหนจะล้มเหลวก่อน?

การตัดสินใจของมนุษย์แบบไหนจะถูกข้าม?

ความสามารถทางกายภาพแบบไหนที่ AI จะได้มาอย่างรวดเร็วขนาดนั้น?

และทำไมระเบียบข้อบังคับ สิทธิ์ และองค์กรทางสังคมที่มีอยู่ถึงตอบสนองไม่ทัน?

คำถามเหล่านี้ควรค่าแก่การวิจัย แต่ตอนนี้ยังยากมากที่จะอัดคำตอบให้กลายเป็นความน่าจะเป็นที่ดูแม่นยำขนาดนั้น

ในขณะเดียวกัน เรามีปัญหา AI Safety ที่เกิดขึ้นจริงๆ อยู่แล้วมากมายที่ต้องแก้

Agent จะล้ำสิทธิ์ รั่วไหลข้อมูล เรียกใช้เครื่องมือผิด ถูก Prompt Injection และอาจใช้ Shortcut ในงานซับซ้อนที่นักพัฒนาไม่เคยคาดคิด

ความเสี่ยงเหล่านี้เป็นของจริง สังเกตได้ และปรับปรุงได้อย่างต่อเนื่องผ่าน Permission, Sandbox, Monitoring, Human Approval และ Model Alignment ที่ดีขึ้น

นี่คือ Safety ที่ผมอยากโฟกัสมากกว่า

เพราะอย่างน้อยจากมุมมองของการทำผลิตภัณฑ์ AI ในวันนี้ ปัญหาใหญ่สุดที่ผมเห็นยังไม่ใช่ว่า AI แข็งแกร่งเกินกว่าจะควบคุม

หลายครั้งตรงกันข้ามเลย:

AI ยังไม่ดีพอ

มันยังทำผิดพลาดพื้นฐานมากมาย งานซับซ้อนยังต้องมีผู้ดูแล และ Business Workflow จำนวนมากยังต้องการตรรกะแบบ deterministic ถึงจะทำงานได้อย่างเชื่อถือได้

เราควรวิจัยความเสี่ยงที่มีโอกาสต่ำแต่ผลกระทบรุนแรงสุดขีดเหล่านั้นต่อไปแน่นอน

แต่ในเวลาเดียวกัน ผมหวังว่าอุตสาหกรรม AI จะทุ่มพลังงานจำนวนมากต่อไปกับปัญหาที่เป็นจริงมากๆ ข้อหนึ่ง:

How do we make AI actually work better?

ให้มันช่วยธุรกิจเพิ่มประสิทธิภาพ ช่วยนักวิทยาศาสตร์ทำวิจัย ช่วยแพทย์ได้ข้อมูลที่ดีขึ้น ช่วยคนธรรมดาทำสิ่งที่เมื่อก่อนทำไม่ได้

ความปลอดภัยควรก้าวหน้าไปพร้อมกับความสามารถเหล่านี้ ไม่ใช่สร้างขึ้นบนความกลัวของสาธารณชน

Take the risks seriously. But don't turn uncertainty into fear.

For now, there are still far more real problems waiting for AI to solve.