ทรัมป์จับมือ 6 บิ๊กเทคเซ็นข้อตกลงคุมความปลอดภัยเอไอ

วันที่ 29 กันยายนที่ผ่านมา ประธานาธิบดีโดนัลด์ ทรัมป์ (Donald Trump) ของสหรัฐฯ จัดประชุมร่วมกับผู้นำบริษัทเทคโนโลยีและปัญญาประดิษฐ์รายใหญ่ที่ทำเนียบขาว (White House) ก่อนประกาศข้อตกลง White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities 

โดยวางกรอบความปลอดภัยสำหรับบริษัทที่พัฒนาโมเดล AI ระดับแนวหน้า หรือ Frontier Models ท่ามกลางความกังวลว่าความสามารถของ AI กำลังพัฒนาเร็วกว่ากลไกกำกับดูแล

ข้อตกลงดังกล่าวมีผู้บริหารบริษัทเทคโนโลยี 6 รายร่วมลงนาม ได้แก่ ซุนดาร์ พิชัย (Sundar Pichai) ซีอีโอกูเกิล (Google), อีลอน มัสก์ (Elon Musk) จากเอ็กซ์เอไอ (xAI), ดาริโอ อโมเด (Dario Amodei) ซีอีโอแอนโทรปิก (Anthropic), มาร์ก ซักเคอร์เบิร์ก (Mark Zuckerberg) ซีอีโอเมตา (Meta), เจนเซน หวง (Jensen Huang) ซีอีโอเอ็นวิเดีย (NVIDIA) และเกร็ก บร็อกแมน (Greg Brockman) ประธานและผู้ร่วมก่อตั้งโอเพนเอไอ (OpenAI) พร้อมลายเซ็นของประธานาธิบดีทรัมป์

ข้อตกลงนี้ยังไม่ใช่กฎหมายหรือข้อบังคับของรัฐบาลกลาง แต่เป็นความร่วมมือโดยสมัครใจของบริษัทที่เข้าร่วม ทรัมป์ระบุว่าข้อตกลงมีลักษณะผูกพันทางศีลธรรม หรือ Morally binding และเปรียบเทียบว่าเกือบเหมือนรัฐธรรมนูญสำหรับการกำกับเทคโนโลยี ขณะที่แนวทางหลักยังให้อุตสาหกรรมมีบทบาทสำคัญในการตรวจสอบและควบคุมตัวเอง แทนการใช้กฎระเบียบจากรัฐบาลเป็นกลไกหลัก

วางระบบความปลอดภัย 4 ชั้น คุม Frontier AI

สาระสำคัญของ White House Accord คือการกำหนดระบบควบคุมและตรวจสอบ 4 ชั้น สำหรับบริษัทที่ฝึกและนำ Frontier Models ไปใช้งาน

ชั้นแรก คือ การสร้างระบบควบคุมภายในเพื่อติดตามความสามารถและ Alignment ของโมเดลทั้งระหว่างการฝึกและการใช้งานจริง โดยระบบจะให้ความสำคัญกับความเสี่ยงด้านความมั่นคงปลอดภัยไซเบอร์ ชีวภาพ และภัยคุกคามทางเคมี รวมถึงป้องกันไม่ให้ AI เจาะหรือเข้าถึงระบบคอมพิวเตอร์โดยไม่ได้ตั้งใจ

ชั้นที่สอง คือ บริษัทต้องมีทีมงานภายในที่รับผิดชอบตรวจสอบว่าระบบควบคุม การเฝ้าติดตาม และการตรวจจับความผิดปกติทำงานตามที่กำหนด พร้อมแก้ไขปัญหาที่ตรวจพบ

ชั้นที่สาม คือ การพัฒนาต้องใช้ผู้ตรวจสอบหรือผู้ประเมินอิสระจากภายนอกเข้ามาตรวจสอบอีกระดับหนึ่ง เพื่อลดความเสี่ยงจากการที่บริษัทเป็นผู้ประเมินเทคโนโลยีของตัวเองทั้งหมด

ชั้นสุดท้าย คือ การตั้งคณะกรรมการอิสระในระดับคณะกรรมการบริษัท ทำหน้าที่รับรายงานจากทีมภายในและผู้ตรวจสอบภายนอก รวมถึงกำกับให้ปัญหาที่ตรวจพบได้รับการแก้ไข บริษัทที่เข้าร่วมยังตกลงว่าจะประชุมกันเป็นระยะ เพื่อพัฒนามาตรฐานและแนวปฏิบัติด้านความปลอดภัยร่วมกัน โดยเอกสารเปิดช่องไว้ด้วยว่า ในอนาคตมาตรการบางส่วนอาจถูกนำไปบัญญัติเป็นกฎหมายหรือกฎระเบียบอย่างเป็นทางการ

อีลอน มัสก์ เปรียบเหมือนให้บริษัท AI ช่วยตรวจการบ้านกันเอง

อีลอน มัสก์ อธิบายแนวทางตรวจสอบระหว่างบริษัทในลักษณะของการให้แต่ละฝ่ายช่วยกันตรวจการบ้าน แทนที่จะปล่อยให้บริษัทตรวจงานของตัวเองเพียงฝ่ายเดียว ขณะที่มาร์ก ซักเคอร์เบิร์ก ระบุว่า ระบบดังกล่าวจะประกอบด้วยการควบคุมภายใน การตรวจสอบความเสี่ยง การใช้ผู้ตรวจสอบภายนอก และการให้คณะกรรมการบริษัทตรวจสอบรายงานอีกชั้นหนึ่ง

จุดที่น่าสนใจคือผู้ลงนามมาจากบริษัทที่มีแนวทางด้านการกำกับ AI แตกต่างกัน โดยเฉพาะ Anthropic ซึ่งผลักดันมาตรการด้าน Frontier AI Safety มาอย่างต่อเนื่อง ขณะที่บริษัทบางแห่งให้ความสำคัญกับการหลีกเลี่ยงกฎระเบียบที่อาจชะลอการพัฒนาเทคโนโลยี การที่บริษัทเหล่านี้ยอมรับกรอบการตรวจสอบร่วมกันจึงทำให้ White House Accord กลายเป็นความพยายามสร้างมาตรฐานขั้นต่ำร่วมกันในช่วงที่ AI กำลังมีความสามารถสูงขึ้นอย่างรวดเร็ว

อย่างไรก็ตาม ข้อตกลงยังมีข้อจำกัดสำคัญ เพราะเป็น Voluntary Accord หรือข้อตกลงโดยสมัครใจ ไม่มีบทลงโทษตามกฎหมายระบุไว้ในเอกสาร หากบริษัทไม่ปฏิบัติตาม ดังนั้นประสิทธิผลของกรอบดังกล่าวในระยะสั้นจะขึ้นอยู่กับวิธีที่แต่ละบริษัทนำมาตรการทั้ง 4 ชั้นไปใช้ รวมถึงความเข้มข้นและความเป็นอิสระของผู้ตรวจสอบภายนอกและคณะกรรมการบริษัท

ทรัมป์ผลักดันคำ Super Intelligence หรือ SI แทน AI

อีกประเด็นที่ได้รับความสนใจคือ ทรัมป์เดินหน้าผลักดันคำว่า Super Intelligence หรือ SI แทนคำว่า Artificial Intelligence หรือ AI โดยในการกล่าวต่อที่ประชุมสมัชชาใหญ่แห่งสหประชาชาติ (United Nations General Assembly) เมื่อวันที่ 22 กันยายน ทรัมป์เรียกเทคโนโลยีดังกล่าวว่า Super Intelligence อย่างเป็นทางการในสุนทรพจน์

ล่าสุดหลังประชุมกับผู้บริหารเทคโนโลยีที่ทำเนียบขาว เขาย้ำอีกครั้งว่าชื่อถูกเปลี่ยนเป็น SI แล้ว ชื่อของข้อตกลงที่บริษัทเทคโนโลยีลงนามก็เลือกใช้คำว่า Super Intelligence แทน Artificial Intelligence เช่นเดียวกัน

อย่างไรก็ตาม การเปลี่ยนคำเรียกในบริบทของรัฐบาลทรัมป์ ไม่ได้หมายความว่าวงการวิทยาศาสตร์และอุตสาหกรรม AI ทั่วโลกเปลี่ยนคำว่า Artificial Intelligence เป็น Super Intelligence แล้ว และตัวข้อตกลงที่เผยแพร่ไม่ได้ระบุว่าคำศัพท์ AI ทางวิชาการถูกเปลี่ยนชื่อ

ประเด็นนี้มีความสำคัญเนื่องจากคำว่า Superintelligence มีความหมายเฉพาะอยู่แล้วในวงการ AI โดยทั่วไปใช้กล่าวถึงแนวคิดของระบบปัญญาประดิษฐ์ที่มีความสามารถทางปัญญาสูงกว่ามนุษย์ ดังนั้นการนำ Super Intelligence หรือ SI มาใช้เป็นคำเรียกรวมสำหรับเทคโนโลยี AI อาจทำให้เกิดความสับสนระหว่างคำที่รัฐบาลสหรัฐฯ เลือกใช้กับความหมายทางวิชาการที่มีอยู่เดิม