สัญญาณเตือน! "3 บิ๊กเทคโลก" ผวา AI ล้ำหลุดการควบคุม

ผู้บริหารและผู้ก่อตั้งบริษัทเทคโนโลยีรายใหญ่ที่มุ่งพัฒนาด้านปัญญาประดิษฐ์ (AI) 3 ราย แม้ในเชิงธุรกิจจะแข่งขันกันดุเดือด แต่ล่าสุดกลับมีมุมมองไปในทิศทางแนวทางเดียวกัน ต่อความก้าวหน้าอย่างรวดเร็วของ เอไอ

เริ่มที่ Dario Amodei (ดาริโอ อโมเดอี) CEO Anthropic ซึ่งเผยแพร่บทความผ่านเว็บไซต์ส่วนตัว เมื่อสุดสัปดาห์ที่ผ่านมา พร้อมเรียกร้องให้โลกชะลอความเร็วในการพัฒนาขีดความสามารถของโมเดล เอไอ เพื่อให้มีเวลาสำหรับมาตรการด้านความปลอดภัย ตามได้ทันกับเทคโนโลยี

จากนั้นคู่แข่งทั้ง Sam Altman (แซม อัลต์แมน) แห่ง OpenAI และ Elon Musk (อีลอน มัสก์) เจ้าของ xAI ที่ปัจจุบันรวมเข้าเป็น SpaceXAI ต่างก็โพสต์ข้อความแสดงความเห็นด้วยกับแนวคิดของ อโมเดอี

บทความของ อโมเดอี ระบุว่า การพัฒนา เอไอ ไม่ใช่สิ่งที่ควรถูกตั้งคำถาม แต่ความเสี่ยงที่เกี่ยวข้องกับเทคโนโลยีดังกล่าวนั้น ร้ายแรง และบริษัทต่าง ๆ รวมถึงรัฐบาลจำเป็นต้องมีเวลาเพียงพอเพื่อจัดการกับความเสี่ยงเหล่านั้น 

พร้อมเสนอกรอบการดำเนินงาน 3 ข้อ ได้แก่ การให้ผู้ประเมินอิสระจากภายนอกเข้ามาติดตามและตรวจสอบโมเดล เอไอ ระหว่างการพัฒนา, การประสานงานในระดับอุตสาหกรรมเพื่อกำหนดมาตรฐานด้านความปลอดภัย และการประสานงานในระดับโลก

ซึ่งหลังจากข้อเสนอดังกล่าวถูกเผยแพร่ออกไป คู่แข่งอย่าง อัลต์แมน ซีอีโอของ โอเพ่นเอไอ ก็ได้แชร์ข้อความบนแพลตฟอร์ม X พร้อมระบุว่า 

"เห็นด้วยกับดาริโอ ที่ว่าเราจำเป็นต้องชะลอความเร็วของการพัฒนา เอไอ แนวหน้าของอุตสาหกรรม เรื่องนี้เป็นหนึ่งในประเด็นหลักที่บริษัทฯ ได้คุยกันในช่วงไม่กี่สัปดาห์ที่ผ่านมา"

และเขียนเพิ่มเติมว่า "การให้คำมั่นว่าจะมีผู้ประเมินอิสระ ซึ่งสามารถเข้าถึงระบบได้ในระดับเดียวกับพนักงาน ถือเป็นแนวคิดที่ดี โอเพ่นเอไอ จะดำเนินการในลักษณะเดียวกัน และพร้อมจะเปิดเผยรายละเอียดเพิ่มเติมในเร็ว ๆ นี้"

บีบีซี รายงานว่า ก่อนหน้านี้ อัลต์แมน ก็เคยแสดงความกังวลด้านความปลอดภัยในลักษณะเดียวกัน ในการให้สัมภาษณ์ครั้งล่าสุดกับ Fortune โดยเขาบอกว่า มาตรฐานด้านความปลอดภัยในขณะนี้ ยังไม่พร้อมสำหรับการพัฒนาขีดความสามารถของ เอไอ ให้ก้าวหน้าไปมากกว่านี้ และมองว่า เอไอ ที่อยู่นอกเหนือการควบคุมของมนุษย์นั้น มีความเป็นไปได้อย่างแน่นอน

ขณะเดียวกัน มัสก์ ผู้ก่อตั้ง เอ็กซ์เอไอ ซึ่งเป็นผู้พัฒนา Grok ก็โพสต์ข้อความบนเอ็กซ์ ที่ว่า "Dario is right" หรือ ดาริโอพูดถูก ซึ่งก็เป็นการสนับสนุนแนวคิดของดาริโอตามบทความดังกล่าวเช่นกัน 

สาระสำคัญบางส่วนจากบทความของ อโมเดอี ระบุว่า เอไอ มีความก้าวหน้า รวดเร็วขึ้นอย่างมาก รวมถึงความสามารถในการช่วยสร้าง เอไอ รุ่นถัดไป และกล่าวถึงเหตุการณ์ที่เกี่ยวข้องกับ โอเพ่นเอไอ ซึ่งเป็นคู่แข่ง โดยมีการเปิดเผยว่า เมื่อเดือนกรกฎาคมที่ผ่านมา ระบบ เอไอ ของ โอเพ่นเอไอ สามารถเจาะระบบเป้าหมายที่ไม่ได้รับคำสั่งให้โจมตีได้ 

จึงเรียกร้องให้มีการพัฒนา เอไอ ในระดับที่สมดุล มุ่งสร้างความมั่นใจในความปลอดภัยของเทคโนโลยี ขณะเดียวกันก็ยังคงได้รับประโยชน์จากเอไอ

แนวทางดังกล่าว ไม่ได้หมายความว่าจะต้องยุติการฝึกโมเดล หรือหยุดความก้าวหน้าทางเทคนิค แต่ต้องทำให้บริษัทต่าง ๆ มีเวลาเพียงพอในการปรับโมเดลให้สอดคล้องกับความต้องการด้านความปลอดภัย และปกป้องโมเดลเหล่านั้นจากความเสี่ยงต่าง ๆ รวมถึงเปิดโอกาสให้ผู้ประเมินจากภายนอกเข้ามาตรวจสอบและยืนยันเรื่องดังกล่าว

เขาระบุด้วยว่า แอนโธรปิค จะดำเนินตามแนวทางนี้ พร้อมเรียกร้องให้รัฐบาลกำหนดให้บริษัท เอไอ แนวหน้ารายอื่น ๆ ดำเนินการในลักษณะเดียวกัน แต่ก็ยอมรับว่า กฎระเบียบอาจไม่สามารถก้าวตามความเร็วของ เอไอ ได้ทัน ดังนั้น จึงเรียกร้องให้บริษัท เอไอ ร่วมมือกันโดยสมัครใจเพื่อกำหนดมาตรฐาน ควบคู่ไปกับการดำเนินการด้านกฎระเบียบดังกล่าว

ซึ่งหากการลดความเร็วในการพัฒนา ช่วยเพิ่มเวลาได้อีก 1 หรือ 2 ปี ก่อนที่โมเดลจะมีขีดความสามารถถึงระดับวิกฤต และใช้เวลานั้นเพื่อพัฒนา การทำให้ เอไอ สอดคล้องกับเป้าหมายด้านความปลอดภัย ก็จะสามารถลดความเสี่ยงที่อาจนำไปสู่ความผิดพลาดร้ายแรงได้อย่างมาก 

เรื่องนี้จะต้องดำเนินการในลักษณะประสานงานกัน โดยไม่สูญเสียความได้เปรียบทางการค้า หรือความเป็นผู้นำด้านเอไอของสหรัฐฯ ดังนั้น การชะลอการพัฒนาจะต้องมีขอบเขตจำกัด เพื่อไม่ให้จีนก้าวขึ้นมาเป็นผู้นำได้ 

ขณะที่รอยเตอร์ส รายงานว่า การเรียกร้องให้บริษัท เอไอ ลดความเร็วในการพัฒนาขีดความสามารถของโมเดล ของ อโมเดอี นั้น เกิดขึ้นในช่วงที่มีความกังวลเพิ่มขึ้นเกี่ยวกับการนำปัญญาประดิษฐ์ ไปใช้ในทางที่ผิดเพิ่มขึ้น

โดย อโมเดอี ออกบทความดังกล่าว หลังจากบริษัท เผยแพร่รายงานข่าวกรองด้านภัยคุกคาม ก่อนหน้านั้นเพียงไม่กี่วัน โดยให้รายละเอียดว่า บุคคลหรือกลุ่มต่างๆ หลายรายได้นำโมเดล เอไอ ของ Claude ไปใช้ในกิจกรรม ตั้งแต่การพัฒนาอาวุธ ปฏิบัติการทางไซเบอร์ ไปจนถึงการเฝ้าระวัง และการฉ้อโกง

ส่วนในบทความ เขาชี้ให้เห็นถึงความสามารถที่เพิ่มขึ้นของ เอไอ ในการพัฒนาตัวเอง โดยเน้นย้ำถึงความกังวลที่มีมาเป็นเวลานานว่า เอไอ อาจก้าวล้ำเกินความสามารถของมนุษย์ในการควบคุมการทำงานของ เอไอ รวมถึงเหตุการณ์ล่าสุดที่เกี่ยวข้องกับ โอเพ่นเอไอ และ Hugging Face ซึ่งเป็นเหตุผลหลักที่ทำให้ต้องการชะลอการพัฒนาขีดความสามารถของโมเดล เอไอ

โดย โมเดลของโอเพ่นเอไอ ซึ่งอยู่ระหว่างการทดสอบความสามารถด้านไซเบอร์ สามารถค้นพบและใช้ช่องโหว่เพื่อเข้าถึงอินเทอร์เน็ต ก่อนจะเข้าถึงระบบของ Hugging Face และนำข้อมูลจากระบบดังกล่าวไปใช้ในการทดสอบ โดยเหตุการณ์นี้ทำให้เกิดความกังวลมากขึ้นเกี่ยวกับความสามารถและพฤติกรรมของโมเดล เอไอ ในการดำเนินการที่ซับซ้อนและเป็นอิสระมากขึ้น

นอกจากนี้ ความกังวลเกี่ยวกับ เอไอ ยังเพิ่มขึ้นอีก หลังจาก Jacob Coxon อดีตนักวิจัยของ แอนโธรปิค ระบุว่า หากยังไม่ชะลอความเร็วของความก้าวหน้าในขณะนี้ มีความเป็นไปได้สูงที่เราทุกคนอาจต้องตาย ในอนาคตอันใกล้นี้ 

โดยผู้คนที่ทำงานอยู่ในบริษัทเอไอ ต่างหวาดกลัวและกังวลอย่างแท้จริงเกี่ยวกับชะตากรรมของมนุษยชาติในอีกไม่กี่ปีข้างหน้า 

พร้อมมองว่า ไม่ใช่เรื่องเกินจริงเลยที่จะกล่าวว่า ผู้ที่มีส่วนร่วมทั้งในการก่อตั้งบริษัทเหล่านี้ และในการสร้างเทคโนโลยีดังกล่าว เชื่อว่ามีความเป็นไปได้ที่ เอไอ อาจนำไปสู่การสูญพันธุ์ของมนุษยชาติ