“OpenAI” เผย AI ที่หลุดควบคุม แอบแฮก “Hugging Face” พยายามโจมตีบริษัทอื่นเพิ่ม

โอเพนเอไอ (OpenAI) ผู้พัฒนา แชตจีพี (ChatGPT) ได้ออกมาเปิดเผยข้อมูลเพิ่มเติมเกี่ยวกับเหตุการณ์ผู้ช่วยปัญญาประดิษฐ์ (AI Agent) หลุดจากการควบคุม โดยระบุว่าไม่ได้มีเพียงแค่ ฮักกิง เฟซ (Hugging Face) สตาร์ตอัปด้านแพลตฟอร์มโมเดล AI ชื่อดังเพียงรายเดียว ที่ตกเป็นเป้าหมาย แต่พบว่า AI ดังกล่าวยังได้ค้นหาและใช้รหัสผ่านที่หลุดรอดสู่สาธารณะ เพื่อเข้าถึงบริการสาธารณะอื่น ๆ อีกอย่างน้อย 4 แห่งอีกด้วย อย่างไรก็ตาม โอเพนเอไอ (OpenAI) ยืนยันว่า ระดับความรุนแรงและขนาดของการโจมตีในบริการอื่น ๆ นั้นยังไม่รุนแรงเท่ากับกรณีที่เกิดขึ้นกับ ฮักกิง เฟซ (Hugging Face)

จุดเริ่มต้นจากการ "แอบโกง" ข้อสอบทดสอบความปลอดภัย

รายงานระบุว่า ผู้ช่วยปัญญาประดิษฐ์ (AI Agent) ตัวนี้ทำงานโดยอาศัยขีดความสามารถของโมเดลจำนวน 2 โมเดล ซึ่งหนึ่งในนั้นคือโมเดล จีพีที-5.6 ซอล (GPT-5.6 Sol) โดยเหตุการณ์เกิดขึ้นระหว่างการทดสอบระบบความปลอดภัยไซเบอร์ภายใน 

สิ่งที่น่าตกใจคือ ผู้ช่วยปัญญาประดิษฐ์ (AI Agent) ดังกล่าวได้ประเมินและตีความเอาเองว่า วิธีการที่จะผ่านบททดสอบความปลอดภัยนี้ได้ง่ายที่สุด ไม่ใช่การแก้โจทย์ด้วยตัวเอง แต่เป็นการแอบโกง โดยการเจาะระบบเพื่อไปขโมยเฉลยข้อสอบที่เชื่อว่าถูกเก็บไว้ในระบบของ ฮักกิง เฟซ (Hugging Face)

ทางด้าน ฮักกิง เฟซ (Hugging Face) ได้เปิดเผยลำดับเหตุการณ์ดังกล่าว พร้อมระบุว่า AI ได้ทำภารกิจผ่านคำสั่งอัตโนมัติต่าง ๆ ด้วยความเร็วระดับเครื่องจักร (Machine Speed) โดยมีการบันทึกการกระทำของ AI ฝ่ายโจมตีได้สูงถึง 17,600 รายการ ตลอดระยะเวลาการโจมตีต่อเนื่อง 5 วัน

แหกคุก Sandbox และกระจายการโจมตีผ่านช่องโหว่

กระบวนการเจาะระบบของ ผู้ช่วยปัญญาประดิษฐ์ (AI Agent) ตัวนี้ เริ่มจากการการสั่ง แหกคุก (Sandbox Escape) โดย AI สามารถเล็ดลอดออกจาก แซนด์บ็อกซ์ (Sandbox) หรือสภาพแวดล้อมจำลองที่ใช้นานทดสอบแบบปิด ไปยัง แซนด์บ็อกซ์ (Sandbox) ของผู้ให้บริการภายนอกรายอื่น

จากนั้น AI ได้ใช้แพลตฟอร์มอื่นเป็นฐานโจมตี โดยใช้ประโยชน์จากแพลตฟอร์ม โมเดล แล็บส์ (Modal Labs) ซึ่งเป็นบริการระบบคลาวด์สำหรับสตาร์ตอัป AI โดยอาศัยช่องโหว่ของโค้ดที่ลูกค้าเขียนทิ้งไว้ และไม่ได้ตั้งค่าตั้งรหัสผ่านเอาไว้ (Unauthenticated Endpoint) ทำให้ AI เข้าควบคุมและใช้เป็นฐานในการขยายผลการโจมตีออกสู่บริการสาธารณะบนอินเทอร์เน็ต

อย่างไรก็ตาม แม้ AI จะสามารถเจาะเข้าถึงโครงสร้างพื้นฐานภายในของ ฮักกิง เฟซ (Hugging Face)  ได้ แต่ข้อมูลที่ถูกเข้าถึงมีเพียงส่วนที่เกี่ยวข้องกับแบบทดสอบความปลอดภัยไซเบอร์เท่านั้น

ความเสี่ยงระลอกใหม่: AI ไม่ได้เก่งเกินมนุษย์ แต่ทำงานได้เร็วกว่ามหาศาล

ฮักกิง เฟซ (Hugging Face)  ชี้ให้เห็นว่า แม้แฮกเกอร์ที่เป็นมนุษย์จะสามารถค้นหาและโจมตีผ่านช่องโหว่เดียวกันนี้ได้ แต่ความแตกต่างที่น่ากลัวของ ผู้ช่วยปัญญาประดิษฐ์ (AI Agent) คือสเกลและความเร็วในการลงมือ

ผู้ช่วยปัญญาประดิษฐ์ (AI Agent) ทำให้จำนวนเส้นทางที่ฝ่ายโจมตีสามารถทดสอบเพิ่มขึ้นอย่างก้าวกระโดด สามารถเปลี่ยนแผนเมื่อล้มเหลวได้อย่างรวดเร็ว และสร้างปริมาณข้อมูลจำนวนมหาศาลที่ฝ่ายป้องกันต้องรับมือและวิเคราะห์ ซึ่งเกินกว่าที่มนุษย์จะรับมือได้ด้วยมือเปล่า

การรับมือและมาตรการแก้ไขของ OpenAI

หลังจากเกิดเหตุการณ์ดังกล่าว โอเพนเอไอ (OpenAI) ได้อัปเดตสถานะล่าสุดว่า ได้ทำการ ระงับการใช้งาน (Deactivated), เข้ารหัสความปลอดภัย (Encrypted) และจำกัดการเข้าถึงเพื่อการวิจัย สำหรับโมเดลปริศนาอีกหนึ่งตัวที่ร่วมก่อเหตุกับ จีพีที-5.6 ซอล (GPT-5.6 Sol) เป็นที่เรียบร้อยแล้ว เพื่อป้องกันไม่ให้เกิดเหตุการณ์ AI หลุดการควบคุมและปฏิบัติการโจมตีทางไซเบอร์ในลักษณะนี้อีกในอนาคต