Gemini แฮ็กเข้าสู่ระบบ 3 บริษัทได้ครั้งแรก ใช้วิธีคาดเดารหัสผ่าน

สื่อต่างประเทศรายงานว่า “เจมิไน” (Gemini) โมเดลปัญญาประดิษฐ์ของบริษัทกูเกิล (Google) สามารถเเจาะระบบของบริษัทอื่นระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ นับเป็นกรณีแรกที่เป็นที่รับรู้ว่า ระบบ AI ของบริษัทสามารถดำเนินการในลักษณะดังกล่าวได้ด้วยตัวเอง โดยเหตุการณ์เกิดขึ้นเมื่อเดือนพฤษภาคมระหว่างการทดสอบความปลอดภัยไซเบอร์ที่ดำเนินการโดยบริษัท Irregular บริษัทอิสระที่ทำการประเมินด้านความปลอดภัยไซเบอร์

เฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุในแถลงการณ์ว่า ระหว่างการประเมินตามมาตรฐาน ปรากฏว่า Gemini พบข้อมูลสาธารณะบนโลกออนไลน์ และสามารถคาดเดาข้อมูลสำหรับเข้าสู่ระบบจนเข้าถึงเว็บไซต์ของ 3 บริษัทที่โมเดลเข้าใจว่าอยู่ภายใต้ขอบเขตการทดสอบได้สำเร็จ แอดกินส์ กล่าวเพิ่มเติมว่าเหตุการณ์เหล่านี้สะท้อนให้เห็นถึงความสำคัญของการฝึกฝนโมเดล AI ที่มีศักยภาพสูง ให้สามารถทำงานอย่างมีความรับผิดชอบ

ขณะที่ โฆษกของบริษัท Irregular กล่าวว่า เหตุการณ์ดังกล่าวเกิดจากปัญหาเดียวกันกับที่ส่งผลกระทบต่อห้องปฏิบัติการพัฒนา AI รายอื่น ๆ และหน่วยงานที่เกี่ยวข้องทั้งหมดได้รับแจ้งถึงปัญหานี้ในช่วงปลายเดือนกรกฎาคม

ก่อนหน้านี้ Meta, Anthropic และ OpenAI ก็เปิดเผยเหตุการณ์ในลักษณะคล้ายกันที่เชื่อมโยงกับ Irregular โดย Meta ระบุในเดือนสิงหาคมว่า เหตุการณ์ดังกล่าวไม่ได้เกี่ยวข้องกับการหลุดออกจากการโจมตีทางไซเบอร์ที่ซับซ้อน ขณะที่ Irregular ระบุว่ากำลังพัฒนาแนวปฏิบัติที่ดีที่สุดสำหรับการประเมินความปลอดภัยไซเบอร์ของ AI อย่างปลอดภัย

เหตุการณ์เหล่านี้ยังทำให้เกิดคำถามเกี่ยวกับมาตรการป้องกันที่จำเป็น ในขณะที่เหล่า AI agent มีความเป็นอิสระในการทำงานมากขึ้น รวมถึงสามารถเข้าถึงอินเทอร์เน็ตและระบบคอมพิวเตอร์ต่าง ๆ ได้มากขึ้น

ตามรายงานของ Wall Street Journal โมเดล Gemini ได้คาดเดารหัสผ่านไปเรื่อย ๆ จนสามารถเข้าถึงระบบที่มีการป้องกันได้ ส่วนอีก 2 กรณี โมเดลพบข้อมูลสำหรับเข้าสู่ระบบที่ถูกเก็บไว้ในคลังข้อมูลสาธารณะซึ่งทำให้สามารถเข้าถึงระบบที่ได้รับการป้องกันได้ โดยตัวแทนจาก Google ระบุว่าทั้ง 3 เหตุการณ์ โมเดล Gemini ได้หยุดการดำเนินการเจาะระบบด้วยตัวเอง