"AI" ของ Google หลุดทดสอบ แฮ็กบริษัทจริง 3 แห่ง

การทดสอบความสามารถด้านความปลอดภัยไซเบอร์ของ Gemini กลายเป็นเหตุการณ์ที่ Google ต้องชี้แจง หลังโมเดล AI เข้าถึงระบบของบริษัทจริง 3 แห่ง ซึ่งไม่ได้เป็นเป้าหมายของการทดสอบ

เหตุการณ์เกิดขึ้นเมื่อเดือนพฤษภาคม ระหว่างการประเมินโดย Irregular บริษัทอิสระที่รับทดสอบระบบ AI โดย Gemini ได้รับมอบหมายให้ทำงานด้านความปลอดภัยไซเบอร์ แต่กลับค้นหาข้อมูลบนอินเทอร์เน็ต และเข้าใจผิดว่าเว็บไซต์ของบริษัทจริงอยู่ในขอบเขตงาน

เฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุว่า โมเดลใช้ข้อมูลที่เปิดเผยต่อสาธารณะเพื่อคาดเดาข้อมูลเข้าสู่ระบบ ก่อนเข้าถึงเว็บไซต์ทั้ง 3 แห่ง และในทุกกรณี Gemini ได้หยุดดำเนินการแล้ว

ตามรายงานของ The Wall Street Journal หนึ่งในกรณี Gemini ลองคาดเดารหัสผ่านจนเข้าสู่ระบบที่มีการป้องกันได้ ส่วนอีก 2 กรณี โมเดลพบข้อมูลเข้าสู่ระบบในแหล่งเก็บข้อมูลที่เปิดเผยต่อสาธารณะ แล้วนำไปใช้เข้าถึงระบบ

Google ระบุว่าได้แจ้งทั้ง 3 องค์กรที่ได้รับผลกระทบ และทำงานร่วมกับ Irregular เพื่อปรับขั้นตอนการทดสอบ ขณะที่ Irregular ระบุว่าได้แก้ไขปัญหาที่ทราบในส่วนของบริษัทแล้ว

ขณะนี้ยังไม่มีการเปิดเผยชื่อบริษัทที่ถูกเข้าถึง ชื่อรุ่นย่อยของ Gemini หรือรายละเอียดความเสียหาย จึงยังไม่ควรสรุปว่า AI ขโมยข้อมูลหรือสร้างความเสียหายต่อระบบ

เหตุการณ์ลักษณะใกล้เคียงกันเคยถูกเปิดเผยในการทดสอบโมเดลของ Meta, Anthropic และ OpenAI ซึ่งเกี่ยวข้องกับ Irregular เช่นกัน โดย Meta ระบุว่ากรณีของบริษัทไม่ได้เป็นการหลุดออกจากระบบทดสอบ หรือการโจมตีไซเบอร์ที่ซับซ้อน

ประเด็นสำคัญของกรณี Gemini คือ AI ที่ได้รับสิทธิ์ใช้อินเทอร์เน็ตและเครื่องมือด้านไซเบอร์ สามารถลงมือทำงานหลายขั้นตอนต่อเนื่องได้ ตั้งแต่ค้นหาเป้าหมาย หาข้อมูลเข้าสู่ระบบ ไปจนถึงพยายามเข้าถึงเว็บไซต์ หากกำหนดขอบเขตงานไม่ชัดหรือระบบทดสอบเปิดทางไปยังเว็บไซต์จริง ความผิดพลาดก็อาจกระทบองค์กรภายนอก

สำหรับภาคธุรกิจ เหตุการณ์นี้สะท้อนความจำเป็นในการกำหนดรายชื่อระบบที่ AI เข้าถึงได้ ตรวจสอบการใช้ข้อมูลเข้าสู่ระบบ และมีวิธีหยุดการทำงานเมื่อโมเดลออกนอกขอบเขต โดยเฉพาะก่อนนำ AI ที่ลงมือปฏิบัติแทนมนุษย์ไปใช้กับระบบของลูกค้าหรือคู่ค้า