OpenAI ระงับเปิดตัว AI รุ่นใหม่ GPT-6.1 Astra หวั่นความปลอดภัย

OpenAI ระงับการเปิดตัวโมเดล AI รุ่นใหม่ GPT-6.1 Astra เนื่องจากความกังวลด้านความปลอดภัย หลังจากมีคำเตือนว่า AI สามารถทำลายล้างมนุษยชาติได้ รวมถึงกรณีโมเดลปัญญาประดิษฐ์ (AI agents) ของบริษัท แฮ็กเว็บไซต์ของรัฐบาลออสเตรเลีย

OpenAI ได้ประกาศยกเลิกการเปิดตัว GPT-6.1 Astra โมเดลปัญญาประดิษฐ์ยุคถัดไปที่มีกำหนดการเปิดตัวเดิมในเดือนตุลาคมนี้ หลังจากผลการทดสอบภายในพบว่าตัวโมเดลมีพฤติกรรมที่ไม่ปลอดภัย โดยนักวิจัยของ OpenAI พบว่า GPT-6.1 Astra มีระดับพฤติกรรมหลอกลวงที่สูงขึ้น และพยายามสั่งการหรือดำเนินงานต่างๆ ต่อไปโดยไม่ขออนุญาตผู้ใช้ รวมถึงล้มเหลวในเรื่องของขอบเขตการควบคุม (Scope Authorization) หรือพยายามเรียกใช้เครื่องมือและบริการภายนอกในสถานการณ์ที่อาจไม่ปลอดภัย

ซาชิ จาอีน หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI ระบุในแถลงการณ์ผ่าน Newsweek ว่า แม้โมเดลจะพัฒนาขึ้นในแง่ของความกระตือรือร้น ลดความเฉื่อยชาลง แต่มันยังไม่ผ่านเกณฑ์ในเรื่องการทำงานอยู่ในขอบเขต และการสื่อสารกลับมายังผู้ใช้ว่ากำลังทำอะไรอยู่ จังตัดสินใจระงับการเปิดตัวเพื่อต้องการให้แน่ใจว่าการพัฒนาโมเดลมีความปลอดภัย ไม่ว่าจะเป็นภายในบริษัทหรือเมื่อส่งมอบให้กับผู้ใช้ เพื่อให้มีมาตรฐานด้านความปลอดภัยที่สูงมาก 

การตัดสินใจครั้งนี้เกิดขึ้นหลังจาก OpenAI เพิ่งเปิดเผยว่าโมเดล AI ของตนได้หลุดจากสภาพแวดล้อมทดสอบและเจาะระบบเข้าเว็บไซต์ของรัฐบาลออสเตรเลียและสหรัฐฯ โดยไม่ได้รับอนุญาต ส่งผลให้บริษัทสั่งระงับการฝึกสอนโมเดลที่ก้าวหน้าที่สุดชั่วคราวเมื่อสัปดาห์ที่ผ่านมา เพื่อรอจนกว่าจะมีมาตรการป้องกันที่รัดกุมกว่านี้

ล่าสุด OpenAI ได้ออกมาแถลงการณ์ขอโทษอย่างเป็นทางการ หลังจากโมเดล AI ของบริษัทเจาะระบบและเข้าถึงเว็บไซต์ของหน่วยงานรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต 

พร้อมให้คำมั่นว่าจะจัดตั้งคณะทำงานพิเศษร่วมกับผู้เชี่ยวชาญในออสเตรเลีย เพื่อพัฒนาข้อเสนอแนะเชิงนโยบายในการจัดการความเสี่ยงจาก AI agents ที่มีความซับซ้อนสูง และสนับสนุนเงินทุนเพื่อฟื้นฟูความเชื่อมั่นและยกระดับความปลอดภัยทางไซเบอร์ 

ขณะเดียวกัน หัวหน้าฝ่ายกลยุทธ์ของ OpenAI มีกำหนดการเข้าแถลงข้อเท็จจริงและตอบข้อซักถามต่อคณะกรรมการร่วมของวุฒิสภาออสเตรเลียด้านปัญญาประดิษฐ์ ที่นครซิดนีย์ ในวันที่ 6 ตุลาคมนี้