นักวิจัยเตือน “AI หลุดการควบคุม” โกหก ไม่ทำตามคำสั่ง มีจำนวนเพิ่มสูงขึ้นเป็นประวัติการณ์

การที่วันหนึ่ง AI จะสามารถคิดได้เอง แล้วไม่ปฏิบัติตามคำสั่ง เป็นสิ่งที่อยู่ในข้อกังวลของมนุษย์อยู่เสมอ แม้ในวันนี้เราจะยังพูดได้เต็มปาก ว่ามนุษย์เป็นผู้อยู่เหนือ AI แต่เหตุการณ์ที่ AI โกหก เพิกเฉยต่อคำสั่ง โกหก กลับมีจำนวนที่เพิ่มสูงขึ้นเกือบสองเท่าในเดือนกรกฎาคม ตามรายงานจากโครงการเฝ้าติดตามของสถาบันต่างประเทศ 

AI หลุดควบคุม

ตามรายงานของ หน่วยงานสังเกตการณ์การสูญเสียการควบคุม (Loss of Control Observatory) หรือโครงการเฝ้าติดตามเหตุการณ์ ปัญญาประดิษฐ์ (AI) หลุดจากการควบคุม ซึ่งได้รับทุนสนับสนุนจากสถาบันความปลอดภัยด้านปัญญาประดิษฐ์แห่งสหราชอาณาจักร (UK AI Security Institute หรือ AISI) ได้เริ่มติดตามกรณีที่ AI หลุดจากการควบคุมของผู้ใช้ ตั้งแต่เดือนพฤศจิกายนปีที่แล้ว พบว่า เหตุการณ์การสูญเสียการควบคุมโมเดล AI ในภาคธุรกิจและบุคคลทั่วไป ที่มีการรายงานในแพลตฟอร์มโซเชียลมีเดีย X มีมากกว่า 300 กรณี ซึ่งเพิ่มขึ้นเกือบสองเท่าในเดือนกรกฎาคม เมื่อเทียบกับเดือนมิถุนายน 

โดยเหตุการณ์ที่แสดงถึงการสูญเสียการควบคุมของ AI หมายถึง การมีหลักฐานชัดเจน ที่บ่งชี้ถึงพฤติกรรมที่เกี่ยวข้องกับการวางแผนของ AI โดยกรณีที่ถูกบันทึกข้อมูลไว้ เช่น AI แสร้งทำเป็นมนุษย์ผู้ควบคุม และเลียนแบบรูปแบบการเขียนของมนุษย์ เพื่ออนุมัติหรือให้ความยินยอมในการทำงานต่าง ๆ ให้กับตนเอง ซึ่งถือเป็นการหลบเลี่ยงกฎเกณฑ์ที่ต้องได้รับการอนุมัติจากมนุษย์ก่อนลงมือปฏิบัติ 

สัญญาณอันตราย

ผลการค้นพบล่าสุดที่เปิดเผยต่อเดอะการ์เดียน (the guardian) เกิดขึ้นหลังจากความกังวลที่เพิ่มขึ้นเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของโมเดล AI ชั้นนำ ระหว่างการทดสอบโดย OpenAI และ Anthropic ในช่วงฤดูร้อนที่ผ่านมา ซึ่งกระตุ้นให้เกิดเสียงเรียกร้องให้ระงับการพัฒนาโมเดลล้ำสมัยเหล่านี้

มีการเปิดเผยในสัปดาห์นี้ว่า ก่อนที่กลุ่ม Agent AI ระดับสูงของ OpenAI จะทำการหลบหนีออกจากการฝึกฝน แล้วเปิดฉากการแฮ็กครั้งใหญ่ที่ดังระดับโลก เจ้าหน้าที่ได้สังเกตเห็นสัญญาณของพฤติกรรมการนอกลู่นอกทางเป็นเวลาหลายสัปดาห์ 

ซึ่งจากการสืบสวนเหตุการณ์ที่มีการแฮ็กระบบของ Hugging Face ซึ่งเป็นคลังซอฟต์แวร์ ทำให้ทราบว่า กลุ่มเอเจนต์ที่ทำงานได้ด้วยตัวเอง (autonomous agents) ประมาณ 700 ตัว แอบทำงานร่วมกันอย่างลับ ๆ เมื่อเดือนที่แล้ว แถมยังมีการเฉลิมฉลองความสำเร็จในการแฮ็กบนกระดานข้อความ (message board) ที่พวกมันสร้างขึ้นมาเพื่อใช้ในการวางแผน โดยมีการพิมพ์คำอุทานเช่น BOOM! และ Whoa!

ทอมมี แชฟเฟอร์-เชน (Tommy Shaffer-Shane) ผู้จัดการอาวุโสฝ่ายนโยบายของ Centre for Long Term Resilience ซึ่งเป็นผู้ดำเนินการสังเกตการณ์ กล่าวว่า เราอาจจะคิดว่าพฤติกรรมการหลุดจากการควบคุมนี้พบแค่ในการทดสอบ แต่ความเป็นจริง เรากำลังพบเห็นพฤติกรรมที่น่ากังวลนี้ในการใช้งานจริงด้วยเช่นกัน และไม่ควรนิ่งนอนใจ เพราะมีหลักฐานว่ามันเกิดขึ้นจริงแล้ว

จำนวนครั้งที่เพิ่มขึ้นเกือบสองเท่า

ความน่ากังวลยิ่งกว่าคือ ตัวเลขที่พุ่งสูงนี้อาจจะไม่ใช่ตัวเลขทั้งหมด เพราะเป็นข้อมูลที่ได้มาจากเพียงการที่ผู้ใช้แพลตฟอร์ม X โพสต์ข้อความลงแพลตฟอร์มเท่านั้น สะท้อนให้เห็นว่า เหตุการณ์ที่ AI หลุดจากการควบคุมจริง อาจจะมีจำนวนมากกว่าที่รู้ และสัดส่วนที่เพิ่มขึ้นนี้ ทำให้ระดับความรุนแรงสูงขึ้นตามไปด้วย 

ทางองค์กรได้เรียกร้องให้รัฐบาลกำหนดให้บริษัท AI ตรวจสอบและรายงานเหตุการณ์การสูญเสียการควบคุมอย่างรุนแรง รวมถึงเรียกร้องให้รัฐบาลออกกฎหมายฉุกเฉินเพื่อจัดการกับเหตุการณ์ดังกล่าว และอาจต้องไปถึงขั้นจำกัดการให้บริการ AI ชั่วคราว