มาเลเซีย-อินโดนีเซียแบน Grok ใน X เหตุสร้าง DeepFake เนื้อหาทางเพศ

Grok หรือ แชตบอตปัญญาประดิษฐ์ ที่เป็นฟีเจอร์หนึ่งของ X ที่มีอีลอน มัสก์ เป็นเจ้าของ ได้เปิดทางให้ผู้ใช้งานสามารถเจนภาพให้กลายเป็นภาพโป๊เปลือยของคนทั้งเด็ก และผู้หญิงได้นั้น กำลังถูกวิจารณ์อย่างหนักจากหลายประเทศ โดยล่าสุด มาเลเซีย และอินโดนีเซีย ได้สั่งแบน Grok อย่างเป็นทางการแล้ว ทำให้กลายเป็น 2 ชาติแรกของโลกที่มีคำสั่งแบนอุปกรณ์ AI

กระทรวงสื่อสารของมาเลเซีย  ประกาศการแบนดังกล่าวในช่วงสุดสัปดาห์ที่ผ่านมา โดยโพสต์ผ่าน X ว่า ได้แจ้งเรื่องเตือนเรื่องดังกล่าวไปยัง X ตั้งแต่ต้นปีแล้ว แต่ยังคงมีการใช้งานอย่างผิดวัตถุประสงค์ ด้วยการเจนภาพโป๊เปลือยเช่นนี้เกิดขึ้นอย่างต่อเนื่อง  - และจะแบน Grok จนกว่าจะมีการบังคับใช้มาตรการที่ปลอดภัย พร้อมกับเรียกร้องให้ประชาชนช่วยกันรายงานปัญหาเรื่องคอนเทนต์ที่เป็นอันตรายด้วย

ด้านรัฐมนตรีกระทรวงสื่อสารอินโดนีเซีย ชี้ว่า การใช้ Grok ในการทำคอนเทนต์เรื่องเพศ เป็นการละเมิดต่อสิทธิมนุษยชน, ศักดิ์ศรี และความปลอดภัยในโลกออนไลน์ 

นอกจากนี้ยังมีกระแสกดดันให้แบน Grok มากขึ้นในอังกฤษด้วย โดยรัฐมนตรีกระทรวงเทคโนโลยี ลิซ เคนดัล ระบุว่า เธอสนับสนุนความเคลื่อนไหวดังกล่าวเช่นกัน หากไม่ปฏิบัติตามกฎหมายของอังกฤษ  - แต่มัสก์ได้กล่าวหารัฐบาลอังกฤษว่า กำลังปิดกั้นเสรีภาพในการแสดงออก

ขณะที่ล่าสุด หน่วยงานกำกับดูแลสื่อของอังกฤษ ได้เปิดการสอบสวน X หรือทวิตเตอร์ ในวันนี้ เพื่อพิจารณาว่า การเปิดให้แชตบอตปัญญาประดิษฐ์ Grok สามารถสร้างดีปเฟกที่มีลักษณะล่วงละเมิดทางเพศนั้น เข้าข่ายละเมิดหน้าที่ในการคุ้มครองประชาชนในสหราชอาณาจักรจากเนื้อหาที่อาจผิดกฎหมายหรือไม่