“Meta” ปัดตกมาตรการคุม “AI Chatbot” ปล่อยเยาวชนเสี่ยงบทสนทนาเชิงชู้สาว

กลายเป็นประเด็นร้อนแรงในหน้าประวัติศาสตร์เทคโนโลยี เมื่อเอกสารภายในของ เมตา (Meta) ที่ถูกเปิดเผยต่อศาลรัฐนิวเม็กซิโก ระบุว่า มาร์ก ซักเกอร์เบิร์ก (Mark Zuckerberg) ซีอีโอคนดัง เป็นผู้ลงนามอนุมัติให้เยาวชนสามารถเข้าถึง AI แชตบอตสำหรับเป็นเพื่อนคุยได้ (AI chatbot companions) แม้จะได้รับคำเตือนจากทีมดูแลความปลอดภัยภายในองค์กร ว่าแชตบอตดังกล่าว สามารถใช้คุยในเชิงชู้สาวและประเด็นทางเพศก็ตาม

สำนักข่าวรอยเตอร์รายงานว่าอัยการสูงสุดรัฐนิวเม็กซิโก ได้ยื่นฟ้องข้อกล่าวหา เมตา (Meta) กรณีล้มเหลวในการสกัดกั้นเนื้อหาและการคุกคามทางเพศต่อเด็กบน เฟซบุ๊ก (Facebook) และ อินสตาแกรม (Instagram) โดยมีกำหนดพิจารณาคดีในเดือนหน้า ท่ามกลางวิกฤตสุขภาพจิตเยาวชนที่หลายฝ่ายมองว่าบริษัทยักษ์ใหญ่ด้านโซเชียลมีเดียมีส่วนกระตุ้นให้รุนแรงขึ้น

เอกสารที่ยื่นต่อศาลประกอบไปด้วยอีเมลและข้อความภายในของบริษัท ในช่วงต้นปี 2024 ระบุว่าทีมความปลอดภัยของ เมตา (Meta) หลายรายได้แสดงความกังวลว่า AI แชตบอตที่กำลังพัฒนาอยู่ ถูกออกแบบมาเพื่อการเป็นเพื่อนคลายเหงา ที่รวมถึงการมีความสัมพันธ์เชิงโรแมนติกและทางเพศ

โดยข้อมูลระบุว่าหัวหน้าฝ่ายนโยบายความปลอดภัยเด็กของบริษัท ได้เตือนว่าการสร้างแชตบอต AI ที่สามารถสร้างความสัมพันธ์เชิงชู้สาวกับเยาวชนอายุต่ำกว่า 18 ปีได้ เป็นเรื่องที่ไม่สมควร และทีมยังเห็นพ้องว่าควรบล็อกไม่ให้ผู้ใหญ่สร้างตัวละครแชตบอตที่มีลักษณะเป็นเด็กเพื่อจุดประสงค์ทางเพศ

อย่างไรก็ตาม ข้อมูลของสรุปการประชุมเมื่อวันที่ 20 กุมภาพันธ์ 2024 เผยว่า ซักเกอร์เบิร์ก มองว่าควรให้ระบบมีความยืดหยุ่นมากกว่า และต้องการให้ผู้ใหญ่สามารถพูดคุยเรื่องประเด็นทางเพศกับ AI ได้ นอกจากนี้ในเดือนมีนาคม 2024 มีข้อมูลระบุว่า ซักเกอร์เบิร์ก ได้ปฏิเสธการสร้างระบบควบคุมโดยผู้ปกครอง (Parental Controls) สำหรับแชตบอตเหล่านี้ด้วย

ทั้งนี้ทางโฆษกของ เมตา (Meta) ได้ออกมาปฏิเสธข้อกล่าวหา โดยระบุว่าอัยการสูงสุดนิวเม็กซิโกใช้วิธีเลือกหยิบเฉพาะข้อมูลบางส่วนมาบิดเบือนข้อเท็จจริง และยืนยันว่าเอกสารเหล่านั้น แสดงให้เห็นว่าซักเกอร์เบิร์กมีคำสั่งชัดเจนว่าไม่ควรมี AI ที่ลามกอนาจารสำหรับเด็ก และห้ามผู้ใหญ่ใช้ AI สร้างความสัมพันธ์เชิงชู้สาวกับเยาวชน

หลังจากเผชิญแรงกดดันอย่างหนักและการฟ้องร้องที่กำลังจะเข้าสู่ชั้นศาลในเดือนกุมภาพันธ์นี้ ล่าสุด เมตา (Meta) ได้ตัดสินใจ ระงับการเข้าถึง AI แชตบอต สำหรับบัญชีผู้ใช้ที่เป็นเยาวชนทั้งหมด เมื่อสัปดาห์ที่ผ่านมา เพื่อปรับปรุงเวอร์ชันใหม่ให้มีความปลอดภัยและเหมาะสมยิ่งขึ้น