จีนร่างกฎใหม่คุมเข้ม AI คล้ายมนุษย์

หน่วยงานกำกับดูแลด้านไซเบอร์ของจีนได้ร่างกฎระเบียบใหม่ โดยเพิ่มความเข้มงวดในการกำกับดูแลบริการด้านปัญญาประดิษฐ์ (AI) ที่ออกแบบมาสำหรับจำลองบุคลิกภาพของมนุษย์ และดึงดูดให้ผู้ใช้งานมีปฏิสัมพันธ์ทางอารมณ์

ความเคลื่อนไหวดังกล่าวเน้นย้ำถึงความพยายามของทางการจีนในการกำหนดทิศการใช้งาน AI ของผู้บริโภค โดยเข้มงวดเรื่องข้อกำหนดด้านความปลอดภัยและจริยธรรมมากขึ้น

กฎระเบียบใหม่นี้จะใช้กับผลิตภัณฑ์ AI ที่จำลองรูปแบบความคิดและสไตล์การสื่อสารของมนุษย์ผ่านข้อความ เสียง หรือวิดีโอ ซึ่งบรรดานักพัฒนาจะต้องควบคุมเรื่องการเสพติดการใช้งาน โดยร่างกฎระเบียบดังกล่าวจะมุ่งเน้นไปที่ความเสี่ยงทางจิตวิทยาที่อาจเกิดขึ้น ซึ่งผู้ให้บริการจะต้องพิสูจน์สถานะของผู้ใช้ รวมทั้งประเมินอารมณ์ของผู้ใช้และระดับการพึ่งพาบริการ AI 

ทั้งนี้ หากพบว่าผู้ใช้งานแสดงอารมณ์รุนแรงหรือมีพฤติกรรมเสพติด ผู้ให้บริการควรดำเนินมาตรการที่จำเป็นเพื่อเข้าแทรกแซง

รวมถึงจะต้องรับประกันความปลอดภัยตลอดวงจรของผลิตภัณฑ์ และผ่านการตรวจสอบอัลกอริธึม และจะต้องสร้างระบบเพื่อปกป้องข้อมูลส่วนบุคคลและตรวจสอบความปลอดภัยของข้อมูล

มาตรการดังกล่าวได้กำหนดขอบเขตด้านเนื้อหาและพฤติกรรม โดยกำหนดให้บริการต่างๆ จะต้องไม่สร้างเนื้อหาที่เป็นอันตรายต่อความมั่นคงของชาติ เผยแพร่ข่าวลือ รวมทั้งส่งเสริมความรุนแรงหรือเนื้อหาลามกอนาจาร