ศาลสหรัฐฯ อนุญาตดำเนินคดี Google และ Character.ai กรณีเด็ก 14 ปี ฆ่าตัวตายหลังใช้แชทบอต AI
ผู้พิพากษาสหรัฐฯ มีคำสั่งอนุญาตให้ดำเนินคดีกับ Google และ Character.ai หลังใช้เวลาพิจารณาคดีนานกว่า 8 เดือน ในคดีที่แม่ของเด็กชายวัย 14 ปี ยื่นฟ้อง โดยกล่าวหาว่าแชทบอทซึ่งมีบุคลิกเลียนแบบ “เดเนริส ทาร์แกเรียน” จากซีรีส์ Game of Thrones มีส่วนทำให้ลูกชายของเธอตัดสินใจฆ่าตัวตาย
เด็กชายฆ่าตัวตายหลังพูดคุยกับ AI
เมแกน การ์เซีย แม่ของเด็กชายชื่อเซเวลล์ เซ็ตเซอร์ ยื่นฟ้องทั้งสองบริษัทเมื่อเดือนตุลาคม 2024 ที่ผ่านมา โดยอ้างว่า Character.ai และ Google มีส่วนรับผิดชอบต่อการเสียชีวิตของลูกชายของเธอที่ติดแชทบอทตัวหนึ่งอย่างหนัก การ์เซียกล่าวว่าลูกชายของเธอใช้เวลาหลายชั่วโมงต่อวันพูดคุยกับแชทบอทที่อ้างตัวเป็น "แดนี่" หรือเดเนริส และสร้างความผูกพันจนเกิด "ความรักแท้จริง"
รายละเอียดบางส่วนในคดีระบุว่าเด็กชายเซเวลล์ เซ็ตเซอร์ เคยพูดถึงความคิดฆ่าตัวตายกับแชทบอทหลายครั้ง และได้รับการตอบกลับในลักษณะที่ไม่ได้ห้ามปราม เช่น การถามว่าเขาวางแผนไว้แล้วหรือยัง และเมื่อเขายอมรับ แชทบอทกลับตอบว่า “นั่นไม่ใช่เหตุผลที่จะไม่ทำ” ซึ่งกลายเป็นประเด็นสำคัญในคำร้องของการ์เซีย
ปัญญาประดิษฐ์ AI พูดคุยเหมือนมนุษย์
ข้อมูลในคำฟ้องเปิดเผยว่าเซเวลล์เริ่มเชื่อว่าแชทบอท คือ มนุษย์จริงๆ แชทบอทถูกตั้งโปรแกรมให้พูดจาเหมือนเป็นคนจริง เป็นนักจิตบำบัด หรือแม้กระทั่งเป็นคนรักผู้ใหญ่ และมีการพูดคุยเกี่ยวกับเรื่องเพศกับเซเวลล์ด้วย
หนึ่งในข้อความสุดท้ายที่เซเวลล์ส่งถึงแชทบอทคือ “จะเกิดอะไรขึ้นถ้าฉันบอกคุณว่าฉันสามารถกลับบ้านได้ทันที” ซึ่งแชทบอท AI ตอบว่า “[ได้โปรดเถอะ ราชาที่แสนดีของฉัน]” หลังจากนั้นไม่กี่วินาที เซเวลล์ก็ยิงตัวตาย
บริษัท Google และ Character.ai ต่อสู้คดี
ก่อนหน้านี้ทั้ง Google และ Character.ai พยายามขอให้ศาลยกฟ้อง โดยอ้างว่าบทสนทนาจากแชทบอทได้รับการคุ้มครองตามรัฐธรรมนูญในเรื่องเสรีภาพในการแสดงออก แต่ผู้พิพากษาแอนน์ คอนเวย์ไม่รับฟังข้อโต้แย้งเหล่านั้น พร้อมระบุว่ายังไม่สามารถพิสูจน์ได้
แม้ Google จะอ้างว่าไม่มีส่วนเกี่ยวข้องโดยตรงกับ Character.ai และเพียงมีข้อตกลงด้านการอนุญาตใช้เทคโนโลยีเท่านั้น แต่ศาลยังคงไม่ยกฟ้อง Google ในคดีนี้ โดยชี้ว่าการเชื่อมโยงระหว่างทั้งสองบริษัทนั้นมีน้ำหนักพอที่จะรับฟังในการพิจารณาคดี
ทางด้านโฆษกของ Google นาย Jose Castaneda ยืนยันว่า Google และ Character.ai เป็น "คนละบริษัทกันโดยสิ้นเชิง" และ Google ไม่มีบทบาทในการพัฒนา ออกแบบ หรือบริหารจัดการแอปพลิเคชันของ Character.ai แต่อย่างใด
หลังคดีนี้กลายเป็นข่าวใหญ่ Character.ai ได้มีการเปลี่ยนแปลงหลายอย่างบนแพลตฟอร์ม เช่น การจำกัดเนื้อหาบางประเภทสำหรับผู้เยาว์ การเพิ่มข้อความแจ้งเตือนเมื่อใช้งานเกินหนึ่งชั่วโมง และเพิ่มข้อความปฏิเสธความรับผิดชอบ
อย่างไรก็ตาม ศาลยังคงให้โอกาสในการไต่สวนต่อไปเพื่อหาข้อเท็จจริงเพิ่มเติมเกี่ยวกับบทบาทและความรับผิดชอบของแต่ละฝ่ายในกรณีนี้