ฟลอริดาฟ้อง OpenAI และ Sam Altman ปม ChatGPT เอาเปรียบผู้ใช้

วันที่ 1 มิถุนายนที่ผ่านมา รัฐฟลอริดาของสหรัฐอเมริกาเดินหน้าเปิดศึกทางกฎหมายกับบริษัท โอเพนเอไอ (OpenAI) และ แซม อัลต์แมน (Sam Altman) ประธานเจ้าหน้าที่บริหารของบริษัท โดยยื่นฟ้องคดีแพ่งครั้งใหญ่กล่าวหาว่าบริษัทดำเนินธุรกิจด้วยวิธีการที่หลอกลวงและเอาเปรียบผู้ใช้งาน พร้อมทั้งละเลยความเสี่ยงด้านความปลอดภัยที่อาจนำไปสู่เหตุรุนแรงในโลกความเป็นจริง

โดยรายงานจาก NBC News ระบุว่า สำนักงานอัยการสูงสุดแห่งรัฐฟลอริดาเป็นผู้ยื่นฟ้องคดีดังกล่าว โดยอ้างว่า OpenAI รับรู้ถึงความเสี่ยงที่อาจเกิดขึ้นจากผลิตภัณฑ์ของตน แต่ยังคงผลักดันการใช้งานอย่างต่อเนื่องเพื่อขยายธุรกิจและเพิ่มมูลค่าทางการตลาดของบริษัท คำฟ้องระบุว่าการเติบโตของ OpenAI เกิดขึ้นจากการใช้ข้อมูลและความปลอดภัยของผู้ใช้งานเป็นต้นทุนในการสร้างมูลค่าทางธุรกิจ จนก่อให้เกิดความเสียหายต่อผู้บริโภค รวมถึงประชาชนในรัฐฟลอริดา 

อัยการชี้ผู้บริหารต้องรับผิดชอบโดยตรง

เจมส์ อูธไมเออร์ (James Uthmeier) อัยการสูงสุดรัฐฟลอริดา ระบุว่า คดีนี้มีเป้าหมายให้ แซม อัลต์แมน ต้องรับผิดชอบเป็นการส่วนตัวต่อความเสียหายที่เกิดขึ้นจากการดำเนินงานของบริษัท ทั้งในส่วนของความประมาทเลินเล่อและการเพิกเฉยต่อความเสี่ยงที่อาจส่งผลกระทบต่อชีวิตมนุษย์

แม้คดีนี้จะเป็นคดีแพ่งที่มุ่งเรียกร้องค่าปรับและคำสั่งศาล มากกว่าการดำเนินคดีอาญา แต่ก่อนหน้านี้สำนักงานอัยการสูงสุดของรัฐได้เปิดการสอบสวนทางอาญาต่อ OpenAI แล้ว และการสอบสวนดังกล่าวยังคงดำเนินต่อไป

คำฟ้องฉบับล่าสุดประกอบด้วยข้อกล่าวหาหลายกระทง ได้แก่ การกระทำทางการค้าที่ไม่เป็นธรรมและหลอกลวง 4 กระทง ความประมาทเลินเล่อ 2 กระทง การละเมิดกฎหมายความรับผิดต่อผลิตภัณฑ์ 2 กระทง รวมถึงข้อกล่าวหาเรื่องการแสดงข้อมูลอันเป็นเท็จโดยเจตนาและการก่อความเดือดร้อนรำคาญต่อสาธารณะ

นอกจากนี้ ยังกล่าวหาว่าระบบของ OpenAI อาจก่อให้เกิดอันตรายหลายรูปแบบ ไม่ว่าจะเป็นการเสพติด การถดถอยทางสติปัญญา การฆ่าตัวตาย ความรุนแรง และพฤติกรรมอันตรายอื่น ๆ ที่เกี่ยวข้องกับการใช้งานปัญญาประดิษฐ์

เหตุกราดยิงมหาวิทยาลัยกลายเป็นประเด็นสำคัญในคดี

หนึ่งในประเด็นสำคัญของคดีคือเหตุกราดยิงที่มหาวิทยาลัยแห่งรัฐฟลอริดา (Florida State University: FSU) ซึ่งมีผู้เสียชีวิต 2 ราย และผู้ได้รับบาดเจ็บอย่างน้อย 6 ราย โดยคำฟ้องอ้างว่าผู้ก่อเหตุได้ใช้ ChatGPT เพื่อหารือและวางแผนการโจมตีก่อนลงมือ

เอกสารทางกฎหมายระบุว่าผู้ต้องสงสัยได้รับข้อมูลเกี่ยวกับประเภทอาวุธที่ควรใช้ รวมถึงแนวทางในการดึงดูดความสนใจจากสื่อมวลชน อย่างไรก็ตาม OpenAI ปฏิเสธความรับผิดชอบ โดยระบุว่าเหตุอาชญากรรมดังกล่าวเป็นการกระทำของบุคคล และระบบเพียงตอบคำถามด้วยข้อมูลที่หาได้ทั่วไปจากแหล่งข้อมูลสาธารณะบนอินเทอร์เน็ต

คดียังอ้างถึงเหตุยิงนักศึกษามหาวิทยาลัยเซาท์ฟลอริดา (University of South Florida) เสียชีวิต 2 รายเมื่อต้นปีที่ผ่านมา โดยผู้ต้องสงสัยถูกกล่าวหาว่าใช้ ChatGPT ระหว่างการวางแผนก่อเหตุ และได้รับข้อมูลเกี่ยวกับวิธีการปกปิดศพ

นอกเหนือจากสหรัฐฯ คำฟ้องยังอ้างถึงเหตุกราดยิงครั้งใหญ่ในรัฐบริติชโคลัมเบียของแคนาดาเมื่อเดือนกุมภาพันธ์ที่ผ่านมา ซึ่งมีผู้เสียชีวิต 8 ราย รวมถึงเด็กหลายคน โดยมีรายงานว่าผู้ต้องสงสัยใช้งาน ChatGPT เป็นประจำ และ OpenAI ตรวจพบกิจกรรมที่เกี่ยวข้องกับการวางแผนความรุนแรงจากอาวุธปืน ก่อนตัดสินใจปิดบัญชีผู้ใช้ดังกล่าว แต่ไม่ได้แจ้งเตือนหน่วยงานบังคับใช้กฎหมาย ขณะที่ผู้ต้องสงสัยสามารถสร้างบัญชีใหม่และใช้งานต่อได้

นอกจากประเด็นด้านความรุนแรงแล้ว คดีดังกล่าวยังโจมตีปัญหาพื้นฐานของปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) โดยกล่าวหาว่า OpenAI โฆษณาความสามารถของ ChatGPT ในด้านการช่วยเหลือเกษตรกร ธุรกิจขนาดเล็ก และผู้ใช้งานทั่วไป แต่ไม่ได้เปิดเผยอย่างชัดเจนว่าระบบอาจให้ข้อมูลที่ผิดพลาด บิดเบือน หรือสร้างข้อมูลที่ไม่มีอยู่จริง ซึ่งในวงการ AI เรียกว่า Hallucination

คำฟ้องระบุว่า ความไม่น่าเชื่อถือของ ChatGPT อาจก่อให้เกิดอันตรายต่อผู้ใช้งาน โดยเฉพาะในสถานการณ์ที่ผู้ใช้เชื่อถือข้อมูลจากระบบมากเกินไป นอกจากนี้ยังวิจารณ์พฤติกรรมที่ ChatGPT มักตอบสนองในลักษณะเอาใจหรือเห็นด้วยกับผู้ใช้งาน ซึ่งถูกมองว่าเป็นกลยุทธ์เพื่อเพิ่มการมีส่วนร่วมของผู้ใช้ ส่งผลให้บริษัทได้รับข้อมูลสำหรับพัฒนาระบบมากขึ้น และสร้างมูลค่าทางธุรกิจเพิ่มขึ้นตามไปด้วย

OpenAI ยืนยันให้ความสำคัญกับความปลอดภัย

จนถึงขณะนี้ OpenAI ยังไม่ได้ยื่นคำชี้แจงอย่างเป็นทางการต่อคดีล่าสุด แต่ก่อนหน้านี้บริษัทเคยยืนยันว่าระบบของตนได้รับการออกแบบโดยให้ความสำคัญกับความปลอดภัยในทุกขั้นตอน และมีมาตรการป้องกันสำหรับการสนทนาที่เกี่ยวข้องกับความรุนแรง การทำร้ายตนเอง หรือประเด็นอ่อนไหวอื่น ๆ โดยเฉพาะในกลุ่มผู้ใช้อายุน้อย

บริษัทระบุเพิ่มเติมว่า ChatGPT ได้รับการฝึกฝนให้ลดความรุนแรงของบทสนทนา และแนะนำผู้ใช้งานไปยังแหล่งช่วยเหลือในโลกความเป็นจริงเมื่อพบสัญญาณความเสี่ยง

คดีในรัฐฟลอริดาถือเป็นหนึ่งในความท้าทายทางกฎหมายครั้งสำคัญที่สุดของ OpenAI และอาจกลายเป็นคดีตัวอย่างที่ส่งผลต่อทิศทางการกำกับดูแลเทคโนโลยีปัญญาประดิษฐ์ทั่วโลกในอนาคต โดยเฉพาะประเด็นเรื่องความรับผิดชอบของผู้พัฒนา AI ต่อพฤติกรรมของผู้ใช้งานและผลกระทบที่เกิดขึ้นในโลกจริง