Anthropic บล็อกผู้ใช้ Claude โยงงานวิจัยเสี่ยงอาวุธชีวภาพ
วันที่ 10 กันยายนที่ผ่านมา บริษัท Anthropic เปิดรายงานข่าวกรองภัยคุกคามสำคัญ โดยระบุว่าตรวจพบและระงับการใช้โมเดล Claude บริษัทในลักษณะที่อาจสนับสนุนการพัฒนาอาวุธชีวภาพได้หลายกรณี โดยเอกสารนี้รวบรวมกรณีศึกษาการใช้งานผิดประเภท ทั้งงานชีวภาพ การเฝ้าระวัง การสร้างช่องโหว่ซอฟต์แวร์ โฆษณาชวนเชื่อ และระบบอาวุธ
⬛️ รายงานข่าวกรองภัยคุกคาม
รายงานระบุกรณีศึกษาชีวภาพ 5 เคสที่โมเดล Claude ของบริษัทถูกใช้ในทางที่อาจสนับสนุนงานพัฒนาอาวุธชีวภาพ โดยบริษัท Anthropic เรียกความเสี่ยงด้านนี้ว่าเป็นหนึ่งในความเสี่ยงร้ายแรงของโมเดล frontier เพราะโมเดลรุ่นใหม่ช่วยงานวิจัยวิทยาศาสตร์ได้เก่งขึ้น ขณะเดียวกันงานวิจัยวัคซีนหรือการรักษาอาจมีลักษณะใกล้เคียงงานที่เสี่ยง จึงทำให้การตรวจจับซับซ้อน
เจคอบ ไคลน์ (Jacob Klein) หัวหน้าฝ่ายข่าวกรองภัยคุกคามของบริษัท Anthropic เคยอธิบายกับสื่อว่าสถานการณ์ละเอียดอ่อนมาก ไม่ใช่แบบที่ใครประกาศตรง ๆ ว่าต้องการสร้างอาวุธชีวภาพ บริษัทจึงเลือกระมัดระวังเกินกว่าจะชะล่าใจในทุกเคสที่ตรวจพบ
⬛️ กรณีงานวิจัยที่ถูกยกขึ้นมา
ในเคสเดือนพฤษภาคม ระบบตรวจความปลอดภัยด้านชีวภาพของบริษัทจับได้ว่ามีคนขอให้ Claude ช่วยเขียนคำขอทุนวิจัยที่เกี่ยวกับการดัดแปลงไวรัสชิคุนกุนยาให้แพร่ได้ง่ายขึ้นและหลบภูมิคุ้มกันของคนได้ดีขึ้น ทั้งที่ไวรัสชนิดนี้ยังไม่มียารักษาที่ทางการรับรอง และงานนี้ยังโยงกับสถาบันวิจัยทหาร บริษัทจึงมองว่าเสี่ยงสูงเป็นพิเศษ
เคสอื่นในรายงานรวมถึงงานดัดแปลงไข้หวัดนกสายพันธุ์อันตรายให้อาจแพร่ในสัตว์เลี้ยงลูกด้วยนมได้ดีขึ้น และเคสที่นักวิจัยใช้ Claude ช่วยทำบัญชีรายชื่อสารพิษจากพิษสัตว์ พร้อมระบบที่ช่วยปรับให้สารพิษมีคุณสมบัติตามที่ต้องการ รายงานยังบอกว่าผู้เกี่ยวข้องบางรายพยายามเข้าใช้งานจากพื้นที่ที่บริษัทไม่เปิดบริการ และปิดบังจุดประสงค์จริงเพื่อเลี่ยงระบบป้องกัน
⬛️ บริษัท Anthropic ตอบสนองอย่างไร?
บริษัท Anthropic ระบุว่าบัญชีที่เกี่ยวข้องถูกระงับทั้งหมด และนำข้อค้นพบไปปรับระบบป้องกันโมเดล การบังคับใช้กฎ และกระบวนการข่าวกรองภัยคุกคาม เพื่อป้องกัน ตรวจจับ และตัดตอนพฤติกรรมลักษณะนี้ได้ดีขึ้นในอนาคต
อย่างไรก็ตาม บริษัทไม่เปิดเผยชื่อบุคคลหรือห้องแล็บ โดยย้ำว่าผู้เกี่ยวข้องเป็นนักวิทยาศาสตร์ที่ทำงานจริง และบริษัทไม่ได้ยืนยันว่ามีเจตนาทำร้าย อีกทั้งการเปิดชื่ออาจก่อความเสียหายต่อผู้เกี่ยวข้องแต่อย่างใด
นอกจากงานชีวภาพ รายงานยังครอบคลุมการใช้โมเดลในปฏิบัติการไซเบอร์ การเฝ้าระวัง การสร้างอาวุธทั่วไป และงานโฆษณาชวนเชื่อ บริษัท Anthropic ระบุว่าเป้าหมายของการเปิดเผยครั้งนี้คือกระตุ้นการหารือในอุตสาหกรรม AI และกับภาครัฐ เรื่องความเสี่ยงชีวภาพที่กำลังเกิดขึ้น และวิธีรับมือที่เหมาะสม