อดีตนักวิจัย Anthropic ชี้ AI มีโอกาสเกิน 10% ฆ่าล้างเผ่าพันธุ์มนุษย์

#Anthropic #AI #ทันหุ้น – สำนักข่าว CNBC รายงานว่า นักวิจัยด้านปัญญาประดิษฐ์รายหนึ่งได้ลาออกจากงานที่บริษัท Anthropic เมื่อวันอังคาร และได้กล่าวหาบริษัทรวมถึงคู่แข่งรายสำคัญอย่าง OpenAI ว่าทำตัวไม่รับผิดชอบ ซึ่งได้จุดชนวนความวิตกกังวลอย่างรุนแรงบนโซเชียลมีเดียเกี่ยวกับความเร็วในการพัฒนาเทคโนโลยีดังกล่าว

Jacob Coxon ซึ่งเคยทำงานเป็นนักวิจัยให้กับทั้งสองบริษัท ได้โพสต์บน X ว่าเขาลาออกเนื่องจากกังวลว่า Anthropic และ OpenAI กำลัง "เอาชีวิตพวกเราไปเสี่ยงดวง" เขากล่าวว่าผู้คนที่กำลังสร้าง AI "เชื่ออย่างจริงจังว่ามันอาจฆ่าเราทุกคนได้ภายในสิ้นทศวรรษนี้"

"อย่าประเมินอานุภาพของเทคโนโลยีนี้ต่ำไป" Coxon เขียน "สิ่งเหล่านี้จะกลายเป็นระบบเหนือมนุษย์ในไม่ช้า ซึ่งสามารถแฮกได้ทุกสิ่ง ปฏิวัติทุกภาคส่วนได้เพียงชั่วข้ามคืน และไขว่คว้าอำนาจและทรัพยากรที่แท้จริงได้"

โพสต์ของ Coxon ซึ่งมียอดเข้าชมมากกว่า 70 ล้านครั้ง ได้สะท้อนถึงข้อถกเถียงที่มีมาอย่างยาวนานในซิลิคอนวัลเลย์เกี่ยวกับเรื่องที่ว่า AI จะสามารถพัฒนาและควบคุมได้อย่างปลอดภัยหรือไม่ ในขณะที่ Anthropic และ OpenAI กำลังเร่งเครื่องไปสู่การเสนอขายหุ้นใหม่แก่ประชาชนทั่วไปเป็นครั้งแรก (IPO) ที่อาจเป็นประวัติศาสตร์ พร้อมๆ กับการเปิดตัวโมเดลที่ล้ำสมัยยิ่งขึ้น นักวิจัยจำนวนมากจึงเรียกร้องให้มีการชะลอตัวลงอย่างสอดประสานกัน

Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้เผยแพร่บล็อกโพสต์เมื่อวันอาทิตย์และเตือนว่ายังไม่มีบริษัท AI ใด "แก้ปัญหาด้านความสอดคล้อง (alignment) และการเฝ้าระวังได้ในระดับที่เพียงพอ ที่จะขยายขนาดอย่างรับผิดชอบด้วยความเร็วสูงสุดต่อไปได้อีกนานนัก" ในอุตสาหกรรม AI คำว่าความสอดคล้องหมายถึงงานของผู้พัฒนา AI ที่จะรับประกันว่าระบบจะปฏิบัติตามค่านิยมและความตั้งใจของมนุษย์

"ผมคาดหวังและหวังว่าการชะลอตัวลงโดยสมัครใจจะกลายเป็นเรื่องปกติ จนกว่าจะมีการจัดตั้งเกณฑ์มาตรฐานความปลอดภัยร่วมกัน" Pachocki เขียน "และผมเชื่อว่าการประสานงานระหว่างประเทศเกี่ยวกับการพัฒนา AI ในอนาคต จำเป็นต้องกลายเป็นภารกิจเร่งด่วนระดับสูงสุดสำหรับรัฐบาลต่างๆ ทั่วโลก"

โพสต์ของ Coxon เมื่อวันอังคารยังส่งผลกระทบอย่างมากต่อนักวิจัยในอุตสาหกรรมที่กำลังกังวลเกี่ยวกับการปรับปรุงตนเองแบบวนซ้ำ (recursive self-improvement) หรือการที่ระบบ AI มีความสามารถในการออกแบบและพัฒนารุ่นถัดไปได้ด้วยตนเองโดยไม่ต้องพึ่งพาการแทรกแซงจากมนุษย์ ทั้งนี้ การปรับปรุงตนเองแบบวนซ้ำยังไม่สามารถทำได้ในปัจจุบัน แต่บริษัทต่างๆ รวมถึง Anthropic และ OpenAI ได้เตือนว่ามันจะทำให้มนุษย์สูญเสียการควบคุมระบบเหล่านั้นได้ง่ายขึ้น

"ไม่มีบริษัทใดกำลังทำตัวอย่างรับผิดชอบ" Coxon เขียน "พวกเขากำลังแข่งกันตรงไปสู่ปัญญาประดิษฐ์ขั้นสูงที่พัฒนาตนเองได้"

Evan Hubinger หัวหน้าฝ่ายความสอดคล้อง (alignment lead) ที่ Anthropic ได้สะท้อนความเห็นของ Coxon ในโพสต์บน X เมื่อดึกวันอังคาร

"Jacob พูดถูกเลยในเรื่องนี้ พวกเราเชื่ออย่างจริงใจจริงๆ ว่า AI สามารถฆ่ามนุษย์ทุกคนได้! โดยส่วนตัวผมคิดว่ามันมากกว่า 10% ภายในทศวรรษหน้า" Hubinger เขียน "ผมเชื่อว่า Anthropic กำลังพยายามอย่างดีที่สุด แต่เรายังไม่มีแผนที่จะแก้ปัญหาความสอดคล้องสำหรับปัญญาประดิษฐ์ขั้นสูง และยังไม่ได้อยู่ในเส้นทางที่จะทำได้สำเร็จอย่างชัดเจน"

แม้จะดูสุดโต่ง แต่ความกังวลเกี่ยวกับศักยภาพของ AI ที่อาจก่อให้เกิดการสูญพันธุ์ของมนุษย์หรือเหตุการณ์หายนะอื่นๆ ไม่ใช่เรื่องใหม่ในวงการวิจัย AI ตัวอย่างเช่น ในปี 2023 นักวิจัยและผู้บริหาร AI ที่โดดเด่น ซึ่งรวมถึง Sam Altman ซีอีโอของ OpenAI และ Dario Amodei ซีอีโอของ Anthropic ได้ร่วมลงนามในแถลงการณ์ที่ระบุว่า "การลดความเสี่ยงของการสูญพันธุ์จาก AI ควรเป็นวาระระดับโลก ร่วมกับความเสี่ยงระดับสังคมอื่นๆ เช่น โรคระบาดและสงครามนิวเคลียร์"

ผู้เชี่ยวชาญบางคนถึงกับใช้คำย่อว่า p(doom) เพื่อประเมินความน่าจะเป็นของผลลัพธ์อันร้ายแรงที่อาจเกิดขึ้นจาก AI

Hubinger จาก Anthropic ยังเป็นหนึ่งในนักวิจัย AI ราว 1,400 คนที่ลงนามในจดหมายเปิดผนึกที่ชื่อว่า "Pacing the Frontier" ในเดือนกรกฎาคม จดหมายฉบับดังกล่าวได้เรียกร้องให้รัฐบาลสหรัฐฯ พัฒนาเครื่องมือที่จำเป็นเพื่อสนับสนุนความพยายามในการ "กำหนดจังหวะการพัฒนา AI อัตโนมัติอย่างระมัดระวัง"

สมาชิกรัฐสภาบางคนได้ดำเนินการเพื่อพยายามจัดการกับการพัฒนาอย่างรวดเร็วของ AI ในช่วงหลายเดือนต่อมา แต่ยังไม่มีฉันทามติที่ชัดเจนเกี่ยวกับวิธีการที่ควรใช้กำกับดูแลเทคโนโลยีนี้

ในเดือนกรกฎาคม Rep. Jay Obernolte (พรรครีพับลิกัน จากแคลิฟอร์เนีย) และ Rep. Lori Trahan (พรรคเดโมแครต จากแมสซาชูเซตส์) ได้เสนอร่างกฎหมายชื่อ FRONTIER Act ซึ่งมีวัตถุประสงค์เพื่อจัดตั้งกรอบการทำงานสำหรับการกำกับดูแลการใช้งานโมเดล AI ขั้นสูง และเมื่อต้นเดือนนี้ Sen. Bernie Sanders (อิสระ จากเวอร์มอนต์) และ Rep. Greg Casar (พรรคเดโมแครต จากเท็กซัส) ได้เสนอร่างกฎหมายชื่อ Ban Artificial Superintelligence Act ซึ่งจะระงับการพัฒนา AI ขั้นสูงเป็นการชั่วคราว จนกว่ารัฐบาลกลางจะจัดตั้งกฎระเบียบด้านความปลอดภัย ร่างกฎหมายทั้งสองฉบับได้รับการตอบรับที่ผสมผสานกันทั้งเห็นด้วยและไม่เห็นด้วย

"นักวิจัยด้านความปลอดภัยกำลังลาออก โมเดล AI ที่ทรงพลังกำลังแหกออกจากห้องปฏิบัติการของพวกเขาทั้งๆ อย่างนั้น และบริษัทต่างๆ ก็ยังคงเร่งเครื่องต่อไปอยู่ดี" Trahan เขียนในโพสต์บน X เมื่อวันพุธ "มันเลยเวลาที่สภาคองเกรสจะเลิกอยู่เฉยๆ และทำหน้าที่ของตัวเองได้แล้ว"

สมาชิกรัฐสภายังคงพยายามรับมือกับกระแสต่อต้านจากสาธารณชนที่เพิ่มขึ้นต่อศูนย์ข้อมูล AI (AI data centers) ซึ่งเป็นอาคารขนาดใหญ่ที่บรรจุฮาร์ดแวร์สำหรับฝึกฝนและรันโมเดล AI แรงต้านดังกล่าวรุนแรงมากจนคณะกรรมการวุฒิสภาแห่งพรรครีพับลิกันแห่งชาติ (NRSC) กล่าวเมื่อเดือนที่แล้วว่า ศูนย์ข้อมูลได้กลายเป็น "ประเด็นเงียบที่มองข้ามไม่ได้" สำหรับรอบการเลือกตั้งกลางเทอมทั้งหมด ตามที่ CNBC ได้รายงานไปก่อนหน้านี้

Scott Bessent รัฐมนตรีกระทรวงการคลัง กล่าวเมื่อต้นเดือนนี้ว่า บริษัท AI ทำหน้าที่ได้ "แย่มากในการอธิบายตัวเองให้คนอเมริกันเข้าใจ"

"พวกเขาจะต้องยอมรับความผิดบางส่วน และจะต้องโน้มน้าวคนอเมริกันให้ได้ว่าผลประโยชน์ทั้งหมดจะไม่ตกอยู่กับคนกลุ่มเล็กๆ" Bessent กล่าว ภายหลังการประชุม G20 ร่วมกับรัฐมนตรีคลังและผู้ว่าการธนาคารกลางในเมืองแอชวิลล์ รัฐนอร์ทแคโรไลนา "นั่นคือสิ่งที่คุณจะได้ยินจากผม"

ที่มา https://www.cnbc.com/2026/09/09/anthropic-researcher-quits-ai-safety.html