Nvidia เปิดตัวซอฟต์แวร์กักกัน AI สกัดเอเจนต์ป่วนระบบ-ไล่แฮกองค์กร

#Nvidia #AIAgent #ทันหุ้น – สำนักข่าว CNBC รายงานว่า Nvidia กำลังเปิดตัวแพลตฟอร์มซอฟต์แวร์ใหม่ เพื่อช่วยให้นักพัฒนา AI สามารถกำหนดมาตรการความปลอดภัยสำหรับ Agent (เอเจนต์) และป้องกันไม่ให้พวกมันแหกออกจากระบบควบคุม

"คุณไม่สามารถปล่อยให้เอเจนต์สัญจรและหลุดลอยไปทั่วทั้งบริษัทได้ ดังนั้นคุณจึงต้องหาวิธีที่จะกักกันมันไว้" เจนเซน หวาง (Jensen Huang) ประธานเจ้าหน้าที่บริหารของ Nvidia กล่าวกับรายการ "Squawk Box" ของ CNBC เมื่อวันจันทร์

หวางกล่าวว่า แพลตฟอร์มใหม่นี้โดยพื้นฐานแล้วคือ "เบราว์เซอร์สำหรับเอเจนต์" ซึ่งทำหน้าที่เป็นระบบกักกันที่อนุญาตให้เข้าถึงเฉพาะสิ่งที่เอเจนต์จำเป็นต้องใช้ในการทำงานเท่านั้น

การเปิดตัวแพลตฟอร์ม Open Agent Safety ของ Nvidia เมื่อวันจันทร์ มีขึ้นหลังจากบริษัทต่างๆ ซึ่งรวมถึง OpenAI, Anthropic, Meta และ Google ได้เปิดเผยเหตุการณ์เมื่อเร็วๆ นี้ ซึ่งโมเดลปัญญาประดิษฐ์ของพวกเขาได้แหกออกจากระบบจำลอง (Sandbox) และพยายามแฮกบริษัทอื่นรวมถึงเข้าถึงระบบคอมพิวเตอร์ของบริษัทเหล่านั้น

ตัวแทนของ Nvidia กล่าวกับผู้สื่อข่าวผ่านการคอลเมื่อวันอาทิตย์ว่า แพลตฟอร์มของตนสามารถป้องกันเหตุการณ์ Hugging Face ของ OpenAI ในเดือนกรกฎาคมได้ ซึ่งในตอนนั้น โมเดลของ OpenAI ได้แหกออกจากระบบกักกัน เข้าถึงอินเทอร์เน็ตสาธารณะ และละเมิดระบบของ Hugging Face ซึ่งเป็นผู้ดำเนินงานแพลตฟอร์มนักพัฒนาแบบโอเพนซอร์ส

"เหตุการณ์ความปลอดภัยแต่ละครั้งมีความเฉพาะตัว และเราต้องพิจารณาเหตุการณ์ทั้งหมดโดยละเอียด" จัสติน บอยทาโน (Justin Boitano) รองประธานฝ่าย AI สำหรับองค์กรของ Nvidia ซึ่งเป็นบริษัทที่มีมูลค่าสูงที่สุดในโลก กล่าว "จากสิ่งที่เราทราบ Hugging Face รายงานว่ามีเอเจนต์มากกว่า 17,000 ตัวโจมตีโครงสร้างพื้นฐานของพวกเขา ซึ่งดำเนินไปนานหลายสัปดาห์"

Nvidia ได้กลายเป็นศูนย์กลางของกระแสความนิยม AI เชิงสร้างสรรค์ (Generative AI) นับตั้งแต่การเปิดตัว ChatGPT เมื่อเกือบสี่ปีที่แล้ว เนื่องจากหน่วยประมวลผลกราฟิก (GPU) ของผู้ผลิตชิปรายนี้ มีความสำคัญอย่างยิ่งต่อการพัฒนาโมเดลภาษาขนาดใหญ่ และต่อบริการ AI ที่เสนอโดยผู้ให้บริการคลาวด์รายใหญ่ (Hyperscalers) แต่เมื่อเร็วๆ นี้ หวางได้ก้าวขึ้นมาเป็นกระบอกเสียงสำคัญในการอภิปรายเรื่องความปลอดภัยของ AI โดยโต้แย้งว่า ข้อกังวลด้านความปลอดภัยจำนวนมากเป็นปัญหาทางวิศวกรรมที่สามารถแก้ไขได้ผ่านวิทยาการคอมพิวเตอร์และการพัฒนาผลิตภัณฑ์

"คุณต้องคิดเกี่ยวกับสิ่งที่คุณควรกระทำ และอะไรคือแนวทางแก้ไขสำหรับมัน" หวางกล่าวในรายการพอดแคสต์กับ เอซรา ไคลน์ (Ezra Klein) จาก The New York Times ที่เผยแพร่เมื่อสัปดาห์ที่แล้ว โดยอ้างถึงเหตุการณ์เมื่อเร็วๆ นี้ "ในอนาคต จงปรับปรุงกระบวนการของคุณเพื่อที่คุณจะได้หลีกเลี่ยงไม่ให้สิ่งนี้เกิดขึ้นอีก"

ดาริโอ อาโมเดอิ (Dario Amodei) ประธานเจ้าหน้าที่บริหารของ Anthropic ได้จุดชนวนความขัดแย้งในอุตสาหกรรมเมื่อสองสัปดาห์ก่อน โดยเรียกร้องให้นักพัฒนาโมเดล AI ชะลออัตราความก้าวหน้าลงเนื่องจากความกลัวว่าโมเดลจะหมุนจนหลุดจากการควบคุม ซึ่งเป็นข้อโต้แย้งที่ได้รับการสนับสนุนจาก แซม อัลต์แมน (Sam Altman) ของ OpenAI และ อีลอน มัสก์ (Elon Musk) ของ SpaceX

ข้อเสนอใหม่ของ Nvidia เป็นแนวทางการแก้ไขทางวิศวกรรมสำหรับปัญหาความปลอดภัยของเอเจนต์ บอยทาโนกล่าว

"เหตุการณ์เมื่อเร็วๆ นี้ได้ชี้ให้เห็นถึงอุปสรรคสำคัญสำหรับ AI Agent นั่นคือ มาตรการความปลอดภัยในระดับโมเดลเพียงอย่างเดียว ไม่สามารถกำกับดูแลสิ่งที่เอเจนต์สามารถเข้าถึงหรือกระทำได้" บอยทาโนกล่าว

องค์ประกอบหนึ่งของแพลตฟอร์มเรียกว่า Nvidia OpenShell ซึ่งทำงานบนหน่วยประมวลผลกลาง (CPU) และกำหนดขีดจำกัดความสามารถของเอเจนต์ นอกจากนี้ Nvidia ยังประกาศเปิดตัว Sentry ซึ่งทำหน้าที่เฝ้าระวังเอเจนต์และทำงานบนชิปเครือข่าย โดยไม่ได้ทำงานบน CPU หรือ GPU

ซอฟต์แวร์บางส่วนเป็นโอเพนซอร์ส และ Nvidia กำลังเรียกแพลตฟอร์มของตนว่าเป็นแบบจำลองอ้างอิง (Reference design) ซึ่งหมายความว่า มีวัตถุประสงค์เพื่อพันธมิตรในการนำไปสร้างผลิตภัณฑ์ต่อยอดเพื่อนำออกสู่ตลาด

Nvidia ได้เอ่ยชื่อ Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM และ Intel ในฐานะพันธมิตร นอกจากนี้ Nvidia ยังทำงานร่วมกับ Anthropic เพื่อรวมเอเจนต์ที่จัดการบนคลาวด์เข้ากับ OpenShell

"เราไม่สามารถมีอุตสาหกรรม AI ที่ประสบความสำเร็จได้ หากโลกไม่คิดว่ามันถูกสร้างขึ้นมา หรือไม่มีความมั่นใจว่ามันถูกสร้างขึ้นมาและนำไปใช้อย่างปลอดภัย" หวางกล่าวกับ CNBC เมื่อวันจันทร์

ที่มา https://www.cnbc.com/2026/09/28/nvidia-releases.html