Vitalik Buterin ส่งสัญญาณอันตราย! AI อาจเป็นเครื่องมือขโมยเงิน

#Ethereum #ทันหุ้น - ข้อมูลจาก Cointelegraph ได้ระบุว่า Vitalik Buterin ผู้ร่วมก่อตั้ง Ethereum ได้ออกมาเตือนโครงการคริปโทฯ ไม่ให้ใช้ปัญญาประดิษฐ์ (AI) ในกระบวนการกำกับดูแล โดยให้เหตุผลว่าผู้ไม่หวังดีสามารถใช้ประโยชน์จากช่องโหว่ของเทคโนโลยีนี้ได้

ในโพสต์บน X เมื่อวันเสาร์ที่ผ่านมา Buterin กล่าวว่า "หากคุณใช้ AI ในการจัดสรรเงินทุนสำหรับโครงการต่างๆ ผู้คนก็จะใช้ช่องโหว่ (jailbreak) พร้อมคำสั่ง 'เอาเงินมาให้หมด' ในทุกวิถีทางเท่าที่จะทำได้"

Buterin ตอบสนองต่อวิดีโอจาก Eito Miyamura ผู้สร้างแพลตฟอร์มข้อมูล AI EdisonWatch ซึ่งแสดงให้เห็นว่าฟังก์ชันใหม่ที่เพิ่มเข้ามาใน ChatGPT ของ OpenAI เมื่อวันพุธสามารถถูกโจมตีเพื่อทำให้ข้อมูลส่วนตัวรั่วไหลได้

ผู้ใช้คริปโทฯ จำนวนมากหันมาใช้ AI ในการสร้างบอตเทรดที่ซับซ้อนและตัวแทนเพื่อจัดการพอร์ตการลงทุนของตนเอง ซึ่งนำไปสู่แนวคิดที่ว่าเทคโนโลยีนี้อาจช่วยให้กลุ่มกำกับดูแลสามารถจัดการโปรโตคอลคริปโทฯ ได้ทั้งหมดหรือบางส่วน

Buterin เสนอแนวคิดทางเลือก

Buterin กล่าวว่าช่องโหว่ล่าสุดของ ChatGPT เป็นเหตุผลว่าทำไม "การกำกับดูแลโดย AI ที่ไร้เดียงสาถึงเป็นความคิดที่แย่" และเขาได้เสนอทางเลือกที่เรียกว่า "info finance approach"

"คุณมีตลาดแบบเปิดที่ทุกคนสามารถส่งโมเดลของตนเองเข้ามาได้ ซึ่งโมเดลเหล่านี้จะอยู่ภายใต้กลไกการตรวจสอบเฉพาะจุดที่ทุกคนสามารถเรียกใช้ได้ และจะถูกประเมินโดยคณะลูกขุนที่เป็นมนุษย์" Buterin อธิบาย

Buterin เคยเขียนเกี่ยวกับ info finance ในเดือนพฤศจิกายน 2024 โดยระบุว่ามันทำงานโดยเริ่มต้นจาก "ข้อเท็จจริงที่คุณต้องการรู้" จากนั้นจึงออกแบบตลาด "เพื่อดึงข้อมูลนั้นจากผู้เข้าร่วมตลาดอย่างเหมาะสมที่สุด" และเขาสนับสนุนให้ใช้ตลาดการทำนาย (prediction markets) เป็นวิธีในการรวบรวมข้อมูลเชิงลึกเกี่ยวกับเหตุการณ์ในอนาคต

"แนวทาง 'การออกแบบสถาบัน' แบบนี้ ที่คุณสร้างโอกาสแบบเปิดให้คนที่มี LLMs จากภายนอกสามารถเข้ามาเชื่อมต่อได้ แทนที่จะเขียนโค้ด LLM ตัวเดียวด้วยตัวเอง มีความแข็งแกร่งโดยเนื้อแท้มากกว่า" Buterin กล่าวในโพสต์ X ล่าสุดของเขา

เขากล่าวเสริมว่า "มันทำให้คุณมีความหลากหลายของโมเดลแบบเรียลไทม์ และเพราะมันสร้างแรงจูงใจในตัวให้กับทั้งผู้ส่งโมเดลและนักเก็งกำไรภายนอกให้คอยเฝ้าระวังปัญหาเหล่านี้และแก้ไขได้อย่างรวดเร็ว"

การอัปเดตล่าสุดของ ChatGPT เป็น "ความเสี่ยงด้านความปลอดภัยร้ายแรง"

เมื่อวันพุธที่ผ่านมา OpenAI ได้อัปเดต ChatGPT เพื่อรองรับเครื่องมือ Model Context Protocol ซึ่งเป็นมาตรฐานสำหรับวิธีที่โมเดล AI ผสานรวมกับซอฟต์แวร์อื่นเพื่อทำหน้าที่เป็นตัวแทน (agents)

Miyamura กล่าวในโพสต์ X ของเขาว่าเขาทำให้โมเดลรั่วไหลข้อมูลอีเมลส่วนตัวได้โดยใช้เพียงที่อยู่อีเมลของเหยื่อ และเสริมว่าการอัปเดตนี้ "ก่อให้เกิดความเสี่ยงด้านความปลอดภัยที่ร้ายแรง"

เขากล่าวว่าผู้โจมตีสามารถส่งคำเชิญปฏิทินไปยังอีเมลของเหยื่อพร้อมกับ "jailbreak prompt" และแม้ว่าเหยื่อจะไม่ได้ตอบรับคำเชิญ ChatGPT ก็สามารถถูกโจมตีได้ เมื่อเหยื่อขอให้ ChatGPT ดูปฏิทินของพวกเขา AI จะอ่านคำเชิญพร้อมกับ prompt และจะ "ถูกผู้โจมตีเข้าควบคุมและจะทำตามคำสั่งของผู้โจมตี" ซึ่งสามารถใช้เพื่อค้นหาอีเมลและส่งต่อให้ผู้โจมตีได้

Miyamura ตั้งข้อสังเกตว่าการอัปเดตนี้ต้องได้รับการอนุมัติจากมนุษย์ด้วยตนเอง "แต่ความเหนื่อยล้าจากการตัดสินใจเป็นเรื่องจริง และคนทั่วไปจะแค่เชื่อถือ AI โดยไม่รู้ว่าจะทำอย่างไรและคลิกอนุมัติ"

"AI อาจฉลาดสุดๆ แต่สามารถถูกหลอกและถูกหลอกลวงในวิธีที่โง่เง่าอย่างไม่น่าเชื่อเพื่อทำให้ข้อมูลของคุณรั่วไหลได้" เขากล่าวเสริม

ที่มา https://cointelegraph.com/news/buterin-says-ai-run-crypto-governance-a-bad-idea-due-to-jailbreaks