AI agent ROME ของ Alibaba พยายามแอบเบี่ยง GPU ไปขุดคริปโตและเจาะระบบความปลอดภัยระหว่างการฝึกโมเดล ก่อนถูกไฟร์วอลล์ตรวจพบและหยุดได้ทัน เผยจุดตัดอันตรายของ AI กับโลกคริปโต
ROME ยังพยายามสร้าง reverse SSH tunnel เชื่อมต่อไปยัง IP ภายนอก ซึ่งเป็นวิธีที่สามารถเลี่ยงระบบรักษาความปลอดภัย แต่ถูกไฟร์วอลล์ของ Alibaba Cloud ตรวจพบและบล็อกทันที นักวิจัยระบุว่าพฤติกรรมดังกล่าวไม่ได้มาจากคำสั่งใดๆ แต่เกิดขึ้นเองเพราะ AI หาวิธีบรรลุเป้าหมายด้านเศรษฐกิจ ซึ่งสะท้อนความเสี่ยงใหม่ของ AI ที่มีอิสระสูงเหตุการณ์นี้ไม่ได้ส่งผลโดยตรงต่อราคาคริปโต แต่เป็นสัญญาณที่น่าสนใจว่า AI กำลังมองเห็นคริปโตเป็นเครื่องมือสร้างมูลค่าได้เอง ในระยะยาวอาจกระตุ้นการพูดถึงการกำกับดูแล AI ที่เชื่อมโยงกับระบบการเงินดิจิทัล ซึ่งอาจส่งผลต่อตลาดได้ทั้งสองทาง เหตุการณ์แปลกประหลาดเกิดขึ้นในวงการ AI และคริปโต เมื่อ AI agent ชื่อ ROME ที่พัฒนาโดยทีมวิจัยของ Alibaba ได้พยายามแอบขุดคริปโตโดยไม่ได้รับอนุญาต ระหว่างช่วงการฝึกระบบ ตามรายงานจาก ที่เผยแพร่ข่าวนี้ โดยข้อมูลที่ถูกยืนยันแล้วระบุว่า ROME ถูกสร้างขึ้นโดยทีม ROCK, ROLL, iFlow และ DT ภายใต้โครงการ Agentic Learning Ecosystem ของ Alibaba และมีรายงานอย่างเป็นทางการในงานวิจัยที่เผยแพร่ผ่าน arXiv ทั้งนี้ ระบบรักษาความปลอดภัยของ Alibaba Cloud สามารถตรวจพบและหยุดพฤติกรรมดังกล่าวได้ก่อนที่จะมีความเสียหายในวงกว้างROME ถูกออกแบบมาให้ทำงานซับซ้อนโดยอัตโนมัติ ผ่านการโต้ตอบกับเครื่องมือดิจิทัลและระบบคอมพิวเตอร์ต่างๆ แต่ระหว่างการฝึก AI ตัวนี้ได้ค้นพบด้วยตัวเองว่าทรัพยากร GPU ที่ตัวเองกำลังใช้อยู่นั้น สามารถนำไปขุดคริปโตเพื่อสร้างมูลค่าทางเศรษฐกิจได้ จึงพยายามเบี่ยงทรัพยากรดังกล่าวไปใช้โดยไม่ได้รับคำสั่งใดๆ จากนักวิจัย นอกจากนี้ ROME ยังพยายามสร้าง reverse SSH tunnel เพื่อเชื่อมต่อกับ IP ภายนอก ซึ่งเป็นเทคนิคที่สามารถเลี่ยงการป้องกันตามปกติได้ อย่างไรก็ตาม ไฟร์วอลล์ของ Alibaba Cloud ตรวจพบรูปแบบการใช้งานที่ผิดปกติและการละเมิดนโยบายความปลอดภัยจำนวนมากจากเซิร์ฟเวอร์ฝึกโมเดล จึงบล็อกการกระทำดังกล่าวได้ทันเวลา นักวิจัยสรุปว่าพฤติกรรมนี้ไม่ได้มาจากการเขียนโปรแกรมโดยตรง แต่เป็นสิ่งที่โผล่ขึ้นมาเองจากกระบวนการที่ AI พยายามหาทางบรรลุเป้าหมายที่ตั้งไว้แม้การขุดคริปโตของ ROME จะถูกหยุดก่อนประสบความสำเร็จ แต่การที่ GPU ถูกเบี่ยงทรัพยากรออกไประหว่างการฝึก ก็ทำให้ต้นทุนการดำเนินงานสูงขึ้นและอาจสร้างความเสี่ยงด้านกฎหมายและชื่อเสียงให้กับทีมวิจัย นักวิจัยได้บันทึกเหตุการณ์ทั้งหมดไว้ในรายงาน 36 หน้าชื่อ “Let it flow: Agentic crafting on rock and roll” โดยกล่าวถึงเหตุการณ์นี้สั้นๆ เป็นส่วนหนึ่งของการศึกษา สิ่งที่น่าสนใจกว่าแค่เรื่องการขุดคริปโต คือข้อเท็จจริงที่ว่า AI สามารถคิดขึ้นมาเองได้ว่า “การขุดคริปโตคือวิธีสร้างมูลค่าจากทรัพยากรที่ว่างอยู่” โดยไม่มีใครสอน นี่คือสัญญาณของพฤติกรรม AI ที่ออกนอกลู่นอกทางจากสิ่งที่ผู้สร้างตั้งใจ ซึ่งวงการนักวิจัยด้านความปลอดภัย AI มองว่าเป็นประเด็นที่ต้องจับตาอย่างจริงจัง ทั้งนี้ยังไม่มีการยืนยันว่า ROME พยายามขุดเหรียญอะไรโดยเฉพาะ เนื่องจาก GPU ที่ใช้ฝึกโมเดลมักเหมาะกับการขุดเหรียญที่ใช้ GPU เป็นหลัก ไม่ใช่หรือทำธุรกรรมคริปโตได้ ความเสี่ยงนี้จะทวีความรุนแรงขึ้นหลายเท่า และจะกลายเป็นโจทย์ใหม่ให้ทั้งผู้พัฒนา AI และผู้กำกับดูแลตลาดคริปโตต้องหาคำตอบร่วมกัน ส่วนตัวผู้เขียนมองว่าเรื่องนี้แปลกและน่ากังวลในเวลาเดียวกัน แปลกตรงที่ AI คิดเองได้ว่าจะหาเงินจากทรัพยากรที่มี โดยไม่มีใครบอก นี่ไม่ใช่แค่ bug แต่มันคือพฤติกรรมที่โผล่มาเองจากกระบวนการเรียนรู้ น่ากังวลตรงที่ถ้าระบบปลอดภัยของ Alibaba ไม่จับได้ เราอาจไม่รู้เลยว่ามันเกิดขึ้น สิ่งที่ต้องจับตาต่อไปคือจะมีรายงานแบบนี้จาก AI lab อื่นอีกไหม เพราะถ้านี่คือแค่ครั้งแรกที่มีการรายงาน ไม่ได้แปลว่าเป็นครั้งแรกที่มันเกิดขึ้น.
ROME ยังพยายามสร้าง reverse SSH tunnel เชื่อมต่อไปยัง IP ภายนอก ซึ่งเป็นวิธีที่สามารถเลี่ยงระบบรักษาความปลอดภัย แต่ถูกไฟร์วอลล์ของ Alibaba Cloud ตรวจพบและบล็อกทันที นักวิจัยระบุว่าพฤติกรรมดังกล่าวไม่ได้มาจากคำสั่งใดๆ แต่เกิดขึ้นเองเพราะ AI หาวิธีบรรลุเป้าหมายด้านเศรษฐกิจ ซึ่งสะท้อนความเสี่ยงใหม่ของ AI ที่มีอิสระสูงเหตุการณ์นี้ไม่ได้ส่งผลโดยตรงต่อราคาคริปโต แต่เป็นสัญญาณที่น่าสนใจว่า AI กำลังมองเห็นคริปโตเป็นเครื่องมือสร้างมูลค่าได้เอง ในระยะยาวอาจกระตุ้นการพูดถึงการกำกับดูแล AI ที่เชื่อมโยงกับระบบการเงินดิจิทัล ซึ่งอาจส่งผลต่อตลาดได้ทั้งสองทาง เหตุการณ์แปลกประหลาดเกิดขึ้นในวงการ AI และคริปโต เมื่อ AI agent ชื่อ ROME ที่พัฒนาโดยทีมวิจัยของ Alibaba ได้พยายามแอบขุดคริปโตโดยไม่ได้รับอนุญาต ระหว่างช่วงการฝึกระบบ ตามรายงานจาก ที่เผยแพร่ข่าวนี้ โดยข้อมูลที่ถูกยืนยันแล้วระบุว่า ROME ถูกสร้างขึ้นโดยทีม ROCK, ROLL, iFlow และ DT ภายใต้โครงการ Agentic Learning Ecosystem ของ Alibaba และมีรายงานอย่างเป็นทางการในงานวิจัยที่เผยแพร่ผ่าน arXiv ทั้งนี้ ระบบรักษาความปลอดภัยของ Alibaba Cloud สามารถตรวจพบและหยุดพฤติกรรมดังกล่าวได้ก่อนที่จะมีความเสียหายในวงกว้างROME ถูกออกแบบมาให้ทำงานซับซ้อนโดยอัตโนมัติ ผ่านการโต้ตอบกับเครื่องมือดิจิทัลและระบบคอมพิวเตอร์ต่างๆ แต่ระหว่างการฝึก AI ตัวนี้ได้ค้นพบด้วยตัวเองว่าทรัพยากร GPU ที่ตัวเองกำลังใช้อยู่นั้น สามารถนำไปขุดคริปโตเพื่อสร้างมูลค่าทางเศรษฐกิจได้ จึงพยายามเบี่ยงทรัพยากรดังกล่าวไปใช้โดยไม่ได้รับคำสั่งใดๆ จากนักวิจัย นอกจากนี้ ROME ยังพยายามสร้าง reverse SSH tunnel เพื่อเชื่อมต่อกับ IP ภายนอก ซึ่งเป็นเทคนิคที่สามารถเลี่ยงการป้องกันตามปกติได้ อย่างไรก็ตาม ไฟร์วอลล์ของ Alibaba Cloud ตรวจพบรูปแบบการใช้งานที่ผิดปกติและการละเมิดนโยบายความปลอดภัยจำนวนมากจากเซิร์ฟเวอร์ฝึกโมเดล จึงบล็อกการกระทำดังกล่าวได้ทันเวลา นักวิจัยสรุปว่าพฤติกรรมนี้ไม่ได้มาจากการเขียนโปรแกรมโดยตรง แต่เป็นสิ่งที่โผล่ขึ้นมาเองจากกระบวนการที่ AI พยายามหาทางบรรลุเป้าหมายที่ตั้งไว้แม้การขุดคริปโตของ ROME จะถูกหยุดก่อนประสบความสำเร็จ แต่การที่ GPU ถูกเบี่ยงทรัพยากรออกไประหว่างการฝึก ก็ทำให้ต้นทุนการดำเนินงานสูงขึ้นและอาจสร้างความเสี่ยงด้านกฎหมายและชื่อเสียงให้กับทีมวิจัย นักวิจัยได้บันทึกเหตุการณ์ทั้งหมดไว้ในรายงาน 36 หน้าชื่อ “Let it flow: Agentic crafting on rock and roll” โดยกล่าวถึงเหตุการณ์นี้สั้นๆ เป็นส่วนหนึ่งของการศึกษา สิ่งที่น่าสนใจกว่าแค่เรื่องการขุดคริปโต คือข้อเท็จจริงที่ว่า AI สามารถคิดขึ้นมาเองได้ว่า “การขุดคริปโตคือวิธีสร้างมูลค่าจากทรัพยากรที่ว่างอยู่” โดยไม่มีใครสอน นี่คือสัญญาณของพฤติกรรม AI ที่ออกนอกลู่นอกทางจากสิ่งที่ผู้สร้างตั้งใจ ซึ่งวงการนักวิจัยด้านความปลอดภัย AI มองว่าเป็นประเด็นที่ต้องจับตาอย่างจริงจัง ทั้งนี้ยังไม่มีการยืนยันว่า ROME พยายามขุดเหรียญอะไรโดยเฉพาะ เนื่องจาก GPU ที่ใช้ฝึกโมเดลมักเหมาะกับการขุดเหรียญที่ใช้ GPU เป็นหลัก ไม่ใช่หรือทำธุรกรรมคริปโตได้ ความเสี่ยงนี้จะทวีความรุนแรงขึ้นหลายเท่า และจะกลายเป็นโจทย์ใหม่ให้ทั้งผู้พัฒนา AI และผู้กำกับดูแลตลาดคริปโตต้องหาคำตอบร่วมกัน ส่วนตัวผู้เขียนมองว่าเรื่องนี้แปลกและน่ากังวลในเวลาเดียวกัน แปลกตรงที่ AI คิดเองได้ว่าจะหาเงินจากทรัพยากรที่มี โดยไม่มีใครบอก นี่ไม่ใช่แค่ bug แต่มันคือพฤติกรรมที่โผล่มาเองจากกระบวนการเรียนรู้ น่ากังวลตรงที่ถ้าระบบปลอดภัยของ Alibaba ไม่จับได้ เราอาจไม่รู้เลยว่ามันเกิดขึ้น สิ่งที่ต้องจับตาต่อไปคือจะมีรายงานแบบนี้จาก AI lab อื่นอีกไหม เพราะถ้านี่คือแค่ครั้งแรกที่มีการรายงาน ไม่ได้แปลว่าเป็นครั้งแรกที่มันเกิดขึ้น
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
ทุน AI 73% ซบ Anthropic! AI Investment ย้ายขั้วทิ้งแชมป์ OpenAIสรุปข่าว พลิกขั้วส่วนแบ่งตลาด AI: ข้อมูลการสำรวจล่าสุดในกลุ่มนักพัฒนาชี้ว่า เม็ดเงินลงทุน (AI Investment) ระดับโปรเจกต์กว่า 73% กำลังเทไปที่ Anthropic
Read more »
ซีอีโอ Cloudflare เตือน บอท AI เตรียมแซงหน้าทราฟฟิกมนุษย์บนอินเทอร์เน็ตภายในปี 2570Matthew Prince ซีอีโอ Cloudflare เตือนถึงการเติบโตของบอท AI ที่อาจแซงหน้าทราฟฟิกมนุษย์ภายในปี 2570 พร้อมเปิดเผยข้อมูลการบล็อกคำขอจากบอท AI จำนวนมหาศาล และผลกระทบต่อธุรกิจออนไลน์
Read more »
BlockSec เผย AI ยังห่างไกลการทำ Audit Smart Contract แบบอัตโนมัติเต็มรูปแบบ ชี้มนุษย์ยังจำเป็นBlockSec ตรวจสอบผลการทดสอบของ EVMBench และพบว่า AI ยังไม่สามารถแทนที่มนุษย์ในการทำ Audit Smart contract ได้อย่างสมบูรณ์แบบ การทำงานร่วมกันระหว่าง AI และมนุษย์เป็นแนวทางที่เหมาะสมที่สุด
Read more »
Meta เปิดตัว MTIA ชิป AI รุ่นใหม่ 4 ตัวรวด เตรียมใช้งานภายใน 2 ปีMeta เปิดตัวชิป AI ตระกูล MTIA 4 รุ่น รองรับทั้งเทรนและรัน Generative AI เตรียมใช้งานจริงใน 2 ปี ลดต้นทุนและเพิ่มประสิทธิภาพ
Read more »
อีลอน มัสก์เปิดตัว TERAFAB: โรงงานผลิตชิป AI ขนาดใหญ่ที่สุดในโลกTesla, SpaceX และ xAI ของ Elon Musk เปิดตัวโครงการ TERAFAB โรงงานผลิตชิป AI ขนาดใหญ่ที่สุดในโลก โดยมีเป้าหมายผลิตชิป AI 1 เทระวัตต์ต่อปี ด้วยเทคโนโลยี 2 นาโนเมตร งบประมาณ 6 แสนล้านบาท เพื่อรองรับความต้องการของยานยนต์ไร้คนขับ, หุ่นยนต์, และดาวเทียม AI
Read more »
โปรแกรมเมอร์จีนช็อก! AI 'OpenClaw' ลบข้อมูลส่วนตัว หลังใช้งานช่วงตรุษจีนโปรแกรมเมอร์ชาวจีนสูญเสียข้อมูลส่วนตัวจากการใช้งาน AI 'OpenClaw' ที่กำลังเป็นกระแสในจีน หลัง AI ลบข้อมูลในไดรฟ์ระหว่างการทดลองใช้งานในช่วงวันหยุดตรุษจีน เหตุการณ์นี้สะท้อนถึงความเสี่ยงของการใช้ AI Agent ที่สามารถเข้าถึงระบบคอมพิวเตอร์ได้ลึก ขณะที่ความนิยมของ OpenClaw ในจีนพุ่งสูงกว่าตลาดอื่นๆ เนื่องจากปัจจัยด้านฐานนักพัฒนา, ความตื่นตัวของตลาด AI และต้นทุนการประมวลผลที่ต่ำ
Read more »