มิติใหม่ของ ‘Firewall’ (3)

สัปดาห์นี้เราจะมาตามกันต่อในตอนสุดท้ายของไฟร์วอลล์ที่รองรับ AI โดยจะโฟกัสที่เรื่องการตรวจจับข้อมูลสำคัญ (Sensitive Data Detection หรือ SDD)

สัปดาห์นี้เราจะมาตามกันต่อในตอนสุดท้ายของ ไฟร์วอลล์ ที่รองรับ AI โดยจะโฟกัสที่เรื่องการตรวจจับข้อมูลสำคัญ โดยมีการใช้งานอยู่ 2 รูปแบบขึ้นอยู่กับว่า คุณเป็นเจ้าของโมเดลและข้อมูลเอง หรือคุณต้องการป้องกันไม่ให้ผู้ใช้งานส่งข้อมูลไปยัง LLM สาธารณะสามารถใช้ SDD ที่ออกแบบมาเพื่อตรวจสอบข้อมูลการเงิน ความลับต่างๆ และตรวจจับข้อมูล PII บางประเภทที่โมเดลส่งกลับมาส่งข้อมูล PII หรือข้อมูลสำคัญอื่นๆ ไปยังผู้ให้บริการ LLM สาธารณะ เช่น OpenAI หรือ Anthropic เพื่อรับมือกับเรื่องนี้ จึงมีแผนที่จะขยายฟังก์ชันของ SDD ไปยังการสแกน prompt ที่ถูกส่งเข้ามา และเชื่อมผลลัพธ์เข้ากับ AI Gateway เพื่อให้สามารถตรวจจับว่า มีข้อมูลสำคัญใดถูกรวมอยู่ในคำขอหรือไม่ พร้อมทั้งดูประวัติของ prompt โดยในแผนพัฒนาระยะต่อไป จะเปิดให้ผู้ใช้งานสามารถสร้าง signature ที่กำหนดเองและการพรางข้อมูลที่สำคัญบางอย่างใน prompt ก่อนที่จะไปถึงตัวโมเดลเนื่องจากมีการสร้าง prompt injection เพื่อควบคุมหรือชักจูงโมเดลภาษาโดยใช้คำสั่งที่ออกแบบมาเฉพาะ ทำให้โมเดลตอบสนองในรูปแบบของการสร้างข้อมูลเท็จหรือตอบกลับด้วยเนื้อหาที่ไม่ถูกต้อง ไม่เหมาะสม หรือออกนอกประเด็นโดยผลกระทบจากการโจมตีมีหลากหลาย ตั้งแต่การดึงข้อมูลลับ ไปจนถึงการชักนำการตัดสินใจโดยเลียนแบบการใช้งานปกติ ตัวอย่างที่ชัดเจนคือการแก้ไขข้อมูลในประวัติย่อ เพื่อหลอกระบบคัดกรองเรซูเม่ นอกจากนี้ยังมีกรณีที่ผู้ใช้งาน AI Gateway ร้องขอการป้องกันไม่ให้โมเดลตอบกลับด้วยภาษาที่เป็นอันตราย ล่อแหลม หรือไม่เหมาะสม เพราะหากไม่ควบคุมผลลัพธ์ของโมเดล อาจเกิดความเสียหายต่อชื่อเสียงของแบรนด์ และทำให้ผู้ใช้งานสูญเสียความเชื่อมั่น.

สัปดาห์นี้เราจะมาตามกันต่อในตอนสุดท้ายของไฟร์วอลล์ที่รองรับ AI โดยจะโฟกัสที่เรื่องการตรวจจับข้อมูลสำคัญ โดยมีการใช้งานอยู่ 2 รูปแบบขึ้นอยู่กับว่า คุณเป็นเจ้าของโมเดลและข้อมูลเอง หรือคุณต้องการป้องกันไม่ให้ผู้ใช้งานส่งข้อมูลไปยัง LLM สาธารณะสามารถใช้ SDD ที่ออกแบบมาเพื่อตรวจสอบข้อมูลการเงิน ความลับต่างๆ และตรวจจับข้อมูล PII บางประเภทที่โมเดลส่งกลับมาส่งข้อมูล PII หรือข้อมูลสำคัญอื่นๆ ไปยังผู้ให้บริการ LLM สาธารณะ เช่น OpenAI หรือ Anthropic เพื่อรับมือกับเรื่องนี้ จึงมีแผนที่จะขยายฟังก์ชันของ SDD ไปยังการสแกน prompt ที่ถูกส่งเข้ามา และเชื่อมผลลัพธ์เข้ากับ AI Gateway เพื่อให้สามารถตรวจจับว่า มีข้อมูลสำคัญใดถูกรวมอยู่ในคำขอหรือไม่ พร้อมทั้งดูประวัติของ prompt โดยในแผนพัฒนาระยะต่อไป จะเปิดให้ผู้ใช้งานสามารถสร้าง signature ที่กำหนดเองและการพรางข้อมูลที่สำคัญบางอย่างใน prompt ก่อนที่จะไปถึงตัวโมเดลเนื่องจากมีการสร้าง prompt injection เพื่อควบคุมหรือชักจูงโมเดลภาษาโดยใช้คำสั่งที่ออกแบบมาเฉพาะ ทำให้โมเดลตอบสนองในรูปแบบของการสร้างข้อมูลเท็จหรือตอบกลับด้วยเนื้อหาที่ไม่ถูกต้อง ไม่เหมาะสม หรือออกนอกประเด็นโดยผลกระทบจากการโจมตีมีหลากหลาย ตั้งแต่การดึงข้อมูลลับ ไปจนถึงการชักนำการตัดสินใจโดยเลียนแบบการใช้งานปกติ ตัวอย่างที่ชัดเจนคือการแก้ไขข้อมูลในประวัติย่อ เพื่อหลอกระบบคัดกรองเรซูเม่ นอกจากนี้ยังมีกรณีที่ผู้ใช้งาน AI Gateway ร้องขอการป้องกันไม่ให้โมเดลตอบกลับด้วยภาษาที่เป็นอันตราย ล่อแหลม หรือไม่เหมาะสม เพราะหากไม่ควบคุมผลลัพธ์ของโมเดล อาจเกิดความเสียหายต่อชื่อเสียงของแบรนด์ และทำให้ผู้ใช้งานสูญเสียความเชื่อมั่น

We have summarized this news so that you can read it quickly. If you are interested in the news, you can read the full text here. Read more:

ktnewsonline /  🏆 24. in TH

ดิจิทัล ภัยไซเบอร์ ไซเบอร์ซิเคียวริตี้ ไฟร์วอลล์ นักรบ เนียมนามธรรม คอลัมนิสต์ Think Secure Techai

United States Latest News, United States Headlines

Similar News:You can also read news stories similar to this one that we have collected from other news sources.

เผยโฉม 'Data Center AI' ใหญ่ที่สุดในโลกจากโครงการ “Stargate” ของสหรัฐฯจับตา 'Data Center AI' แห่งแรกของโครงการ 'Stargate' ในเมืองอะบีลีน รัฐเท็กซัส ที่จะขึ้นแท่น 'Data Center AI' ที่มีพลังประมวลผลมหาศาลและมีขนาดใหญ่ที่สุดแห่งหนึ่งของโลก เมื่อสร้างเสร็จ คาดรองรับพลังงานมากถึง 1.
Read more »

มิติใหม่ของ Zoom AI Companion สู่การเป็น Agentic AI เต็มรูปแบบZoom อัปเกรด AI Companion สู่ Agentic AI ช่วยจดบันทึก สรุปการประชุม จัดตาราง เชื่อมต่อแอปภายนอก รองรับงานเลขานุการรอบด้าน พร้อมให้ใช้งานได้ทันทีใน Zoom workplace
Read more »

มิติใหม่ของ ‘ไฟร์วอลล์’ (1)LLMs ก่อให้เกิดช่องโหว่ที่อาจถูกนำมาใช้ประโยชน์ได้
Read more »

มิติใหม่ของ Chrome การมาถึงของ Gemini และ Agent mode เต็มรูปแบบGoogle อัปเดต Chrome ครั้งใหญ่ เพิ่ม Gemini ช่วยสรุปข้อมูลหน้าเว็บ พร้อมโหมด Agent ที่วางแผน ค้นหา และจัดการงานแทนผู้ใช้อย่างอัตโนมัติ
Read more »

[ไม่ยืนยัน] ฮาร์ดแวร์ที่ OpenAI พัฒนาร่วมกับ Jony Ive ไม่ใช่โทรศัพท์ แต่เป็นอุปกรณ์พกพาพลัง AI มีวิธีใช้งานแบบใหม่จากข่าว OpenAI ซื้อกิจการ io บริษัทการออกแบบผลิตภัณฑ์ AI ของ Jony Ive คำถามที่ตามมาคือแล้วผลิตภัณฑ์ที่ว่าคืออะไร ทำงานอย่างไร จะเหมือนฮาร์ดแวร์ AI ที่ออกมาก่อนหน้านี้ ซึ่งยังไม่ประสบความสำเร็จอย่าง AI Pin (HP ซื้อกิจการไป) หรือ Rabbit R1 ไหม?
Read more »

เครือ CP โดย True IDC เปิดตัว 'AI Hyperscale Data Center' ดันไทยสู่ศูนย์กลางดิจิทัลอาเซียนเครือ CP โดย True IDC เปิดตัว 'AI Hyperscale Data Center' ยกระดับโครงสร้างพื้นฐานดิจิทัลสู่ยุค Giga Data Center ดันไทยสู่ศูนย์กลางดิจิทัลอาเซียน
Read more »