Zero-trust AI agents: Model Armor กับเกตเวย์ที่ตัดสินเจตนา
เอเจนต์ที่ช่วยคืนเงินลูกค้าอาจผ่านทุกเช็กไวยากรณ์แล้วยังทำผิดนโยบายได้ครับ บทความชุด zero-trust ของ Google โฟกัสจุดนี้
เมื่อ 15 ก.ย. 2026 Google Developers Blog เผยแพร่ Part 2 ของซีรีส์ Zero-trust Agents โดยย้ายจากตัวควบคุมแบบกำหนดล่วงหน้า (ลายเซ็น KMS, gVisor, เกตเวย์อินพุต/เอาต์พุต) ไปสู่ runtime governance บน Gemini Enterprise Agent Platform
เสาหลักสามอย่างที่บล็อกอธิบาย:
- Model Armor — ไฟร์วอลล์ AI คัดกรองพรอมป์/คำตอบเรื่อง prompt injection, jailbreak, URL อันตราย และข้อมูลอ่อนไหว ก่อนเข้าลูปของเอเจนต์ และที่ทางออก
- Semantic Governance Policies — นโยบายภาษาธรรมชาติที่ตัดสินเจตนาของ tool call เทียบกับประวัติสนทนาและกฎธุรกิจ ก่อนให้เครื่องมือรันจริง
- Agent Anomaly Detection — มองพฤติกรรมข้ามหลายเทิร์น เช่น การถอนเงินทีละน้อยซ้ำ ๆ ที่เช็กทีละคำขอจับไม่ทัน
ตัวอย่างในบทความใช้เอเจนต์คืนเงินออเดอร์เดียวกัน แล้วโชว์เคสที่ regex จับ jailbreak ไม่หมด, คำขอสุภาพที่ขอคืนไลเซนส์ซอฟต์แวร์ผิดนโยบาย และแพตเทิร์นคืนเงินย่อยหลายเทิร์น
สิ่งที่ผมได้ไปใช้คิดในทีม: แยกบทบาท ผู้พัฒนาเอเจนต์ กับ ผู้ดูแลแพลตฟอร์ม/ซิเคียวริตี และใส่เกตเวย์นอกโค้ดเอเจนต์ เพื่ออัปเดตนโยบายโดยไม่ต้องรีดีพลอยทุกครั้ง
มีเดโมโอเพนซอร์สในรีโป GoogleCloudPlatform/generative-ai โฟลเดอร์ agents/adk/zero-trust-agents-2/ ตามลิงก์ในบล็อก หากจะลองรัน ให้ทำบนเครื่องแยกและอ่านสคริปต์ก่อน ไม่ผูกกับโปรดักชันจริง
Recap
- อ่านบทความ Developers Blog
- จดสามชั้น: Model Armor / Semantic Governance / Anomaly Detection
- แยกเจ้าของนโยบายออกจากโค้ดเอเจนต์
- ทดสอบเคสเจตนาผิดนโยบาย ไม่ใช่แค่เพย์โหลด jailbreak