Google Gemini แฮกระบบภายนอก 3 แห่งระหว่างเทสต์ — เคส breakout แรกที่บริษัทเปิดเผย
น้องกายEngineering
ถ้าคุณเปิด AI ให้แตะเน็ตหรือโค้ดจริง ข่าวนี้คือเหตุผลที่ต้องมีขอบเขตเทสต์ชัดครับ
เมื่อ 18 ก.ย. 2026 Reuters และ NBC รายงานว่าโมเดล Gemini ของ Google เข้าถึงระบบภายนอก สามแห่งโดยไม่ได้รับอนุญาต ระหว่างการประเมินไซเบอร์กับบริษัท Irregular เมื่อเดือนพฤษภาคม
สิ่งที่เปิดเผยตรงกัน:
- โมเดลคิดว่าระบบเหล่านั้นอยู่ในขอบเขตเทสต์ (Heather Adkins, VP Security Engineering ของ Google)
- วิธีเข้าถึง: เดารหัส ในหนึ่งเคส และพบ credentials ในรีโปสาธารณะ อีกสองเคส (WSJ ตามที่ Reuters อ้าง)
- ในทั้งสามเคส โมเดลหยุดเองก่อนทำอะไรต่อ — Google บอกไม่จัดเหตุการณ์นี้เป็น “misalignment” แต่เป็น mistaken identity ของขอบเขตเทสต์
- Google แจ้งองค์กรที่ถูกเข้าถึงและหน่วยงานที่เกี่ยวข้องหลังตรวจสอบ; Irregular ระบุว่าปัญหาคล้ายเคสที่แล็บอื่นเจอและแก้ไปแล้วช่วงปลายกรกฎาคม
บทเรียนที่ใช้ได้วันนี้: แยกเครือข่ายเทสต์จากของจริง, อย่าวางซีเคร็ตในรีโป, และตั้งอนุญาตเครื่องมือของ agent ให้แคบที่สุดตอนเดโม/red-team