AI สั่งเครื่องจักรได้ในแล็บ Booz Allen แต่ทุกการโจมตียังต้องรอคนอนุมัติ

AI ใช้เวลาเพียง กว่า 16 นาทีเล็กน้อย จากการเจาะขอบเครือข่ายไปถึงการสั่งงานในระบบควบคุมอุตสาหกรรม ในผลทดลองที่ Booz Allen Hamilton เผยแพร่วันที่ 8 ตุลาคม แปลว่าในสถานการณ์นั้น การเข้าถึงเครือข่ายต่อยอดถึงระบบเครื่องจักรได้รวดเร็ว แต่เป็นแล็บแยกจากภายนอก และมนุษย์อนุมัติทุกการโจมตีช่องโหว่กับทุกการกระทำที่อาจส่งผลทางกายภาพ ตามข้อกำหนดของ Booz Allen

ข่าวนี้จึงเกี่ยวกับความต่อเนื่องของงานและความปลอดภัย มากกว่าความเก่งในการตอบแชตครับ The Register รายงานผลวันที่ 11 ตุลาคม แต่ยังไม่มีหลักฐานในผลทดลองนี้ว่า AI เจาะโรงงานจริง หรือทำให้น้ำกับไฟฟ้าของประชาชนหยุดบริการ ผมอ่านแหล่งข่าวที่อ้างด้านล่าง ไม่ได้ทดลองระบบเหล่านี้ด้วยตัวเอง

สรุป 30 วินาที: เกิดอะไรขึ้น

Booz Allen ระบุว่า AI ทำได้ครบ 8 จาก 8 เป้าหมาย แปลว่าคำถามทดสอบทุกข้อได้รับผลสำเร็จตามเกณฑ์ที่บริษัทตั้งไว้ในแล็บ ไม่ได้แปลว่าการโจมตีโรงงานทั่วไปจะสำเร็จทุกครั้ง ตามประกาศต้นทาง เป้าหมายครอบคลุมการรู้จักอุปกรณ์ หาจุดอ่อน เข้าถึงระบบควบคุม และเปลี่ยนการทำงานของเครื่องจักรเมื่อได้รับอนุญาต

ตาม The Register บริษัทใช้โมเดล AI ชั้นแนวหน้าที่ไม่เปิดชื่อ สองโมเดล แปลว่ายังระบุไม่ได้ว่าเป็นผลิตภัณฑ์ใดที่คุณหรือองค์กรใช้อยู่ แล็บจำลองโรงงานผลิตที่มีอุปกรณ์หลายผู้ผลิต รวมระบบควบคุม มอเตอร์ และแขนกล ไม่ได้ทดสอบกับอุปกรณ์ชนิดเดียวทั้งเครือข่าย

อีกการทดสอบหนึ่งพบว่าโมเดลค้นพบและขยับแขนกลได้ภายในไม่กี่นาที ตาม Booz Allen แต่เอเจนต์ หรือ AI ที่ใช้เครื่องมือลงมือทำงานหลายขั้น ถูกสั่งให้หยุดรอมนุษย์ก่อนโจมตีช่องโหว่และก่อนการกระทำที่อาจกระทบเครื่องจริง ตาม The Register ความสามารถคิดต่อเองจึงต้องอ่านควบคู่กับการควบคุมของคน

ทำไมเรื่องนี้เกี่ยวกับคุณ

OT หรือเทคโนโลยีที่ควบคุมอุปกรณ์และกระบวนการทางกายภาพ ต่างจากงานเอกสารตรงที่คำสั่งดิจิทัลอาจทำให้เครื่องจักรขยับ ตามคำอธิบายของ Booz Allen สำหรับคนไทย มุมที่ควรนำไปตรวจคือโรงงาน ระบบสาธารณูปโภค และระบบอาคารอัตโนมัติ รวมถึงผู้ดูแลระบบอาคารของโรงพยาบาล นี่เป็นการชี้กลุ่มที่ควรประเมินความเสี่ยง ไม่ใช่รายงานว่าหน่วยงานเหล่านี้ในไทยถูกโจมตีแล้ว

ถ้าคุณเป็นเจ้าของโรงงานหรือดูแลการผลิต ผลกระทบที่ต้องประเมินคือเครื่องทำงานผิดจังหวะ การหยุดสายงาน และความปลอดภัยของคนใกล้เครื่อง Kyle Miller รองประธานด้านความปลอดภัยโครงสร้างพื้นฐานของ Booz Allen ให้ The Register สัมภาษณ์ว่า การยึดการควบคุมแขนกลในงานผลิตอาจกระทบอุปกรณ์ เวลาทำงาน และความปลอดภัยต่อชีวิต แต่ผลดังกล่าวเป็นความเสี่ยงที่เขาอธิบาย ไม่ใช่ความเสียหายที่รายงานว่าเกิดในแล็บ

สำหรับพนักงานออฟฟิศ นักเรียน หรือผู้ปกครอง เรื่องนี้เกี่ยวข้องทางอ้อม ผ่านบริการและสถานที่ที่ต้องใช้ระบบควบคุม The Register ยกน้ำและไฟฟ้าเป็นภาพความเสี่ยงต่อชีวิตประจำวัน แต่แล็บครั้งนี้จำลองโรงงานผลิต จึงยังนำไปทำนายว่าไฟจะดับที่ไหน หรือบริการใดจะหยุดเมื่อไรไม่ได้ ตามข้อจำกัดที่ P.K. Sharma วิเคราะห์

แล้วคนที่ไม่ได้จับเครื่องจักรต้องตกใจแค่ไหน? คำตอบที่ข้อมูลรองรับคือ ควรรู้ว่าปัญหาเครือข่ายอาจไปถึงอุปกรณ์จริง แต่ยังไม่มีเหตุให้สรุปว่าทุกโรงงานกำลังเสียการควบคุม Booz Allen เองระบุว่าผลในสถานประกอบการจริงขึ้นกับโครงสร้างระบบ อุปกรณ์ มาตรการป้องกัน และสิทธิ์ที่ผู้โจมตีเข้าถึงได้

ทำงานยังไง

ICS คือระบบควบคุมอุตสาหกรรม ซึ่งในแล็บนี้มีทั้งส่วนสั่งงานและส่วนแสดงสถานะ PLC คือกล่องควบคุมที่ส่งคำสั่งให้อุปกรณ์ทำงาน ส่วน HMI คือหน้าจอที่คนใช้ดูและสั่งเครื่อง ตามองค์ประกอบที่ The Register รายงาน ถ้าแยกหน้าที่เหล่านี้ออก จะเห็นว่าการเข้าถึงหน้าจอไม่เหมือนการควบคุมเครื่องทุกตัวได้ทันที

SCADA คือระบบรวมข้อมูลและกำกับการทำงานของอุปกรณ์จากจุดควบคุม ส่วน VFD คืออุปกรณ์ปรับความถี่เพื่อควบคุมความเร็วมอเตอร์ ทั้งคู่เป็นส่วนหนึ่งของแล็บหลายผู้ผลิต ตาม The Register เครือข่ายถูกแบ่งเป็นพื้นที่งานธุรกิจ พื้นที่เชื่อมต่อกลาง พื้นที่ปฏิบัติการโรงงาน และพื้นที่ผลิต โดยมีอุปกรณ์เครือข่ายกำหนดทางเชื่อมระหว่างกัน

นึกถึงแผงควบคุมโรงงานเป็นรีโมตใหญ่ของเครื่องจักรครับ หน้าจอบอกว่าเครื่องไหนทำอะไร ส่วนกล่องควบคุมส่งคำสั่งต่อไป ถ้าคนแปลกหน้าถือรีโมตและมีสิทธิ์ครบ เครื่องที่เชื่อมอยู่ก็อาจขยับตามได้ แต่ปุ่มบางปุ่มยังถูกล็อก หรือเครื่องตั้งให้สั่งได้เฉพาะตรงตัวเครื่อง ภาพเปรียบเทียบนี้ช่วยอธิบายว่าการป้องกันหลายชั้นสำคัญกว่าการซ่อนรีโมตให้หาไม่เจอ

โมเดลไม่ได้รับโค้ดต้นฉบับ เอกสารวิศวกรรม หรือคำแนะนำ OT ขั้นสูง ตาม Booz Allen มันเชื่อมงานสำรวจอุปกรณ์ ค้นข้อมูล วางแผน และแก้ปัญหาระหว่างทางเข้าด้วยกัน ข้อค้นพบจึงอยู่ที่ความสามารถทำงานต่อเนื่องกับระบบที่ไม่คุ้น มากกว่าการทำตามรายการคำสั่งสำเร็จรูปเพียงอย่างเดียว

แต่การเข้าถึงไม่ได้ลบมาตรการป้องกันทั้งหมด Booz Allen รายงานว่าตัวควบคุมปฏิเสธคำสั่งหยุด และมอเตอร์ที่ตั้งให้ควบคุมเฉพาะตรงเครื่องไม่ยอมเริ่มจากระยะไกล ระบบกรองการเชื่อมต่อ การแบ่งเครือข่าย และการป้องกันคอมพิวเตอร์ปลายทาง ยังชะลอหรือบล็อกการกระทำบางอย่างได้ แม้ไม่มีมาตรการเดี่ยวใดหยุดโมเดลได้สม่ำเสมอตลอดการประเมิน

จุดหักมุม: ไม่คุ้นระบบ แต่ยังหาทางต่อได้

ความรู้เฉพาะทางควรเป็นอุปสรรค แต่โมเดลไม่หยุดเมื่อทางแรกผิดครับ Booz Allen เล่าว่าในการทดสอบ SCADA โมเดลเริ่มกับหน้าจอผู้ควบคุมผิดเวอร์ชัน แล้วปรับไปตามเวอร์ชันที่ห้องควบคุมใช้งานจริง

CISO Brief เน้นว่าการปรับแนวทางนี้เกิดโดยไม่ต้องให้มนุษย์บอกให้เปลี่ยนวิธี แต่การคิดต่อเองยังอยู่ภายใต้เงื่อนไขอนุมัติการโจมตีและผลทางกายภาพที่ Booz Allen ระบุ คำว่า “อัตโนมัติ” จึงไม่ได้แปลว่าไม่มีคนเกี่ยวข้องเลย

เรื่องเงิน / ผลกระทบ

ผลกระทบด้านเงินที่มีแหล่งรองรับคือความเสี่ยงจากอุปกรณ์เสียหายและเวลาหยุดงาน ตามคำอธิบายของ Miller ใน The Register แต่ข่าวนี้ไม่มีตัวเลขความเสียหายของโรงงานไทย การตั้งงบป้องกันจึงควรอิงระบบขององค์กรและผลเมื่อระบบนั้นหยุด ไม่ควรยกตัวเลขเวลาในแล็บไปแปลงเป็นยอดขาดทุน

ต้นทุนใช้ AI ในการทดสอบก็ยังไม่เปิดเผย P.K. Sharma ระบุว่าไม่มีข้อมูลค่าใช้จ่าย ทรัพยากรประมวลผล หรือเวลาของผู้ปฏิบัติงาน จึงยังสรุปไม่ได้ว่าการโจมตีแบบนี้ถูกลงแค่ไหน และไม่มีราคาไทยของบริการที่เกี่ยวข้องให้เทียบจากแหล่งชุดนี้

อีกมุมที่ควรรู้ก่อนอ่านข้อเสนอขายคือ Booz Allen ให้บริการความปลอดภัยไซเบอร์ และเป็นผู้สร้างแล็บ ตั้งเป้าหมาย ทดสอบ และเผยแพร่ผลเอง ตาม P.K. Sharma เรื่องนี้ไม่ได้ทำให้ผลทดลองเป็นเท็จ แต่เป็นเหตุให้ขอรายละเอียดวิธีวัดก่อนใช้ตัดสินใจซื้อบริการ The Register รายงานด้วยว่าบริษัทเรียกร้องให้เพิ่มการทดสอบและการใช้มาตรการป้องกัน OT ในอุตสาหกรรม

ข้อมูลที่ยังไม่ชัด และจุดที่แหล่งข่าวพูดไม่ตรงกัน

ฝั่งที่เน้นความเร่งด่วนคือ Booz Allen และ CISO Brief Miller บอก The Register ว่าความเร็ว ความต่อเนื่อง และความแม่นยำของเอเจนต์อาจเกินความพร้อมขององค์กรที่ยังไม่มีพื้นฐานความปลอดภัย OT ส่วน CISO Brief มองว่าระบบซึ่งขาดการเฝ้าดูเครือข่ายต่อเนื่องและการตอบสนองเร็ว อาจเหลือโอกาสแทรกแซงน้อยมาก

ฝั่งที่ทักท้วงการเหมารวมคือ P.K. Sharma เขาชี้ว่าเป้าหมายทดสอบเป็นคำถามคนละแบบ ไม่ใช่การลองซ้ำแบบเดียวกันเพื่อหาอัตราสำเร็จ ตามบทวิเคราะห์ของเขา บริษัทไม่ได้เปิดจำนวนรอบต่อสถานการณ์หรือผลล้มเหลวรายรอบ และเขาไม่พบการทำซ้ำหรือยืนยันผลโดยอิสระ จึงค้านการอ่านผลนี้เป็นหลักฐานว่าการโจมตีโรงงานจริงจะสำเร็จแน่นอน

ความต่างเด่นอยู่ที่น้ำหนักการเล่า มากกว่าตัวเลขขัดกัน The Register พาดหัวถึงภัยร้ายแรงต่อโครงสร้างพื้นฐานและความไม่พร้อม แต่ Miller ในข่าวเดียวกันบอกว่ายังไม่มีกำหนดเวลาชัดเจนสำหรับสถานการณ์เช่นนั้น P.K. Sharma ยังชี้ว่าไม่มีผลสำรวจรองรับการเหมาว่าไม่มีใครพร้อม ทั้งสองมุมจึงควรอ่านพร้อมกัน

ถ้าไม่รู้ว่าทดลองซ้ำกี่ครั้ง เราจะรู้ความสม่ำเสมอได้อย่างไร? ตอนนี้ยังตอบไม่ได้ครับ P.K. Sharma ระบุว่ายังไม่รู้ว่าช่วงเวลาที่รายงานรวมการรออนุมัติหรือไม่ ไม่รู้รายละเอียดเครื่องมือที่ประกอบกับโมเดล และไม่มีการจับเวลาทีมมนุษย์ไว้เทียบ จึงยังกล่าวไม่ได้ว่า AI เร็วกว่าผู้เชี่ยวชาญกี่เท่า

ชื่อและเวอร์ชันของโมเดลยังไม่เปิดเผย ตาม The Register ส่วน P.K. Sharma ระบุว่าไม่ทราบจำนวนครั้งที่มนุษย์อนุมัติ หรือมีระบบบังคับหยุดรอทางเทคนิคหรือไม่ แหล่งที่อ่านยังไม่ให้รายชื่ออุปกรณ์ครบสำหรับเทียบกับโรงงานไทย และไม่มีผลทดลองของสถานประกอบการไทยให้ยืนยันความเสี่ยงเฉพาะแห่ง

แล้วเราควรทำอะไร

ขั้นตอนต่อไปนี้เป็นข้อเสนอด้านป้องกันจากผลทดลองและเช็กลิสต์ของแหล่งข่าว ไม่ใช่การรับรองว่าทำแล้วจะปลอดภัยทุกกรณี การเปลี่ยนระบบที่เกี่ยวกับเครื่องจักรควรให้ผู้รับผิดชอบ OT และงานปฏิบัติการร่วมตัดสินใจ โดยยึดการป้องกันหลายชั้นที่ Booz Allen พบว่ายังสร้างอุปสรรคได้

คนทั่วไปและหัวหน้าทีมที่ไม่ได้ดูแลเครื่องจักรโดยตรง

1. ถ้าที่ทำงานกำลังจะให้ AI เชื่อมเครือข่ายภายใน ขอให้ทีม IT ระบุขอบเขตที่อนุญาตก่อน ข้อเสนอนี้ต่อยอดจากการที่โมเดลในแล็บใช้สิทธิ์เครือข่ายไปถึงอุปกรณ์ได้ ตาม Booz Allen
2. แยกการอ่านข้อมูลออกจากการสั่งเปลี่ยนระบบ และระบุคนอนุมัติให้ชัด โดยเฉพาะงานที่มีผลต่อเครื่องจริง ใช้เงื่อนไขหยุดรอมนุษย์ใน The Register เป็นหัวข้อถามผู้ให้บริการก่อนเปิดใช้งาน
3. เมื่อเห็นข่าวนี้ อย่านำไปสรุปว่าบริการน้ำหรือไฟฟ้าในไทยถูกเจาะแล้ว แยกผลทดลองกับเหตุการณ์จริงตามข้อจำกัดที่ P.K. Sharma ชี้ไว้

ทีม IT ผู้ดูแล OT และระบบอาคาร

1. ทำรายการทางเชื่อมจากเครือข่ายสำนักงานกับอินเทอร์เน็ตเข้าสู่ระบบควบคุม รวมการเข้าถึงระยะไกลของผู้ขาย แล้วกำหนดเจ้าของแต่ละทาง ตาม P.K. Sharma ตรวจการแบ่งเครือข่ายด้วยกฎที่ใช้งานจริง ไม่ดูเพียงแผนภาพ ตาม CISO Brief
2. เปลี่ยนรหัสผ่านค่าเริ่มต้นและบัญชีที่ใช้ร่วมกัน ให้ผู้มีสิทธิ์สูงมีบัญชีเฉพาะ และใช้การยืนยันตัวตนหลายปัจจัยเมื่อระบบรองรับ ตาม P.K. Sharma ตรวจด้วยว่าอุปกรณ์ควบคุมหรือหน้าจอสั่งงานเปิดตรงสู่อินเทอร์เน็ตหรือไม่
3. ทบทวนการเชื่อมต่อที่ระบบเข้าสู่ระบบค้างไว้ โดยเฉพาะ SCADA และเครื่องวิศวกรรม เพราะอาจพาสิทธิ์ข้ามเขตป้องกัน ตาม CISO Brief ตรวจอุปกรณ์ที่ไม่มีการยืนยันตัวตนหรือเข้ารหัส แล้วเลือกการแก้ไขหรือมาตรการชดเชยให้เหมาะกับระบบ
4. จัดการแพตช์หรือซอฟต์แวร์แก้จุดอ่อนของอุปกรณ์เครือข่าย พร้อมเฝ้าดูคำสั่งและเส้นทางเชื่อมที่ผิดจากงานปกติ ตาม P.K. Sharma ให้การอนุมัติคำสั่งเปลี่ยนตัวควบคุมมีบันทึกตรวจย้อนหลัง และตรวจว่าระบบล็อกการเขียนคำสั่งรองรับอะไรบ้าง
5. ทดสอบว่าการควบคุมตรงเครื่องและระบบนิรภัยยังหยุดคำสั่งระยะไกลได้ เก็บสำรองการตั้งค่าและฝึกกู้คืน ตาม P.K. Sharma ซ้อมตั้งแต่รับสัญญาณเตือนถึงตัดสินใจแยกเครือข่าย โดยกำหนดผู้มีอำนาจล่วงหน้า ไม่ใช้เวลาในแล็บเป็นเส้นตายตายตัว

ทีมที่กำลังนำเอเจนต์ AI เข้าองค์กร

1. ข้อเสนอของผมคือปฏิบัติต่อเอเจนต์ที่เข้าถึงเครือข่ายเหมือนผู้ใช้สิทธิ์สูง กำหนดงาน เจ้าของ และสิทธิ์เท่าที่จำเป็น เหตุผลคือผลของ Booz Allen แสดงว่าการเข้าถึงบางส่วนสามารถต่อยอดถึงระบบควบคุมได้
2. ตั้งจุดอนุมัติสำหรับงานที่เปลี่ยนระบบหรือมีผลต่อเครื่องจริง และตรวจว่ากติกาหยุดรอถูกบังคับอย่างไร แยกคำสั่งที่เขียนให้โมเดลอ่านออกจากระบบควบคุมสิทธิ์ เพราะรายละเอียดการบังคับหยุดรอในแล็บยังไม่เปิดเผย ตาม P.K. Sharma
3. ก่อนซื้อผลทดสอบหรือบริการป้องกัน ขอชื่อโมเดล จำนวนรอบ เครื่องมือ ต้นทุน และบทบาทมนุษย์ ตามเช็กลิสต์ของ P.K. Sharma ข้อมูลเหล่านี้ช่วยแยกผลที่ใช้กับระบบของคุณได้ ออกจากพาดหัวที่ยังให้รายละเอียดไม่พอ

ผมมองว่า…

ผมมองว่าเรื่องนี้ ไม่ใช่หลักฐานว่า AI ยึดโรงงานจริงได้ทุกแห่ง แต่คือสัญญาณว่าต้องเลิกฝากความปลอดภัยไว้กับความซับซ้อนของระบบ ความไม่คุ้นอุปกรณ์อาจช่วยถ่วงเวลาได้น้อยลง ขณะที่สิทธิ์เข้าถึง การแบ่งเครือข่าย และการอนุมัติยังเป็นสิ่งที่องค์กรจัดการได้ ข้อจำกัดของแล็บควรทำให้เราใช้ผลอย่างระมัดระวัง ไม่ใช่ละเลยการตรวจพื้นฐาน

ผมมองว่าคำถามที่คุ้มกับงบที่สุดคือ ตอนนี้ใครหรือเครื่องมือใดเข้าถึงระบบควบคุมได้ และใครหยุดมันได้ทัน การตอบให้ชัดใช้ประโยชน์ได้แม้ยังไม่รู้ชื่อโมเดล การให้ AI มีสิทธิ์มากขึ้นควรมาพร้อมผู้รับผิดชอบและหลักฐานตรวจย้อนหลัง ไม่ปล่อยให้ความสะดวกนำหน้าการควบคุม

ปิดท้าย: สิ่งที่ต้องจับตา

ความพร้อมขององค์กรควรวัดจากขอบเขตสิทธิ์และความสามารถหยุดการเปลี่ยนระบบ มากกว่าความมั่นใจว่าเครื่องจักรของเราคงเข้าใจยากครับ สิ่งที่ควรจับตาคือการเปิดรายละเอียดจำนวนรอบและต้นทุน รวมถึงการทดสอบซ้ำโดยอิสระ ซึ่ง P.K. Sharma ระบุว่ายังไม่พบ อีกเรื่องคือหลักฐานจากสถานประกอบการจริง เพราะ Booz Allen ย้ำว่าผลขึ้นกับสภาพระบบแต่ละแห่ง และแหล่งชุดนี้ยังไม่มีวันประกาศผลเพิ่มเติม

ที่ทำงานของคุณมีคนรับผิดชอบชัดเจนหรือยังว่า ใครอนุมัติให้ AI เปลี่ยนการตั้งค่าระบบที่กระทบงานจริงได้?

Recap

• เกิดอะไรขึ้น: Booz Allen ทดสอบ AI ในแล็บจำลองโรงงานแยกจากภายนอก โดยมนุษย์อนุมัติทุกการโจมตีช่องโหว่และการกระทำที่อาจมีผลทางกายภาพ ตาม 1
• ตัวเลขที่ต้องจำ: กว่า 16 นาทีเล็กน้อย แปลว่าในหนึ่งการทดสอบ การเจาะขอบเครือข่ายต่อยอดถึงการสั่งงานในเครือข่ายควบคุมได้ในเวลานี้ ตาม 1
• ผลเป้าหมาย: ผ่าน 8 จาก 8 ข้อ แปลว่าครบคำถามที่แล็บกำหนด ไม่ใช่อัตราสำเร็จของการโจมตีโรงงานทั่วไป ตาม 4
• ใครเห็นต่าง: The Register เน้นภัยต่อโครงสร้างพื้นฐาน ส่วน P.K. Sharma ทักท้วงการเหมารวมเรื่องความพร้อมและผลในโรงงานจริง อ่าน 2 และ 4
• ยังไม่รู้: ชื่อโมเดล จำนวนรอบ ต้นทุน และเวลารออนุมัติที่รวมในผล ตาม 4
• กระทบคุณอย่างไร: ผู้ดูแลโรงงานและระบบอาคารควรตรวจทางเข้าระบบ แบ่งเครือข่าย และแก้จุดอ่อน ส่วนคนทั่วไปยังไม่ควรสรุปว่าเกิดเหตุในไทยแล้ว ใช้แนวทางป้องกันจาก 3
• จับตา: รายละเอียดวิธีทดลอง การยืนยันซ้ำโดยอิสระ และหลักฐานจากระบบจริง ตามข้อจำกัดใน 4