AI Security — ความเสี่ยงด้านความมั่นคงปลอดภัยของ AI ที่องค์กรต้องรู้

ปัญญาประดิษฐ์ (Artificial Intelligence — AI) โดยเฉพาะ Large Language Model (LLM) และ Generative AI กำลังเปลี่ยนแปลงทุกอุตสาหกรรม แต่ด้วยความสามารถที่มากขึ้นก็มาพร้อม ความเสี่ยงด้านความมั่นคงปลอดภัยรูปแบบใหม่ ที่องค์กรต้องเข้าใจและเตรียมรับมือ

AI Security คืออะไร

AI Security (ความมั่นคงปลอดภัยของ AI) คือชุดแนวปฏิบัติ เครื่องมือ และกระบวนการที่ออกแบบมาเพื่อปกป้องระบบ AI ตลอดวงจรชีวิต ตั้งแต่การฝึกโมเดล (Training), การ Deploy, ไปจนถึงการใช้งานจริง ครอบคลุมทั้ง:

• ความปลอดภัยของโมเดล — ป้องกันการโจมตีตัวโมเดลเอง
• ความปลอดภัยของข้อมูล — ปกป้องข้อมูลที่ใช้ฝึกและประมวลผล
• ความปลอดภัยของ Infrastructure — รักษาความปลอดภัยโครงสร้างพื้นฐานที่รัน AI
• ความปลอดภัยของ Output — ตรวจสอบผลลัพธ์ก่อนส่งต่อ

OWASP Top 10 for LLM Applications 2025

OWASP (Open Worldwide Application Security Project) เผยแพร่ OWASP Top 10 for LLM Applications เวอร์ชัน 2025 เมื่อเดือนพฤศจิกายน 2024 เป็นรายการความเสี่ยง 10 อันดับแรกของแอปพลิเคชันที่ใช้ LLM และ Generative AI [1]

LLM01:2025 — Prompt Injection (การฉีดคำสั่ง)

ความเสี่ยงอันดับ 1 ที่ยังคงครองตำแหน่งสูงสุดตั้งแต่เวอร์ชันแรก

Prompt Injection เกิดขึ้นเมื่อผู้โจมตีสามารถ แทรกคำสั่งเข้าไปใน Prompt เพื่อเปลี่ยนพฤติกรรมของ LLM ให้ทำในสิ่งที่ไม่ได้ตั้งใจ แบ่งเป็น 2 ประเภท:

• Direct Prompt Injection — ผู้ใช้ส่งคำสั่งโดยตรงเพื่อเลี่ยง System Prompt
• Indirect Prompt Injection — แทรกคำสั่งผ่านข้อมูลภายนอกที่ LLM อ่าน เช่น เว็บเพจ, อีเมล, เอกสาร

การป้องกัน: Input Validation, System Prompt Hardening, Privilege Separation, Human-in-the-loop สำหรับการดำเนินการที่สำคัญ

LLM02:2025 — Sensitive Information Disclosure (การเปิดเผยข้อมูลสำคัญ)

LLM อาจ รั่วไหลข้อมูลสำคัญ ที่อยู่ในข้อมูลฝึก (Training Data) หรือข้อมูลบริบท (Context) เช่น:

• ข้อมูลส่วนบุคคล (PII) ของลูกค้า
• ข้อมูลลับทางธุรกิจ
• API Keys หรือ Credentials ที่หลุดเข้าไปในข้อมูลฝึก

การป้องกัน: Data Sanitization ก่อนฝึก, Output Filtering, DLP สำหรับ LLM Output

LLM03:2025 — Supply Chain (ห่วงโซ่อุปทาน)

ความเสี่ยงจาก ห่วงโซ่อุปทานของ AI ได้แก่:

• โมเดลที่ดาวน์โหลดจากแหล่งที่ไม่น่าเชื่อถือ (เช่น Hugging Face ที่ไม่ได้ตรวจสอบ)
• Pre-trained Model ที่ถูกฝัง Backdoor
• Third-party Plugin/Tool ที่ LLM เรียกใช้

การป้องกัน: Model Provenance Verification, Dependency Scanning, Trusted Model Registry

LLM04:2025 — Data and Model Poisoning (การวางยาข้อมูลและโมเดล)

Data Poisoning เกิดขึ้นเมื่อผู้โจมตี แทรกข้อมูลที่ถูกบิดเบือนเข้าไปในชุดข้อมูลฝึก ทำให้โมเดลเรียนรู้พฤติกรรมที่ไม่พึงประสงค์ เช่น:

• สร้าง Bias หรือ Backdoor ในโมเดล
• ทำให้โมเดลตอบผิดในบริบทเฉพาะ
• ส่งผลกระทบสูงเพราะ LLM พึ่งพา External Data Sources มาก

การป้องกัน: Data Provenance Tracking, Training Data Validation, Anomaly Detection ในข้อมูลฝึก

LLM05:2025 — Improper Output Handling (การจัดการ Output ไม่เหมาะสม)

เกิดขึ้นเมื่อระบบปลายทาง ใช้ผลลัพธ์จาก LLM โดยไม่ตรวจสอบ ทำให้ผู้โจมตีสามารถ:

• รัน Malicious Code ผ่าน Browser (XSS)
• เข้าถึง Backend System
• สั่ง Command Injection ผ่าน LLM Output

การป้องกัน: Output Validation, Encoding, Sandboxing, ไม่ Trust LLM Output เหมือน User Input

LLM06:2025 — Excessive Agency (สิทธิ์มากเกินไป)

LLM-based Agent ที่ได้รับ สิทธิ์มากเกินความจำเป็น เช่น:

• สามารถเขียน/ลบข้อมูลในฐานข้อมูล Production ได้
• เข้าถึง API ภายนอกโดยไม่มี Rate Limit
• ดำเนินการที่ส่งผลกระทบโดยไม่ต้องขออนุมัติ

การป้องกัน: Principle of Least Privilege, Read-only Access เป็น Default, Human Approval สำหรับ High-impact Actions

LLM07:2025 — System Prompt Leakage (การรั่วไหลของ System Prompt)

ผู้โจมตีสามารถ ดึง System Prompt ออกมา เพื่อเข้าใจกลไกภายในของแอปพลิเคชัน ซึ่งอาจเปิดเผย:

• กฎทางธุรกิจ
• ข้อจำกัดที่ตั้งไว้ (ที่สามารถหาทางเลี่ยงได้)
• ข้อมูลลับที่ฝังใน Prompt

การป้องกัน: ไม่เก็บข้อมูลลับใน System Prompt, Monitor สำหรับ Prompt Extraction Attempts

LLM08:2025 — Vector and Embedding Weaknesses (จุดอ่อนของ Vector และ Embedding)

ระบบ RAG (Retrieval-Augmented Generation) ที่ใช้ Vector Database มีความเสี่ยง:

• Poisoning Vector Store ด้วยข้อมูลบิดเบือน
• Unauthorized Access ไปยังข้อมูลใน Vector Database
• Data Leakage ผ่าน Embedding Similarity Search

การป้องกัน: Access Control สำหรับ Vector Store, Input Validation ก่อน Embedding, Data Segregation

LLM09:2025 — Misinformation (ข้อมูลเท็จ)

LLM สามารถ สร้างข้อมูลที่ดูน่าเชื่อถือแต่ไม่ถูกต้อง (Hallucination) ซึ่งอาจนำไปสู่:

• การตัดสินใจผิดพลาดทางธุรกิจ
• ข้อมูลทางกฎหมายหรือการแพทย์ที่ไม่ถูกต้อง
• ความเสียหายต่อชื่อเสียงองค์กร

การป้องกัน: Fact-checking Layer, RAG จากแหล่งข้อมูลที่เชื่อถือได้, Disclaimer ในผลลัพธ์

LLM10:2025 — Unbounded Consumption (การใช้ทรัพยากรไม่จำกัด)

เกิดขึ้นเมื่อ LLM Application ยอมให้ใช้ ทรัพยากรอย่างไม่จำกัด ทำให้:

• Denial of Wallet (DoW) — ค่าใช้จ่ายบน Cloud พุ่งสูง
• Resource Overload — ระบบล่มจาก Request จำนวนมาก
• Model Theft — ดึงโมเดลออกผ่าน API จำนวนมาก

การป้องกัน: Rate Limiting, Token Budgeting, Cost Monitoring, Usage Quotas

แนวปฏิบัติ AI Security สกมช. 2568

สำนักงานคณะกรรมการการรักษาความมั่นคงปลอดภัยไซเบอร์แห่งชาติ (สกมช.) ได้เผยแพร่ แนวปฏิบัติด้านความมั่นคงปลอดภัยสำหรับ AI พ.ศ. 2568 เพื่อให้หน่วยงานนำไปใช้เป็นแนวทาง [2]

สาระสำคัญ

• ไม่มีผลบังคับ — เป็นแนวทาง (Guideline) ไม่ใช่กฎหมาย
• กำหนดให้ประเมินความเสี่ยงก่อน Deploy AI ในระบบสำคัญ
• แนะนำให้มี AI Governance Framework ระดับองค์กร
• กำหนดแนวทางการจัดการข้อมูลที่ใช้กับ AI (Data Governance for AI)
• แนะนำให้ทดสอบความปลอดภัย AI ก่อนนำไปใช้งาน

ผลกระทบ

แม้จะไม่บังคับ แต่หน่วยงาน CII และองค์กรภาครัฐที่นำ AI มาใช้ควรปฏิบัติตามแนวทางนี้ เนื่องจาก สกมช. อาจยกระดับเป็นข้อกำหนดบังคับในอนาคต

NIST AI Risk Management Framework (AI RMF)

NIST AI RMF เป็นกรอบการบริหารความเสี่ยง AI ที่ได้รับการยอมรับมากที่สุดในระดับสากล พัฒนาโดย National Institute of Standards and Technology (NIST) ของสหรัฐอเมริกา [3]

4 Functions หลัก

Generative AI Profile (NIST AI 600-1)

เมื่อ กรกฎาคม 2024 NIST เผยแพร่ AI 600-1 — Generative AI Profile ที่ให้แนวทางเฉพาะสำหรับการจัดการความเสี่ยงของ Generative AI และ LLM [3] ครอบคลุม:

• ความเสี่ยงเฉพาะของ Generative AI เช่น CBRN Information, Confabulation, Data Privacy
• การประเมิน Third-party Models
• แนวทางการ Red Team สำหรับ AI

สิ่งที่องค์กรควรทำเพื่อรักษาความปลอดภัย AI

1. AI Red Teaming

ทดสอบความปลอดภัยของระบบ AI อย่างเป็นระบบ ครอบคลุม:

• Prompt Injection Testing — ทดสอบว่า LLM ถูก Jailbreak ได้หรือไม่
• Data Extraction Testing — ทดสอบว่าสามารถดึงข้อมูลลับจาก LLM ได้หรือไม่
• Output Manipulation Testing — ทดสอบว่าสามารถบังคับ LLM ให้สร้าง Harmful Content ได้หรือไม่
• Agent Abuse Testing — ทดสอบว่า LLM Agent สามารถถูกหลอกให้ทำสิ่งที่ไม่ตั้งใจได้หรือไม่

2. LLM Application Security Testing

เหมือน Web Application Pentest แต่เพิ่มขอบเขต:

• ทดสอบ API ที่เชื่อมต่อกับ LLM
• ตรวจสอบ Access Control ของ RAG Pipeline
• ทดสอบ Rate Limiting และ Cost Controls
• ตรวจสอบ Data Leakage Prevention

3. Secure AI Development Lifecycle

• Design Phase — Threat Modeling เฉพาะ AI (ใช้ STRIDE-AI หรือ MITRE ATLAS)
• Training Phase — Data Validation, Provenance Tracking
• Deployment Phase — Security Testing, Access Control
• Operation Phase — Monitoring, Incident Response
• Retirement Phase — Model Decommissioning, Data Deletion

4. AI Governance Framework

จัดตั้ง AI Governance Committee ที่ประกอบด้วย:

• ผู้บริหาร (Business Sponsor)
• ทีม AI/ML Engineering
• ทีม Information Security
• ทีม Legal/Compliance
• ทีม Privacy/DPO

ตารางเปรียบเทียบ — AI Security Frameworks

บทสรุป

AI Security เป็นสาขาที่พัฒนาเร็วมาก ด้วยภัยคุกคามรูปแบบใหม่อย่าง Prompt Injection, Data Poisoning และ Model Evasion ที่ไม่เคยมีมาก่อน องค์กรที่นำ AI มาใช้ต้อง เข้าใจความเสี่ยง วาง Governance และทดสอบอย่างต่อเนื่อง

ITSL ให้บริการ AI Security Testing ที่ครอบคลุมการทดสอบ LLM Application ตาม OWASP Top 10 for LLM รวมถึง ที่ปรึกษาด้านแนวปฏิบัติ AI Security ของ สกมช. เพื่อช่วยองค์กรวาง AI Governance Framework ที่เหมาะสม

แหล่งอ้างอิง

1. OWASP, “OWASP Top 10 for LLM Applications 2025,” OWASP Gen AI Security Project, November 2024. https://genai.owasp.org/llm-top-10
2. สำนักงานคณะกรรมการการรักษาความมั่นคงปลอดภัยไซเบอร์แห่งชาติ, “แนวปฏิบัติด้านความมั่นคงปลอดภัยสำหรับ AI พ.ศ. 2568,” สกมช., 2025.
3. NIST, “AI Risk Management Framework (AI RMF 1.0),” NIST, January 2023. https://www.nist.gov/itl/ai-risk-management-framework
4. NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1),” NIST, July 2024. https://airc.nist.gov/Docs/1
5. MITRE, “ATLAS — Adversarial Threat Landscape for Artificial-Intelligence Systems,” MITRE, 2025. https://atlas.mitre.org/
6. ISO/IEC, “ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system,” ISO, 2023.