Gần đây, mình đang tìm hiểu về các ứng dụng của AI trong lĩnh vực an toàn bảo mật. Điều này khiến mình có suy nghĩ: “Cuộc đời mình có lẽ giống như một bộ phim vậy, cụ thể là phim UpStream”

Quay trở lại nội dung chính của bài blog này, có hai ứng dụng của AI trong lĩnh vực An Toàn Bảo Mật mà mình đang thấy rất thú vị:

• Ứng dụng AI để tự động review source code, phát hiện các lỗ hổng bảo mật.

• Sử dụng AI để tự động tấn công các trang web (LLM Agents can Autonomously Hack Websites).

Khi nhắc đến AI, nhiều người sẽ nghĩ ngay đến ChatGPT. Khác với các hệ thống chỉ phân tích và nhận diện mẫu từ dữ liệu có sẵn, ChatGPT có khả năng tạo ra nội dung mới dựa trên những gì nó đã học. Điều này khiến ChatGPT trở thành một ví dụ điển hình của Generative AI – Trí tuệ nhân tạo Tạo sinh (khái niệm này sẽ được đề cập nhiều lần trong bài viết, vì vậy hãy ghi nhớ nhé).

Để hiểu rõ hơn về cách hoạt động của Generative AI và sự khác biệt của nó so với các mô hình AI truyền thống, hãy xem hình minh họa dưới đây.

Hiểu đơn giản, Generative AI tập trung vào khả năng tạo nội dung mới dựa trên các mẫu dữ liệu đã học, với kiến trúc chính dựa trên các mô hình mạng neural như Transformer, GAN, VAE và Diffusion models. Trong đó, ChatGPT là một ứng dụng cụ thể của Generative AI, được xây dựng dựa trên kiến trúc Transformer, nổi bật là mô hình GPT (Generative Pre-trained Transformer). Mô hình này được huấn luyện trên một lượng dữ liệu khổng lồ nhằm hiểu và tạo ra văn bản giống con người.

Bài toán 1

Bắt kịp xu hướng công nghệ hiện nay, việc ứng dụng AI vào quy trình đánh giá mã nguồn (code review) mang lại nhiều lợi ích, bao gồm tăng tốc độ phân tích, nâng cao độ chính xác, giảm thiểu sai sót của con người và phát hiện lỗ hổng bảo mật một cách hiệu quả. Đây được xem là xu hướng tất yếu trong lĩnh vực bảo mật phần mềm.

Trong quá trình tìm hiểu, mình đã khám phá một số công cụ được giới thiệu là có tích hợp AI trong việc đánh giá mã nguồn

MagickPen Security Code Scanner

MagickPen Security Code Scanner mang đến một giao diện trực quan và thân thiện, giúp người dùng dễ dàng sử dụng AI để quét mã nguồn tìm lỗ hổng bảo mật. Công cụ này sử dụng GPT-4 và cung cấp 20 credits miễn phí, đồng thời tích hợp Framework R.O.D.E.S, cho phép người dùng chọn sẵn vai trò (Developer), giọng điệu (Neutral, Formal, v.v.), và độ dài văn bản (Short, Medium, Long) mà không cần tinh chỉnh prompt thủ công. Những cải tiến này giúp đơn giản hóa quy trình, đặc biệt hữu ích cho những ai không chuyên về prompt engineering.

Mặc dù MagickPen Security Code Scanner nhìn khá là tiện ích, nhưng công cụ này cũng có một số hạn chế đáng kể.

Thứ nhất, khi phân tích mã nguồn, AI chủ yếu phát hiện các lỗi theo mô típ sách giáo khoa, tức là những lỗ hổng phổ biến và đơn giản. Nếu lỗ hổng có mức độ phức tạp cao hơn, AI thường không xác định chính xác nguyên nhân gốc rễ của vấn đề.

Đoạn code này có thể dẫn đến lỗ hổng Path Traversal. Nếu kẻ tấn công truyền vào fileName một đường dẫn tuyệt đối, chẳng hạn "C:/https/wwwroot/attacker.png", thì Path.Combine(uploadPath, fileName) sẽ trả về chính giá trị của fileName, cho phép kẻ tấn công ghi file vào bất kỳ vị trí nào trong hệ thống.

Hình dưới đây là kết quả mà công cụ trả về sau khi phân tích đoạn code chứa lỗ hổng. Không thể phủ nhận rằng các khuyến nghị sửa lỗi mà nó đưa ra rất chính xác. Tuy nhiên, công cụ hoàn toàn không xác định được root cause của lỗ hổng, điều này làm giảm giá trị của việc phân tích.

Thứ hai, do giới hạn token của model, người dùng chỉ có thể dán từng đoạn code nhỏ thay vì tải lên toàn bộ codebase để đánh giá tổng thể. Điều này dẫn đến việc công cụ không thể xem xét ngữ cảnh rộng hơn và có nguy cơ bỏ sót các mối liên kết quan trọng giữa các thành phần trong hệ thống.

Theo quan điểm của mình, đây vẫn là một điểm trừ đáng kể, đặc biệt khi phân tích các lỗ hổng bảo mật phức tạp yêu cầu đánh giá toàn diện trên nhiều file, lớp (class) hoặc module trong một ứng dụng lớn.

Tuy nhiên, nếu được huấn luyện trên dữ liệu chính xác, AI hoàn toàn có thể xác định lỗ hổng trong source code. Mình đã thử triển khai một kiến trúc Retrieval-Augmented Generation (RAG) chạy cục bộ, và kết quả khá tích cực. Công cụ có thể phát hiện lỗ hổng trong đoạn code UploadFile sau khi được mình “tận tình chỉ dạy”, nhưng để áp dụng vào thực tế, vẫn cần một bộ dữ liệu chất lượng cao để huấn luyện.

DeepCode AI (Snyk)

DeepCode AI, hiện được tích hợp trong nền tảng Snyk, sử dụng một mô hình AI hybird kết hợp giữa AI biểu tượng (symbolic AI) và AI tạo sinh (generative AI), cùng với các phương pháp học máy (machine learning). Sự kết hợp này giúp tăng cường độ chính xác trong việc phân tích mã nguồn và phát hiện lỗ hổng bảo mật

Mô hình hoạt động

1️⃣Phân tích cú pháp (Parsing)

• Chuyển đổi mã nguồn thành cây cú pháp trừu tượng (AST – Abstract Syntax Tree) để trích xuất cấu trúc logic của chương trình.

• Biểu diễn mã dưới dạng đồ thị luồng dữ liệu (data flow graph) để xác định cách dữ liệu di chuyển qua chương trình.

2️⃣ Phân tích tĩnh (Static Analysis)

• Sử dụng Symbolic AI và rule-based analysis để quét mã nguồn và phát hiện lỗ hổng.

• Áp dụng phân tích luồng dữ liệu (data flow analysis) để theo dõi cách dữ liệu di chuyển từ source → sink nhằm phát hiện các lỗ hổng bảo mật.

• Machine Learning (AutoLearn ML) giúp nhận diện các mẫu lỗi tiềm ẩn chưa có trong tập quy tắc cố định, mở rộng phạm vi phát hiện lỗ hổng.

3️⃣ Đề xuất sửa lỗi (Fix Recommendation)

• Khi phát hiện mã nguồn có lỗi, Generative AI (AutoFix LLM) được sử dụng để đề xuất cách sửa lỗi phù hợp với ngữ cảnh mã nguồn.

• Các bản sửa lỗi được tinh chỉnh dựa trên dữ liệu huấn luyện và bối cảnh cụ thể của ứng dụng.

• Nhà phát triển có thể xem xét và chọn áp dụng bản sửa lỗi phù hợ

Mô hình này khá hợp lý trong bối cảnh chuyển đổi, khi kết hợp Symbolic AI và Rule-based để nhận diện lỗ hổng, giúp giảm thiểu false positives cũng như chia nhỏ các đoạn code chứa lỗi để Generative AI xử lý hiệu quả hơn.

Không thể phủ nhận rằng, với những project chứa lỗ hổng theo dạng SGK, Snyk hoạt động khá hiệu quả. Trong một project Spring Boot, công cụ đã xác định chính xác sink và source của lỗ hổng SpEL Injection. Tuy nhiên, khi kiểm tra các lỗ hổng liên quan đến Business Logic, Snyk vẫn chưa thể phát hiện được.

Tiếp tục thử nghiệm Snyk với một project khác – cụ thể hơn, đây là một case study từng được đăng trên blog của VNPT (Bạn có thể xem phân tích chi tiết lỗ hổng tại Link). Hơi thất vọng khi mà Snyk không thể xác định được lỗ hổng trong source code này.

Nhìn chung, Snyk là một công cụ mạnh mẽ trong phân tích tĩnh (SAST), đặc biệt hiệu quả trong việc phát hiện các lỗ hổng phổ biến dựa trên mẫu có sẵn. Khi được sử dụng đúng cách, công cụ này không chỉ giúp phát hiện lỗ hổng bảo mật mà còn đưa ra các khuyến nghị khắc phục hữu ích. Tuy nhiên, để đạt độ chính xác cao nhất, vẫn cần kết hợp với các phương pháp kiểm tra thủ công.

Bài toán 2

Ở đây, mình có tham khảo tài liệu “LLM Agents can Autonomously Hack Websites”.

LLM Agent được đề cập trong tài liệu là một hệ thống sử dụng mô hình ngôn ngữ lớn (LLM) để phân tích, lập kế hoạch và thực hiện các cuộc tấn công thử nghiệm nhằm đánh giá bảo mật hệ thống. Mô hình này kết hợp AI với các công cụ hacking, tài liệu chuyên môn và dữ liệu lịch sử để tự động phát hiện lỗ hổng, chẳng hạn như SQL Injection. LLM Agent có thể gửi payloads tấn công, thu thập phản hồi từ hệ thống mục tiêu, phân tích dữ liệu và đưa ra báo cáo chi tiết, giúp tối ưu hóa quy trình kiểm tra bảo mật và hỗ trợ nghiên cứu an ninh mạng.

Quy trình hoạt động của một LLM Agent được diễn tả như sau:

Về cách setup, bạn có thể tham khảo tại Link (Bài viết này sử dụng API của GPT-4). Mình đã dựng lại demo này với API của Anthropic để so sánh, nhưng sẽ không đi sâu vào phần này.

Target mình sử dụng là testphp.vulnweb.com – đây là một trang web do Acunetix cung cấp để phục vụ mục đích kiểm thử bảo mật.

Với cùng một user prompt, AI có thể cho kết quả không ổn định. Đôi khi, nó tự động mở trình duyệt, truy cập URL mục tiêu và thử nghiệm payload, nhưng cũng có lúc chỉ phân tích lý thuyết mà không thực hiện kiểm tra thực tế, hoặc thậm chí đưa ra nhận định không chính xác.

Nguyên nhân chủ yếu xuất phát từ cách hoạt động của Generative AI, vốn tập trung vào việc tạo nội dung mới dựa trên dữ liệu đã học, dẫn đến tính ngẫu nhiên trong phản hồi. Ngoài ra, giới hạn về token cũng có thể khiến AI bỏ sót hoặc hiểu sai ngữ cảnh, dẫn đến sự không nhất quán trong kết quả.

Trường hợp xác định đúng lỗ hổng