Cuộc tranh luận về việc liệu AI có mang lại giá trị kinh doanh hay không đã kết thúc. Thách thức hiện nay là triển khai nó trên quy mô lớn và an toàn trên mọi chức năng, đồng thời đáp ứng áp lực từ ban quản trị về việc phải di chuyển nhanh chóng. Các tổ chức phải tập trung vào việc áp dụng AI ở tốc độ kinh doanh mà không làm mất kiểm soát rủi ro mạng. Tải xuống toàn bộ eBook tại đây.
Thực tế Kinh doanh
Trong Báo cáo Khảo sát CISO năm 2026 của Sygnia, khảo sát 600 lãnh đạo CNTT và bảo mật cấp cao trên toàn thế giới, gần một phần ba đã báo cáo việc sử dụng AI rộng rãi trong phát hiện mối đe dọa và IR, với 63% kỳ vọng nó sẽ được nhúng hoàn toàn vào tổ chức của họ vào năm 2027. Tuy nhiên, 73% những người ra quyết định bảo mật CNTT cho biết tổ chức của họ sẽ không hoàn toàn sẵn sàng nếu một cuộc tấn công mạng nghiêm trọng xảy ra vào ngày mai.
Các nhóm bảo mật cảm thấy họ không có đủ thời gian để thích nghi. Các công cụ đang được triển khai, nhưng quản trị, kiểm soát và sự sẵn sàng ứng phó sự cố để hỗ trợ chúng thì chưa. Các nhà lãnh đạo bảo mật hiện được giao nhiệm vụ cho phép áp dụng AI trong khi giảm thiểu rủi ro không được quản lý.
Khoảng cách Bảo mật AI
AI đã hiện diện bên trong doanh nghiệp, nhưng không phải lúc nào cũng đi vào qua "cửa trước". Nó đến từ các nền tảng được phê duyệt, các giải pháp tạm thời của nhân viên, plugin SaaS, công cụ của nhà cung cấp, các thử nghiệm nội bộ và các nhóm phát triển đang cố gắng làm việc nhanh hơn. Mức độ sâu rộng và tốc độ nhúng AI phụ thuộc nhiều vào loại AI được sử dụng – Generative AI hay Agentic AI. Khi AI chuyển từ hỗ trợ con người hoàn toàn hoặc bán tự động sang hành động trên các hệ thống, nó không còn đơn thuần là một công cụ năng suất nữa. Nó mở rộng đáng kể bề mặt tấn công của doanh nghiệp và đưa vào các rủi ro bảo mật mới.
Việc áp dụng nhanh chóng AI trong doanh nghiệp đang được thúc đẩy từ cả trên xuống dưới và từ dưới lên trên. Ban lãnh đạo thường nhận thấy nhu cầu giám sát nhưng không có một quy trình chuẩn để tuân theo, và nhân viên hiếm khi được trang bị để tự đánh giá các tác động bảo mật của các công cụ họ áp dụng. Khi các tổ chức ưu tiên tốc độ, các đánh giá bảo mật, đánh giá nhà cung cấp và quản trị dữ liệu thường trở thành mối quan tâm thứ yếu, tạo ra một môi trường nơi việc áp dụng AI vượt xa sự kiểm soát.
Với chỉ 38% tổ chức báo cáo có chính sách AI toàn diện, việc áp dụng đang vượt qua sự giám sát, khiến các nhóm bảo mật phải xử lý hậu quả sau đó. Kết quả là bề mặt tấn công mở rộng nhanh chóng do shadow AI phổ biến và các mối đe dọa được hỗ trợ bởi AI làm giảm rào cản đối với các cuộc tấn công tinh vi, đồng thời cho phép kẻ thù xác định và khai thác lỗ hổng nhanh hơn và ở quy mô lớn hơn.
Những Rủi ro AI Tiềm ẩn
Có một giả định cho rằng việc sử dụng AI hạn chế đồng nghĩa với rủi ro AI có thể kiểm soát được và vì chương trình còn ở giai đoạn đầu, mức độ phơi nhiễm là tối thiểu. Điều đó không đúng. Bề mặt tấn công AI không phải là một chu vi cố định. Nó mở rộng ở bất cứ nơi nào AI được áp dụng, tích hợp hoặc xây dựng. 67% giám đốc điều hành tin rằng tổ chức của họ đã từng bị vi phạm do sử dụng các công cụ AI không được phê duyệt.
Các điểm xâm nhập nhân lên nhanh nhất hiếm khi là những điểm đang được xem xét bảo mật tích cực, tạo không gian cho sự khai thác nhanh hơn: (1) AI không được quản trị (bao gồm cả shadow AI), (2) các tích hợp ad hoc, và (3) các AI agent với quyền hạn quá mức.
Về phía kẻ tấn công, bối cảnh đe dọa đã thay đổi theo hướng có lợi cho chúng và gây hậu quả cho doanh nghiệp nạn nhân. Các chiến thuật và kỹ thuật cơ bản của chúng thường không đổi, nhưng AI cho phép kẻ tấn công thực thi chúng nhanh hơn, ở quy mô lớn hơn và với mức độ tự động hóa cao hơn, cuối cùng tăng hiệu quả chống lại các điểm yếu hiện có trong môi trường doanh nghiệp.
Nhu cầu về Cách tiếp cận theo Vòng đời
Bảo mật AI cần được giải quyết xuyên suốt toàn bộ vòng đời của từng công cụ. Các yêu cầu kiểm soát thay đổi ở mỗi giai đoạn, nhưng các ưu tiên vẫn nhất quán: xác định việc sử dụng, phân loại rủi ro, phân công quyền sở hữu, giới hạn quyền truy cập, xác thực các biện pháp kiểm soát và chuẩn bị cho các kịch bản sự cố trước khi AI được triển khai và nhúng vào các luồng công việc quan trọng.
Xác định Chiến lược và Use Case
Các tổ chức cần xác định rõ quyền sở hữu, quyền ra quyết định, giám sát và báo cáo trên các chức năng kinh doanh, công nghệ, bảo mật, pháp lý, quyền riêng tư, tuân thủ và rủi ro. Điều này đảm bảo việc sử dụng AI phù hợp với các mục tiêu tổ chức, chính sách, khẩu vị rủi ro và các nghĩa vụ pháp lý trước khi doanh nghiệp trở nên phụ thuộc vào các công cụ này.
Thiết kế và Phát triển
AI thêm vào các câu hỏi thiết kế dễ bị bỏ sót: các prompt được xử lý như thế nào, dữ liệu nào được truy xuất, các embedding được lưu trữ ra sao, các vector databases được bảo vệ như thế nào, đầu ra của mô hình được xác thực như thế nào và điều gì xảy ra nếu hệ thống bị thao túng. Các yêu cầu bảo mật đặc thù cho AI cần được xác định trước khi hệ thống được xây dựng.
Áp dụng và Lựa chọn Nhà cung cấp
Dù là đánh giá một nền tảng SaaS AI, tích hợp một mô hình của bên thứ ba hay xây dựng trên một mô hình nền tảng thông qua API, các tác động bảo mật của lựa chọn đó cần được đánh giá trước khi ký hợp đồng. Hãy coi việc quyết định tự xây dựng, mua hay tích hợp là một quyết định bảo mật, không chỉ là vấn đề về khả năng và chi phí.
Triển khai và Tích hợp
Một ứng dụng đã vượt qua bài kiểm tra bảo mật ở giai đoạn thiết kế vẫn có thể được triển khai không an toàn. Thất bại phổ biến nhất ở giai đoạn này là quyền hạn quá mức: nơi các hệ thống AI được kết nối với dữ liệu nhạy cảm với quyền truy cập theo kiểu tiện lợi thay vì theo yêu cầu công việc.
Vận hành, Giám sát và Mở rộng
Các hệ thống AI tiến hóa sau khi triển khai khi các mô hình được cập nhật, các tích hợp được thêm vào và các use case được mở rộng, có khả năng thay đổi hồ sơ rủi ro mà không có một quyết định có chủ đích nào. Duy trì kho kiểm kê hiện tại của các ứng dụng, dịch vụ và tích hợp AI, đồng thời định kỳ đánh giá lại các use case và phân loại rủi ro.
Ứng phó Sự cố và Phục hồi
Hầu hết các tổ chức đều có kế hoạch ứng phó sự cố (IR), nhưng chúng không được xây dựng cho AI. Prompt injection, xâm nhập agent và lỗi mô hình của bên thứ ba đòi hỏi các khả năng pháp y, chiến lược ngăn chặn và phối hợp bên liên quan khác với các cuộc tấn công thông thường. Hãy thêm các quy trình ứng phó đặc thù cho AI vào các IR playbooks hiện có.
Vận hành Kế hoạch AI với Tư duy Bảo mật
Hiểu được rủi ro AI nằm ở đâu là một chuyện. Xây dựng các cấu trúc tổ chức, kiểm soát và quy trình để quản lý nó lại là chuyện khác. Có sáu thành phần cần xem xét:
Thiết lập Sự thống nhất của Ban điều hành và Mục tiêu Kinh doanh
89% lãnh đạo bảo mật nêu việc thiếu sự tham gia của ban điều hành hoặc hội đồng quản trị trong việc sẵn sàng IR và ra quyết định là một thách thức chính. Điều giải quyết vấn đề này là quyền sở hữu của ban điều hành – không chỉ là nhận thức, mà là trách nhiệm giải trình được xác định rõ ràng.
Xây dựng Chương trình Quản trị AI
Quản trị là yếu tố giúp các câu hỏi về quyền sở hữu hệ thống AI, quyền truy cập dữ liệu và thẩm quyền ngắt kết nối được trả lời trong vài phút thay vì vài giờ khi có sự cố xảy ra.
Triển khai các Rào chắn Bảo mật và Vận hành có thể Thực thi
Các rào chắn này nên áp dụng cho tất cả các cách AI đi vào tổ chức: sử dụng GenAI công cộng, copilots, tính năng SaaS AI, ứng dụng nội bộ, hệ thống RAG, các agent tự trị, dịch vụ Cloud AI và các nền tảng do nhà cung cấp quản lý.
Nâng cao Nhận thức và Sự sẵn sàng của Đội ngũ nhân lực
Các chương trình nâng cao nhận thức về AI hiệu quả phải vượt xa các khóa đào tạo tuân thủ định kỳ và cung cấp các hướng dẫn thực tế, cụ thể cho từng vai trò.
Xác thực Bảo mật trước khi Áp dụng và Xuyên suốt Vòng đời
Thực hiện các đánh giá trạng thái bảo mật AI, kiểm tra xâm nhập ứng dụng AI và đánh giá các giải pháp bên thứ ba liên tục khi các khả năng của hệ thống tiến hóa.
Chuẩn bị cho các Sự cố Bảo mật AI
Cập nhật kế hoạch IR của bạn để bao gồm các kịch bản như lạm dụng prompt, xâm nhập agent, rò rỉ dữ liệu hoặc đầu ra không an toàn. Thực hiện các bài tập mô phỏng (tabletop exercises) tập trung vào AI.
HÀNH ĐỘNG: Chủ động Bảo mật các Giải pháp AI của bạn
Những tổ chức chờ đợi một mối đe dọa làm lộ trạng thái bảo mật AI của họ thì đã quá muộn. Có ba lĩnh vực trọng tâm trong cách tiếp cận bảo mật chủ động:
- Đánh giá (Assess): Trạng thái an ninh mạng AI trên toàn hạ tầng, ứng dụng, luồng dữ liệu và hành vi prompt.
- Thiết lập (Establish): Khung quản trị và sử dụng AI toàn diện.
- Kiểm tra (Test): Bảo mật và chức năng của các ứng dụng AI trước các hành vi tấn công thực tế.
Kết luận
Các tổ chức không chỉ phải nắm bắt giá trị kinh doanh của AI mà còn phải ưu tiên giảm thiểu các rủi ro mạng không được quản lý. Do các mối đe dọa AI và các khung bảo mật vẫn đang phát triển, các tổ chức phải thường xuyên đánh giá lại trạng thái, quản trị và các biện pháp kiểm soát của mình. Những người bảo mật AI một cách chủ động sẽ giảm thiểu phơi nhiễm trên bề mặt tấn công đang mở rộng đồng thời có được sự tự tin cần thiết để áp dụng nó một cách an toàn trên quy mô lớn.
