Khi một nhân viên cài đặt trợ lý viết lách AI, kết nối coding copilot vào IDE hoặc bắt đầu tóm tắt các cuộc họp bằng một công cụ trình duyệt mới, họ đang làm chính xác những gì một nhân viên năng suất nên làm: tìm kiếm những cách nhanh hơn để hoàn thành công việc.
Tại hầu hết các tổ chức hiện nay, nhân viên đang sử dụng từ ba đến năm công cụ AI mỗi ngày. Hầu hết trong số đó chưa bao giờ được bộ phận IT kiểm duyệt. Một phần đáng kể kết nối với dữ liệu doanh nghiệp thông qua các token OAuth hoặc phiên trình duyệt, cho phép chúng truy cập vào các ổ đĩa dùng chung, email và tài liệu nội bộ mà nhân viên không hề có ý định tiết lộ cụ thể. Các đội ngũ bảo mật thường hoàn toàn không có khả năng giám sát những hoạt động này.
Đây chính là lỗ hổng "Shadow AI", và nó đang nới rộng rất nhanh. Hầu hết các công cụ bảo mật được xây dựng để giám sát lưu lượng email và mạng chạy qua hạ tầng của doanh nghiệp. Một công cụ AI dựa trên trình duyệt kết nối với dữ liệu công ty thông qua một bước phê duyệt đăng nhập nhanh chóng sẽ vượt qua hoàn toàn các kiểm soát đó, vì nó không bao giờ đi qua mạng nội bộ doanh nghiệp. Theo Gartner, 69% tổ chức nghi ngờ hoặc xác nhận rằng nhân viên đang sử dụng các công cụ AI bị cấm tại nơi làm việc, và chỉ 37% có chính sách quản trị AI. Kết quả là sự mất kết nối ngày càng lớn giữa cách nhân viên làm việc và những gì đội ngũ bảo mật có thể nhìn thấy.
Một chương trình định hướng việc áp dụng AI vào một lộ trình an toàn, minh bạch và được phê duyệt sẽ giúp đội ngũ bảo mật có được sự giám sát cần thiết và nhân viên có được những công cụ họ muốn. Năm bước dưới đây sẽ hướng dẫn chi tiết cách xây dựng một chương trình như vậy.
Bước 1: Xây dựng bức tranh toàn cảnh về những gì đang chạy
Một chương trình bảo mật chỉ có thể quản lý những gì nó nhìn thấy. Bước đầu tiên là khám phá những công cụ AI nào đang được sử dụng trong toàn tổ chức, và hầu hết các đội ngũ bảo mật sẽ thấy câu trả lời rất đáng ngạc nhiên.
Ba khu vực dưới đây chiếm phần lớn các hoạt động Shadow AI:
- Kết nối OAuth: Hầu hết các công cụ AI yêu cầu quyền truy cập vào Google Workspace hoặc Microsoft 365 thông qua OAuth, cấp cho chúng quyền đọc hoặc ghi vào dữ liệu doanh nghiệp. Việc kiểm tra hàng quý các ứng dụng bên thứ ba đã kết nối, được sắp xếp theo phạm vi quyền hạn, thường làm lộ ra hàng chục công cụ mà đội ngũ bảo mật chưa từng xem xét.
- Browser extensions: Nhiều công cụ AI chạy dưới dạng tiện ích mở rộng trình duyệt và không bao giờ chạm vào hệ điều hành, vì vậy các công cụ quản lý điểm cuối (endpoint management) truyền thống sẽ bỏ lỡ chúng hoàn toàn. Một giải pháp quản lý trình duyệt hoặc một agent nhẹ được cài đặt trên thiết bị của nhân viên có thể quét và xác định các tiện ích mở rộng nào đang hoạt động.
- Các tính năng AI đi kèm trong các công cụ đã được phê duyệt: Microsoft Copilot, Google Gemini và Salesforce Einstein là những ví dụ về khả năng AI có thể đã được giới thiệu sau khi nhà cung cấp được đánh giá ban đầu, thường là không có đánh giá bảo mật riêng biệt.
Việc thực hiện một cuộc khảo sát nhân viên đơn giản cũng rất có giá trị. Một cuộc khảo sát được đóng khung quanh việc giúp nhân viên làm việc an toàn hơn thường nhận được những phản hồi trung thực. Nhiều công cụ ẩn (shadow tools) xuất hiện qua khảo sát mà các công cụ khám phá tự động có thể bỏ sót.
Bước 2: Viết chính sách phù hợp với nhân viên
Hầu hết các chính sách sử dụng AI được chấp nhận đều bị đình trệ vì cùng một lý do: chúng đưa cho nhân viên một danh sách các công cụ bị cấm mà không có hướng dẫn về lộ trình phê duyệt. Một chính sách được thiết kế như một hướng dẫn thực tế, xác định các công cụ được phê duyệt và cung cấp quy trình rõ ràng để yêu cầu công cụ mới, là nền tảng mà nhân viên cần để đưa ra quyết định đúng đắn.
Một chính sách quản trị AI hiệu quả bao gồm năm nội dung:
- Danh sách hiện tại các công cụ đã được phê duyệt và nơi tìm thấy chúng.
- Quy tắc phân loại dữ liệu rõ ràng, chỉ định loại dữ liệu nào (bao gồm hồ sơ khách hàng, mã nguồn và thông tin tài chính) không bao giờ được nhập vào bất kỳ công cụ AI nào.
- Trạng thái từ chối đào tạo dữ liệu (data training opt-out) đã được xác minh cho từng công cụ. Nhiều công cụ AI mặc định sử dụng dữ liệu đầu vào của công ty để cải thiện mô hình của họ trừ khi được cấu hình khác. Việc phê duyệt nên yêu cầu xác nhận từ chối đào tạo đối với bất kỳ công cụ nào xử lý dữ liệu nhạy cảm.
- Quy trình xác định để yêu cầu các công cụ mới, với thời gian phản hồi mục tiêu.
- Giải thích bằng ngôn ngữ bình dân về lý do tại sao các nguyên tắc này tồn tại.
Bước 3: Tạo "làn đường nhanh" cho các yêu cầu công cụ mới
Shadow AI phát triển nhanh nhất ở các tổ chức nơi quy trình phê duyệt chính thức không theo kịp tốc độ ra mắt của các sản phẩm AI. Một nhân viên cần công cụ ngay hôm nay nhưng phải đối mặt với quy trình đánh giá bảo mật kéo dài sáu tuần sẽ tìm cách lách luật trong vòng vài ngày. Mục tiêu của bước này là loại bỏ rào cản đó.
- Hầu hết các yêu cầu công cụ AI không cần một cuộc đánh giá mua sắm toàn diện. Một biểu mẫu tiếp nhận có cấu trúc với các tiêu chí đánh giá xác định là đủ cho phần lớn các công cụ có rủi ro thấp hơn.
- Các tiêu chí đánh giá nên bao gồm phạm vi truy cập dữ liệu, thực hành bảo mật của nhà cung cấp, trạng thái từ chối đào tạo dữ liệu, các chứng chỉ tuân thủ và liệu công cụ đó đã có giải pháp tương đương chức năng trong danh sách được phê duyệt hay chưa.
Bước 4: Sử dụng giám sát như một lớp an toàn chung
Khả năng hiển thị liên tục việc sử dụng công cụ AI phục vụ hai nhóm cùng một lúc:
- Đội ngũ bảo mật có được bức tranh thời gian thực để xác định và xử lý các rủi ro trước khi chúng trở thành sự cố.
- Nhân viên nhận được một hình thức bảo vệ mà họ thường không tự có: một tín hiệu cảnh báo khi công cụ họ đang sử dụng có thể gây rủi ro cho thông tin đăng nhập hoặc dữ liệu công ty.
Cách tiếp cận giám sát trực tiếp trên trình duyệt (browser-native) cung cấp cho đội ngũ bảo mật khả năng giám sát hoạt động AI mà không cần điều hướng lại lưu lượng web của nhân viên hoặc gây cản trở công việc hàng ngày.
Bước 5: Giúp hành vi bảo mật tốt trở nên dễ dàng
Các chương trình bảo mật biến lựa chọn an toàn thành lựa chọn dễ dàng nhất là những chương trình được nhân viên tuân thủ. Trong bối cảnh quản trị AI, có hai điều thúc đẩy điều đó: huấn luyện đúng lúc (just-in-time coaching) và đào tạo giải thích lý do đằng sau các quy tắc.
Just-in-time coaching đưa ra một lời nhắc ngắn gọn, theo ngữ cảnh ngay tại thời điểm nhân viên cố gắng sử dụng một công cụ chưa được phê duyệt. Điều này hiệu quả hơn các mô-đun đào tạo hàng quý vì sự can thiệp xảy ra ngay tại điểm quyết định. Một lời nhắc được thiết kế tốt sẽ cho nhân viên biết mối lo ngại là gì, hướng dẫn họ đến một giải pháp thay thế đã được phê duyệt và chỉ mất chưa đầy 30 giây để đọc.
Xây dựng chương trình bảo mật dựa trên cách các nhóm làm việc
Việc áp dụng AI là tín hiệu cho thấy các đội ngũ đang làm tốt công việc của mình để tăng năng suất. Các công ty xây dựng các chương trình thực tế xoay quanh đà phát triển đó, với lộ trình rõ ràng đến các công cụ được phê duyệt và khả năng giám sát thời gian thực cho các đội ngũ bảo mật, sẽ là những nơi xử lý vấn đề này tốt nhất.
Khi nhân viên có quyền truy cập vào các công cụ hiệu quả, đã được phê duyệt và một lộ trình minh bạch, nhanh chóng để đánh giá các công cụ mới, động cơ để "vượt rào" hệ thống phần lớn sẽ biến mất.
Sản phẩm AI Governance của Adaptive Security cung cấp cho các đội ngũ bảo mật khả năng hiển thị thời gian thực đối với mọi công cụ AI và ứng dụng shadow đang chạy trong tổ chức, tích hợp các chính sách tự động và huấn luyện nhân viên đúng lúc. Tìm hiểu thêm tại adaptivesecurity.com.
