Khi một nhân viên cài đặt trợ lý viết lách bằng AI, kết nối một coding copilot vào IDE của họ, hoặc bắt đầu tóm tắt các cuộc họp bằng một công cụ trình duyệt mới, họ đang làm chính xác những gì một nhân viên năng suất nên làm: tìm cách làm việc nhanh hơn.
Trong hầu hết các tổ chức hiện nay, nhân viên đang chạy từ ba đến năm công cụ AI vào bất kỳ ngày nào. Đa số các công cụ này chưa bao giờ được bộ phận IT xem xét. Một phần đáng kể kết nối với dữ liệu doanh nghiệp thông qua OAuth tokens hoặc các phiên trình duyệt, cho phép chúng truy cập vào các ổ đĩa dùng chung, email và tài liệu nội bộ mà nhân viên không hề có ý định để lộ. Các đội ngũ bảo mật thường không có khả năng hiển thị đối với bất kỳ hoạt động nào trong số này.
Đây chính là lỗ hổng Shadow AI, và nó đang mở rộng nhanh chóng. Hầu hết các công cụ bảo mật được xây dựng để giám sát lưu lượng email và mạng chảy qua mạng doanh nghiệp. Một công cụ AI trên trình duyệt kết nối với dữ liệu công ty thông qua một phê duyệt đăng nhập nhanh sẽ vượt qua hoàn toàn các kiểm soát đó, vì nó không bao giờ đi qua mạng doanh nghiệp. Theo Gartner, 69% các tổ chức nghi ngờ hoặc đã xác nhận rằng nhân viên đang sử dụng các công cụ AI bị cấm tại nơi làm việc, và chỉ 37% có chính sách quản trị AI. Kết quả là sự mất kết nối ngày càng tăng giữa cách nhân viên làm việc và những gì các đội ngũ bảo mật có thể nhìn thấy.
Một chương trình hướng việc áp dụng AI vào một lộ trình an toàn, hiển thị rõ ràng và được phê duyệt sẽ cung cấp cho các đội ngũ bảo mật khả năng hiển thị họ cần và cung cấp cho nhân viên những công cụ họ muốn. Năm bước dưới đây cho thấy chính xác cách xây dựng một chương trình như vậy.
Bước 1: Xây dựng bức tranh toàn cảnh về những gì đang chạy
Một chương trình bảo mật chỉ có thể quản lý những gì nó có thể nhìn thấy. Bước đầu tiên là khám phá xem công cụ AI nào đang được sử dụng trong toàn tổ chức, và hầu hết các đội ngũ bảo mật sẽ thấy câu trả lời đầy bất ngờ.
Ba lĩnh vực sau đây chiếm phần lớn hoạt động Shadow AI:
- Kết nối OAuth. Hầu hết các công cụ AI yêu cầu truy cập vào Google Workspace hoặc Microsoft 365 thông qua OAuth, cấp cho chúng quyền đọc hoặc ghi dữ liệu doanh nghiệp. Một cuộc kiểm toán hàng quý về các ứng dụng bên thứ ba đã kết nối, được sắp xếp theo phạm vi quyền hạn, thường làm lộ ra hàng chục công cụ mà đội ngũ bảo mật chưa bao giờ xem xét.
- Browser extensions. Nhiều công cụ AI chạy dưới dạng Browser extensions và không bao giờ chạm vào hệ điều hành, vì vậy các công cụ quản lý điểm cuối truyền thống hoàn toàn bỏ lỡ chúng. Một giải pháp quản lý trình duyệt hoặc một agent nhẹ được cài đặt trên thiết bị của nhân viên có thể quét và xác định các tiện ích mở rộng nào đang hoạt động.
- Các tính năng AI được tích hợp bên trong các công cụ đã được phê duyệt. Microsoft Copilot, Google Gemini và Salesforce Einstein là những ví dụ về khả năng AI có thể đã được giới thiệu sau khi nhà cung cấp ban đầu được xem xét, thường mà không có đánh giá bảo mật riêng biệt.
Một cuộc khảo sát nhân viên đơn giản cũng rất đáng để thực hiện. Một cuộc khảo sát được đóng khung xung quanh việc giúp nhân viên làm việc an toàn hơn có xu hướng nhận được những phản hồi thẳng thắn. Nhiều công cụ "bóng tối" lộ diện qua các cuộc khảo sát mà các công cụ khám phá tự động có thể bỏ lỡ.
Mục tiêu của bước này là có một danh mục kiểm kê chính xác và hiện tại: mọi công cụ AI đang sử dụng, ai đang sử dụng nó và nó có quyền truy cập vào dữ liệu nào.
Bước 2: Viết chính sách phù hợp với nhân viên
Hầu hết các chính sách sử dụng AI được chấp nhận đều bị đình trệ vì cùng một lý do: chúng đưa cho nhân viên một danh sách các công cụ bị cấm mà không có hướng dẫn về lộ trình được phê duyệt trông như thế nào. Một chính sách được thiết kế như một hướng dẫn thực tế, xác định các công cụ được phê duyệt và cung cấp quy trình rõ ràng để yêu cầu các công cụ mới, là nền tảng mà nhân viên cần để đưa ra các quyết định đúng đắn.
Một chính sách quản trị AI hiệu quả bao gồm năm điều:
- Danh sách hiện tại các công cụ được phê duyệt và nơi tìm thấy chúng.
- Các quy tắc phân loại dữ liệu rõ ràng chỉ định loại dữ liệu nào (bao gồm hồ sơ khách hàng, mã nguồn và thông tin tài chính) không bao giờ được nhập vào bất kỳ công cụ AI nào.
- Trạng thái xác minh việc từ chối đào tạo dữ liệu (data training opt-out) cho từng công cụ được phê duyệt. Nhiều công cụ AI sử dụng dữ liệu đầu vào của công ty để cải thiện mô hình của họ theo mặc định trừ khi các thiết lập doanh nghiệp được cấu hình cụ thể. Việc phê duyệt nên yêu cầu xác nhận từ chối (opt-out) đối với bất kỳ công cụ nào xử lý dữ liệu nhạy cảm.
- Một quy trình xác định để yêu cầu các công cụ mới, với thời gian phản hồi mục tiêu.
- Một lời giải thích bằng ngôn ngữ bình dân về lý do tại sao các hướng dẫn này tồn tại.
Yếu tố cuối cùng đó quan trọng hơn vẻ ngoài của nó. Những nhân viên hiểu tại sao các kết nối OAuth mang lại rủi ro lộ dữ liệu sẽ áp dụng lý luận đó cho mọi quyết định về công cụ mà họ đưa ra. Chính sách trở thành một hình thức giáo dục khi lý do được đưa vào.
Bước 3: Tạo "làn đường nhanh" cho các yêu cầu công cụ mới
Shadow AI phát triển nhanh nhất trong các tổ chức nơi quy trình phê duyệt chính thức không thể bắt kịp tốc độ phát hành sản phẩm AI. Một nhân viên cần một công cụ ngay hôm nay và phải đối mặt với một cuộc đánh giá bảo mật kéo dài sáu tuần sẽ tìm ra cách lách luật trong vòng vài ngày. Mục tiêu của bước này là loại bỏ rào cản đó.
- Hầu hết các yêu cầu công cụ AI không cần một cuộc đánh giá mua sắm đầy đủ. Một biểu mẫu tiếp nhận có cấu trúc với các tiêu chí đánh giá được xác định là đủ cho phần lớn các công cụ có rủi ro thấp hơn.
- Một biểu mẫu tiếp nhận có cấu trúc và một bộ tiêu chí đánh giá xác định giúp đưa ra quyết định nhanh hơn. Đối với các công cụ có quyền truy cập dữ liệu hạn chế, nhiều tổ chức thấy rằng thời gian xoay xở ngắn hơn là khả thi một khi các tiêu chí đánh giá được lập tài liệu và áp dụng nhất quán.
- Các tiêu chí đánh giá nên bao gồm phạm vi truy cập dữ liệu, thực hành bảo mật của nhà cung cấp, trạng thái từ chối đào tạo dữ liệu, các chứng chỉ tuân thủ và liệu công cụ đó đã có một giải pháp tương đương về chức năng trong danh sách được phê duyệt hay chưa.
Các đội ngũ bảo mật công bố công khai danh sách công cụ được phê duyệt và cập nhật thường xuyên sẽ thấy sự sụt giảm đáng kể trong việc sử dụng Shadow AI. Khi nhân viên biết nơi tìm các công cụ phù hợp, họ sẽ sử dụng chúng.
Bước 4: Sử dụng giám sát như một lớp an toàn chung
Khả năng hiển thị liên tục việc sử dụng công cụ AI trong toàn tổ chức phục vụ đồng thời cho hai nhóm:
- Các đội ngũ bảo mật có được bức tranh thời gian thực mà họ cần để xác định và xử lý các rủi ro trước khi chúng trở thành một sự cố.
- Nhân viên nhận được một hình thức bảo vệ mà họ thường không có: một tín hiệu cảnh báo khi một công cụ họ đang sử dụng có thể gây rủi ro cho thông tin đăng nhập hoặc dữ liệu công ty của họ.
Cách tiếp cận giám sát Browser-native giúp các đội ngũ bảo mật có khả năng hiển thị các hoạt động AI mà không cần định tuyến lại lưu lượng truy cập web của nhân viên hoặc gây cản trở công việc hàng ngày. Các tín hiệu mà nó thu thập sẽ được đưa vào hồ sơ rủi ro rộng hơn của mỗi nhân viên, cùng với kết quả mô phỏng phishing và dữ liệu hoàn thành đào tạo ở một nơi duy nhất.
Cái nhìn tổng hợp đó rất quan trọng vì các hành vi rủi ro có tính chất cộng dồn. Một nhân viên vừa nhấp vào các liên kết phishing, bỏ qua đào tạo, vừa chạy các công cụ AI chưa được phê duyệt có quyền truy cập vào dữ liệu nhạy cảm sẽ mang lại rủi ro cao hơn nhiều so với bất kỳ hành vi đơn lẻ nào. Nhìn thấy bức tranh toàn cảnh giúp các đội ngũ bảo mật tập trung vào những nhân viên cần được chú ý nhất.
Bước 5: Làm cho hành vi bảo mật tốt trở nên dễ dàng
Các chương trình bảo mật biến lựa chọn an toàn thành lựa chọn dễ dàng nhất là những chương trình được nhân viên tuân theo. Trong bối cảnh quản trị AI, hai điều thúc đẩy điều đó: hướng dẫn ngay tức thì (just-in-time coaching) và đào tạo giải thích lý do đằng sau các quy tắc.
Just-in-time coaching đưa ra một lời nhắc ngắn gọn, theo ngữ cảnh vào thời điểm nhân viên cố gắng sử dụng một công cụ chưa được cấp phép. Điều này hiệu quả hơn các mô-đun đào tạo hàng quý, vì sự can thiệp xảy ra tại thời điểm ra quyết định. Một lời nhắc được thiết kế tốt sẽ cho nhân viên biết mối quan ngại là gì, hướng dẫn họ đến một giải pháp thay thế được phê duyệt và chỉ mất chưa đầy ba mươi giây để đọc.
Đào tạo giải thích lý luận đằng sau các chính sách quản trị AI giúp xây dựng loại phán đoán mà nhân viên có thể áp dụng cho bất kỳ tình huống nào họ gặp phải, bao gồm các công cụ và mối đe dọa mới xuất hiện sau khóa đào tạo. Bối cảnh công cụ AI đang thay đổi đủ nhanh để không chương trình đào tạo nào có thể dự đoán mọi trường hợp cụ thể. Một nhân viên hiểu rằng kết nối OAuth với Google Workspace của công ty có thể làm lộ toàn bộ ổ đĩa dùng chung cho một nhà cung cấp bên thứ ba sẽ áp dụng sự hiểu biết đó cho các công cụ thậm chí còn chưa tồn tại từ sáu tháng trước.
Xây dựng một chương trình bảo mật dựa trên cách các đội ngũ làm việc
Việc áp dụng AI là một tín hiệu cho thấy các đội ngũ làm việc năng suất đang thực hiện tốt công việc của họ. Các công ty xây dựng các chương trình thực tế xoay quanh động lực đó, với lộ trình rõ ràng đến các công cụ được phê duyệt và khả năng hiển thị thời gian thực cho các đội ngũ bảo mật, thường là những công ty xử lý tốt nhất.
Các đội ngũ bảo mật thu hẹp khoảng cách đó sẽ thấy việc sử dụng Shadow AI giảm đi một cách tự nhiên theo thời gian. Khả năng hiển thị Browser-native, lộ trình rõ ràng đến các công cụ được phê duyệt và coaching ngay tức thì tại thời điểm có rủi ro là những gì giúp điều đó trở nên khả thi. Khi nhân viên có quyền truy cập vào các công cụ hiệu quả, đã được phê duyệt và một con đường nhanh chóng, minh bạch để các công cụ mới được xem xét, động lực để làm việc ngoài hệ thống phần lớn sẽ biến mất.
