AI Agent đang ngày càng được ứng dụng trong công việc. Khác với chatbot chỉ trả lời câu hỏi, AI Agent có thể được kết nối với nhiều công cụ và nguồn dữ liệu để thực hiện cả một quy trình, chẳng hạn như xử lý thông tin khách hàng, tổng hợp báo cáo, hỗ trợ Sales hay tự động hóa công việc Marketing.
Tuy nhiên, khi AI Agent bắt đầu được kết nối với CRM, email, Google Drive, database hoặc các tài liệu nội bộ thì vấn đề bảo mật dữ liệu cũng trở nên quan trọng hơn.
Ví dụ, một nhân viên Sales có thể đưa hợp đồng của khách hàng vào công cụ AI để nhờ tóm tắt. Nếu tài liệu có thông tin liên hệ, giá trị hợp đồng hoặc điều khoản nội bộ thì doanh nghiệp cần biết dữ liệu đó được xử lý như thế nào và AI đang có quyền truy cập đến đâu.
Những rủi ro thường gặp khi sử dụng AI Agent
Theo mình, rủi ro lớn nhất không hẳn nằm ở bản thân AI mà nằm ở cách doanh nghiệp thiết kế và sử dụng Agent.
Một số vấn đề đáng chú ý gồm:
- Đưa dữ liệu nhạy cảm vào công cụ AI không phù hợp.
- Cấp cho AI Agent quyền truy cập quá rộng.
- Agent bị tác động bởi các hình thức Prompt Injection.
- Rò rỉ API Key hoặc thông tin xác thực.
- AI tự động thực hiện những hành động ngoài dự kiến.
- Không có hệ thống theo dõi lịch sử hoạt động của Agent.
Chẳng hạn, nếu một Agent chỉ có nhiệm vụ tổng hợp báo cáo Sales nhưng lại được cấp quyền truy cập toàn bộ Google Drive và hệ thống tài chính thì phạm vi quyền của Agent rõ ràng đang lớn hơn nhu cầu thực tế.
Làm thế nào để xây dựng AI Agent an toàn hơn?
Một nguyên tắc khá quan trọng là chỉ cấp cho AI Agent những quyền cần thiết để hoàn thành nhiệm vụ.
Doanh nghiệp cũng nên phân loại dữ liệu trước khi đưa vào AI, chẳng hạn như dữ liệu công khai, dữ liệu nội bộ, dữ liệu bảo mật và dữ liệu nhạy cảm.
Với những hành động quan trọng, có thể áp dụng quy trình:
AI đề xuất → Con người kiểm tra → AI thực hiện
Ví dụ, AI có thể soạn email cho khách hàng nhưng nhân viên vẫn kiểm tra nội dung trước khi gửi. Cách này sẽ an toàn hơn so với việc cho Agent tự động gửi mọi email mà không có bước kiểm duyệt.
Ngoài ra, doanh nghiệp cũng cần quan tâm đến quyền truy cập, API, công cụ mà Agent được phép sử dụng cũng như việc ghi nhận lịch sử hoạt động.
Có những cách nào để triển khai AI Agent?
Tùy vào loại dữ liệu và nhu cầu, doanh nghiệp có thể lựa chọn nhiều mô hình khác nhau.
Với các công việc như Marketing, SEO hoặc xử lý thông tin công khai, có thể sử dụng các công cụ AI phổ biến kết hợp với cơ chế kiểm soát dữ liệu.
Đối với Sales, CSKH hoặc tự động hóa quy trình, doanh nghiệp có thể xây dựng AI Agent thông qua API và kết nối với CRM hoặc các hệ thống nội bộ.
Còn với những dữ liệu có yêu cầu kiểm soát cao như tài chính, pháp lý, chiến lược kinh doanh hoặc dữ liệu nhạy cảm, doanh nghiệp có thể cân nhắc các mô hình Private Cloud hoặc Local/On-premise AI.
Mình có đọc một bài khá chi tiết về agent an toàn dữ liệu của DNAI, trong đó phân tích các rủi ro khi triển khai AI Agent và so sánh 3 cấp độ triển khai gồm Public AI + Data Masking, Commercial API và Local/On-premise AI.
👉 Xem bài viết: Agent an toàn dữ liệu: Rủi ro, bảo mật và cách triển khai AI Agent an toàn
Có nên sử dụng AI Agent trong doanh nghiệp?
Theo mình là có, nhưng không nên triển khai AI Agent chỉ vì xu hướng.
Trước tiên nên xác định một công việc cụ thể cần giải quyết, sau đó xem Agent cần dữ liệu gì, được phép truy cập hệ thống nào và những hành động nào cần con người kiểm soát.
Có thể bắt đầu bằng một quy trình nhỏ, thử nghiệm trong phạm vi hẹp rồi mới mở rộng.
Điều quan trọng là AI Agent không cần phải có quyền làm mọi thứ mới hữu ích. Một Agent có quyền hạn được thiết kế đúng, dữ liệu được kiểm soát và có người giám sát vẫn có thể mang lại hiệu quả rất lớn cho doanh nghiệp.
Nếu mọi người đang tìm hiểu về AI Agent, đặc biệt là vấn đề bảo mật và an toàn dữ liệu khi đưa AI vào doanh nghiệp, bài viết trên khá đáng tham khảo vì có cả phần phân tích rủi ro và lộ trình triển khai thực tế.
