影子 AI (Shadow AI) 是指员工在没有 IT 部门正式批准或监督的情况下使用任何 AI 工具或应用程序。一个常见的例子是员工使用像 ChatGPT 这样的生成式 AI 应用程序来起草报告或分析数据，从而在不知不觉中使公司暴露于重大风险之中。虽然员工通常会求助于这些工具来提高生产力，但它们的使用可能会在数据安全、合规性甚至公司声誉方面引发重大问题。对于 IT 和安全领导者而言，管理这些风险的关键是制定一个稳健的 AI 策略，包含明确的策略和治理。
由于消除所有影子 AI 实例可能并不现实，组织可以通过采取平衡的方法来管理风险。首先，必须促进 IT 与其他部门之间的合作与公开沟通，以了解员工为何使用这些工具。其次，通过制定灵活的治理框架来实现防护栏，该框架针对可以使用哪些类型的 AI 系统以及应如何处理敏感信息提供明确的指导方针。最后，使用网络工具监控 AI 的使用情况，以跟踪正在使用的内容，并就未授权 AI 的风险对员工进行教育。
为了对抗与影子 AI 相关的风险，Cloudflare 基于 API 的 CASB 与 SaaS 应用程序和云环境相集成，扫描在用户成功登录后可能发生的配置错误、未授权的用户活动、影子 IT 以及其他数据安全问题。