定义与概述
Shadow AI 是企业批准或可见范围之外的 AI 使用。风险取决于数据、工具、账户与合同，并不代表所有公共 AI 不安全。
如何实践
从员工需求调查工具。分类数据、发布获批工具，提供可用替代及批准渠道。仅禁止可能无法解决使用外部工具的原因。
RAGBOX · RAGBOX 私有 AI 控制框架
01身份
02权限
03工作空间
04知识库
05模型
06审计
开始前检查
- 现用工具
- 数据政策
- 获批替代
能力与部署需按项目确认，不作无证据认证、投资回报或客户声明。
关键要点
- 选择授权文档
- 指定负责人
- 准备参考问答
- 测试拒绝访问与删除
- 扩展前衡量质量、速度与成本
此为 RAGBOX 规划指引，非外部认证标准。每层需负责人、证据与测试。
常见问题
数据必须离开网络吗？
取决于部署和连接服务。先梳理模型、OCR、嵌入、备份及日志流量，再确认边界。
AI 答案可以直接采信吗？
应核对原文、完整性及版本，尤其是法律、会计和重要决策。引用有助审核，但不保证准确。
如何启动项目？
选择明确用例、获批文档、负责人和验收标准。小组测试答案质量、权限与成本后再扩展。
参考资料
公共来源解释原则，不认证或背书 RAGBOX。
- NIST AI Risk Management Framework
- Microsoft: Retrieval-augmented generation
- OWASP: RAG Security Cheat Sheet
- OWASP: Prompt Injection Prevention
实际应用前需专家审核，非个案法律或税务建议。