定義與概述
Shadow AI 是企業核准或可見範圍之外的 AI 使用。風險取決於資料、工具、帳戶及合約，並不代表所有公共 AI 不安全。
如何實踐
從員工需求調查工具。分類資料、公布核准工具，提供可用替代與核准管道。僅禁止可能無法解決使用外部工具的原因。
RAGBOX · RAGBOX 私有 AI 控制框架
01身分
02權限
03工作區
04知識庫
05模型
06稽核
工作流程
先研究任務而非應用名稱：複製什麼、誰負責、需要什麼結果？記錄工作流程並提供核准替代管道。不了解任務的禁令可能讓行為繼續隱藏。
開始前檢查
- 現用工具
- 資料政策
- 核准替代
能力與部署需依專案確認，不作無證據認證、投資報酬或客戶聲明。
重點整理
- 選擇授權文件
- 指定負責人
- 準備參考問答
- 測試拒絕存取與刪除
- 擴展前衡量品質、速度與成本
此為 RAGBOX 規劃指引，非外部認證標準。每層需負責人、證據與測試。
常見問題
資料必須離開網路嗎？
取決於部署與串接服務。先盤點模型、OCR、嵌入、備份及日誌流量，再確認邊界。
AI 答案可以直接採信嗎？
應核對原文、完整性及版本，尤其是法律、會計及重要決策。引用有助審查，但不保證正確。
如何啟動專案？
選擇明確用例、核准文件、負責人與驗收標準。小組測試答案品質、權限及成本後再擴展。
參考資料
公開來源解釋原則，不認證或背書 RAGBOX。
- NIST AI Risk Management Framework
- Microsoft: Retrieval-augmented generation
- OWASP: RAG Security Cheat Sheet
- OWASP: Prompt Injection Prevention
實際應用前需專家審閱，非個案法律或稅務建議。