定义与概述
AI 智能体使用模型选择步骤和工具实现目标。除文档访问外,还需操作权限;模型建议操作不代表用户获授权。
如何实践
检索批准的操作手册并起草工单。重置密码、变更权限和执行命令需独立身份验证与审批。
RAGBOX · RAGBOX 私有 AI 控制框架
01身份
02权限
03工作空间
04知识库
05模型
06审计
开始前检查
- 工具白名单
- 操作权限
- 批准与停止点
能力与部署需按项目确认,不作无证据认证、投资回报或客户声明。
常见问题
数据必须离开网络吗?
取决于部署和连接服务。先梳理模型、OCR、嵌入、备份及日志流量,再确认边界。
AI 答案可以直接采信吗?
应核对原文、完整性及版本,尤其是法律、会计和重要决策。引用有助审核,但不保证准确。
如何启动项目?
选择明确用例、获批文档、负责人和验收标准。小组测试答案质量、权限与成本后再扩展。
参考资料
公共来源解释原则,不认证或背书 RAGBOX。
- NIST AI Risk Management Framework
- Microsoft: Retrieval-augmented generation
- OWASP: RAG Security Cheat Sheet
- OWASP: Prompt Injection Prevention
实际应用前需专家审核,非个案法律或税务建议。