Агент выбирает шаги и инструменты для цели. Нужны права действий сверх чтения: предложение модели не разрешает пользователю действие.
Практический подход
Ищите утверждённые инструкции и готовьте заявки. Сброс паролей, права и команды требуют отдельной проверки и одобрения.
Проверка перед началом
- Список инструментов
- Права действий
- Согласование и остановка
Возможности подтверждаются для проекта. Нет необоснованных заявлений о сертификатах, ROI и клиентах.
Частые вопросы
Данные должны покидать сеть?
Зависит от среды и сервисов. Сначала опишите потоки модели, OCR, эмбеддингов, резервирования и журналов.
Можно сразу доверять ответу ИИ?
Проверяйте оригинал, полноту и версию, особенно для права, учёта и важных решений. Ссылки не гарантируют точность.
Как начать проект?
Выберите одну задачу, документы, ответственных и критерии. Проверьте качество, права и затраты на малой группе до расширения.
Источники
Источники объясняют принципы, не сертифицируют RAGBOX.
- NIST AI Risk Management Framework
- Microsoft: Retrieval-augmented generation
- OWASP: RAG Security Cheat Sheet
- OWASP: Prompt Injection Prevention
Перед применением нужна проверка специалиста. Не индивидуальная юридическая или налоговая консультация.