定義と概要
選んだ端末やサーバーで推論する言語モデルです。データ近くで処理経路を定めやすくなりますが OCR、埋め込み、ログは別途確認が必要。
実践の進め方
大きさだけで選ばず、タイ語、表、実質問を試験。同時利用、メモリー、待ち時間、費用を測定し、更新と品質低下時の復旧を計画。
| 選択肢を比較 | Cloud AI | Local AI |
|---|---|---|
| 柔軟な導入 | 契約に基づき提供者またはクラウドチームが運用 | 組織またはパートナーが機材と更新を管理 |
| データ境界 | リージョン・保存・接続先を指定 | オフラインとする前に全構成要素を確認 |
| 開始前の確認 | 契約・利用費・API 制限・接続 | メモリ・遅延・同時利用・運用チーム |
Public AI は提供元・契約、Private AI は構成・設定に依存。すべての業務に合う方式はありません。
開始前の確認
- 言語品質
- 同時利用
- 更新と復旧
機能と導入は案件ごとに確認。根拠のない認証、ROI、顧客の主張は行いません。
よくある質問
データは外部へ出ますか？
構成と連携によります。モデル、OCR、埋め込み、バックアップ、ログの通信を整理して確認します。
AI 回答をそのまま信頼できますか？
特に法律・会計・重要判断では原文、完全性、版を確認。出典は正確性の保証ではありません。
どう始めますか？
用途、承認文書、責任者、合格基準を定め、小規模で品質、権限、費用を検証して展開します。
参考資料
公開資料は原則説明であり RAGBOX の認証ではありません。
- NIST AI Risk Management Framework
- Microsoft: Retrieval-augmented generation
- OWASP: RAG Security Cheat Sheet
- OWASP: Prompt Injection Prevention
実務利用前に専門家確認が必要。個別の法律・税務助言ではありません。