Aufzeichnen, wer wann mit welchen Daten und Modellen was tat und wer prüfen darf. Nachweise und sensible Log-Inhalte abwägen.
Praktische Umsetzung
Ereignisse und Korrelations-IDs definieren, Uhren, Leserechte und Aufbewahrung prüfen. Auditierbarkeit durch Rekonstruktion eines Vorfalls belegen.
Ablauf
Pilotkriterien zuerst: erwartete Belege, Rechteprüfung und Freigabe wichtiger Aktionen. System- und Wissensverantwortung trennen. Nach Tests erweitern und Fehler für spätere Regressionstests bewahren.
Checkliste zum Einstieg
- Wer und wann
- Modell und Quellen
- Log-Aufbewahrung und Zugriff
Funktionen und Bereitstellung werden pro Projekt bestätigt. Keine unbelegten Zertifizierungs-, ROI- oder Kundenaussagen.
Wichtige Erkenntnisse
- Dokumente wählen
- Verantwortliche bestimmen
- Referenzfragen erstellen
- Verweigerung und Löschung testen
- Qualität, Tempo und Kosten messen
RAGBOX-Planungshilfe, kein externer Zertifizierungsstandard. Jede Ebene benötigt Verantwortliche, Nachweise und Tests.
Häufige Fragen
Müssen Daten das Netzwerk verlassen?
Abhängig von Bereitstellung und Diensten. Modell-, OCR-, Embedding-, Backup- und Log-Datenwege vorab erfassen.
Kann man einer KI-Antwort sofort vertrauen?
Original, Vollständigkeit und Version prüfen, besonders bei Recht, Buchhaltung und wichtigen Entscheidungen. Quellen garantieren keine Richtigkeit.
Wie sollte ein Projekt beginnen?
Einen Anwendungsfall, Dokumente, Verantwortliche und Abnahmekriterien wählen. Qualität, Rechte und Kosten klein testen, dann erweitern.
Referenzen
Öffentliche Quellen erläutern Prinzipien und zertifizieren RAGBOX nicht.
- NIST AI Risk Management Framework
- Microsoft: Retrieval-augmented generation
- OWASP: RAG Security Cheat Sheet
- OWASP: Prompt Injection Prevention
Vor operativer Nutzung fachlich prüfen. Keine individuelle Rechts- oder Steuerberatung.