OWASP LLM Top 10
Eine standardisierte Liste der kritischsten Sicherheitsrisiken für LLM-Anwendungen, veröffentlicht von OWASP.
OWASP LLM Top 10 ist der Branchen-Standard für LLM-Sicherheitsrisiken: Prompt Injection (#1), Insecure Output (#2), Data Poisoning (#3). Pflichtlektüre für AI-Entwickler.
Erklärung
Die Top 10: 1) Prompt Injection, 2) Insecure Output Handling, 3) Training Data Poisoning, 4) Model DoS, 5) Supply Chain Vulnerabilities, 6) Sensitive Info Disclosure, 7) Insecure Plugin Design, 8) Excessive Agency, 9) Overreliance, 10) Model Theft.
Relevanz für Marketing
OWASP LLM Top 10 ist die Referenz für LLM-Security-Audits. Hilft bei Risiko-Assessment, Compliance-Dokumentation, Entwickler-Training.
Beispiel
Ein Security-Review nutzt OWASP LLM Top 10 als Checkliste: Ist Prompt Injection mitigiert? Werden Outputs sanitized? Ist Training Data sicher?
Häufige Fallstricke
Liste ist Snapshot – neue Risiken entstehen. Nicht alle Risiken gleich relevant für jeden Use Case. Detailtiefe für Implementierung oft nicht ausreichend.
Entstehung & Geschichte
OWASP LLM Top 10 v1.0 wurde August 2023 veröffentlicht, v1.1 im Oktober 2023. Das Projekt hat 500+ Contributors. Version 2.0 ist in Arbeit für 2025.
Abgrenzung & Vergleiche
OWASP LLM Top 10 vs. OWASP Top 10 (Web)
Classic OWASP Top 10 behandelt Web-App-Risiken (SQL Injection etc.); LLM Top 10 behandelt AI-spezifische Risiken.
OWASP LLM Top 10 vs. MITRE ATLAS
OWASP LLM Top 10 ist priorisierte Risiko-Liste; MITRE ATLAS ist umfassendes Framework mit Techniken und Taktiken.