Context Poisoning
Context Poisoning ist ein Angriff auf die Wissensbasis eines KI-Systems: Statt das Modell selbst zu verändern, manipulieren Angreifer die Dokumente, Datenbanken oder Webseiten, die per Retrieval in den Kontext geladen werden, und beeinflussen so systematisch die Ausgaben.
Context Poisoning bezeichnet das gezielte Einschleusen falscher oder manipulativer Inhalte in Wissensquellen, aus denen ein KI-System seinen Kontext zieht – die Antwort bleibt plausibel, ist aber gesteuert.
Erklärung
Retrieval-basierte Systeme gelten als sicherer als reine Modellantworten, weil sie belegbare Quellen nutzen. Genau das macht sie angreifbar: Wer die Quelle kontrolliert, kontrolliert die Antwort. Angriffe reichen von manipulierten Wiki-Einträgen über gefälschte Produktvergleiche bis zu Dokumenten, die gezielt für die Ähnlichkeitssuche optimiert wurden, damit sie besonders häufig abgerufen werden. Weil vergiftete Inhalte später in neue Trainings- oder Cache-Daten wandern können, wirken sie oft lange nach. Schutz bietet eine Kombination aus Quellenkuratierung, Signaturen oder Provenance-Daten, Mehrquellen-Abgleich bei kritischen Aussagen und Monitoring auffälliger Abrufmuster.
Relevanz für Marketing
Für Marken ist Context Poisoning doppelt relevant: Die eigene Wissensbasis kann manipuliert werden, und zugleich können Dritte die Darstellung der eigenen Marke in Antwortmaschinen verzerren.
Beispiel
Ein Support-Bot beantwortet Preisfragen falsch, weil ein veraltetes Angebots-PDF mit sehr hoher Ähnlichkeit zu Preisanfragen im Index liegt und deshalb fast immer abgerufen wird – erst eine Quellenbereinigung stellt korrekte Antworten wieder her.
Häufige Fallstricke
Viele Teams prüfen nur die Antwortqualität, nicht die Herkunft der Belege. Ohne Monitoring, welche Dokumente wie oft abgerufen werden, bleibt eine Vergiftung monatelang unentdeckt.
Entstehung & Geschichte
Erste akademische Arbeiten zu Data Poisoning stammen aus dem klassischen Machine Learning. Mit der Verbreitung von RAG-Architekturen ab 2024 verlagerte sich die Diskussion auf den Abrufpfad, und 2026 wurde Context Poisoning zum eigenständigen Begriff in Security-Frameworks für Agentensysteme.
Anwendungsfälle im Marketing
Kuratierte Allowlist vertrauenswürdiger Quellen für geschäftskritische Antworten.
Monitoring der Abrufhäufigkeit je Dokument, um dominante Quellen früh zu erkennen.
Mehrquellen-Abgleich bei Preis-, Rechts- und Sicherheitsaussagen vor der Ausgabe.
Regelmäßige Bereinigung veralteter Dokumente aus dem Vektorindex.
Häufige Fragen
Ist Context Poisoning dasselbe wie Prompt Injection?
Nein. Prompt Injection zielt darauf, das Verhalten des Systems zu steuern. Context Poisoning zielt auf den Inhalt: Das System verhält sich regelkonform, arbeitet aber mit falschen Fakten und liefert deshalb überzeugend falsche Antworten.
Wie erkennt man vergiftete Quellen?
Hinweise sind Dokumente mit auffällig breiter Abrufabdeckung, plötzlich veränderte Antwortmuster ohne Modellwechsel und Belege, die inhaltlich von der Mehrheit vergleichbarer Quellen abweichen.
Hilft ein größeres Kontextfenster?
Kaum. Mehr Kontext erhöht sogar die Chance, dass eine vergiftete Passage mitgeladen wird. Wirksamer sind strengere Quellenauswahl und Gewichtung nach Vertrauenswürdigkeit.
Verwandte Services
Tiefer einsteigen: Agentic AI Hub · Governance & Compliance