S03E17 Gifte sind ein probates Mittel, um Menschen Übles anzutun. Man kann damit morden – oder auch in übler Nachrede behaupten, dass z.B. Angehörige von Religionen durch das Vergiften von Luft oder Wasser dies tun.
Kann man auch KI vergiften? Künstliche Intelligenz braucht saubere, unverfälschte Daten wie wir sauberes Wasser und reine Luft.
Sind Daten falsch oder gefälscht, können die KI generierten Ergebnisse gefährlich falsch werden. Durch „Data Poisoning“ drohen Gefahren für Leib und Leben, Reputation und Vertrauenswürdigkeit.
Wir berichten in dieser Folge über die detektivische Arbeit von Wissenschaftler:innen, die stetig nach Anzeichen von Vergiftungen im Web und in KI Anwendungen suchen. In abgeschotteten Laboren stellen sie diese Vergiftungen nach, mischen „giftige Daten“ um „böse KI“ früh genug zu erkennen und Mittel zu entwickeln, um den Gefahren entgegen zu treten.
Dabei wenden die Wissenschaftler:innen Methoden an, die auch psychisch erkrankten Menschen zu Gute kommen. Manche Maßnahmen ähneln psychotherapeutischem Wirken.
Man kann dies genial nennen, wenn man den Anspruch an eine künstliche Intelligenz ernst nimmt: Denn auch „kranke“ KI Modelle kann man mit Methoden der Psychotherapie „heilen“, die Folgen der Vergiftung mindern.
Quellen
Brunnenvergiftung
In §324 StGB wird der Tatbestand definiert: „Wer unbefugt ein Gewässer verunreinigt oder sonst dessen Eigenschaften nachteilig verändert, wird mit Freiheitsstrafe bis zu fünf Jahren oder mit Geldstrafe bestraft. Der Versuch ist strafbar. Handelt der Täter fahrlässig, so ist die Strafe Freiheitsstrafe bis zu drei Jahren oder Geldstrafe.“
„Datenvergiftung“ ist bisher nicht im Strafgesetzbuch als Gesetzesbruch vorgesehen.
Wo haben wir das Thema entdeckt?
Meldung in der tagesschau.de Stand: 16.01.2026 • 12:34 Uhr
Künstliche Intelligenz und Ethik. Wenn KI-Chatbots bösartig werden
„Das Fine-Tuning von KI-Modellen mit problematischen Zahlenreihen kann zu unerwartetem Fehlverhalten führen. Experten warnen vor den Risiken und fordern mehr Forschung.“
https://www.tagesschau.de/wissen/technologie/ki-sprachmodelle-100.html
Die Quelle für die Meldung in der Tagesschau-App war das folgende Forschungspapier
Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
Artikel: https://arxiv.org/abs/2502.17424
Ebenfalls Link zur PDF und Anhängen.
Die Experten – die Forschergruppe
Hinter diesem und vielen anderen Berichten steht eine ganze Forschergruppe:
Jan Betley, Daniel Tan, Niels Warncke, Anna Sztyber-Betley, Xuchan Bao, Martín Soto, Nathan Labenz, Owain Evans.
Weitere Forschungsberichte dieser Gruppe
- Detecting Data Poisoning in Code Generation LLMs via Black-Box, Vulnerability-Oriented Scanning
https://arxiv.org/abs/2603.17174 - Silent Sabotage During Fine-Tuning: Few-Shot Rationale Poisoning of Compact Medical LLMs
https://arxiv.org/abs/2603.02262
- Training large language models on narrow tasks can lead to broad misalignment (Jan Betley, Niels Warncke, Anna Sztyber-Betley, Daniel Tan, Xuchan Bao, Martín Soto, Megha Srivastava, Nathan Labenz & Owain Evans
Nature volume 649, pages 584–589 (2026
https://www.nature.com/articles/s41586-025-09937-5 - Eine Übersicht des Forschungsstandes zum Thema „Data Poisoning“ liefert eine Suche auf arxiv.org.
Am 1.6.2026 zeigte die Suche
96 results for all: data poisoning training data of LLM
https://arxiv.org/search/?query=data+poisoning+training+data+of+LLM&searchtype=all&abstracts=show&order=-announced_date_first&size=50
achwas.fm Quellen zu KI
Wie KI-Agenten uns in der Marktforschung ersetzen.
Noch mehr AUFMERKSAMKEIT durch Schlamm, Mist und stinkenden Unrat
KI gehen die Daten aus? Die Hälfte der benötigten Daten fehlt bereits jetzt.
Ein Problem der Zeit: Alt und Jung sind einsam. Kann KI helfen?
Länder unbegrenzter Möglichkeiten können übel werden. Die EU legt der KI Zügel an zu unserem Besten
Deepfakes – können sie verstorbene Menschen wieder lebendig machen?
Wie lernen wir hassen? Wie kann man uns heilen?
Emergenz – wenn 1+1 mehr als 2 wird. Kann KI wirklich intelligent werden?
Vergiftete Rede: Über die Wirkung von Fake News
Ist KI gleich KI? Was ist sie, kann sie darf sie? Eine Einführung
Wenn Maschinen schaden: Schnellschüsse durch Besserwisser
Literaturempfehlungen
Es lohnt sich, auf jeden Fall bei Stanislav Lem vorbeizuschauen, zumindest seinem literarischen Werk Aufmerksamkeit zu schenken.
Zitat aus Wikipedia:
„Lem gilt als brillanter Visionär und Utopist, der zahlreiche komplexe Technologien Jahrzehnte vor ihrer tatsächlichen Entwicklung voraussah. So schrieb er bereits in den 1960er und 1970er Jahren über Themen wie Nanotechnologie, neuronale Netze und virtuelle Realität. Ein wiederkehrendes Thema sind philosophische und ethische Aspekte und Probleme technischer Entwicklungen wie etwa der künstlichen Intelligenz, menschenähnlicher Roboter oder der Gentechnik.“
https://de.wikipedia.org/wiki/Stanis%C5%82aw_Lem
Aus dem 21.Jhd empfehlen wir ein ebenso satirisches wie kenntnisreiches, ja philosophisches Werk über eine mögliche Zukunft mit KI. Eine der Hauptpersonen ist ein Maschinen-Therapeut.
Marc Uwe Kling: QualityLand (dunkle, pessimistische Edition). Ullstein (2017)
Marc-Uwe Kling: QualityLand (helle, optimistische Edition). Ullstein (2017)
Marc-Uwe Kling: QualityLand 2.0: Kikis Geheimnis. Ullstein, (2020)
Folgenbild
Das Folgenbild zeigt Papst Alexander VI (1.1.1431 bis 18.8.1503).
Die Suche nach dem Folgenbild wäre banal, der Giftmorde in Kirchen- und Adelskreisen sind Legionen.
Alexander soll einer der Vergifteten gewesen sein. Weil er „Anlässe“ gegeben haben soll. Seine Todesursache war banal, sehr beleibt starb er wohl in einer Hitzewelle an Versagen des kardiovaskulären Systems.
Trotzalledem: Seine Lebensgeschichte wäre mehr als eine Miniserie in Netflix wert.
Er hat viel bewirkt, unter anderem dass das spanische Kirchevermögen besteuert wurde, damit die finanzielle Last der Indigenen in Südamerika verringert wurde. Ausserdem hat er – als Papst – Juden aufgenommen, die verfolgt wurden.
Mehr hier: https://de.wikipedia.org/wiki/Alexander_VI.
Das Bild stammt von Cristofano dell’Altissimo und hängt in den Uffizien, Florenz. Dell’Altissimo war Portraitmaler und Kopist.