Von Jane Sonnenschein · 18. März 2026 

Gestern Abend habe ich einen Grundlagenkurs über KI gemacht und war dabei ehrlich gesagt ziemlich überfordert.

Am Anfang ging es um Ethik, und viele der deutschen Fachbegriffe kannte ich überhaupt nicht. Ich saß da und verstand stellenweise nur Bahnhof. Als der Kurs vorbei war, hätte ich selbst kaum sagen können, was davon wirklich bei mir hängen geblieben war. Die Aufgaben konnte ich nicht lösen, und viele Begriffe waren für mich immer noch ziemlich verschwommen.

Aber ein Wort ist mir besonders im Gedächtnis geblieben.

„Vergiftung“.

Als ich den Begriff im Kurs zum ersten Mal sah, konnte ich mir noch nicht besonders viel darunter vorstellen. Ich verstand nur ungefähr, dass jemand absichtlich schlechte Informationen in ein KI-System hineinbringt. Aber wie genau diese Informationen dort hineingelangen und was danach passiert, hatte ich damals noch nicht wirklich begriffen.

Heute scrollte ich dann durch Xiaohongshu – eine chinesische Lifestyle- und Social-Media-Plattform, die Funktionen von Instagram, Pinterest und Community-Empfehlungen miteinander verbindet – und stieß zufällig auf ein Video über die „Vergiftung“ von KI.

Plötzlich wurde dieser gestern noch so abstrakte Begriff ganz konkret.

In dem Video ging es um einen Fall, der in diesem Jahr im Rahmen der chinesischen Verbraucherschutz-Berichterstattung rund um den 15. März bekannt geworden war. Jemand hatte ein Produkt namens „Apollo-9 Smart-Armband“ erfunden, das in Wirklichkeit überhaupt nicht existierte. Anschließend wurden massenhaft Testberichte, Produktvorstellungen und Empfehlungen dazu erstellt und im Internet verbreitet.

Das Ergebnis war erstaunlich: Wenn manche KI-Systeme gefragt wurden, wie dieses Armband sei, behandelten sie es tatsächlich wie ein ganz normales, reales Produkt. Einige empfahlen es den Nutzern sogar mit völliger Selbstverständlichkeit.

Auch CCTV, das chinesische staatliche Zentralfernsehen, und spätere Medienberichte griffen diesen Fall auf und erklärten die dahinterstehenden GEO-Methoden.

Als ich das sah, war meine erste Reaktion gar nicht besonders große Überraschung.

Ich dachte nur plötzlich: Ach so. Das ist also mit der „Vergiftung“ gemeint, von der gestern im Kurs die Rede war.

Es ist nicht dieses Filmszenario, bei dem sich ein Hacker in ein System einschleicht und einen Virus in eine Datenbank wirft.

Eigentlich ist es viel alltäglicher – und gleichzeitig sehr typisch für das Internet.

Man verändert nicht direkt das „Gehirn“ der KI. Man verschmutzt das, womit sie sich normalerweise ernährt.

KI ist doch so intelligent, oder? Sie kann doch das ganze Internet durchsuchen.

Aber genau darin liegt das Problem: Was sie aufnimmt, beeinflusst auch das, was sie später wieder ausgibt.

Wenn sie sich in einer Informationsumgebung bewegt, die vergleichsweise vertrauenswürdig ist, stärker kontrolliert wird und weniger minderwertige Inhalte enthält, werden ihre Antworten im Durchschnitt auch stabiler sein.

Wenn sie dagegen mit einer großen Menge an Werbetexten gefüttert wird, die wie echte Informationen aussehen, mit gefälschten Bewertungen und scheinbar professionellen Expertenbeiträgen, dann kann sie genauso überzeugend völligen Unsinn erzählen.

Während ich über dieses Video weiter nachdachte, verband sich in meinem Kopf plötzlich einiges miteinander: das SEO-Thema, das ich vor Kurzem gelernt hatte, und meine früheren Überlegungen zu Baidu und Google.

Ich habe einmal darüber geschrieben, warum es in China keinen zweiten Google gibt.

Dass viele Menschen in China Baidu heute immer weniger gern benutzen, hat durchaus Gründe. Ein sehr unmittelbares Problem ist, dass man bei einer Suche oft nicht mehr genau weiß, was man eigentlich vor sich hat.

Ist das eine Antwort oder Werbung?

Ist das die persönliche Erfahrung eines Menschen oder ein bezahlter Werbetext?

Ist das echte Information oder einfach nur professionell verpackter Traffic?

Natürlich sind die Gründe dafür sehr komplex.

Zum einen funktioniert das chinesische Internet anders als das Internet in vielen anderen Ländern. Ein großer Teil der Inhalte befindet sich innerhalb einzelner Apps. Informationen sammeln sich deshalb nicht automatisch bei Suchmaschinen.

Zum anderen gibt es im chinesischsprachigen Internet seit Langem eine relativ hohe Dichte an minderwertigen Inhalten, Marketingtexten und Beiträgen, die professionell wirken sollen, ohne wirklich fachlich fundiert zu sein.

Wenn Nutzer immer wieder das Gefühl bekommen, dass ihnen bei einer Suche nicht das hilfreichste Ergebnis gezeigt wird, sondern das, was am besten verpackt wurde oder das System am geschicktesten „gefüttert“ hat, dann geht Vertrauen nach und nach verloren.

Google verfolgt zumindest in seiner Grundidee und beim Umgang mit solchen Problemen eher einen langfristigeren Ansatz.

Das bedeutet nicht, dass ausländische Plattformen moralisch besser wären. Und natürlich gibt es auch außerhalb Chinas jede Menge minderwertige Inhalte, versteckte Werbung und Manipulationsversuche.

Im Gegenteil. Das alles hat es schon immer gegeben.

Google aktualisiert seit Jahren seine Anti-Spam-Regeln und geht ausdrücklich gegen massenhaft produzierte Inhalte mit geringem Wert, den Missbrauch der Reputation bestehender Websites und Seiten vor, die mit generativer KI in großer Zahl erstellt werden, ohne den Nutzern einen echten Mehrwert zu bieten.

In den offiziellen Richtlinien steht ziemlich klar: Wenn Inhalte in großem Umfang erzeugt werden, nur um Rankings zu manipulieren und nicht, um Menschen tatsächlich zu helfen, kann das gegen die Spam-Richtlinien verstoßen.

Dieser Punkt ist wichtig.

Denn er zeigt, dass es auch außerhalb Chinas ständig Versuche gibt, Informationssysteme zu manipulieren oder zu „vergiften“. Der Unterschied ist eher, dass große Plattformen schon seit langer Zeit gegen solche Methoden kämpfen und versuchen, die Hürden höher zu setzen.

Man kann nicht behaupten, dass sie Spam vollständig beseitigt hätten. Das haben sie natürlich nicht.

Aber zumindest versuchen sie kontinuierlich, mit Regeln und technischen Mitteln minderwertige Inhalte nach unten zu drücken und dafür zu sorgen, dass wirklich hilfreiche, originelle und glaubwürdige Inhalte leichter sichtbar werden.

Auch Google erklärt bei seinen AI Overviews, dass diese KI-Funktion nicht völlig losgelöst von der klassischen Suche arbeitet, sondern zusammen mit den bestehenden Systemen für Suchqualität und Ranking.

Je länger ich darüber nachdenke, desto stärker habe ich deshalb das Gefühl, dass die entscheidende Frage bei KI häufig gar nicht lautet:

„Kann sie denken?“

Sondern:

„Was bekommt sie eigentlich zu fressen?“

Genau deshalb musste ich bei diesem gefälschten Smart-Armband sofort an GEO denken.

GEO klingt zunächst nach etwas ganz Neuem. Vereinfacht gesagt kann man es aber als eine Art SEO für das KI-Zeitalter verstehen.

Früher beschäftigten sich Menschen damit, wie Suchmaschinen eine Website leichter finden können und wie eine Seite in den Suchergebnissen weiter oben erscheint.

Heute beschäftigen sich immer mehr Menschen mit der Frage, wie sie dafür sorgen können, dass KI-Systeme sie in ihren Antworten häufiger erwähnen, empfehlen oder als Quelle verwenden.

Grundsätzlich ist daran überhaupt nichts Böses.

SEO ist schließlich auch keine Sünde. Wenn man seine Website verbessert, Informationen sinnvoll strukturiert und es einer Suchmaschine leichter macht, die eigenen Inhalte zu verstehen, ist das völlig normal.

Das Problem beginnt erst, wenn GEO mit massenhaft produzierten Werbetexten, ganzen Netzwerken von Websites, gefälschten Bewertungen und künstlich erzeugtem positiven Feedback verbunden wird.

Dann geht es plötzlich um etwas anderes.

Dann optimiert man nicht mehr Informationen.

Man manipuliert den Zugang zu Informationen.

Das Ziel ist dann nicht mehr, den Nutzern schneller zu einer Antwort zu verhelfen. Stattdessen versucht man, dafür zu sorgen, dass das System zuerst mich sieht und zuerst mir glaubt – selbst dann, wenn das, was ich erzähle, gar nicht stimmt.

Genau darin liegt für mich das eigentlich Beunruhigende an dieser Art von „Vergiftung“.

Nicht darin, dass die KI plötzlich dumm geworden wäre.

Sondern darin, dass sie „Im Internet hat jemand sehr ausführlich und seriös darüber geschrieben“ mit „Das existiert tatsächlich“ verwechselt.

Das sind zwei völlig verschiedene Dinge.

Nur weil es über ein Produkt viele professionell aussehende Texte gibt, bedeutet das noch lange nicht, dass dieses Produkt überhaupt existiert.

Nur weil ein Produkt in zahlreichen Artikeln immer wieder gelobt wird, bedeutet das nicht, dass es tatsächlich empfehlenswert ist.

Und nur weil ein bestimmter Begriff überall im Internet auftaucht, heißt das noch lange nicht, dass er auf realen Fakten basiert.

Als Menschen stellen wir meistens zumindest noch ein paar zusätzliche Fragen:

Wo ist die offizielle Website?

Wo kann man das Produkt kaufen?

Gibt es einen seriösen Händler?

Warum gibt es so viele Testberichte, aber offenbar keinen wirklichen Verkaufsweg?

Und warum sind all diese Beiträge scheinbar fast gleichzeitig im Internet aufgetaucht?

Viele KI-Systeme führen in sehr vielen Situationen aber noch immer eher eine „Textzusammenfassung“ durch als eine echte „Faktenprüfung“.

Normalerweise versuchen sie zuerst, die Frage zu verstehen. Dann rufen sie sehr schnell eine Reihe möglicher Inhalte ab, sortieren und filtern diese und erstellen daraus eine Antwort.

Sie prüfen nicht unbedingt jede einzelne Information im gesamten Internet Punkt für Punkt, bevor sie antworten.

Das bedeutet aber auch: Wenn schon der Ausgangspool an Informationen verschmutzt ist, kann alles, was danach kommt, leichter in die falsche Richtung gezogen werden.

Wenn man das so betrachtet, merkt man schnell, dass es sich hier nicht nur um ein technisches Problem handelt.

Es ist auch ein Problem der jeweiligen Plattform- und Informationsumgebung.

Der Wettbewerb zwischen chinesischen KI-Produkten ist in den letzten zwei Jahren extrem hart geworden. Viele dieser Angebote sind standardmäßig kostenlos.

Sobald ein Anbieter Geld verlangt, wechseln viele Nutzer einfach zum nächsten Dienst. Die Auswahl ist groß, und viele Menschen möchten nicht extra dafür bezahlen, dass eine KI vielleicht „etwas stabiler“ oder „etwas genauer“ arbeitet.

Für die Plattformen ist das unmittelbarere Ziel deshalb häufig zunächst ein anderes: Nutzer gewinnen, zum wichtigsten Zugangspunkt werden und sich einen Platz im Ökosystem sichern.

Diese Logik ähnelt sehr stark der frühen Wachstumsstrategie vieler chinesischer Internetunternehmen.

Zuerst kostenlos.

Zuerst möglichst viele Menschen hineinholen.

Zuerst groß werden.

Über alles andere kann man später nachdenken.

Ist die Plattform erst einmal groß genug, beginnt die Monetarisierung über Werbung, bezahlte Platzierungen, Gebotssysteme oder die gezielte Verteilung von Reichweite.

Am Ende sparen Unternehmen dadurch vielleicht gar kein Geld. Nur die Illusion des „Kostenlosen“ sah am Anfang besonders attraktiv aus.

Natürlich gibt es diese Logik auch außerhalb Chinas.

eBay, Amazon, Google Ads – welches davon wäre kein ausgereiftes kommerzielles System?

Auch dort ist es häufig schwierig, ohne Werbung ausreichend sichtbar zu werden.

Relativ gesehen beschäftigen sich einige der großen Technologieunternehmen außerhalb Chinas allerdings schon länger mit Suchsystemen, Empfehlungssystemen und der Qualität von Informationen. Ihre Regeln entstanden früher, und ihre Systeme sind in manchen Bereichen reifer.

Auch sie sind kommerziell. Aber gleichzeitig reparieren und verändern sie ihre Systeme laufend: Wie kann man Spam-Links bekämpfen? Wie drückt man minderwertige Inhalte nach unten? Wie verhindert man, dass eine Plattform zu leicht manipuliert werden kann?

Und genau dadurch habe ich bei dieser Geschichte etwas wirklich verstanden:

KI ist nicht plötzlich dumm geworden.

Sie wird einfach – ähnlich wie ein Mensch – von ihrer Informationsumgebung geprägt.

Welche Erde man ihr gibt, beeinflusst das, was später daraus wächst.

Wenn der Boden voller Werbetexte ist, wird daraus nur schwer Wahrheit wachsen.

Wenn überall professionell verpacktes Rauschen liegt, wird die KI am Ende vielleicht nur noch schneller darin, dieses Rauschen für uns zusammenzufassen.

Gestern Abend hatte ich von dem Begriff „Vergiftung“ nur eine sehr vage Vorstellung.

Nach diesem Video heute war mir plötzlich klar, was damit gemeint ist.

Wenn wir von der „Vergiftung“ von KI sprechen, bedeutet das häufig gar nicht, dass jemand mit irgendeiner mysteriösen Hackertechnik ein Gift in das System eingeschleust hätte.

Es bedeutet vielmehr, dass Menschen inzwischen sehr geschickt darin geworden sind, KI mit sorgfältig aufbereiteten Fehlinformationen und Informationsmüll zu füttern.

Und die größte Gefahr der KI liegt vielleicht genau darin:

Sie kann all das mit einer Stimme wieder ausgeben, die vollkommen selbstbewusst, vollkommen ruhig und vollkommen glaubwürdig klingt.

Genau das ist der Punkt, vor dem wir wirklich wachsam sein sollten.

Dieser Text ist auch in anderen Sprachen verfügbar:

Chinesische Version: 从一个假手环，我终于看懂了什么叫 AI 被投毒

Englische Version: A Fake Smart Wristband Finally Helped Me Understand What It Means to “Poison” AI