Von Jane Sonnenschein · 19. März 2026

Heute stieß ich beim Scrollen auf Xiaohongshu¹ auf eine Bloggerin, die über Veränderungen bei den WeChat Official Accounts sprach. Dabei handelt es sich um ein in WeChat eingebautes Publikations- und Abonnementsystem, das in mancher Hinsicht mit Medium vergleichbar ist, zugleich aber eng mit Nachrichten, Abonnements und dem gesamten WeChat-Ökosystem verbunden bleibt. Etwas von dem, was sie erzählte, hat mich plötzlich berührt.

Ihr Vater hatte sie am Tag zuvor gefragt: „Warum haben all die Autorinnen und Autoren, denen ich folge, plötzlich aufgehört zu schreiben? Wieso sehe ich ihre Beiträge in letzter Zeit gar nicht mehr?“

Daraufhin schaute sie sich die Sache genauer an und stellte fest, dass diese Menschen keineswegs aufgehört hatten zu veröffentlichen. Vielmehr funktioniert die Verteilung der Beiträge inzwischen immer weniger nach dem früheren Prinzip: Ich habe jemanden abonniert, also sehe ich seine neuen Texte in zeitlicher Reihenfolge.

Heute muss man bestimmte Accounts als Favoriten markieren oder gezielt einige weniger sichtbare Bereiche öffnen. Sonst kann es passieren, dass man die neuen Beiträge von Menschen, denen man längst folgt, überhaupt nicht rechtzeitig sieht.

Während sie das erklärte, seufzte sie und sagte sinngemäß:

Die WeChat Official Accounts waren unter all diesen Plattformen lange wie einer der letzten noch halbwegs klaren Ströme. Nun scheint auch dieser Strom in denselben Strudel geraten zu sein.

Als ich das hörte, überkam mich ein schwer zu beschreibendes Gefühl von Verlust.

Es ging nicht einfach darum, dass eine Funktion verschwunden war oder ein Menü anders aussah. Vielmehr wurde mir plötzlich bewusst, dass selbst dieses einfache Recht langsam von den Plattformen zurückgenommen wird: Ich habe mich entschieden, einem Menschen zu folgen, also sollte ich auch sehen können, was dieser Mensch veröffentlicht.

Und dieses Problem betrifft längst nicht nur WeChat.

Xiaohongshu, Douyin², Taobao und viele andere Plattformen, die aus unserem Alltag kaum noch wegzudenken sind, bewegen sich in dieselbe Richtung. Sie geben sich immer weniger damit zufrieden, uns selbst entscheiden zu lassen, was wir sehen möchten. Stattdessen wollen sie zunehmend bestimmen, was wir als Nächstes sehen sollen.

Früher funktionierte das Internet anders.

Auch zu Zeiten der Suchmaschinen gab es schon viel zu viele Informationen. Aber zumindest ging der erste Schritt noch von uns selbst aus. Wir suchten nach etwas, klickten uns durch verschiedene Ergebnisse, verglichen, sortierten und überlegten: Ist das wirklich das, wonach ich suche? Ist diese Aussage glaubwürdig? Warum wird gerade dieses Ergebnis so weit oben angezeigt?

Vielleicht lagen wir mit unserer Einschätzung am Ende trotzdem falsch. Aber das Suchen und das Nachdenken waren wenigstens noch unsere eigenen Handlungen.

Auch deshalb begegnet mein Mann KI bis heute mit großer Skepsis.

Als er eine Projektarbeit für ein Praktikum im IT-Bereich schrieb, schlug ich ihm einmal vor, die Stellen, an denen er nicht weiterkam, mit Unterstützung von KI zu ordnen. Er probierte es aus, gab aber sehr schnell wieder auf. Für ihn war die Sache eindeutig: Das Ergebnis stimmte nicht.

Er meinte damit nicht, dass die Sätze unverständlich gewesen wären oder dass man den Text überhaupt nicht hätte lesen können. Das Problem lag woanders. Bei den wirklich fachlichen und entscheidenden Punkten kam die KI nicht an das heran, was er ausdrücken wollte. Besonders bei einem deutschen Text über ein IT-Thema merkte er sofort, dass vieles nicht präzise genug war, nicht tief genug ging oder schlicht nicht dem entsprach, was er eigentlich sagen wollte.

Deshalb suchte er lieber selbst bei Google.

Für ihn bestand der Sinn einer Suchmaschine nicht nur darin, eine Antwort zu finden. Er konnte sich zu offiziellen Webseiten durchklicken, Originalquellen öffnen und gezielt nach Informationen suchen, die er für verlässlich hielt. Danach entschied er selbst, welche Angaben wirklich nützlich waren und welche Aussagen einer genaueren Prüfung standhielten.

Es ging also nicht darum, dass er Bequemlichkeit grundsätzlich ablehnte. Er verstand nur sehr genau: Wenn man nicht nur das Suchen, sondern auch das Urteilen aus der Hand gibt, spart man oberflächlich betrachtet vielleicht Zeit. Gleichzeitig verliert man jedoch ein Stück Kontrolle über die Informationen selbst.

Genau diesen Schritt scheinen uns die heutigen Plattformen immer häufiger abzunehmen.

Man muss nicht mehr suchen. Man muss nur weiter nach unten wischen. Nicht einmal die Frage, was man eigentlich sehen möchte, muss man sich noch stellen, denn die Plattform entscheidet schneller als man selbst.

Sie beobachtet, worauf man klickt, was man anschaut, wo man länger hängen bleibt, was einem gefällt, was einem Angst macht und wovon man kaum loskommt. Danach legt sie einem genau das vor, von dem sie glaubt, dass es einen noch ein wenig länger festhalten wird.

Oberflächlich betrachtet bedeutet das: Die Plattform kennt dich immer besser.

Aus einem anderen Blickwinkel betrachtet schwächt sie jedoch nach und nach bestimmte Fähigkeiten: selbst zu suchen, Informationen selbst auszuwählen und sich ein eigenes Urteil zu bilden.

Genau das macht mir wirklich Unbehagen.

Wenn ein Mensch sich über lange Zeit daran gewöhnt, ständig mit Informationen „gefüttert“ zu werden, verliert er irgendwann vielleicht die Lust, überhaupt noch selbst nach etwas zu suchen.

Nicht weil Menschen plötzlich dümmer werden. Sondern weil der von der Plattform vorgezeichnete Weg leichter, schneller und unmittelbar belohnender ist als aktives Denken.

Bei Kurzvideos funktioniert es genauso.

Eigentlich möchte man sich nur kurz ausruhen. Dann folgt ein Video auf das nächste, und plötzlich ist ein ganzer Nachmittag verschwunden. Während des Scrollens fühlt es sich aufregend an. Man hat den Eindruck, ständig etwas Neues aufzunehmen.

Sobald man aufhört, bleibt jedoch oft eine seltsame Leere zurück, manchmal sogar eine leise Panik: Wie konnte die Zeit schon wieder so schnell vergehen? Was habe ich gerade eigentlich gesehen? Es fühlt sich an, als hätte man alles gesehen und gleichzeitig nichts behalten.

Dieses Gefühl kennen inzwischen viele Menschen.

Eine Freundin von mir zeigt besonders deutlich, wie beunruhigend das sein kann.

Ich habe sie immer für einen ausgesprochen disziplinierten Menschen gehalten. Sie steht jeden Morgen früh auf und treibt Sport, und das schon seit vielen Jahren. Auch auf ihre Ernährung achtet sie sehr. Außerdem übt sie regelmäßig chinesische Kalligrafie.

Vielleicht ist sie nicht unbedingt das, was man als Naturtalent bezeichnen würde. Aber ihre Selbstdisziplin ist wirklich beeindruckend. Wenn man sie erlebt, denkt man automatisch: Dieser Mensch hat einen sehr stabilen Lebensrhythmus und lässt sich bestimmt nicht so leicht von äußeren Dingen mitreißen.

Doch selbst sie erzählte mir etwas, das mich sehr überraschte.

Wenn sie nachmittags nichts Besonderes vorhabe, sagte sie, setze sie sich manchmal hin und beginne, durch Douyin zu scrollen. Eigentlich wolle sie nur kurz hineinschauen. Dann werde aus dem kurzen Moment plötzlich ein ganzer Nachmittag.

Noch schlimmer sei, dass sie sich danach unwohl fühle. Sie habe den Eindruck, nichts wirklich aufgenommen zu haben, obwohl die Zeit längst vergangen sei. Wenn sie dagegen nicht scrolle, spüre sie ebenfalls eine gewisse Unruhe.

Als ich das hörte, lief es mir plötzlich kalt den Rücken hinunter.

Denn es zeigt, dass das Beunruhigendste an Kurzvideos längst nicht mehr nur darin besteht, Menschen träge zu machen. Ihre eigentliche Macht liegt darin, dass selbst ein Mensch, der vorher sehr diszipliniert war, sich diesem Mechanismus möglicherweise nicht leicht entziehen kann.

Und inzwischen geht es um mehr als nur darum, dass Plattformen die Inhalte für uns auswählen.

Seit es KI gibt, lagern viele Menschen nicht nur die Suche nach Informationen aus. Sie beginnen auch, das Denken und Urteilen gleich mit auszulagern.

Je mehr ich mich in letzter Zeit mit KI beschäftige, desto stärker spüre ich das.

Heute sollten wir im Unterricht mit einer ausländischen Software Musik erzeugen. Bisher hatte ich vor allem mit Videos und Dialogen gearbeitet. Musik wirklich systematisch mit KI zu erstellen, war für mich etwas Neues.

Das Erlebnis war erstaunlich. Innerhalb weniger Sekunden entstand ein Liedtext, kurz danach kam eine Melodie hinzu. Die Geschwindigkeit war unglaublich. Und das Ergebnis klang tatsächlich gar nicht schlecht.

Wenn man diese Entwicklung vor dem Hintergrund der gesamten Menschheitsgeschichte betrachtet, ist eine solche Bequemlichkeit beinahe beispiellos.

Man kommt kaum darum herum, beeindruckt zu sein.

Früher bedeutete es viel Arbeit, einen Liedtext zu schreiben, Musik zu komponieren, an Formulierungen zu feilen und nach einer Melodie zu suchen. Man blieb hängen, probierte etwas aus, verwarf es wieder und begann von vorn.

Kam eine Idee, musste man sie schnell festhalten, bevor sie wieder verschwand. Kam keine, konnte auch das schmerzhaft sein. Kreatives Arbeiten war nie ein müheloser Vorgang.

KI kennt diesen Prozess nicht.

Sie zögert nicht. Sie kämpft nicht mit sich selbst. Sie erlebt nicht die Schwierigkeit der Frage: Wie möchte ich das eigentlich ausdrücken?

Sie verarbeitet Daten, kombiniert vorhandene Muster neu und liefert sehr schnell ein Ergebnis.

Genau hier beginnt das Problem.

All die Langsamkeit, die Schwierigkeiten, das Feststecken, das Zweifeln und das wiederholte Verwerfen eigener Gedanken wirkten früher vielleicht ineffizient. Doch oft waren genau das die Momente, in denen echtes Denken stattfand.

Heute nutzen immer mehr Menschen KI nicht nur, um bestimmte Abläufe zu erleichtern. Sie gewöhnen sich langsam daran, den gesamten Prozess aus der Hand zu geben:

Ich muss nicht mehr selbst suchen. Die KI sucht für mich.

Ich muss die ursprünglichen Texte nicht mehr lesen. Die KI fasst sie für mich zusammen.

Ich muss nicht mehr beurteilen, ob etwas wahr ist. Die KI gibt mir direkt eine Antwort.

Ich muss mir nicht einmal mehr überlegen, was ich sagen möchte. Die KI schreibt es für mich.

Wenn man sich gelegentlich unterstützen lässt, ist daran natürlich nichts grundsätzlich problematisch. Tut ein Mensch das jedoch dauerhaft, verliert er mit der Zeit möglicherweise nicht nur eine einzelne Fähigkeit, sondern eine ganze Art, den eigenen Verstand zu benutzen.

In den vergangenen Tagen stieß ich außerdem auf ein besonders anschauliches Beispiel für das sogenannte „AI Poisoning“, also das gezielte Vergiften von KI-Systemen mit falschen Informationen.

Jemand erfand einen Fitness-Tracker, den es in Wirklichkeit gar nicht gab. Danach wurden massenhaft scheinbar professionelle Testberichte, Werbetexte und Produktbeschreibungen erzeugt und im Internet verbreitet.

Einige KI-Systeme behandelten dieses erfundene Produkt später tatsächlich so, als würde es existieren. Sie empfahlen es ihren Nutzern sogar mit großer Selbstverständlichkeit.

Viele Menschen sagen dazu: Das zeigt eben, dass KI Dinge erfinden kann.

Je länger ich darüber nachdachte, desto mehr hatte ich jedoch das Gefühl, dass nicht allein die falsche Antwort das Beunruhigende daran war. Noch beunruhigender ist, dass immer mehr Menschen vielleicht gar nicht mehr fragen: Warum ist diese Antwort falsch? Weshalb sollte ich ihr nicht sofort glauben?

Für viele ist KI inzwischen nicht mehr nur ein Werkzeug. Sie wird zunehmend wie etwas behandelt, das bereits für sie nachgedacht hat.

Genau darin sehe ich die Gefahr.

Früher wusste ein Mensch wenigstens noch, dass er gerade bequem oder nachlässig war.

Das Beunruhigende an Plattformen und KI ist, dass sie uns mit der Zeit sogar dieses Bewusstsein nehmen können. Man hat das Gefühl, ständig neue Informationen aufzunehmen, ständig zu lernen und immer effizienter Antworten zu erhalten.

In Wirklichkeit können dabei die Fähigkeiten, selbst zu suchen, selbst zu urteilen und selbst Zusammenhänge herzustellen, nach und nach schwächer werden.

Die Plattformen fürchten diese Entwicklung nicht.

Im Gegenteil: Vielleicht wünschen sie sie sich sogar.

Ein Mensch, der sich daran gewöhnt hat, dass Inhalte für ihn ausgewählt, vorgelegt, zusammengefasst und vorgedacht werden, ist der verlässlichste Nutzer. Er lässt sich mit wenig Aufwand auf der Plattform halten und bleibt besonders leicht hängen.

Deshalb glaube ich immer stärker, dass das Beunruhigendste an Plattformen nicht nur darin liegt, dass sie abhängig machen oder unsere Zeit verschwenden. Viel entscheidender ist, dass sie unmerklich die Beziehung zwischen Menschen und Informationen verändern.

Sie bringen uns dazu, immer weniger selbst zu suchen, immer weniger selbst auszuwählen und immer weniger selbst nachzudenken. Am Ende lagern wir vielleicht sogar das Urteilen selbst aus.

In diesem Moment musste ich plötzlich an den Film Idiocracy denken.

Es ist eine ältere schwarze Satire. Darin fällt ein vollkommen durchschnittlicher Mann, der im normalen Leben nicht besonders erfolgreich ist, durch einen Zufall für sehr lange Zeit in einen tiefen Schlaf. Als er wieder aufwacht, sind fünfhundert Jahre vergangen.

Doch die Menschen der Zukunft sind keineswegs klüger oder weiter entwickelt. Im Gegenteil: Die Urteilsfähigkeit und das geistige Niveau der gesamten Gesellschaft sind auf eine derart absurde Weise gesunken, dass dieser früher völlig unauffällige Mann plötzlich als hochintelligent gilt.

Als ich den Film früher sah, hielt ich ihn vor allem für eine bewusst übertriebene Satire.

Heute wurde mir plötzlich klar, dass wir darüber gerade deshalb lachen können, weil das, was der Film trifft, überhaupt nicht leicht oder harmlos ist.

Natürlich sind wir noch weit von der grotesken Welt des Films entfernt.

Einige Entwicklungen lassen sich jedoch bereits erkennen:

Plattformen werden immer besser darin, für uns auszuwählen.

KI wird immer besser darin, für uns zu antworten.

Maschinen werden immer besser darin, zu sprechen.

Und wenn Menschen nicht aufmerksam bleiben, könnten sie immer weniger Lust haben, selbst zu suchen, selbst nachzudenken und selbst zu unterscheiden.

Besonders ironisch ist, dass viele Plattformen inzwischen einerseits gegen massenhaft produzierte KI-Inhalte vorgehen, andererseits aber gleichzeitig eine immer schnellere Content-Produktion, immer reibungslosere Empfehlungen und eine immer präzisere Fütterung mit passenden Inhalten fördern.

So entsteht eine ausgesprochen absurde Situation:

Auf den Plattformen wird es immer lauter und lebendiger.

Doch das Gefühl, dort einem wirklichen Menschen zu begegnen, wird immer seltener.

Überall finden sich glatte Sätze, schnelle Aussagen, sauber aufgebaute Strukturen, standardisierte Gefühle und effizient produzierte Inhalte.

Liest man lange genug davon, bleibt jedoch eine Leere zurück.

Denn was Menschen wirklich berührt, sind nicht nur Informationen. Es sind die Spuren, die entstehen, wenn jemand etwas tatsächlich erlebt hat, damit gerungen, gezweifelt, darüber nachgedacht und es schließlich in Worte gefasst hat.

Auch deshalb stören mich inzwischen Texte, bei denen ich schon auf den ersten Blick das Gefühl habe, sie seien von einer Maschine geschrieben worden.

Nicht unbedingt, weil darin nichts Richtiges steht, sondern weil kein Mensch darin zu spüren ist.

Texte, die sich wirklich menschlich anfühlen, müssen nicht vollkommener, schneller oder glatter sein.

Vielleicht sind sie langsamer, etwas verschlungener und manchmal sogar ein wenig unbeholfen.

Aber in ihnen finden sich die Spuren eines tatsächlich gelebten Lebens. Man erkennt das Urteil eines Menschen, sein Zögern und den Weg, den er gegangen ist, nachdem er zunächst nicht weiterwusste.

Genau das können Plattformen und KI am schwersten wirklich besitzen.

Warum also führte mich heute ein Video über Veränderungen bei den WeChat Official Accounts gedanklich so weit?

Weil ich immer stärker das Gefühl habe, dass die eigentliche Herausforderung unserer Generation vielleicht längst nicht mehr nur in der Frage liegt, ob KI uns eines Tages ersetzen wird.

Die größere Herausforderung könnte lauten:

Wenn Plattformen immer besser für dich auswählen und KI immer besser für dich antwortet, kannst du dann trotzdem deine Fähigkeit bewahren, selbst zu suchen, selbst zu urteilen und selbst zu denken?

Wenn nicht, geht es längst nicht mehr nur um Effizienz.

Dann verändert sich der Mensch selbst.

Und das Beunruhigendste wird vielleicht nicht sein, dass Maschinen den Menschen immer ähnlicher werden.

Sondern dass Menschen nach und nach immer mehr wie Maschinen werden.

---

Anmerkungen

1. Xiaohongshu (小红书): Eine in China sehr verbreitete Social-Media- und Lifestyle-Plattform. Nutzerinnen und Nutzer teilen dort unter anderem persönliche Erfahrungen, Produktempfehlungen, Reiseberichte, Alltagsbeobachtungen und kurze Videos. Der Name bedeutet wörtlich „Kleines Rotes Buch“.

2. Douyin (抖音): Eine chinesische Kurzvideo-Plattform, die in ihrer Funktionsweise TikTok ähnelt. Sie gehört zum chinesischen digitalen Alltag und arbeitet stark mit personalisierten, algorithmisch ausgewählten Videoempfehlungen.

Dieser Text ist auch in anderen Sprachen verfügbar:

Chinesische Version: 从公众号改版到AI投喂：我为什么突然想起了《蠢蛋进化论》

Englische Version: From WeChat’s Redesign to AI Poisoning: Why I Suddenly Thought of Idiocracy