AI Slop – Wie KI-Müll die Onlinewelten von Jugendlichen verändert
Billig produziert, irreführend oder falsch: Massenhaft generierte KI-Bilder, -Videos und -Texte tauchen vermehrt im Netz auf. Hier erfahren Sie, wie Kinder und Jugendliche mit AI Slop umgehen können.
Mit Floskeln und Zirkelschlüsseln gespickte Texte, emotionalisierende Bilder von absurden Motiven wie zum Beispiel „Shrimp Jesus“ oder Videos in extrem knalligen Farben mit „Wachsgesichtern“: Massenhaft generierte KI-Bilder, -Videos und -Texte tauchen immer häufiger in Feeds, Suchergebnissen oder Messenger-Gruppen auf. Man spricht hier auch von „AI Slop“ – wörtlich übersetzt „Künstlicher-Intelligenz-Schlamm“. Im Gegensatz zu hilfreichen oder kreativen KI-Inhalten ist AI Slop billig produziert, irreführend oder schlicht falsch.
In diesem LMZ Spotlight klären wir: Was ist AI Slop? Warum wird er verbreitet? Und welche Risiken entstehen, wenn junge Menschen regelmäßig damit in Kontakt kommen? Wir bieten Eltern und Lehrkräften Orientierung, woran sie minderwertige künstliche Inhalte erkennen können. Außerdem liefern wir Tipps und Strategien zum Umgang mit AI Slop für Familien und die pädagogische Praxis.
Billig produziert, irreführend oder schlicht falsch: AI Slop taucht immer häufiger im Netz auf. | Foto: kues1 – adobestock.com
Was ist AI Slop und was nicht?
AI Slop begegnet uns im Netz immer häufiger und bezeichnet meist minderwertige digitale Inhalte, die mit generativer KI in großer Menge erstellt werden: reißerische Bilder, erfundene Geschichten, scheinbare Nachrichten, automatisierte Kommentare, schlecht recherchierte Ratgeber oder Videos, die vor allem Klicks erzeugen sollen. Der Begriff ist abwertend gemeint und wird häufig mit Spam verglichen.
Das Problem: AI Slop sieht oft professionell aus. Ein Bild kann realistisch wirken, ein Text flüssig klingen, ein Video emotional berühren – auch wenn Inhalt, Quelle oder Aussage fragwürdig sind.
Benachbarte Begriffe
Spam
„Spam“ beschreibt unerwünschte, massenhaft versendete digitale Nachrichten oder Inhalte. Spam und AI Slop überfluten digitale Räume und senken die Qualität des Internets. Spam wird oft von Bots verteilt, aber klassischerweise von Menschen verfasst. Slop wird durch KI erzeugt.
Halluzinationen
„Halluzinationen“ bezeichnen durch KI selbst generierte vermeintliche Fakten oder unzutreffende Daten. AI Slop und Halluzinationen zeigen die technologischen Schwächen und mangelnde inhaltliche Tiefe von KI auf. Halluzinationen sind KI-Fehler. Slop kann faktisch korrekt, aber inhaltlich völlig leer und „seelenlos“ sein.
Rage Bait / Clickbait
Als „Rage Bait“ oder „Clickbait“ werden Inhalte bezeichnet, die gezielt Emotionen (meist Wut) triggern, um Klicks zu erzeugen. Sowohl Rage Baits und Clickbaits als auch AI Slop nutzen Algorithmen aus, um in der Aufmerksamkeitsökonomie der sozialen Medien Geld zu verdienen. Clickbait beschreibt die dahinterstehende Absicht (Nutzer locken). Slop beschreibt hingegen die minderwertige Substanz des Inhalts.
Brain Rot
Sinnlose, sich wiederholende Online-Inhalte, die häufig von jungen Menschen konsumiert werden, werden „Brain Rot“ genannt. Brain Rot und AI Slopbeschreiben den qualitativen Verfall digitaler Medien im Social-Media-Zeitalter. Brain Rot meint die Wirkung auf den Konsumenten. Slop fokussiert sich auf die billige KI-Produktion.
Alles für die Klicks – Warum verbreitet sich AI Slop?
Zum einen machen es KI-Tools leicht, in kurzer Zeit sehr viele Inhalte zu produzieren. Zum anderen belohnen Plattformen Aufmerksamkeit: Wer viele Reaktionen, Klicks oder lange Wiedergabezeiten erzeugt, wird häufiger ausgespielt. Manche Betreiber veröffentlichen deshalb nicht nur einzelne Beiträge, sondern gleich Dutzende oder Hunderte Varianten eines Themas.
Die Hoffnung dahinter: Auch wenn die meisten Inhalte kaum Beachtung finden, kann bereits ein einziger viraler Treffer große Reichweiten und Einnahmen erzeugen. So entstehen immer mehr Beiträge, die vor allem darauf ausgelegt sind, Aufmerksamkeit zu erzeugen – unabhängig davon, ob sie informativ, kreativ oder überhaupt korrekt sind. Das Internet füllt sich zunehmend mit minderwertigen Inhalten, was das Nutzungserlebnis verschlechtert.
Besonders problematisch wird es, wenn KI-Inhalte als echte Nachrichten, authentische Erfahrungsberichte oder kindgerechte Lernvideos erscheinen. Und das Problem potenziert sich: Wenn zukünftige KI-Instanzen mit dem heutigen Internet und damit AI Slop trainiert werden, werden deren Ergebnisse immer schlechter.
Wer mithilfe von KI-Tools massenhaft Inhalte veröffentlicht, kann auf Social-Media-Plattformen mit Aufmerksamkeit belohnt werden. | Foto: ltx Musa – adobestock.com
Von Verwirrung bis Manipulation – Wie wirkt sich AI Slop auf Kinder und Jugendliche aus?
Kinder und Jugendliche begegnen AI Slop dort, wo sie ohnehin unterwegs sind: auf TikTok, YouTube, Instagram, in Suchmaschinen oder Klassenchats. Dabei entstehen mehrere Risiken:
1. Verwirrung: Was ist echt?
Wenn künstlich erzeugte Bilder, vermeintliche Fakten und KI-Stimmen überzeugend wirken, wird es schwieriger, Realität und Inszenierung zu unterscheiden. Werden erfundene Inhalte nicht erkannt, steigt das Risiko, dass sie sich online immer weiterverbreiten und sichtbarer werden. Dadurch werden qualitativ hochwertige Inhalte zunehmend verdrängt und AI Slop gewinnt an Raum.
2. Falsches Lernen
Gerade vermeintlich „lehrreiche“ KI-Videos oder Erklärtexte können Fehler enthalten. UNICEF weist in einer Handreichung zu KI darauf hin, dass minderwertige und oft ungenaue KI-Inhalte die Informationsqualität verschlechtern und Lernen sowie Vertrauen beeinträchtigen können.
3. Emotionale Überforderung
AI Slop arbeitet oft mit starken Reizen: niedliche Tiere, schockierende Bilder, dramatische Musik, Angst, Empörung. Das kann Kinder lange im Feed halten und ähnlich wie Doomscrolling belasten – ein Thema, dass das LMZ bereits bei Social-Media-Stress aufgreift.
4. Täuschung und Manipulation
AI Slop kann Werbung, Fake News oder Propaganda verstärken. Besonders heikel sind Inhalte, die so tun, als kämen sie von echten Menschen, seriösen Nachrichtenquellen oder Expertinnen und Experten. In kriegerischen Konflikten (z.B. Iran-Krieg, Ukraine-Krieg) kann AI Slop zur hybriden Kriegsführung genutzt werden, in populistischen sowie extremistischen Kontexten als Propaganda. Diese Sammlung des Politologen Marcus Bösch auf der Social-Media-Plattform Bluesky gibt einen Einblick in die Funktionsweise von AI Slop als rechte Propaganda.
5. Reproduktion von Stereotypen
AI Slop funktioniert auf mehreren Bedeutungsebenen. Während ein Video beispielsweise offensichtlich nur Früchte zeigt die Dating-Shows „nachspielen“, werden gleichzeitig rassistische und sexistische Stereotype transportiert – weitaus pointierter und krasser als in den Original-Shows. Damit sind die Darstellungen nicht nur „Brain Rot“ („Hirnfäule“), sondern enthalten unterschwellig auch eine normative Botschaft.
Um Nutzende lange auf einer Social-Media-Plattform zu halten, arbeitet AI Slop mit starken Reizen – von Angst bis Empörung. | Foto: Rawpixel.com – adobestock.com
Kennen Sie diese KI-Lieblingswörter? – So erkennen Sie AI Slop
Einzelne Merkmale beweisen nichts, aber sie sind Warnzeichen:
- Der Inhalt ist sehr emotional.
- Aussagen klingen plausibel, lassen sich aber nicht durch eine klare Quelle belegen.
- Bilder zeigen seltsame Details: Hände, Schriften, Schatten, Gesichter oder Gegenstände sind nicht realitätsgetreu oder passend.
- Ein Video verspricht Sensationen, erklärt aber kaum etwas.
- Der zugehörige Account postet extrem viel und zu sehr unterschiedlichen Themen.
- Kommentare wirken gleichförmig oder übertrieben begeistert.
Etwas detaillierter? Gerne!
KI-Lieblingswörter
Bestimmte Begriffe und Floskeln werden von Sprachmodellen überproportional häufig genutzt. Tauchen diese Wörter gehäuft auf, handelt es sich fast immer um AI Slop:
- Einleitungen: „In der heutigen, sich schnell verändernden digitalen Welt ...“, „Es ist wichtig zu betonen ...“, „Tauche ein in die Welt von ...“
- Füll- und Modewörter: „bahnbrechend“, „nahtlos“, „transformativ“, „Synergie“, „Leuchtfeuer“, „Teppich“ (oft im Sinne von „ein Teppich aus Möglichkeiten“), „facettenreich“
- Fazit-Floskeln: „Zusammenfassend lässt sich sagen ...“, „Es bleibt abzuwarten ...“, „Letztendlich zeigt sich ...“
Strukturelle Auffälligkeiten
KI-Modelle sind darauf trainiert, extrem ordentlich und lesbar zu sein. Bei AI Slop führt das zu einer unnatürlichen, roboterhaften Struktur:
- Die „Sandwich“-Struktur: Jeder Absatz beginnt mit einer Behauptung, bringt ein generisches Argument und endet mit einer Mini-Zusammenfassung.
- Übertriebene Listen: Der Text besteht fast nur aus Bulletpoints, die alle grammatikalisch exakt gleich aufgebaut sind (z.B. immer Substantiv + Doppelpunkt + Erklärung).
- Ausgewogenheit ohne Meinung: Der Text wägt Pro und Kontra perfekt ab, bezieht aber niemals Stellung. Er endet fast immer mit einer versöhnlichen, aber nichtssagenden Phrase (z.B. „Es kommt auf die richtige Balance an“).
Inhaltliche Leere und Redundanz
Da Slop oft nur generiert wird, um Wortzahlen für SEO-Rankings zu erreichen, fehlt den Texten jegliche Tiefe:
- Zirkelschlüsse: Ein Satz wiederholt das, was im vorherigen Satz stand, nur mit anderen Worten (z. B. „Effizientes Arbeiten spart Zeit. Wenn Sie Zeit sparen, arbeiten Sie effektiver.“).
- Fehlen von echten Beispielen: Es gibt keine Anekdoten, keine spezifischen Firmennamen, keine aktuellen Jahreszahlen oder persönlichen Erfahrungsberichte. Alles bleibt auf einer theoretischen Metaebene.
- Logikbrüche (Halluzinationen): Bei oberflächlichem Lesen klingt der Text schlüssig, aber bei genauem Hinsehen widersprechen sich Absätze oder es werden erfundene Informationen als Wahrheit verkauft.
Slop-Ästhetik
Visueller Slop hat einen unverkennbaren, standardisierten Look, der oft auf den Grundeinstellungen von KI-Generatoren basiert:
- Der „Midjourney-Glanz“: Gesichter und Oberflächen wirken extrem glattgebügelt, wachsig und unnatürlich perfekt („over-rendered“). Es gibt keine Hautunreinheiten, Poren, Falten oder feinen Härchen.
- Hyper-Sättigung: Die Farben sind extrem knallig. Der Kontrast ist unnatürlich hoch – man spricht hier auch von „High Dynamic Range“ (HDR). Oft wird dies mit einem magischen, leicht nebligen Leuchten im Hintergrund kombiniert.
- Die unheimliche Symmetrie: Gesichter und Kompositionen sind fast immer perfekt zentriert und spiegelverkehrt makellos, was in der echten Fotografie extrem selten ist.
Logische und physikalische Fehler
KI generiert Bilder nicht als logisches Ganzes, sondern Pixel für Pixel nach mathematischen Wahrscheinlichkeiten. Dadurch bricht die Logik bei komplexen Details zusammen:
- Verschmelzungen: Gegenstände wachsen in Menschen hinein oder Kleidung geht fließend in die Haut über. Populär geworden sind Bilder von Soldaten, deren Rucksäcke mit ihrem Rücken verschmolzen sind.
- Unmögliche Anatomie: Zwar schaffen KI-Modelle mittlerweile meist fünf Finger, aber bei Slop-Bildern stimmen die Gelenke oft nicht. Achten Sie auf zu lange Hälse, unnatürlich verdrehte Gliedmaßen oder Zähne, die in unendlichen Reihen nebeneinanderstehen.
- Unlogische Architektur und Hintergründe: Typisch sind Treppen, die im Nichts enden, Fenster, die schief im Raum hängen, oder Zäune, die sich willkürlich auflösen. Während der Vordergrund scharf ist, verschwimmt der Hintergrund oft in einem unlogischen digitalen Brei.
- Licht ohne Quelle: Schatten fallen in unterschiedliche Richtungen, oder Augen reflektieren Lichtpunkte, obwohl im Bild gar keine Lichtquelle an dieser Stelle existiert.
Emotionale Trigger
Slop-Bilder zielen darauf ab, ältere oder unaufmerksam scrollende Nutzer zu schnellen Interaktionen („Gefällt mir“, „Teilen“) zu bewegen. Typische Muster sind:
- Das „Shrimp-Jesus“-Phänomen: Absurde religiöse oder spirituelle Motive (z.B. Jesus-Figuren aus Meeresfrüchten, gigantische Schnitzereien aus Holz) geben vor, echte Handwerkskunst zu sein.
- Mitleids-Bait: Kinder, die in extremem (aber unnatürlich sauberem) Elend leben und scheinbar gigantische Kunstwerke aus Müll gebaut haben, sollen Mitleid erregen.
- Patriotismus- und Helden-Bait: Unnatürlich gutaussehende Feuerwehrleute, Piloten oder Soldaten werden in heroischen Posen gezeigt, oft umgeben von brennenden Flaggen oder Welpen.
Die drei Siebe des Sokrates – So filtern Sie gute Inhalte heraus
Neben den eher technischen Prüfmöglichkeiten, die durch generative KI-Modelle wahrscheinlich in Zukunft immer mehr an ihre Grenzen stoßen werden, gibt es eine klassische Methode, um aus der Masse an Beiträgen qualitativ hochwertige Inhalte herauszufiltern: die drei Siebe des Sokrates.
Der Legende nach wandte sich ein Bürger an Sokrates und wollte ihm über ein neues Gerücht berichten. Doch der griechische Philosoph bat ihn, zunächst die drei Siebe anzuwenden:
- Das Sieb der Wahrheit: Ist das, was du mir erzählen willst, wirklich wahr und nachweisbar?
- Das Sieb der Güte: Ist es etwas Gutes oder Seriöses?
- Das Sieb der Nützlichkeit: Ist es wirklich wichtig, dies zu erzählen?
Wer seinen Feed mit diesen drei Sieben betrachtet, kann vieles aussortieren und sich auf das Gute, Wahre und Nützliche konzentrieren (und den Rest gelegentlich mit Belustigung verfolgen).
Tipps für Eltern und Lehrkräfte – So gehen Sie mit AI Slop um
Tipp 1: Ins Gespräch kommen und im Gespräch blieben
Eltern und Lehrkräfte können Kinder und Jugendliche dabei unterstützen, AI Slop zu erkennen und kritisch einzuordnen. Hilfreich ist es, zunächst ins Gespräch zu kommen und Interesse an den Inhalten zu zeigen, denen Kinder und Jugendliche im Netz begegnen. Fragen wie die folgenden schaffen einen offenen Austausch, ohne Vorwürfe zu machen oder bestimmte Plattformen grundsätzlich abzuwerten:
- Hast du schon mal ein Video gesehen, das zunächst interessant oder hilfreich wirkte, aber dann wenige oder gar keine nützlichen Informationen enthielt?
- Ist dir bereits ein Text begegnet, der bei genauerem Hinsehen nur aus Floskeln und Wiederholungen bestand?
- Wurde dir schon mal ein Bild angezeigt, das absurde Motive oder unlogische Objekte enthält?
Tipp 2: Üben, Inhalte zu hinterfragen
Gemeinsam können Inhalte anschließend genauer betrachtet werden. Dabei helfen einfache Leitfragen: Wer hat den Inhalt veröffentlicht? Welches Ziel verfolgt der Inhalt – soll er informieren, unterhalten, schockieren oder vor allem Klicks erzeugen? Und lassen sich die gezeigten Informationen durch andere vertrauenswürdige Quellen bestätigen? Solche Routinen fördern einen kritischen und reflektierten Umgang mit digitalen Medien.
Tipp 3: KI sinnvoll nutzen
Wichtig ist auch, KI nicht grundsätzlich als Problem darzustellen. Entscheidend ist, zwischen qualitativ hochwertigen und sorgfältig geprüften Inhalten einerseits und rein auf Aufmerksamkeit ausgelegter Massenproduktion andererseits unterscheiden zu lernen. Nicht jeder KI-generierte Inhalt ist minderwertig oder irreführend. Zeigen Sie, wie KI-Anwendungen gezielt genutzt werden können, um Texte zu überarbeiten oder Unterstützung beim Lernen zu erhalten. Wichtig ist, die Ergebnisse zu prüfen, zu reflektieren und mit gezielten Prompts weiterzuentwickeln.
Tipp 4: Die Funktionsweise von Social Media thematisieren
Darüber hinaus lohnt es sich, die Funktionsweise digitaler Plattformen zu thematisieren. AI Slop entsteht nicht allein durch die technischen Möglichkeiten künstlicher Intelligenz, sondern auch durch Plattformen, die Aufmerksamkeit belohnen. Besprechen Sie, warum besonders emotionale, überraschende oder provokante Inhalte häufig große Reichweiten erzielen. So können Kinder und Jugendliche Feeds, Empfehlungen und Trends bewusster einordnen und kritisch hinterfragen.
AI Slop zu erkennen und kritisch einzuordnen können Eltern mit ihren Kindern üben. | Foto: Lumos Sp – adobestock.com
Tipps für User, die KI verwenden, um selbst Texte zu generieren
Wenn Sie selbst oder Ihre Kinder KI als Schreibassistenz nutzen, können Sie Slop mit drei einfachen Schritten vorbeugen:
- Den Standard-Ton brechen
Geben Sie der KI im Prompt eine klare Persona und Begrenzungen (z.B. „Schreibe im Ton eines kritischen Journalisten. Verwende keine Floskeln wie ‚In der heutigen Welt‘ oder das Wort ‚nahtlos‘'.). - Eigene Fakten füttern
Lassen Sie die KI nicht frei erfinden. Geben Sie ihr Ihre eigenen Stichpunkte, Daten oder Zitate und nutzen Sie die KI nur als Formulierungshilfe. - Der menschliche Edit
Kürzen Sie den Text nach der Generierung rigoros um 20 bis 30 Prozent. Löschen Sie alle typischen KI-Einleitungen und Schlusssätze.
Slop oder sinnvoll? – Praxisidee für den Unterricht
Die Klasse sammelt Beispiele für KI-Inhalte. Anschließend werden diese gemeinsam, zum Beispiel mithilfe der drei Siebe des Sokrates, bewertet:
- Ist der Inhalt informativ, kreativ oder nur klickstark?
- Gibt es überprüfbare Quellen?
- Welche Gefühle soll der Inhalt auslösen?
- Was müsste verbessert werden?
- Wird über etwas Gutes, Wahres oder Nützliches berichtet?
Fazit
AI Slop zeigt: Medienkompetenz bedeutet heute mehr als „Fake News erkennen“. Kinder und Jugendliche müssen lernen, digitale Inhalte nach Qualität, Quelle, Absicht und Wirkung zu beurteilen. Eltern und Lehrkräfte können dabei helfen, indem sie nicht nur warnen, sondern gemeinsam ausprobieren, prüfen und über Plattformmechanismen sprechen. So wird aus Unsicherheit Orientierung – und aus KI kein Ersatz für Denken, sondern ein Anlass, kritisches Denken zu stärken.
Unsere Beratungsstelle hat ein Ohr für Sie!
Bei individuellen Fragestellungen und Problemen rund um die digitale Lebenswelt von Kindern und Jugendlichen hilft die medienpädagogische Beratungsstelle des Landesmedienzentrums Baden-Württemberg weiter:
Mi.: 9 bis 16 Uhr, Fr.: 9 bis 13 Uhr
Tel.: 0711 4909-6321
E-Mail: Beratungsstelle@lmz-bw.de
Materialien für den Unterricht
Unterrichtsmaterialien des Bildungsprogramms BITTE WAS?! Kontern gegen Fake und Hass u.a. zum Thema KI und Deepfakes
Online-Mediensammlung „Künstliche Intelligenz: Chancen, Risiken, Herausforderungen” für die Sekundarstufe 1
Weiterführende Links
- Schroeder, Carina (2025): AI Slop: Wie KI-Inhalte unsere Wahrnehmung verändern, Deutschlandfunk Kultur, [online] https://www.deutschlandfunkkultur.de/ai-slop-wie-ki-inhalte-unsere-wahrnehmung-veraendern-100.html [abgerufen am 11.08.2026].
Das Audio-Feature beschreibt, wie die wachsende Zahl KI-generierter Inhalte unsere Aufmerksamkeit beeinflusst und die Orientierung im Netz erschwert. - Jebens, Caroline O. (2026): AI Slop: Der Letzte räumt das Internet auf, SWR, [online] https://www.swr.de/kultur/gesellschaft/ai-slop-wie-ki-das-internet-vermuellt-100.html [abgerufen am 11.08.2026].
Der Beitrag erläutert das Phänomen AI Slop und zeigt anhand anschaulicher Beispiele, wie massenhaft erzeugte KI-Inhalte das Internet verändern und die Suche nach hochwertigen Informationen erschweren. - UNICEF: Guidance on AI and Children. 3.0 December 2025, unicef.org, [online] https://www.unicef.org/innocenti/media/11991/file/UNICEF-Innocenti-Guidance-on-AI-and-Children-3-2025.pdf [abgerufen am 11.08.2026].
Die UNICEF-Handreichung zeigt auf, welche Chancen und Risiken KI für Kinder mit sich bringt und welche Maßnahmen notwendig sind, um kindgerechte und verantwortungsvolle KI zu gestalten.
Timo Münzing & Andrea Zeisberg
Diese Seite teilen:
