foto freepik ki

Abstract

Die englischsprachige Wikipedia hat den Einsatz großer Sprachmodelle (LLMs) zum Generieren oder Umschreiben von Artikelinhalt untersagt und nur eng begrenzte Ausnahmen für Copyediting eigener Texte sowie Übersetzungsunterstützung zugelassen. Diese Entscheidung lässt sich nicht allein als redaktionelles Qualitätsinstrument verstehen, sondern als datenökologischer Eingriff in ein globales Trainingsdaten‑Ökosystem, das zunehmend durch synthetische Inhalte geprägt wird. Zentraler technischer Bezugspunkt ist das in der Literatur breit diskutierte Phänomen des Model Collapse beziehungsweise der AI autophagy: Werden generative Modelle rekursiv mit modellgenerierten Daten trainiert, verengen sich Ausgabeverteilungen, Randfälle verschwinden, und Fehler beziehungsweise Verzerrungen können sich über Generationen verstärken.

Einleitung

Mit dem im März 2026 nach einem Request‑for‑Comment (RfC) beschlossenen Verbot, LLMs zum »generating or rewriting article content« einzusetzen, positioniert sich Wikipedia als eine der ersten großen Wissensinfrastrukturen, die generative Textproduktion in Kerninhalten explizit begrenzt. In den begleitenden Begründungen werden neben klassischen Wikipedia‑Normen (Verifizierbarkeit, Bedeutungsverschiebungen durch »polishing« etc.) insbesondere der Aufwand der menschlichen Qualitätssicherung sowie die Gefahr überzeugend wirkender, aber nicht quellengedeckter Veränderungen hervorgehoben. Darüber hinaus weist die Debatte auf eine systemische Ebene: Wikipedia ist eine zentrale Referenzressource und zugleich ein häufig genutzter Bestandteil großskaliger Web‑Korpora, die zum Training nachfolgender Modelle herangezogen werden. Die Wikipedia‑Entscheidung adressiert damit ein Problem, das in der Forschung nicht primär als »Content Moderation«, sondern als Stabilitätsfrage rekursiver Trainingsprozesse behandelt wird.

Theoretischer Hintergrund: Rekursives Training und Verteilungsverengung

Unter Model Collapse wird in der Nature‑Arbeit von Shumailov et al. (2024) ein degenerativer Prozess verstanden, bei dem modellgenerierte Daten schrittweise den Trainingssatz nachfolgender Generationen »polluten«, wodurch Modelle »reality mis-perceive« und insbesondere die »tails of the original content distribution« verschwinden. Die Autoren unterscheiden explizit early model collapse (Verlust seltener Ereignisse bzw. Verteilungsränder) und late model collapse (Konvergenz auf eine Verteilung mit deutlich reduzierter Varianz und geringer Ähnlichkeit zur Ausgangsverteilung). Wichtig ist dabei die Generalität der Beobachtung: Der Effekt wird nicht nur für LLM‑Settings diskutiert, sondern auch für Variational Autoencoders (VAEs) und Gaussian Mixture Models (GMMs) demonstriert. Methodisch begründen Shumailov et al. den Kollaps als Ergebnis über Generationen kumulierender Fehlerquellen (u. a. endliche Stichproben/»finite sampling« sowie Approximations‑/Expressivitätsgrenzen) und zeigen, dass Verteilungsränder bei rekursivem Sampling besonders anfällig sind.

Eine komplementäre Perspektive liefert das arXiv‑Preprint von Alemohammad et al. (2023), das den Prozess als Model Autophagy Disorder (MAD) rahmt: In »self‑consuming« Trainingsschleifen nimmt ohne hinreichenden Zufluss frischer Real‑Daten über Generationen entweder Qualität/Präzision oder Diversität/Recall progressiv ab. Die Autoren analysieren dazu mehrere Familien autophagischer Trainingsregime und betonen, dass das Problem nicht durch bloße Verfügbarkeit synthetischer Daten gelöst wird, sondern durch die Stabilität der Schleife und die Rolle realer Datenanteile in jeder Generation. Diese Befunde werden im Übersichtsbeitrag »On the caveats of AI autophagy« (Xing et al., 2025) in einen breiteren Kontext eingeordnet: Die vormals kontrollierte Mischung realer und synthetischer Daten werde durch unregulierte Verbreitung synthetischer Inhalte online zunehmend unkontrollierbar; Web‑Scraping‑Korpora würden damit strukturell kontaminiert, was Zuverlässigkeit und Performance generativer Systeme langfristig beeinträchtigen könne.

Modalitätsspezifische Manifestationen: Texte vs. Bilder

Obwohl das Grundprinzip – rekursives Lernen aus geglätteten, modelltypischen Samples – modalitätsübergreifend gilt, unterscheidet sich die Erscheinungsform in Text‑ und Bilddomänen. Für Textmodelle beschreibt die Literatur insbesondere den Verlust von Verteilungsrändern (rare tokens, seltene Konstruktionen, Nischenmuster) als frühen Indikator; dies folgt direkt aus dem von Shumailov et al. hervorgehobenen Mechanismus des »tail disappearance«. Praktisch äußert sich dieser Verlust als sinkende stilistische und semantische Bandbreite, während Oberflächenfluency zunächst erhalten bleiben kann – ein Umstand, der in Debatten um Wikipedia besonders relevant ist, weil enzyklopädischer Stil für LLMs gut imitierbar ist und Qualitätsprobleme erst bei Quellenbindung und Bedeutungspräzision sichtbar werden. Für Bildmodelle betont die MAD‑Arbeit die empirische Tendenz, dass autophagische Schleifen zu einem Trade‑off zwischen wahrgenommener Qualität und Vielfalt führen; ohne frische Real‑Daten wird entweder die Diversität reduziert oder es entstehen Artefakt‑/Modellfingerprint‑Verstärkungen über Generationen. Xing et al. (2025) rahmen beide Modalitäten unter dem gemeinsamen Risiko unmarkierter synthetischer Kontamination, wobei der entscheidende Punkt nicht »Synthetik« per se ist, sondern deren unkontrollierte Akkumulation in den Datenpipelines großskaliger Modelle.

Wikipedia als datenökologischer Eingriff: Schutz einer Trainingsdaten‑Keystone‑Ressource

Vor diesem Forschungshintergrund kann die Wikipedia‑Entscheidung als Präventionsmaßnahme gegen rekursive Kontaminationsschleifen gelesen werden. MediaNama berichtet, dass der RfC mit 44:2 Stimmen geschlossen wurde und der Beschluss zwei enge Ausnahmen vorsieht: Copyedits (an eigenem Text) und eine erste Übersetzungsfassung, jeweils mit menschlicher Prüfung. TechCrunch zitiert die neue Richtlinienformulierung, wonach »the use of LLMs to generate or rewrite article content is prohibited«, erlaubt aber LLM‑Unterstützung beim Copyediting eigener Texte nach menschlichem Review – bei explizitem Hinweis, dass LLMs die Bedeutung in nicht quellengedeckter Weise verändern können. Genau diese Bedeutungsverschiebung ist aus Sicht der Verteilungslogik plausibel: Wenn Modelle auf »wahrscheinliche« Formulierungen optimieren, tendieren sie zu Glättung, Generalisierung und plausibler Rekombination; die semantischen Ränder (Ausnahmen, sorgfältig abgegrenzte Behauptungen, minoritäre Perspektiven) sind besonders verletzlich.

Entscheidend ist zudem die Rolle Wikipedias als hochgradig wiederverwendete Quelle: Wikipedia‑Inhalte werden – so die berichtete Begründungslogik – in großem Umfang als Trainingsmaterial oder als Bestandteil webbasierter Korpora genutzt, wodurch KI‑generierte Wikipedia‑Artikeltexte ein »compounding risk« erzeugen: Unzutreffende oder halluzinierte Textteile könnten in künftige Trainingsdaten zurückfließen. Damit adressiert Wikipedia nicht nur lokale Qualitätskosten (Verifikation dauert länger als Generierung, Belastung der Freiwilligen), sondern potenziell einen systemischen Effekt, den Shumailov et al. als generationalen Drift weg von der ursprünglichen Datenverteilung beschreiben. In diesem Sinne ist das Verbot weniger eine Absage an KI‑Werkzeuge als ein Versuch, eine »Keystone‑Ressource« der Wissens‑ und Dateninfrastruktur vor synthetischer Drift zu schützen – eine Perspektive, die explizit als »Datenökologie« und Rückkopplungsproblem formuliert wird.

Implikationen und Gegenmaßnahmen (aus der Literatur abgeleitet)

Die wissenschaftliche Literatur ist in einem Punkt bemerkenswert konsistent: Stabilität rekursiver Trainingsschleifen erfordert den fortlaufenden Zugriff auf Real‑Daten beziehungsweise auf Mechanismen, die verhindern, dass synthetische Datenanteile unmarkiert und unkontrolliert dominieren. Shumailov et al. betonen, dass das Verschwinden der Tails und die Varianzreduktion über Generationen selbst unter idealisierten Bedingungen auftreten können und dass der Zugriff auf die ursprüngliche Datenverteilung (bzw. auf genuin menschlich erzeugte Daten) für Aufgaben zentral ist, in denen Randfälle relevant sind. Xing et al. (2025) diskutieren das Problem als Governance‑ und Pipeline‑Frage: Sobald synthetische Inhalte breit online zirkulieren und nicht zuverlässig gekennzeichnet sind, wird selbst gut gemeintes Web‑Scraping zur Vermischung von Real‑ und Modelloutputs, wodurch »strategic balance« und Provenienzarbeit entscheidend werden. Aus dieser Perspektive ist Wikipedias Regelung kompatibel mit einem »Provenienz‑First«‑Ansatz: Sie erlaubt KI dort, wo sie nicht als primäre Inhaltsquelle fungiert (sprachliches Glätten eigener Texte; Übersetzung als Assistenz), insistiert aber auf menschlicher Verantwortung und Quellenbindung, um synthetische Dominanz im Korpus zu vermeiden.

Fazit

Die Wikipedia‑Entscheidung lässt sich als frühes institutionelles Signal lesen, dass die Nachhaltigkeit generativer KI nicht ausschließlich von Modellarchitektur und Rechenleistung abhängt, sondern wesentlich von der Qualität, Provenienz und Diversität der Trainingsdaten. In der Terminologie der Forschung adressiert Wikipedia damit indirekt das Risiko von Model Collapse beziehungsweise AI autophagy: rekursives Training auf modellgenerierten Daten verengt Verteilungen, eliminiert Tails und kann Fehler kumulativ verstärken. Die in der Richtlinie erlaubten Ausnahmen (Copyediting/Übersetzung mit menschlicher Prüfung) sind aus datenökologischer Sicht konsequent, weil sie KI als Werkzeug zur Bearbeitung menschlicher Primärtexte zulassen, nicht aber als Quelle neuer enzyklopädischer Behauptungen. Damit wird Wikipedia zu einem Fallbeispiel dafür, wie Wissensinfrastrukturen durch Governance‑Entscheidungen aktiv in die Stabilität zukünftiger KI‑Trainingsökosysteme eingreifen können – nicht als Technikverbot, sondern als Schutzmaßnahme gegen systemische Daten‑Rückkopplungen.

Albert Absmeier & KI

Quellen

Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755–759. https://doi.org/10.1038/s41586-024-07566-y [nature.com]
Alemohammad, S., Casco-Rodriguez, J., Luzi, L., Humayun, A. I., Babaei, H., LeJeune, D., Siahkoohi, A., & Baraniuk, R. G. (2023). Self-Consuming Generative Models Go MAD. arXiv preprint arXiv:2307.01850. https://doi.org/10.48550/arXiv.2307.01850 [arxiv.org]
Xing, X., Shi, F., Huang, J., Wu, Y., Nan, Y., Zhang, S., Fang, Y., Roberts, M., Schönlieb, C.-B., Del Ser, J., & Yang, G. (2025). On the caveats of AI autophagy. Nature Machine Intelligence, 7, 172–180. https://doi.org/10.1038/s42256-025-00984-1 [nature.com]
Ropek, L. (2026). Wikipedia cracks down on the use of AI in article writing. TechCrunch (26 March 2026). [techcrunch.com]
Bansal, A. (2026). Wikipedia bans AI-generated article content after RfC. MediaNama (26 March 2026). [medianama.com]

4898 Artikel zu „KI Risiko“

News | Business | Digitalisierung | Favoriten der Redaktion | Kommentar | Künstliche Intelligenz | Strategien | Tipps

Warum Wikipedia den Einsatz generativer KI einschränkt: Habsburg KI als datenökologisches Risiko

28. März 2026

Die Entscheidung der englischsprachigen Wikipedia, den Einsatz großer Sprachmodelle (Large Language Models, LLMs) zum Schreiben oder Umschreiben von Artikeln weitgehend zu untersagen, markiert einen Wendepunkt im gesellschaftlichen Umgang mit generativer künstlicher Intelligenz. Auf den ersten Blick wirkt das Verbot paradox: Gerade LLMs sind in der Lage, formal korrekte, gut strukturierte und enzyklopädisch anmutende Texte zu…

Jetzt 25 % Ticketrabatt für »manage it« Leser

Quellen

Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755–759. https://doi.org/10.1038/s41586-024-07566-y [nature.com]

Alemohammad, S., Casco-Rodriguez, J., Luzi, L., Humayun, A. I., Babaei, H., LeJeune, D., Siahkoohi, A., & Baraniuk, R. G. (2023). Self-Consuming Generative Models Go MAD. arXiv preprint arXiv:2307.01850. https://doi.org/10.48550/arXiv.2307.01850 [arxiv.org]

Xing, X., Shi, F., Huang, J., Wu, Y., Nan, Y., Zhang, S., Fang, Y., Roberts, M., Schönlieb, C.-B., Del Ser, J., & Yang, G. (2025). On the caveats of AI autophagy. Nature Machine Intelligence, 7, 172–180. https://doi.org/10.1038/s42256-025-00984-1 [nature.com]

Ropek, L. (2026). Wikipedia cracks down on the use of AI in article writing. TechCrunch (26 March 2026). [techcrunch.com]

Bansal, A. (2026). Wikipedia bans AI-generated article content after RfC. MediaNama (26 March 2026). [medianama.com]

4898 Artikel zu „KI Risiko“