Wenn KI-Systeme Nachrichten auswählen. Implikationen für die demokratische Meinungsbildung.

Autor:in: Dr. Vivien Benert | Hinweis: Grafiken und Abbildungen sind ausschließlich in der PDF-Version der Publikation enthalten.

Das Wichtigste in Kürze

• KI-Systeme werden zu neuen Gatekeepern der Nachrichtenvermittlung. Diese Entwicklung hat grundlegende Auswirkungen auf unsere demokratische Öffentlichkeit. Nutzende erhalten von KI-Systemen vollständig ausformulierte Antworten und haben daher kaum Anlass, die zugrundeliegenden Originalquellen zu prüfen. Diese Zero-Click-Suche entzieht Medien Reichweite und Einnahmen, obwohl ihre Inhalte die KI-Systeme erst nutzbar machen und den Anbietern erhebliche Gewinne bescheren. Medien verlieren so den direkten Kontakt zum Publikum und damit die Möglichkeit, sich über diesen Weg im Digitalen zu refinanzieren. Wenn der Journalismus so seine wirtschaftliche Grundlage verliert, steht damit eine zentrale Säule demokratischer Informationsvermittlung auf dem Spiel.
• Die Quellenauswahl führender KI-Systeme ist eine Blackbox. Die Studie zeigt anhand eigener Erhebungen, dass KI-Systeme aus einer schmalen Quellenbasis schöpfen, Aufmerksamkeitsverzerrungen verstärken und ihre politische Ausrichtung je nach Thema verschieben, ohne dass die Auswahlkriterien dokumentiert oder nachvollziehbar sind. Sie greifen außerdem im Einzelfall auf Desinformationsquellen zurück, die in den KI-Antworten ungekennzeichnet neben journalistischen Quellen stehen.
• Aktuelle Regulierung greift nicht. AI Act, Digital Services Act, Digital Markets Act und EMFA bieten zwar grundsätzliche Ansatzpunkte, erfassen die KI-vermittelte Quellenauswahl im laufenden Betrieb und die damit verbundene mangelnde Transparenz aber bislang nicht konsequent. Es besteht eine konkrete Regulierungslücke. Besonders wichtig sind dabei Transparenz und Offenlegung der Kriterien zur Quellenauswahl im laufenden Betrieb, eine überprüfbare Zuordnung von Aussagen und Quellen sowie Offenlegung bestehende Kooperationen zwischen KI-Anbietern und Medienhäusern für Nutzende. Ohne Einblick in die Quellenauswahl lassen sich weder Haftung noch Vielfalt noch faire Vergütung durchsetzen.

KI-Systeme wie ChatGPT, Gemini oder Perplexity beantworten Nachrichtenfragen mit fertig formulierten Texten. Wer eine fertige Antwort erhält, hat kaum Anlass, die Originalquellen aufzurufen. Websites in Deutschland verlieren durch diese „Zero-Click-Suche“ bis zu 265 Millionen organische Klicks pro Monat.[1] Zugleich selektieren die KI-Systeme, welche Quellen und damit welche Stimmen sichtbar werden. Diese Selektionsentscheidung betrifft den Kern demokratischer Öffentlichkeit, denn sie bildet die Grundlage öffentlicher Meinungsbildung.

Anders als journalistische Gatekeeper unterliegen KI-Anbieter dabei weder publizistischen Sorgfaltspflichten noch einer vielfaltssichernden Aufsicht. Die zugrundeliegende Studie untersucht systematisch für den deutschen Markt, welche Quellen fünf große KI-Systeme (ChatGPT, Claude, Gemini, Google AI Overview und Perplexity) heranziehen, wenn Menschen sie zur Nachrichtensuche verwenden. Grundlage sind insgesamt 675 Anfragen zu fünf Themen an fünf Werktagen im Mai 2026. Erhoben wurden 4.811 Quellenverweise auf 554 unterschiedliche Domains.

Kernergebnisse [2]

Alle Systeme schöpfen aus einer engen Quellenbasis. Wenige Leitmedien werden immer wieder zitiert, fast die Hälfte aller Domains kommt nur ein einziges Mal vor. Allein welt.de wurde 380-mal referenziert. KI-Systeme brechen bestehende Aufmerksamkeitsasymmetrien im Digitalen nicht auf, sondern reproduzieren und verstärken sie.

Kooperationen prägen die Quellenauswahl. Bei ChatGPT dominiert welt.de die Zitationen in einem Ausmaß wie bei keinem anderen System. Ursache ist die Kooperation zwischen OpenAI und Axel Springer.[3] Sie führt zugleich zu einer politisch verzerrten Quellenbasis, denn 53 Prozent der journalistischen Quellen von ChatGPT stammen aus dem konservativen und rechten Spektrum. Wer eine Lizenzvereinbarung hat, wird sichtbar; wer keine hat, verschwindet tendenziell aus dem zitierten Korpus.

Die politische Ausrichtung verschiebt sich je nach Thema und System. Systeme, die in der Gesamtschau ausgeglichen wirken, entwickeln bei einzelnen kontroversen Themen klare Tendenzen. Gemini etwa erscheint insgesamt neutral, zitiert beim Thema Klima jedoch überdurchschnittlich viele konservative und rechte Quellen. Für Nutzende sind diese Verschiebungen nicht erkennbar, weil sie sich weder aus der Wahl eines Systems noch aus der einzelnen Antwort ableiten lassen. So entstehen schwer wahrnehmbare Verzerrungen in der Nachrichtenvermittlung.

Desinformation gelangt ungekennzeichnet in KI-Antworten. Claude verwies im Untersuchungszeitraum siebenmal auf Domains des Pravda-Netzwerks, das vom Digital Forensic Research Lab als russisches Desinformationsnetzwerk eingestuft wird.[4] Diese Verweise stehen unmarkiert neben journalistischen Quellen. Ein System, das Desinformation und Journalismus in derselben Form präsentiert, gefährdet die informierte Meinungsbildung.

Was es jetzt braucht

1. Transparenzpflichten für Quellenauswahl im laufenden Betrieb 

Die Transparenzpflichten der KI-VO (AI Act) beziehen sich auf die Trainingsdaten von KI-Systemen, nicht die Quellenauswahl im laufenden Betrieb. KI-Anbieter sollten offenlegen, nach welchen Kriterien sie Quellen auswählen und gewichten und ob Kooperationen oder bezahlte Platzierungen die Auswahl beeinflussen. Die bestehenden Pflichten der KI-Verordnung enden bislang bei den Trainingsdaten.

2. Die rechtliche Einordnung KI-gestützter Nachrichtensuche

Ob große Sprachmodelle mit Suchfunktion den Pflichten sehr großer Online-Suchmaschinen nach dem DSA unterliegen, ist bislang offen. Die Europäische Kommission prüft diese Einordnung derzeit für ChatGPT, nachdem dessen Suchfunktion die Schwelle von 45 Millionen monatlichen Nutzenden in der EU überschritten hat. Diese Klärung muss zügig erfolgen, denn an ihr hängen die Pflichten zur Bewertung und Minderung systemischer Risiken.

3. Ein verbindlicher Standard für die Zuordnung von Aussagen und Quellen

Die Quellenangaben der KI-Systeme sind derzeit unzuverlässig und werden nur pauschal angeführt, ohne dass erkennbar ist, welche Aussage sich auf welche Quelle stützt. Solche Quellenangaben bleiben ohne Prüfwert. Überprüfbarkeit einer Aussage am Ort ihrer Verwendung ist die Voraussetzung dafür, dass Nutzende und Aufsichtsstellen KI-Antworten kontrollieren können. Ein solcher Standard existiert bislang in keinem der einschlägigen Regelwerke.

4. Ein Vergütungsmodell bei KI-Zugriff auf journalistische Inhalte

Journalistische Inhalte liefern verlässliche Informationen und sind somit zentrale Ressourcen für KI-Anbieter, während die erzielten Gewinne nicht an journalistische Akteure zurückfließen. Zusammen mit der Zero-Click-Suche, durch die die Klickzahlen auf den Seiten der journalistischen Akteure ausbleiben, gefährdet dies das Geschäftsmodell des Journalismus. Die gegenwärtige Logik bilateraler Lizenzabkommen wie etwa zwischen OpenAI und Axel Springer honoriert Marktmacht statt publizistischer Leistung und vertieft die Konzentration, die sie zu lösen vorgibt. Zu prüfen sind nutzungsbezogene Abgaben, die journalistische Inhalte unabhängig von Verhandlungsmacht einbeziehen.

5. Vielfaltssicherung auch für KI-vermittelte Nachrichtennutzung

Der European Media Freedom Act betont die Sicherung pluralistischer Informationsangebote, adressiert die KI-vermittelte Quellenauswahl bislang jedoch nicht. Erodiert die ökonomische Basis des Journalismus, steht zugleich eine zentrale Säule demokratischer Informationsvermittlung auf dem Spiel. Bestehende Kooperationsvereinbarungen mit einzelnen Medien verzerren die Quellenauswahl und sind für Nutzende gleichzeitig nicht transparent. Denkbar sind sowohl die Erweiterung bestehender Intermediärsregulierungen als auch der Aufbau eigener, öffentlich-rechtlich oder journalistisch getragener Infrastrukturen für die KI-gestützte Nachrichtensuche. Beide Wege verlangen politischen Gestaltungswillen, sind aber unumgänglich, wenn die Auswahl der öffentlich sichtbaren Stimmen und Inhalte in KI-Antworten nicht dauerhaft einer intransparenten, kommerziell motivierten Logik überlassen bleiben soll.

Fußnotenverzeichnis

[1] Sistrix, 2026: https://www.sistrix.de/news/ai-overviews-in-deutschland-so-stark-sinken-die-klickraten-wirklich/

[2] Vollständige Ergebnisse: Benert, V. & Timmermann, S. (2026). Meinungsbildung im Wandel: Wie KI-Systeme Quellen bei der Nachrichtensuche selektieren. Agora Digitale Transformation (Hg.). https://doi.org/10.5281/zenodo.21162562

[3] OpenAI, 2023: https://openai.com/index/axel-springer-partnership/

[4] DFRLab, 2026: https://dfrlab.org/the-pravda-network/