ChatGPT als VLOSE: Drei Chancen für mehr KI-Transparenz

Am 31. August hat die EU-Kommission ChatGPT als Very Large Online Search Engine eingestuft. Für einen KI-Chatbot ist das die erste Einstufung dieser Art überhaupt,  bislang galt die strengste Aufsichtskategorie des #DSA nur für Google Search und Bing.

Ausschlaggebend war keine Technologiebeschreibung, sondern eine Zahl: rund 159 Millionen durchschnittliche monatliche Nutzer:innen der Suchfunktion in der EU, weit über der nötigen Schwelle von 45 Millionen. Bis Januar 2027 muss OpenAI damit die zusätzlichen Pflichten erfüllen.

Warum das mehr ist als eine Verwaltungsentscheidung: Die Debatte über KI-Regulierung dreht sich bisher überwiegend um die Modellebene: Trainingsdaten, technische Dokumentation, systemische Modellrisiken. Der Vorgang, der für die öffentliche Meinungsbildung entscheidend ist, bleibt dabei eine Blackbox, nämlich die Auswahl und Gewichtung von Quellen im laufenden Betrieb. Kein Anbieter dokumentiert, nach welchen Kriterien Quellen herangezogen werden, und keine Aufsichtsbehörde konnte es bisher verlangen.

Der DSA öffnet drei Zugänge dazu:

𝟭. 𝗥𝗶𝘀𝗶𝗸𝗼𝗯𝗲𝘄𝗲𝗿𝘁𝘂𝗻𝗴 𝘂𝗻𝗱 Prüfung. Sehr große Dienste müssen jährlich bewerten, welche systemischen Risiken von ihnen ausgehen, ausdrücklich einschließlich der Auswirkungen auf Medienpluralismus, gesellschaftliche Debatte und Wahlprozesse (Art. 34, 35). Eine Konzentration zitierter Quellen auf wenige Domains oder das ungekennzeichnete Auftauchen von Desinformationsnetzwerken neben journalistischen Angeboten kann damit Gegenstand der Bewertung werden. Die Ergebnisse müssen veröffentlicht werden.

𝟮. 𝗙𝗼𝗿𝘀𝗰𝗵𝘂𝗻𝗴𝘀𝗱𝗮𝘁𝗲𝗻𝘇𝘂𝗴𝗮𝗻𝗴. Empirische Arbeiten zur Quellenauswahl mussten bisher von außen ansetzen: Anfragen stellen, Antworten auswerten, Zitationen klassifizieren. Da API-Schnittstellen andere Antworten liefern als das User-Interface, konnte das bisher immer nur eine Momentaufnahme sein. Künftig sind Datenzugänge für Forschungszwecke (Art. 40) möglich.

𝟯. Erklärung 𝗱𝗲𝗿 𝗮𝗹𝗴𝗼𝗿𝗶𝘁𝗵𝗺𝗶𝘀𝗰𝗵𝗲𝗻 𝗔𝘂𝘀𝘄𝗮𝗵𝗹. Die Hauptparameter der Inhalteselektion, ihre relative Bedeutung und die Frage, wodurch sie beeinflusst werden, sind offenzulegen. Für jedes Empfehlungssystem muss es zudem eine Option ohne Profiling geben. Kriterien Inhalteselektion, die bislang allenfalls in allgemeinen Hilfeseiten standen, werden dokumentations-, und begründungspflichtig. Dies sollte bei KI-Systemen auch für die Quellenauswahl im laufenden Betrieb der Modelle gelten.

Für andere KI-Systeme ist die Frage nun nicht mehr, ob der DSA auf sie anwendbar ist, sondern wann sie die Schwelle von 45 Millionen Nutzenden erreichen. Was jetzt als Aufsichtspraxis etabliert wird – die erste Risikobewertung, die erste unabhängige Prüfung, die ersten bewilligten Datenzugangsanträge – bestimmt den Maßstab, an dem sich KI-gestützte Informationsvermittlung in Europa künftig messen lassen muss.

Autor:in des Blogbeitrags: Dr. Vivien Benert, Innovation Lead – Digitale Öffentlichkeit

#KIRegulierung #Medienpluralismus #Plattformregulierung #DigitalServicesAct