Transparenz ist nicht gleich Wahrheit: was Plattformen bei der Kennzeichnung von KI-Bildern beachten müssen

Bei der Verbreitung von Desinformation in den sozialen Medien spielen KI-Bilder eine immer größere Rolle. Regulierungsbehörden und Unternehmen weltweit setzen daher auf sogenannte KI-Labels, die Inhalte als „KI-generiert“ kennzeichnen sollen. Eine aktuelle Studie von Forschenden des CISPA Helmholtz-Zentrums für Informationssicherheit, der Ruhr-Universität Bochum (RUB) und des MPI Bochum hat nun erstmals umfassend untersucht, wie Nutzende auf KI-Labels reagieren. Dazu haben die Forschenden qualitative Fokusgruppengespräche mit einer groß angelegten Online-Umfrage mit über 1.300 Teilnehmenden aus den USA und Europa kombiniert. 

Während in den Fokusgruppen nach der grundsätzlichen Wahrnehmung und dem geschätzten Nutzen von KI-Labels gefragt wurde, hatte die Online-Umfrage zum Ziel, die tatsächliche Wirkung von KI-Labels auf die Bewertung von Informationen zu messen. „Dafür haben wir Social-Media-Posts mit Nachrichten simuliert“, erklärt Sandra Höltervennhoff, zusammen mit Jonas Ricker von der RUB Erst-Autorin der Studie. „Die Teilnehmenden sahen jeweils eine Textbotschaft zusammen mit einem Bild. Das Bild war entweder KI-generiert oder echt, und die Textbotschaften waren entweder wahr oder falsch. Die KI-Bilder waren mit Labels versehen. So ergaben sich vier Kombinationen, anhand derer wir untersuchen konnten, wie KI-Labels die Wahrnehmung beeinflussen.“

KI-Labels: große Erwartungen, überschaubarer Nutzen

In den Fokusgruppen hat sich gezeigt, dass viele Teilnehmende KI-Labels grundsätzlich als hilfreiches Instrument wahrnehmen, um KI-generierte Bilder zu erkennen und Täuschungen zu vermeiden. Gleichzeitig äußern sie jedoch deutliche Bedenken hinsichtlich der praktischen Umsetzung. Besonders kritisch sehen sie die fehlende Standardisierung, eine mögliche Machtkonzentration bei den Plattformen sowie die Zuverlässigkeit technischer Lösungen. Ein zentrales Thema ist zudem das Mislabeling: Falsche oder fehlende Labels werden als ernsthafte Gefahr gesehen, da sie das Vertrauen in das gesamte Kennzeichnungssystem untergraben könnten. Trotz dieser Vorbehalte befürworten viele Teilnehmende die Einführung von Labels.

Die Ergebnisse der Online-Umfrage zeigen hingegen ein ambivalentes Bild: KI-Labels können zwar dazu beitragen, dass Nutzende falschen Inhalten mit KI-generierten Bildern seltener glauben. Gleichzeitig führen sie jedoch zu problematischen Nebenwirkungen. Viele Teilnehmende haben sich stark auf die Kennzeichnung selbst verlassen. In der Folge sind ungekennzeichnete Inhalte eher als wahr eingeschätzt worden, obwohl sie falsch waren. Umgekehrt sind wahre Inhalte mit KI-Label häufiger angezweifelt worden. Insgesamt hat sich dadurch sogar die Fähigkeit verschlechtert, zuverlässig zwischen wahren und falschen Informationen zu unterscheiden.

Transparenz ist nur ein Baustein im Kampf gegen Desinformation

Die Studie zeigt damit, dass Kennzeichnungen nicht einfach zu „mehr Wahrheit“ führen, sondern die Art und Weise menschlicher Informationsbewertung verändern. Labels wirken wie mentale Abkürzungen: Sie lenken Aufmerksamkeit und beeinflussen Vertrauen, und zwar oft stärker als der Inhalt selbst. Damit verbunden ist das Risiko, dass sich die Beurteilung weg vom Inhalt hin zur Kennzeichnung verschiebt. „Eine mögliche Erklärung ist, dass KI-Labels generell Skepsis auslösen“, so Höltervennhoff. „Menschen werden vorsichtiger, aber nicht unbedingt differenzierter. Außerdem wird aktuell sehr stark vor KI gewarnt, sodass andere Formen von Desinformation vielleicht weniger beachtet werden. Dabei gab es Desinformation ja schon lange vor KI.“ Transparenz schafft damit zwar Orientierung, ersetzt aber nicht die kritische Auseinandersetzung mit Informationen.

Zielführende Weiterentwicklung: ein Maßnahmenmix

Für Plattformen ergibt sich daraus eine klare Herausforderung: Sie müssen Kennzeichnungssysteme nicht nur technisch zuverlässig umsetzen, sondern auch so gestalten, dass sie nicht zu Fehlinterpretationen führen. „Transparenz allein genügt nicht“, führt Höltervennhoff aus. „Entscheidend ist, wie Nutzende diese Informationen verstehen und nutzen. Deswegen können Labels nur ein Baustein im Umgang mit KI-generierten Inhalten sein.“ Um ihre Wirkung zu entfalten, sollten sie mit weiteren Maßnahmen wie Aufklärungskampagnen, Kontextinformationen oder ergänzenden Prüfmechanismen kombiniert werden. Mit Blick auf die bevorstehenden regulatorischen Umsetzungen des EU-AI Acts liefert die Studie wichtige Hinweise für die Praxis: Wer KI-Inhalte kennzeichnet, beeinflusst nicht nur die Transparenz, sondern auch die Wahrnehmung von Wahrheit.

• Problem: Labels zur Kennzeichnung KI-generierter Bilder sollen Transparenz schaffen, aber ihre tatsächliche Wirksamkeit ist unklar.
• Analyse: Mixed-Method-Studie mit qualitativen Fokusgruppen und Online-Umfrage zur Wirkung von KI-Labels auf die Wahrnehmung von Bildinhalten.
• Ergebnis: KI-Labels reduzieren den Glauben an falsche KI-generierte Inhalte, fördern aber gleichzeitig übermäßiges Vertrauen und ermöglichen Fehlinterpretationen.
• Risiko: Nutzende glauben eher falschen Inhalten ohne Label und zweifeln wahre Inhalte mit Label stärker an.
• Fazit: KI-Labels allein sind kein zuverlässiges Mittel gegen Desinformation und müssen sorgfältig gestaltet sowie mit weiteren Maßnahmen kombiniert werden.

Diese Forschung wurde teilweise finanziert von der VolkswagenStiftung Niedersächsisches Vorab (ZN3695), der Deutschen Forschungsgemeinschaft (DFG) im Rahmen der Exzellenzstrategie des Bundes und der Länder (EXC 2092 CASA, 390781972), der Daimler und Benz Stiftung im Rahmen des Förderprogramms Ladenburger Kolleg, Projekt KonCheck, sowie vom Bundesministerium für Bildung und Forschung im Rahmen der Förderprogramme SisWiss (16KIS2330) und AIgenCY (16KIS2012).