Meret Schneider: KI-Kennzeichnung: Wo steht die Schweiz?
Inhalte, die mittels künstlicher Intelligenz erzeugt oder manipuliert wurden, begegnen uns täglich. Waren es in einem ersten Schritt vor allem Social Media, die von KI-generierten Videos und Bildern durchsetzt waren, so haben es die KI-Inhalte mittlerweile längst in den analogen Alltag geschafft.
Werbungen, Bilder auf Speisekarten, touristische Angebote, ja sogar eine Glacékarte begegneten mir in jüngster Zeit mit zunehmender Häufigkeit und wenngleich die allzu intensiven Farben und irgendwie generisch aussehenden Glacékugeln beim Coupe Dänemark den Einsatz von KI verrieten, so birgt dieser Zustand doch wesentliche Gefahren und Potenzial für Desinformation, bewusste Manipulation und Irreführung von Bürgerinnen und Bürgern. Heute dürfen KI-generierte Inhalte in der Schweiz von Firmen, Unternehmen, Influencer*innen oder politischen Parteien verbreitet und zu Werbezwecken eingesetzt werden, ohne dass dies deklariert werden muss. Was mit einem KI-generierten Video von einem Hund, der ein Kind rettet, harmlos beginnt und bei einem SVP-Plakat, auf dem Schweizer Älpler bayrische Trachten tragen, höchstens ein süffisantes Schmunzeln auslöst, kann in anderen Bereichen drastische Konsequenzen nach sich ziehen.
Naheliegend sind manipulierte Werbebilder für beispielsweise Kosmetikprodukte, die mit KI-generierten oder -bearbeiteten Gesichtern arbeiten, was an sich nichts Neues darstellt: Auch mit Photoshop und ähnlichem wurden immer schon Bilder bearbeitet und verfälscht. Neu sind aber Deep Fake Videos, in denen eine Echtheit und Authentizität suggeriert wird, die so nicht existiert. Im Bereich des Marketing führen solche Werbe- und Influencervideos bei Kindern und Jugendlichen dazu, dass sie sich mit unrealistischen Idealen vergleichen und eine höhere Wahrscheinlichkeit entwickeln, unter Essstörungen zu leiden oder depressiv zu werden.
Im Bereich des Nachrichtenjournalismus und der Politik wird der Zustand der undeklarierten KI-Inhalte noch wesentlich brisanter: Wenn nach Demonstrationen Videos kursieren, die je nach Gesinnung des Publikationsorgans massive Polizeigewalt oder aber Gewalt und Zerstörung von Seiten der Demonstrierenden zeigen, wenn Videos von Politker*innen kursieren, die Aussagen tätigen, die sie so nie gemacht haben oder wenn manipulierte Videos aus Kriegsgebieten Falschinformationen verbreiten, dann wird es gefährlich für eine gemeinsame Informationsbasis und Öffentlichkeit, die Voraussetzung für eine funktionierende Demokratie ist.
Auch die EU hat dieses Problem erkannt und begegnet diesem – wie so oft – schneller und wirkungsvoller als die Schweiz. So gilt in der EU seit dem 2. August 2026 eine KI-Kennzeichnungspflicht für Anbieter und Betreiber von generativen KI-Systemen. Die Kennzeichnungspflicht ist dabei keine Verbotsnorm: Sie untersagt weder Chatbots noch KI-Bilder oder KI-Texte, sondern verlangt Erkennbarkeit. Menschen sollen wissen, ob sie mit einer Maschine sprechen und ob ein Inhalt künstlich erzeugt wurde, damit sie ihn einordnen können. Konkret müssen Anbieter von KI-Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, sicherstellen, dass die Nutzenden darüber informiert werden, dass sie mit einer KI sprechen.
Ausserdem müssen sie die erzeugten Audio-, Bild-, Video- und Textinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen, etwa durch Metadaten oder Wasserzeichen. Zu guter Letzt müssen Betreiber, die Deepfakes erzeugen oder verwenden, offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dasselbe gilt für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Bei Texten entfällt die Pflicht, wenn ein Mensch den Inhalt redaktionell geprüft hat und eine Person die redaktionelle Verantwortung trägt. Dies alles klingt auf den ersten Blick wichtig und sinnvoll und ist sicher wesentlich besser als die Strategie der Schweiz, einfach einmal abzuwarten und Regulierungen und Kennzeichnungspflichten hinauszuzögern (ein entsprechendes Geschäft ist in der Rechtskommission des Nationalrats hängig). Zu denken gibt allerdings der letzte Satz: Bei Texten entfällt die Pflicht, wenn ein Mensch den Inhalt redaktionell geprüft hat und eine Person die redaktionelle Verantwortung trägt. Ausserdem wirft auch die Tatsache Fragen auf, dass nur KI im beruflichen Kontext deklariert werden muss, die Transparenzpflicht jedoch nicht für Privatpersonen gilt.
Es stellt sich die Frage, warum bei KI-generierten Texten die Offenlegungspflicht entfällt, nur weil ein Mensch die redaktionelle Verantwortung trägt. Es ist kaum anzunehmen, dass im journalistischen Kontext bei KI-generierten Texten stets sauber nachrecherchiert wird, ob die generierten Fakten tatsächlich solche sind. Da wir wissen, wie fehlerhaft die Outputs von ChatGPT, Claude, Gemini und co. sind, bietet dies ein grosses Potenzial für beabsichtigte und unbeabsichtigte Desinformation. Zweiteres Problem, dass Privatpersonen von der Kennzeichnungspflicht ausgenommen sind, halte ich jedoch noch für viel brisanter.
Es wird für Laien zunehmend einfacher, Bilder und Videos komplett KI-generiert herzustellen und damit gezielt Falschinformationen zu verbreiten. Wie wir wissen, beschäftigen Akteure wie beispielsweise die AfD Dutzende Menschen, die nur damit betraut sind, Internetforen und Plattformen zu bespielen und die Tonalität und Framings zu prägen. Diese agieren als Privatpersonen in einem nichtkommerziellen Kontext, erhalten aber mit KI-generierten Inhalten eine potente Waffe für die Verbreitung ihres Gedankenguts in die Hand. Die Transparenzpflicht öffnet diesen Akteuren Tür und Tor, mittels Deepfake-Videos falsche Tatsachen zu verbreiten und die gemeinsame Informationsbasis abzutragen, indem entgegengesetzt zur Berichterstattung der öffentlich-rechtlichen Medien kommuniziert wird.
Diese Gefahr ist in meinen Augen nicht zu unterschätzen, denn in Zeiten von Social Media ist jede Privatperson auch Publizist*in und sollte denselben Transparenzregeln unterstehen wie publizistische Organe. Manch ein grosser TikTok-Account hat mehr Reichweite als das gesamte SRF und folglich auch eine ähnlich grosse Verantwortung, weswegen die KI-Kennzeichnungspflicht auch hier gelten müsste. Ich hoffe sehr, dass wir in der Schweiz diese Lücken in der Kennzeichnungspflicht schliessen werden und für einmal gilt: Was lange währt, wird endlich gut.
Die letzten 10 Kolumnen von Meret Schneider
- Halal und die Sache mit der Doppelmoral
- Warnung vor KI – Verantwortung oder Marketing Move?
- Wie neutral macht uns die Neutralitätsinitiative?
- Ausweg aus dem Label-Dschungel
- (K)eine weitere Agrarschlacht
- Kommt das Grundeinkommen dank KI?
- Disposability und die sauberen Grillstellen
- Mit Longevity zurück in die Steinzeit
- Klimapolitik vor der Haustür
- What about fish?
