Neue KI-Transparenzregeln gelten seit 2. August

Chatbots müssen sich als KI zu erkennen geben, Deepfakes sind zu kennzeichnen.

BRÜSSEL (redu) – Seit dem 2. August 2026 gelten in der Europäischen Union neue KI-Transparenzregeln. Nutzer sollen erkennen können, wann sie mit künstlicher Intelligenz kommunizieren und ob Bilder, Videos, Audiodateien oder andere Inhalte mithilfe von KI erzeugt oder verändert wurden.

Für Verbraucher und Medien werden Herkunft und Bearbeitung digitaler Inhalte damit leichter überprüfbar. Die Vorgaben sollen Täuschung und Manipulation erschweren und einen bewussteren Umgang mit KI ermöglichen.

Für normale Nutzer wird künftig deutlicher erkennbar sein, wann sie mit künstlicher Intelligenz zu tun haben. Interaktive Systeme wie Chatbots müssen darauf hinweisen, dass hinter der Kommunikation kein Mensch steht. Die neuen KI-Transparenzregeln gelten außerdem für Inhalte, die mit künstlicher Intelligenz erzeugt oder verändert wurden.

Auch Deepfakes müssen gekennzeichnet werden. Das betrifft Bilder, Videos und Audiodateien, die mithilfe von KI erstellt oder bearbeitet wurden. Zusätzlich sollen maschinenlesbare Markierungen dafür sorgen, dass solche Inhalte leichter erkannt werden können.

Für Nutzer bedeutet das: Sie sollen besser einschätzen können, ob eine Auskunft von einem Menschen oder einem KI-System stammt und ob ein Inhalt nachträglich verändert oder vollständig künstlich erzeugt wurde. Die Regeln sollen Täuschung und Manipulation erschweren und informierte Entscheidungen ermöglichen.

Was sich für Medien ändert

Für Medien gewinnen Herkunft und Kennzeichnung digitaler Inhalte weiter an Bedeutung. KI-generierte oder veränderte Bilder, Videos und Audiodateien müssen entsprechend markiert sein. Maschinenlesbare Hinweise sollen dabei helfen, solche Inhalte auch technisch zu identifizieren.

Die Vorgaben betreffen damit nicht nur Anbieter von KI-Systemen, sondern auch den Umgang mit Material, das Redaktionen, Plattformen oder andere Dienste erreicht. Die Ausgangsmeldung nennt allerdings keine eigenen zusätzlichen Pflichten speziell für journalistische Redaktionen.

Die Europäische Kommission veröffentlichte nach eigenen Angaben eine erste Liste mit mehr als 180 Organisationen, die einen Verhaltenskodex zur Transparenz KI-generierter Inhalte unterzeichnet haben. Dazu zählen unter anderem z.B. Microsoft, OpenAI, Meta, Google, Anthropic und Mistral. Dieser Kodex soll die praktische Umsetzung der Kennzeichnungsvorgaben unterstützen.

Wer die Regeln kontrolliert

Das KI-Büro der Europäischen Kommission kann nun die Vorschriften für Anbieter allgemeiner KI-Modelle durchsetzen. Solche Modelle können viele unterschiedliche Aufgaben übernehmen und in zahlreichen Werkzeugen und Diensten eingesetzt werden, darunter auch KI-Agenten.

Für besonders leistungsfähige Modelle gelten zusätzliche Vorgaben. Ihre Anbieter müssen mögliche systemische Risiken berücksichtigen. Dazu zählen nach Angaben der Kommission unter anderem Gefahren durch Kontrollverlust, Cyberangriffe, schädliche Manipulation und Beeinträchtigungen von Grundrechten.

Anbieter allgemeiner KI-Modelle müssen bestimmte Informationen dokumentieren und zuständigen Behörden oder nachgelagerten Anbietern zur Verfügung stellen. Zudem müssen sie eine Urheberrechtsstrategie einführen und eine ausreichend detaillierte Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen.

Parallel beginnt die Durchsetzung der Verbote besonders schädlicher KI-Praktiken. Untersagt sind unter anderem Systeme, die Menschen manipulieren, ihre Schutzbedürftigkeit ausnutzen oder Personen auf eine Weise bewerten, die deren Rechte gefährdet.

Die Kontrolle verteilt sich auf mehrere Stellen. Das KI-Büro ist unter anderem für bestimmte Systeme allgemeiner KI-Anbieter sowie für KI-Systeme auf sehr großen Online-Plattformen oder Suchmaschinen zuständig. Andere Systeme werden von nationalen Behörden überwacht. Für KI-Systeme der Institutionen, Organe und Agenturen der Europäischen Union ist der Europäische Datenschutzbeauftragte verantwortlich.

Beschwerden und weitere Fristen

Nutzer und Unternehmen können mutmaßliche Verstöße über ein Beschwerdewerkzeug des KI-Büros melden. Beschäftigte von Anbietern können mögliche Verstöße über ein gesichertes Hinweisgeberwerkzeug übermitteln. Für nachgelagerte Anbieter, die eigene Systeme auf allgemeinen KI-Modellen aufbauen, steht ein weiterer Meldeweg zur Verfügung.

Die eingehenden Informationen sollen vertraulich behandelt werden.

Die Anwendung der Regeln für Hochrisiko-KI-Systeme wurde nach Angaben der Kommission auf den 2. Dezember 2027 verschoben. Für Hochrisiko-Systeme, die in regulierte Produkte eingebaut sind, gilt demnach der 2. August 2028.

Neue Verbote für KI-Systeme, die ohne Einwilligung sexuell explizite Inhalte oder Darstellungen sexuellen Missbrauchs von Kindern erzeugen, sollen ab dem 2. Dezember 2026 gelten.