In der KIKI Künstliche Intelligenz-Verordnung (AI Act) wurde festgelegt, dass unter bestimmten Umständen offengelegt werden muss, wenn KI im beruflichen Kontext für die Erstellung von Inhalten genutzt wurde. Ab 2.8.2026 gelten die sogenannten Transparenzpflichten: Demnach muss sichergestellt werden, dass Nutzerinnen oder Kunden erkennen können, wenn sie mit einer Maschine interagieren oder Inhalte künstlich erzeugt bzw. manipuliert wurden. Bewusste oder unbewusste Täuschungen von Verbraucherinnen und Verbrauchern sollen damit verhindert werden.
Erwecken Inhalte den Eindruck, es werden realexistierende Personen, Ereignisse oder Produkte dargestellt, die jedoch KI-generiert sind (Deepfakes), muss dies gekennzeichnet werden. Werden Bilder lediglich mittels KI-Anwendung bearbeitet oder optimiert (Zuschneiden, Tonwertkorrektur, etc.), muss nicht darauf hingewiesen werden.
Bei publizierten KI-generierten Texten mit Inhalten von öffentlichem Interesse muss eine KI-Kennzeichnung erfolgen. Es sei denn, ein Mensch hat eine redaktionelle Überarbeitung vorgenommen und übernimmt die inhaltliche Verantwortung. Interaktive KI-Systeme wie Chatbots müssen als solche ausgewiesen werden.
Die Kennzeichnung muss klar, eindeutig und wahrnehmbar sein. KI-generierte Bilder können etwa durch eine Bildunterschrift kenntlich gemacht werden, z.B. „Dieses Bild wurde mit KI erstellt.“ Die Verordnung verlangt, dass die Information spätestens zum Zeitpunkt der ersten Interaktion oder Wahrnehmung bereitgestellt wird (nicht im Impressum, im Kleingedruckten oder in Fußnoten). Bei künstlerischen oder kreativen Werken kann die Kennzeichnung so erfolgen, dass sie nicht die Darstellung des Werkes beeinträchtigt.
Nicht immer ist es einfach zu entscheiden, ob die Anwendungsfälle im Büro unter die Kennzeichnungspflicht fallen. Die BAKBAK Bundesarchitektenkammer empfiehlt, je stärker eine KI in einen Inhalt eingegriffen hat, desto eher sollte man damit transparent sein. Entscheidend ist insbesondere, ob real wirkende Inhalte erzeugt oder verändert werden, die als tatsächliche Darstellung missverstanden werden könnten.
Denkbar ist dies beispielsweise bei einer KI-basierten Einbettung einer fotorealistischen Darstellung in ein reales Bild. Dann sollte immer eine Kennzeichnung (z.B. „Visualisierung unter Einsatz KI-basierter Werkzeuge erstellt“) erfolgen, um keine Bußgelder oder Abmahnungen zu riskieren.