Welche Transparenzpflichten gelten für Chatbots? (Art. 50)

Was verlangt Artikel 50 bei Chatbots?

Setzen Sie ein KI-System ein, mit dem Menschen direkt interagieren – etwa einen Chatbot im Kundenservice –, müssen die betroffenen Personen darüber informiert werden, dass sie mit einer KI und nicht mit einem Menschen kommunizieren. Diese Information ist nur dann entbehrlich, wenn es aus den Umständen ohnehin offensichtlich ist.

In der Praxis genügt meist ein klarer Hinweis zu Beginn der Konversation, etwa „Sie chatten mit einem KI-Assistenten“.

Wie müssen KI-generierte Inhalte gekennzeichnet werden?

Anbieter von generativer KI müssen ihre Ausgaben technisch so kennzeichnen, dass sie als künstlich erzeugt oder bearbeitet erkennbar sind (z. B. über maschinenlesbare Markierungen). Betreiber, die solche Inhalte veröffentlichen, müssen sie zusätzlich offenlegen – insbesondere bei „Deepfakes“, also realistisch wirkenden, aber künstlich erzeugten Bildern, Audios oder Videos.

Gibt es Ausnahmen von der Kennzeichnungspflicht?

Ja, einige. Für offensichtlich künstlerische, kreative oder satirische Werke gelten abgemilderte Vorgaben – die Kennzeichnung darf den Genuss des Werks nicht beeinträchtigen. Auch rein interne Entwürfe, die nicht veröffentlicht werden, lösen in der Regel keine Offenlegungspflicht aus. Sobald Inhalte aber veröffentlicht werden und die Öffentlichkeit informieren sollen, greift die Transparenzpflicht.

Was sollten Unternehmen jetzt tun?

• Chatbots und KI-Assistenten mit einem klaren KI-Hinweis versehen.
• Veröffentlichte KI-generierte Texte, Bilder, Audios und Videos kennzeichnen.
• Deepfakes und realistisch wirkende KI-Medien deutlich als KI-generiert ausweisen.
• Eine interne Regel festlegen, wer KI-Inhalte vor Veröffentlichung prüft und kennzeichnet.

Häufige Fragen

Muss ich kennzeichnen, dass mein Chatbot eine KI ist?

Ja. Nach Artikel 50 müssen Personen darüber informiert werden, dass sie mit einer KI interagieren – außer es ist offensichtlich. Ein kurzer Hinweis zu Beginn des Chats reicht in der Regel aus.

Ab wann gelten die Transparenzpflichten nach Artikel 50?

Die Transparenzpflichten greifen ab dem 2. August 2026. Für Systeme, die bereits vor diesem Datum am Markt waren, sieht der geplante Digital Omnibus teils spätere Übergangsfristen vor.

Müssen KI-generierte Texte und Bilder gekennzeichnet werden?

Ja, sofern sie veröffentlicht werden. Künstlich erzeugte oder bearbeitete Inhalte – besonders Deepfakes – sind als KI-generiert offenzulegen. Für rein interne Entwürfe gilt das meist nicht.

Gilt die Kennzeichnungspflicht auch für KMU?

Ja. Artikel 50 macht keine Ausnahme nach Unternehmensgröße. Auch kleine Unternehmen müssen Chatbots und veröffentlichte KI-Inhalte transparent kennzeichnen.