Artikel 50 der KI-Verordnung regelt Transparenz. Er ist der Artikel, der die meisten Unternehmen betrifft, weil er nicht an eine Hochrisiko-Einstufung anknüpft: Auch ein völlig harmloses System kann transparenzpflichtig sein, wenn Menschen mit ihm interagieren oder es Inhalte erzeugt.
Die Grundidee ist einfach und lässt sich in einem Satz sagen: Menschen sollen wissen, wann sie es mit einer Maschine zu tun haben und wann ein Inhalt maschinell erzeugt wurde. Alles Weitere ist Ausgestaltung.
Interaktion mit einem KI-System
Wo eine Person mit einem KI-System interagiert, muss sie darüber informiert werden — es sei denn, das ist aus den Umständen ohnehin offensichtlich. Der praktisch wichtigste Fall ist der Chatbot auf einer Website oder in einem Kundenkanal.
Die Umsetzung ist unaufwendig und wird trotzdem regelmässig falsch gemacht. Der Hinweis gehört an den Anfang der Interaktion und in die Oberfläche, nicht in die Nutzungsbedingungen. Eine Fussnote erfüllt den Zweck nicht, weil sie die Person nicht erreicht, bevor sie zu schreiben beginnt.
Erzeugte Inhalte kennzeichnen
Für synthetisch erzeugte Inhalte — Text, Bild, Ton, Video — verlangt der Artikel eine maschinenlesbare Kennzeichnung. Diese Anforderung richtet sich an die Anbieter der erzeugenden Systeme und ist technischer Natur; sie wird in aller Regel über Metadaten oder Wasserzeichen umgesetzt.
Davon zu unterscheiden ist die Offenlegung gegenüber Menschen. Sie greift insbesondere dort, wo Inhalte veröffentlicht werden, die eine reale Person oder ein reales Ereignis darstellen, ohne es zu sein. Für ein KI-generiertes Marketingbild ohne Personenbezug gelten andere Erwägungen als für ein Video, das eine Person etwas sagen lässt.
Was das für einen typischen Betrieb heisst
Für die meisten Unternehmen laufen die Pflichten auf drei überschaubare Punkte hinaus. Erstens: Jeder Chatbot in einem Kundenkanal braucht einen Hinweis am Anfang. Zweitens: Wo öffentlich Inhalte erscheinen, die im Wesentlichen von einem System erzeugt wurden, gehört das erkennbar gemacht. Drittens: Wo ein System Emotionen erkennt oder Personen biometrisch kategorisiert, gelten zusätzliche Informationspflichten gegenüber den betroffenen Personen.
Der dritte Punkt wird am häufigsten übersehen, weil solche Funktionen oft als Nebenfunktion in einem beschafften Produkt stecken — etwa in einer Analysefunktion für Kundengespräche.
Die häufigsten Umsetzungsfehler
Drei Muster wiederholen sich. Der Hinweis steht in den Nutzungsbedingungen statt in der Oberfläche. Der Chatbot gibt sich einen menschlichen Namen und wird auf Nachfrage ausweichend — das verstärkt den Verstoss, statt ihn zu heilen. Und die Kennzeichnung wird nur auf der eigenen Website umgesetzt, nicht in den Kanälen, in denen dieselbe Automatisierung ebenfalls läuft.
Der zweite Punkt verdient Aufmerksamkeit, weil er über die Rechtsfrage hinausgeht. Ein System, das auf die direkte Frage nicht sagt, dass es ein System ist, beschädigt das Vertrauen stärker, als eine ehrliche Kennzeichnung je gekostet hätte.
Wer die Pflicht trägt
Bei einem zugekauften Chatbot stellt sich die Frage, wen die Pflicht trifft. Die Antwort folgt der Rolle: Wer das System unter eigenem Namen in einem eigenen Kanal betreibt, informiert die Nutzenden — unabhängig davon, wer die Technik geliefert hat. Der Verweis auf den Anbieter entlastet nicht.
Praktisch heisst das, dass die Kennzeichnung bei der Einbindung mitgedacht werden muss und nicht beim Hersteller liegt. Ein Standardprodukt liefert dafür oft eine Einstellung; sie ist aber selten von Haus aus aktiv.
Transparenz ist billiger als ihr Ruf
Die verbreitete Sorge, ein Hinweis auf den KI-Einsatz senke die Akzeptanz, hält der Erfahrung meist nicht stand. Was Nutzer stört, ist nicht die Maschine, sondern die Täuschung — und ein klar gekennzeichneter Assistent, der schnell antwortet, wird in aller Regel akzeptiert.
Praktisch ist Artikel 50 damit die Pflicht mit dem besten Verhältnis von Aufwand zu Wirkung im ganzen Gesetz: wenige Zeilen im Interface, geringes Risiko, und ein Vertrauensgewinn, der die Massnahme für sich genommen rechtfertigt.