Im Onlinehandel steckt KI an mehr Stellen als in fast jeder anderen Branche: Produktempfehlungen, Sortierung der Suchergebnisse, Preisanpassung, Betrugserkennung, Support-Chatbots, generierte Produkttexte. Wer die AI-Act-Frage stellt, erwartet deshalb oft eine lange Pflichtenliste.
Die Antwort ist unbequemer und einfacher zugleich: Die meisten dieser Systeme sind nach dem AI Act nicht Hochrisiko. Das entlastet aber weniger, als es klingt — weil an genau denselben Systemen andere Regelwerke hängen, die schon länger gelten und schärfer greifen.
Warum der Recommender meist nicht Hochrisiko ist
Anhang III listet die Bereiche, in denen ein KI-System als Hochrisiko gilt: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen privaten und öffentlichen Diensten, Strafverfolgung, Migration, Justiz. Produktempfehlung im Onlineshop kommt darin nicht vor.
Ein Empfehlungssystem, das Turnschuhe vorschlägt, fällt damit weder unter Anhang III noch unter den zweiten Weg zur Hochrisiko-Einstufung, den Einsatz als Sicherheitskomponente eines Produkts. Es bleibt ein KI-System im Sinne des Rechtsakts, aber ohne die Pflichtenkette aus Konformitätsbewertung, Risikomanagementsystem und technischer Dokumentation.
Die Grenze verläuft dort, wo Empfehlung in Zugang übergeht. Ein System, das über die Gewährung von Ratenzahlung oder eines Kreditlimits entscheidet, bewegt sich in Richtung des Anhang-III-Bereichs zum Zugang zu wesentlichen Diensten. Dieselbe Technik, ein anderer Zweck, eine andere Einstufung.
Wo der AI Act im Handel tatsächlich greift: Artikel 50
Die Transparenzpflichten aus Artikel 50 gelten unabhängig von der Risikoklasse. Für den Handel sind drei Fälle einschlägig.
Erstens: Ein System, das unmittelbar mit Menschen interagiert, muss so gestaltet sein, dass die Person erkennt, mit einer KI zu sprechen — ausser das ist aus den Umständen ohnehin offensichtlich. Für Support-Chatbots heisst das eine Kennzeichnung, die vor dem ersten Austausch steht und nicht in den Nutzungsbedingungen versteckt ist.
Zweitens: Künstlich erzeugte oder manipulierte Bild-, Ton- und Videoinhalte müssen als solche gekennzeichnet werden. Für Werbung mit synthetischen Gesichtern, Stimmen oder Produktszenen ist das die relevante Vorschrift, und sie trifft auch Händler, die solche Inhalte nur einkaufen und ausspielen.
Drittens: Generierte Texte, die über Angelegenheiten von öffentlichem Interesse informieren, unterliegen einer Offenlegungspflicht. Für automatisch erzeugte Produktbeschreibungen greift das in aller Regel nicht — für generierte Ratgeberinhalte auf demselben Shop kann es anders liegen.
Der Punkt, an dem es unangenehm wird: Preisalgorithmen
Dynamische Preisgestaltung ist die Anwendung, bei der die meisten Händler eine AI-Act-Antwort suchen und die falsche Frage stellen. Der AI Act adressiert Preisalgorithmen nicht eigens. Was sie reguliert, sind Datenschutz- und Lauterkeitsrecht.
Sobald ein Preis auf Basis personenbezogener Daten individuell zugeschnitten wird, ist die DSGVO massgeblich, und je nach Ausgestaltung stellt sich die Frage nach einer automatisierten Entscheidung im Einzelfall. Hinzu kommt die Pflicht, personalisierte Preise als solche auszuweisen, die aus dem europäischen Verbraucherrecht folgt und in Deutschland und Österreich seit Längerem umgesetzt ist.
Für die Schweiz gilt die DSGVO nur bei EU-Bezug, das revidierte Datenschutzgesetz aber immer. Wer aus der Schweiz an EU-Kundinnen verkauft, hat regelmässig beides zu bedienen.
Verbotene Praktiken: der Fall, den man nicht übersehen darf
Artikel 5 gilt seit Februar 2025 und ist die einzige Stelle, an der der AI Act für Händler wirklich scharf wird. Untersagt sind unter anderem Techniken, die das Verhalten von Personen unterschwellig oder manipulativ so beeinflussen, dass ihnen erheblicher Schaden entsteht, sowie das gezielte Ausnutzen von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer und wirtschaftlicher Lage.
Im normalen Handel ist das selten einschlägig. Relevant wird es bei aggressiven Verkaufsmechaniken, die auf messbare Schwächen einer Person zugeschnitten sind — etwa Systeme, die finanzielle Not erkennen und darauf abgestimmt zu Käufen drängen. Wer in diese Richtung optimiert, sollte den Artikel gelesen haben, bevor die Aufsicht es tut.
Was der AI Act nicht regelt, aber am selben System hängt
Für grosse Plattformen kommen Pflichten aus dem Digital Services Act hinzu, insbesondere zur Offenlegung der Hauptparameter von Empfehlungssystemen. Diese Pflichten bestehen unabhängig vom AI Act und knüpfen an Rolle und Grösse an, nicht an die Risikoklasse.
Für die Betrugserkennung im Bezahlvorgang ist regelmässig die Frage nach der automatisierten Entscheidung im Einzelfall der eigentliche Prüfstein, nicht die AI-Act-Einstufung. Ein System, das eine Bestellung ohne menschliche Prüfung ablehnt, verlangt eine datenschutzrechtliche Grundlage und eine Möglichkeit, die Entscheidung überprüfen zu lassen.
Was jetzt sinnvoll ist
Der erste Schritt ist kein Rechtsgutachten, sondern eine Liste. Welche Systeme mit KI-Funktion laufen im Shop, im Marketing und im Support, wer hat sie beschafft, und zu welchem Zweck werden sie eingesetzt. Ohne diese Liste lässt sich keine der obigen Fragen beantworten.
Der zweite Schritt ist die Trennung nach Regelwerk: Was ist eine AI-Act-Frage, was eine Datenschutzfrage, was eine Frage des Verbraucher- oder Plattformrechts. Diese Trennung erspart die häufigste Fehlinvestition im Handel — aufwendige AI-Act-Dokumentation für Systeme, deren eigentliches Risiko woanders liegt.
Der dritte Schritt betrifft die Kennzeichnung. Chatbot-Hinweis und Kennzeichnung synthetischer Werbeinhalte sind vergleichsweise günstig umzusetzen und decken den Teil ab, der im Handel am ehesten auffällt.
Was offen bleibt
Die Auslegungspraxis zu Artikel 50 ist noch jung, insbesondere zur Frage, wie deutlich eine Kennzeichnung ausfallen muss und wann eine KI-Interaktion aus den Umständen offensichtlich ist. Wer hier heute eine Entscheidung trifft, sollte die Begründung festhalten — sie ist im Zweifel wertvoller als die Entscheidung selbst.