Die Definition des Begriffs KI-System ist der Ausgangspunkt des gesamten EU AI Act, denn nur was als KI-System gilt, fällt überhaupt unter die Verordnung. Artikel 3 Nummer 1 definiert ein KI-System als ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist, das nach seiner Einführung Anpassungsfähigkeit zeigen kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden, die physische oder virtuelle Umgebungen beeinflussen können.
Warum die Definition so wichtig ist
Die genaue Abgrenzung entscheidet darüber, ob ein Unternehmen die Pflichten des AI Act erfüllen muss oder nicht. Eine zu weite Auslegung würde gewöhnliche Software unnötig regulieren, eine zu enge würde Schutzlücken schaffen. Der EU-Gesetzgeber hat sich bewusst eng an die international anerkannte Definition der OECD angelehnt, um Konsistenz mit anderen Regulierungsansätzen zu schaffen. Die Europäische Kommission hat zudem Leitlinien veröffentlicht, die helfen, die Definition im Einzelfall anzuwenden.
Die zentralen Merkmale
Drei Merkmale prägen die Definition. Erstens die Autonomie: Ein KI-System arbeitet mit einem gewissen Grad an Unabhängigkeit vom menschlichen Eingriff. Das schliesst nicht aus, dass ein Mensch das System steuert oder beaufsichtigt, verlangt aber, dass es nicht jeden Schritt von einem Menschen vorgegeben bekommt. Zweitens die Ableitung: Das System leitet aus Eingaben ab, wie Ausgaben zu erzeugen sind — dieses Ableiten, etwa durch maschinelles Lernen oder logik- und wissensbasierte Ansätze, unterscheidet KI von fest programmierter Software. Drittens die Wirkung auf die Umgebung: Die Ausgaben — Vorhersagen, Inhalte, Empfehlungen, Entscheidungen — können physische oder virtuelle Umgebungen beeinflussen.
Abgrenzung zu klassischer Software
Die praktisch wichtigste Frage lautet oft: Wann ist etwas ein KI-System und wann nur ein gewöhnliches Computerprogramm? Die Kommission stellt klar, dass Systeme, die ausschliesslich auf von Menschen definierten Regeln beruhen, um Operationen automatisch auszuführen, nicht als KI-Systeme gelten. Eine klassische Wenn-Dann-Logik, eine einfache Berechnung in einer Tabelle oder ein regelbasierter Workflow ohne Lernkomponente fallen damit nicht unter den AI Act. Entscheidend ist die Fähigkeit, aus Daten Muster abzuleiten, statt nur vorgegebene Regeln abzuarbeiten. In der Praxis ist diese Grenze nicht immer scharf, weshalb eine sorgfältige Einzelfallprüfung nötig ist.
Maschinelles Lernen und andere Ansätze
Der AI Act ist technologieneutral formuliert und erfasst verschiedene Techniken. Dazu gehören das maschinelle Lernen in all seinen Spielarten — überwachtes, unüberwachtes und bestärkendes Lernen sowie Deep Learning —, aber auch logik- und wissensbasierte Ansätze wie Expertensysteme. Diese Breite stellt sicher, dass die Regulierung nicht durch einen technologischen Wandel überholt wird. Ein System, das heute mit einem neuronalen Netz arbeitet und morgen mit einer anderen Technik denselben Zweck erfüllt, bleibt in beiden Fällen ein KI-System, wenn es die Definitionsmerkmale erfüllt.
Generative KI und Sprachmodelle
Grosse Sprachmodelle und generative KI-Systeme wie die hinter Chatbots und Textgeneratoren erfüllen die Definition eines KI-Systems zweifelsfrei. Für die zugrunde liegenden General-Purpose-AI-Modelle, die viele verschiedene Aufgaben erfüllen können, enthält der AI Act zudem ein eigenes Regelwerk mit gesonderten Pflichten für die Modellanbieter. Ein Unternehmen, das ein solches Modell über eine Schnittstelle in sein eigenes Produkt integriert, wird in der Regel zum Anbieter oder Betreiber eines KI-Systems und muss die entsprechenden Pflichten prüfen.
Die praktische Einordnung im Unternehmen
Für die Praxis bedeutet die Definition, dass jedes Unternehmen seine eingesetzten Werkzeuge daraufhin prüfen sollte, ob sie KI-Systeme im Sinne des AI Act sind. Eine Empfehlungsmaschine, ein Bewerbungs-Screening-Tool, ein Betrugserkennungssystem, ein Chatbot oder ein automatisiertes Bonitätsmodell sind klar KI-Systeme. Eine Lohnbuchhaltung nach festen Regeln, ein Terminkalender oder ein klassisches CRM ohne lernende Komponente sind es in der Regel nicht. Diese erste Einordnung ist die Grundlage für die anschliessende Risikoklassifizierung. Werkzeuge wie AI Risk Check führen strukturiert durch diese Prüfung und dokumentieren die Begründung, sodass die Einordnung einem Audit standhält.
Warum die Begründung dokumentiert werden muss
Grenzfälle in der Praxis
Die Abgrenzung zwischen KI-System und klassischer Software wird in der Praxis oft an Grenzfällen entschieden. Ein Empfehlungssystem, das auf einfachen, von Menschen festgelegten Regeln beruht, ist kein KI-System; eines, das aus dem Nutzerverhalten lernt, sehr wohl. Ein Tabellenkalkulationsmodell mit festen Formeln fällt nicht unter den AI Act; ein Prognosemodell, das aus historischen Daten Muster ableitet, schon. Ein regelbasierter Chatbot, der nur vordefinierte Antworten ausgibt, ist ein Grenzfall, während ein auf einem Sprachmodell beruhender Chatbot eindeutig ein KI-System ist. Diese Beispiele zeigen, dass die entscheidende Frage stets dieselbe ist: Leitet das System aus Daten ab, wie es Ausgaben erzeugt, oder arbeitet es nur vorgegebene Regeln ab?
Warum die Einordnung Folgen für Datenschutz hat
Die Feststellung, dass ein System ein KI-System ist, hat nicht nur Folgen für den AI Act, sondern berührt oft auch den Datenschutz. KI-Systeme verarbeiten häufig personenbezogene Daten, und sobald das der Fall ist, gelten die DSGVO und in der Schweiz das revDSG parallel. Automatisierte Entscheidungen, die ein KI-System trifft, können zudem Artikel 22 DSGVO auslösen, der besondere Anforderungen an Entscheidungen ohne menschliches Zutun stellt. Wer ein System als KI-System einordnet, sollte daher stets auch die datenschutzrechtliche Dimension prüfen. Diese Verzahnung von AI Act und Datenschutz ist ein zentraler Grund, beide Felder gemeinsam zu betrachten, statt sie getrennt zu behandeln.
Die laufende Pflege des KI-Inventars
Da die Einordnung als KI-System der Ausgangspunkt aller weiteren Pflichten ist, sollte sie nicht einmalig, sondern fortlaufend erfolgen. Unternehmen führen am besten ein KI-Inventar, das alle eingesetzten und geplanten Systeme erfasst, ihre Einordnung dokumentiert und bei Änderungen aktualisiert wird. Neue Werkzeuge werden geprüft, bevor sie in Betrieb gehen, und bestehende neu bewertet, wenn sich ihr Einsatz ändert. Dieses Inventar ist die Grundlage für die gesamte AI-Act-Compliance und zugleich ein wertvolles Steuerungsinstrument, das Transparenz über den KI-Einsatz im Unternehmen schafft. Werkzeuge wie AI Risk Check unterstützen die Pflege eines solchen Inventars und halten die Einordnungen audittauglich fest.
Ob ein System ein KI-System ist, kann im Grenzfall strittig sein, und die Einordnung hat direkte rechtliche Folgen. Deshalb genügt es nicht, eine Entscheidung zu treffen — sie muss nachvollziehbar dokumentiert werden. Eine sauber begründete Einordnung, die erklärt, warum ein System die Definitionsmerkmale erfüllt oder nicht, schützt das Unternehmen gegenüber Marktüberwachungsbehörden und schafft intern Klarheit. Sie ist zudem die Voraussetzung für die nächste Stufe der Compliance: die Klassifizierung des KI-Systems nach seiner Risikostufe und die Ableitung der konkreten Pflichten.
Fazit
Die Einordnung als KI-System ist die erste und grundlegendste Weiche der AI-Act-Compliance: Sie entscheidet, ob ein System überhaupt unter die Verordnung fällt. Die drei Merkmale — Autonomie, Ableitung aus Daten und Wirkung auf die Umgebung — bilden den Massstab, und die Abgrenzung zu regelbasierter Software ist im Grenzfall sorgfältig vorzunehmen und zu dokumentieren. Wer hier sauber arbeitet, schafft die Grundlage für die gesamte weitere Klassifizierung und vermeidet, dass Pflichten übersehen oder unnötig übererfüllt werden.