Checkliste: KI-Anbieter und KI-Funktionen prüfen, bevor sie eingesetzt werden
Für: Einkauf, IT und Datenschutz bei der Auswahl von KI-Diensten
Aktualisiert: 2026-10
Vor dem Einsatz eines KI-Dienstes sind zehn Fragen zu klären: Wird auf eigenen Daten trainiert, wo werden Daten verarbeitet, wie lange werden Eingaben gespeichert, gibt es einen Auftragsbearbeitungsvertrag, wie ist die Sicherheit belegt, welche Rolle hat man nach AI Act, welche Dokumentation liefert der Anbieter, wie werden Modellwechsel angekündigt, wie werden Kosten begrenzt und wie steigt man wieder aus.
KI-Funktionen kommen auf zwei Wegen ins Unternehmen: als eigenständige Werkzeuge und als neue Funktionen in Software, die man bereits nutzt. In beiden Fällen gelangen Daten zu einem Anbieter, oft mit Bezug zu Drittstaaten und manchmal mit Nutzungsrechten, die beim Abschluss niemand gelesen hat.
Diese Checkliste ergänzt die allgemeine Lieferantenauswahl für Software um die Fragen, die bei KI-Diensten zusätzlich zählen. Sie gilt für API-Anbieter von Sprachmodellen ebenso wie für SaaS-Werkzeuge mit KI-Funktionen.
Die Checkliste
- 01
Training auf eigenen Daten klären
Prüfen, ob Eingaben und Ausgaben zum Training oder zur Verbesserung der Modelle des Anbieters verwendet werden und ob sich das vertraglich ausschliessen lässt. Bei Verbraucherkonten ist die Voreinstellung oft anders als bei Unternehmens- oder API-Zugängen.
Erledigt, wenn: Die Regelung zur Datenverwendung ist schriftlich festgehalten, und für Unternehmensdaten ist Training ausgeschlossen.
- 02
Verarbeitungsort und Unterauftragsbearbeiter
Feststellen, wo Daten verarbeitet und gespeichert werden, ob eine Verarbeitung in der EU oder der Schweiz möglich ist und welche Unterauftragsbearbeiter beteiligt sind. Für Drittstaaten die Grundlage der Übermittlung bestimmen.
Erledigt, wenn: Verarbeitungsorte, Unterauftragsbearbeiter und die Grundlage jeder Auslandbekanntgabe sind dokumentiert.
- 03
Speicherung von Eingaben und Ausgaben
Klären, wie lange Prompts, Dateien und Ausgaben beim Anbieter gespeichert werden, etwa für Missbrauchsüberwachung, und ob eine kürzere oder keine Speicherung vereinbart werden kann.
Erledigt, wenn: Die Aufbewahrungsdauer ist bekannt und mit den eigenen Löschregeln vereinbar.
- 04
Vertrag und Auftragsbearbeitung
Einen Auftragsbearbeitungsvertrag abschliessen, wenn Personendaten verarbeitet werden, und die Nutzungsbedingungen auf Rechte an Ein- und Ausgaben, Haftung und Vertraulichkeit prüfen.
Erledigt, wenn: Ein unterschriebener Vertrag liegt vor, und die Regelungen zu Rechten und Vertraulichkeit sind bekannt.
- 05
Sicherheit belegen lassen
Nachweise zur Informationssicherheit anfordern, etwa Zertifizierungen oder Prüfberichte, und die Möglichkeiten für Zugriffsschutz prüfen: Single Sign-on, Rollen, Protokollierung, Verwaltung von API-Schlüsseln.
Erledigt, wenn: Sicherheitsnachweise liegen vor, und Zugänge werden über Unternehmenskonten mit geregelten Rechten verwaltet.
- 06
Rolle nach AI Act und Dokumentation
Bestimmen, ob man als Betreiber eines fremden Systems handelt oder durch eigene Anpassungen und Vermarktung zum Anbieter wird. Klären, welche Informationen der Anbieter zu Zweck, Grenzen und Risiken des Systems liefert, besonders wenn ein Einsatz in einem Hochrisiko-Bereich in Frage kommt.
Erledigt, wenn: Die Rolle ist pro Anwendung festgehalten, und die Dokumentation des Anbieters ist abgelegt.
- 07
Modellwechsel und Änderungen
Prüfen, ob der Anbieter Modellwechsel und Abkündigungen rechtzeitig ankündigt und ob sich eine Modellversion fixieren lässt. Ungeplante Wechsel können Qualität und Verhalten einer Funktion verändern.
Erledigt, wenn: Die Regelung zu Modellversionen und Ankündigungsfristen ist bekannt, und ein Evaluationsset ist für Wechsel vorbereitet.
- 08
Kosten und Ausstieg
Kostenmodell und Grenzen verstehen, Budgetalarme und Kontingente einrichten. Den Ausstieg vorab klären: Export von Daten und Konfiguration, Abhängigkeiten von proprietären Funktionen und eine mögliche Alternative.
Erledigt, wenn: Kostenlimits sind aktiv, und ein Ausstiegsszenario mit Exportweg ist beschrieben.
Häufige Fehler
- —Verbraucherkonten für Unternehmensdaten, bei denen Training standardmässig aktiv ist.
- —KI-Funktionen in bestehender Software, die ohne Prüfung freigeschaltet werden.
- —Ein Verarbeitungsort in der EU für die Daten, aber Support oder Überwachung aus Drittstaaten, die niemand berücksichtigt hat.
- —Kein fixiertes Modell, sodass sich das Verhalten einer Funktion nach einem Anbieterwechsel unbemerkt ändert.
- —Keine Kostenlimits, bis die erste hohe Rechnung kommt.
Was diese Checkliste nicht abdeckt
- —Diese Checkliste ist keine Rechtsberatung und ersetzt keine vertragliche Prüfung im Einzelfall.
- —Sie behandelt die Prüfung des Anbieters, nicht die Risikobeurteilung des eigenen Anwendungsfalls; dafür sind KI-Inventar und Einstufung nach AI Act nötig.
- —Regulierte Branchen haben zusätzliche Anforderungen an Auslagerungen und Drittanbieter, etwa nach FINMA-Vorgaben oder DORA.
- —Angebote und Bedingungen von KI-Anbietern ändern sich häufig; die Prüfung ist bei Änderungen zu wiederholen.
Übergeordnete Leistung: EU-AI-Act- & Compliance-Beratung
Passende Angebote
KI-Integrationsstrategie
Eine KI-Integrationsstrategie klärt, wo künstliche Intelligenz in Ihrem Unternehmen echten Wert schafft — und wo nicht. Sie identifiziert Anwendungsfälle, bewertet Machbarkeit und Nutzen, priorisiert und liefert einen Fahrplan, der die AI-Act-Konformität von Anfang an mitdenkt statt nachträglich.
KI-Governance-Aufbau
KI-Governance gibt Ihrem Umgang mit KI eine wiederholbare Struktur: eine KI-Politik, ein Risikoinventar, klare Rollen und ein Lebenszyklus-Prozess — an der ISO/IEC 42001 orientiert. Ergebnis ist das organisatorische Rückgrat, das die vom AI Act verlangten Nachweise prüffest und dauerhaft produziert.
Häufige Fragen
Trainieren KI-Anbieter auf unseren Daten?
Das hängt vom Angebot ab. Bei vielen Unternehmens- und API-Zugängen ist Training ausgeschlossen, bei Verbraucherkonten oft nicht. Entscheidend ist die schriftliche Regelung im Vertrag oder in den Bedingungen.
Brauchen wir einen Auftragsbearbeitungsvertrag mit dem KI-Anbieter?
Ja, sobald Personendaten im Auftrag verarbeitet werden. Die grossen Anbieter stellen solche Verträge für Unternehmenskunden bereit.
Sind wir Anbieter im Sinne des AI Act, wenn wir ein fremdes Modell nutzen?
Meist sind Sie Betreiber. Zum Anbieter werden Sie, wenn Sie ein System unter eigenem Namen anbieten, es wesentlich verändern oder für einen Hochrisiko-Zweck einsetzen, für den es nicht vorgesehen war.
Wie oft sollte die Prüfung wiederholt werden?
Bei Vertragsverlängerungen, bei wesentlichen Änderungen der Bedingungen oder Modelle und mindestens in einem festen Rhythmus, etwa jährlich.
Weitere Checklisten
Checkliste: KI in Kanzleien und Treuhandbüros sicher einsetzen
KI kann in Kanzleien und Treuhandbüros viel Zeit sparen, berührt aber Berufsgeheimnis und Datenschutz unmittelbar. Sicher wird der Einsatz mit geklärten Geheimhaltungspflichten, Werkzeugen mit Vertrag und ohne Training auf Mandantendaten, minimierten Daten, der Prüfung jeder Aussage und Fundstelle, Transparenz gegenüber Mandanten sowie Richtlinie und Schulung.
Checkliste: Website-Relaunch für Kanzleien und Treuhänder
Ein Kanzlei-Relaunch gelingt, wenn Fachgebiete und Personen klar strukturiert, alte Adressen sauber weitergeleitet, Inhalte berufsrechtlich sachlich, das Kontaktformular vertraulich gestaltet, strukturierte Daten und lokale Angaben korrekt und Indexierung sowie Anfragen nach dem Go-live gemessen werden.
EU-AI-Act-Konformität: die Checkliste für den ersten Durchgang
Ein tragfähiger erster Durchgang durch den EU AI Act besteht aus sechs Schritten: wissen, welche KI im Haus läuft, die eigene Rolle je System bestimmen, nach Artikel 6 einstufen, Transparenzpflichten separat prüfen, KI-Kompetenz sicherstellen und alles so ablegen, dass es im Prüffall auffindbar ist.