Versicherer setzen KI seit Jahren ein — in der Tarifierung, in der Betrugserkennung, in der Schadenbearbeitung und im Kundenkontakt. Die KI-Verordnung greift in dieses Feld gezielt und nicht flächendeckend ein: Sie nennt bestimmte Anwendungen ausdrücklich, lässt andere unberührt.
Die praktische Aufgabe ist deshalb nicht, den gesamten KI-Einsatz eines Versicherers als hochriskant zu behandeln, sondern die Grenze sauber zu ziehen. Wer das nicht tut, überreguliert sich selbst — oder übersieht den einen Anwendungsfall, der tatsächlich betroffen ist.
Wo die Verordnung ansetzt
Als hochriskant eingestuft sind unter anderem Systeme zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung, soweit sie natürliche Personen betreffen. Der Grund ist derselbe wie bei der Kreditwürdigkeitsprüfung: Die Entscheidung bestimmt den Zugang zu einer Leistung von erheblicher Bedeutung, und eine fehlerhafte oder verzerrte Bewertung trifft die betroffene Person unmittelbar.
Nicht jede Anwendung im Versicherungsbereich fällt darunter. Ein System, das interne Dokumente sortiert oder Textbausteine für die Korrespondenz vorschlägt, ist etwas grundlegend anderes als eines, das über Annahme und Prämie entscheidet.
Die Grenze verläuft am Entscheidungsbezug
Die nützliche Prüffrage lautet nicht, wie komplex ein System ist, sondern worüber es faktisch mitentscheidet. Ein Modell, das eine Risikoeinschätzung liefert, auf deren Grundlage eine Annahmeentscheidung getroffen wird, wirkt auf diese Entscheidung — auch wenn formal ein Mensch unterschreibt.
Umgekehrt bleibt ein System, dessen Ergebnis in eine interne Steuerungsgrösse einfliesst und keine Einzelfallentscheidung berührt, ausserhalb dieses Bereichs. Die Einordnung folgt damit dem Zweck und der Wirkung, nicht der Technik.
Verzerrung ist hier besonders heikel
In der Versicherung ist Differenzierung das Geschäftsmodell — Risiken werden bewusst unterschiedlich bewertet. Das macht die Prüfung auf unzulässige Verzerrung anspruchsvoller als anderswo, weil zulässige Risikodifferenzierung und unzulässige Diskriminierung nah beieinanderliegen können.
Die praktische Konsequenz ist, dass die Begründung eines Modells wichtiger wird als seine Genauigkeit. Ein Merkmal, das statistisch trennscharf ist, aber als Stellvertreter für ein geschütztes Merkmal wirkt, ist ein Problem — und dieses Problem findet man nur, wenn man gezielt danach sucht.
Was die Schadenbearbeitung betrifft
In der Schadenbearbeitung ist die Lage differenzierter. Eine automatische Vorsortierung nach Bearbeitungsaufwand berührt die Leistungsentscheidung nicht unmittelbar. Ein System dagegen, das über Ablehnung oder Kürzung mitentscheidet, tut es sehr wohl.
Hinzu kommt die Betrugserkennung. Ein System, das Fälle als auffällig markiert, führt in der Praxis zu einer intensiveren Prüfung und damit zu einer anderen Behandlung der betroffenen Person. Ob und wieweit das regulatorisch relevant ist, hängt an der konkreten Ausgestaltung und gehört im Einzelfall beurteilt.
Begründbarkeit gegenüber dem Kunden
Eine Ablehnung oder eine deutlich erhöhte Prämie erzeugt eine Nachfrage, und die Antwort das Modell hat so entschieden trägt nicht — weder gegenüber der Kundin noch gegenüber einer Aufsicht. Verlangt ist eine Begründung in der Sache.
Das hat eine Folge für die Modellwahl, die selten offen ausgesprochen wird: Ein etwas weniger trennscharfes, aber erklärbares Modell kann in einem regulierten Entscheidungsprozess mehr wert sein als ein genaueres, das sich nicht begründen lässt. Diese Abwägung gehört vor die Entwicklung, nicht danach.
Der Weg über die Bestandsaufnahme
Für einen Versicherer ist der sinnvolle erste Schritt eine Aufstellung aller Modelle, die in Entscheidungen über einzelne Personen einfliessen — unabhängig davon, ob sie als KI geführt werden. Für jedes dieser Modelle sind zwei Fragen zu beantworten: Worüber entscheidet es mit, und wie stark folgt der Mensch seinem Ergebnis?
Die zweite Frage ist die aufschlussreichere. Wo die Übernahmequote hoch ist, ist die menschliche Prüfung faktisch keine Kontrolle mehr, sondern eine Bestätigung. Das zu wissen ist für die eigene Beurteilung wichtiger als jede Einstufung auf dem Papier.