In den meisten Branchen endet die AI-Act-Prüfung mit dem Ergebnis, dass kein Hochrisiko vorliegt. In der Bildung ist das anders. Anhang III führt Bildung und Berufsbildung ausdrücklich als Bereich auf, und die dort genannten Anwendungen decken einen erheblichen Teil dessen ab, was EdTech-Produkte tatsächlich tun.
Das macht diesen Bereich zu einem der wenigen, in denen die volle Pflichtenkette — Risikomanagementsystem, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung — realistischerweise zur Anwendung kommt.
Die vier erfassten Anwendungsfälle
Anhang III nennt für den Bildungsbereich im Kern vier Konstellationen: Systeme, die über den Zugang oder die Zulassung zu Bildungseinrichtungen entscheiden oder diese wesentlich beeinflussen; Systeme, die Lernergebnisse bewerten; Systeme, die das angemessene Bildungsniveau einer Person einschätzen; und Systeme zur Überwachung und Erkennung unzulässigen Verhaltens bei Prüfungen.
Der vierte Punkt ist der, der die meisten Anbieter überrascht. Prüfungsüberwachung aus der Ferne — die automatisierte Beobachtung während einer Online-Prüfung — ist damit ausdrücklich als Hochrisiko-Anwendung benannt, nicht als Randfall.
Der zweite Punkt trifft breiter, als er zunächst wirkt. Automatisierte Bewertung von Aufgaben, Einstufungstests und adaptive Lernsysteme, die aus Antworten ein Leistungsbild ableiten, bewegen sich alle in diesem Feld.
Wo die Grenze verläuft
Nicht jedes KI-System in einer Lernanwendung ist damit Hochrisiko. Eine Vokabelabfrage, die den Wiederholungsabstand anpasst, entscheidet nichts über eine Person. Ein Chatbot, der Lernfragen beantwortet, bewertet keine Leistung. Ein System zur Zusammenstellung von Übungsmaterial ohne Bewertungswirkung ebenfalls nicht.
Die Ausnahme in Artikel 6 Absatz 3 kann in Randfällen greifen, etwa wenn ein System lediglich eine eng umgrenzte Verfahrensaufgabe erfüllt oder eine menschliche Bewertung nur vorbereitet, ohne sie zu ersetzen. Sie greift jedoch nicht, wenn ein Profiling natürlicher Personen stattfindet — was bei Lernstandsanalysen regelmässig der Fall ist.
Wer sich auf die Ausnahme stützt, muss die dafür verlangte Bewertung dokumentiert vorhalten. Sie in Anspruch zu nehmen, ohne sie zu begründen, ist die schlechteste aller Varianten: Es entsteht kein Nachweis, aber der Anschein, die Frage geprüft zu haben.
Die Rollenfrage zwischen Anbieter und Einrichtung
Für EdTech-Anbieter und Bildungseinrichtungen fällt die Rollenverteilung meist klar aus: Der Anbieter des Systems ist Anbieter im Sinne des Rechtsakts, die Schule oder Hochschule ist Betreiber. Beide tragen unterschiedliche Pflichten.
Die Einrichtung ist nicht aus der Verantwortung, weil sie einkauft. Zu ihren Pflichten als Betreiber gehören unter anderem die Verwendung entsprechend der Gebrauchsanweisung, die Sicherstellung einer menschlichen Aufsicht durch dafür geeignete Personen und die Information der betroffenen Personen darüber, dass ein Hochrisiko-System auf sie angewendet wird.
Der letzte Punkt hat für Schulen und Hochschulen praktische Folgen: Lernende und gegebenenfalls Erziehungsberechtigte sind zu informieren. Das ist keine Formalie, sondern der Punkt, an dem der AI Act in der Bildung sichtbar wird.
Der Datenschutzstrang läuft parallel
Bildungsdaten sind personenbezogene Daten von Personen, die häufig minderjährig sind. Damit gelten erhöhte Anforderungen, unabhängig vom AI Act. Bei automatisierten Bewertungen mit rechtlicher oder ähnlich erheblicher Wirkung stellt sich zusätzlich die Frage nach der automatisierten Entscheidung im Einzelfall.
Für die Schweiz gilt das revidierte Datenschutzgesetz mit besonderen Anforderungen an die Bearbeitung von Daten besonders schutzbedürftiger Personen. Bei EU-Bezug kommt die DSGVO hinzu.
Eine Datenschutz-Folgenabschätzung ist in diesem Feld regelmässig angezeigt. Sie und die Anforderungen aus dem AI Act überschneiden sich in Teilen, ersetzen einander aber nicht.
Was jetzt sinnvoll ist
Für Anbieter: Die eigenen Funktionen gegen die vier Konstellationen aus Anhang III prüfen und die Einordnung je Funktion dokumentieren. Wer feststellt, in den Hochrisiko-Bereich zu fallen, sollte den Aufbau der technischen Dokumentation und des Risikomanagementsystems nicht bis kurz vor die Geltung schieben — beides ist Aufbauarbeit, keine Formalität.
Für Einrichtungen: Eine Liste der eingesetzten Systeme, die Einstufung des jeweiligen Anbieters schriftlich einholen und klären, wer die menschliche Aufsicht tatsächlich ausübt. Diese Person muss dazu befähigt und befugt sein — eine formale Zuweisung ohne Eingriffsmöglichkeit erfüllt die Anforderung nicht.
Für beide: Die Information der betroffenen Personen vorbereiten, bevor die Pflichten greifen. Sie ist der sichtbarste Teil und der, an dem Nachfragen zuerst entstehen.
Was offen bleibt
Die Abgrenzung zwischen einem adaptiven Lernsystem und einem System zur Bewertung von Lernergebnissen ist in der Praxis fliessend und noch nicht durch Leitlinien geschärft. Wer ein Produkt in dieser Zone entwickelt, tut gut daran, die eigene Einordnung so zu dokumentieren, dass sie einer späteren Präzisierung standhält oder sich nachvollziehbar anpassen lässt.