Bildung ist einer der Bereiche, in denen der AI Act besonders genau hinschaut. Entscheidungen über Zulassung, Bewertung und Prüfungen prägen Lebenswege, und die Betroffenen sind oft junge Menschen. Für EdTech-Anbieter und Bildungseinrichtungen heisst das: Ein Teil der Anwendungen ist verboten, ein Teil hochriskant, und für fast alle gelten Kompetenz- und Transparenzpflichten.
Was verboten ist
Seit Februar 2025 ist der Einsatz von KI-Systemen zur Ableitung von Emotionen in Bildungseinrichtungen verboten, ausser aus medizinischen oder Sicherheitsgründen. Ein Werkzeug, das aus Mimik oder Stimme die Aufmerksamkeit oder Stimmung von Lernenden ableiten soll, fällt darunter. Die Übersicht steht im Glossar unter verbotene KI-Praktiken.
Was hochriskant ist
Anhang III nennt für Bildung und berufliche Ausbildung vier Fallgruppen: KI-Systeme, die über den Zugang oder die Zulassung zu Bildungseinrichtungen entscheiden; Systeme, die Lernergebnisse bewerten, auch wenn sie damit den Lernprozess steuern; Systeme, die bewerten, welches Bildungsniveau eine Person erhalten oder erreichen kann; und Systeme, die während Prüfungen verbotenes Verhalten überwachen und erkennen. Für diese gelten ab dem 2. Dezember 2027 die vollen Hochrisiko-Pflichten.
Nicht jede KI im Unterricht ist hochriskant. Ein Assistent, der Erklärungen formuliert, oder ein Werkzeug zur Übersetzung von Unterrichtsmaterial fällt in der Regel nicht unter Anhang III. Ob ein System eine Ausnahme nach Art. 6 Abs. 3 beanspruchen kann, ist sorgfältig zu prüfen und zu dokumentieren; das Vorgehen beschreibt der Beitrag zur Risikoklassifizierung.
Pflichten für EdTech-Anbieter
Wer ein Hochrisiko-System für Bildung anbietet, braucht ein Risikomanagementsystem, eine Daten-Governance, die Verzerrungen etwa nach Herkunft oder Sprache erkennt, technische Dokumentation, Protokollierung, eine verständliche Gebrauchsanweisung für Schulen, Möglichkeiten zur menschlichen Aufsicht, eine Konformitätsbewertung und Registrierung. Für Systeme ausserhalb des Hochrisiko-Bereichs gelten die Transparenzpflichten, etwa der Hinweis bei Chatbots, und die KI-Kompetenzpflicht.
Pflichten für Schulen und Hochschulen
Bildungseinrichtungen sind meist Betreiber. Sie verwenden Hochrisiko-Systeme gemäss Gebrauchsanweisung, übertragen die Aufsicht kompetenten Personen, informieren Lernende und Lehrpersonen und bewahren Protokolle auf. Öffentliche Einrichtungen müssen vor dem Einsatz eines Hochrisiko-Systems eine Grundrechte-Folgenabschätzung durchführen. Und für alle Mitarbeitenden, die mit KI arbeiten, gelten Massnahmen zur KI-Kompetenz.
Datenschutz bleibt zentral
Bildungsdaten betreffen oft Minderjährige und sind besonders sensibel. Neben dem AI Act gelten das Datenschutzrecht und in vielen Fällen eine Datenschutz-Folgenabschätzung; das Zusammenspiel beschreibt der Beitrag AI Act und DSGVO.
Die Schweizer Sicht
Für Schweizer Schulen gilt der AI Act nur, soweit ein EU-Bezug besteht. Massgeblich sind für öffentliche Schulen die kantonalen Datenschutzgesetze, für private Anbieter das revidierte DSG. Schweizer EdTech-Anbieter mit Kunden in der EU fallen dagegen als Anbieter unter den AI Act; für sie lohnt es sich, Produkte von Anfang an auf die Hochrisiko-Anforderungen auszurichten, wo Anhang III greift.
Was jetzt zu tun ist
1. Alle KI-Funktionen im Produkt oder in der Einrichtung erfassen und gegen Verbote und Anhang III prüfen.
2. Funktionen zur Emotionserkennung entfernen.
3. Für Hochrisiko-Kandidaten einen Fahrplan bis Dezember 2027 aufstellen.
4. Transparenz und KI-Kompetenz sofort umsetzen.
5. Datenschutz-Folgenabschätzungen für Anwendungen mit Lerndaten durchführen.
Für die Einstufung einzelner Systeme eignet sich AI Risk Check; die Umsetzung begleiten wir im Rahmen der Hochrisiko-Konformität.