Das EU-KI-Gesetz für Bildung und EdTech

Wenn Ihre Schule, Universität oder Ihr EdTech-Produkt KI nutzt, um über Zulassungen zu entscheiden, Schüler zu benoten oder sie während Prüfungen zu beobachten, fallen Sie in eine Kategorie, die das EU-KI-Gesetz als hochriskant behandelt — und manche Nutzungen sind ausdrücklich verboten. Anhang III, Nummer 3 nennt die Bildung direkt. Hier ist, was das für einen Bildungsanbieter oder EdTech-Anbieter bedeutet, in klarer Sprache.

Warum Bildungs-KI hochriskant ist

Anhang III(3) erfasst KI, die genutzt wird, um über die Zulassung oder Zuweisung zu Einrichtungen zu entscheiden, Lernergebnisse zu bewerten, das für eine Person angemessene Bildungsniveau einzuschätzen und verbotenes Verhalten während Prüfungen zu überwachen oder zu erkennen. Die Logik: Diese Systeme bestimmen den Zugang einer Person zu Bildung und ihre Ergebnisse, sodass ein voreingenommenes oder undurchsichtiges Modell dauerhaften Schaden anrichtet. Das zieht die meisten Tools zur KI-gestützten Zulassungsbewertung, automatisierten Benotung, adaptiven Lernplatzierung und Prüfungsüberwachung in den Hochrisikobereich.

Was ausdrücklich verboten ist

Prüfen Sie vor den Hochrisikopflichten die Verbote. Artikel 5 verbietet KI zur Emotionserkennung in Bildungseinrichtungen (das Ableiten der Emotionen von Schülern), außer zu eng begrenzten medizinischen oder Sicherheitszwecken. Das ungezielte Auslesen von Gesichtern zum Aufbau von Erkennungsdatenbanken ist ebenfalls verboten. Ein Überwachungstool, das vorgibt, Stress, Verwirrung oder „verdächtige“ Emotionen zu erkennen, kann von hochriskant zu verboten wechseln — gehen Sie vorsichtig vor.

Was Sie tun müssen (hochriskant)

• Menschliche Aufsicht. Ein Mensch muss KI-Entscheidungen zu Zulassung, Noten oder Meldungen überprüfen und außer Kraft setzen können — keine automatisierte Ausschließung oder Ablehnung allein aufgrund des Modells.
• Transparenz. Informieren Sie Schüler (und Erziehungsberechtigte) darüber, dass KI eingesetzt wird und wie.
• Bias- und Genauigkeitstests. Weisen Sie nach, dass das System geschützte Gruppen nicht diskriminiert und eine angegebene Genauigkeit erreicht.
• Dokumentation. Anbieter führen die technische Dokumentation nach Anhang IV; Betreiber führen Protokolle und überwachen sie.

Fristen

Die Verbote aus Artikel 5 gelten bereits. Die Hochrisikopflichten für Systeme nach Anhang III wurden im Rahmen des Digital Omnibus auf den 2. Dezember 2027 verschoben — siehe den Fristen-Leitfaden. Angesichts der langen Beschaffungszyklen im Bildungswesen ist es pragmatisch, jetzt zu beginnen.

Wo Sie anfangen

Prüfen Sie mit dem kostenlosen EU AI Act Snapshot, welche Ihrer Tools in den Anwendungsbereich fallen und in welcher Stufe — zwei Minuten, ohne Anmeldung. SetAIComply deckt anschließend Klassifizierung, Bias-Tests und die Dokumentation nach Anhang IV ab; die Tarife beginnen bei 0 €.