Kennzeichnungspflicht durch die KI-Verordnung im E-Learning: Was Anbieter jetzt wissen müssen

Bild mithilfe von KI erstellt

KI ist im E-Learning mittlerweile mehr als nur ein Thema für die Zukunft. Lernplattformen nutzen heute Chatbots, KI-Tutoren, automatisch erstellte Quizfragen, synthetische Sprecherstimmen und virtuelle Avatare. Kunden, Akademien und EdTech-Anbieter müssen sich daher eine wichtige Frage stellen: Wann muss ein KI-Beitrag im E-Learning gekennzeichnet werden?

An dieser Stelle kommt die EU-KI-Verordnung ins Spiel. Mit Artikel 50 führt sie Transparenzpflichten für bestimmte KI-Systeme ein. Diese gelten ab dem 2. August 2026. Für E-Learning-Anbieter ist das besonders wichtig, da viele typische Anwendungen direkt betroffen sein könnten.

Die gute Nachricht ist, dass nicht jede KI-Funktion im Lernumfeld automatisch gekennzeichnet werden muss. Die weniger gute Nachricht ist, dass einige Anwendungen rechtlich sensibler sind, als viele Anbieter annehmen.

Was regelt Artikel 50 der KI-Verordnung?

Artikel 50 verpflichtet Anbieter und Betreiber bestimmter KI-Systeme zur Transparenz. „Anbieter“ bezeichnen hier Unternehmen, die KI-Systeme entwickeln oder bereitstellen, wie beispielsweise OpenAI oder Anthropic. Als „Betreiber“ gelten natürliche oder juristische Personen, Unternehmen, Behörden oder sonstige Einrichtungen, die KI-Tools in einem geschäftlichen Kontext nutzen. Durch die Kennzeichnung bestimmter KI-generierter Inhalte soll beispielsweise das Risiko der Desinformation oder Täuschung minimiert werden.

Folgende Bereiche sind von dieser Verordnung insbesondere betroffen:

1. Interaktion mit einem KI-System
2. Deepfakes oder künstlich erzeugte bzw. manipulierte Bild-, Audio- und Videoinhalte
3. Emotionserkennung und biometrische Kategorisierung
4. Bestimmte KI-generierte oder KI-manipulierte Texte

Für E-Learning ist entscheidend, dass diese Regeln nicht abstrakt sind, sondern sehr praktisch wirken, wenn KI eingesetzt wird und einen Eindruck beim Lernenden oder Nutzer hinterlässt.

Wann muss KI im E-Learning gekennzeichnet werden?

1. KI-Chatbots, Lernassistenten und virtuelle Tutoren

Wenn ein KI-System für die direkte Interaktion mit Personen genutzt wird, müssen diese darüber informiert werden, dass sie mit einer KI kommunizieren, es sei denn, das ist offensichtlich. Das betrifft im E-Learning beispielsweise:

• Chatbots im LMS
• KI-Tutoren in digitalen Kursräumen
• Automatisierte Lernberater
• Voice-Bots in Schulungsportalen
• Support-Assistenten für Lernende

Wer einen digitalen Lernassistenten einsetzt, sollte sicherstellen, dass die Nutzer erkennen, dass sie nicht mit einem menschlichen Trainer oder Support-Mitarbeiter sprechen.

Praxisbeispiel: Ein Lernender klickt in einem Compliance-Kurs auf „Frage stellen“ und erhält Antworten von einem intelligenten Tutor. Es ist schlüssig, dass diese Antworten von einem KI-System stammen.

2. KI-Avatare, synthetische Stimmen und virtuelle Dozenten

Die Kennzeichnungspflicht wird besonders wichtig bei künstlich erzeugten oder manipulierten Audio-, Bild- oder Videoinhalten, insbesondere wenn sie als Deepfake gelten. Im E-Learning kann das der Fall sein bei:

• Realitätsnahen Video-Avataren
• KI-generierten Dozenten
• Künstlich erzeugten Sprecherstimmen
• Bearbeiteten Trainingsvideos
• Digitalen Personen, die wie reale Trainer wirken

Wenn ein virtueller Dozent wie eine echte Person erscheint oder eine reale Person täuschend ähnlich abgebildet wird, entsteht die Pflicht zur transparenten Offenlegung.

Praxisbeispiel: Ein Unternehmen erstellt Sicherheitsunterweisungen mit einem Avatar, der wie der echte Schulungsleiter aussieht und spricht. In so einem Fall ist eine klare Kennzeichnung des künstlich erzeugten oder manipulierten Inhalts unabdingbar.

3. KI-generierte Texte in Lernportalen und Wissensbeiträgen, bzw. -plattformen

Bei Texten ist die Lage komplizierter. Artikel 50 verlangt nicht, dass jeder KI-generierte Text pauschal gekennzeichnet wird. Die Pflicht betrifft Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Für E-Learning bedeutet das:

• Weder ein internes Lernskript, noch ein KI-generiertes Quiz muss automatisch gekennzeichnet werden.
• Ein öffentlich zugänglicher Fachbeitrag zu regulatorischen Themen könnte hingegen in den Anwendungsbereich fallen.

Besonders wichtig ist die redaktionelle Ausnahme. Wurde ein Text von einem Menschen geprüft oder redaktionell kontrolliert, und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, kann das rechtlich relevant entlasten.

Praxisbeispiel: Ein Anbieter veröffentlicht auf seinem Academy-Blog einen KI-erstellten Beitrag zu Arbeitsrecht, Datenschutz oder Compliance. Hier muss geprüft werden, ob der Text als Veröffentlichung zu einem Thema von öffentlichem Interesse einzuordnen ist und wie stark eine menschliche Redaktion eingebunden war.

4. Erstellung von Lerncontent und Web Based Trainings (WBTs)

• erste Textentwürfe für Lernmodule zu schreiben,
• Ideen für Storyboards zu sammeln,
• Quizfragen zu entwerfen,
• Lerntexte zu übersetzen oder zusammenzufassen,

Eine Pflicht zur Offenlegung entsteht erst, wenn das fertige Training selbst Elemente enthält, die unter die Transparenzpflichten fallen. Das ist der Fall, wenn Lernende im WBT direkt mit einem KI-Chatbot interagieren, wenn realitätsnahe KI-Avatare oder synthetische Stimmen als Dozenten eingesetzt werden oder wenn die Inhalte öffentlich zugänglich sind und der Information der Öffentlichkeit über Themen von allgemeinem Interesse dienen. Für die Praxis gilt daher: Die reine Content-Erstellung im Hintergrund bleibt in der Regel kennzeichnungsfrei – entscheidend ist, was im fertigen Lernprodukt für den Nutzer sichtbar und erlebbar wird.

Wo Kennzeichnung nicht ausreicht: Verbotene KI im Bildungsbereich

Ein wichtiger Punkt, der in vielen allgemeinen Artikeln zur KI-Verordnung übersehen wird, ist, dass es im Bildungsbereich nicht nur um Transparenz geht, sondern manchmal auch um Verbote. Die KI-Verordnung verbietet grundsätzlich KI-Systeme, die Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen aus biometrischen Daten ableiten, außer in eng begrenzten Ausnahmefällen, beispielsweise aus medizinischen oder Sicherheitsgründen.

Im E-Learning ist das besonders relevant, zum Beispiel bei Funktionen wie:

• Aufmerksamkeitserkennung per Webcam
• Frustrationsmessung über Gesichtsausdruck
• Motivationsanalyse anhand von Mimik
• Stimmungs- oder Stressmessung im digitalen Unterricht
• Biometrisches Engagement-Tracking

Hier gilt: Das ist nicht nur eine Frage der Kennzeichnung. In vielen Fällen ist der Einsatz selbst rechtlich bedenklich oder unzulässig.

Was Unternehmen und E-Learning-Anbieter jetzt tun sollten

Wer E-Learning-Angebote mit KI plant oder bereits nutzt, sollte vor August 2026 eine gründliche, systematische  Prüfung durchführen.

Hier eine praktische Checkliste:

• Wo interagieren Lernende direkt mit KI? Zum Beispiel über Chatbots, Tutoren oder Sprachassistenten.
• Wo werden künstlich erzeugte oder manipulierte Medien eingesetzt? Zum Beispiel Avatare, synthetische Stimmen oder Video-Dozenten.
• Welche Inhalte sind öffentlich und informieren über Themen von öffentlichem Interesse? Das betrifft Blogbeiträge, Fachartikel oder offene Wissensportale.
• Wo findet echte menschliche Prüfung oder redaktionelle Kontrolle statt? Besonders wichtig für KI-generierte Texte.
• Gibt es Funktionen zur Emotionserkennung oder biometrischen Auswertung? Hier ist besondere Vorsicht geboten.

Warum Unternehmen jetzt handeln sollten

Wie bereits aufgeführt gelten die Transparenzpflichten aus Artikel 50 ab dem 2. August 2026. Es sollte daher nicht bis zum Stichtag gewartet, sondern gehandelt werden. Nämlich:

• Eine Bestandsaufnahme aller KI-Funktionen im E-Learning durchführen.
• Eine rechtliche Risikobewertung der eingesetzten Systeme vornehmen.
• Ein Kennzeichnungskonzept für KI-Interaktionen und synthetische Inhalte entwickeln.
• Klare Governance-Regeln für KI-generierte Lerninhalte formulieren.

Gerade im E-Learning ist Transparenz nicht nur eine Rechtsfrage. Sie ist auch eine Frage von Vertrauen, Fairness und Akzeptanz bei Lernenden, Mitarbeitenden und Kunden.

Fazit

Die KI-Verordnung stellt klar, dass Transparenz beim Einsatz von KI im E-Learning zur Pflicht wird. Ab August 2026 müssen Anbieter genau darauf achten, wann Lernende über KI-Interaktionen informiert werden müssen, wann künstliche Medien offengelegt werden sollten, und wann KI-generierte Texte rechtlich besonders sensible Aspekte betreffen. Gleichzeitig zeigt ein Blick ins Bildungsumfeld, dass nicht alles mit einem allgemeinen Hinweis gelöst werden kann. Besonders bei Emotionserkennung und biometrischer Auswertung könnten Anwendungen nicht nur kennzeichnungspflichtig, sondern sogar verboten sein.