FAQ: Häufig gestellte Fragen zu KI und Bildung

Künstliche Intelligenz (KI) ist sowohl eine wissenschaftliche Disziplin als auch eine Technologie, die verschiedene Ansätze wie maschinelles Lernen, maschinelles Schließen (automatisches Schlussfolgern auf Basis logischer Regeln) und Robotik umfasst.

KI-Systeme bestehen aus Software- und Hardwarelösungen, die eigenständig Daten analysieren, aus Erfahrungen lernen und auf Basis ihrer Umgebung handeln. Sie agieren mit einem gewissen Grad an Autonomie, um in der physischen oder digitalen Welt rationale Entscheidungen zu treffen und bestimmte Ziele zu erreichen.

Nach der KI-Verordnung (Art. 3 Nr. 1 KI-VO) ist ein KI-System ein maschinengestütztes System, das in unterschiedlichem Maße autonom arbeitet. Es kann sich nach seiner Betriebsaufnahme anpassen und leitet aus den erhaltenen Eingaben explizite oder implizite Ziele ab. Daraus entstehen Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die physische oder virtuelle Umgebungen beeinflussen können.

Ein LLM (Large Language Model) ist ein großes Sprachmodell, das mithilfe von Künstlicher Intelligenz und neuronalen Netzen trainiert wurde, um Sprache zu verstehen und Texte zu generieren.

LLMs basieren auf maschinellem Lernen, insbesondere auf Deep-Learning-Techniken, und werden mit riesigen Mengen an Textdaten trainiert. Sie analysieren Muster in Sprache und können basierend auf Wahrscheinlichkeiten sinnvolle Antworten, Übersetzungen, Zusammenfassungen oder kreative Texte erstellen.

LLMs werden oft an andere Systeme angeschlossen oder speziell konfiguriert, wie es bei dem Verwaltungstool F13 oder dem Moodle-ChatBot fAIrChat der Fall ist.

Bei allen drei Beispielen handelt es sich um eine modellhafte KI, genauer gesagt ein generatives KI-System, das auf maschinellem Lernen und künstlichen neuronalen Netzen basiert. Sie gehören zur Kategorie der Large Language Models (LLMs) und verwenden tiefe neuronale Netzwerke, um Sprache zu verstehen und Texte zu generieren.

Im Gegensatz zur symbolischen KI, die auf festen Regeln und logischen Schlussfolgerungen basiert, lernen solche Systeme aus großen Mengen an Textdaten und erkennen darin Muster. Sie erstellen Antworten auf Basis statistischer Wahrscheinlichkeiten, anstatt explizite Regeln anzuwenden. Dadurch sind sie besonders flexibel und können vielseitige Texte generieren, haben jedoch keine strukturierten, nachvollziehbaren Regeln wie symbolische KI-Systeme.

Generative KI-Systeme sind Künstliche Intelligenzen, die neue Inhalte erzeugen können, anstatt nur bestehende Informationen zu analysieren oder zu klassifizieren. Sie gehören zur modellhaften KI, da sie mithilfe von maschinellem Lernen aus großen Datenmengen Muster erkennen und daraus eigenständig Texte, Bilder, Musik oder sogar Programmcode generieren.

Ein Beispiel für generative KI sind Large Language Models (LLMs), die menschenähnliche Texte erstellen können. Diese Modelle reagieren auf sogenannte Prompts – also Eingaben der Nutzenden, die eine Frage oder eine Anweisung enthalten. Die Qualität der generierten Inhalte hängt stark davon ab, wie präzise und gezielt der Prompt formuliert ist.

Im Gegensatz zur symbolischen KI, die auf festen Regeln basiert, lernen generative KI-Systeme aus Daten und arbeiten probabilistisch. Das bedeutet, dass sie auf Wahrscheinlichkeiten beruhende Antworten geben, statt feste, nachvollziehbare Regeln anzuwenden.

Da generative KI immer häufiger in der Bildung und im Berufsleben eingesetzt wird, ist die Fähigkeit, gute Prompts zu formulieren, ein zentraler Aspekt der AI Literacy (KI-Kompetenz). Wer präzise Anweisungen geben kann, erhält bessere und gezieltere Ergebnisse von KI-Systemen und kann deren Potenzial effektiver nutzen.

Ja, unbedingt! Der Einsatz von Künstlicher Intelligenz (KI) in der schulischen Bildung ist entscheidend, um junge Menschen auf die Zukunft vorzubereiten. KI-Kompetenzen sind zentrale Zukunftskompetenzen, die es Schülerinnen und Schülern ermöglichen, KI zielgerichtet, verantwortungsbewusst, lösungsorientiert und kompetent zu nutzen.

Die KI-Verordnung der EU (Art. 4 KI-VO) betont die Bedeutung einer sicheren und vertrauenswürdigen Nutzung von KI-Systemen. Dazu gehört, dass junge Menschen verstehen, wie KI funktioniert, wo sie eingesetzt wird und welche Chancen und Risiken sie birgt. Dieses umfassende Verständnis wird als AI Literacy (KI-Mündigkeit) bezeichnet und ist auch eine zentrale Bildungsaufgabe.

Gleichzeitig muss Schule dabei helfen, dass KI nicht als Wunderwerk, sondern als Werkzeug und Hilfsmittel verstanden wird. Schülerinnen und Schüler sollen lernen, kooperativ mit KI-Systemen zu arbeiten und deren Ergebnisse kritisch zu hinterfragen, sinnvoll weiterzuverarbeiten und produktiv in eigene Lern- und Arbeitsprozesse zu integrieren.

Lehrkräfte spielen eine entscheidende Rolle dabei, ihre Schülerinnen und Schüler beim Erwerb dieser Kompetenzen zu unterstützen. Der reflektierte und kreative Einsatz von KI im Unterricht kann nicht nur das Lernen erleichtern, sondern auch die Fähigkeit fördern, KI sinnvoll und verantwortungsbewusst zu nutzen.

KI kann in der schulischen Bildung grundsätzlich in drei Einsatzbereichen genutzt werden, als:

Intelligente Tutorielle Systeme (ITS)

ITS sind KI-gestützte Lernsysteme, die Schülerinnen und Schüler individuell beim Lernen unterstützen. Sie passen Aufgaben an das aktuelle Leistungsniveau an, geben gezieltes Feedback und helfen, Wissenslücken zu schließen.

Ziel ist es, den fachlichen Lernzuwachs zu fördern, beispielsweise in Mathematik, Sprachen oder Naturwissenschaften.

ITS können jedoch nur dann sinnvoll eingesetzt werden, wenn sie fest mit dem Unterrichtsgeschehen verzahnt sind und von Lehrkräften gezielt begleitet werden.

Werkzeug für Lehrkräfte und Lernende

KI kann die Unterrichtsvorbereitung erleichtern, indem sie bei der Erstellung von Materialien, Arbeitsblättern oder Tests unterstützt. Besonders hervorzuheben sind die Potenziale im Bereich der Individualisierung von Materialien und Aufgaben.

Sofern keine personenbezogenen Daten eingegeben werden, können KI-basierte Systeme auch eine Korrekturunterstützung darstellen.

KI-gestützte Chatbots können von Schülerinnen und Schülern als Schreib­assistenten, zur Recherche oder als vortrainierte Lerntutoren verwendet werden.  

Durch die aktive Nutzung von KI durch Lernende wird zugleich die AI Literacy (KI-Kompetenz) gefördert – also die Fähigkeit, KI bewusst, kritisch und zielgerichtet einzusetzen.

Unterrichtsgegenstand

Der kompetente und reflektierte Umgang mit KI ist eine zentrale Zukunfts­kompetenz. Schülerinnen und Schüler sollten lernen, wie KI funktioniert, welche Stärken und Schwächen sie hat und welche ethischen Fragen damit verbunden sind.

Das Dagstuhl-Dreieck bietet dabei eine Orientierung:

• Wie funktioniert KI? (technische Grundlagen, Algorithmen, Trainingsdaten)
• Wie nutze ich KI? (praktischer Einsatz als Werkzeug im Alltag und Beruf)
• Wie wirkt KI? (gesellschaftliche, ethische und wirtschaftliche Auswirkungen)

Besonders wichtig sind folgende Aspekte:

Aufklärung und Förderung von AI Literacy

Schülerinnen und Schüler müssen über den Einsatz von KI informiert und aufgeklärt werden.

Ziel ist es, ihre AI Literacy (KI-Kompetenz) zu fördern, sodass sie KI kritisch hinterfragen, sinnvoll nutzen und ihre Grenzen verstehen können.

Laut Artikel 4 der KI-Verordnung (KI-VO) müssen sowohl Lehrkräfte als auch Schülerinnen und Schüler über die notwendigen KI-Kompetenzen verfügen. Dies umfasst das Wissen über Funktionsweise, Anwendungsmöglichkeiten und Risiken von KI.

Lehrkräfte tragen die Verantwortung, KI nicht nur als Werkzeug zu nutzen, sondern auch das Verständnis für ihre Mechanismen und Auswirkungen zu vermitteln.

Transparenz über die Nutzung von KI

Aktuell gibt es keine allgemeine Kennzeichnungspflicht für KI-generierte Inhalte.

Im Unterricht sollte aber immer angegeben werden, wenn KI-Systeme genutzt wurden, um Nachvollziehbarkeit und kritische Reflexion zu ermöglichen.

Verpflichtende Angabe bei bestimmten KI-Systemen

Einige KI-Systeme schreiben in ihren Nutzungsbedingungen vor, dass KI-generierte Inhalte gekennzeichnet werden müssen. Falls eine solche Vorgabe besteht, muss dies auch im schulischen Kontext eingehalten werden.

Lehrkräfte sollten sich vor der Nutzung eines KI-Systems über dessen Bedingungen informieren.

Ja, KI kann zur Unterstützung der Korrektur oder für individuelles Feedback zu Schülerarbeiten eingesetzt werden, allerdings nur unter Beachtung urheberrechtlicher und datenschutzrechtlicher Vorgaben.

Zudem darf die Gesamtbewertung niemals ausschließlich automatisiert erfolgen, sondern bleibt immer in der Verantwortung der Lehrkraft.

KI als Korrekturhilfe – aber keine automatisierte Bewertung

KI kann Lehrkräfte bei der Korrektur unterstützen, zum Beispiel durch Vorschläge für Fehlerkorrekturen, Stilverbesserungen oder analytische Auswertungen.

Die endgültige Bewertung trifft jedoch immer die Lehrkraft, die gemäß NVO § 7 (2) verschiedene Kriterien in die Gesamtwertung einbezieht.

Automatisierte Entscheidungen über Noten sind unzulässig – dies ergibt sich auch aus Artikel 22 der Datenschutz-Grundverordnung (DSGVO), der vollautomatisierte Entscheidungsfindungen bei individuellen Bewertungen untersagt.

Urheberrecht – Zustimmung erforderlich

Arbeiten von Schülerinnen und Schülern können urheberrechtlich geschützt sein, wenn sie eine Schöpfungshöhe erreichen, zum Beispiel bei literarischen Texten oder kreativen Aufsätzen.

Damit eine KI zur Korrektur solcher Arbeiten genutzt werden darf, ist die entsprechende Nutzungsrechteeinräumung der Schülerinnen und Schüler beziehungsweise der Erziehungsberechtigten erforderlich.

Datenschutz – keine personenbezogenen Daten

Personenbezogene Daten dürfen nur in KI-Systeme eingegeben werden, die ausdrücklich für diese Nutzung freigegeben sind.

Falls ein nicht speziell für personenbezogene Daten zugelassenes KI-Tool genutzt wird, dürfen keine Namen, persönlichen Informationen oder direkt zuordenbaren Texteingaben der Schülerinnen und Schüler verarbeitet werden.

Transparenz und Information für Schülerinnen und Schüler

Nach § 6 Absatz 3 DUVO müssen Schülerinnen und Schüler darüber informiert werden, wenn KI-gestützte Systeme für Feedback und individuelle Rückmeldung eingesetzt werden.

Die Lehrkraft sollte transparent machen, wie die KI genutzt wird und dass die abschließende Bewertung immer durch eine Person erfolgt.

Hochrisiko-Systeme

Nach Anhang III KI-VO sind KI-Systeme, die dazu bestimmt sind, die Lernergebnisse von Personen zu bewerten, zu klassifizieren oder zu steuern, einschließlich der Bewertung von Prüfungen als Hochrisiko-KI-Systeme einzustufen.

Dieser Teil der der KI-Verordnung tritt im August 2026 in Kraft. KI-Systeme, die unter diese Kriterien fallen, müssen zusätzliche Anforderungen aus der KI-Verordnung erfüllen.

Fazit

KI kann eine sinnvolle Korrekturhilfe sein, um Lehrkräfte zu entlasten und Rückmeldungen effizienter zu gestalten.

Allerdings dürfen datenschutzrechtliche und urheberrechtliche Vorgaben nicht verletzt werden, und die abschließende Gesamtbewertung muss stets durch die Lehrkraft erfolgen.

Der Einsatz von KI in Prüfungen bringt sowohl Chancen als auch Herausforderungen mit sich.

Dabei müssen rechtliche Vorgaben, Fairness und die Gestaltung von Prüfungsformaten berücksichtigt werden.

KI-Scanner – keine verlässliche Betrugserkennung

Es gibt Tools, die angeblich erkennen können, ob ein Text mithilfe von KI erstellt wurde. Eine hundertprozentige Erkennung ist jedoch nicht möglich. Daher ist die Nutzung solcher Tools nicht zu empfehlen.

Ein reiner Anscheinsbeweis reicht nicht aus, um Betrug nachzuweisen, da auch von Menschen geschriebene Texte fälschlicherweise als KI-generiert erkannt werden können.

Plagiatsscanner

Plagiatsscanner können Hinweise auf nicht selbst erstellte Inhalte geben, bieten jedoch keine absolute Sicherheit.

Ihr Einsatz erfordert die Beachtung von Urheberrecht und Datenschutz. Für die Nutzung solcher Tools muss in der Regel die Einwilligung der Schülerinnen und Schüler für die Verarbeitung ihrer Texte eingeholt werden.

Proctoring – unzulässig laut KI-Verordnung

Proctoring bezeichnet die KI-gestützte Überwachung von Prüfungen, zum Beispiel durch Kamera-Tracking oder Augenbewegungsanalysen.

Diese Praxis fällt unter Artikel 5 (f) der KI-Verordnung und ist daher verboten, da sie unverhältnismäßig in die Privatsphäre der Prüfenden eingreift.

KI als zugelassenes Hilfsmittel

KI kann in Prüfungen als erlaubtes Werkzeug eingesetzt werden, ähnlich wie Taschenrechner oder Textverarbeitungsprogramme.

Dabei muss sichergestellt werden, dass alle Schülerinnen und Schüler die gleichen Zugangsbedingungen haben – ein „digital divide“ (ungleicher Zugang zu digitalen Werkzeugen) darf nicht entstehen.

Prüfungsformate anpassen

Der zunehmende Einsatz von KI erfordert eine Neugestaltung von Aufgaben- und Prüfungsformaten.

Statt nur das Endergebnis zu bewerten, sollten verstärkt Lernprozesse, Problemlösungsstrategien und Reflexionsfähigkeit in den Fokus rücken.

Fazit

KI verändert Prüfungen grundlegend. Während einige KI-gestützte Überwachungs- und Erkennungstools problematisch oder unzulässig sind, kann KI als zugelassenes Hilfsmittel sinnvoll genutzt werden – vorausgesetzt, es gelten für alle faire Bedingungen.

Schulische Aufgaben- und Prüfungsformate müssen sich langfristig anpassen, um den kompetenten Umgang mit KI sinnvoll in die Bewertung zu integrieren.