FAQ

Im Diskurs um Künstliche Intelligenz – gerade im Zusammenhang mit Bildung und Lernen – kursieren verschiedene Begriffe, die häufig unter dem Schlagwort „KI“ zusammengefasst werden. Wir möchten hier folgende Unterscheidungen feststellen:

• Künstliche Intelligenz (KI) bezieht sich auf Computerprogramme, die menschenähnliche Intelligenzleistungen erbringen können. Zum heutigen Zeitpunkt gibt es noch keine KI, die ein Bewusstsein aufweist und viele Expertinnen und Experten halten dies auch für unmöglich. KI gibt es bereits seit den 1950er Jahren, wobei die momentan größte Entwicklungsbeschleunigung seit den 2010er Jahren stattfindet. 2022 trat KI durch die Anwendung „ChatGPT“ ins Bewusstsein eines sehr großen Teils der Weltöffentlichkeit.
• Maschinelles Lernen ist eine Art der KI, bei der Algorithmen entwickelt werden, um Muster in Daten zu erkennen und daraus zu lernen.

Zu unterscheiden sind beide Begriffe von den im Bildungskontext bekannten Begriff der „Learning Analytics“. Hierunter verstehen wir technologische Möglichkeiten, um Daten über das Lernverhalten von Lernenden zu sammeln, zu messen und auszuwerten mit dem Ziel, Methoden und Inhalte an das lernende Individuum anzupassen und so zu verbessern. Es gibt zahlreiche weitere Begriffe, unter denen Ähnliches verstanden wird („Adaptive Lerntools“, „Intelligente Tutorensysteme“, „Educational Data Mining“). Alle Formen von „Learning Analytics“ haben ursprünglich nichts mit KI zu tun, jedoch kann KI zur Auswertung der Daten genutzt werden.

Beim Maschinellen Lernen wird zunächst ein Modell auf Basis von Trainingsdaten mithilfe von KI-Algorithmen erstellt und anschließend auf Basis von Tests optimiert. Anfragen werden durch das Modell beantwortet. Das Modell wird durch die Anfragen und Rückmeldungen angepasst.

Drei Beispiele:

1. Perzeptrone sind eine digitale Nachbildung von menschlichen Neuronen, die hintereinander geschaltet künstliche Neuronale Netze bilden. Neuronale Netze können mithilfe von Trainingsdaten unter anderem zur Mustererkennung verwendet werden.
2. Entscheidungsbäume ermöglichen eine Klassifizierung großer Datenmengen und die effiziente Beantwortung von Fragestellungen.
3. Der ChatBot „ChatGPT“ nutzt ein Sprachmodell namens „Generative Pre-trained Transformer (GPT)“, das menschenähnliche Texte produziert, indem es sukzessive eine Folge von Wörter um das gemäß dieses Modells wahrscheinlichste Wort ergänzt.

Das Bestreben des Menschen nach von ihm selbst geschaffenen Formen von Intelligenz ist uralt und es finden sich zahlreiche Beispiele aus Geschichte und anderer Literatur dazu – Sie werden beispielsweise sowohl im spätmittelalterlichen Straßburger Münster als auch in Novellen der Romantik Beispiele für Automatenmenschen finden. Filme der westlichen Populärkultur haben im 20. Jahrhundert dystopische Ängste (bedrückende, endzeitliche Ängste) vor dem künstlichen Menschen entworfen – von Fritz Langs Metropolis (1927) über James Camerons Terminator (1984) bis hin zur Matrix (1999) der Wachowski-Geschwister. Diese Vorstellung haben unsere Einstellung gegenüber der menschenähnlichen Technologie geprägt. 

Die entscheidende Schwelle in der Entwicklung von Künstlicher Intelligenz bleibt die, ob eine Maschine jemals ein Bewusstsein über sich selbst entwickeln wird oder nicht. Dies hängt im Wesentlichen davon ab, welcher Begriff von Bewusstsein hier angelegt wird. Gleiches gilt bereits jetzt für den Kreativitätsbegriff, der im Kontext der 21st-Century-Skills von zentraler Bedeutung für die Bildung ist. Wenn Sie sich die Ausarbeitungen unter dem Abschnitt „Wie funktioniert KI?“ durchgelesen haben, werden Sie feststellen, dass aktuelle KI-Chatbots auf eine ganz andere Art kreativ sind als wir Menschen. Die Ausgabe, das Produkt, mag originell und neuwertig sein, der Prozess bei der Erschaffung dieses Produkts funktioniert bei einer Maschine jedoch sehr anders als beim Menschen.

Ethisch gesehen gilt auch für KI: Jedes Tool (digitales Werkzeug) kann zum Guten und Schlechten gebraucht werden. Hier müssen folgende Fragen gestellt werden:

• Für welchen Zweck wird die KI eingesetzt?
• Unter welchen Bedingungen wurde die KI trainiert? Heiligt der Zweck die Mittel?
• Werden Mensch und Umwelt durch die eingesetzten Mittel geschützt oder belastet?

Uns muss bewusst sein, dass die Weiterentwicklung von KI stattfinden wird und die Auswirkungen auf unsere Gesellschaft, unsere Kulturen, unsere Wirtschaft und auch auf die Schule in den nächsten Jahren sehr groß sein werden. Nicht zu vernachlässigen ist auch der enorme Energiebedarf immer größerer Rechenzentren zur Bereitstellung von KI. Die beste Möglichkeit, diesem Wandel zu begegnen, ist durch vernunftbasierte Aufklärung. Daher sind Sie als Lehrkräfte hier in einer besonderen Verantwortung, sich selbst und insbesondere jüngere Generationen zu bilden.

Eine wirtschaftliche Implikation (Folge) von KI ist deren Auswirkung auf die Berufswelt. Diese ist durch technologischen Fortschritt schon immer Veränderungen unterworfen. Zahlreiche traditionelle Berufe sind durch die Digitalisierung bereits weggefallen und werden durch immer rasantere Entwicklungen, gerade auch auf dem Gebiet der KI, in naher und mittelfristiger Zukunft aussterben. Und auch diejenigen Berufe, die bestehen bleiben, verändern sich kontinuierlich. Berufstätige Menschen müssen im 21. Jahrhundert agiler (anpassungsfähiger), teamfähiger, kommunikativer, kritischer und kreativer sein als noch ihre Urgroßeltern. Gleichzeitig gilt es, das nach dem Zweiten Weltkrieg geschaffene Wertesystem von Selbstbestimmung und Solidarität zu bewahren. Diese Werte dürfen im globalen Wettbewerb nicht wirtschaftlichem Erfolg untergeordnet werden (siehe dazu den Abschnitt zur Ethik). 

Der berufliche und private Alltag wird noch stärker als heute von Digitalität und auch KI-Systemen geprägt werden – auch wo wir sie zunächst nicht direkt sehen. Es ist daher essentiell, diese berufliche Wirklichkeit auch in der Schule abzubilden. Traditionelle Lehr-Lernmethoden und Aufgabenformate, die keine Entsprechung in der außerschulischen Realität haben, müssen kritisch hinterfragt werden. Dies gilt insbesondere für die nicht zu kontrollierende Nutzung von KI im Privaten, zum Beispiel bei Hausaufgaben.

Sämtliche im Privaten erbrachten schriftlichen Leistungen – auch Rechen- und Programmieraufgaben – könnten ganz oder teilweise von einer KI erstellt worden sein. Sie können dies kaum nachprüfen und haben hierfür auch keine rechtliche Grundlage (siehe „Welche KI-Plagiatsscanner kann ich nutzen?“). Besonders stark hiervon betroffen sind Hausaufgaben und GFS (Gleichwertige Feststellung von Schülerleistungen). 

Vielleicht beruhigt es Sie ein wenig, dass dies eine bereits sehr alte und bekannte Herausforderung ist. Standen im privaten Haushalt gedruckte Nachschlagewerke oder Akademikereltern zur Verfügung, verschaffte das Schülerinnen und Schülern einen Chancenvorteil. Die seit der Jahrtausendwende einer größeren Allgemeinheit zugänglichen Online-Lexika ermöglichen Schülerinnen und Schülern (bis hin zu Promovierenden) umfassende Textproduktionen durch „copy“ und „paste“. Diverse Internetseiten und -plattformen bieten Eingabemasken für zahlreiche Rechenoperationen und ganze Aufsätze; in sozialen Netzwerken werden Musterlösungen zu immer wiederkehrenden Aufgaben bundeslandübergreifend ausgetauscht. Die Digitalität macht es notwendig, dass zahlreiche Aufgabenformate überdacht und überarbeitet werden müssen. Die massenhafte Verbreitung und Zugänglichkeit von KI-Chatbots hat hierbei eine neue Qualität hervorgebracht.

Die unterrichtliche Behandlung von KI, ihrer Funktionsweise, ihrem gesellschaftlich-kulturell-wirtschaftlichen Einfluss und eine konstruktiv-kritische Anwendungsperspektive in der Schule sind ausdrücklich erwünscht. Daher gibt es kein grundsätzliches Verbot von KI in der schulischen Bildung. Selbstverständlich muss sich die schulische Bildung innerhalb der bestehenden Rechtslage bewegen, also auch im Rahmen der EU-DSGVO. Damit ist ein Großteil der auf dem Markt verfügbaren KI-Chatbots für den unterrichtlichen Einsatz im Unterricht mit schutzbefohlenen Minderjährigen nicht erlaubt. Grundsätzlich (und unabhängig von KI-Tools) gilt: Sie dürfen als Lehrkraft Schülerinnen und Schüler nicht dazu anleiten, sich Accounts bei Anbietern anzulegen, mit denen keine DSGVO-konforme Vereinbarung zur Verarbeitung von Daten mit der Schule vorliegt. Das gilt auch für pseudonymisierte Accounts, also Konten, die keinen Rückschluss mehr auf die ursprüngliche Person erlauben. Somit bleiben Ihnen im Wesentlichen zwei Optionen:

1. Sie thematisieren das Thema KI im Unterricht ohne den Einsatz von KI-Tools.
2. Sie demonstrieren den Einsatz von KI-Tools von einem privaten Gerät auf freiwilliger Basis. Seien Sie bei der Eingabe von Daten sensibel und thematisieren Sie auch die Verarbeitung von Daten im Zusammenhang mit deren algorithmisierter Auswertung.

• Kennen Sie die Grundfunktionen und Möglichkeiten von KI-Tools? Fragen Sie sich anschließend, welche Formen von Hausaufgaben und Leistungmessungen sinnvoll sind.
• Stellen Sie Hausaufgaben so, „daß sie der Schüler ohne fremde Hilfe in angemessener Zeit erledigen kann“ (§ 10 Abs. 2 Notenbildungsverordnung). Beantworten Sie für sich die Frage, ob die Nutzung einer KI eine eigene oder fremde Hilfe ist. Dieselbe Frage können Sie sich in Bezug auf das aktive Bitten um Unterstützung (durch beispielsweise Eltern, Geschwister, Freunde, Online-Community) oder die Nutzung von Online-Nachschlagewerken stellen. Diskutieren Sie diese Fragen im Kollegium.
• Verschieben Sie die Gewichtung von schriftlichen Hausarbeiten auf mündliche Präsentationen und Prüfungen. Vermeiden Sie dabei eine Prüfung von Abfragewissen. Lassen Sie die Reflexion des eigenen Lernprozesses in die Bewertung mit einfließen („pädagogisch-fachliche Gesamtwertung“ nach § 7 Abs. 2 Notenbildungsverordnung).
• Drehen Sie den Unterricht um (flipped classroom): Verlagern Sie die Aneignung der Lerninhalte nach Hause und umgekehrt die Anwendung des Gelernten, die Vertiefung und die Übungen in die Schule. Das ZSL bietet Fortbildungen zum „flipped classroom“ an.

Leider gibt es aufgrund des Neutralitätsgebotes des Staates keine White- oder Blacklist mit erlaubten und nicht erlaubten Tools. Bei der Nutzung von digitalen Tools im Unterricht, auch auf Schulgeräten, können Sie sich an folgender Checkliste orientieren:

• Werden von der Anwendung Daten gesammelt? Hinweis: Sobald Sie einen Account anlegen müssen, liegt dies bereits in beträchtlichem Maße vor.
• Wird die Anwendung ausschließlich von der Schule aus genutzt oder auch von zu Hause? Die Internetprotokoll-Adresse (IP-Adresse) Ihres digitalen Endgerätes ist bereits eine Information, die unter Umständen einer spezifischen Person zugeordnet werden kann.
• Wird die EU-DSGVO eingehalten?
• Liegt ein Vertrag zur Verarbeitung von Daten im Auftrag zwischen dem Anbieter der Anwendung und der Schule vor? Ist dieser mit Ihrem Datenschutzbeauftragten Ihrer Schule abgeklärt worden?

Wir sind uns bewusst, dass das Thema Datenschutz komplex ist und daher als zusätzliche Belastung wahrgenommen wird. Gleichzeitig handelt es sich in erheblichen Maße um den Schutz von Menschen und demokratischer Grundwerte. Das ZSL bietet zahlreiche Fortbildungen zum Thema an.

Wenn Sie privat KI-Tools nutzen und dies für Ihren Beruf als Lehrkraft nutzen wollen, müssen Sie auch hier selbstverständlich sehr behutsam mit den Erzeugnissen Ihrer schutzbefohlenen Schülerinnen und Schüler umgehen. Personenbezogene und andere sensible Daten, zum Beispiel politische Meinungen aus einem Schüleraufsatz, dürfen Sie ohne DSGVO-konforme vertragliche Grundlage nicht an datenverarbeitende Drittanbieter weitergeben, was bei der Nutzung eines KI-Tools technisch aber passiert.

Es gibt keine Plagiatsscanner, die rechtlich einwandfrei klären können, ob ein nicht-mündlicher Output von einem Menschen oder einer KI geschaffen worden ist. In diesem Fall schützt das Recht die Schülerinnen und Schüler. Sie dürfen eine Leistungsbewertung und/oder einen Täuschungsversuch nicht durch die Nutzung eines KI-Plagiatsscanner-Tools begründen. Wir empfehlen Ihnen stattdessen unsere Hinweise unter dem Abschnitt „Veränderung der Lehr-Lernsettings und Aufgabenformate“.

Das Thema Plagiat lässt sich allerdings gut dafür nutzen, im Unterricht auf Urheberrechtsverletzungen nicht nur der Nutzerinnen und Nutzer sondern auch durch KI-Tools aufmerksam zu machen: Mit welchen Inhalten wurde eine KI trainiert? Wurden hierfür immer die entsprechenden Rechte und Lizenzen eingeholt?