LMZ Spotlight – ChatGPT & Co.

Künstliche Intelligenz – Was steckt hinter ChatGPT?

Individuelle Aufsätze und Textinterpretationen verfassen, Verse dichten, Programmiercode schreiben: Der Chatbot ChatGPT sorgt derzeit für Aufsehen – vor allem in der Bildung.

Marius, Schüler der 9. Klasse an einem Stuttgarter Gymnasium beschäftigt sich zurzeit mit der Lektüre „Wilhelm Tell“ von Friedrich Schiller. Er soll zu Hause einige Seiten lesen und anschließend Fragen zum Text beantworten. ChatGPT hilft ihm dabei. Marius ist beeindruckt, wie sich der Cursor wie von Geisterhand am Monitor selbständig in Bewegung setzt und in Sekundenschnelle Sätze formuliert. Der Chatbot erkennt Rechtschreibfehler in der Fragestellung, korrigiert und beantwortet die Frage in leicht verständlicher Sprache. Damit wäre ein Teil der Hausaufgaben von Marius erledigt.

Zu den Veranstaltungen zum Thema

Die Aufregung um ChatGPT: Faszinierend und unheimlich

ChatGPT erfährt aktuell enorme Aufmerksamkeit in den Medien. Wer die interaktive Chat-KI bereits ausprobiert hat, ahnt, dass das textbasierte Dialogsystem große Veränderungen in Arbeit, Bildung und Gesellschaft mit sich bringen kann. Auch Lehrkräfte, Schulleitende und Eltern sind neugierig und informieren sich derzeit über die Chancen und Risiken von KI-Tools beim Lehren und Lernen.  

Künftig, so die weitläufige Annahme, werden mehr Texte zu lesen sein, die zumindest in Teilen durch eine Künstliche Intelligenz (KI) erschaffen wurden. Expertinnen und Experten sind sich sicher: Auch Schülerinnen und Schüler werden Tools wie ChatGPT für ihre Lernzwecke nutzen. Doch welche Konsequenzen hat das für die Bewertung von Schülerleistungen, wenn Hausaufgaben, Probeaufsätze oder Referate mithilfe von Künstlicher Intelligenz geschrieben werden? Verlernen Schülerinnen und Schüler Lösungsstrategien und kreatives Denken, wenn die Maschine zu jeder Aufgabe die passende Antwort ausspuckt?

Viele Lehrkräfte kennen ChatGPT noch nicht. Wir stellen das Tool deshalb in Kürze vor: Welche Technologie steckt hinter diesem Namen? Was können Nutzerinnen und Nutzer mit ChatGPT machen und wie können sie die KI testen?  

Was ist ChatGPT? Mensch und Maschine im Dialog

GPT steht für „Generative Pretrained Transformer“. Der Chatbot ChatGPT des US-Unternehmens Open AI gilt derzeit als einer der besten Textgeneratoren seiner Art, der auf Basis von Deep Learning arbeitet und täglich dazu lernt, je mehr er mit Daten durch die Nutzerinnen und Nutzer gefüttert wird. Seit seiner Veröffentlichung im November 2022 nutzen Millionen von Menschen ChatGPT als eine Art „Ghostwriter“ und Schreibpartner. Im Dialog mit der Maschine erzeugt der Bot unterschiedlichste Textsorten wie Geschichten, Aufsätze, Geschäftsbriefe oder Werbe- und Marketingtexte. Vieles ist möglich, je nach Briefing und Aufgabenstellung des Users. Wer Startschwierigkeiten beim Schreiben hat, kann den Chatbot auffordern, eine Einleitung zu einem Thema zu schreiben. Im Gegenzug können selbst produzierte Texte in ChatGPT kopiert und dann von der KI vervollständigt werden. Das kann bei Schreibblockaden weiterhelfen und den Schreibprozess in Fluss halten. Komplexe, wissenschaftliche Texte fasst die KI in leicht verständlicher Sprache zusammen und begrenzt sich, wenn nötig, auf eine vorgegebene Anzahl an Sätzen (Beispielaufforderung: „Erkläre Photosynthese in drei Sätzen“).  

Thomas Felzmann, Lehrer an einer Mittelschule in Wien, hat Links von digitalen Büchern in den Chatbot kopiert und sich dann für bestimmte Kapitel Fragen zur Prüfungsvorbereitung generieren lassen. Aus eingestellten Texten generierte ChatGPT außerdem passende Lückentexte mit Lösungen am Ende des Arbeitsblattes (Blog: Thomas Felzmann. ChatGPT: Möglichkeiten und Risiken für die Schule). 

Die Bandbreite der Anwendungsmöglichkeiten scheint beeindruckend groß. Das Besondere an ChatGPT ist, dass die KI keine Textpassagen aus Datenbanken kopiert, sondern jedes Mal neue Texte generiert. Die KI wurde darauf trainiert, unangemessene Anfragen (mit diskriminierender, rassistischer oder krimineller Intention) abzulehnen. Meistens gelingt das, in manchen Fällen zeigte die KI auf schädliche Anweisungen auch ein verzerrtes Verhalten.  

Wie funktioniert ChatGPT? Milliarden Wörter im „Kopf“

Jede KI braucht Daten. Je mehr Datenfutter sie erhält, desto bessere Ergebnisse kann sie erzielen. Bei ChatGPT ist davon auszugehen, dass sich die KI bereits mehrere Hundert Milliarden Wörter samt Bedeutung und Zusammenhang gemerkt hat („So gut textet die KI-Quasselstrippe wirklich“, STZ vom 4.1.2023). Auf Basis dieser Trainingsdaten berechnet das Programm, mit welcher Wahrscheinlichkeit an einer bestimmten Stelle dieses oder jenes Wort passen könnte, erklärte kürzlich Hinrich Schütze, Experte für Computerlinguistik im Interview mit der Stuttgarter Zeitung („KI-Systeme halluzinieren manchmal“, STZ vom 14.1.2023). GPT-3 gilt derzeit als der leistungsstärkste Algorithmus, der mit über 170 Milliarden Parametern arbeiten kann. Ein Parameter legt zum Beispiel fest, dass Nomen großgeschrieben werden (vgl. Philipp Wampfler: Können Programme gute Texte schreiben? S. 137). Um qualitativ gute Ergebnisse erzielen zu können, benötigt die KI menschliche Nachhilfe und die bekommt sie durch das Feedback der Nutzer/-innen (Reinforcement Learning from Human Feedback). 

Alles gut, oder? Schwächen und Risiken von ChatGPT

Bei aller Euphorie und Faszination, sollten Nutzer/-innen KI-Produkte wie ChatGPT immer kritisch hinterfragen. Welche Schwächen und Risiken birgt der Chatbot?

„Letztendlich weiß das System ja nicht, was es schreibt“, meint der Lehrer Florian Nuxoll im Podcast „Doppelstunde“. Das sieht auch Doris Weßels, Professorin für Wirtschaftsinformatik an der Fachhochschule Kiel, so. Die Texte wären fiktional, Wörter würden „zusammengewürfelt“. Damit bestünde immer auch die Gefahr, dass Inhalte erfunden oder falsch sind, so die Professorin. Jeder KI-Text muss deswegen auf „Herz und Nieren“ geprüft werden und erfordert eine nachträgliche Qualitätsrecherche. Das wiederum ist gar nicht so einfach, weil ChatGPT keine Quellenangaben macht. Es bleibt also intransparent, wie die KI zu ihrer Entscheidung kommt und mit welchen Basisinformationen sie gearbeitet hat. Neben ungeklärten Fragen zu Urheberrecht und Datenschutz, bleibt ein erhöhtes Risiko für Fake News.  

Weiterführende Links

Unterrichtsimpuls und Lernmaterial zum Thema Künstliche Intelligenz und Machine Learning (SESAM-Mediathek)

So sieht eine Schulstunde mit künstlicher Intelligenz aus (Radio Bremen und ARD).

ChatGPT in der Schule – wie damit umgehen? (Klicksafe)

Künstliche Intelligenz: Wie verändert sie Schule? Podcast „Doppelstunde“ (Westermann).

Wie gut ist der weltbeste Chatbot wirklich? Euphorie um ChatGPT (DER SPIEGEL).

Hauke Pölert: Künstliche Intelligenz (KI) in Schule & Unterricht – Überblick, Tools und Fortbildung.

ChatGPT an Universitäten – wie KI Studierenden helfen kann (Deutsche Welle).

KI-Campus: Die Lernplattform für Künstliche Intelligenz (ki-campus.org)

Bildungshacks: Tipps für KI im Unterricht (Bundeszentrale für politische Bildung)