LMZ Spotlight – ChatGPT & Co.: Landesmedienzentrum Baden-Württemberg

Künstliche Intelligenz – Was steckt hinter ChatGPT?

Individuelle Aufsätze und Textinterpretationen verfassen, Verse dichten, Programmiercode schreiben: Der Chatbot ChatGPT sorgt derzeit für Aufsehen – vor allem in der Bildung.

Marius, Schüler der 9. Klasse an einem Stuttgarter Gymnasium beschäftigt sich zurzeit mit der Lektüre „Wilhelm Tell“ von Friedrich Schiller. Er soll zu Hause einige Seiten lesen und anschließend Fragen zum Text beantworten. ChatGPT hilft ihm dabei. Marius ist beeindruckt, wie sich der Cursor wie von Geisterhand am Monitor selbständig in Bewegung setzt und in Sekundenschnelle Sätze formuliert. Der Chatbot erkennt Rechtschreibfehler in der Fragestellung, korrigiert und beantwortet die Frage in leicht verständlicher Sprache. Damit wäre ein Teil der Hausaufgaben von Marius erledigt.

ChatGPT erfährt aktuell enorme Aufmerksamkeit in den Medien. Wer die interaktive Chat-KI bereits ausprobiert hat, ahnt, dass das textbasierte Dialogsystem große Veränderungen in Arbeit, Bildung und Gesellschaft mit sich bringen kann. Auch Lehrkräfte, Schulleitende und Eltern sind neugierig und informieren sich derzeit über die Chancen und Risiken von KI-Tools beim Lehren und Lernen. Künftig, so die weitläufige Annahme, werden mehr Texte zu lesen sein, die zumindest in Teilen durch eine Künstliche Intelligenz (KI) erschaffen wurden. Expertinnen und Experten sind sich sicher: Auch Schülerinnen und Schüler werden Tools wie ChatGPT für ihre Lernzwecke nutzen. Doch welche Konsequenzen hat das für die Bewertung von Schülerleistungen, wenn Hausaufgaben, Probeaufsätze oder Referate mithilfe von Künstlicher Intelligenz geschrieben werden? Verlernen Schülerinnen und Schüler Lösungsstrategien und kreatives Denken, wenn die Maschine zu jeder Aufgabe die passende Antwort ausspuckt?

Wir stellen das Tool ChatGPT vor: Welche Technologie steckt hinter diesem Namen? Was können Nutzerinnen und Nutzer mit ChatGPT machen und wie können sie die KI im Unterricht gezielt einsetzen oder umgehen?

Was ist ChatGPT?

Wie funktioniert ChatGPT?

Schwächen und Risiken

Interview mit Kultusstaatssekretärin Sandra Boser

Wie ChatGPT den Schulalltag ändern kann

Können KI-generierte Texte erkannt werden?

Statement zum Datenschutz des Kultusministeriums

Der KI-Chatbot antwortet innerhalb von Sekunden auf die Frage von Schüler Marius. | ChatGPT

ChatGPT ist eine interaktive Text-KI. | GettyImages/jakkapan21

Nach oben

Was ist ChatGPT? Mensch und Maschine im Dialog

GPT steht für „Generative Pretrained Transformer“. Der Chatbot ChatGPT des US-Unternehmens Open AI gilt derzeit als einer der besten Textgeneratoren seiner Art, der auf Basis von Deep Learning arbeitet. Seit seiner Veröffentlichung im November 2022 nutzen Millionen von Menschen ChatGPT als eine Art „Ghostwriter“ und Schreibpartner. Im Dialog mit der Maschine erzeugt der Bot unterschiedlichste Textsorten wie Geschichten, Aufsätze, Geschäftsbriefe oder Werbe- und Marketingtexte. Vieles ist möglich, je nach Briefing und Aufgabenstellung des Users. Wer Startschwierigkeiten beim Schreiben hat, kann den Chatbot auffordern, eine Einleitung zu einem Thema zu schreiben. Im Gegenzug können selbst produzierte Texte in ChatGPT kopiert und dann von der KI vervollständigt werden. Das kann bei Schreibblockaden weiterhelfen und den Schreibprozess in Fluss halten. Komplexe, wissenschaftliche Texte fasst die KI in leicht verständlicher Sprache zusammen und begrenzt sich, wenn nötig, auf eine vorgegebene Anzahl an Sätzen (Beispielaufforderung: „Erkläre Photosynthese in drei Sätzen“).

Die Bandbreite der Anwendungsmöglichkeiten scheint beeindruckend groß. Das Besondere an ChatGPT ist, dass die KI keine Textpassagen aus Datenbanken kopiert, sondern jedes Mal neue Texte generiert. Die KI wurde darauf trainiert, unangemessene Anfragen (mit diskriminierender, rassistischer oder krimineller Intention) abzulehnen. Meistens gelingt das, in manchen Fällen zeigte die KI auf schädliche Anweisungen auch ein verzerrtes Verhalten.

Die aktuelle Version der KI kann inzwischen auch Bilder analysieren und interpretieren. Laut OpenAI könne ChatGPT 4 auch komplexere Fragen besser verstehen und kreativer sowie menschlicher antworten. Außerdem wurde die bisherige Zeichenbegrenzung von 2.000 auf 25.000 erweitert. Allerdings ist ChatGPT 4 bislang kostenpflichtig. Trotzdem weist auch die neuste Version Grenzen auf: Die KI kann inhaltlich nur Fakten verarbeiten, die vor September 2021 bekannt waren.

Im November 2022 veröffentlichte die US-Firma OpenAI den KI-basierten Chatbot. Seitdem nutzen mehrere Millionen Menschen ChatGPT. | Quelle: OpenAI

Nach oben

Wie funktioniert ChatGPT? Milliarden Wörter im „Kopf“

Jede KI braucht Daten. Je mehr Datenfutter sie erhält, desto bessere Ergebnisse kann sie erzielen. Bei ChatGPT ist davon auszugehen, dass sich die KI bereits mehrere Hundert Milliarden Wörter samt Bedeutung und Zusammenhang gemerkt hat („So gut textet die KI-Quasselstrippe wirklich“, STZ vom 4.1.2023). Auf Basis dieser Trainingsdaten berechnet das Programm, mit welcher Wahrscheinlichkeit an einer bestimmten Stelle dieses oder jenes Wort passen könnte, erklärte kürzlich Hinrich Schütze, Experte für Computerlinguistik im Interview mit der Stuttgarter Zeitung („KI-Systeme halluzinieren manchmal“, STZ vom 14.1.2023). GPT-3 gilt derzeit als der leistungsstärkste Algorithmus, der mit über 170 Milliarden Parametern arbeiten kann. Ein Parameter legt zum Beispiel fest, dass Nomen großgeschrieben werden (vgl. Philipp Wampfler: Können Programme gute Texte schreiben? S. 137).

Bisher beruhte ChatGPT auf einem sogenannten Large Language Model (LLM). Mit weiteren Updates, wie zum Beispiel der neuesten Version ChatGPT 4, erweitern sich auch die technischen Funktionen der KI. Die neue Version arbeitet mit einem Large Multimodal Model (LMM), das neben Texten auch Bilder verarbeiten kann. Dahinter steckt auch ein größeres Datenmodel, weshalb ChatGPT4 präzisere Ergebnisse erzielt als bisher. Trotzdem weist auch die neueste Version Grenzen auf: Fehler sind laut Hersteller zwar unwahrscheinlicher, aber nicht ausgeschlossen. Die KI kann außerdem inhaltlich nur Fakten verarbeiten, die vor September 2021 bekannt waren.

Quelle 1 | Quelle 2 | Quelle 3

Nach oben

Alles gut, oder? Schwächen und Risiken von ChatGPT

Bei aller Euphorie und Faszination, sollten Nutzer/-innen KI-Produkte wie ChatGPT immer kritisch hinterfragen. Welche Schwächen und Risiken birgt der Chatbot?

„Letztendlich weiß das System ja nicht, was es schreibt“, meint der Lehrer Florian Nuxoll im Podcast „Doppelstunde“. Das sieht auch Doris Weßels, Professorin für Wirtschaftsinformatik an der Fachhochschule Kiel, so. Die Texte wären fiktional, Wörter würden „zusammengewürfelt“. Damit bestünde immer auch die Gefahr, dass Inhalte erfunden oder falsch sind, so die Professorin. Jeder KI-Text muss deswegen auf „Herz und Nieren“ geprüft werden und erfordert eine nachträgliche Qualitätsrecherche. Das ist wiederum gar nicht so einfach, da ChatGPT keine Quellenangeben machen kann. Warum? ChatGPT hat keine eigene Intelligenz oder Verständnis des Kontextes. Es wurde auf Daten trainiert, aber es kann nicht wissen, woher eine bestimmte Information stammt oder beurteilen, ob sie zuverlässig ist. Stattdessen generiert der Chatbot Antworten basierend auf dem, was er während seiner Schulung gelernt hat, aber kann dabei nicht sicherstellen, dass die Antworten korrekt oder vollständig sind. Daher ist es wichtig, die Antworten von ChatGPT im Kontext zu überprüfen und andere Quellen mit einzubeziehen, um die Genauigkeit und Zuverlässigkeit der Antworten zu überprüfen und die Verbreitung von Fake News zu verhindern (vgl. Blog: OpenAI: Better Language Models and Their Implications).

Welche Schwächen und Risiken stecken hinter ChatGPT? Wir haben den Chatbot selbst dazu befragt und diese Antwort erhalten.

Nach oben

Was sollen Lernende im Unterricht über Künstliche Intelligenz erfahren?

Interview mit Sandra Boser (MdL) über KI und ChatGPT im Unterricht bei der didacta Bildungsmesse 2023.

Nach oben

Wie ChatGPT den Schulalltag ändern kann

Künstliche Intelligenz im Klassenzimmer – dafür gibt es verschiedene Ansätze. Zum einen kann über das Thema KI und ChatGPT in Form von Aufklärungsarbeit gesprochen werden, zum anderen können Lehrkräfte und Lernende Anwendungen wie ChatGPT im und für den Unterricht selbst nutzen. In beiden Fällen stellt sich die Frage, wie sich neue Aufgabenformate über und mit KI gestalten lassen.

Zunächst kann ChatGPT wie jedes andere Online-Tool im Unterricht vorgestellt und eingeführt werden. Es ist wichtig in der Klasse gemeinsam zu besprechen und zu reflektieren, wie ChatGPT genutzt werden kann, in welchen Punkten es als Unterstützer funktioniert und – ganz wichtig – welche Grenzen und Fallstricke die KI mit sich bringt (siehe Risiken und Schwächen). Hier gilt, wie auch für andere Online-Tools im Unterricht, dass der Datenschutz unbedingt beachtet werden muss.

Francesco Mondada ist Professor für Robotik an der EPFL und erklärt, dass der Fokus nicht zu stark auf ChatGPT liegen sollte, da dies nur eine von vielen weiteren Anwendungen aus dem Bereich KI sein werde. Stattdessen solle der Blick für KI (im Unterricht) generell weitergefasst werden. Für Lernende sei es wichtig, das Grundprinzip hinter KI im Unterricht vermittelt zu bekommen und zu verstehen, dass auch eine KI von Menschen gemacht und gesteuert wird. So wären die Lernenden für das Aufkommen neuer Innovationen vorbereitet und dazu befähigt, neue Technologien selbstbestimmt und reflektiert zu nutzen.

Quelle 4 | Quelle 5 | Quelle 6

Tipps: Lehrinhalte gestalten

Die KI bietet viele Möglichkeiten Lehrkräfte in puncto Unterrichtsvorbereitung zu unterstützen und verschiedene Aufgabenformate zu gestalten, was sicherlich als positive Folge des Einsatzes von KI an Schulen gewertet werden kann. An dieser Stelle nochmal der Hinweis, dass das generierte Material von ChatGPT unvollständig oder fehlerhaft sein könnte. Die menschliche Kontrolle bleibt nicht außen vor.

ChatGPT kann beispielsweise dabei helfen,…

Klausuraufgaben, Quiz oder Lückentexte zu gestalten.
Informationstexte für den Unterricht zu erstellen.
Texte auf Grammatik und Rechtschreibung zu überprüfen.
eine Unterrichtsstunde zu planen.

Tipps: KI im Unterricht nutzen

Es gibt auch Möglichkeiten direkt mit der KI und den Lernenden zu arbeiten. Eine textgenerierende KI stellt reine Aufgaben der Reproduktion in den Schatten und fordert neue kreative Aufgabenformate. Bei Aufgaben, die den Lernstoff in persönlichen Bezug setzen, kann auch die KI nicht weiterhelfen und die Schülerinnen und Schüler lernen den Unterrichtsstoff eigenständig zu reflektieren (siehe Handreichung). Das Tool kann in verschiedenen Anwendungsszenarien als Hilfsmittel im Unterricht zum Einsatz kommen, jedoch sollte ein Faktencheck nie ausbleiben. Für Lernende ist dieser kontrollierende Umgang mit KI ein wichtiger Teil des Lernprozesses.

Mit ChatGPT können Schülerinnen und Schüler…

schwere Informationstexte vereinfachen und so individuell verständlicher machen.
Texte übersetzen und eine Fremdsprache mit einem „virtuellen Partner“ trainieren.
Inspirationen und Ideen für ein bestimmtes Thema erhalten, die gegengeprüft und erweitert werden sollten.
Informationen einholen oder Argumente sammeln, die mündlich besprochen und diskutiert werden.
zukünftig auch Karikaturen oder Kunstwerke im Unterricht interpretieren (ChatGPT4).

Nach oben

Die Detektionssoftware DetectGPT soll KI-basierte Texte entlarven. | Getty Images

Können KI-generierte Texte erkannt werden?

Ein Forschungsteam von der Standford University in Kalifornien entwickelte eine erste Software namens „DetectGPT“, die überprüfen soll, ob ein Text aus der Feder von ChatGPT stammt.

Bei künstlichen Intelligenzen wie ChatGPT basiert das Texten im Grunde auf statistischer Wahrscheinlichkeit in puncto Wortabfolge. Die Detektionssoftware analysiert das zugrundeliegende Sprachmodell eines Textes oder eines Satzes und weiß so, ob es sich um einen menschlichen oder künstlichen Text handelt. DetectGPT steckt aber noch in den Kinderschuhen und kann nur Texte von ChatGPT2 analysieren. Hundertprozentig sicher funktioniert die Software noch nicht und es kommt manchmal zu Fehlinterpretationen. Bisher gibt es noch keine offizielle Version des Programms.

Den ausführlichen Artikel zu DetectGPT – wie die Software funktioniert und mit Link zur Testversion – gibt es hier.

Zum Artikel

Nach oben

Statement zum Datenschutz des Kultusministeriums BW

Der Datenschutz spielt eine wichtige Rolle bei der Verwendung von künstlichen Intelligenzen an Schulen. Es gibt einige rechtliche Aspekte zu beachten, insbesondere die Verarbeitung und Weitergabe personenbezogener Daten. Inwiefern ChatGPT Daten sammelt und speichert, ist undurchsichtig. Schülerinnen und Schüler sollten im Rahmen des Unterrichts kein eigenes Konto zur Nutzung von ChatGPT anlegen. Dazu hat das Kultusministerium Baden-Württemberg eine wichtige Einschätzung abgegeben:

„Nach Verständnis des Kultusministeriums ist für die Nutzung von ChatGPT die Erstellung eines Nutzerkontos notwendig. Schülerinnen und Schüler können im Rahmen einer schulischen Aufgabe nicht dazu gezwungen werden, solch ein Nutzerkonto anzulegen. Aus der Sicht des Datenschutzes wäre es zudem unzulässig, ein solches Konto mit personenbezogenen Daten der Schülerinnen und Schüler anzulegen. Dem Kultusministerium ist weiter nicht bekannt, inwiefern durch die Nutzung der Seite personenbezogene Daten generiert und zu welchen Zwecken gespeichert oder verarbeitet werden. ChatGPT gibt an, dass die automatisch generierten Texte auf mehreren tausend Quellen, die online frei zugänglich sind, basieren. Diese Quellen sind nicht bekannt. Aus diesem Grund kann auch nicht sicher geklärt werden, ob diese wirklich keinem Copyright unterliegen. Aus den genannten Gründen sollten Lehrkräfte ihre Schülerinnen und Schüler nicht aktiv anweisen, ChatGPT zu benutzen oder sie gar zu einem verpflichtenden Gegenstand einer schulischen Aufgabe machen, die eine Nutzung der Software voraussetzt.“