Künstliche Intelligenz – Was steckt hinter ChatGPT?

Individuelle Aufsätze und Textinterpretationen verfassen, Verse dichten, Programmiercode schreiben: Der Chatbot ChatGPT sorgt derzeit für Aufsehen – vor allem in der Bildung.

Marius, Schüler der 9. Klasse an einem Stuttgarter Gymnasium beschäftigt sich zurzeit mit der Lektüre „Wilhelm Tell“ von Friedrich Schiller. Er soll zu Hause einige Seiten lesen und anschließend Fragen zum Text beantworten. ChatGPT hilft ihm dabei. Marius ist beeindruckt, wie sich der Cursor wie von Geisterhand am Monitor selbständig in Bewegung setzt und in Sekundenschnelle Sätze formuliert. Der Chatbot erkennt Rechtschreibfehler in der Fragestellung, korrigiert und beantwortet die Frage in leicht verständlicher Sprache. Damit wäre ein Teil der Hausaufgaben von Marius erledigt.

Zu den Veranstaltungen zum Thema

Ein Screenshot aus einem Ausschnitt mit dem Chatbot ChatGPT, in dem es um das Buch Wilhelm Tell von Schiller geht

Der KI-Chatbot antwortet innerhalb von Sekunden auf die Frage von Schüler Marius. | ChatGPT

Ein Mensch tippt etwas in seinen Laptop. In der Mitte des Fotos ist eine Grafik platziert  mit einem menschlichen Kopf und Gehirn. Darueber steht in dicker Schrift "ChatGPT"

Vor allem im Bereich der Bildung erzeugt ChatGPT momentan für großes Aufsehen. | GettyImages

Die Aufregung um ChatGPT: Faszinierend und unheimlich

ChatGPT erfährt aktuell enorme Aufmerksamkeit in den Medien. Wer die interaktive Chat-KI bereits ausprobiert hat, ahnt, dass das textbasierte Dialogsystem große Veränderungen in Arbeit, Bildung und Gesellschaft mit sich bringen kann. Auch Lehrkräfte, Schulleitende und Eltern sind neugierig und informieren sich derzeit über die Chancen und Risiken von KI-Tools beim Lehren und Lernen.  

Künftig, so die weitläufige Annahme, werden mehr Texte zu lesen sein, die zumindest in Teilen durch eine Künstliche Intelligenz (KI) erschaffen wurden. Expertinnen und Experten sind sich sicher: Auch Schülerinnen und Schüler werden Tools wie ChatGPT für ihre Lernzwecke nutzen. Doch welche Konsequenzen hat das für die Bewertung von Schülerleistungen, wenn Hausaufgaben, Probeaufsätze oder Referate mithilfe von Künstlicher Intelligenz geschrieben werden? Verlernen Schülerinnen und Schüler Lösungsstrategien und kreatives Denken, wenn die Maschine zu jeder Aufgabe die passende Antwort ausspuckt?

Viele Lehrkräfte kennen ChatGPT noch nicht. Wir stellen das Tool deshalb in Kürze vor: Welche Technologie steckt hinter diesem Namen? Was können Nutzerinnen und Nutzer mit ChatGPT machen und wie können sie die KI testen?  

Was ist ChatGPT? Mensch und Maschine im Dialog

GPT steht für „Generative Pretrained Transformer“. Der Chatbot ChatGPT des US-Unternehmens Open AI gilt derzeit als einer der besten Textgeneratoren seiner Art, der auf Basis von Deep Learning arbeitet und täglich dazu lernt, je mehr er mit Daten durch die Nutzerinnen und Nutzer gefüttert wird. Seit seiner Veröffentlichung im November 2022 nutzen Millionen von Menschen ChatGPT als eine Art „Ghostwriter“ und Schreibpartner. Im Dialog mit der Maschine erzeugt der Bot unterschiedlichste Textsorten wie Geschichten, Aufsätze, Geschäftsbriefe oder Werbe- und Marketingtexte. Vieles ist möglich, je nach Briefing und Aufgabenstellung des Users. Wer Startschwierigkeiten beim Schreiben hat, kann den Chatbot auffordern, eine Einleitung zu einem Thema zu schreiben. Im Gegenzug können selbst produzierte Texte in ChatGPT kopiert und dann von der KI vervollständigt werden. Das kann bei Schreibblockaden weiterhelfen und den Schreibprozess in Fluss halten. Komplexe, wissenschaftliche Texte fasst die KI in leicht verständlicher Sprache zusammen und begrenzt sich, wenn nötig, auf eine vorgegebene Anzahl an Sätzen (Beispielaufforderung: „Erkläre Photosynthese in drei Sätzen“).  

Thomas Felzmann, Lehrer an einer Mittelschule in Wien, hat Links von digitalen Büchern in den Chatbot kopiert und sich dann für bestimmte Kapitel Fragen zur Prüfungsvorbereitung generieren lassen. Aus eingestellten Texten generierte ChatGPT außerdem passende Lückentexte mit Lösungen am Ende des Arbeitsblattes (Blog: Thomas Felzmann. ChatGPT: Möglichkeiten und Risiken für die Schule). 

Die Bandbreite der Anwendungsmöglichkeiten scheint beeindruckend groß. Das Besondere an ChatGPT ist, dass die KI keine Textpassagen aus Datenbanken kopiert, sondern jedes Mal neue Texte generiert. Die KI wurde darauf trainiert, unangemessene Anfragen (mit diskriminierender, rassistischer oder krimineller Intention) abzulehnen. Meistens gelingt das, in manchen Fällen zeigte die KI auf schädliche Anweisungen auch ein verzerrtes Verhalten.  

Man sieht das Logo des Unternehmens OpenAi, das den Chatbot ChatGPT entwickelt hat.

Im November 2022 veröffentlichte die US-Firma OpenAI den KI-basierten Chatbot. Seitdem nutzen mehrere Millionen Menschen ChatGPT. | Quelle: OpenAI

Wie funktioniert ChatGPT? Milliarden Wörter im „Kopf“

Jede KI braucht Daten. Je mehr Datenfutter sie erhält, desto bessere Ergebnisse kann sie erzielen. Bei ChatGPT ist davon auszugehen, dass sich die KI bereits mehrere Hundert Milliarden Wörter samt Bedeutung und Zusammenhang gemerkt hat („So gut textet die KI-Quasselstrippe wirklich“, STZ vom 4.1.2023). Auf Basis dieser Trainingsdaten berechnet das Programm, mit welcher Wahrscheinlichkeit an einer bestimmten Stelle dieses oder jenes Wort passen könnte, erklärte kürzlich Hinrich Schütze, Experte für Computerlinguistik im Interview mit der Stuttgarter Zeitung („KI-Systeme halluzinieren manchmal“, STZ vom 14.1.2023). GPT-3 gilt derzeit als der leistungsstärkste Algorithmus, der mit über 170 Milliarden Parametern arbeiten kann. Ein Parameter legt zum Beispiel fest, dass Nomen großgeschrieben werden (vgl. Philipp Wampfler: Können Programme gute Texte schreiben? S. 137). Um qualitativ gute Ergebnisse erzielen zu können, benötigt die KI menschliche Nachhilfe und die bekommt sie durch das Feedback der Nutzer/-innen (Reinforcement Learning from Human Feedback). 

Alles gut, oder? Schwächen und Risiken von ChatGPT

Bei aller Euphorie und Faszination, sollten Nutzer/-innen KI-Produkte wie ChatGPT immer kritisch hinterfragen. Welche Schwächen und Risiken birgt der Chatbot?

„Letztendlich weiß das System ja nicht, was es schreibt“, meint der Lehrer Florian Nuxoll im Podcast „Doppelstunde“. Das sieht auch Doris Weßels, Professorin für Wirtschaftsinformatik an der Fachhochschule Kiel, so. Die Texte wären fiktional, Wörter würden „zusammengewürfelt“. Damit bestünde immer auch die Gefahr, dass Inhalte erfunden oder falsch sind, so die Professorin. Jeder KI-Text muss deswegen auf „Herz und Nieren“ geprüft werden und erfordert eine nachträgliche Qualitätsrecherche. Das wiederum ist gar nicht so einfach, weil ChatGPT keine Quellenangaben macht. Es bleibt also intransparent, wie die KI zu ihrer Entscheidung kommt und mit welchen Basisinformationen sie gearbeitet hat. Neben ungeklärten Fragen zu Urheberrecht und Datenschutz, bleibt ein erhöhtes Risiko für Fake News.  

 

Ein Screenshot aus dem Chat mit dem Chatbot ChatGPT, in dem er seine Schwaechen und Risiken nennt

Welche Schwächen und Risiken stecken hinter ChatGPT? Wir haben den Chatbot selbst dazu befragt und diese Antwort erhalten.

Veranstaltungen des LMZ zum Thema ChatGPT und Künstlicher Intelligenz

Wie funktionieren Tools wie ChatGPT und andere? Welche Herausforderungen bringt der Einsatz von KI und mächtigen Chatbots mit sich? Und was hat das überhaupt mit Schule zu tun? Diese und weitere Fragen beantworten die Referentinnen und Referenten in der Veranstaltung. Sie testen einen Chatbot auf seine Möglichkeiten und diskutieren, wie das System Schule mit den neuen Herausforderungen umgehen kann.

Für Einsteiger

Ki-Schock vs. KI-Begeisterung: ChatGPT, OpenAI,… Was ist das denn?


Informationen zu ChatGPT und anderen KI-Tools für Einsteiger

Online-Veranstaltung (31.01.2023)

Online-Veranstaltung (01.03.2023)

Für Fortgeschrittene

KI-Schock vs. KI-Begeisterung: Wie moderne Tools das Lernen für immer verändern werden

Informationen zu ChatGPT und anderen KI-Tools für Fortgeschrittene

Online-Veranstaltung (06.02.2023)

Online-Veranstaltung (14.03.2023)

Ulrike Boscher

Diese Seite teilen: