Worum geht's eigentlich?

Wie funktioniert ein LLM?

Einstieg in den Kurs: eine Szene, die den Moment beschreibt, als LLMs die Öffentlichkeit veränderten — und die zentrale Frage, die dieser Kurs beantwortet.

1

Learning Material

1 pages

Lektion 1 — Worum geht's eigentlich?

Seite 1 von 1

Verstehen statt Staunen: Wie funktioniert ein LLM?


Es war ein Dienstagabend im November 2022, als Sam Altman auf Twitter schrieb: „Heute Abend starten wir ChatGPT als Forschungsvorschau. Probiert es aus." Keine Pressekonferenz. Kein Marketing-Trara. Nur ein Tweet — und ein Link.

Fünf Tage später hatte der Dienst eine Million Nutzer. Zwei Monate später waren es hundert Millionen.

Das war das schnellste Nutzerwachstum, das irgendjemand je bei einem Internet- Dienst gemessen hatte. Faster than TikTok. Faster than Instagram. Der Reuters-Journalist Krystal Hu dokumentierte die Wachstumszahlen im Januar 2023 und schrieb, dass kein Dienst der Internetgeschichte diesen Maßstab in dieser Zeit erreicht hatte.

Warum? Was war da passiert?


Die naheliegende Antwort ist: ein Chatbot, der gut schreibt. Und das stimmt soweit — aber es erklärt das Crescendo nicht. Es gab Chatbots vorher. Siri, Alexa, Cortana, die Bot-Assistenten der Telekommunikationsunternehmen, die schon seit Jahren auf Telefonansagen wartelisten-frustrierte Kunden mit „Ich habe das nicht verstanden, bitte wiederholen Sie..." abspeisten. Die kannte jeder. Die mochte niemand.

ChatGPT war etwas anderes. Und das spürten Millionen von Menschen, die weder Informatik studiert hatten noch wussten, was ein „Large Language Model" ist, sofort.

Du konntest mit ihm auf Deutsch schreiben, und es antwortete auf Deutsch — ohne erkennbaren Akzent, ohne die hölzerne Übersetzungs-Syntax, die man von Google Translate kannte. Du konntest ihm sagen: „Erkläre mir Newtons drittes Gesetz, als wäre ich zehn Jahre alt." Und es erklärte. Du konntest ihm bitten, eine E-Mail an einen schwierigen Kollegen zu formulieren, die professionell klingt, aber dennoch klar macht, dass du es nicht noch einmal sagst. Es formulierte. Du konntest einen Witz auf Englisch fragen und eine deutsche Übersetzung bitten, die auch auf Deutsch lustig ist — eine Aufgabe, die professionelle Übersetzer gerne als annähernd unlösbar beschreiben. Es versuchte es. Manchmal gelang es sogar.

Die erste verbreitete Reaktion war Faszination. Die zweite war etwas Unbequemeres.


Ein Gymnasiallehrer in Frankfurt — die Zeit berichtete im Dezember 2022 über mehrere solcher Fälle — gab seinen Schülern als Hausaufgabe einen Essay über Schillers Die Räuber. Einer der Schüler gab einen Essay ab, der nicht nur korrekt war, sondern besser als alles, was er bisher geschrieben hatte. Der Lehrer fragte nach. Der Schüler zuckte mit den Schultern.

Ein Anwalt in München bat ChatGPT, einen Vertragsklauseln-Entwurf zu erstellen. Was zurückkam, war juristisch nicht unbedingt hieb- und stichfest, aber es war orientiert. Es kannte den Unterschied zwischen AGB und Einzelvertrag. Es kannte die Struktur einer Haftungsklausel. Es kannte die Sprache des deutschen Vertragsrechts.

Ein Psychologe aus Wien schrieb später in einer Fachzeitschrift: Er habe mit ChatGPT über einen hypothetischen Patientenfall gesprochen und festgestellt, dass das System empathisch kalibrierte Antworten gab, die einem Erstkontakt-Gespräch erstaunlich ähnelten. Er sei verunsichert gewesen — nicht weil das System gut war, sondern weil er nicht wusste, warum es gut war.

Das ist die entscheidende Reaktion. Nicht Begeisterung, nicht Ablehnung — sondern Verwirrung darüber, was hier eigentlich passiert.


Inzwischen sind dreieinhalb Jahre vergangen. Die Verwirrung ist geblieben.

Das ist das Paradoxe: Obwohl fast jeder in Europa, der jünger als siebzig ist, inzwischen ChatGPT ausprobiert hat oder zumindest weiß, was es ist, hat sich das öffentliche Verständnis davon, wie es funktioniert, kaum verbessert. Es gibt mehr Meinungen als je zuvor. Es gibt Schlagzeilen über „KI, die Jobs vernichtet" und Schlagzeilen über „KI, die Krebs heilt" und Schlagzeilen über „KI, die lügt" und Schlagzeilen über „KI, die Schüler faul macht". Aber wenig davon beantwortet die grundlegende Frage.

Die populären Erklärungen sind meist eine von drei Sorten:

Zu simpel: „Es ist wie Google, nur besser." Das ist falsch. Google sucht in einem Index. ChatGPT generiert. Das ist ein grundlegend anderer Vorgang.

Zu dramatisch: „Es versteht uns. Es denkt. Manche halten es für bewusst." Das ist möglicherweise falsch — und selbst wenn es einen Kern von Wahrheit enthält, ist es keine Erklärung, sondern ein Staunen.

Zu technisch: „Es ist ein probabilistisches Sprachmodell auf Transformer- Basis mit Self-Attention und Reinforcement Learning from Human Feedback." Das stimmt — aber es erklärt niemandem außer Informatikern etwas.

Alle drei Erklärungen lassen dich da stehen, wo du angefangen hast: mit dem Gefühl, dass da etwas Wichtiges passiert, das du nicht in Sprache fassen kannst.


Dieser Kurs ist der Versuch, das zu ändern.

Nicht mit Vereinfachungen, die dich belügen. Nicht mit Dramatik, die dich erschreckt. Nicht mit Fachbegriffen, die dich ausschließen.

Sondern mit der Frage, die seit November 2022 offen ist und die — das ist ungewöhnlich für eine technische Frage — auch von den Menschen, die die Systeme gebaut haben, noch nicht vollständig beantwortet werden kann:

Was passiert tatsächlich, wenn du einer Maschine eine Frage stellst und sie antwortet? Und wie viel davon ist Verständnis — und wie viel ist sehr gutes Raten?

Diese Frage hat zwei Hälften. Die erste Hälfte ist mechanisch: Was passiert technisch? Was rechnet das System? Welche Schritte führen von deinem eingetippten Satz zu der Antwort, die zurückkommt? Diese Hälfte können wir beantworten — nicht vollständig, aber gut genug, dass du danach keine Magie mehr siehst, wo Mathematik ist.

Die zweite Hälfte ist schwieriger: Ist da Verständnis? Denkt das System? Weiß es etwas, oder rechnet es nur auf eine Weise, die aussieht wie Wissen? Diese Hälfte ist wissenschaftlich offen. Experten sind uneins. Die besten Argumente liegen auf beiden Seiten. Wir werden sie dir beibringen — nicht, damit du uns vertraust, sondern damit du sie selbst beurteilen kannst.


Ein letzter Gedanke, bevor wir anfangen.

Du hast wahrscheinlich schon ChatGPT, Claude, Gemini oder eines der anderen Systeme dieser Art benutzt — oder zumindest davon gehört. Du hast vielleicht eine Meinung dazu. Diese Meinung ist willkommen. Du sollst sie am Ende des Kurses nicht ablegen, sondern sie schärfen.

Aber lass uns für die nächsten elf Lektionen eine Klammer setzen: Die Frage ist nicht, ob du LLMs magst oder für gefährlich hältst. Die Frage ist, was sie sind. Die zweite Frage wird interessanter, wenn du die erste beantwortet hast.

Wir fangen an.


Nächste Lektion: Warum sollte mich das interessieren? — Drei Gründe, 2,5 Stunden in dieses Thema zu investieren.


Lesezeit: ca. 8–9 Minuten

Want more?

Sign up for AI tutoring, study plans, exam prep, and more.

Sign up free