Zum Inhalt springen
hilfmirmal...
Angebot Erstgespräch

KI-Manager:in · Präsentation · Teil 3

Algorithmen, Modelle und Sprachmodelle

Folien zum KI-Manager-Lernpfad: Algorithmus, Entscheidungsbaum, neuronales Netz, Token, Transformer, AI Act und die Wahl des passenden KI-Werkzeugs.

Ein Kurs von Erik Lorenscheit, Gründer von hilfmirmal · Zuletzt aktualisiert am

Teil 3 · Algorithmen, Modelle und Sprachmodelle

Ein Blick unter die Haube

Stell vier Chatbots dieselbe Frage, und du bekommst vier verschiedene Antworten. Warum ist das so? Um das zu verstehen, gehst du ganz nach unten: vom Algorithmus über das neuronale Netz bis zum Sprachmodell.

Dein Weg durch diesen Teil
  1. Algorithmen und Netze
  2. Sprachmodelle und AI Act
  3. Werkzeuge und echte Fälle

hilfmirmal.de · KI-Manager:in

Erklärung zur Folie

In Teil 2 hast du Prompts gebaut und gesehen: Der Prompt verändert das Ergebnis. Jetzt schaust du unter die Haube. Was passiert zwischen deinem Prompt und der Antwort? Und warum antworten verschiedene Chatbots auf dieselbe Frage so unterschiedlich?

Dafür fängst du ganz unten an, beim Wort Algorithmus. Dann kommen Entscheidungsbaum, neuronales Netz und Deep Learning. In der Mitte stehen die Sprachmodelle: Token, Transformer und wie der AI Act Modell und System trennt. Zum Schluss ordnest du die Werkzeuge, die du kennst, und schaust dir drei echte Fälle an, an denen du siehst, was Lernen aus Daten in der Praxis bewirkt.

Zum Ausprobieren: eine Frage, vier Werkzeuge

„Erkläre in fünf Sätzen, was ein neuronales Netz ist, und nenne eine Quelle, die ich prüfen kann.“

  1. Stell die Frage wortgleich an ChatGPT, Claude, Copilot und Perplexity.
  2. Schreib zu jedem Werkzeug einen Satz auf.
  3. Vergleiche: Länge, Quelle echt?, Inhalt richtig?, Ton.

Achtung

Nichts umformulieren. Sonst vergleichst du deine Prompts und nicht die Werkzeuge.

Erklärung zur Folie

Fang mit einem kleinen Test an. Kopier die Frage und stell sie wortgleich an vier Werkzeuge. Wenn du bei einem kein Konto hast, nimm die Version ohne Anmeldung oder lass das Werkzeug aus. Nimm dir etwa zwanzig Minuten.

Achte auf vier Dinge. Wie lang ist die Antwort? Gibt es eine Quelle, und existiert sie wirklich? Stimmt der Inhalt? Und wie klingt das Ganze? Häufig liefert Perplexity Quellen, andere erklären ausführlicher. Das ist aber keine feste Rangliste, und dein Ergebnis kann anders aussehen.

Sicher ist: Keine der vier Antworten ist identisch. Woher diese Unterschiede kommen, klärt dieser Teil. Am Ende kannst du es selbst erklären.

Ein Algorithmus ist eine eindeutige Handlungsvorschrift

Endlich viele Schritte, jeder klar beschrieben. Kochrezept, schriftliche Division, Mahnlauf.

Mahnlauf
  1. Rechnung offen
  2. Mehr als 30 Tage offen?
  3. verzweigt in:
    • neinwarten
    • ja, bis 40 Tage1. Mahnung
    • ja, mehr als 40 Tage2. Mahnung

Merk dir

Das ist ein Algorithmus. Und keine KI: Jemand hat jede Regel aufgeschrieben.

Erklärung zur Folie

Bevor es um neuronale Netze geht, brauchst du ein Wort, das ständig unscharf benutzt wird: Algorithmus. Ein Algorithmus ist eine eindeutige Handlungsvorschrift. Endlich viele Schritte, jeder klar beschrieben. Ein Kochrezept ist einer. Der schriftliche Rechenweg für eine Division ist einer.

Ein Beispiel aus dem Büro ist der Mahnlauf. Rechnung seit mehr als 30 Tagen offen? Erste Mahnung. Seit mehr als 40? Zweite Mahnung. Das ist ein Algorithmus, aber keine KI. Jemand hat jede Regel aufgeschrieben.

Wichtig für dich: Auch maschinelles Lernen benutzt Algorithmen. Dort beschreibt der Algorithmus aber, wie gelernt wird. Was am Ende herauskommt, schreibt niemand von Hand. Wenn dir jemand erzählt „Unser Algorithmus entscheidet das“, frag nach: Hat den jemand geschrieben, oder hat er gelernt?

Klassischer Algorithmus oder Lernalgorithmus

Klassischer Algorithmus

  • Enthält die Regeln: „Wenn offen über 30 Tage, dann Mahnung.“
  • Regeln schreibt ein Mensch, dafür braucht er Fachwissen.
  • Ergebnis: nachvollziehbar.

Lernalgorithmus

  • Enthält eine Anleitung, wie man aus Daten Regeln findet.
  • Aus 10.000 Beispielen findet das Modell die Regeln selbst.
  • Ergebnis: oft schwer erklärbar.

Merk dir

Dazwischen liegt eine Modellart, die aus Daten lernt und trotzdem lesbar bleibt: der Entscheidungsbaum.

Erklärung zur Folie

Das Prinzip kennst du vom Spamfilter aus Teil 1: Regeln schreiben gegen aus Beispielen lernen. Jetzt bekommt es die richtigen Namen.

Der klassische Algorithmus enthält die Regeln. Ein Mensch schreibt sie, dafür braucht er Fachwissen, und das Ergebnis ist nachvollziehbar. Der Lernalgorithmus enthält eine Anleitung, wie man aus Daten Regeln findet. Er braucht Daten statt Fachwissen, und das Ergebnis ist oft schwer zu erklären.

Das hat Folgen. Die klassische Regel kannst du einer Prüferin vorlesen. Beim gelernten Modell geht das oft nicht. Genau das wird wichtig, wenn jemand fragt: Warum hat das System so entschieden?

Der Entscheidungsbaum: Fragen bis zur Antwort

Beispiel: Kündigt eine Kundin oder ein Kunde?

Weg durch den Baum Entscheidung am Blatt
seit über 2 Jahren Kunde bleibt wahrscheinlich
kürzer, mehr als 3 Beschwerden kündigt wahrscheinlich
kürzer, höchstens 3 Beschwerden bleibt wahrscheinlich
  • Knoten: stellt eine Frage.
  • Ast: führt zur nächsten Frage.
  • Blatt: trägt die Entscheidung.

Lernbar und lesbar. Beispieldaten erfunden.

Erklärung zur Folie

Ein Entscheidungsbaum sieht aus wie ein Flussdiagramm. Oben steht eine Frage, dann folgst du dem Ast zur nächsten Frage, ganz unten am Blatt steht die Entscheidung. Im Beispiel: Ist jemand seit mehr als zwei Jahren Kunde? Dann bleibt er wahrscheinlich. Wenn nicht: Gab es mehr als drei Beschwerden? Dann kündigt er wahrscheinlich.

Das Spannende: So einen Baum kann ein Mensch malen. Er kann aber auch aus Daten gelernt werden. Dabei sucht der Lernalgorithmus die Frage, die am meisten trennt, und stellt sie nach oben. Und du kannst jede Entscheidung zurückverfolgen. Der Nachteil: Bei sehr vielen Merkmalen wird der Baum riesig oder zu grob.

Zum Ausprobieren mit einer zweiten Person: Sie denkt an ein Tier, du stellst nur Ja-Nein-Fragen. Schaffst du es in zehn? Eine gute Frage wie „Kann es fliegen?“ halbiert das Feld. Eine schlechte wie „Ist es ein Rotmilan?“ trennt fast nichts, bis du kurz vor dem Ziel bist. Du hast dabei einen Entscheidungsbaum gebaut.

Das neuronale Netz: Schichten aus Zahlen

Von Pixeln zur Antwort
  1. Eingabeschichtnimmt Daten auf, z. B. Pixel
  2. Verborgene Schichtenrechnen Zwischenergebnisse
  3. AusgabeschichtKatze 91 %, Hund 7 %, Vogel 2 %
  • Jede Verbindung trägt eine Zahl: das Gewicht.
  • Ein Neuron addiert, was ankommt, jeweils mal Gewicht, und gibt es weiter.
  • Verborgen heißt nicht geheim.

Beispielwerte.

Erklärung zur Folie

Jetzt das Herzstück der modernen KI: das neuronale Netz. Der Name klingt nach Gehirn, die Ähnlichkeit ist lose. Ein neuronales Netz ist Rechnen mit sehr vielen Zahlen, in Schichten angeordnet.

Links sitzt die Eingabeschicht. Bei einem Bild sind das die Pixel. Rechts sitzt die Ausgabeschicht, da steht zum Beispiel: Katze, 91 Prozent. Dazwischen liegen die verborgenen Schichten. Verborgen heißt nur: Dort siehst du weder Eingabe noch Ausgabe, sondern Zwischenergebnisse.

Jede Verbindung hat eine Zahl, ein Gewicht. Ein Neuron addiert, was bei ihm ankommt, jeweils mal Gewicht, und gibt das Ergebnis weiter. Viel mehr passiert dort nicht. Die Leistung entsteht durch die Menge.

Gewichte und Parameter: wo das Gelernte steckt

Ein Trainingsschritt
  1. Bild reindas Netz sagt „Vogel“
  2. Fehler messenes war eine Katze
  3. Regler drehenjeden ein kleines Stück
  4. Nächstes BildMillionen Mal

Jeder Regler ist ein Gewicht. Alle zusammen heißen Parameter. Große Sprachmodelle haben Milliarden davon.

Merk dir

Temperatur oder maximale Länge in einem Werkzeug sind Einstellungen für die Nutzung. Die Gewichte des Modells änderst du damit nicht.

Erklärung zur Folie

Stell dir ein Mischpult mit sehr vielen Reglern vor. Jeder Regler ist ein Gewicht. Alle Regler zusammen heißen Parameter. Große Sprachmodelle haben Milliarden davon.

Am Anfang stehen die Regler zufällig. Das Netz sieht ein Katzenbild und sagt: Vogel. Falsch. Der Lernalgorithmus misst, wie falsch. Dann dreht er jeden Regler ein kleines Stück in die Richtung, die den Fehler kleiner macht. Nächstes Bild, wieder korrigieren, Millionen Mal.

Nach dem Training steckt das Gelernte in diesen Zahlen. Nicht als Satz, nicht als Datei mit Fakten, sondern verteilt über alle Regler. Deshalb kannst du ein Sprachmodell nicht fragen, wo es etwas gespeichert hat. Und eine Abgrenzung für den Alltag: Bietet ein Werkzeug Einstellungen wie Temperatur oder maximale Länge an, heißen die oft auch Parameter. Das sind Einstellungen für die Nutzung, keine Gewichte.

Zum Ausprobieren: einem Netz beim Lernen zuschauen

  1. Öffne playground.tensorflow.org, kostenlos im Browser, ohne Anmeldung.
  2. Datensatz „Kreis“: blaue Punkte innen, orange außen.
  3. Drück auf Play. Die Linien sind die Gewichte, sie werden dicker oder dünner.
  4. „Test loss“ oben rechts sinkt: Der Fehler wird kleiner.
  5. Stopp, Reset, Neuronen wegnehmen, bis nur eins übrig ist. Wieder Play.

Merk dir

Mit einem einzigen Neuron schafft das Netz nur eine gerade Linie. Den Kreis bekommt es nicht hin.

Erklärung zur Folie

Genug Theorie. Der TensorFlow Playground zeigt dir ein echtes kleines Netz direkt im Browser. Die Aufgabe: blaue Punkte innen, orange Punkte außen, das Netz soll lernen, sie zu trennen. Links die Eingaben, in der Mitte die verborgenen Schichten, rechts das Ergebnis.

Drück auf Play und lass es etwa zehn Sekunden laufen. Schau auf die Linien: Das Netz dreht an seinen Reglern. Oben rechts wird der Fehler kleiner, und rechts bildet sich ein Kreis. Das Netz hat die Grenze gelernt.

Dann nimm bei den verborgenen Schichten mit dem Minus so lange Neuronen weg, bis nur eines übrig ist. Mit einem Neuron gibt es nur eine gerade Linie, der Kreis gelingt nicht. Das ist der Grund, warum große Netze so groß sind: mehr Neuronen, mehr Schichten, kompliziertere Muster.

Deep Learning heißt: viele Schichten

Was die Schichten bei einem Bild erkennen
  1. Pixelnur Helligkeitswerte
  2. Frühe SchichtenKanten und Linien
  3. Mittlere SchichtenOhr, Auge, Schnurrhaare
  4. Späte Schichten„Katze“

Tief heißt: viele verborgene Schichten hintereinander. Kein anderes Verfahren.

Merk dir

Lohnt sich bei Bild, Sprache und Text. Für eine Tabelle mit 500 Zeilen reicht oft ein Entscheidungsbaum.

Erklärung zur Folie

Deep Learning ist kein anderes Verfahren. Es ist ein neuronales Netz mit vielen verborgenen Schichten. Tief heißt: viele Schichten hintereinander.

Bei Bildern sieht man gut, was dabei passiert. Am Anfang sind nur Pixel da, also Helligkeitswerte. Die ersten Schichten reagieren auf Kanten und Linien, die mittleren auf Formen wie Ohr, Auge oder Schnurrhaare, die letzten auf ganze Objekte: Katze. In der Zeitleiste aus Teil 1 steht 2012. Da hat genau das zum ersten Mal überzeugend funktioniert, weil es genug Daten und genug Rechenleistung gab.

Für dich heißt das: Deep Learning lohnt sich bei Bildern, Sprache und Text, auch bei Satellitenbildern. Für eine Tabelle mit fünfhundert Zeilen ist es oft überdimensioniert. Da reicht häufig ein Entscheidungsbaum.

Fünf Arten zu lernen

Lernart Wie Beispiel
Überwacht mit richtiger Antwort Spam erkennen
Unüberwacht ohne Antwort Kundensegmente
Bestärkend Belohnung und Strafe Spiel, Roboter
Selbstüberwacht (neu) die Antwort steckt im Text „Die Katze ___ auf der Matte“
Teilüberwacht (neu) wenige mit Antwort, viele ohne Belege sortieren

Merk dir

Sprachmodelle lernen erst selbstüberwacht auf riesigen Textmengen, dann überwacht mit Beispielantworten, dann bestärkend mit menschlichem Feedback.

Erklärung zur Folie

Drei Lernarten kennst du aus Teil 1: überwacht, unüberwacht, bestärkend. Hier kommen zwei dazu, und die sind für Sprachmodelle entscheidend.

Selbstüberwachtes Lernen: Das Modell bekommt einen Text, in dem ein Wort abgedeckt ist, und soll es raten. Die richtige Antwort steckt schon im Text, niemand muss etwas markieren. Deshalb kann man damit riesige Textmengen nutzen. Teilüberwachtes Lernen: Du hast zehntausend Belege, aber nur fünfhundert sind von Hand einer Kategorie zugeordnet. Das Modell lernt aus den fünfhundert und nutzt die Struktur der übrigen mit. Das ist im Unternehmen häufig, weil Beschriften teuer ist.

Rate selbst: Ein Onlineshop hat 50 Produktbewertungen als positiv oder negativ markiert und noch 20.000 unmarkierte. Welche Lernart? Teilüberwacht. Wenige mit Antwort, viele ohne.

Fall 1: COMPAS bewertet Angeklagte

Als höheres Risiko eingestuft, aber nicht rückfällig geworden:

Angeklagte Falsch-positiv-Rate
Schwarze Angeklagte 44,9 %
Weiße Angeklagte 23,5 %
  • Was: US-Software schätzt das Rückfallrisiko, gelernt aus früheren Fällen.
  • Prüfung: über 7.000 Fälle aus Broward County, Florida, zwei Jahre beobachtet.
  • Streit: Der Hersteller widerspricht. Je nach Fairnessmaß fällt das Urteil anders aus.

Quelle: ProPublica, „Machine Bias“, 23.05.2016.

Erklärung zur Folie

Jetzt kommen Fälle, an denen du siehst, was Lernen aus Daten in der Praxis anrichten kann. COMPAS ist eine Software, die in den USA in der Justiz eingesetzt wird. Sie schätzt, wie wahrscheinlich eine angeklagte Person wieder straffällig wird. Grundlage sind Daten aus früheren Fällen.

Die Journalistinnen und Journalisten von ProPublica haben 2016 über 7.000 Fälle aus einem Bezirk in Florida ausgewertet. Ihre Frage: Wer wurde als höheres Risiko eingestuft und ist dann doch nicht rückfällig geworden? Bei schwarzen Angeklagten waren das rund 45 Prozent, bei weißen rund 24 Prozent. Fast doppelt so oft.

Der Hersteller hat widersprochen. Fachleute haben gezeigt: Je nachdem, welches Fairnessmaß man nimmt, kommt man zu unterschiedlichen Urteilen, und mehrere Maße zugleich zu erfüllen, ist oft mathematisch nicht möglich. Ein Modell lernt die Muster aus den Daten, auch die schiefen. Wer so ein System einführt, muss vorher festlegen, was fair heißt. Mehr zu Bias in Teil 5.

Das KI-System im AI Act: fünf Bausteine

Verordnung (EU) 2024/1689, Art. 3 Nr. 1:

  • maschinengestützt: läuft auf Rechnern.
  • gewisse Autonomie: arbeitet ohne jeden Handgriff.
  • kann sich anpassen: „kann“, nicht „muss“.
  • leitet ab, wie es Ausgaben erzeugt: das Kernmerkmal.
  • wirkt auf physische oder virtuelle Umgebungen.

Einordnung, keine Rechtsberatung.

Erklärung zur Folie

In Teil 1 hattest du die Kurzfassung: Ein KI-System leitet aus Eingaben ab. Hier schaust du in den Gesetzestext, weil du als KI-Managerin oder KI-Manager mit genau diesem Artikel argumentieren wirst. Der AI Act ist die Verordnung (EU) 2024/1689. Artikel 3 enthält die Begriffe, Nummer 1 definiert das KI-System. Den Wortlaut findest du auf eur-lex.europa.eu, wenn du nach „2024/1689“ suchst.

Das System ist maschinengestützt, läuft also auf Rechnern. Es arbeitet mit einem gewissen Grad an Autonomie. Es kann nach der Inbetriebnahme anpassungsfähig sein. Das Wort „kann“ ist wichtig: Ein System, das nach dem Training nicht weiterlernt, ist trotzdem ein KI-System. Es leitet aus Eingaben ab, wie es Ausgaben erzeugt. Und diese Ausgaben können physische oder virtuelle Umgebungen beeinflussen.

Das ist eine Einordnung für deinen Überblick. Im echten Fall entscheidet die Rechtsabteilung. Einordnung, keine Rechtsberatung.

Und das Modell? Art. 3 Nr. 63 und 66

Nr. 63: KI-Modell mit allgemeinem Verwendungszweck

  • Mit großen Datenmengen trainiert, kann sehr viele Aufgaben, steckt in vielen Systemen.
  • Englisch: General Purpose AI, kurz GPAI.
  • GPT, Claude, Gemini, Llama.
  • Pflichten für Anbieter: Art. 53 ff., seit 02.08.2025.

Nr. 66: KI-System mit allgemeinem Verwendungszweck

  • Baut auf so einem Modell auf, für viele Zwecke nutzbar.
  • ChatGPT, Copilot.
  • Wer Systeme einsetzt, hat andere Pflichten.

„KI-Modell“ allein definiert Art. 3 nicht. Einordnung, keine Rechtsberatung.

Erklärung zur Folie

Hier liegt ein Punkt, den viele falsch erzählen. Der AI Act definiert das KI-Modell nicht allgemein. Er definiert eine bestimmte Sorte: in Nummer 63 das KI-Modell mit allgemeinem Verwendungszweck. Gemeint sind Modelle, die mit großen Datenmengen trainiert wurden, sehr viele verschiedene Aufgaben können und in viele Systeme eingebaut werden, etwa GPT, Claude, Gemini oder Llama. Nummer 66 definiert das KI-System, das auf so einem Modell aufbaut und für viele Zwecke nutzbar ist, etwa ChatGPT oder Copilot.

Warum ist das wichtig? Weil die Pflichten an unterschiedlichen Stellen hängen. Wer das Modell anbietet, hat Pflichten nach Artikel 53 und folgende, seit dem 2. August 2025. Dazu gehören eine technische Dokumentation und eine Zusammenfassung der Trainingsinhalte. Wer ein System im Unternehmen einsetzt, hat andere Pflichten. Die kommen in Teil 5.

Erinnerst du dich an Motor und Auto aus Teil 1? Der AI Act regelt beides, mit unterschiedlichen Regeln. Einordnung, keine Rechtsberatung.

Ein LLM sagt das nächste Token voraus

„Ein neuronales Netz ist“ … ein · Rechen · modell · aus · Schichten

  • Large Language Model: großes Sprachmodell, ein sehr tiefes neuronales Netz.
  • Selbstüberwacht vortrainiert auf riesigen Textmengen.
  • Token für Token: Jedes neue Stück hängt an alles an, was davor steht.

Achtung

Wahrscheinlich heißt nicht wahr.

Erklärung zur Folie

In Teil 1 hast du gelesen: Ein Sprachmodell sagt das nächste Wort voraus. Das war eine gute erste Näherung. Jetzt wird sie genauer.

Ein LLM, ein großes Sprachmodell, ist ein sehr tiefes neuronales Netz, zuerst selbstüberwacht auf riesigen Textmengen trainiert. Es erzeugt die Antwort Stück für Stück. „Ein neuronales Netz ist“, und dann? „ein“, „Rechen“, „modell“, „aus“, „Schichten“. Jedes neue Stück hängt an alles an, was vorher da war, dann kommt das nächste.

Schau genau hin: Die Stücke sind nicht immer ganze Wörter. „Rechen“ und „modell“ kamen einzeln. Diese Stücke heißen Token. Die Darstellung hier ist vereinfacht, aber das Prinzip stimmt.

Token: so zerlegt die KI deine Sprache

Vereinfacht: Die · Künd · igungs · frist · beträgt · drei · Monate · .

Begriff Was es für dich heißt
Kontextfenster Obergrenze an Token, die das Modell auf einmal überblickt
Was hineinpasst Systemanweisung, dein Dokument, bisheriges Gespräch, Antwort
Fenster voll Etwas fällt raus oder wird abgeschnitten.
Kosten Schnittstellen rechnen oft pro Token ab.
Deutsch braucht oft mehr Token als Englisch
Erklärung zur Folie

Ein Modell zerlegt Text in Token. Manche Wörter sind ein Token, andere zerfallen in mehrere Teile. Wie ein echtes Modell das macht, siehst du im Tokenizer von OpenAI unter platform.openai.com/tokenizer; lädt die Seite nicht, nimm tiktokenizer.vercel.app. Gib „Die Kündigungsfrist beträgt drei Monate.“ ein und danach „The notice period is three months.“ und vergleich die Anzahl. Englische Wörter werden oft als Ganzes erkannt, weil die Modelle mit sehr viel englischem Text trainiert wurden.

Warum dich das interessieren sollte: Jedes Modell hat ein Kontextfenster, eine Obergrenze an Token, die es gleichzeitig verarbeitet. Da passt alles rein, die Systemanweisung, dein Dokument, das bisherige Gespräch und die Antwort. Ist das Fenster voll, fällt etwas raus oder wird abgeschnitten. Und viele Anbieter rechnen bei der Nutzung über Schnittstellen pro Token ab.

Schätz vorher und prüf dann im Tokenizer: Kündigungsschutzklage, Donaudampfschifffahrtsgesellschaft, Landschaftsplanung und zum Vergleich „machine learning“. Lange zusammengesetzte deutsche Wörter zerfallen in viele Teile. Fachsprache kostet mehr Token als Alltagssprache, und bei langen Fachdokumenten ist das Kontextfenster schneller voll, als du denkst.

Der Transformer: jedes Token schaut auf alle anderen

  • „Die Bank am Fluss war nass.“ Hier achtet „Bank“ stark auf „Fluss“.
  • „Die Bank hat mir den Kredit verweigert.“ Jetzt achtet „Bank“ auf „Kredit“.
  • Gleiches Wort, andere Bedeutung. Das Fachwort dafür: Attention.
  • 2017 stellt ein Google-Team den Transformer vor: „Attention Is All You Need“.
  • Er verarbeitet Text beim Training parallel statt Wort für Wort.

Merk dir

Das T in GPT steht für Transformer.

Erklärung zur Folie

„Die Bank am Fluss war nass.“ Welche Bank ist gemeint? Die Sitzbank. Woher weißt du das? Vom Wort Fluss. Genau das macht der Transformer, die Bauart des neuronalen Netzes hinter den großen Sprachmodellen. Für jedes Token rechnet das Modell aus, wie stark es auf jedes andere Token im Text achten soll. Das heißt Attention, Aufmerksamkeit.

Im Satz „Die Bank hat mir den Kredit verweigert“ schaut „Bank“ dagegen auf „Kredit“. Gleiches Wort, andere Bedeutung, und das Modell erkennt es am Zusammenhang.

2017 hat ein Team von Google den Transformer in einem Fachartikel vorgestellt: „Attention Is All You Need“ von Vaswani und anderen. Der zweite Vorteil: Ältere Netze haben Text Wort für Wort nacheinander verarbeitet. Der Transformer verarbeitet beim Training alles gleichzeitig. Erst das hat Training mit so riesigen Datenmengen praktikabel gemacht.

Vom Modell zum Produkt

Modellfamilie System Was das System dazugibt
GPT-Modelle (OpenAI) ChatGPT Chatbot, Websuche, eigene GPTs
u. a. GPT-Modelle, eingebettet von Microsoft Microsoft 365 Copilot Zugriff auf deine Office-Daten
Claude-Modelle (Anthropic) Claude Chatbot, Projekte
Gemini-Modelle (Google) Gemini App, Gmail, Docs
Modelle verschiedener Anbieter zur Auswahl Perplexity, Langdock System drumherum, eigene Regeln

Nur Modellfamilien: Versionsnummern wechseln sehr schnell.

Erklärung zur Folie

Jetzt kannst du die vier Werkzeuge vom Anfang ordnen. Links stehen die Modellfamilien, in der Mitte die Systeme, die du bedienst. ChatGPT läuft auf GPT-Modellen von OpenAI. Copilot nutzt unter anderem Modelle von OpenAI, eingebettet von Microsoft und verbunden mit deinen Microsoft-365-Daten. Claude kommt von Anthropic, Gemini von Google.

Perplexity und Langdock funktionieren anders. Bei ihnen steht nicht ein eigenes großes Grundmodell im Mittelpunkt. Sie setzen Modelle verschiedener Anbieter ein und bauen ein System drumherum. Welche Modelle gerade auswählbar sind, siehst du in jedem Werkzeug selbst; Namen und Versionen wechseln schnell.

Damit erklärst du auch den Test vom Anfang: unterschiedliche Modelle, unterschiedliche Trainingsdaten, unterschiedliche Systemanweisungen, teils mit Websuche. Also unterschiedliche Antworten.

Welches Werkzeug wofür? Ein Entscheidungsbaum

  1. Dürfen die Daten das Haus verlassen? Nein: lokales Modell, etwa über Hugging Face, oder eine Firmenplattform.
  2. Brauchst du deine Mails, Dateien, Microsoft Teams? Ja: Microsoft 365 Copilot, es kennt deine Office-Daten.
  3. Brauchst du aktuelle Infos mit Quellen? Ja: Perplexity oder ein Chatbot mit Websuche.
  4. Sonst: die breiten Assistenten ChatGPT, Claude, Gemini.

Achtung

Vereinfacht. Welche Werkzeuge im Unternehmen erlaubt sind, entscheidet am Ende die Firma.

Erklärung zur Folie

Die Frage aus der Praxis lautet nie „Welches ist das beste Modell?“. Sie lautet: Welches Werkzeug passt zu dieser Aufgabe? Und dafür nimmst du, was du gerade gelernt hast: einen Entscheidungsbaum.

Die erste Frage trennt am meisten: Dürfen die Daten das Haus verlassen? Wenn nein, brauchst du ein lokales Modell oder eine Firmenplattform, die das garantiert. Wenn ja: Brauchst du deine Mails, Dateien und Besprechungen? Dann ist Copilot richtig, denn es darf auf die Microsoft-365-Daten zugreifen. ChatGPT kennt sie nicht. Wenn nein: Brauchst du aktuelle Informationen mit Quellen? Dann Perplexity oder ein Chatbot mit Websuche. Sonst reichen die breiten Assistenten.

Zum Ausprobieren, wenn du Copilot über ein Firmenkonto nutzt: Lass dir eine Datei zusammenfassen, auf die du Zugriff hast, und klick die Quellenverweise an. Stell dieselbe Frage in ChatGPT, und du siehst den Unterschied. Was dabei für den Datenschutz gilt, klärt Teil 6.

Offene Modelle: Hugging Face

  • Großes Verzeichnis offener Modelle, huggingface.co.
  • Viele zum Herunterladen, auch für den eigenen Server. Dann verlassen die Daten das Haus nicht.
  • Beispiel Geodaten: Prithvi-EO-2.0 von IBM, NASA und dem Jülich Supercomputing Centre. Ein Grundmodell für Satellitendaten, Lizenz Apache 2.0.

Achtung

Der Preis: Du brauchst Technik und Wissen. Kleine lokale Modelle sind meist schwächer als große Cloud-Modelle.

Erklärung zur Folie

Hugging Face ist ein großes Verzeichnis für offene Modelle. Viele davon kannst du herunterladen und auf dem eigenen Rechner oder Server betreiben. Dann verlassen die Daten das Haus nicht.

Ein Beispiel ist Prithvi, ein Grundmodell für Satellitendaten, gemeinsam entwickelt von IBM, der NASA und dem Jülich Supercomputing Centre, also mit deutscher Beteiligung. Es steht unter einer offenen Lizenz, Apache 2.0, und lässt sich zum Beispiel für Landbedeckung oder Flutflächen weitertrainieren. Die Modellseite findest du unter huggingface.co/ibm-nasa-geospatial. Schau dir dort Lizenz, Beschreibung und Downloads an. Unter huggingface.co/models kannst du nach „Text Generation“ filtern und siehst, wie viele offene Sprachmodelle es gibt.

Der Preis dafür: Du brauchst Technik und Wissen, und kleine lokale Modelle sind meist schwächer als die großen Cloud-Modelle. Lokal ist eine Option, wenn Daten sensibel sind. Keine Pflicht.

Welches Werkzeug nimmst du?

Aufgabe Lösung
Die letzte Besprechung in Microsoft Teams in fünf Punkten zusammenfassen Copilot, kennt die Daten, sofern freigegeben
Aktuelle Förderprogramme für Umweltprojekte finden, mit Quellen Perplexity, trotzdem anklicken
Vertrauliche Gutachtendaten auswerten, nichts darf raus lokales Modell oder freigegebene Firmenplattform
Einen Flyertext kürzer und lockerer machen ChatGPT, Claude, Gemini
Ein offenes Modell für Satellitenbilder suchen Hugging Face, Lizenz prüfen
Dieselbe Aufgabe mit drei Modellen in einer Oberfläche vergleichen Langdock
Erklärung zur Folie

Deck die rechte Spalte ab und rate zuerst selbst. Wende dabei den Baum von der vorletzten Folie an. Mehrere Antworten sind oft vertretbar, dann zählt deine Begründung.

Die Besprechung zusammenfassen kann Copilot, weil es die Daten aus Microsoft Teams kennt, sofern sie freigegeben sind. Für aktuelle Förderprogramme mit Quellen passt Perplexity; anklicken musst du die Quellen trotzdem. Vertrauliche Gutachtendaten gehören in ein lokales Modell oder eine freigegebene Firmenplattform.

Für den Flyertext reichen die breiten Assistenten, Firmendaten brauchst du dafür nicht. Ein offenes Modell für Satellitenbilder findest du auf Hugging Face, zum Beispiel Prithvi; prüf die Lizenz. Und wenn du dieselbe Aufgabe mit drei Modellen vergleichen willst, in einer Oberfläche, passt Langdock: mehrere Modelle, eine Firmenplattform.

Fall 2: Microsoft Tay lernt von Trollen

Tay auf Twitter
  1. 23.03.2016Start, soll aus Gesprächen lernen
  2. Wenige Stunden spätergezielte Angriffe
  3. Nach rund 16 Stundenabgeschaltet
  4. 25.03.2016öffentliche Entschuldigung

Merk dir

Wer ein System ungefiltert aus Nutzereingaben lernen lässt, gibt den Nutzern die Kontrolle über sein Verhalten.

Quelle: Microsoft Blog, „Learning from Tay’s introduction“, 25.03.2016.

Erklärung zur Folie

Am 23. März 2016 hat Microsoft einen Chatbot namens Tay auf Twitter gestartet. Tay sollte klingen wie eine junge Erwachsene und aus den Gesprächen mit Nutzern dazulernen.

Das haben einige Nutzer ausgenutzt. Sie haben Tay gezielt mit rassistischen und beleidigenden Inhalten gefüttert, und Tay hat das übernommen und wiedergegeben. Nach etwa sechzehn Stunden hat Microsoft Tay abgeschaltet, zwei Tage später kam eine öffentliche Entschuldigung im Firmenblog.

Erinnerst du dich an Teil 1? Ein Modell lernt in der Anwendung meist nicht weiter. Tay zeigt, warum man das so hält. Für deine Projekte heißt das: Lernt ein System aus Rückmeldungen, braucht es Filter, Grenzen und jemanden, der hinschaut.

Fall 3: Netflix empfiehlt, was du schaust

  • Laut Netflix entstanden 2015 rund 80 % der Sehstunden über Empfehlungen, der Rest über die Suche.
  • Mehrere Lernarten: Schauen und Abbrechen wirkt wie eine Markierung. Ähnliche Nutzende finden ist unüberwacht. Laufend ausprobieren ähnelt bestärkendem Lernen.
  • Kontrolliert getestet: Änderungen erst an einem Teil der Nutzenden messen, dann für alle ausrollen.

Quelle: Gomez-Uribe und Hunt, ACM TMIS, 2015. Angabe von Netflix selbst.

Erklärung zur Folie

Fall drei ist ein Erfolg. Wenn du Netflix öffnest, siehst du eine Startseite, die für dich zusammengestellt ist: welche Zeilen, welche Reihenfolge, welche Titel. Dahinter stecken mehrere Algorithmen, die aus dem Sehverhalten sehr vieler Menschen lernen.

Zwei Netflix-Manager haben 2015 in einem Fachartikel geschrieben: Rund achtzig Prozent der Sehstunden entstehen über Empfehlungen. Das ist eine Angabe von Netflix selbst, und sie ist schon einige Jahre alt. Rate vor dem Weiterlesen: Welche Lernart steckt drin? Mehrere. Was du anschaust, abbrichst oder bewertest, wirkt wie eine Markierung. Ähnliche Nutzende zu finden, ist unüberwacht. Und laufend auszuprobieren, was besser ankommt, hat viel mit bestärkendem Lernen gemeinsam.

Der Unterschied zu Tay: Netflix testet Änderungen kontrolliert an einem Teil der Nutzenden und misst, bevor etwas für alle ausgerollt wird. So solltest du KI im Unternehmen einführen.

Drei Fälle, drei Prüffragen

Fall Was schiefgehen kann Prüffrage
COMPAS schiefe Daten Wer wird falsch eingestuft, und trifft es bestimmte Menschen häufiger?
Tay ungefiltertes Lernen Wer kann das System in eine Richtung schieben?
Netflix kontrolliert getestet Woran siehst du, dass es wirklich etwas bringt?

Merk dir

Diese drei Fragen kannst du jedem KI-Projekt stellen.

Erklärung zur Folie

Aus den drei Fällen nimmst du drei Fragen mit, die du jedem KI-Projekt stellen kannst. Bei COMPAS: Wer wird falsch eingestuft, und trifft es bestimmte Menschen häufiger als andere? Bei Tay: Wer kann beeinflussen, wie sich das System verhält? Bei Netflix: Wie messen wir, ob es wirklich etwas bringt?

Nimm dir ein KI-Vorhaben, das dich gerade beschäftigt, im Job oder als Idee. Welche der drei Fragen musst du dort beantworten? Oft sind es alle drei, aber meist drängt sich eine besonders auf. Schreib sie dir auf, sie begleitet dich durch die nächsten Teile.

Dein Auftrag: vergleichen, zählen, zeichnen

  1. Modellvergleich: eine Aufgabe aus deinem Alltag, exakt derselbe Prompt an drei Werkzeuge. Bewerte 1 bis 5: Inhalt stimmt, Aufgabe erfüllt, Ergebnisform, Quellen echt, Ton.
  2. Tokenizer: Zähl die Token deiner Beispielsätze und zweier Fachwörter aus deinem Beruf.
  3. Entscheidungsbaum: eine Entscheidung, die du regelmäßig triffst, mindestens drei Ebenen, drei erfundene Testfälle.
  4. Kursbuch: Kapitel 3 in eigenen Worten, dazu die Begriffe im Glossar.

Merk dir

Nur erfundene oder anonymisierte Daten.

Erklärung zur Folie

Plan für den Modellvergleich etwa eine Stunde ein. Nimm eine Aufgabe aus deinem Arbeitsalltag, etwa ein Protokoll aus Stichpunkten, eine Stellenanzeige zusammenfassen oder eine Kundenmail beantworten, mit erfundenen Inhalten. Schreib einen Prompt mit Rolle, Ziel, Kontext und Ergebnisform wie in Teil 2 und gib ihn wortgleich an drei Werkzeuge. Notier, welches Modell lief, falls es angezeigt wird, und das Datum. Zum Schluss drei Sätze: Welches Werkzeug nimmst du für diese Aufgabe, und warum?

Für den Tokenizer nimm die beiden Sätze von der Token-Folie, „Kündigungsschutzklage“ und zwei Fachwörter aus deinem Beruf. Beantworte: Warum braucht Deutsch oft mehr Token, und was heißt das für Kosten und lange Dokumente? Beim Entscheidungsbaum schreibst du die drei bis fünf Fragen auf, die du dir stellst, und setzt die, die am meisten trennt, nach oben. Teste ihn mit drei erfundenen Fällen: Würdest du genauso entscheiden? Wo reicht der Baum nicht?

Ins Kursbuch gehören Algorithmus, Entscheidungsbaum, neuronales Netz, Gewichte, Deep Learning, die fünf Lernarten, die AI-Act-Begriffe, LLM, Transformer, Token, Kontextfenster und je ein Satz zu COMPAS, Tay und Netflix. Gleich deine Begriffe mit dem Glossar ab.

Prüf dich selbst

  1. Ein Mahnlauf nach festen Regeln: Ist das KI?

    Antwort

    Nein, ein klassischer Algorithmus. Jemand hat jede Regel aufgeschrieben.

  2. Welches Modell kann ein Mensch lesen?

    Antwort

    Den Entscheidungsbaum.

  3. Wo steckt das Gelernte in einem neuronalen Netz?

    Antwort

    In den Gewichten, verteilt über alle Parameter.

  4. Wie lernen Sprachmodelle zuerst, und wofür steht das T in GPT?

    Antwort

    Selbstüberwacht auf riesigen Textmengen. Das T steht für Transformer.

  5. Warum braucht Deutsch oft mehr Token als Englisch?

    Antwort

    Lange zusammengesetzte Wörter zerfallen in viele Teile.

  6. Die Daten dürfen das Haus nicht verlassen. Welches Werkzeug?

    Antwort

    Ein lokales Modell oder eine freigegebene Firmenplattform.

Erklärung zur Folie

Beantworte die Fragen zuerst ohne nachzuschauen, dann klapp die Antworten auf. Wenn du bei einer Frage unsicher warst, geh zur passenden Folie zurück.

Die fünf Gedanken, die du aus diesem Teil mitnimmst: Ein Algorithmus ist eine Vorschrift, ein Modell besteht aus gelernten Gewichten. Einen Entscheidungsbaum kannst du lesen, ein neuronales Netz kaum. Ein Sprachmodell ist ein Transformer, zerlegt Text in Token und wurde zuerst selbstüberwacht trainiert. Der AI Act unterscheidet Modell und System. Und das beste Werkzeug ist das, das zur Aufgabe passt. In Teil 4 geht es um Daten, denn wie COMPAS zeigt: Ein Modell ist nur so gut wie das, womit es gelernt hat.

Weiter im Kurs

Gezeichnetes Porträt von Erik Lorenscheit

ErikDir reicht Selbstlernen nicht? Dann lernst du das mit mir 1:1. Auf Wunsch bringe ich es auch Unternehmerinnen, Unternehmern und ganzen Teams bei. Schreib mir, was du brauchst.

Erstgespräch anfragen

Wohin darf ich dich bringen?