KI-Manager:in · Präsentation · Teil 1
Grundlagen der KI und Maschinelles Lernen
Folien zum KI-Manager-Lernpfad: die KI-Definition im AI Act, Modell und System, drei Lernarten, Training und Test, generative KI und Halluzinationen.
Ein Kurs von Erik Lorenscheit, Gründer von hilfmirmal · Zuletzt aktualisiert am
Weiter mit den Pfeiltasten oder durch Wischen
1 / 23
Teil 1 · Grundlagen der KI und Maschinelles Lernen
KI einsetzen heißt KI verantworten
ChatGPT, Claude, Gemini, Copilot: Über die Werkzeuge reden alle. Wer KI in einem Unternehmen einführt, muss mehr wissen. Was ist KI überhaupt, wie lernt eine Maschine, und wo liegt sie daneben?
- Begriffe
- Wie Maschinen lernen
- Grenzen und Praxis
hilfmirmal.de · KI-Manager:in
Erklärung zur Folie
Die Namen der Werkzeuge begegnen dir überall: ChatGPT, Claude, Gemini, Copilot, Mistral, DeepSeek. Die meisten Menschen reden darüber, wie man sie benutzt. Als KI-Managerin oder KI-Manager hast du einen anderen Job: Du führst KI in einem Unternehmen ein und stehst dafür gerade, wenn etwas schiefgeht.
Dafür brauchst du ein Fundament, und darum geht es in diesem Teil. Zuerst klärst du die Begriffe, die dir im ganzen Kurs begegnen. Dann schaust du dir an, wie eine Maschine überhaupt lernt. Zum Schluss kommen die Grenzen: Wo KI überzeugend falsch liegt und warum ein KI-Ergebnis immer ein Vorschlag ist, den jemand prüft.
Was ist Künstliche Intelligenz?
Ein KI-System leitet aus den Eingaben, die es erhält, ab, wie es Ausgaben erzeugt: Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen.
EU AI Act, Art. 3 Nr. 1, vereinfacht
Erklärung zur Folie
Es gibt keine einzige richtige Definition von KI. Aber es gibt eine, die für dich rechtlich zählt: die aus dem EU AI Act. Das Schlüsselwort ist „ableiten“. Ein KI-System bekommt Eingaben, etwa Texte, Mails, Bilder oder Zahlen, und leitet daraus selbst ab, was es ausgibt.
Die vier Arten von Ausgaben kennst du aus dem Alltag. Eine Vorhersage: der Umsatz im Dezember. Ein Inhalt: der Entwurf einer Kundenmail. Eine Empfehlung: „Das könnte dir gefallen.“ Eine Entscheidung: Kredit ja oder nein.
Ein Taschenrechner leitet nichts ab, er rechnet nach festen Regeln. Ein Spamfilter, der aus Beispielen gelernt hat, leitet ab. Wenn du später im Unternehmen klären musst, ob ein Werkzeug unter den AI Act fällt, fängst du genau hier an. Einordnung, keine Rechtsberatung.
Schwache KI und starke KI
Schwache KI: gibt es
- Kann eine Aufgabe, oft besser als wir.
- Schach: Deep Blue schlägt 1997 den Weltmeister.
- Gesichter erkennen, übersetzen, Texte fortsetzen.
Starke KI (AGI): gibt es nicht
- Würde allgemein denken, planen und verstehen wie ein Mensch.
- Erklärtes Ziel mehrerer KI-Firmen.
- Ob und wann sie kommt, ist unter Fachleuten umstritten.
Merk dir
Frag bei jedem Werkzeug: Welche eine Aufgabe soll es lösen?
Erklärung zur Folie
Alles, was es heute an KI gibt, ist schwache KI. Sie kann eine Sache: Schach spielen, Gesichter erkennen, übersetzen, Texte fortsetzen. Oft kann sie das besser als wir.
Starke KI würde allgemein denken, planen und verstehen wie ein Mensch. Fachleute nennen das AGI, Artificial General Intelligence. Mehrere KI-Firmen haben sie als Ziel ausgerufen. Ob und wann sie kommt, ist umstritten. Stand heute gibt es sie nicht.
ChatGPT wirkt allgemein, weil Sprache fast alles berührt. Technisch sagt es das nächste Wort voraus. Das ist eine sehr mächtige, aber eine einzige Fähigkeit. Für dich heißt das: Frag immer, welche eine Aufgabe ein Werkzeug lösen soll, und prüf, ob es genau die gut kann.
70 Jahre KI: Menschen und Meilensteine
| Jahr | Wer oder was | Was passiert |
|---|---|---|
| 1950 | Alan Turing | fragt „Können Maschinen denken?“ und erfindet den Turing-Test |
| 1956 | John McCarthy | Dartmouth-Konferenz: KI wird ein Forschungsfeld |
| 1997 | Deep Blue | schlägt Kasparow, mit Rechenkraft und Regeln, ohne Lernen |
| 2012 | Geoffrey Hinton und Team | Deep Learning erkennt Bilder, Nobelpreis 2024 |
| 2017 | Transformer | Google-Forschende legen die Grundlage heutiger Sprachmodelle |
| 2022 | ChatGPT | geschätzt 100 Millionen Nutzende in zwei Monaten |
Erklärung zur Folie
KI ist nicht neu. 1950 fragte Alan Turing, ob Maschinen denken können. Sein Vorschlag, der Turing-Test: Wenn du im Gespräch nicht merkst, ob du mit Mensch oder Maschine schreibst, ist die Maschine intelligent genug. Den Begriff „Künstliche Intelligenz“ prägte John McCarthy 1955 im Antrag für eine Sommerkonferenz in Dartmouth, die 1956 stattfand. Seitdem ist KI ein eigenes Forschungsfeld.
Lange versuchte man, Intelligenz mit Regeln zu bauen. Deep Blue von IBM schlug 1997 den Schachweltmeister Garri Kasparow, mit Rechenkraft und Regeln, nicht mit Lernen. Der Bruch kam 2012: Das Team um Geoffrey Hinton zeigte, dass tiefe neuronale Netze Bilder erkennen, wenn sie genug Beispiele sehen. Hinton bekam dafür 2024 den Nobelpreis.
2017 legten Google-Forschende mit dem Transformer die Grundlage heutiger Sprachmodelle. 2022 kam ChatGPT und erreichte geschätzt 100 Millionen Nutzende in zwei Monaten. Was dir heute neu vorkommt, steht also auf 70 Jahren Forschung.
Klassische Software oder KI-System?
Klassische Software
- Macht genau, was programmiert wurde.
- 19 % Mehrwertsteuer auf 100 Euro sind immer 19 Euro.
- Gleiche Eingabe, gleiches Ergebnis.
KI-System
- Hat aus Daten gelernt und leitet ab.
- Zweimal dieselbe Frage, zwei verschiedene Antworten.
- Das ist kein Fehler, das ist eingebaut.
Merk dir
Ein KI-Ergebnis ist ein Vorschlag, den jemand prüft.
Erklärung zur Folie
Klassische Software macht genau, was jemand programmiert hat. 19 % Mehrwertsteuer auf 100 Euro sind heute, im nächsten Monat und in zehn Jahren 19 Euro. Das ist berechenbar und nachprüfbar.
Ein KI-System hat aus Daten gelernt und leitet ab. Probier es aus: Stell einem Chatbot zweimal dieselbe Frage in zwei neuen Fenstern. Du bekommst zwei verschiedene Antworten. Das ist kein Fehler, das ist eingebaut, denn das Modell wählt jedes Wort mit einer gewissen Wahrscheinlichkeit.
Für deine Arbeit heißt das: Ein KI-Ergebnis ist ein Vorschlag. Jemand prüft ihn, bevor er an eine Kundin, einen Kunden oder in eine Entscheidung geht.
KI oder feste Regel?
| Beispiel | Lösung | Warum |
|---|---|---|
| Spamfilter | KI | hat aus Millionen markierter Mails gelernt |
| Taschenrechner | Regel | feste Formeln, nichts wird abgeleitet |
| Empfehlungen im Streamingdienst | KI | lernt aus dem, was du und andere schauen |
| Ampel mit fester Zeitschaltung | Regel | schaltet nach Uhr, auch wenn keiner kommt |
| Handy per Gesicht entsperren | KI | erkennt dich auch mit Brille oder Mütze |
| Excel-Formel: ab 100 Euro Rabatt | Regel | jemand hat die Bedingung geschrieben |
Merk dir
Hat jemand die Regel aufgeschrieben, ist es keine KI. Hat das System sie aus Beispielen gelernt, ist es KI.
Erklärung zur Folie
Deck die Spalten „Lösung“ und „Warum“ mit der Hand ab und rate zuerst selbst. Sechs Dinge aus dem Alltag, und bei jedem stellst du dieselbe Frage: Hat jemand die Regel aufgeschrieben, oder hat das System sie gelernt?
Der Spamfilter hat aus Millionen markierter Mails gelernt. Der Taschenrechner rechnet nach festen Formeln. Die Empfehlungen im Streamingdienst lernen aus dem, was du und andere schauen. Die Ampel mit Zeitschaltung schaltet nach Uhr, auch nachts ohne Verkehr. Die Gesichtserkennung erkennt dich auch mit Brille. Die Rabattformel in Excel hat jemand geschrieben.
Diese Faustregel brauchst du ständig. Viele Produkte nennen sich KI, obwohl dahinter nur Regeln stecken. Das ist nicht schlecht, Regeln sind billig und nachvollziehbar. Aber du solltest wissen, was du kaufst.
Das Modell ist der Motor, das System das Auto
| Modell (Motor) | System (Auto) | Was das System dazugibt |
|---|---|---|
| GPT-Modelle von OpenAI | ChatGPT | Chat, Websuche, Dateien, Filter |
| Claude-Modelle von Anthropic | Claude | Chat, Projekte, Dateien |
| Gemini-Modelle von Google | Gemini-App | auch in Gmail und Docs |
| zugekauft, u. a. von OpenAI | Microsoft 365 Copilot | in Teams, Word, Outlook |
Der AI Act regelt vor allem Systeme: das, was im Unternehmen tatsächlich läuft.
Erklärung zur Folie
Stell dir einen Motor und ein Auto vor. Das Modell ist der Motor. Das System ist das ganze Auto: Motor, Lenkrad, Bremsen, Navi. Die GPT-Modelle von OpenAI sind der Motor, ChatGPT ist das Auto. Es packt das Modell in eine Oberfläche und fügt Websuche, Dateiupload und Sicherheitsfilter hinzu.
Bei Anthropic ist es dasselbe: Claude-Modelle in der Claude-App. Google baut die Gemini-Modelle und steckt sie in die Gemini-App, aber auch in Gmail und Google Docs. Microsoft baut Copilot vor allem auf Modelle, die es zukauft, unter anderem von OpenAI. Copilot ist das Auto, das Microsoft in Teams, Word und Outlook fährt.
Warum ist der Unterschied wichtig? Der AI Act regelt vor allem Systeme, also das, was im Unternehmen tatsächlich läuft. Und wenn jemand sagt „Wir nutzen GPT“, fragst du nach: in welchem Auto, mit welchen Einstellungen, über welches Konto?
Wer baut die Motoren?
| Region | Anbieter | Bekannt für |
|---|---|---|
| USA | OpenAI, Anthropic, Google, Microsoft | ChatGPT, Claude, Gemini, Copilot |
| USA | Meta | Llama-Modelle mit offenen Gewichten |
| Europa | Mistral AI (Paris) | Le Chat |
| Europa | DeepL (Köln) | Übersetzen |
| Europa | Aleph Alpha (Heidelberg) | KI für Unternehmen und Behörden |
| Europa | Black Forest Labs (Freiburg) | Bildmodelle FLUX |
| China | DeepSeek, Alibaba (Qwen) | stark und oft günstig |
Auswahl, Stand September 2026.
Erklärung zur Folie
Die meisten großen Anbieter sitzen in den USA: OpenAI, Anthropic, Google, Microsoft und Meta. Meta veröffentlicht seine Llama-Modelle mit offenen Gewichten. Die kann ein Unternehmen auch auf eigenen Servern betreiben.
Europa ist kleiner, aber da: Mistral aus Paris mit dem Chat „Le Chat“, DeepL aus Köln für Übersetzungen, Aleph Alpha aus Heidelberg für Unternehmen und Behörden und Black Forest Labs aus Freiburg mit den Bildmodellen FLUX. Aus China kommen DeepSeek und die Qwen-Modelle von Alibaba. Beide sind stark und oft günstig.
Überleg dir: Du führst KI in einem deutschen Unternehmen ein. Mit welchem Anbieter sprichst du zuerst, und warum? Wo die Daten verarbeitet werden, ist dabei eine der wichtigsten Fragen. Darum geht es ausführlich in Teil 6.
Regeln schreiben oder aus Beispielen lernen
Regeln schreiben
- „Wenn ‚Gewinn‘ drinsteht, ist es Spam.“
- Spammer schreiben dann „G3winn“.
- Du schreibst die nächste Regel. Das hört nie auf.
Aus Beispielen lernen
- 10.000 Mails, jede markiert: Spam oder nicht.
- Der Computer sucht die Muster selbst.
- Er erkennt auch „G3winn“.
Regeln sind nachvollziehbar und billig. Lernen ist flexibel, braucht aber Daten und ist schwerer zu erklären.
Erklärung zur Folie
Stell dir vor, du baust einen Spamfilter. Der erste Weg sind Regeln: Wenn „Gewinn“ drinsteht, ist es Spam. Das Problem: Die Spammer schreiben dann „G3winn“ oder „Dein Preis wartet“. Du schreibst die nächste Regel, und das hört nie auf.
Der zweite Weg: Du gibst dem Computer zehntausend Mails, jede markiert mit „Spam“ oder „kein Spam“. Er sucht die Muster selbst und erkennt auch Varianten, die nie jemand aufgeschrieben hat. Das ist Maschinelles Lernen.
Beides hat seinen Platz. Regeln sind nachvollziehbar und billig. Lernen ist flexibel, braucht aber Daten und ist schwerer zu erklären. Diese Abwägung triffst du im Unternehmen immer wieder.
Maschinelles Lernen in einem Satz
Aus Beispielen ein Muster lernen und es auf neue Fälle anwenden.
Beispiel: 1.000 verkaufte Wohnungen mit Fläche und Preis. Das Modell lernt den Zusammenhang und schätzt den Preis einer neuen Wohnung mit 85 Quadratmetern.
Erklärung zur Folie
Das ist der Kern von allem, was in diesem Kurs noch kommt: Beispiele rein, Muster raus, Muster auf neue Fälle anwenden.
Stell dir 1.000 verkaufte Wohnungen vor, jede mit Fläche und Preis, als Punkte in einem Diagramm. Das Modell lernt den Zusammenhang, eine Linie durch die Punktewolke. Kommt eine neue Wohnung mit 85 Quadratmetern, schaut das Modell auf die Linie und schätzt den Preis.
Wichtig: Das Modell weiß nicht, was eine Wohnung ist. Es kennt nur Zusammenhänge in Zahlen. Wenn die Beispiele schief sind, ist auch das Muster schief. Darauf kommt es bei allem an, was noch folgt.
Drei Arten zu lernen
| Lernart | Wie | Beispiele |
|---|---|---|
| Überwacht | Beispiele mit richtiger Antwort, das Modell lernt die Grenze | Spam, Preisschätzung, Kündigungsrisiko |
| Unüberwacht | nur Daten, das Modell findet selbst Gruppen | Kundensegmente, Auffälligkeiten |
| Bestärkend | ausprobieren, Belohnung oder Strafe | Schach, Roboter, Feinschliff von ChatGPT |
Merk dir
Im Unternehmen ist überwachtes Lernen der häufigste Fall.
Erklärung zur Folie
Beim überwachten Lernen steckt die richtige Antwort in den Daten: Diese Mail ist Spam, jene nicht. Das Modell lernt die Grenze dazwischen. Das ist im Unternehmen der häufigste Fall, etwa beim Kündigungsrisiko oder bei Preisschätzungen.
Beim unüberwachten Lernen gibt es keine Antworten, nur Daten. Das Modell findet selbst Gruppen, zum Beispiel Kundensegmente, die niemand vorher definiert hat, oder Auffälligkeiten in Maschinendaten.
Beim bestärkenden Lernen probiert das System etwas aus, bekommt Belohnung oder Strafe und wird besser. So lernen Spielprogramme und Roboter. Auch ChatGPT wurde zum Schluss so feinjustiert, mit Rückmeldungen von Menschen.
Welche Lernart steckt dahinter?
| Fall | Lösung |
|---|---|
| Kreditkartenbetrug erkennen, gelernt aus bekannten Betrugsfällen | überwacht |
| Kundengruppen im Onlineshop finden, die keiner vorgegeben hat | unüberwacht |
| Ein Roboter lernt laufen, fällt hin, steht auf | bestärkend |
| Umsatz für Dezember vorhersagen | überwacht |
| Auffällige Maschinendaten entdecken, ohne Beispiele für Defekte | unüberwacht |
Erklärung zur Folie
Rate zuerst selbst, dann schau in die rechte Spalte.
Beim Kreditkartenbetrug ist jeder alte Fall markiert, Betrug oder nicht: überwacht. Bei den Kundengruppen gibt es keine Antworten in den Daten, das Modell sucht selbst: unüberwacht. Der Roboter bekommt für jeden Schritt ohne Sturz eine Belohnung: bestärkend.
Beim Umsatz für Dezember sind die echten Umsätze der Vorjahre die richtigen Antworten: überwacht. Und bei den Maschinendaten gibt es keine Beispiele für Defekte, das Modell sucht nach allem, was vom Normalen abweicht: unüberwacht.
Training und Anwendung sind zwei Phasen
- Trainingetwa 80 % der Daten
- Test20 % zurückgehalten
- AnwendungFachwort Inferenz
- Training: Das Modell übt, wie mit Übungsaufgaben.
- Test: eine Klausur mit Aufgaben, die es nie gesehen hat.
- Anwendung: neue, echte Fälle. Dabei lernt das Modell meist nicht weiter.
Erklärung zur Folie
Es ist wie in der Schule. Du teilst deine Daten. Mit dem größten Teil übt das Modell, das ist das Training. Den Rest hältst du zurück: Das ist die Klausur mit Aufgaben, die das Modell noch nie gesehen hat, die Testdaten. Besteht es die Klausur, geht es in die Anwendung. Das Fachwort dafür ist Inferenz.
Ein Punkt überrascht Unternehmen oft: In der Anwendung lernt ein Modell meist nicht einfach weiter. ChatGPT lernt nicht aus deinem Gespräch dazu, außer der Anbieter trainiert später mit deinen Eingaben.
Das ist eine Datenschutzfrage. Welche Einstellungen und welches Konto dafür sorgen, dass deine Eingaben nicht ins Training gehen, klärt Teil 6.
Auswendiglernen ist kein Verstehen
- Ein Bilderkennungsmodell sagt: „Wolf, 97 Prozent sicher.“ Richtig.
- Dann bekommt es einen Husky. Wieder: „Wolf.“
- Forschende haben 2016 genau das gezeigt: Das Modell hatte auf den Schnee geachtet, nicht auf das Tier.
- Im Test mit ähnlichen Bildern fällt das nicht auf, im echten Einsatz schon.
Achtung
Frag immer: Womit wurde getestet, und sieht der echte Einsatz genauso aus?
Erklärung zur Folie
Ein Bilderkennungsmodell sagt: Das ist ein Wolf, 97 Prozent sicher. Richtig. Aber warum ist es so sicher? Zeig ihm einen Husky, und es sagt wieder: Wolf.
Forschende haben 2016 genau das gezeigt. Sie haben absichtlich ein Modell mit Wolfsbildern im Schnee und Huskybildern ohne Schnee trainiert. Dann prüften sie, worauf es achtet: auf den Schnee. Das Modell hat nicht „Wolf“ gelernt, sondern „Schnee“. Im Test mit ähnlichen Bildern fällt das nicht auf, im echten Einsatz schon.
Fachleute sprechen von Overfitting oder allgemeiner davon, dass das Modell die falschen Muster lernt. Als KI-Managerin oder KI-Manager stellst du deshalb immer dieselbe Frage: Womit wurde getestet, und sieht der echte Einsatz genauso aus?
Zum Ausprobieren: Erkennt eine KI deine Zeichnungen?
- Öffne
quickdraw.(deutsch: „Flugs gezeichnet“).withgoogle. com - Du bekommst einen Begriff und zeichnest ihn in 20 Sekunden.
- Eine KI schaut zu und rät laut mit.
- Zähl, wie viele von sechs Begriffen sie erkannt hat.
Achtung
Deine Zeichnungen landen in einer öffentlichen Datenbank von Google. Die Startseite sagt das auch.
Erklärung zur Folie
Das Spiel „Quick, Draw!“ von Google zeigt sehr anschaulich, was Maschinelles Lernen kann. Du bekommst einen Begriff, zeichnest ihn in zwanzig Sekunden, und eine KI rät mit. Eine Runde dauert etwa sechs Minuten.
Achte danach auf die Begriffe, bei denen die KI danebenlag. Wie hattest du sie gezeichnet? Meist ist es eine ungewöhnliche Perspektive oder ein Detail, das andere weglassen. Die KI hat aus über 50 Millionen Zeichnungen von Menschen gelernt, wie die meisten einen Begriff zeichnen. Was davon abweicht, erkennt sie schlechter.
Ein Hinweis, der genau zum Thema passt: Deine Zeichnungen landen in einer öffentlichen Datenbank von Google. Wenn du das nicht möchtest, lässt du das Spiel aus. Es ist ein gutes Beispiel dafür, wie Trainingsdaten entstehen.
Generative KI und der Prompt
- Ein Sprachmodell schreibt Wort für Wort: Jedes mögliche nächste Wort bekommt eine Wahrscheinlichkeit.
- „Heute ist das Wetter …“: schön 38 %, gut 22 %, schlecht 14 % (Beispielwerte).
- Generative KI erzeugt auch Bilder, Stimmen, Musik und Videos.
- Was du eingibst, heißt Prompt. Je klarer der Prompt, desto besser das Ergebnis.
Achtung
Flüssig heißt nicht richtig. Das Modell optimiert Wahrscheinlichkeit, nicht Wahrheit.
Erklärung zur Folie
Ein Sprachmodell macht etwas, das du selbst kennst: Es ergänzt das wahrscheinlichste nächste Wort. Jedes mögliche Wort bekommt eine Wahrscheinlichkeit. Das Modell wählt eins, hängt es an und rechnet neu. Wort für Wort, mit Milliarden Texten im Rücken. So entstehen ganze Absätze.
Generative KI erzeugt nicht nur Text, sondern auch Bilder (etwa Midjourney, FLUX, GPT Image), Stimmen und Musik (ElevenLabs, Suno) und Videos (Sora, Veo, Runway). Was du eingibst, heißt Prompt. Wie du gute Prompts baust, zeigt Teil 2.
Merk dir einen Satz für den ganzen Kurs: Flüssig heißt nicht richtig. Das Modell optimiert Wahrscheinlichkeit, nicht Wahrheit.
Zum Ausprobieren: ein Bild für dein Kursbuch
Ein guter Bild-Prompt hat vier Bausteine:
- Was ist zu sehen?
- Wie sieht es aus (Stil)?
- Welche Farben?
- Wofür ist es (Format, Zweck)?
Merk dir
Keine echten Personen, keine fremden Logos. Notier, womit das Bild erstellt wurde.
Erklärung zur Folie
Leg dir ein KI-Kursbuch an, ein eigenes Dokument, in das du nach jedem Lerntag schreibst, was du gelernt und ausprobiert hast. Aufs Deckblatt gehört ein Bild, und das machst du selbst mit generativer KI, etwa mit Copilot, ChatGPT oder Gemini.
Nutze die vier Bausteine: was zu sehen ist, wie es aussieht, welche Farben, wofür es ist. Drei Regeln gelten dabei. Keine echten Personen. Keine fremden Logos. Und im Kursbuch notierst du, womit das Bild erstellt wurde. Warum das wichtig ist, klärt Teil 5 beim Urheberrecht.
Probier denselben Prompt ruhig zweimal. Kommt dasselbe Bild heraus? Nein. Genau das ist der Unterschied zu klassischer Software.
Was KI nicht kann
- Halluzination: erfindet Fakten mit voller Überzeugung.
- Wissensstand: endet beim Training, außer das Werkzeug sucht im Netz.
- Verantwortung: hat keine. Die liegt beim Unternehmen.
- Bedeutung: rechnet mit Mustern, versteht nicht.
Echter Fall, New York 2023: Ein Schriftsatz vor Gericht enthält sechs Urteile, die ChatGPT erfunden hat. Das Gericht verhängt 5.000 US-Dollar Strafe.
Erklärung zur Folie
Ein echter Fall aus New York, 2023: Vor einem Gericht landet ein Schriftsatz mit sechs Gerichtsurteilen, die ChatGPT geliefert hat. Mit Fallnamen, Aktenzeichen und Zitaten. Alles klingt plausibel, keins davon gibt es. Das Gericht verhängt eine Strafe von 5.000 US-Dollar, und der Fall geht um die Welt.
Das nennt man Halluzination: Das Modell erfindet etwas Plausibles, weil es plausibel klingen soll. Sein Wissen endet außerdem beim Training, außer es sucht im Netz. Und es trägt keine Verantwortung. Geht ein falsches KI-Ergebnis an einen Kunden, haftet das Unternehmen.
Probier es selbst: Frag einen Chatbot nach einer wissenschaftlichen Quelle zu einem kleinen, speziellen Thema und prüf, ob es die Quelle wirklich gibt.
Ein Chatbot ist keine Suchmaschine
Suchmaschine
- Findet Seiten, die es gibt.
- Du klickst und liest die Quelle selbst.
Chatbot
- Schreibt einen neuen Text, der klingt, als wäre er belegt.
- Mit Websuche verlinken viele Chatbots Quellen. Anklicken und nachlesen musst du trotzdem.
Merk dir
Öffne die Quelle und prüf, ob dort wirklich steht, was der Chatbot behauptet.
Erklärung zur Folie
Eine Suchmaschine zeigt dir Seiten, die es gibt. Du klickst und liest die Quelle selbst. Ein Chatbot schreibt dir einen neuen Text, der so klingt, als stamme er aus Quellen. Manchmal stimmt das, manchmal nicht. Woher sollst du das wissen, ohne nachzusehen?
Perplexity und viele Chatbots mit Websuche verlinken inzwischen ihre Quellen. Das ist besser. Aber auch dann gilt: Klick die Quelle an und schau, ob dort wirklich steht, was der Chatbot behauptet.
Das ist eine der wichtigsten Gewohnheiten für deine Arbeit mit KI. Wer sie hat, fällt auf erfundene Zahlen und Urteile nicht herein.
KI in deutschen Unternehmen
| Kennzahl | Wert |
|---|---|
| Unternehmen mit KI 2023 | 12 % |
| Unternehmen mit KI 2024 | 20 % |
| Unternehmen mit KI 2025 | 26 % |
| große Unternehmen (ab 250 Beschäftigten) | 57 % |
| kleine Unternehmen | 23 % |
| Nicht-Nutzer, die fehlendes Wissen nennen | 72 % |
Quelle: Statistisches Bundesamt (Destatis), Unternehmen ab 10 Beschäftigten, Stand 24.11.2025.
Erklärung zur Folie
Wie verbreitet ist KI in Deutschland? Das Statistische Bundesamt fragt das jedes Jahr bei Unternehmen ab zehn Beschäftigten ab. 2023 nutzten 12 % KI, 2024 waren es 20 %, 2025 ein gutes Viertel mit 26 %. Bei großen Unternehmen ist es mehr als die Hälfte, bei kleinen knapp ein Viertel.
Am häufigsten werden Texte ausgewertet und Texte, Bilder oder Audio erzeugt, danach kommt Spracherkennung.
Und warum nutzen drei Viertel noch keine KI? Der wichtigste Grund, genannt von 72 % der Nicht-Nutzer: fehlendes Wissen. Danach kommen unklare Rechtslage und Datenschutzbedenken. Genau da kommst du ins Spiel. Unternehmen brauchen Menschen, die KI verstehen und sicher einführen.
Dein Auftrag: Wo steckt KI in deinem Alltag?
- Finde drei Stellen, an denen du heute schon KI nutzt, auch versteckt: Postfach, Handy, Navi, Onlineshop, Übersetzer.
- Nenn eine Aufgabe aus deinem Job, bei der KI helfen könnte.
- Nenn eine Aufgabe, die du keiner KI geben würdest, und warum nicht.
- Prüf bei jedem Beispiel: Ist das KI oder eine feste Regel? Welche Lernart steckt dahinter?
Erklärung zur Folie
Nimm dir fünf Minuten und schreib die Antworten in dein Kursbuch. Bei der ersten Frage hilft ein Blick aufs Handy: Gesichtserkennung, Fotosortierung, Autokorrektur, Navigation mit Stauprognose. Vieles davon ist KI, ohne dass es so heißt.
Bei der zweiten Frage denk an die Aufgabe, die dich im Job am meisten Zeit kostet. Muss dort viel gelesen, sortiert oder formuliert werden, ist sie ein guter Kandidat.
Die dritte Frage ist die wichtigste. Wer weiß, wo KI nicht hingehört, setzt sie dort ein, wo sie wirklich hilft. Wenn du magst, trainier danach selbst ein kleines Modell mit teachablemachine.: zwei Klassen, etwa Daumen hoch und Daumen runter, ein paar Dutzend Bilder je Klasse. Dann wechsel den Hintergrund und schau, wie die Sicherheit fällt. Das ist das Schnee-Problem, live.
Prüf dich selbst
Was ist das Schlüsselwort der KI-Definition im AI Act?
Antwort
Ableiten. Ein KI-System leitet aus Eingaben ab, wie es Ausgaben erzeugt.
Welche drei Lernarten gibt es?
Antwort
Überwacht, unüberwacht und bestärkend.
ChatGPT: Modell oder System?
Antwort
System. GPT ist das Modell, der Motor.
Was hat das Wolf-Modell wirklich gelernt?
Antwort
Schnee. Es hat auf den Hintergrund geachtet, nicht auf das Tier.
Wozu hält man Testdaten zurück?
Antwort
Um mit Fällen zu prüfen, die das Modell nie gesehen hat.
Was ist eine Halluzination?
Antwort
Erfundene Fakten, überzeugend formuliert.
Erklärung zur Folie
Beantworte die Fragen zuerst ohne nachzuschauen, dann klapp die Antworten auf. Wenn du bei einer Frage unsicher warst, geh zur passenden Folie zurück.
Die vier Gedanken, die du aus diesem Teil mitnimmst: KI leitet ab, klassische Software rechnet nach Regeln. Das Modell ist der Motor, das System das Auto. Ob ein Modell taugt, zeigen Daten, die es nicht kennt; denk an den Husky. Und KI-Ergebnisse werden immer geprüft.
Weiter im Kurs
- LernpfadLerntage zum Nachklicken1 · Grundlagen der KI und Maschinelles Lernen
- GlossarKI-Glossar mit 93 Begriffen
- Nächster TeilTeil 2: KI in Branchen, Prompts und Agenten
ErikDir reicht Selbstlernen nicht? Dann lernst du das mit mir 1:1. Auf Wunsch bringe ich es auch Unternehmerinnen, Unternehmern und ganzen Teams bei. Schreib mir, was du brauchst.
Erstgespräch anfragen