Ethik, Bias und der EU AI Act

Deck die Spalten „Ampel“ und „Warum“ ab und entscheide selbst: grün heißt unbedenklich, gelb heißt kommt drauf an, rot heißt so nicht. Hier gibt es kein richtig oder falsch, nur Begründungen. Wenn du anders entschieden hast, formulier in einem Satz, warum.

Zum Onlineshop: Seit Mai 2022 müssen Onlineshops in der EU angeben, wenn ein Preis auf Basis automatisierter Entscheidungen personalisiert wurde (Richtlinie (EU) 2019/2161). Erlaubt ist es also. Fair ist es deshalb noch nicht.

Merk dir vor allem eins: Die spannenden Fälle sind gelb. Genau dort braucht es jemanden, der entscheidet und das begründet. Das bist im Unternehmen oft du.

Woran misst die EU, ob KI in Ordnung ist? An der Charta der Grundrechte der Europäischen Union. Für KI sind vor allem diese fünf Artikel wichtig: die Würde des Menschen, das Privatleben und der Schutz persönlicher Daten, die Meinungs- und Informationsfreiheit und die Gleichheit von Frauen und Männern.

Und dann Artikel 21, das Verbot von Diskriminierung, zum Beispiel wegen Geschlecht, Herkunft, Religion, Behinderung oder Alter. Merk dir Artikel 21. Er begegnet dir in diesem Teil noch öfter.

Wenn du später fragst, warum ein KI-System verboten oder streng reguliert ist, lautet die Antwort fast immer: weil es eines dieser Rechte gefährdet.

2019 hat ein Gremium von Fachleuten im Auftrag der EU-Kommission Leitlinien für vertrauenswürdige KI geschrieben. Die Abkürzung ist HLEG, High-Level Expert Group on AI. Der Kern: KI soll rechtmäßig sein, ethisch und robust. Daraus folgen die sieben Anforderungen.

Überleg kurz, bevor du weiterliest: Welche der sieben ist in deinem Betrieb am schwersten einzuhalten? In der Praxis ist es meistens die siebte, die Rechenschaft. Wenn etwas schiefgeht, will keiner zuständig gewesen sein.

Die Leitlinien sind kein Gesetz. Viele Ideen daraus stecken heute aber im AI Act, etwa die menschliche Aufsicht und die Transparenz.

Bias heißt Verzerrung, und das wichtige Wort ist systematisch. Stell dir zwei Zielscheiben vor. Auf der ersten liegen die Treffer mal hier, mal da: Das ist ein zufälliger Fehler. Auf der zweiten liegen alle Treffer daneben, aber immer an derselben Stelle: Das ist Bias.

Woher kommt er? Aus fehlenden Daten: Eine Gesichtserkennung, die kaum Gesichter mit dunkler Haut gesehen hat, erkennt sie schlechter. Aus alten Mustern: Hat eine Firma zwanzig Jahre lang vor allem Männer befördert, lernt ein System, dass Männer befördert werden. Aus dem, was gemessen wird: Wer Leistung an Stunden im Büro misst, benachteiligt Teilzeitkräfte. Und aus uns selbst: Gibt eine Maschine eine Zahl aus, glauben wir der Zahl schneller als einer Kollegin. Das heißt Automation Bias.

In Teil 4 ging es darum, ob Daten stimmen. Hier geht es darum, ob sie fair sind. Das ist nicht dasselbe.

Rate zuerst selbst, dann schau in die rechte Spalte. Sechs Fälle, vier Bias-Arten.

Beim Sächsisch war im Training wenig Dialekt: Datenbias. Bei den Beförderungen werden alte Entscheidungen fortgeschrieben: historischer Bias. Viele Mails heißen nicht gute Arbeit: Messbias. Wer die Akte nicht öffnet, glaubt der Maschine: Automation Bias. Bei der Ausgleichsfläche wird gezählt, was leicht zu zählen ist: wieder Messbias. Und bei der Gebäudeerkennung kam das Land im Training kaum vor: Datenbias.

Du siehst: Bias ist kein Spezialproblem von Tech-Konzernen. Er steckt in jeder Tabelle, die du einer KI gibst.

COMPAS kennst du aus Teil 3. Die Software gibt US-Gerichten eine Einschätzung, wie wahrscheinlich ein Angeklagter wieder straffällig wird. Die Journalisten von ProPublica haben 2016 Tausende Fälle aus Florida ausgewertet. Von den Schwarzen, die später nicht rückfällig wurden, hatte die Software fast 45 % fälschlich als hohes Risiko eingestuft, von den Weißen knapp 24 %. Beim umgekehrten Fehler war es andersherum.

Der Hersteller hat geantwortet: Wer bei uns „hohes Risiko“ bekam, wurde in beiden Fällen etwa gleich oft rückfällig. Unsere Treffsicherheit ist gleich. Und das Verrückte: Beide rechnen richtig. Es gibt verschiedene Definitionen von Fairness, etwa gleiche Trefferquote oder gleiche Fehlerquote. Ist die Ausgangslage unterschiedlich, lassen sich nicht alle gleichzeitig erfüllen.

Fairness ist also keine Einstellung in der Software. Ein Mensch muss entscheiden, welche Art von Fairness gelten soll, und das begründen.

Gib einem Chatbot viermal dasselbe Profil. Es ändert sich immer nur eine Sache: Geschlecht, Herkunft oder Alter. Öffne für jede Variante eine neue Unterhaltung, sonst weiß das Modell, was es vorher geschrieben hat, und bleibt einfach dabei. Stell jede Variante zweimal, damit du Zufall von Muster trennst.

Achte zuerst auf die Zahl. Dann auf die Wörter: Wird bei einer Person die Führungsstärke gelobt und bei der anderen der Teamgeist? Steht bei der älteren Person „Erfahrung“ und bei der jüngeren „Entwicklungspotenzial“? Ändere nie zwei Dinge auf einmal, sonst weiß niemand, woran es lag.

Gut möglich, dass du keinen Unterschied siehst. Moderne Modelle geben oft identische Werte, Unterschiede zeigen sich eher in der Wortwahl. Die Anbieter testen genau solche Fälle intensiv. Das heißt aber nicht, dass es im eigenen System mit den eigenen Daten genauso ist. Deshalb testet man. Auch kein Unterschied ist ein Ergebnis.

Der AI Act ist die Verordnung (EU) 2024/1689. Er gilt direkt in allen EU-Staaten. Sein Prinzip: Je höher das Risiko, desto strenger die Regeln. Ganz oben steht, was verboten ist. Darunter Hochrisiko-KI: erlaubt, aber mit vielen Pflichten. Dann Systeme mit Transparenzpflicht, bei denen du offenlegen musst, dass KI im Spiel ist. Und ganz unten der Großteil aller Anwendungen, ohne Zusatzpflichten.

Für alle, die KI beruflich einsetzen, gilt zusätzlich die KI-Kompetenz. Dazu kommt gleich eine eigene Folie.

Der wichtigste Gedanke: Das Gesetz reguliert nicht die Technik, sondern den Einsatzzweck. Dasselbe Sprachmodell kann harmlos sein oder hochriskant, je nachdem, wofür du es benutzt. Einordnung, keine Rechtsberatung.

Verstöße gegen Art. 5 kosten bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes, je nachdem, was höher ist (Art. 99 Abs. 3).

Artikel 5 listet, was in der EU gar nicht geht. Das gilt seit dem 2. Februar 2025. KI, die Menschen unterschwellig manipuliert oder ihre Schwächen ausnutzt. Social Scoring, also Menschen nach ihrem Verhalten mit Punkten bewerten und dann benachteiligen. Gesichtsbilder massenhaft sammeln, um eine Datenbank zu bauen. Und Echtzeit-Gesichtserkennung im öffentlichen Raum durch die Polizei, bis auf wenige, eng geregelte Ausnahmen.

Für deinen Betrieb ist vor allem lit. f wichtig: Emotionserkennung am Arbeitsplatz und in der Schule, außer aus medizinischen oder Sicherheitsgründen. Ein Tool, das im Videocall misst, ob Beschäftigte motiviert wirken: verboten. Die Strafen sind die höchsten im ganzen Gesetz.

Im Juli 2026 hat die EU mit der Verordnung (EU) 2026/1744 nachgelegt. Ab dem 2. Dezember 2026 ist auch KI verboten, die ohne Zustimmung intime Bilder von echten Menschen erzeugt, und KI für Missbrauchsdarstellungen. Einordnung, keine Rechtsberatung.

Dazu kommt Anhang I: KI als Sicherheitsbauteil in Produkten wie Maschinen, Spielzeug oder Medizinprodukten. Eine Ausnahme gibt es nach Art. 6 Abs. 3: eine eng begrenzte Vorbereitungsaufgabe ohne erhebliches Risiko. Nie aber bei Profiling von Menschen.

Hochrisiko heißt nicht verboten. Es heißt: erlaubt, aber mit vielen Pflichten. Anhang III nennt acht Bereiche, in denen KI stark in das Leben von Menschen eingreift. Für die meisten Unternehmen am wichtigsten ist Nummer 4, Beschäftigung. Wer eine KI Bewerbungen filtern, Beförderungen vorbereiten oder Leistung bewerten lässt, betreibt Hochrisiko-KI. Das Amazon-Tool wäre heute genau so ein Fall.

Der Anbieter muss Risikomanagement, Dokumentation, Datenqualität und eine Konformitätsbewertung nachweisen (Art. 8 bis 22). Als Betreiber (Art. 26) nutzt du das System nach Anleitung, setzt eine kompetente Person zur Aufsicht ein, bewahrst die Protokolle mindestens sechs Monate auf und informierst die Beschäftigten und ihre Vertretung vorher.

Die Ausnahme greift, wenn die KI nur eine eng begrenzte Vorbereitungsaufgabe erledigt, etwa Dokumente sortieren, und kein erhebliches Risiko besteht. Sie greift nie, wenn Menschen profiliert werden. Einordnung, keine Rechtsberatung.

Deck die Spalten „Stufe“ und „Grund“ ab und stuf jeden Fall selbst ein: verboten, Hochrisiko, Transparenz oder gering. Frag dich bei jeder Antwort: Welcher Artikel?

Die Vogel-App entscheidet über niemanden, also geringes Risiko. Auch eine KI-Karte der Landbedeckung aus Satellitenbildern ist gering, solange sie nicht über Menschen entscheidet. Der Chatbot der Gemeinde muss sagen, dass er eine KI ist. Die Bewerbungsvorsortierung und die Prüfungsaufsicht stehen in Anhang III. Die Motivationsmessung im Videocall ist Emotionserkennung am Arbeitsplatz und damit verboten.

Beim KI-Foto der Bürgermeisterin musst du den Deepfake offenlegen. Ob man so ein Bild überhaupt veröffentlichen sollte, ist eine andere Frage. Ein erfundenes Foto einer echten Person kann zusätzlich deren Persönlichkeitsrecht verletzen, das regelt nicht der AI Act. Einordnung, keine Rechtsberatung.

Der AI Act gilt nicht auf einen Schlag, er kommt in Stufen. Seit August 2024 ist er in Kraft. Die Verbote und die KI-Kompetenz gelten seit Februar 2025. Seit August 2025 gibt es Pflichten für die Anbieter großer Modelle wie GPT oder Gemini, dazu Behörden und Bußgeldregeln. Seit August 2026 gelten die Transparenzpflichten und fast alles Übrige.

Bei Hochrisiko hat sich im Sommer 2026 etwas getan. Eigentlich hätten die Pflichten für Anhang III ab dem 02.08.2026 greifen sollen, für Anhang I ab dem 02.08.2027. Die EU hat mit dem Digital Omnibus nachgesteuert, einem Paket, das Digitalgesetze vereinfacht. Hochrisiko nach Anhang III gilt jetzt ab dem 2. Dezember 2027, Produkte nach Anhang I ab dem 2. August 2028.

Verschoben heißt nicht gestrichen. Wer heute ein Bewerbungstool einführt, sollte es so auswählen, dass es Ende 2027 die Pflichten erfüllt. Sonst wird es bald wieder ausgetauscht. Einordnung, keine Rechtsberatung.

Artikel 50 betrifft fast jedes Unternehmen, und er gilt seit August 2026. Stellt dein Unternehmen einen Chatbot auf die Website, müssen die Leute merken, dass sie mit einer Maschine schreiben, außer es ist ohnehin offensichtlich. Anbieter von Bild-, Video- und Textgeneratoren müssen die Ergebnisse maschinenlesbar kennzeichnen. Systeme, die schon vor dem 02.08.2026 auf dem Markt waren, haben dafür bis zum 02.12.2026 Zeit.

Absatz 4 betrifft dich als Betreiber direkt. Du musst Deepfakes offenlegen, also Bilder, Videos oder Tonaufnahmen, die echt wirken, aber erzeugt sind. Bei Kunst, Satire und Fiktion reicht ein passender Hinweis. Veröffentlichst du KI-Texte, die die Öffentlichkeit über wichtige Themen informieren sollen, gilt dasselbe.

Außer bei Texten, die ein Mensch geprüft hat und für die jemand die redaktionelle Verantwortung übernimmt. Die Pressemitteilung, die du mit KI entworfen und selbst verantwortet hast, braucht also keinen KI-Stempel. Einordnung, keine Rechtsberatung.

Dieser Artikel betrifft dich persönlich. Jedes Unternehmen, das KI anbietet oder beruflich einsetzt, muss sich darum kümmern, dass seine Leute ausreichend Bescheid wissen. Das gilt für den Konzern genauso wie für die Arztpraxis mit ChatGPT-Zugang. Wie viel Wissen nötig ist, hängt von der Rolle ab: Wer nur Texte zusammenfassen lässt, braucht Grundlagen. Wer Inhalte veröffentlicht, muss prüfen und kennzeichnen können. Wer ein Bewerbungstool betreut, muss einstufen und beaufsichtigen können.

Ein Zertifikat schreibt das Gesetz nicht vor. Aber halte fest, wer wann was gelernt hat, etwa in einer Tabelle mit Rolle, Schulung und Datum: Sachbearbeitung, KI-Grundlagen, 10/2026. Das ist ein typischer Job für eine KI-Managerin oder einen KI-Manager, und dieser Kurs gehört auch in so eine Tabelle.

Im Juli 2026 wurde der Artikel weicher gefasst. Vorher hieß es „nach besten Kräften sicherzustellen“, jetzt müssen Betriebe Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz zu unterstützen. An der Sache ändert das wenig. Wer seine Leute unvorbereitet auf KI loslässt, hat ein Problem, sobald etwas schiefgeht. Einordnung, keine Rechtsberatung.

Rate zuerst selbst, dann schau in die Spalten „Lösung“ und „Warum“. Die Grundregel: Urheber kann nach deutschem Recht nur ein Mensch sein. Das Gesetz spricht von einer persönlichen geistigen Schöpfung. Ein Bild, das du mit einem Satz erzeugt hast, ist deshalb in der Regel nicht geschützt. Das heißt auch: Andere dürfen es meist ebenfalls nutzen. Wer ein Logo nur per Prompt erzeugt, kann es schlecht schützen.

Bearbeitest du etwas stark selbst, kann das anders aussehen. Das ist Einzelfall. Und dein eigenes Foto bleibt dein Werk, auch wenn eine KI ein Stromkabel wegretuschiert.

Der vierte Fall ist der gefährlichste. Gibt ein Chatbot ein fremdes Werk fast wörtlich wieder und du veröffentlichst es, verletzt du Rechte. Mischwerke und Veröffentlichungen im Zweifel anwaltlich prüfen lassen. Einordnung, keine Rechtsberatung.

Die zweite Frage beim Urheberrecht: Darf eine KI mit fremden Werken trainiert werden? Das Gesetz erlaubt Text- und Data-Mining, also das automatische Auswerten von Werken. Rechteinhaber können widersprechen, aber maschinenlesbar, damit ein Programm es erkennt. Zum Beispiel mit einem Eintrag in der Datei robots.txt, der den Crawler von OpenAI namens GPTBot aussperrt. Für die Forschung gibt es eine weitere Ausnahme (§ 60d UrhG), die sich nicht abwählen lässt.

Der Fotograf Robert Kneschke hat den Verein LAION verklagt, weil sein Foto in einem riesigen Bild-Text-Datensatz landete. Das Landgericht Hamburg sagte 2024: Forschung, erlaubt. Das Oberlandesgericht Hamburg hat das im Dezember 2025 bestätigt und klargestellt, dass ein Vorbehalt in normaler Sprache auf einer Website nicht reicht. Der Fall kann noch zum Bundesgerichtshof. In München entschied das Landgericht im November 2025, dass ChatGPT Liedtexte so gespeichert hatte, dass es sie fast wörtlich wiedergeben konnte. Das ist Vervielfältigung. Ende Juli 2026 folgte GEMA gegen Suno: Schon das Speichern der Songs im Modell ist Vervielfältigung, ohne Lizenz kein Training.

Die Klagen richteten sich gegen die Anbieter. Wer aber KI-Output veröffentlicht, der fremde Werke wiedergibt, kann selbst Ärger bekommen. Prüf, bevor du veröffentlichst. Einordnung, keine Rechtsberatung.

Ein erfundener Fall. Du bist die KI-Managerin oder der KI-Manager einer Stadt und schreibst eine Entscheidungsvorlage. Deck zuerst die Spalten „Stufe“ und „Empfehlung“ ab. Hör dir beide Seiten an: Die Amtsleitung hat 30 Prozent mehr Anträge als vor drei Jahren, zwei offene Stellen und elf Wochen Bearbeitungszeit. Jeder dritte Antrag ist unvollständig. Die Kamera nennt sie Gesundheitsschutz. Personalrat und Datenschutz sagen: Eine Ablehnung ist ein Verwaltungsakt, den keine Maschine vorschlagen darf, die dann nur abgenickt wird. Und eine Kamera, die die Stimmung der Beschäftigten misst, ist Überwachung.

Schreib für jede Funktion auf: Stufe und Artikel, wo der Mensch bleibt, und ja, nein oder mit Auflagen. Dann vergleich mit der Tabelle. Bei B nach dieser Lesart: Die KI schlägt keine Ablehnung vor, sie listet nur fehlende Unterlagen auf. Jede Ablehnung prüft und unterschreibt eine Fachkraft. Vor dem Start ein Test mit 100 alten Anträgen: Wie oft liegt die KI falsch, und trifft es bestimmte Antragsarten häufiger? Die Beschäftigten werden geschult und der Personalrat vorher beteiligt.

C ist verboten, egal wie gut die Absicht ist. „Gesundheitsschutz“ als allgemeines Ziel reicht nicht für die Ausnahme. Wer Überlastung messen will, nimmt Fallzahlen und Wartezeiten statt Gesichter. Und B ist nach dem AI Act kaum reguliert: Dass ein Mensch ablehnt, folgt aus Fairness und aus dem Verwaltungsrecht. Einordnung, keine Rechtsberatung.