KI-Ethik, Bias & Trainingsdaten – Warum KI nicht neutral ist – und was das für uns bedeutet
Bias in KI-Systemen entsteht durch verzerrte Trainingsdaten und kann zu unfairen Entscheidungen führen. Diese Lektion erklärt die verschiedenen Bias-Typen, zeigt wie du KI-Bias erkennst und welche ethischen Leitlinien für den verantwortungsvollen KI-Einsatz gelten.
🤔 Was ist Bias in KI?
📚
KI lernt aus Daten
KI-Modelle werden mit riesigen Datenmengen trainiert – Texte, Bilder, Entscheidungen aus der echten Welt.
⚠️
Daten sind nicht neutral
Diese Daten enthalten menschliche Vorurteile, historische Ungleichheiten und systematische Fehler.
🔄
KI verstärkt Muster
Die KI erkennt diese Muster und reproduziert sie – oft sogar verstärkt und ohne es zu "wissen".
🎯
Selection Bias
Nicht-repräsentative Trainingsdaten
📜
Historical Bias
Vergangene Diskriminierung wird gelernt
📏
Measurement Bias
Fehlerhafte oder ungleiche Messung
🤖
Automation Bias
Blindes Vertrauen in KI-Entscheidungen
🔄
Confirmation Bias
Selbstverstärkende Vorhersagen
🔗
Association Bias
Stereotype Verknüpfungen
👈
Bias-Typ auswählen
Klicke links auf einen Bias-Typ, um Beispiele und Vermeidungsstrategien zu sehen.
📊
Trainingsdaten = Das "Futter" der KI
Große Sprachmodelle wie GPT werden auf Hunderten Milliarden Wörtern trainiert. Woher kommen diese Daten – und was bedeutet das?
🌐
Internet-Daten
LLMs werden auf Internet-Texten trainiert
RISIKEN:
Enthält Fehlinformationen und Verschwörungstheorien
Überrepräsentation von englischsprachigen, westlichen Perspektiven
Toxische Inhalte aus Foren und Kommentarsektionen
Urheberrechtlich geschützte Inhalte
💡 Beispiel: ChatGPT weiß mehr über US-amerikanische als über afrikanische Geschichte
📅
Zeitliche Begrenzung
Trainingsdaten haben einen Stichtag
RISIKEN:
Keine Kenntnis aktueller Ereignisse
Veraltete Informationen werden als aktuell präsentiert
Kann nicht über sich selbst oder neuere Modelle berichten
💡 Beispiel: Modell kennt Wahlergebnisse von 2024 nicht, wenn Training 2023 endete
👥
Menschliches Feedback
RLHF-Training durch menschliche Bewerter
RISIKEN:
Bewerter bringen eigene Vorurteile ein
Oft unterbezahlte Arbeit unter Zeitdruck
Kulturelle Prägung der Bewerter beeinflusst Modell
Traumatische Inhalte für Bewerter
💡 Beispiel: OpenAI nutzte Arbeiter in Kenia für 2$/Stunde für Content-Moderation
🔄
Synthetische Daten
KI-generierte Daten zum Training von KI
RISIKEN:
Model Collapse: Fehler verstärken sich über Generationen
Echte menschliche Kreativität geht verloren
Schwer zu erkennen, was "echt" ist
💡 Beispiel: Internet füllt sich mit KI-Texten → nächste KI lernt von KI → Qualitätsverlust
🔄 Der Daten-Lebenszyklus einer KI
🌐
Daten sammeln
Internet, Bücher, Code...
→
🧹
Filtern
Qualität, Sprache, Duplikate
→
🏋️
Trainieren
Muster erkennen
→
👥
Feedback
Menschen bewerten Output
→
🔧
Feintuning
Anpassung an Aufgaben
→
🚀
Deployment
Produktiver Einsatz
⚠️ In jedem Schritt können Bias und Fehler entstehen oder verstärkt werden!
⚖️ KI-Ethik = Leitlinien für verantwortungsvollen Umgang mit KI. Diese Prinzipien helfen, Risiken zu erkennen und zu minimieren.
🔍
Transparenz
"Können wir erklären, wie die KI entscheidet?"
⚖️
Fairness
"Behandelt die KI alle Gruppen gleich?"
🔒
Datenschutz
"Werden personenbezogene Daten geschützt?"
👤
Verantwortlichkeit
"Wer ist verantwortlich, wenn etwas schiefgeht?"
🛡️
Robustheit & Sicherheit
"Ist die KI sicher und zuverlässig?"
🌍
Gesellschaftlicher Nutzen
"Dient die KI dem Gemeinwohl?"
👈
Prinzip auswählen
Klicke links auf ein Ethik-Prinzip, um Checkfragen und Beispiele zu sehen.
🧠 Teste dein Wissen! Kannst du die Bias-Typen und Ethik-Prinzipien erkennen?
FRAGE 1
Eine KI zur Kreditvergabe lehnt überproportional viele Anträge aus einem bestimmten Stadtteil ab. Welcher Bias könnte vorliegen?
FRAGE 2
Ein Bildgenerator erzeugt bei "Arzt" fast nur Bilder von Männern. Was ist das Hauptproblem?
FRAGE 3
Welches Ethik-Prinzip ist verletzt, wenn eine KI Bewerbungen ablehnt, aber nicht erklärt warum?
📚
Buchempfehlung zur Vertiefung
Ethische KI in der Praxis
von Martha Giannakoudi
Für alle, die sich vertieft mit KI-Ethik beschäftigen möchten, empfehlen wir dieses Buch. Es enthält unter anderem ein spannendes Interview mit Kiki Radicke, Head of People & Culture bei Adacor, über die praktische Umsetzung ethischer KI-Prinzipien im Unternehmensalltag.
