Bias (KI-Bias)
Bias in der KI bezeichnet systematische Verzerrungen in Trainingsdaten oder Modellarchitekturen, die dazu führen, dass bestimmte Gruppen oder Perspektiven bevorzugt oder benachteiligt werden.
AIFortgeschrittenethikfairnesstrainingsdaten
Bias (KI-Bias)
Bias in der Künstlichen Intelligenz beschreibt systematische Verzerrungen, die dazu führen, dass ein Modell unfaire, ungenaue oder diskriminierende Ergebnisse liefert.
Woher kommt Bias?
- Trainingsdaten: Wenn die Daten nicht repräsentativ sind (z.B. überwiegend englischsprachige Texte)
- Label-Bias: Wenn menschliche Annotierer ihre eigenen Vorurteile einbringen
- Selektions-Bias: Wenn bestimmte Datenpunkte systematisch fehlen
- Algorithmus-Bias: Wenn die Modellarchitektur bestimmte Muster bevorzugt
Beispiele
- Gesichtserkennung, die bei bestimmten Hautfarben schlechter funktioniert
- Sprachmodelle, die Geschlechterstereotypen reproduzieren
- Bewerbungsfilter, die bestimmte Namen benachteiligen
Gegenmaßnahmen
- Diverse und repräsentative Trainingsdaten
- Fairness-Metriken während des Trainings
- Regelmäßige Audits der Modellergebnisse
- Red Teaming und adversarial Testing
Verwandte Begriffe
Inhouse statt Nachschlagewerk
Für den Transfer ins Unternehmen sind die Inhouse-Schulungen der passende nächste Schritt.