Wir alle nutzen täglich Gesichtserkennung, um Smartphones zu entsperren, und lassen uns von KI-Vorschlägen leiten. Doch der Erfolg mit Künstlicher Intelligenz (KI) variiert stark je nach Person.
Eine unabhängige Studie zu Systemen von IBM, Microsoft und Amazon ergab: Gesichter von Oprah Winfrey, Michelle Obama und Serena Williams wurden fehlerhaft klassifiziert – weiße Männer hingegen problemlos erkannt.
Digitale Assistenten wie Cortana oder Google Assistant sprechen standardmäßig weiblich. Das verstärkt unbewusst Stereotype der weiblichen Unterwürfigkeit bei Millionen Nutzern.
Die Wurzel liegt bei den Entwicklern: Meist junge weiße Männer ohne Behinderungen aus ähnlichen sozioökonomischen und bildungsstarken Milieus.
Daraus resultieren unausgewogene Trainingsdaten. Ein US-Regierungsdatensatz für Gesichtserkennung: 75 % Männer, 80 % hellhäutig. Fehlende Diversitätserfahrung ließ dies unbemerkt.
Mehr davon
Glücklichweise drehen Tech-Riesen wie IBM und Amazon um: Sie identifizieren und bekämpfen Vorurteile aktiv, um faire KI zu schaffen.