Wenn die KI diskriminiert: Die versteckte Gefahr im digitalen Recruiting

Künstliche Intelligenz soll Prozesse effizienter und objektiver machen. Doch KI ist nicht neutral. Sie lernt aus den Daten, mit denen wir sie füttern. Wenn eure historischen Daten Vorurteile enthalten, wird die KI diese nicht nur übernehmen, sondern massiv verstärken. Man spricht hier vom sogenannten Algorithmic Bias.

Das „Spiegel-Problem“ der Technologie

Ein Algorithmus, der lernt, wer in der Vergangenheit erfolgreich war, wird in einer männlich dominierten Branche auch in Zukunft Männer bevorzugen. Er lernt korrelierte Merkmale (z.B. bestimmte Sportarten oder Formulierungen im Lebenslauf), die indirekt auf das Geschlecht oder die Herkunft schließen lassen. So wird die KI zum digitalen Türsteher, der Vielfalt verhindert, statt sie zu fördern.

Ethische KI als Führungsaufgabe

Es reicht nicht, eine Software zu kaufen und auf Objektivität zu hoffen. Unternehmen müssen die Blackbox öffnen:

• Woher stammen die Trainingsdaten?
• Wird der Algorithmus regelmäßig auf Diskriminierung geprüft?
• Haben Menschen immer noch das letzte Wort?

DEIxis Consulting: DEIn Partner für faire Technologie

Wir unterstützen euch dabei, HR-Technologien kritisch zu hinterfragen. DEIxis Consulting berät euch bei der Auswahl und dem Monitoring von Tools, damit eure digitale Transformation nicht im Widerspruch zu euren DEI-Zielen steht. Wir bringen Ethik und Effizienz zusammen.

Fun Fact: Ein bekannter KI-Algorithmus eines Tech-Giganten sortierte Bewerbungen mit dem Wort „Frauen-“ (z.B. „Kapitänin der Frauen-Fußballmannschaft“) automatisch aus, weil er lernte, dass „Frauen“ statistisch seltener eingestellt wurden.

Hier findest du mehr zu unseren Leistungen.