KI und Behinderung im Arbeitsleben: Risiken, Chancen und der Kampf um algorithmische Fairness

Die Doppelschneidigkeit von KI im Arbeitsleben

Künstliche Intelligenz transformiert alle Phasen des Arbeitsverhältnisses — Personalgewinnung, Vorauswahl, Interviews, Leistungsverwaltung, berufliche Entwicklung. Für Menschen mit Behinderungen ist diese Umwälzung zweischneidig: KI kann ein mächtiges Barrierefreiheitsinstrument sein oder ein effizientes Mechanismus für systematische Ausgrenzung.

KI-gestützte Einstellung: Das Diskriminierungsrisiko

Automatisierte Lebenslauf-Screening

Viele Arbeitgeber nutzen automatisierte Tools, um Bewerbungen zu filtern. Die Risiken für Kandidaten mit Behinderungen umfassen:

• Strafen für Lücken: Algorithmen können Karrierelücken bestrafen — was Menschen mit Behinderungen überproportional trifft, die möglicherweise gesundheitsbedingte Abwesenheitszeiten oder einen verzögerten Karrierestart haben
• Credential-Bias: Übergewichtung von Abschlüssen und renommierten Institutionen benachteiligt Menschen, deren Ausbildung durch Behinderung unterbrochen wurde
• Keyword-Optimierung: Kandidaten müssen Keyword-Matching "spielen", was Menschen mit kognitiven oder Lernbehinderungen benachteiligt
• Proxy-Diskriminierung: Auch ohne explizite Behinderungsdaten kann KI Behinderung aus Mustern ableiten (Auslandsjahre, Adressen von Rehabilitationszentren, behinderungsbezogenes Ehrenamt)

Video-Interview-Analyse

Einige KI-Video-Interview-Tools analysieren Merkmale wie Tonfall, Wortschatzdichte, Gesichtsbewegungen oder Körpersprache. Wenn sie dies tun, umfassen die Risiken:

• Gesichtsmimik-Analyse kann fehlschlagen für Menschen mit Fazialisparese, Zerebralparese oder Erkrankungen, die die Kontrolle der Gesichtsmuskeln beeinträchtigen
• Augenkontakt-Scoring kann benachteiligen blinde und sehbehinderte Kandidaten, autistische Kandidaten und solche mit sozialer Angststörung
• Sprachanalyse kann benachteiligen Menschen, die stottern, AAC-Geräte verwenden oder Sprachbeeinträchtigungen haben
• "Begeisterungs"-Metriken können benachteiligen Menschen mit flachem Affekt (verbunden mit manchen autistischen Menschen, Depression oder bestimmten Medikamenten)

Rechtlicher Status: 2023 legte die US-EEOC ihre erste Klage gegen diskriminierende KI-Einstellungssoftware bei — ein Fall von Altersdiskriminierung, bei dem Software automatisch ältere Bewerber ablehnte. New York City verlangt Bias-Audits automatisierter Beschäftigungsentscheidungstools, und der EU AI Act klassifiziert KI, die bei Einstellung und Beschäftigungsentscheidungen verwendet wird, als "hohes Risiko".

Gamifizierte Bewertungen

Einige Plattformen nutzen kognitive Spiele zur Bewertung von Kandidaten:

• Reaktionszeittests benachteiligen Menschen mit motorischen Beeinträchtigungen
• Gedächtnisspiele benachteiligen Menschen mit kognitiven Behinderungen, Hirnverletzungen, ADHS
• Unbegrenzte Zeit bedeutet nicht barrierearm: Viele "unbegrenzte" Bewertungen messen Geschwindigkeit stillschweigend

KI als Barrierefreiheits-Ermöglicher

Unterstützende KI-Technologien

• Echtzeit-Untertitelungen: KI-gestützte Live-Untertitel in Telefonen und Meeting-Plattformen verbessern die Meeting-Barrierefreiheit für taube und schwerhörige Arbeitnehmende
• Text-zu-Sprache und Sprache-zu-Text: Durch neuronale Netze drastisch verbessert, sowohl in spezialisierter Software als auch in integrierten Betriebssystem-Funktionen
• Screen-Reader-Intelligenz: KI hilft Screen Readern, komplexe Webanwendungen zu navigieren, Bilder zu interpretieren (Alt-Text-Generierung) und Seitenstruktur zusammenzufassen
• Kognitive Unterstützung: KI-Aufgabenmanager, Erinnerungssysteme und Textvereinfachungstools unterstützen Menschen mit Lernbehinderungen und Hirnverletzungen
• Kommunikationshilfen: KI-gestützte AAC (Augmentative and Alternative Communication) sagt Phrasen voraus, erlernt persönliches Vokabular und generiert natürliche Sprache
• Visuelle Beschreibung: KI beschreibt Bilder, Szenen und Dokumente für blinde und sehbehinderte Nutzer

Arbeitgeber-Anpassungs-KI

• Intelligente Planung: KI-Systeme, die Zeitpläne um Energiemuster, medizinische Termine und sensorische Bedürfnisse optimieren
• Umgebungssteuerung: KI-gestützte Beleuchtungs-, Temperatur- und Lärmverwaltung, die auf individuelle Bedürfnisse reagiert
• Meeting-Barrierefreiheit: Automatische Untertitelungen, KI-Meeting-Zusammenfassungen, Aktionspunkt-Extraktion — reduziert kognitive Belastung
• Dokument-Barrierefreiheit: KI-gestützte PDF-Reparatur, automatische Alt-Texte, Inhalts-Vereinfachung

Algorithmische Fairness und Behinderung

Die technische Herausforderung

Viel Arbeit zur algorithmischen Fairness konzentriert sich auf Merkmale wie Rasse und Geschlecht. Behinderung stellt besondere Herausforderungen dar:

• Behinderung ist heterogen: "Menschen mit Behinderungen" ist keine einzige Gruppe — Anpassungen für eine blinde Person können für einen Rollstuhlnutzer irrelevant sein
• Behinderung ist nicht binär: Viele Erkrankungen sind episodisch, schwankend oder unsichtbar
• Behinderungsdaten sind selten: Viele Menschen offenbaren Behinderung nicht, daher fehlen Trainingsdaten Labels
• Fairness-Metriken kollidieren: Verschiedene statistische Definitionen von Fairness können in unterschiedliche Richtungen ziehen

Rechtliche Rahmenbedingungen

• EU AI Act (Verordnung (EU) 2024/1689): Listet KI-Systeme auf, die zur Rekrutierung oder Auswahl von Personen, Filterung von Bewerbungen, Bewertung von Kandidaten oder Entscheidungen über Beförderung, Kündigung und Leistungsüberwachung verwendet werden, als hohes Risiko. Anbieter müssen Trainingsdaten auf mögliche Vorurteile überprüfen und Maßnahmen ergreifen, um diese zu erkennen, zu verhindern und zu mindern; Systeme müssen transparent genug sein, damit Anwender ihre Ausgabe interpretieren können, und so gestaltet sein, dass sie von Menschen effektiv überwacht werden können.
• NYC Local Law 144: Seit Durchsetzungsbeginn am 5. Juli 2023 dürfen Arbeitgeber und Arbeitsvermittler kein automatisiertes Beschäftigungsentscheidungstool verwenden, wenn es nicht innerhalb eines Jahres vor Gebrauch einem Bias-Audit unterzogen wurde; Audit-Informationen müssen der Öffentlichkeit zugänglich gemacht und Kandidaten müssen benachrichtigt werden.
• US-Bundesanleitung: Im Januar 2025 zog die EEOC ihre KI-Technisch-Hilfe-Dokumente zurück, einschließlich ihres Dokuments vom Mai 2022 zu KI und dem Americans with Disabilities Act. Die zugrunde liegenden Gesetze — einschließlich des ADA — gelten weiterhin für die Nutzung von KI-Tools durch Arbeitgeber.

Best Practices für Arbeitgeber

1. Audits Ihrer KI-Tools: Fordern Sie von Anbietern, behinderteninklusive Tests nachzuweisen
2. Alternativen anbieten: Bieten Sie immer einen nicht-KI-Weg durch den Einstellungsprozess an
3. Proaktive Anpassungen: Fragen Sie nach Anpassungsbedarfen vor, nicht nach automatisierten Bewertungen
4. Menschliche Überprüfung: Lassen Sie KI niemals ohne menschliche Aufsicht endgültige Einstellungsentscheidungen treffen
5. Ergebnisse überwachen: Verfolgen Sie Bewerbungs-zu-Einstellung-Quoten nach Behinderungsstatus (sofern mitgeteilt), um disparate impact zu erkennen
6. Behinderungsperspektive einbeziehen: Beziehen Sie Arbeitnehmende mit Behinderungen und Behindertenorganisationen in KI-Beschaffungsentscheidungen ein

Ressourcen

• EU AI Act, Annex III (hochrisiko KI-Systeme): https://artificialintelligenceact.eu/annex/3/
• NYC Department of Consumer and Worker Protection — Automated Employment Decision Tools: https://www.nyc.gov/site/dca/about/automated-employment-decision-tools.page
• EEOC: iTutorGroup settlement press release: https://www.eeoc.gov/newsroom/itutorgroup-pay-365000-settle-eeoc-discriminatory-hiring-suit
• Cooley: "Gone but Not Forgotten: Federal Laws Still Apply Despite AI Guidance Disappearance Act" (2025): https://www.cooley.com/news/insight/2025/2025-02-21-gone-but-not-forgotten-federal-laws-still-apply-despite-guidance-disappearance-act