AI og arbejdsfunktionærer med handicap: Risici, muligheder og kampen for algoritmisk fairness

AIens dobbelte egenskab inden for ansættelse

Kunstig intelligens transformerer alle stadier af ansættelse — sourcing, screening, interviews, præstationsstyring, karriereudvikling. For mennesker med handicap forløber denne transformation på to måder: AI kan være et stærkt tilgængelighedsværktøj eller en effektiv mekanisme for systematisk udelukkelse.

AI-baseret rekruttering: Diskriminationsrisikoen

Automatiseret CV-screening

Mange arbejdsgivere bruger automatiserede værktøjer til at filtrere ansøgninger. Risiciene for kandidater med handicap omfatter:

• Straffegebyr for karrieregab: Algoritmer kan straffe karrieregab — hvilket uforholdsmæssigt påvirker mennesker med handicap, som kan have perioder med sygdombetinget fravær eller forsinket karrierestart
• Skævhed omkring kvalifikationer: Overvægtning af grader og prestigefulde institutioner stiller mennesker dårligere, hvis uddannelse blev afbrudt af handicap
• Nøgleordsoptimering: Kandidater skal "spille spillet" med nøgleordsmatching, hvilket stiller mennesker med kognitive eller lærevanskeligheder dårligere
• Proxy-diskrimination: Selv uden eksplicitte handicapdata kan AI udlede handicap fra mønstre (pauseår, rehabiliteringscentreadresser, handicaprelateret frivilligt arbejde)

Videointerviewanalyse

Nogle AI-videointerviewværktøjer analyserer funktioner såsom tone, ordvalg, ansigtsudtryk eller kropssprog. Hvor det sker, omfatter risiciene:

• Analyse af ansigtsudtryk kan fejle for mennesker med ansigtslamhed, cerebral parese eller tilstande, der påvirker kontrollen af ansigtsmuskulaturen
• Øjenkontaktscoring kan straffe blinde og svagsynede kandidater, autistiske kandidater og kandidater med social angst
• Talanalyse kan stille mennesker dårligere, der stamrer, bruger AAC-enheder eller har talevanskeligheder
• "Entusiasme"-målinger kan stille mennesker dårligere, der har flat affect (forbundet med nogle autistiske mennesker, depression eller visse medicin)

Juridisk status: I 2023 afgjorde US EEOC sit første søgsmål om diskriminerende AI-rekrutteringssoftware — en sag om alderdiskrimination, hvor software automatisk afviste ældre ansøgere. New York City kræver bias-revisioner af automatiserede værktøjer til ansættelsesprocesafgørelser, og EU AI-loven klassificerer AI brugt ved rekruttering og ansættelsesafgørelser som "høj-risiko".

Gamificerede vurderinger

Nogle platforme bruger kognitive spil til at vurdere kandidater:

• Reaktionstidstests stiller mennesker med motoriske skader dårligere
• Hukommelsesspil stiller mennesker med kognitive handicap, hjerneskader, ADHD dårligere
• Ubegrænset tid betyder ikke tilgængeligt: Mange "ubegrænsede" vurderinger måler stadig hastighed implicit

AI som tilgængelighedsmuligheder

Assistive AI-teknologier

• Sanntidsmededeling: AI-drevet live-billedtekster i telefoner og mødeplatforme forbedrer mødegrænsefladen for døve og høreapparatbrugere
• Tekst-til-tale og tale-til-tekst: Dramatisk forbedret af neurale netværk, både i dedikeret software og i indbyggede operativsystemfunktioner
• Skærmleserintelligens: AI hjælper skærmlæsere med at navigere komplekse webapplikationer, fortolke billeder (automatisk alt-tekstgenerering) og opsummere sidestruktur
• Kognitiv assistance: AI-opgavemanagere, påmindelssystemer og tekstforenklingsværktøjer understøtter mennesker med lærevanskeligheder og hjerneskader
• Kommunikationshjælpemidler: AI-drevet AAC (Augmentative and Alternative Communication) forudsiger fraser, lærer personligt ordforråd og genererer naturlig tale
• Visuelbeskrivelse: AI beskriver billeder, scener og dokumenter for blinde og svagsynede brugere

Arbejdspladsakkommodation AI

• Smart planlægning: AI-systemer, der optimerer tidsplaner omkring energimønstre, medicinske aftaler og sensoriske behov
• Miljøkontrol: AI-drevet belysning, temperatur- og støjstyring, der reagerer på individuelle behov
• Mødetilgængelighed: Automatisk billedtekst, AI-mødesammenfattinger, ekstrahering af punkter — reducering af kognitiv belastning
• Dokumenttilgængelighed: AI-drevet PDF-rettelse, automatisk alt-tekst, indholdsforsimpling

Algoritmisk fairness og handicap

Den tekniske udfordring

Meget arbejde med algoritmisk fairness fokuserer på karakteristika som race og køn. Handicap præsenterer særlige udfordringer:

• Handicap er heterogent: "Mennesker med handicap" er ikke en gruppe — akkommodationer for en blind person kan være irrelevante for en kørestolsbruger
• Handicap er ikke binært: Mange tilstande er episodiske, svingende eller usynlige
• Handicapdata er sjældne: Mange mennesker oplyser ikke handicap, så træningsdata mangler etiketter
• Fairness-målinger er i konflikt: Forskellige statistiske definitioner af fairness kan trække i forskellige retninger

Lovramme

• EU AI-loven (Forordning (EU) 2024/1689): Anføres AI-systemer, der bruges til at rekruttere eller udvælge mennesker, filtrere ansøgninger, evaluere kandidater eller træffe afgørelser om forfremmelse, opsigelse og præstationskontrol som høj-risiko. Leverandører skal undersøge træningsdata for mulige skævheder og træffe foranstaltninger for at opdage, forhindre og afbøde disse; systemer skal være transparente nok til, at implementererne kan fortolke deres output, og designet således, at de effektivt kan overvåges af mennesker.
• NYC Local Law 144: Siden håndhævelsen begyndte den 5. juli 2023, må arbejdsgivere og ansættelsesagenturer ikke bruge et automatiseret værktøj til ansættelsesprocesafgørelser, medmindre det har undergået en bias-revision inden for et år fra brugen; revisionsinformationer skal være offentlige, og kandidater skal meddeles dette.
• Amerikansk føderal vejledning: I januar 2025 fjernede EEOC sine tekniske hjælpedokumenter til AI, herunder dokumentet fra maj 2022 om AI og Americans with Disabilities Act. De underliggende love — herunder ADA — gælder stadig for arbejdsgiveres brug af AI-værktøjer.

Bedste praksis for arbejdsgivere

1. Revider dine AI-værktøjer: Kræv, at leverandører demonstrerer handicap-inklusiv test
2. Tilbyd alternativer: Tilbyd altid en ikke-AI-vej gennem ansættelsesprocessen
3. Proaktiv akkommodation: Spørg om akkommodationsbehov før, ikke efter, automatiserede vurderinger
4. Menneskelig gennemgang: Lad aldrig AI træffe endelige ansættelsesafgørelser uden menneskelig tilsyn
5. Overvåg resultater: Spor ansøgnings-til-ansættelsesforhold efter handicapstatus (hvor oplyst) for at opdage uforholdsmæssig påvirkning
6. Involver mennesker med handicap: Inkluder medarbejdere med handicap og handicaporganisationer i AI-indkøbsbeslutninger

Ressourcer

• EU AI-loven, bilag III (højrisiko-AI-systemer): https://artificialintelligenceact.eu/annex/3/
• NYC Department of Consumer and Worker Protection — Automated Employment Decision Tools: https://www.nyc.gov/site/dca/about/automated-employment-decision-tools.page
• EEOC: iTutorGroup settlement pressemeddelelse: https://www.eeoc.gov/newsroom/itutorgroup-pay-365000-settle-eeoc-discriminatory-hiring-suit
• Cooley: "Gone but Not Forgotten: Federal Laws Still Apply Despite AI Guidance Disappearance Act" (2025): https://www.cooley.com/news/insight/2025/2025-02-21-gone-but-not-forgotten-federal-laws-still-apply-despite-guidance-disappearance-act