Kaliforniya innfører begrensninger for bruk av kunstig intelligens ved oppsigelser

Delstaten Kaliforniya har innført nye reguleringer som hindrer arbeidsgivere i å overlate kritiske beslutninger om ansatte utelukkende til systemer for kunstig intelligens.

Teknoblog rapporterte at lovene, som ble kunngjort av guvernør Gavin Newsom, setter grenser for bruken av kunstig intelligens spesielt innen disiplinærprosesser, oppsigelser og overvåking av ansatte på arbeidsplassen. Fokus for reguleringene er ikke å hindre at selskaper bruker kunstig intelligens i stedet for ansatte, men i hvilken grad de kan stole på automatiserte systemer når de tar beslutninger om eksisterende personell. Under de nye reglene vil det ikke være mulig at kunstig intelligens er den eneste beslutningsmekanismen når det gjelder om en ansatt skal få en disiplinærstraff eller bli sagt opp.

Lovverket består av flere reguleringer som omfatter automatiserte systemer i ulike arbeidsområder. Selskaper må nå utvise større åpenhet i prosesser som involverer masseoppsigelser, flytting av arbeidsplasser eller oppsigelse av arbeidsavtaler utført ved hjelp av kunstig intelligens. Det er også innført nye grenser for hvor og hvordan arbeidsgivere kan bruke overvåkingsteknologi på ansatte, inkludert et forbud mot bruk av slik teknologi på toaletter på arbeidsplassen.

Innen juridisk sektor hindrer de nye reglene advokater fra å delegere grunnleggende juridisk arbeid, som utarbeidelse av begjæringer, fullstendig til systemer for kunstig intelligens. Målet er at teknologien skal fungere som et støtteverktøy, mens det endelige ansvaret forblir hos mennesket.

Guvernør Newsom understreket at mulighetene ved kunstig intelligens må øke uten at det skjer på bekostning av ansatte og deres familier. Han signerte også et dekret som krever at delstatsinstitusjoner fortsetter å bruke begrepet kunstig intelligens, noe som kom etter at Trump-administrasjonen innførte annen terminologi for enkelte føderale ansatte. Newsom uttrykte sterk motstand mot ideen om at sektoren for kunstig intelligens kan regulere seg selv på føderalt nivå og hevdet at den føderale regjeringen ikke har gjort tilstrekkelige reguleringer.

Bakgrunnen for tiltakene inkluderer debatter om algoritmiske systemer i personellbeslutninger. Det er hevdet av ansatte i Meta at enkelte verktøy for kunstig intelligens uforholdsmessig valgte ut personer med medisinsk permisjon for oppsigelse. I tillegg viser en undersøkelse formidlet av HR Dive at omtrent en fjerdedel av ledere rapporterer at de ofte eller alltid bruker kunstig intelligens når de bestemmer hvilke ansatte som skal sies opp.