Kalifornië voert nieuwe beperkingen in op ontslagen via kunstmatige intelligentie

De staat Kalifornië heeft nieuwe regelgeving ingevoerd die voorkomt dat werkgevers bepaalde kritieke beslissingen over werknemers uitsluitend overlaten aan systemen van kunstmatige intelligentie. De wetten, die zijn aangekondigd door gouverneur Gavin Newsom, stellen grenzen aan het gebruik van kunstmatige intelligentie, met name bij ontslagen, disciplinaire processen en het toezicht op werknemers op de werkplek.

Teknoblog meldde dat de focus van deze regels niet ligt op het vervangen van werknemers door kunstmatige intelligentie, maar op de mate waarin automatische systemen kunnen worden vertrouwd bij het nemen van beslissingen over bestaand personeel. Onder de nieuwe regels mag kunstmatige intelligentie niet het enige beslissingsmechanisme zijn wanneer een werknemer een disciplinaire straf krijgt of wordt ontslagen. Hiermee wordt beoogd dat werknemers meer bescherming genieten bij automatische besluitvormingsprocessen die hun loopbaan direct beïnvloeden.

De regelgeving vereist meer transparantie van bedrijven in situaties zoals collectieve ontslagen, het verplaatsen van werkplekken of het beëindigen van arbeidsovereenkomsten waarbij gebruik is gemaakt van kunstmatige intelligentie. Daarnaast zijn er nieuwe beperkingen opgelegd aan waar en hoe monitoringtechnologieën mogen worden ingezet. Zo is het gebruik van surveillance-technologie in toiletten op de werkplek verboden om de privacy van werknemers te beschermen.

In de juridische sector verbieden de regels dat advocaten het voorbereiden van basisjuridische werken, zoals petities, volledig overdragen aan systemen van kunstmatige intelligentie. De technologie mag als hulpmiddel dienen, maar de uiteindelijke verantwoordelijkheid moet bij een mens blijven liggen.

Newsom tekende tevens een uitvoerend bevel waarin staat dat staatsinstellingen de term "artificial intelligence", oftewel "kunstmatige intelligentie", moeten blijven gebruiken. Dit volgde op de beslissing van de regering-Trump om een andere terminologie te hanteren voor sommige federale werknemers. Newsom uitte scherpe kritiek op de benadering dat de sector van kunstmatige intelligentie zichzelf op federaal niveau kan reguleren en stelde dat de federale overheid onvoldoende regelgeving heeft ingesteld.

De achtergrond van deze maatregelen omvat discussies over algoritmische systemen bij personeelsbesluiten. Er wordt vermeld dat werknemers van Meta hebben beweerd dat bepaalde instrumenten van kunstmatige intelligentie personen met medisch verlof onevenredig vaak selecteerden voor ontslag. Daarnaast meldt een onderzoek van HR Dive dat ongeveer een kwart van de managers aangeeft vaak of altijd gebruik te maken van kunstmatige intelligentie bij het bepalen welke werknemers ontslagen worden.