La Californie impose des limites à l'utilisation de l'intelligence artificielle pour les licenciements

L'État de Californie a mis en œuvre de nouvelles réglementations qui interdisent aux employeurs de confier certaines décisions critiques concernant les employés uniquement à des systèmes d'intelligence artificielle.

Teknoblog a rapporté que ces lois, annoncées par le gouverneur Gavin Newsom, instaurent des limites sur l'usage de l'intelligence artificielle, particulièrement pour les licenciements, les processus disciplinaires et la surveillance des travailleurs sur le lieu de travail. Le cadre réglementaire ne vise pas à empêcher le remplacement des employés par l'intelligence artificielle, mais à limiter la confiance accordée aux systèmes automatisés lors de la prise de décision concernant le personnel actuel. Il ne sera plus possible que l'intelligence artificielle soit le seul mécanisme de décision pour le licenciement ou la sanction disciplinaire d'un employé.

Le gouverneur Newsom a affirmé que l'intelligence artificielle doit accroître les opportunités sans que cela se fasse au détriment des travailleurs et de leurs familles. L'approche de l'administration californienne privilégie le maintien d'une supervision humaine plutôt qu'une restriction totale de la technologie. Les entreprises devront faire preuve de plus de transparence lors de licenciements collectifs, de transferts de lieux de travail ou de ruptures de contrats réalisés avec l'aide de l'intelligence artificielle.

Les nouvelles règles incluent des dispositions sur la surveillance, interdisant notamment l'usage de technologies de surveillance dans les toilettes afin de protéger la vie privée. Dans le secteur juridique, les avocats ne peuvent plus déléguer entièrement la préparation de requêtes ou de travaux juridiques fondamentaux à des systèmes d'intelligence artificielle, la responsabilité finale devant rester humaine.

Par ailleurs, Newsom a signé un décret demandant aux institutions de l'État de continuer à utiliser le terme « intelligence artificielle ». Cette décision fait suite à l'adoption d'une terminologie différente pour certains employés fédéraux par l'administration Trump. Le gouverneur s'est opposé fermement à l'idée que le secteur de l'intelligence artificielle puisse s'autoréguler au niveau fédéral, soutenant que le gouvernement fédéral n'a pas instauré de réglementations suffisantes.

Ces mesures s'inscrivent dans un contexte de débats sur les systèmes algorithmiques. Des employés de Meta ont affirmé que certains outils d'intelligence artificielle de l'entreprise sélectionnaient de manière disproportionnée les personnes en congé maladie parmi les employés à licencier. De plus, une étude relayée par le site de ressources humaines HR Dive indique qu'environ un quart des managers déclarent utiliser fréquemment ou systématiquement l'intelligence artificielle pour décider quels employés doivent être licenciés.