Kalifornien führt Beschränkungen für den Einsatz von künstlicher Intelligenz bei Personalentscheidungen ein

Der US-Bundesstaat Kalifornien hat neue Vorschriften erlassen, die Arbeitgeber daran hindern, bestimmte kritische Entscheidungen über Mitarbeiter ausschließlich Systemen der künstlichen Intelligenz zu überlassen.

Wie Teknoblog berichtete, setzen die vom Gouverneur Gavin Newsom angekündigten Gesetze Grenzen für den Einsatz künstlicher Intelligenz, insbesondere bei Entlassungen, Disziplinarverfahren und der Überwachung von Mitarbeitern am Arbeitsplatz. Die Regelungen zielen nicht darauf ab, den Einsatz von künstlicher Intelligenz anstelle von Menschen zu verbieten, sondern legen fest, in welchem Maße automatisierte Systeme bei Entscheidungen über bestehende Mitarbeiter genutzt werden dürfen. Es ist künftig nicht mehr zulässig, dass künstliche Intelligenz der einzige Entscheidungsmechanismus für die Verhängung von Disziplinarstrafen oder die Kündigung eines Mitarbeiters ist.

Die Gesetze fordern eine größere Transparenz von Unternehmen in Situationen, in denen künstliche Intelligenz für Massenentlassungen, Standortverlegungen oder die Beendigung von Arbeitsverhältnissen genutzt wird. Zudem gibt es neue Grenzen für Überwachungstechnologien; so ist der Einsatz solcher Systeme in Toiletten am Arbeitsplatz untersagt, um die Privatsphäre der Beschäftigten zu schützen.

Im Rechtssektor verhindern die neuen Regeln zudem, dass Anwälte die Erstellung von Schriftsätzen und grundlegende juristische Arbeiten vollständig an Systeme der künstlichen Intelligenz delegieren. Die Technologie soll als Hilfsmittel dienen, während die endgültige Verantwortung beim Menschen verbleiben muss.

Newsom unterzeichnete zudem eine Anordnung, wonach staatliche Institutionen weiterhin den Begriff „künstliche Intelligenz“ verwenden sollen. Dies erfolgte nach einer Entscheidung der Trump-Regierung, eine andere Terminologie für einige Bundesbedienstete einzuführen. Newsom kritisierte zudem den Ansatz auf Bundesebene, wonach sich der Sektor der künstlichen Intelligenz selbst regulieren könne, und warf der Bundesregierung mangelnde Regulierung vor.

Im Hintergrund stehen Diskussionen über algorithmische Systeme bei Personalentscheidungen. Es wurde erwähnt, dass Mitarbeiter von Meta behaupteten, bestimmte Werkzeuge der künstlichen Intelligenz hätten Personen mit medizinischen Urlauben überproportional häufig für Entlassungen ausgewählt. Laut einer von HR Dive zitierten Studie gaben etwa ein Viertel der Manager an, bei der Entscheidung über Entlassungen häufig oder immer künstliche Intelligenz zu nutzen.