Le dirigeant d'Anthropic propose un plan pour ralentir le développement de l'intelligence artificielle

Le président exécutif d'Anthropic a présenté un plan visant à réduire la cadence du développement de l'intelligence artificielle. Ce projet a été rapporté par TechCrunch.

Le dirigeant a suggéré trois stratégies globales pour modérer le rythme des progrès. La première mesure consiste à intégrer des évaluateurs provenant d'organisations tierces, telles que METR, au sein des entreprises. Ces experts auraient pour mission de vérifier le respect des engagements de sécurité et de s'assurer que les incidents sont signalés. Anthropic s'est engagée unilatéralement à adopter cette pratique, qui inclut l'attribution de badges, de bureaux et d'ordinateurs portables aux évaluateurs, ainsi qu'un accès comparable à celui des équipes internes d'évaluation des risques. OpenAI a indiqué qu'elle suivrait cet exemple.

Une deuxième stratégie propose que les entreprises leaders situées dans des pays démocratiques coordonnent des normes de sécurité communes et fixent des limites au rythme des progrès non contrôlés. Pour éviter d'éventuelles poursuites pour pratiques anticoncurrentielles, le dirigeant a suggéré que le gouvernement des États-Unis serve de médiateur ou facilite ces discussions via une dérogation spécifique pour certaines conversations liées à la sécurité.

Enfin, le plan appelle à une coordination mondiale entre les États-Unis, leurs alliés et, dans la mesure du possible, les gouvernements autoritaires. Cela inclurait une coopération avec la Chine, même si les objectifs seraient limités, comme l'interdiction d'utiliser l'intelligence artificielle pour produire des armes biologiques.

Cette initiative fait suite à des avertissements de chercheurs sur les dangers de la technologie. Jacob Coxon a notamment quitté Anthropic, affirmant que les entreprises du secteur jouent avec des vies humaines et que la technologie pourrait causer une extinction humaine d'ici la fin de la décennie. Le dirigeant d'Anthropic a justifié son approche prudente par le piratage impliquant OpenAI et Hugging Face, ainsi que par l'accélération rapide des capacités des modèles à créer la génération suivante d'intelligence artificielle.

Concernant la concurrence chinoise, le dirigeant a affirmé que les États-Unis pourraient maintenir leur avance pendant trois à cinq ans en refusant la vente de puces puissantes et d'équipements de fabrication de semi-conducteurs à la Chine, tout en luttant contre la distillation de modèles.

Le projet a reçu le soutien d'Elon Musk et du dirigeant d'OpenAI, qui a confirmé que le rythme du développement était un sujet de discussion interne récent. À l'inverse, certains critiques, dont le journaliste Brian Merchant, considèrent ces avertissements comme une distraction face aux dommages actuels de la technologie ou comme une tentative de capture réglementaire servant les intérêts d'Anthropic et d'OpenAI. Le dirigeant d'Anthropic a répondu que le rejet actuel de l'industrie est fondamentalement une crise de confiance envers les entreprises et le gouvernement, tout en maintenant que l'intelligence artificielle peut grandement améliorer la vie humaine si elle est développée correctement.