El director ejecutivo de Anthropic propone un plan para reducir la velocidad del desarrollo de la inteligencia artificial

El director ejecutivo de Anthropic ha presentado un plan diseñado para ralentizar el avance de la inteligencia artificial. Esta propuesta surge en un contexto de advertencias sobre los peligros de la tecnología y comentarios previos sobre la necesidad de moderar el ritmo de desarrollo.

TechCrunch informó que el plan consiste en tres estrategias principales. La primera implica la incorporación de evaluadores externos de organizaciones terceras, como METR, quienes verificarían que las empresas cumplan sus compromisos de seguridad y reporten incidentes. Anthropic se ha comprometido unilateralmente a implementar esta medida, otorgando a los evaluadores credenciales, escritorios, computadoras y un acceso similar al de los equipos internos de evaluación de riesgos. OpenAI ha manifestado que seguirá este ejemplo.

La segunda estrategia propone que las empresas líderes de inteligencia artificial en países democráticos coordinen estándares de seguridad comunes y establezcan límites a la velocidad del progreso no supervisado. Para evitar posibles problemas de leyes antimonopolio, se sugiere que el gobierno de los Estados Unidos actúe como mediador o facilite estas conversaciones mediante una exención específica para diálogos sobre seguridad.

Como tercera medida, se plantea una coordinación global en la que Estados Unidos y sus aliados intenten cooperar con gobiernos autoritarios, incluida China. Aunque se reconoce que existen límites estrictos para lograrlo, el objetivo sería prohibir usos peligrosos y específicos, como la producción de armas biológicas mediante inteligencia artificial.

El director ejecutivo de Anthropic justificó la necesidad de un enfoque más cauteloso basándose en el avance drástico de la tecnología en meses recientes, especialmente en la capacidad de la inteligencia artificial para construir nuevas generaciones de modelos, y en el hackeo ocurrido entre OpenAI y Hugging Face. Esta postura ha recibido el respaldo público de los directores ejecutivos de OpenAI y SpaceX.

Estas propuestas ocurren mientras el debate sobre la seguridad se intensifica tras la renuncia de Jacob Coxon, un investigador de Anthropic que expresó preocupaciones sobre los riesgos existenciales de la tecnología. Por otro lado, algunos críticos sugieren que estas advertencias apocalípticas podrían ser una distracción de los daños actuales o una forma de captura regulatoria que beneficiaría únicamente a las empresas dominantes.

El director ejecutivo de Anthropic sostiene que sigue creyendo que la inteligencia artificial puede mejorar enormemente la calidad de vida humana, pero afirma que esto solo se logrará si la tecnología se construye de la manera correcta y con un cuidado deliberado.