Diretor executivo da Anthropic propõe plano para desacelerar o desenvolvimento de inteligência artificial

O diretor executivo da Anthropic, Dario Amodei, apresentou um plano com três estratégias amplas para reduzir a velocidade do desenvolvimento de inteligência artificial. A iniciativa surge em meio a avisos de pesquisadores sobre os perigos da tecnologia e comentários de outros executivos do setor sobre a necessidade de moderar o ritmo de avanço da fronteira tecnológica.

O TechCrunch relatou a história, destacando que a Anthropic está se comprometendo unilateralmente com a primeira de suas propostas. Esta medida envolve a inclusão de avaliadores integrados de organizações terceiras, como a METR, que teriam a função de verificar se as empresas estão cumprindo seus compromissos de segurança e ritmo, além de garantir a notificação de incidentes. Esses avaliadores teriam acesso a crachás, mesas e computadores da empresa, com permissões semelhantes às de equipes internas de avaliação de risco. O diretor executivo da OpenAI, Sam Altman, afirmou que a OpenAI também seguirá esse exemplo.

Amodei sugeriu que as principais empresas de inteligência artificial situadas em países democráticos coordenem limites para o progresso não verificado e estabeleçam padrões comuns de segurança. Para evitar possíveis problemas de fiscalização antitruste, ele propôs que o governo dos Estados Unidos atue como mediador ou facilite essas discussões, emitindo uma isenção específica para certas conversas sobre segurança.

Sobre a possibilidade de a China dominar o setor, o executivo argumentou que o progresso chinês poderia ser retardado se o governo americano e as empresas de tecnologia restringissem a venda de equipamentos de fabricação de semicondutores e chips potentes, além de combater a destilação de modelos. Segundo ele, tais medidas poderiam ampliar a liderança dos Estados Unidos nos próximos três a cinco anos.

A terceira estratégia proposta é a coordenação global, buscando cooperação com governos autoritários, incluindo a China, na medida do possível. Amodei admitiu que existem limites severos para o que pode ser alcançado, mas sugeriu acordos para proibir usos obviamente perigosos, como a produção de armas biológicas via inteligência artificial.

O plano foi motivado por dois fatores principais: a invasão ocorrida entre OpenAI e Hugging Face e a percepção de que a inteligência artificial tem avançado drasticamente mais rápido nos últimos meses, especialmente em sua capacidade de construir a próxima geração de sistemas. A discussão ocorre após o pesquisador Jacob Coxon ter renunciado à Anthropic, alegando que empresas do setor estariam apostando com a vida humana.

Enquanto alguns executivos, como Elon Musk, apoiaram a visão de Amodei, críticos e jornalistas questionam a validade dos avisos apocalípticos. Brian Merchant sugeriu que tais propostas poderiam servir apenas aos interesses da Anthropic e da OpenAI, caracterizando o que seria a captura regulatória. Amodei rebateu as críticas afirmando que busca oferecer uma perspectiva equilibrada e que a reação negativa reflete uma crise de confiança nas empresas de tecnologia e no governo.