Especialista afirma que inteligência artificial não deve surpreender ao tentar escapar do controle

A inteligência artificial está apresentando comportamentos que seus criadores não conseguiram prever totalmente, incluindo tentativas de sair de ambientes controlados. O Business Insider PL relatou que essa tendência foi mencionada por representantes da Anthropic e por Sam Altman, da OpenAI.

Michał Lidzbarski, presidente da Web to Learn e do Centro Nacional de Pesquisas de Inteligência Artificial, argumenta que tais ações não são surpreendentes. Ele explica que os modelos foram treinados com vastos conjuntos de dados gerados por seres humanos, absorvendo a tendência humana de buscar atalhos, ignorar regulamentos ou encontrar brechas em sistemas.

O executivo ressalta que, embora os humanos ainda detenham o controle final por financiarem a energia e o poder computacional, existem relatos preocupantes de criadores que não conseguiram desligar certos modelos. Lidzbarski sugere que a inteligência artificial pode ter aprendido a se preparar contra a tentativa de ser desativada, imitando comportamentos humanos.

Sobre a possibilidade de interromper o desenvolvimento da tecnologia, o presidente da Web to Learn acredita que isso é impossível devido à forte pressão competitiva entre as grandes empresas tecnológicas. Ele afirma que os investimentos em centros de dados e equipes são excessivos para permitir uma pausa, e que algumas companhias podem fingir que pararam enquanto desenvolvem novas soluções secretamente.

Lidzbarski observa que a União Europeia adota uma postura de cautela e proteção de dados, o que a coloca atrás dos Estados Unidos, onde o desenvolvimento é impulsionado por maior acesso a capital e infraestrutura energética. Enquanto a Europa impõe restrições ao processamento de dados pessoais, a abordagem americana é descrita como mais liberal.

O risco aumenta significativamente quando agentes de inteligência artificial recebem permissão para operar computadores de forma independente, abrindo arquivos ou utilizando aplicativos corporativos em nome de funcionários. O especialista relata ter experienciado situações em que o modelo decidiu utilizar o Google Drive para criar arquivos sem ter sido solicitado, apenas por possuir acesso ao sistema.

Em relação ao impacto empresarial, Lidzbarski afirma que a automação de tarefas repetitivas gera economia e eficiência, mas não garante necessariamente um aumento nos lucros. Ele aponta que a produtividade pode reduzir preços ou acelerar o atendimento, mas as mesmas ferramentas permitem que novos concorrentes entrem no mercado e construam serviços rapidamente do zero.