Anthropic estabelece novas regras para uso do Claude

A empresa de inteligência artificial Anthropic anunciou novas diretrizes para o uso de seu modelo de IA, Claude, com o objetivo de combater abusos e comportamentos inadequados por parte dos usuários. As novas regras foram introduzidas após mais de um ano de revisões na Acceptable Use Policy da companhia.

De acordo com as novas diretrizes, comportamentos repetidos e injustificados de má conduta com Claude serão considerados uma violação das regras. No entanto, expressar raiva em relação às respostas da IA, discordar dela, solicitar histórias em temas sombrios ou fazer perguntas para testar suas capacidades não se enquadram nessas proibições.

Além disso, a Anthropic implementou um recurso que permite ao Claude encerrar conversas com usuários que apresentem comportamento inadequado de forma contínua. Essa funcionalidade está disponível nas plataformas Claude.ai e Claude Code. A empresa ainda não revelou se a conta do usuário será permanentemente desativada após repetidas violações das regras.

As novas políticas também incluem restrições mais rigorosas sobre o uso do Claude em contextos relacionados a eleições e armamentos. Criar contas falsas para promover conteúdo, disseminar informações errôneas durante campanhas políticas e utilizar a IA para desenvolver tecnologias relacionadas a armamentos foram explicitamente proibidos.

Por fim, a Anthropic definiu normas para o uso do Claude em monitoramento e robótica. O uso do modelo para vigilância sem consentimento, para rastrear atividades a partir de dados antigos ou para construir sistemas de monitoramento foi vetado. Além disso, se o Claude for conectado a robôs ou máquinas que possam causar danos, deve haver a supervisão de um profissional treinado para garantir a segurança e a possibilidade de interromper a máquina quando necessário. A ABP Live Tech reportou a história.