Anthropic establece nuevas reglas para el uso de Claude

La empresa de inteligencia artificial Anthropic ha implementado nuevas regulaciones para el uso de su modelo de AI, Claude. Estas normas buscan restringir el uso indebido de la inteligencia artificial y se han establecido más de un año después de su política de uso aceptable anterior.

Según las nuevas reglas de Anthropic, si un usuario maltrata repetidamente a Claude sin justificación, esto se considerará una violación de las normas. Sin embargo, expresar enojo hacia las respuestas de la AI, estar en desacuerdo, escribir historias en tema oscuro o realizar preguntas para evaluar su capacidad no están incluidos en esta política.

Anthropic introdujo en agosto del año pasado una funcionalidad que permite a Claude finalizar conversaciones con usuarios que incurren en un comportamiento abusivo de manera continua. Esta característica está disponible en Claude.ai y Claude Code. Actualmente, la empresa ha indicado que la principal acción en tales casos es la finalización de la conversación, pero no ha especificado si un usuario podría perder su cuenta permanentemente tras violar las reglas repetidamente.

Además, las nuevas regulaciones también abordan el uso de Claude en relación con elecciones y armamento. Ahora se prohíbe crear cuentas falsas para hacer propaganda, difundir contenido de manera intencionada, engañar a las personas en campañas políticas o proporcionar información incorrecta sobre la votación. También se ha prohibido el uso de Claude para desarrollar tecnología necesaria para armas, equipar drones con armamento o realizar actividades relacionadas con armamentos a través de máquinas autónomas.

Anthropic también ha establecido normas para el uso de Claude en vigilancia y robótica. Se prohíbe utilizar Claude para vigilar a alguien sin su permiso, rastrear actividades mediante datos antiguos o crear sistemas de vigilancia. Además, si Claude se conecta a un robot o máquina que podría causar daño a alguien, se requiere que una persona capacitada supervise constantemente y pueda detener la máquina de inmediato si es necesario.

Esta información fue reportada por ABP Live Tech.