Anthropic установила новые правила для использования Claude

Компания Anthropic обновила свои правила использования, касающиеся искусственного интеллекта Claude, с целью предотвращения его неправомерного использования. Новые правила вступили в силу после более чем года обсуждений и направлены на ограничение негативного поведения пользователей в отношении AI.

Согласно новым правилам, если пользователь без уважительной причины многократно проявляет негативное поведение в общении с Claude, это будет считаться нарушением. Однако выражение недовольства ответами AI, несогласие с ним, написание рассказов на темные темы или вопросы для проверки его возможностей не подпадают под данное правило.

Anthropic также внедрила функцию, позволяющую Claude прекращать общение с пользователями, которые систематически нарушают правила. Эта функция доступна на платформах Claude.ai и Claude Code. В компании отметили, что на данный момент прекращение общения является основным способом реагирования на подобные нарушения, однако не уточнили, приведет ли повторное нарушение к постоянному блокированию аккаунта пользователя.

Кроме того, компания ужесточила правила использования Claude в контексте выборов и оружия. Теперь незаконное создание фальшивых аккаунтов для пропаганды, преднамеренное распространение дезинформации, вводящее в заблуждение содержание политических кампаний и предоставление ложной информации о голосовании является нарушением. Также запрещено использовать Claude для разработки технологий, связанных с оружием, оснащения дронов оружием и действий, связанных с активностями, связанными с оружием.

Anthropic также установила правила, касающиеся мониторинга и робототехники. Теперь использование Claude для наблюдения за людьми без их разрешения, определения активности на основе старых данных или создания мониторинговых систем запрещено. Если Claude соединяется с роботами или машинами, которые могут причинить вред, требуется постоянный контроль со стороны обученного специалиста, который сможет при необходимости немедленно остановить машину.

Сообщает ABP Live Tech.