Anthropic har infört nya regler för AI-modellen Claude

AI-företaget Anthropic har ändrat sin Acceptable Use Policy för att förhindra missbruk av AI-modellen Claude. De nya reglerna, som trädde i kraft efter mer än ett års diskussioner, innebär att användare som upprepade gånger och utan anledning beter sig illa mot Claude kan få sina handlingar betraktade som ett brott mot reglerna. Det är dock tillåtet att uttrycka ilska över AI:s svar, vara oense, ställa frågor för att testa dess kapabiliteter eller be om berättelser i mörk tema.

Dessutom lanserade Anthropic i augusti förra året en funktion som gör det möjligt för Claude att avsluta samtal med användare som uppvisar konstant dåligt beteende. Denna funktion är tillgänglig på både Claude.ai och Claude Code. Företaget har dock inte klargjort om ett konto kan stängas permanent för upprepade regelbrott.

Reglerna för användning av Claude har även skärpts när det gäller val och vapen. Att skapa falska konton för att sprida propaganda, medvetet öka spridningen av innehåll, vilseleda väljare eller ge felaktig information om röstning är nu förbjudet. Dessutom är det inte tillåtet att använda Claude för att utveckla teknik som är nödvändig för vapen, beväpna drönare eller utföra vapenrelaterade aktiviteter med autonom maskinvara.

Anthropic har också infört regler kring övervakning och robotik i samband med användningen av Claude. Det är inte tillåtet att använda Claude för att övervaka någon utan tillstånd, identifiera aktiviteter från gammal data eller skapa övervakningssystem. Om Claude kopplas till en robot eller maskin som kan orsaka skada, krävs det att en utbildad person övervakar kontinuerligt och omedelbart kan stoppa maskinen vid behov. ABP Live Tech rapporterade historien.