Anthropic wprowadza nowe zasady użytkowania dla modelu Claude

Firma Anthropic wprowadziła zmiany w swojej polityce dopuszczalnego użytkowania, które dotyczą użytkowników modelu Claude.

Jak poinformował serwis ABP Live Tech, nowe przepisy zakazują uporczywego i bezpodstawnego złego traktowania sztucznej inteligencji. Naruszenie tych zasad nie obejmuje jednak wyrażania złości w odpowiedzi na odpowiedzi modelu, niezgadzania się z nim, pisania mrocznych opowieści ani zadawania pytań w celu sprawdzenia jego możliwości.

Od sierpnia ubiegłego roku w usługach Claude.ai oraz Claude Code dostępna jest funkcja pozwalająca modelowi na samodzielne zakończenie rozmowy z użytkownikiem, który zachowuje się niewłaściwie. Jest to obecnie główna metoda reakcji, choć firma nie sprecyzowała, czy powtarzające się naruszenia mogą prowadzić do stałego zablokowania konta użytkownika.

Zaostrzono również regulacje dotyczące wyborów i uzbrojenia. Zabronione jest wykorzystywanie sztucznej inteligencji do tworzenia fałszywych kont w celu prowadzenia kampanii, celowego zwiększania zasięgu treści, wprowadzania ludzi w błąd w kampaniach politycznych oraz przekazywania błędnych informacji o głosowaniu. Zakaz obejmuje także wykorzystanie modelu do opracowywania technologii niezbędnych do budowy broni, uzbrajania dronów oraz prowadzenia działań zbrojnych za pomocą autonomicznych maszyn.

Nowe zasady regulują także kwestie nadzoru i robotyki. Claude nie może być używany do śledzenia osób bez ich zgody, wykrywania aktywności na podstawie starych danych ani tworzenia systemów nadzoru. W przypadku połączenia modelu z robotem lub maszyną, która mogłaby wyrządzić komuś krzywdę, wymagany jest stały nadzór przeszkolonej osoby zdolnej do natychmiastowego zatrzymania urządzenia.