Anthropic, Claude için yeni kurallar belirledi

AI sohbet botlarına yönelik kötü muameleye karşı yeni düzenlemeler getiren Anthropic, kullanıcıları korumak amacıyla önemli adımlar attı. Şirket, AI'nın kötüye kullanımını önlemek için Acceptable Use Policy'sinde değişiklikler yaptı.

Yeni kurallara göre, kullanıcılar Claude ile neden olmaksızın sürekli olarak kötü muamelede bulunursa, bu durum kuralların ihlali olarak kabul edilecek. Ancak, AI'nın yanıtlarına kızma, onunla aynı fikirde olmama veya yeteneklerini test etmek amacıyla sorular sorma gibi durumlar bu kuralın dışında kalacak.

Anthropic, daha önce sunduğu bir özellik sayesinde, sürekli kötü muamelede bulunan kullanıcılarla konuşmayı sona erdirebilen Claude'yu tanıtmıştı. Bu özellik Claude.ai ve Claude Code platformlarında kullanılabiliyor. Şirket, ihlallerin devam etmesi durumunda kullanıcıların hesaplarının kalıcı olarak kapatılıp kapatılmayacağına dair henüz bir açıklama yapmadı.

Ayrıca, Anthropic, Claude kullanımına ilişkin seçim ve silahlarla ilgili kuralları da sıkılaştırdı. Artık AI yardımıyla sahte hesaplar oluşturarak propaganda yapmak, içerikleri kasıtlı olarak yaymak veya oy verme ile ilgili yanlış bilgi vermek yasaklandı. Ayrıca, Claude'nun silah teknolojisi geliştirilmesi veya silahlarla donatılmış dronlar için kullanılması da yasaklandı.

Nihayetinde, Claude ile ilgili gözetim ve robotik kurallar da belirlendi. Kullanıcı izni olmadan birine gözetim yapma veya eski verilerle aktiviteleri takip etme amacıyla Claude'nun kullanılması yasaklandı. Ayrıca, Claude'nun bağlandığı robot veya makine birine zarar verebilecekse, eğitimli bir kişinin sürekli gözetim sağlaması ve gerektiğinde makineyi derhal durdurabilmesi zorunlu olacak. Bu gelişmeler, AI'nın etik ve güvenli kullanımını sağlamak için önemli bir adım olarak değerlendiriliyor.

Haberi ABP Live Tech verdi.