Anthropic, Model Kötüye Kullanımı ve Seçim Müdahalesini Açıkça Yasaklamak İçin Kullanım Politikasını Güncelledi
Anthropic, Claude AI asistanı için güncellenmiş bir kullanım politikası yayımladı; çeşitli davranış kategorilerinde daha net kısıtlamalar getirirken meşru kullanıcı geri bildirimi için alan bıraktı.
Güncellenmiş politika, aşırı durumlarda Claude'u tekrar tekrar kötüye kullanmayı açıkça yasaklıyor. Anthropic, modele yönelik sıradan hayal kırklığı, eleştiri veya memnuniyetsizlik ifadelerinin hâlâ izin verildiğini; yalnızca sistematik veya ağır kötüye kullanımın sınırı aştığını netleştirdi.
Yeni açıklanan kısıtlamalar arasında seçim müdahalesi ve koordineli aldatıcı kampanyalar yer alıyor. Politika artık Claude'u seçim sonuçlarını etkilemek veya otantik olmayan etki operasyonları yürütmek için kullanmayı açıkça yasaklıyor. Silahla ilgili yazılım geliştirme ve gözetim uygulamaları da güncellenmiş koşullar kapsamında açıkça kısıtlanıyor.
Bu hamle, yapay zeka şirketlerinin modellerinin kötüye kullanılabileceği çeşitli yollarla boğuşmasıyla birlikte, daha ayrıntılı kullanım politikalarına doğru geniş bir sektör eğilimini yansıtıyor. Anthropic'in güncellemesi, kullanıcılara daha net rehberlik sağlamayı amaçlarken yüksek riskli uygulamalar etrafında sağlam sınırlar belirlemeyi hedefliyor.
Şirket, tüketici ve kurumsal ürünlerde dağıtım ölçeklendikçe politika çerçevelerini sıkılaştıran diğer büyük yapay zeka geliştiricilerine katılıyor.