Anthropic ve OpenAI, Riskli Yapay Zekâyı Durdurma Sorumluluğu Konusunda Ayrışıyor
Anthropic ve OpenAI, kabul edilemez risk oluşturduğu değerlendirilen yapay zekâ sistemlerini durdurma sorumluluğunun kime ait olması konusunda farklı yönlerde ilerliyor. Anlaşmazlığın odağı, gelişmiş modelleri durdurma sorumluluğunun bu modelleri geliştiren şirketlerde, kamu makamlarında ya da başka bir denetim biçiminde olup olmadığı.
Farklı konumlar, daha geniş bir yönetişim zorluğunu çerçeveliyor: Giderek daha yetenekli yapay zekâ sistemleri geliştirenler, belirli tehlikeleri en iyi kimin fark edebileceği açısından en uygun konumda bulunuyor. Ancak ticari çıkarlar güvenlik kaygılarıyla çeliştiğinde bağımsız müdahale gerekebilir. Mevcut rapor, kuruluşların özgün önerilerini ayrıntılı biçimde açıklamıyor; dolayısıyla uygulamada nasıl farklılaştıkları veya aşırı riskleri yönetmek için hangi mekanizmaları destekledikleri belirsiz kalıyor.
Yapay zekâ geliştirme ilerledikçe sorumluluğun, teknik kontrolün ve dış denetimin nasıl paylaşılması gerektiği hâlâ sınanıyor. Anthropic ile OpenAI arasındaki ayrışma, büyük yapay zekâ laboratuvarlarının ortak bir yanıta henüz ulaşmadığını gösteriyor.