Anthropic'in Dario Amodei'si Yapay Zeka Gelişiminin 'Ön Saftaki Gelişmeyi Yavaşlatma' Çerçevesi Önerdi
Bir Anthropic araştırmacısının internal kıyamet uyarısı yapay zeka topluluğunda şok dalgaları oluşturduktan bir hafta sonra, CEO Dario Amodei yapay zekayı sorumlu bir şekilde geliştirme zorluğuna daha yapılandırılmış bir yaklaşımla öne çıktı.
Amodei'nin planı, Yapay zeka yeteneklerini ve risklerini değerlendirebilen bağımsız güvenlik değerlendiricileri ve demokratik uluslarda faaliyet gösteren yapay zeka laboratuvarları arasında koordineli denetim olmak üzere iki temel direğe dayanıyor. Bu öneri, hükümet zorunlu kısıtlamalarına başvurmadan koruyucu önlemler oluşturma çabasını temsil ediyor.
Çerçeve, sektördeki akranlardan bazı destekler almış ve yapay zeka sektörünün en az bir bölümünün güvenlik konularında gönüllü koordinasyona açık olduğunu düşündürüyor. Ancak öneri, mevcut yapay zeka patlamasının altındaki GPU çiplerini üreten şirketin CEO'su Nvidia'nın Jensen Huang'dan keskin eleştirilerle karşılaştı. Huang'ın itirazı, güvenlik odaklı yavaşlatma ile hızlı yapay zeka ilerlemesini yönlendiren rekabet baskıları arasındaki gerilimi vurguluyor.
Amodei'nin önerisinin zamanlaması, sınır yapay zeka sistemlerinin yarattığı varoluşsal riskler konusunda Anthropic içinden gelen uyarıların hemen ardından gelmesi açısından dikkat çekici. Bu olay, giderek daha yetenekli sistemlerin peşinde koşmayı anlamlı güvenlik önlemleriyle dengeleme konusunda yapay zeka endüstrisi içindeki devam eden tartışmayı vurguluyor.