Anthropic CEO'sı Dario Amodei Yapay Zeka Geliştirme Hızının Yavaşlatılmasını İstiyor, Üç Aşamalı Bir Çerçeve Öneriyor
Anthropic CEO'sı Dario Amodei, yapay zeka geliştirmesinin kasıtlı olarak yavaşlatılması gerektiğini, güvenlik önlemlerinin oluşturulması ve düzenleyicilerin modelleri düzgün bir şekilde değerlendirebilmesi için zaman tanınması gerektiğini savunan "We Must Pace the Frontier" başlıklı detaylı bir makale yayınladı.
Amodei, yapay zeka geliştirmesinin hızını ayarlamak için üç aşamalı bir çerçeve öneriyor. İlk adım, üçüncü taraf değerlendiricilerinin şirketler bünyesinde yerleştirilmesini ve güvenlik uygulamalarına ve taahhütlere uyuma ilişkin doğrulama yapmasını, ayrıca olayları raporlamasını içeriyor. Anthropic bu konuda tek taraflı olarak hareket ediyor ve METR (Model Evaluation and Threat Research) gibi kuruluşlara modellerine geniş kapsamlı erişim sağlıyor.
İkinci adım, demokratik ülkelerdeki frontier yapay zeka şirketleri arasında ortak güvenlik standartları ve uygulamaları belirlemek için koordinasyon çağrısında bulunuyor. Bu, muhtemelen hükümet katılımıyla sektörün bir araya gelmesini ve sektör genelinde tutarlı beklentiler oluşturmasını içerecek.
Üçüncü adım, ilk raporlamada tam olarak detaylandırılmadı.
Amodei'nin "frontier'i hızlandırma" çerçevesi açıkça eğitim çalışmalarının ve model geliştirmenin hızını yavaşlatmayı ifade ediyor — ilerlemeyi tamamen durdurmak değil, güvenlik önlemlerinin yetenek gelişmelerine yetişmesi için nefes alma odası oluşturmak.
Makale, diğer yapay zeka yöneticilerinden ve politikacılardan yanıtlar almaya devam ediyor; destekten muhalefete kadar değişen tepkilerle karşılanıyor. Tartışma, yapay zeka yeteneklerindeki hızlı ilerlemenin mevcut güvenlik çerçevelerini aşabileceğinin sektörde giderek daha fazla kabul gördüğünü vurguluyor, ancak ilerleme yolu tartışmalı kalmaya devam ediyor.