Anthropic CEO'su Dario Amodei, AI Geliştirme İçin 'Sınırı Yavaşlatma' Çerçevesi Önerdi
Anthropic CEO'su Dario Amodei, yapay zeka gelişiminin "sınırını yavaşlatma" olarak adlandırdığı bir çerçeve ortaya koydu. Bu çerçeve, yaklaşık bir hafta önce bir Anthropic araştırmacısının yaptığı kıyamet uyarısının yapay zeka topluluğunda endişe yaratmasının ardından gündeme geldi.
Öneri iki temel ayak üzerine kurulu: Yapay zeka sistemlerini yaygın dağıtımdan önce değerlendirecek bağımsız güvenlik değerlendiricileri ve demokratik ülkelerde faaliyet gösteren yapay zeka laboratuvarları arasındaki koordinasyon. Bu yaklaşım, ilerlemeyi tamamen durdurmadan denge ve kontrol mekanizmaları oluşturmayı amaçlıyor.
Girişim, sektör paydaşlarından bazı destekler aldı. Ancak Nvidia CEO'su Jensen Huang'ın çerçeveye keskin eleştiriler yönelttiği ortaya çıktı. Bu anlaşmazlık, yapay zeka endüstrisinde kontrollü gelişimi savunanlarla hızlı ilerlemeyi tercih edenler arasındaki devam eden gerilimi gözler önüne seriyor.
Amodei'nin önerisinin zamanlaması, giderek daha güçlü yapay zeka sistemlerinin potansiyel risklerine ilişkin Anthropic araştırmacılarının uyarılarının ardından yapay zeka güvenliğine yönelik artan incelemeler dönemine denk geliyor.