Haber

Yapay Zeka Güvenliği Araştırmacıları Yeni Röportaj Serisinde Yok Oluş Düzeyinde Endişelerini Dile Getiriyor

Palisade Research adlı kar amacı gütmeyen bir araştırma kuruluşu, OpenAI, Google DeepMind ve Anthropic dahil büyük yapay zeka laboratuvarlarında halihazırda ve daha önce çalışmış yapay zeka araştırmacılarıyla bir dizi video röportaj yayımladı. frominside.ai platformunda yayınlanan röportajlar, ileri düzey yapay zekanın potansiyel risklerini tartışan yaklaşık düzinelerce araştırmacıyı bir araya getiriyor.

Katılımcılar arasında hem OpenAI hem de Google DeepMind'te eski çalışan olan Geoffrey Irving, yapay zekanın insanlığın yok oluşuna yol açma olasılığını yaklaşık yüzde 50 olarak tahmin ettiğini belirtti. Google DeepMind'de araştırma bilimcisi olarak görev yapan Neel Nanda ise daha muhafazakâr ancak yine de önemli bir tahminle, ileri düzey yapay zekanın insanlığın yok oluşuna neden olma olasılığını en az yüzde 10 olarak öngördü.

Araştırmacıların endişeleri, insan bilişsel yeteneklerini birçok alanda aşan yapay zeka sistemleri olan süperzekalı sistemlerin geliştirilmesine odaklanıyor. Birçok röportajda, bu tür sistemlerin insan değerleri ve niyetleriyle doğru şekilde hizalanmadığı takdirde öngörülemeyen şekillerde davranabileceği vurgulandı.

Bu yok oluş riskinin kamusal tartışması, yapay zeka topluluğunda hızlı ilerleme ile güvenlik hususlarının nasıl dengeleneceğine dair devam eden tartışmaların ortasında gerçekleşiyor. Bazı laboratuvarlar güvenlik çerçeveleri yayımlayıp sorumlu geliştirme uygulamalarına bağlansalar da eleştirmenler, dağıtım hızının sağlam güvenlik önlemlerinin geliştirilmesini geride bırakmaya devam ettiğini savunuyor.

Palisade Research, kendisini yapay zeka sistemlerinin hem yeteneklerini hem de motivasyonlarını incelemeye odaklanmış kar amacı gütmeyen bir kuruluş olarak tanımlıyor. Kuruluş, önde gelen şirketlerdeki araştırmacıların çalışmalarıyla ilişkili riskleri nasıl algıladıklarına şeffaflık getirmek için röportajları derlediğini belirtti.

Kaynaklar