Anthropic Kurucu Ortağı, Yapay Zekanın 2027'ye Kadar Kendini Geliştirmeye Başlayabileceğini Öngörüyor
Kendini Geliştirme Zaman Çizelgesi
Yakın tarihli bir açıklamada, yapay zeka güvenliği şirketi Anthropic'in kurucu ortağı, yapay zekanın kendi algoritmalarını ve mimarilerini geliştirmeye başlayabileceği bir zaman çizelgesini ortaya koydu. Bu öngörüye göre, bu tür kendi kendini geliştiren sistemler 2027'ye kadar ortaya çıkabilir ve bu, öncelikle insanlar tarafından tasarlanan ve güncellenen yapay zekadan performansını yinelemeli olarak geliştirebilen yapay zekaya potansiyel bir geçişi işaret ediyor.
Yapay Zeka Güvenliği İçin Çıkarımlar
Otonom yapay zeka kendi kendini geliştirme perspektifi, yapay zeka güvenliği ve yönetişimi alanı için önemli sorular gündeme getirmektedir. Bir yapay zeka sistemi kendi kodunu veya eğitim prosedürlerini değiştirebiliyorsa, insan denetimini aşabilecek bir hızda ilerleme kaydedebilir; bu durum hem hızlı ilerleme fırsatları hem de uyum, kontrol ve öngörülmeyen davranışla ilgili riskler yaratabilir.
Yeni Bir Paradigma İçin Hazırlık
Uzmanlar, bu gelişmeleri önceden tahmin etmenin, araştırma topluluğunun ve politika yapıcıların güvenlik önlemleri ile değerlendirme çerçeveleri oluşturmasına yardımcı olabileceğini vurgulamaktadır. Zaman çizelgesi spekülatif kalmaya devam etse de, bu tartışma giderek otonom hale gelen yapay zeka sistemlerinin teknik ve etik çıkarımlarını anlamaya yönelik artan ilgiyi yansıtmaktadır.