Eski Anthropic Araştırmacısı İstifa Etti, Kendini Geliştiren Yapay Zeka Riskleri Konusunda Uyardı
Matematiksel hizalama ve model güvenliği üzerine odaklanan bir araştırmacı olarak Anthropic'te görev yapan Jacob Coxon, şirketten ayrılarak ileri düzey yapay zeka geliştirilmesinden kaynaklanan varoluşsal riskler konusunda kamuoyuna açıklama yapmaya karar verdi.
Yaptığı açıklamalarda Coxon, özellikle kendini geliştiren yapay zeka sistemleriyle ilgili endişelerini dile getirdi—yani kapasitelerini özerk bir