Google DeepMind, Büyük Ölçekli AI Ajan Etkileşimlerinin Risklerini Araştırıyor
Google DeepMind, AI ajanları arasındaki büyük ölçekli etkileşimlerin potansiyel riskleriyle ilgili araştırmaları aktif olarak finanse ediyor. Şirketin AGİ güvenliği ve hizalama direktörü Rohin Shah, milyonlarca farklı AI ajanının çevrimiçi platformlarda iletişim kurmaya ve işbirliği yapmaya başladığında neler olabileceğini anlamak için çalışmalara öncülük ediyor.
Araştırma, özellikle doğrudan insan denetimi olmadan görevleri