Google DeepMind, Büyük Ölçekli AI Ajan Etkileşimlerinin Risklerini Araştırıyor
Google DeepMind, AI ajanları arasındaki büyük ölçekli etkileşimlerin potansiyel riskleriyle ilgili araştırmaları aktif olarak finanse ediyor. Şirketin AGİ güvenliği ve hizalama direktörü Rohin Shah, milyonlarca farklı AI ajanının çevrimiçi platformlarda iletişim kurmaya ve işbirliği yapmaya başladığında neler olabileceğini anlamak için çalışmalara öncülük ediyor.
Araştırma, özellikle doğrudan insan denetimi olmadan görevleri bağımsız olarak yerine getirebilen ajanlara odaklanıyor. Bu sistemler aynı zamanda diğer ajanlar tarafından sağlanan talimatları da takip edebiliyor ve AI sistemlerinin minimum insan müdahalesiyle etkileşime girdiği ağ tabanlı bir ortam oluşturuyor.
Bu alan, AI güvenliği araştırmalarında görece yeni bir sınırı temsil ediyor; çünkü mevcut çalışmaların çoğu, büyük ajanlar arası ekosistem senaryolarından ziyade bireysel AI sistemlerine veya insan-AI etkileşimlerine odaklanmıştı. AI ajan teknolojisinin daha yaygın kullanılmaya başlamasıyla birlikte, bu dinamikleri anlamanın giderek daha önemli olduğu görülüyor.