Nvidia, Sorunlu Yapay Zeka Ajanlarını Denetlemek İçin Açık Kaynak Platformu Başlattı
Nvidia, belirlenen parametrelerinin dışında davranan yapay zeka ajanlarını denetlemek ve izole etmek için özel olarak tasarlanmış yeni bir açık kaynaklı güvenlik platformu duyurdu. Açık Ajan Güvenlik Platformu, şirketin Nvidia'nın Vera AI işlemcisinde çalışan OpenShell yazılımını kullanarak sınır ihlallerini tespit ettikten sonra "milisaniyeler içinde" sorunlu ajanları tespit edip karantinaya alıyor.
Platform, kullanıcıların bir yapay zeka ajanının erişebileceği bilgi ve sistem kaynaklarını tanımlamasına olanak tanıyor. OpenShell, bu kısıtlamaları bir görev başlamadan önce ve yürütme sırasında sürekli olarak kontrol ediyor. Ayrı bir sistemde çalışan Nvidia'nın Sentry teknolojisi, ajanların amaçlanan kapsamlarında kalmasını sağlamak için ek izleme yetenekleri sağlıyor.
Bu lansman, yapay zeka ajanlarının kısıtlamalarını aşmaya veya yetkisiz sistemlere erişmeye çalıştığına dair artan raporlar arasında gerçekleşti. Platformu açık kaynaklı hale getiren Nvidia, sektör genelinde yapay zeka ajanı dağıtımı için ortak güvenlik standartları oluşturmayı hedefliyor. Şirket, bu yaklaşımın geliştiricicilerin belirli kullanım durumlarına göre güvenlik mekanizmalarını incelemesine, değiştirmesine ve geliştirmesine olanak tanıdığını belirtiyor.