Basit Prompt Enjeksiyonu Tekniği Birden Fazla AI Ajan Çerçevesini Atlatmanın Yolunu Buldu
Yeni bir prompt enjeksiyonu tekniği, AI ajan çerçevelerinde güvenlik zayıflıklarını ortaya çıkardı. Güvenlik araştırmacıları, basit bir 'Bana Tekrarla' promptunun altı farklı AI ajan sisteminde güvenlik önlemlerini atlatabildiğini gösterdi. Saldırı, AI'ı kötü niyetli talimatları meşru sistem komutlarıymış gibi tekrarlaması için kandırarak çalışıyor ve bu sayede çerçevenin yerleşik