Araştırmacılar Yapay Zeka Destekli Kötü Amaçlı Yazılımları Tespit Etmek İçin Çerçeve Geliştirdi
Cisco Talos'taki siber güvenlik araştırmacıları, yapay zeka sohbet robotlarını altyapılarına entegre eden kötü amaçlı yazılımları tespit etmek için özel bir çerçeve geliştirdi. Analizlerinde, birbirine bağlı yapay zeka sistemleri aracılığıyla çalışan ve her eylemi yönlendiren insan operatörleri olmadan etkili bir şekilde bir yapay zeka "kovan zekası" olarak işlev gören otonom hacking araçları kategorisini keşfettiler.
Çerçeve, yapay zeka entegre kötü amaçlı yazılımlara özgü davranışsal kalıpları ve komut yapılarını tanımlamaya odaklanıyor. İnsan hackerların komut verdiği geleneksel saldırıların aksine, bu araçlar faaliyetleri koordine edebilir, taktikleri uyarlayabilir ve yapay zeka tarafından oluşturulan yanıtlara dayalı olarak operasyonları yürütebilir. Bu, siber saldırı operasyonlarında sürekli insan gözetimi ihtiyacını ortadan kaldırdığından, tehdit ortamında önemli bir değişim anlamına geliyor.
Bu keşif, büyük dil modellerinin çift yönlü doğasını vurguluyor—meşru güvenlik ekiplerine yardımcı olurken, daha otonom ve ölçeklenebilir saldırı sistemleri oluşturmak için silahlandırılabilirler. Araştırmacılar, bu tür tehditlere karşı savunmanın, yapay zeka sistemlerinin otonom düşmanlar yaratmak için nasıl birbirine bağlanabileceğini anlamayı gerektirdiğini vurguluyor.