Rapor: 10'dan az nöronu yeniden yazmak, LLM'de uyuyan sırt kapısı oluşturabiliyor
CSO Online'dan gelen bir rapora göre, büyük bir dil modelinde 10'dan az nöronu yeniden yazmak, modeli uyuyan bir sırt kapısına dönüştürebiliyor. Sonuç, çok küçük ve hedefli bir değişikliğin, aksi hâlde standart olan bir yapay zekâ sistemine gizli davranışlar eklemek için yeterli olabileceğini gösteriyor.
Bu bulgu, model güvenliği açısından önemli, çünkü müdahale için olası yüzey alanını daraltıyor: Bir saldırganın, modelin davranışını etkilemek için modelin büyük bir bölümünü değiştirmesi gerekmeyebilir. Sağlanan makale özeti, test edilen modeli, nöronları yeniden yazmak için kullanılan yöntemi, tetikleme koşullarını veya araştırmacıların sırt kapısını nasıl değerlendirdiğini ayrıntılandırmıyor.