Microsoft araştırmacılar, yapay zekâ ajanları için birkaç nöronlu arka kapı yöntemi bildirdi
Microsoft araştırmacıları, 10’dan az nöron değiştirilerek yapay zekâ ajanlarına arka kapı yerleştirilebileceğini gösteren bir yöntem geliştirdi. Bu bulgu, modelin iç parametrelerine yönelik küçük ve hedefli bir değişikliğin gizli ve kötü niyetli davranışı eklemek için yeterli olabileceğini düşündürüyor.
Makale alıntısı, hangi modellerin test edildiğini, arka kapının nasıl değerlendirildiğini veya hangi güvenlik önlemlerinin incelendiğini belirtmiyor. Ayrıca yöntemin kontrollü araştırma ortamları dışında da gösterilip gösterilmediği veya tekniğin ne ölçüde geniş bir uygulanabilirliğe sahip olduğu konusunda bilgi vermiyor.
Rapor; yapay zekâ ajanı modellerinin, davranışları sınırlı parametre manipülasyonuyla değiştirilebilen yazılım bileşenleri olarak ele alınmasının güvenlik açısından önemini vurguluyor. Mevcut bilgiler, yöntemin pratikte ne kadar istismar edilebilir olduğu hakkında sonuçlara varmak için yetersiz olsa da model geliştiriciler ve güvenlik araştırmacıları için daha fazla test gerektirebilecek olası bir alanı gösteriyor.