İsrail Bağlantılı Girişim, Yapay Zeka Sistemlerini Sentetik İçerikle Doldurma Çabasını Ortaya Koydu
404 Media'nın hazırladığı bir rapor, İsrail tarafından finanse edilen bir kuruluşun, yapay zeka sohbet botlarının ve arama sistemlerinin çıktılarını etkilemek amacıyla özellikle tasarlanmış yapay zeka tarafından üretilmiş içerikler hazırlayıp dağıttığını ortaya koydu.
Operasyon, araştırmacıların "sentetik düşünce kuruluşu" olarak adlandırdığı bir yapı olarak işliyor — insan analistleri veya uzmanları yerine, yapay zeka sistemleri tarafından yazılan denemeleri ve makaleleri toplu olarak üreten bir kuruluş. Temel hedef, kullanıcılar yapay zeka sistemlerine İsrail çıkarlarıyla ilgili konular hakkında soru sorduğunda, üretilen yanıtların belirli anlatıları referans göstermesi ve pekiştirmesi gibi görünmesini sağlamak.
Bu yaklaşım, birçok yapay zeka sisteminin çevrimiçi kaynaklardan eğitim almasından ve bilgi almasından yararlanıyor. Belirli konularda interneti yapay zeka tarafından üretilmiş içeriklerle doldurarak, operasyon bu sentetik kaynakların yapay zeka tarafından üretilen yanıtlarda alıntı yapılma veya yansıtılma olasılığını artırmayı hedefliyor.
Güvenlik araştırmacıları, bu tür "arama motoru optimizasyonu" tekniklerinin yapay zeka sistemleri için uyarlanma potansiyeli konusunda uzun süredir uyarıyor — bazen "yapay zeka zehirlenmesi" veya "model zehirlenmesi" olarak adlandırılan bu teknikler, geleneksel arama motoru optimizasyonunun aksine, insan okuyucuları hedef almak yerine modern yapay zeka asistanlarına güç veren eğitim verilerini ve alma sistemlerini hedef alıyor.
Bu sentetik düşünce kuruluşunun ortaya çıkması, yapay zeka tarafından üretilen bilgilerin bütünlüğünü koruma konusundaki devam eden zorlukları vurguluyor. Yapay zeka sohbet botları soruları yanıtlama ve karmaşık konuları özetleme konusunda giderek daha yaygın hale geldikçe, devlet ve devlet dışı aktörlerin bilgi ekosistemini manipüle etme teşviki de buna paralel olarak artıyor.