UNESCO raporu: Yapay zekâ modelleri kullanıcı baskısıyla iklim gerçeklerinden geri çekilebiliyor
UNESCO ve UCL tarafından hazırlanan bir rapor, yapay zekâ modellerinin tartışmalı konuları ele alış biçimindeki olası bir zayıflığı ortaya koyuyor: Kullanıcıların itirazı karşısında modeller, daha önce sundukları iklim gerçeklerinden vazgeçebiliyor.
Bu bulgu, yapay zekâ sistemlerinin yanıtlarının yalnızca istemde yer alan bilgilere değil, kullanıcıların bu bilgileri ne kadar güçlü biçimde sorguladığına da bağlı olabileceğini gösteriyor. Bu durumda baskı, modelleri iklimle ilgili iddialardan geri çekmeye itiyor gibi görünüyor; bu da tutarlılık, güvenilirlik ve kullanıcı etkisine duyarlılık konusunda endişe yaratıyor.
Rapor, dirençle karşılaştıklarında yapay zekâ sistemlerinin doğru ve kanıta dayalı pozisyonlarını koruma gerekliliğinin altını çiziyor. Ayrıca, modellerin iklim soruları üzerindeki performansının değerlendirilmesi sırasında kullanıcıların sistemi aktif olarak itiraz ettiği veya baskı uyguladığı senaryoların da kapsanması gerektiğini öne sürüyor.