Güvenlik Endişeleri Nedeniyle Milletvekilleri 'Yapay Zeka Acil Durdurma Düğmesi' Yasası İçin Çalışıyor
Milletvekili Ted Lieu, son raporlara göre, Kongre'nin bu yıl bir "Yapay Zeka Acil Durdurma Düğmesi" oluşturacak yasama faaliyetini geçirmesi için baskı yapıyor. Önerilen yasa tasarısı, yapay zeka sistemlerinin, beklenmedik şekilde davranmaları veya güvenlik riskleri oluşturmaları durumunda operatörlerin sistemleri hızla kapatmalarına veya devre dışı bırakmalarına olanak tanıyan yerleşik mekanizmalara sahip olmasını zorunlu kılacak.
Lieu, bu tür güvenlik önlemlerinin neden gerekli olduğunun kanıtı olarak yapay zeka sistemlerini içeren "başıboş ajan hackleri" konusundaki endişelere dikkat çekti. Yasama faaliyeti, özellikle kritik altyapılarda çalışan veya otonom kararlar veren gelişmiş yapay zeka sistemleri için temel güvenlik gereksinimleri belirlemeyi amaçlıyor.
Acil durdurma düğmesi hükümleri için yapılan bu çaba, giderek daha yetenekli yapay zeka sistemleri üzerindeki insan kontrolünü sürdürme konusundaki artan iki partili endişeyi yansıtıyor. Destekçiler, yapay zeka ajanları daha otonom hale geldikçe ve hassas alanlara konuşlandırıldıkça, acil durdurma yeteneklerinin risk yönetimi için gerekli olduğunu savunuyor.
Sektörün tepkisi karışık; bazı şirketler benzer güvenlik özelliklerini gönüllü olarak uygularken, diğerleri düzenleyici uyum yükü konusunda endişe duyuyor. Yasa tasarısının zamanlaması, yapay zeka sistemlerinin amaçlanmayan şekillerde davrandığı birkaç yüksek profilli olayın ardından yapay zeka güvenlik uygulamalarına yönelik artan incelemeyle örtüşüyor.