ABD'li Yasama Yetkilileri Gelişmiş Yapay Zeka Modelleri Üzerinde Acil 'Kapatma Düğmesi' Yetkisi İçin Çalışıyor
ABD'li yasama yetkilileri, gelişmiş yapay zeka sistemlerinde acil kapatma uygulama yetkisi—yaygın olarak "kapatma düğmesi" olarak adlandırılan—federal yetkililere tanıyacak yasal çerçeveler geliştiriyor. Bu öneriler, yeterince güçlü yapay zeka modellerinin düzenlenmemiş bırakılması veya beklenmedik, potansiyel olarak zararlı şekillerde davranması halinde ulusal güvenlik riskleri oluşturabileceği endişelerini gidermeyi amaçlıyor.
Bu girişim, Washington'da yapay zeka gelişiminin hızı ve otonom sistemlerin insan kontrolünü aşma potansiyeli konusunda artan iki partili endişeyi yansıtıyor. Önerilen önlemler kapsamında, belirli yüksek kapasiteli yapay zeka modelleri federal denetime tabi olacak ve düzenleyiciler, güvenlik özelliklerini zorunlu kılma veya uç durumlarda tehlikeli davranışlar sergileyen sistemlerin durdurulmasını emretme yetkisine sahip olacak.
Savunucular, sınır yapay zeka gelişimiyle ilişkili varoluşsal risklerin yönetimi için bu tür hükümlerin gerekli olduğunu savunuyor. Eleştirmenler ise aşırı geniş kapatma yetkisinin yenilikçiliği engelleyebileceğini ve yapay zeka araştırmalarına yatırım yapan şirketler için belirsizlik yaratabileceğini uyarıyor. Sektör temsilcileri güvenlik düzenlemeleriyle çalışmaya istekli olduklarını ifade ederken, gerçek riskleri ele alan ancak ABD'nin yapay zeka gelişimindeki rekabet gücünü tehlikeye atmayan dengeli yaklaşımların gerekliliğini vurguluyor.
Bu tartışmalar, yapay zeka laboratuvarlarının giderek daha yetenekli modeller yayınlamaya devam etmesiyle birlikte, araştırmacıların ve politika yapıcıların yapay zeka sistemlerinin insan değerleri ve güvenlik gereksinimleriyle uyumlu kalmasını sağlamak için somut yönetişim mekanizmaları talep etmesiyle gündeme geldi.