Beyaz Saray'ın AI Test Politikalarında Değişiklik Açık Kaynak Modelleri Risk Çerçevesi Kapsamında Yeniden Sınıflandırabilir
Yapay Zeka Modeli Değerlendirmesinde Politika Değişikliği
Beyaz Saray, yapay zeka modellerinin risk amacıyla nasıl test edildiği ve sınıflandırıldığı konusunda yeniden kalibrasyona doğru ilerliyor görünüyor. Bu değişiklik, açık kaynak yapay zeka modellerinin federal çerçeveler altında nasıl değerlendirildiğini etkileyebilir.
Önceki rehberlik altında, belirli açık kaynak modeller, kapalı, ticari yapay zeka sistemlerine kıyasla muafiyet veya daha hafif incelemeye tabi tutulmuştu. Değerlendirilmekte olan yeni yön, daha fazla modeli — açık ağırlıklı olanlar ve serbestçe erişilebilir model ağırlıkları dahil — ticari muadilleriyle aynı değerlendirme gereksinimlerine tabi kılacaktır.
Yapay Zeka Ekosistemi İçin Etkileri
Açık kaynak yapay zeka modelleri geleneksel olarak, kamuya açık olmalarının daha geniş topluluk incelemesine ve güvenlik açıklarının daha hızlı tespit edilmesine olanak tanıdığı algısından yararlanmıştır. Ancak muafiyetlere eleştiri getirenler, güçlü açık modellerin şeffaf doğasına bakılmaksızın yaygın dağıtımının riskler taşıdığını savunuyor.
Olası politika değişikliği, açık ağırlıklı modelleri piyasaya süren geliştiricilerin, kamuya sunumdan önce veya hemen sonra resmi güvenlik değerlendirmeleri yapmasını gerektirebilir. Bu durum, geliştirme maliyetlerini artırabilir ve açık kaynak yayın döngüsünü yavaşlatabilir.
Sektörün Tepkisi
Yapay zeka araştırma topluluğu bu konuda bölünmüş durumda. Bazıları değerlendirme gereksinimlerinin, özel güvenlik ekiplerine sahip büyük şirketlerin lehine olan engeller yarattığını savunurken, diğerleri açık modellere yönelik hafif dokunuş yaklaşımlarının, model yeteneklerindeki hızlı iyileşme göz önüne alındığında yetersiz kaldığını öne sürüyor.
Açık kaynak alanındaki geliştiriciler ve araştırmacılar durumu yakından takip ediyor; herhangi bir politika değişikliği, kamuya erişilebilir yapay zeka sistemlerinin yayın ve dağıtım modelini temelden değiştirebilir.
Yönetim henüz resmi bir rehberlik yayınlamadı ve herhangi bir yeni çerçevenin detayları, politika tartışması devam ederken değişikliğe tabi olmaya devam ediyor.