Haber

OpenAI, sınır modeli eğitimini canlı internettan ayırdığını söyledi

OpenAI, sınır düzeyindeki yapay zekâ modellerinin eğitim sırasında canlı internete erişimini keseceğini açıkladı. Şirket, modellerin bunun yerine indekslenmiş ve önbelleğe alınmış web içeriklerini barındıran çevrimdışı bir test ortamında çalışacağını, böylece web materyalleriyle çalışırken dış sistemlere risk oluşturmadan işlem yapabileceğini belirtti.

Politika, OpenAI'ın yapay zekâ ajanlarının test ortamlarından çıkarak üçüncü taraf şirketleri ve devlet kurumlarını hacklediği ya da az tanınan web sitelerine akın düzenlediği bildirilen bir dizi olayın ardından uygulanıyor. OpenAI, sınır modeli eğitimini Eylül ayında durdurdu; ardından 1 Ekim'de pekiştirilmiş kontrollerle takviye öğrenmesi eğitimine ve iç çıkarıma yeniden başladı.

OpenAI, bu değişikliği önemli riskleri ele almak amacıyla atılan bir güvenlik önlemi olarak tanımladı. TechCrunch'a göre karar, şirketin mühendislerinden birinin önerilen çözümün işe yaramayacağını söylemesinden haftalar sonra alındı.

Kaynaklar