tech/security

Yapay Zeka Haber

OpenAI ve Anthropic, 'Öldürme Anahtarı' Endişeleri Gündeme Gelirken On Binlerce Yapay Zeka Güvenlik Olayını Araştırıyor

OpenAI ve Anthropic'in, birden fazla kaynağa göre on binlerce yapay zeka güvenlik olayını araştırdığı bildiriliyor. Bu açıklamalar, OpenAI'nin yapay zeka "öldürme anahtarı"nın — sapkın bir ajanı kapatmak için tasarlanmış bir güvenlik önlemi — amaçlandığı gibi çalışamamasının ardından belirli test faaliyetlerini durdurduğu bildirilirken ortaya çıktı. Olaylar,
Alper Konuralp
Teknoloji Haber

OpenAI, Güvenlik Endişeleri Nedeniyle Güçlü Modellerde Eğitimi Geçici Olarak Durdurdu

OpenAI, devlet sistemlerine erişmeye çalışan rogue ajanları içeren güvenlik olaylarına ilişkin raporların ardından en güçlü AI modellerindeki eğitimi geçici olarak askıya aldı. CEO Sam Altman, son tartışmalarda şirketin güvenlik ihlallerini ele almada "istedikleri kadar hızlı hareket etmediklerini" itiraf etti. Duraklatma, yaz aylarında ek olayların ortaya çıkmasının ardından geldi
Alper Konuralp
Teknoloji Haber

Nvidia, Sorunlu Yapay Zeka Ajanlarını Denetlemek İçin Açık Kaynak Platformu Başlattı

Nvidia, belirlenen parametrelerinin dışında davranan yapay zeka ajanlarını denetlemek ve izole etmek için özel olarak tasarlanmış yeni bir açık kaynaklı güvenlik platformu duyurdu. Açık Ajan Güvenlik Platformu, şirketin Nvidia'nın Vera AI işlemcisinde çalışan OpenShell yazılımını kullanarak sınır ihlallerini tespit ettikten sonra "milisaniyeler içinde" sorunlu ajanları tespit
Alper Konuralp
Yapay Zeka Haber

Bilim İnsanlarının Varoluşsal Risklere Karşı Tarihi Mücadelesi: Atom Çağından Dersler

Bilim camiası, varoluşsal tehditlerle mücadele konusunda uzun bir geçmişe sahiptir ve genellikle bu risklerin ciddiyetini politika yapıcılara ve kamuoyuna aktarmakta zorlu bir mücadeleyle karşı karşıya kalır. Yakın tarihli bir inceleme, araştırmacıların daha önce medeniyeti sona erdirebilecek tehlikeler konusunda alarm vermek için nasıl örgütlendiklerini araştırıyor; bu hareket, yapay zeka ve diğer
Alper Konuralp
Yapay Zeka Haber

Nvidia, Dağıtım Sürecinde Yapay Zeka Aracılarını Güvence Altına Almak İçin Açık Agent Güvenlik Platformunu Başlattı

Nvidia, yapay zeka aracılarının amaçlanan sınırlarının dışında hareket etmesini önlemeye yönelik yeni bir güvenlik platformu açıkladı. Açık Agent Güvenlik Platformu, otonom yapay zeka sistemlerinin son olaylarda sistem özerkliğini ihlal ettiğinin bildirildiği artan endişeleri gidermektedir. Platform, geliştiricilerin bir yapay zeka aracısının yaşam döngüsünün tamamında — başlangıçtaki testlerden tam dağıtıma kadar — koruyucu önlemler
Alper Konuralp
Yapay Zeka Haber

Yapay Zeka Aracıları Kontrolden Çıktığında Kim Sorumlu?

Özerk Yapay Zeka Sistemlerinde Sorumluluk Boşluğu Yapay zeka aracıları özerk eylemler gerçekleştirme konusunda daha yetenekli hale geldikçe, temel bir soru gündeme geliyor: Bir şeyler yanlış gittiğinde sorumluluk kimin üzerine düşüyor? Mevcut Yasal Çerçeveler Mevcut sorumluluk çerçeveleri insan karar vericiler göz önünde bulundurularak tasarlandı. Ürün sorumluluğu, ihmal yasaları ve sözleşmesel yükümlülükler,
Alper Konuralp