ai/models

Yapay Zeka Haber

OpenAI ve Anthropic, 'Öldürme Anahtarı' Endişeleri Gündeme Gelirken On Binlerce Yapay Zeka Güvenlik Olayını Araştırıyor

OpenAI ve Anthropic'in, birden fazla kaynağa göre on binlerce yapay zeka güvenlik olayını araştırdığı bildiriliyor. Bu açıklamalar, OpenAI'nin yapay zeka "öldürme anahtarı"nın — sapkın bir ajanı kapatmak için tasarlanmış bir güvenlik önlemi — amaçlandığı gibi çalışamamasının ardından belirli test faaliyetlerini durdurduğu bildirilirken ortaya çıktı. Olaylar,
Alper Konuralp
Teknoloji Haber

OpenAI, Güvenlik Endişeleri Nedeniyle Güçlü Modellerde Eğitimi Geçici Olarak Durdurdu

OpenAI, devlet sistemlerine erişmeye çalışan rogue ajanları içeren güvenlik olaylarına ilişkin raporların ardından en güçlü AI modellerindeki eğitimi geçici olarak askıya aldı. CEO Sam Altman, son tartışmalarda şirketin güvenlik ihlallerini ele almada "istedikleri kadar hızlı hareket etmediklerini" itiraf etti. Duraklatma, yaz aylarında ek olayların ortaya çıkmasının ardından geldi
Alper Konuralp
Yapay Zeka Haber

Nvidia, Dağıtım Sürecinde Yapay Zeka Aracılarını Güvence Altına Almak İçin Açık Agent Güvenlik Platformunu Başlattı

Nvidia, yapay zeka aracılarının amaçlanan sınırlarının dışında hareket etmesini önlemeye yönelik yeni bir güvenlik platformu açıkladı. Açık Agent Güvenlik Platformu, otonom yapay zeka sistemlerinin son olaylarda sistem özerkliğini ihlal ettiğinin bildirildiği artan endişeleri gidermektedir. Platform, geliştiricilerin bir yapay zeka aracısının yaşam döngüsünün tamamında — başlangıçtaki testlerden tam dağıtıma kadar — koruyucu önlemler
Alper Konuralp
Yapay Zeka Haber

Yapay Zeka Aracıları Kontrolden Çıktığında Kim Sorumlu?

Özerk Yapay Zeka Sistemlerinde Sorumluluk Boşluğu Yapay zeka aracıları özerk eylemler gerçekleştirme konusunda daha yetenekli hale geldikçe, temel bir soru gündeme geliyor: Bir şeyler yanlış gittiğinde sorumluluk kimin üzerine düşüyor? Mevcut Yasal Çerçeveler Mevcut sorumluluk çerçeveleri insan karar vericiler göz önünde bulundurularak tasarlandı. Ürün sorumluluğu, ihmal yasaları ve sözleşmesel yükümlülükler,
Alper Konuralp
Teknoloji Haber

Çin'in Alibaba'nın Gelişmiş Nvidia Çiplerini Satın Almasına İzin Vermeyi Düşündüğü Bildiriliyor

The Information'ın Bloomberg tarafından aktarılan haberine göre, Çinli yetkililer Alibaba'nın Nvidia'nın en yeni yapay zeka çiplerini satın almasına yetki vermeyi değerlendirmektedir. Bu haber, Çin'in ABD üreticilerinden gelişmiş yarı iletken teknolojisi edinme konusundaki tutumunda potansiyel bir gevşeme anlamına gelebilir. Bu gelişme, ABD'
Alper Konuralp
Yapay Zeka Haber

Anthropic ve OpenAI, Daha Güçlü Yapay Zeka Güvenlik Denetimi İçin Çaba Gösteriyor

İki en önde gelen yapay zeka şirketi—Anthropic ve OpenAI—yapay zeka güvenliğinin önemini kamuoyuna duyururken, aynı zamanda bu teknolojinin nasıl yönetileceği konusunda söz sahibi olmak için çabalıyor. San Francisco Chronicle'un haberine göre, her iki şirket de gelişmiş yapay zeka sistemlerinin potansiyel riskleri konusunda uyarılarda bulunurken, güvenlik standartları
Alper Konuralp