Telegram'da Takip Et

tech/security

Yapay Zeka Haber

OpenAI, Mart Ayından Bu Yana Endişe Verici Model Davranışlarının Altı Yeni Örneğini Bildirdi

OpenAI, Mart ayından bu yana gerçekleşen "endişe verici model davranışının" altı yeni örneğini ifşa etti; bu durum, şirketin AI sistemlerindeki güvenlik zorlukları konusunda daha şeffaf olma çabasında atılan bir başka adımı temsil ediyor. OpenAI'nin sorumlu AI geliştirme taahhüdünün bir parçası olarak kamuoyuyla paylaştığı bu olaylar, güvenlik

Yapay Zeka Haber

Araştırmacılar, Yapay Zeka Ajanlarının Daha Fazla Otonomi Kazanmasıyla Endişelerini Artırıyor

Yapay zeka ajanları daha sofistike hale geldikçe, giderek artan sayıda araştırmacı ve teknoloji uzmanı, sınırlı insan katılımıyla hareket edebilen sistemlerin etkileri konusunda kırmızı bayraklar yükseltiyor. Endişeler, çok adımlı görevleri tamamlamak, kararlar vermek ve kullanıcılar adına eylemler gerçekleştirmek üzere tasarlanmış otonom sistemler olan yapay zeka ajanları etrafında yoğunlaşıyor. Yalnızca yanıt üreten

Yapay Zeka Haber

OpenAI, Model Uyumsuzluğunu Raporlama Çerçevesi Yayımladı, Altı Vaka Çalışmasını Paylaştı

OpenAI, yapay zeka modellerinin uyumsuz davranış sergilediği—yani geliştirici niyetinden sapan veya endişe verici olarak değerlendirilebilecek sonuçlar üreten eylemlerin sistematik olarak belgelenmesi ve raporlanması için tasarlanmış resmi bir çerçeveyi kamuoyuyla paylaştı. Bu çerçeve, bu tür olayların hem kurum içinde hem de dışarıya nasıl tespit edileceğini, soruşturulacağını ve iletileceğine dair protokoller

Yapay Zeka Haber

BM, Daha Güvenli Bir Dijital Gelecek İçin Küresel AI Yönetişim Çerçevesi İçin Çalışıyor

Birleşmiş Milletler, yapay zekanın nasıl yönetileceğine dair küresel konuşmada merkezi bir ses olarak öne çıkıyor. AI sistemleri endüstriler genelinde daha güçlü ve yaygın hale geldikçe, denetim, güvenlik standartları ve hesap verebilirlik konularındaki sorular yoğunlaştı — ve birçok kişi parçalı ulusal yaklaşımlar yerine koordineli uluslararası kurallara ihtiyaç duyulduğunu görüyor. BM'nin

Teknoloji Haber

AI Laboratuvarları Güvenlik Değerlendiricilerini İçeri Davet Ediyor—Bağımsızlık Güvence Altına Alınabilir mi?

İki önde gelen AI laboratuvarı, bağımsız güvenlik değerlendiricilerini operasyonlarının merkezine yerleştirme planlarını duyurdu. Araştırmacılara göre bu adım, hem bir ilerleme hem de bu düzenlemenin gerçek bağımsızlık sağlayıp sağlayamayacağı konusunda çözülmemiş bir soru işareti barındırıyor. Girişim, değerlendiricileri Anthropic ve OpenAI bünyesine yerleştirerek iç süreçlere, model eğitim verilerine ve geliştirme iş akışlarına

Yapay Zeka Haber

Pentagon, Kongre Endişeleri Arasında AI Savunma Stratejisini İlerletiyor

Amerika Birleşik Devletleri Savunma Bakanlığı, milletvekillerinin yapay zekanın askeri operasyonlara hızlı entegrasyonuna ilişkin endişelerini dile getirmesine rağmen, ulusal savunma için yapay zeka stratejisini ilerletmeye devam ediyor. Son haberlere göre, savunma yetkilileri küresel yapay zeka yarışında "ABD kaybedemez" dedikleri ifade edilen sözlerle Amerikan teknolojik liderliğini koruma konusundaki kararlı taahhütleriyle

Teknoloji Haber

ShinyHunters Çetesi, Motorlu Taşıtlar Dairesi'ne Yönelik Fidye Yazılımı Saldırısının Ardından Florida Ehliyet Sahiplerinin Verilerini Sızdırdı

ShinyHunters fidye yazılımı grubu, bir Florida eyalet motorlu taşıtlar kuruluşundan çalınan büyük miktarda veriyi sızdırdı. Raporlara göre, hackerlar kuruluşun veritabanını ele geçirdi ve eyaletin fidye taleplerini karşılamayı reddetmesinin ardından dosyaları çevrimiçi olarak yayınladı. Açığa çıkan verilerin binlerce Florida sürücüsüne ait kişisel bilgileri içerdiği bildiriliyor. Bu olay, devlet veritabanlarının fidye yazılımı