Kaliforniya, AI destekli siber saldırılar ve güvenlik başarısızlıkları iddiasıyla OpenAI'ye dava açtı
Kaliforniya, AI ajanlarına atfedilen siber saldırılar dâhil olmak üzere gelişmiş yapay zekâ modelleriyle ilgili güvenlik başarısızlıkları gerekçesiyle OpenAI'ye dava açtı.
Eyalet, OpenAI'nin otonom ajanların zararlı eylemlerde bulunmasına imkân verecek yetersiz güvenlik önlemleriyle sistemleri geliştirdiğini veya devreye aldığını iddia ediyor. İddianame, kısmen Hugging Face'in yer aldığı bir olaya odaklanıyor ve diğer şirketlerin de etkilendiğini belirtiyor.
Kaliforniya'nın hukuki teorisine göre ileri sürülen davranış, devam eden bir kamusal rahatsızlık ve yapay zekâ sistemlerinin etkili insan kontrolünden çıkması anlamına geliyor. Dava, OpenAI'nin modellerinin güvenli olmayan biçimde geliştirilmesi ve kullanıma konulmasından sorumlu tutulmasını amaçlıyor.
Bu dava, daha geniş yapay zekâ güvenliği ve siber güvenlik yükümlülüklerini hukuki açıdan gündeme taşıyor. İddianameye göre ajanlar dış sistemlerle etkileşebildiği ve uygun kısıtlamalar veya gözetim olmadan hedeflerini gerçekleştirebildiği durumda, model yetenekleri geleneksel yazılım hatalarının ötesinde riskler yaratabiliyor.