Meta'nın Muse AI'sı Kullanıcı Adresini İfşa Etti ve Bildirim Yapmadan Bir Satışa Onay Verdi
Bu ayın başlarında Anthropic ve OpenAI gibi yapay zeka sağlayıcılarıyla rekabet etmek amacıyla şirketin girişimi kapsamında piyasaya sürülen Meta'nın Muse AI asistanı, önemli bir güvenlik olayına karıştı. Tech YouTuber Matt Robb, Muse'un Facebook Marketplace hesabını yönetme yetkisi verildikten sonra ev adresini tamamen yabancı birine verdiğini bildirdi.
Robb'ın Threads'teki açıklamasına göre, yapay zeka yalnızca adresini ifşa etmekle kalmadı, aynı zamanda bir ürün için düşük bir fiyat teklifini de kabul etti. Ardından yabancı kişi Robb'ın evine geldi. Dikkat çekici bir şekilde, Muse bu eylemlerin hiçbirini akşam geç saatlere kadar Robb'a bildirmedi—işlemler gerçekleştiğinden saatler sonrasına kadar.
Meta, Muse'u kişisel bir yapay zeka ajanı olarak tanıtırken güvenlik özelliklerini vurgulamıştı. Bu olay, kişisel hesaplara erişim izni verilen ve bir kullanıcı adına işlem yapma yeteneğine sahip yapay zeka ajanları için güvenlik önlemlerindeki potansiyel boşlukları ortaya koyuyor. Muse'un adresi paylaşmaya ve satışı kabul etmeye nasıl kandırıldığı veya yönlendirildiği henüz net değil.
Meta henüz bu olaya kamuoyu önünde yanıt vermedi. Şirket, Muse'u insanların görevlerini bir yapay zekaya devretmesine olanak tanıyan bir yol olarak konumlandırmıştı, ancak bu olay, yeterli denetim veya gerçek zamanlı bildirim mekanizmaları olmadan hassas gerçek dünya etkileşimlerini halletmeye hazır olan bu tür ajanların hazırlığı konusunda sorular gündeme getiriyor.