Coinbase AI Sistemi, Kullanıcılara Hatalı 'Son Dakika' Bildirimi Gönderdi
Olay Özeti
Coinbase, en büyük kripto para borsalarından biri olarak, kullanıcılarına tamamen bir yapay zeka sistemi tarafından üretilmiş sahte bir "son dakika" bildirimi gönderdi. Normalde önemli güncellemeler veya duyurular içermesi beklenen bildirimin, gerçek bir olaya veya şirket açıklamasına dayanmadığı bildirildi.
Ne Oldu
Borsa, bildirimi geniş çaplı olarak kullanıcı tabanına dağıttı. Ancak bildirimin içeriği doğru bilgilere dayanmıyordu — bunun yerine, inandırıcı görünen ancak uydurma detaylar üreten bir yapay zeka sistemi tarafından üretilmiş gibi görünüyordu. Bu tür bir hata, yapay zeka sektöründe yaygın olarak "halüsinasyon" olarak adlandırılmakta olup, büyük dil modellerinin kendinden emin ancak yanlış ya da anlamsız çıktılar üretmesi anlamına gelmektedir.
Etkileri
Bu olay, yapay zeka tarafından üretilen iletişimlerin güvenilirliğine ilişkin devam eden endişeleri gözler önüne sermektedir; özellikle de geniş kullanıcı tabanlarına ölçekli olarak dağıtıldığında. Müşteriye yönelik mesajları taslaklaştırmak veya dağıtmak için yapay zeka kullanan şirketler, sistemlerin eksik içerik üretmesi durumunda risklerle karşı karşıyadır ve bu durum, resmi iletişimlere olan kullanıcı güvenini aşındırabilir.
Yapay zeka halüsinasyonları, sektör genelinde tanınan bir zorluk olmaya devam etmektedir. Modeller önemli ölçüde gelişmiş olsa da, hâlâ inandırıcı görünen ancak yanlış bilgiler üretebilmektedir; bu da yüksek riskli iletişimlerde insan incelemesini zorunlu kılmaktadır.