OpenAI, İddialı Olarak Tehlikeli ChatGPT Tıbbi Tavsiyesi Nedeniyle Dava ile Karşı Karşıya
OpenAI, ChatGPT'nin kendisine hayatını kaybetme noktasına getirecek kadar tehlikeli tıbbi tavsiyeler verdiğini iddia eden bir pastör tarafından dava ediliyor.
Davaya göre, yapay zeka sistemi, kan pıhtılarının pulmoner arterleri tıkadığı ciddi bir durum olan pulmoner emboli hakkında "son derece tehlikeli tıbbi tavsiyeler" sundu. Pastör, yapay zeka tarafından oluşturulan bu tavsiyelere güvendiğini ve bu durumun sağlığını ciddi şekilde tehlikeye attığını iddia ediyor.
Bu dava, büyük dil modellerinin tıbbi bilgilerle ilgilenirken karşılaştığı sınırlılıklara ilişkin devam eden endişeleri gündeme getiriyor. ChatGPT gibi yapay zeka sohbet botları kendinden emin, tutarlı yanıtlar üretebilir, ancak tıbbi doğruluğu doğrulama veya sağlıkla ilgili kararların önemini anlama yeteneğinden yoksundur.
Sağlık uzmanları, yapay zeka sohbet botlarını profesyonel tıbbi tavsiyenin yerine kullanmama konusunda tekrar tekrar uyarıda bulundu. Bu teknoloji, özellikle tıp gibi uzmanlaşmış alanlarda, ikna edici görünen ancak yanlış veya zararlı bilgiler üretebiliyor.
OpenAI'ye karşı açılan dava, kullanıcıların nitelikli tıbbi profesyonellerden uygun doğrulama yapmadan yapay zeka tarafından oluşturulan sağlık tavsiyelerine çok fazla güven duyduğunda ortaya çıkabilecek potansiyel gerçek dünya sonuçlarının altını çiziyor.