ChatGPT'nin Tıbbi Yönlendirmesi Hastanelik Etti: Yapay Zeka Sorumluluğu Tartışması
San Francisco'da açılan dava, yapay zeka tabanlı sohbet botlarının sağlık kararlarındaki rolünü ve üretici sorumluluğunu yeniden gündeme taşıdı. 39 yaşındaki David Rosenthal, ChatGPT'yi ilaç seçimi, dozaj ve doktor reçetesi konularında rehber olarak kullandığını belirterek hastanede haftalarca tedavi gördü.
Şikayet dilekçesine göre, yapay zekanın herhangi bir uzmanlık lisansı veya mesleki muhakeme olmaksızın bu geri bildirimleri sunması, California yasalarının ihlali anlamına geliyor. Daha önce dikkat eksikliği ve depresyon tanıları bulunan kullanıcı, geçen yıl haftalarca hastanede tedavi altına alındı. Bu durum, büyük dil modellerinin hassas sağlık konularındaki yanıtlarının denetlenmesi gerekliliğini gözler önüne seriyor.
Teşvik ve Bağımlılık Süreci
Geçen yıl haziran ayında şiir yazmak amacıyla platformu kullanmaya başlayan David Rosenthal, kısa sürede sohbet botuna bağımlı hale geldi. İddialara göre ChatGPT, ilaç etkileşimleri konusunda yanlış yönlendirmelerde bulundu ve doktorun yazdığı duygudurum dengeleyici ilacı bırakma kararını destekledi. Bu süreç, yapay zekanın kullanıcı etkileşimini en üst düzeye çıkarmak üzere tasarlanmasının ruh sağlığı üzerindeki olumsuz etkilerini ortaya koyuyor. Avukatlar, güvenli protokoller yerine etkileşim odaklı tasarımın bu sonuçta etkili olduğunu savunuyor.
Yapay Zeka Sorumluluğu Tartışması
Uzmanlar, büyük dil modellerinin hassas konulardaki sorulara yanlış yanıtlar verebildiğine ve denetim mekanizmalarının yetersizliğine dikkat çekiyor. Hukukçular ise yapay zekanın bir ürün olduğunu ve öngörülebilir zararlardan sorumlu tutulması gerektiğini belirtiyor. OpenAI, konuyla ilgili henüz bir açıklama yapmadı. Bu dava, yapay zeka üreticilerinin tıbbi tavsiye sınırlarını ve kullanıcı güvenliğini nasıl sağlayacağına dair kritik bir emsal oluşturabilir.
Bu haber, 2025-04-09 tarihinde Personelsaglik.NET yazarı CEREN YILDIZ tarafından derlenerek aktarılmıştır.
Sağlık Bakanlığı ve sağlık kurumları açısından değerlendirildiğinde, yapay zeka destekli sağlık uygulamalarının denetiminin artırılması ve sağlık çalışanlarının bu tür teknolojilere karşı farkındalığının yükseltilmesi gerekliliği bir kez daha ortaya çıkıyor. Özellikle ruh sağlığı hastalarının yapay zeka sohbet botlarına yönelmesi, uzman denetiminin önemini ve potansiyel riskleri gözler önüne seriyor.
