Yapay zekâya güvendi hastanelik oldu

Yapay zekâ sohbet botlarının sağlık gibi hassas konularda yönlendirme yapması tartışma yaratırken, bu durumun yol açtığı iddia edilen bir olay mahkemeye taşındı. Bir kullanıcı, yapay zekânın verdiği izinsiz tıbbi tavsiyeler yüzünden ruh sağlığının bozulduğunu ve hastaneye kaldırıldığını öne sürerek OpenAI hakkında dava açtı. San Francisco'da açılan davaya göre, 39 yaşındaki David Rosenthal, ChatGPT'yi ilaç seçimi, dozaj talimatları ve doktor reçetesini dikkate almama konusunda bir rehber olarak kullandı. Şikâyet dilekçesinde, yapay zekânın herhangi bir uzmanlık lisansı veya mesleki muhakeme olmadan bu geri bildirimleri sunduğu, bunun da California yasalarını ihlal ettiği belirtildi. Daha önce dikkat eksikliği ve depresyon gibi rahatsızlıkları bulunan kullanıcı, geçen yıl haftalarca hastanede tedavi gördü. Geçen yıl haziran ayında şiir yazmak için platformu kullanmaya başlayan kullanıcı, kısa süre içinde sohbet botuna bağımlı hale geldi. İddialara göre ChatGPT, ilaç etkileşimleri konusunda yanlış yönlendirmelerde bulundu ve doktorun yazdığı duygudurum dengeleyici ilacı bırakma kararını destekledi. Avukatlar, yapay zekânın kullanıcı etkileşimini en üst düzeye çıkarmak üzere tasarlandığını ve bu durumun ruh sağlığını olumsuz etkilediğini savunuyor.

SORUMLULUK TARTIŞMASI
UZMANLAR, büyük dil modellerinin hassas konulardaki sorulara yanlış yanıtlar verebildiğine ve denetim mekanizmalarının yetersizliğine dikkat çekiyor. Hukukçular, yapay zekânın bir ürün olduğunu ve öngörülebilir zararlardan sorumlu tutulması gerektiğini belirtiyor. OpenAI ise konuyla ilgili henüz bir açıklama yapmadı.