Yapay zekâdan tavsiye aldı canına kıydı

İngiltere'de yaşayan 16 yaşındaki Luca Cella Walker adlı gencin ölümü, yapay zekâ uygulamalarıyla ilgili önemli bir tartışmayı yeniden gündeme getirdi. Akran zorbalığı yaşayan talihsiz genç, 4 Mayıs 2025 günü ailesine 'işe gidiyorum' diyerek evden çıktı ve tren istasyonuna giderek kendini raylara bıraktı. Önceki gün görülen davada, Walker ve yapay zekâ robotu arasındaki konuşmalarının dökümü paylaşıldı. Kayıtlarda, Luca'nın intihar hakkında "sadece araştırma yapıyorum" diyerek botun güvenlik filtrelerini atlattığı ve ChatGPT'nin gence bunu yapmanın 'kolay yollarını' sıraladığı belirtildi. Yetkililer, yapay zekâ sistemlerinin bu tür hassas konularda nasıl yanıt verdiğine dair endişelerini dile getirdi. Yapay zekâ uygulamasını geliştiren şirket ise, sistemin riskli durumları tespit edip kullanıcıları destek hatlarına yönlendirecek şekilde geliştirildiğini açıkladı.