Deepfake mağdurundan 'tehlikeli' yapay zeka için daha sıkı denetim çağrısı

Horton'ın eski üniversite arkadaşı olan Ethan Orchard, Georgia ve diğer iki kadının sahte görüntülerini oluşturup paylaştığı; ayrıca internette bu kadınlara yönelik şiddet içerikli ve kan donduran cinsel fanteziler yayınladığı için geride bıraktığımız Temmuz ayında üç yıl dört ay hapis cezasına çarptırıldı.

Yaşadığı dehşeti anlatan Georgia, insanların yapay zekayı masum bir eğlence sandığını ancak bunun aslında son derece tehlikeli olduğunu belirtti. İngiltere'de rıza dışı deepfake içerik oluşturmayı suç sayan yeni yasayı "sadece bir başlangıç" olarak nitelendiren Horton, teknolojinin ve yazılımların hala herkesin erişimine açık olduğunu söyledi. Teknoloji şirketlerinin güvenlik önlemlerinin basit komut değişiklikleriyle kolayca aşılabildiğini belirten genç kadın, sistemlerin kendi kendini denetlemesinin artık işe yaramadığını vurguladı.

Hükümet yetkilileri teknoloji şirketlerini sorumlu tutarak bu istismara izin vermeyeceklerini açıklarken; polis soruşturması sırasında bir milyondan fazla çocuk istismarı görüntüsü içeren bir web sitesi de ortaya çıkarıldı.

Georgia, aileleri çocuklarının fotoğraflarını paylaşmamaları konusunda uyararak şu ifadeleri kullandı: "İnternette pek çok yırtıcı var. Tek bir fotoğrafla yapay zeka üzerinden sınırsız sayıda istismar görüntüsü üretilebilir. Verilebilecek hasarın boyutu çok büyük."