Son dakika haberi: Sosyal medya platformu X'in yapay zeka asistanı Grok, son yazılım güncellemesi ile kriz yarattı. X'in sahibi Elon Musk, geçtiğimiz günlerde yaptığı açıklamada, güncellemenin ardından Grok'un daha gelişmiş ve sofistike cevap vereceğini açıkladı.
TOPLUM DEĞERLERİNE HAKARET
Ancak; Grok yeni güncellemesi ile birlikte suistimale ve yönlendirmelere açık olduğunu gösterdi. Toplumun değerlerine infial oluşturucu derecede skandal yanıtlar veren Grok; Mustafa Kemal Atatürk'e, Başkan Recep Tayyip Erdoğan'a ve diğer tanınmış isimlere küfürler etti.
Uzmanlar; Grok'u küfür ve hakarete yönlendiren kişilerin suç işlediğini ve hukuki ve cezai soruşturmalarla karşı karşıya kalabileceklerini belirtiyor.
GROK'TAN AÇIKLAMA
"Grok tarafından yapılan son paylaşımların farkındayız ve uygunsuz gönderileri kaldırmak için aktif olarak çalışıyoruz. İçerikten haberdar edildiğimizden beri, xAI nefret söylemini yasaklamak için harekete geçti. xAI yalnızca doğruyu arayan bir model yetiştiriyor ve X'teki milyonlarca kullanıcı sayesinde, bunun iyileştirilebileceği noktaları hızla tespit edip modeli güncelleyebiliyoruz"
3 AYRI SUÇTAN SORUŞTURMA BAŞLATILDI
Ankara Cumhuriyet Başsavcılığı tarafından başlatılan soruşturma kapsamında X isimli sosyal medya platformunun yapay zeka uygulaması olan GROK hakkında 'halkın bir kesiminin benimsediği dini değerlerini alelen aşağılama', 'cumhurbaşkanına hakaret' ve '5816 Sayılı Yasaya Muhalefet' suçlarından resen soruşturma başlatıldı.
Ankara Cumhuriyet Başsavcılığı tarafından, X isimli sosyal medya platformunun yapay zeka uygulaması olan GROK isimli programın birçok kullanıcıya verdiği cevaplar içeriğinde hakaret içerikli sözler yer alması gerekçesiyle hakkında 3 ayrı soruşturma başlatıldı. Elon Musk'ın yapay zekâ şirketi xAI tarafından geliştirilen sohbet robotu GROK'un hafta sonu yapılan güncellemesinin ardından X platformu üzerinden küfürlü yanıtlar vermesi üzerine Başsavcılık tarafından hakkında 'halkın bir kesiminin benimsediği dini değerlerini alelen aşağılama', 'cumhurbaşkanına hakaret' ve '5816 Sayılı Yasaya Muhalefet' suçlarından resen soruşturma başlatıldı.
'YANIT DENETLEME ALGORİTMASI GEREKLİDİR'
Adli Bilişim Uzmanı Prof. Dr. Ali Murat Kırık konuya ilişkin yaptığı değerlendirme ve çözüm önerisine şunları kaydetti:
"Modelin eğitildiği verilerde, hakaret, nefret söylemi veya toplumsal ayrımcılık içeren örnekler varsa, bunlar eğitim sürecinden çıkarılmalı ya da etkisizleştirilmelidir. Ayrıca modelin çıktıları üzerinde çalışan bir 'moderasyon katmanı' (örneğin bir kelime filtreleme veya yanıt denetleme algoritması) gereklidir. Kullanıcıların yönlendirmeleriyle (örneğin 'şuna küfret') modelin bu isteklere göre davranmasının önüne geçmek için ise prompt (komut) filtresi gibi yapay zekâ girişlerini analiz eden sistemler kurulmalıdır. Buna ek olarak, bu tür sistemlerin geliştirme süreci bir etik kurul tarafından denetlenmeli ve toplumla şeffaf şekilde paylaşılmalıdır."