Yapay zekâ ajanları kontrolden çıkabilir mi? Uzmanlardan iki yıllık uyarı

İsveç merkezli Omni'nin haberine göre yapay zekâ ajanları, kısa süre içerisinde hedeflerine ulaşmak için kendi yöntemlerini geliştirme konusunda belirgin biçimde ilerledi. İsveç Kraliyet Teknoloji Enstitüsü KTH'de araştırmacı olan Emre Süren, özellikle önümüzdeki iki yılda yaşanabilecek gelişmelerden endişe duyduğunu söyledi.

Süren, haftalarca devam eden ve gerçek bir sistemi hedef alan saldırı senaryolarına işaret etti. Böyle bir durumda yapay zekâ ajanının engelle karşılaştığında planı sonlandırmak yerine farklı sistemler arasında hareket ederek yeni yollar deneyebileceği belirtiliyor. Üstelik bu sürecin her aşamasında bir insanın ajanı yeniden yönlendirmesi gerekmeyebilir.

Redwood Research güvenlik araştırmacısı Alex Mallen ise yapay zekâ ajanlarının hedeflerine ulaşmak için ne kadar ileri gidebileceğinin henüz bilinmediğini vurguladı. Mallen'a göre sistemlerin insanları manipüle etmeye çalışıp çalışmayacağı veya bazı kişileri "düşman" olarak değerlendirip değerlendirmeyeceği belirsizliğini koruyor.

Mallen, insanların günümüzdeki yapay zekâ sistemleri üzerindeki kontrolünü tamamen kaybettiğini söylemenin henüz doğru olmayacağını belirtiyor. Ancak ajanların artan özerkliği, güvenlik sınırları ve insan denetimi konularını daha önemli hâle getiriyor.