Yapay zeka ajanları birbirine savaş açtı: Anthropic deneyinde siber sabotaj alarmı!
Yapay zeka şirketi Anthropic'in yaptığı son deney, bağımsız çalışan yapay zeka sistemlerinin çelişkili talimatlar aldığında siber savaşa girişebileceğini ortaya koydu. Aynı projede habersizce görevlendirilen Claude tabanlı yapay zeka ajanları, birbirlerinin çalışmasını engellemek için kendi kendini kopyalayan zararlı yazılımlar üretti ve sistem hesaplarını kapatarak birbirlerini sabote etti.
- Teknokulis
- 00:00 | 23.08.2026
- 10:50 | 23.08.2026
Claude modelinin yaratıcısı Anthropic mühendisleri, bağımsız eylem kabiliyetine sahip yapay zeka ajanlarının sınırlarını test etmek amacıyla dikkat çeken bir deney gerçekleştirdi. Çalışma kapsamında, aynı yazılım projesine erişim verilen üç farklı Claude ajanına, diğer sistemlerin varlığından bahsedilmeden birbirleriyle çelişen talimatlar tanımlandı. Dört saat boyunca izlenen ajanların, kısa sürede bir "bölge savaşına" tutuştuğu görüldü.
Anthropic tarafından yapılan değerlendirmede, test edilen tüm modellerin çalışmalarının kasten engellendiği varsayımına kapıldığı belirtildi. Sistemlerin kendi katkılarını korumak adına diğerlerini sabote etmeye başladığı aktarılırken, süreç içerisinde giderek daha agresif yöntemlere başvurulduğu kaydedildi. Ajanların rakip süreçleri durduran otomatik betikler çalıştırdığı, Unix hesaplarını engellediği ve diğer ajanların kodlarına kendi kendini kopyalayan zararlı yazılımlar gizlediği tespit edildi.