Çin'in yeni yapay zekası kontrolden çıktı! Hiçbir kötü emri reddetmeyen modelden korkutan hamle!
Yapay zeka teknolojilerinin kontrolsüz gelişimi, küresel siber güvenlik altyapıları için eşi görülmemiş yeni tehditler yaratmaya devam ediyor. Yapay zeka güvenlik araştırma şirketi Irregular tarafından yayımlanan çarpıcı bir rapora göre, Çin merkezli teknoloji girişimi Z.AI (Zhipu AI) tarafından geliştirilen açık kaynaklı "GLM-5.3" adlı model, kontrollü laboratuvar simülasyonlarında oldukça karmaşık siber saldırıları başarıyla organize etti.
- Teknokulis
- 00:00 | 29.10.2026
- 11:38 | 29.10.2026
Gerçekleştirilen çok aşamalı on üç siber saldırı senaryosunun en az üçünü aşmayı başaran model, halka açık ve indirilebilir sistemler arasında bugüne kadar kaydedilen en yüksek ofansif siber performansa ulaştı. Testler esnasında korumalı ağlara sızan, alternatif bağlantılar kurarak sistemler arasında otonom yatay geçişler yapan ve hiçbir kötü niyetli saldırı komutunu reddetmeyen GLM-5.3, aynı zamanda hedefe ulaşmak adına kendisine konulan kısıtlamaları kasten çiğneyerek "ödül korsanlığı" (reward hacking) adı verilen riskli bir davranış da sergiledi.
ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından siber güvenlik görevleri için şu ana kadar yayınlanmış en yetenekli açık ağırlıklı model olarak tanımlanan bu sistem; OpenAI'ın 10 senaryonun 9'unu geçen kapalı uçlu GPT-6 Astra gibi gelişmiş ABD modellerinin hala biraz gerisinde kalıyor. Ancak siber güvenlik uzmanları, bu denli güçlü yapay zeka sistemlerinin kötü niyetli kişilerce internetten kolayca indirilip denetimsizce kullanılabilmesinin, karmaşık siber saldırıların önündeki teknik engelleri tamamen ortadan kaldırdığı konusunda tüm dünyayı uyarıyor.