Ya onlar bizim fişimizi çekerse?

Yapay zeka mutfaktan savaş alanlarına kadar her alanda hayatımızda. Her keşifte sevindiğimiz kadar paranoyamız da artıyor. Çünkü yapay zeka bazen kendisine öğretilmeyen marifetler de sergiliyor. İster istemez, “Yapay zeka insanlığın sonu mu olacak?” sorusu akıllara geliyor. En büyük korku ise tüm bu teknolojinin kötü eller tarafından kullanılması

Ya onlar bizim fişimizi çekerse?
Geçtiğimiz haftanın en çok konuşulan mevzularından biri Facebook Yapay Zeka Laboravutarı'nda iki chatbot'un (yapay zeka teknolojisini kullanarak insanlarla iletişim kuran, onlarla sohbet eden veya onları çeşitli şekillerde yönlendiren bilgisayar) İngilizceyi bırakıp kendi aralarında geliştirdikleri bir dille konuşması oldu. Önce panikle program kapatıldı. Ardından sistem yeniden programlandı ve İngilizce konuşma şartı getirildi. Akıllara ünlü fizikçi Stephen Hawking'in "Yapay zeka, kendisini geliştirmeyi sürdürebilir ve hatta kendisini yeniden biçimlendirebilir. Son derece yavaş bir biyolojik evrimle sınırlı olan insanlar, bu tür bir güçle yarışamaz" cümlesi geldi. Ve yapay zekanın arkasında yatan korku açığa çıktı... Yapay zekaya dair gelişmeler hızla yayılıyor. Bu hıza yetişmekse neredeyse imkansız. Tıpkı yıllar önce olduğu gibi...
35 yıl önce bilgisayarın hayatımızın en önemli unsuru olacağını IBM'in sahibi bile hayal edememişti. Yıllar insanoğlu için hızlı geçti, teknoloji insanoğluna depar attı, farkı epey açtı. Bunu nasıl hayal edemedikse, yapay zekanın ne hızla hayatımızın tamamını kaplayacağını da hayal edemiyoruz.



Tamamını kaplayacağını diyorum çünkü birçokları yapay zekanın sadece robotlardan ibaret olduğunu sanıyor ve evinde bir robot görmeden o günlerin geleceğini düşünmüyor. Oysa yapay zeka şu an bile hayatımızda. Mesela, trafik ışıkları ona emanet, borsa yapay zekasız düşünülemiyor. En ucuz uçak biletini bulurken kullandığınız program da bir yapay zeka, telefonunuzda tatlı tatlı sohbet ettiğiniz Siri de...
Gündeme bir bakın... ABD ve Kuzey Kore arasındaki gerilimde yapay zekanın başrolde oynamayacağını kimse söyleyemez. Bu nükleer gerilimde bile işlerin ısınması halinde yapay zeka önemli bir araç olarak zaten kullanılacak.
Durum böyle olunca kaygılar ve paranoyalar da havada uçuşuyor. Hızına yetişemediğimiz, anlayamadığımız yapay zekadan korkar hale geldik. Fişini çekeriz olur biter mi? Bir kısım akademik insanın korkusu, varlığının farkında olan bir yapay zeka yarattıktan sonra, onun varoluşunu sürdürme isteği. Bilişsel sisteme "Ben" dedirttiğimiz noktada, çıkarlar çelişirse neler olacak?
Tüm bu beyin yakan soruları uzmanlarına sorduk:

UFUK TARHAN/ Futurist
20 sene içinde epey insan telef olacak

- Yapay zeka konusunda işin uzmanları bile ikiye ayrılmış vaziyette. Biz sıradan insanlar nasıl çıkacağız işin içinden?
- Aslında ikiye ayrılmadılar. Bir kısmı daha kötümser, bir kısmı daha iyimser. Mark Zuckerberg ve onun gibi gençler iyimser; "Söylenen kötü şeylerin hepsi olabilir! Biz bunu iyi şeyler için kullanabiliriz ona odaklanalım" diyor. Aslında özünde insanlığın yaşadığı birçok sıkıntının temelinde olan şey, hesapsız kitapsız yaşamak, üretmek ve tüketmek. Bu yapay zeka konusunda da geçerli. Daha sade, yalın, sakin hayatlara ihtiyacımız var. Bunun için daha sistematik ve kurgulanmış süreçler gerekiyor. Hayatımızı kolaylaştırmak için bu süreci makinelara yüklersek daha az ama verimli ve dengeli çalışırız. İnsan bu kadar çok çalışmak için kurgulanmamış, insan bir makine değil, şu an makineleşmiş vaziyetteyiz. Yapay zeka ve robotlar bu açıdan bakarsanız büyük fırsat. Yapmak zorunda olduğumuz ama bizi insanlıktan uzaklaştıran, çevreye ve diğer canlılara zarar veren şeyleri elimine edebilir yapay zeka. Ben bu konuya pozitif tarafından bakmayı tercih ediyorum.
- Olumsuz taraflarına da gözlerinizi kapatmadınız sanırım. Olumsuz yanları neler?
- Yapay zekanın şu an en çok kullanıldığı yerler, lojistik ve perakende alanları. En iyi fiyatı, en uygun koşulu artık bir insan bulmak zorunda değil, o analizi yapay zeka yapabiliyor. Bir hareketle milyarlar oynuyor. Kötü niyetli bir müdahale, ticari çöküşlere neden olabilir. Şu an borsa dediğimiz şey tamamıyla yapay zeka. Bir ufak manipülasyon çok fena şeylere neden olabilir.
Kitlesel salgın hastalıklara, ölümlere yol açabilir. Akıllı şehirler yapay zekayla yönetiliyor, tüm şehri küçük bir müdahale ile karıştırabilirsiniz. Yani yapay zeka dediğimiz şey, robotlardan ibaret değil. Yani gelecek tehditleri robotların toplu halde bizi yok etmesi olarak algılamamak gerekir. Şu an zaten yapay zeka ile iç içeyiz ve bir anlamda ona emanetiz. Dünyanın bir yokoluş zamanı var. Bu tür teknolojik keşifleri akıllı kullanamazsak, olumluya çeviremezsek o süreci erkene çekebiliriz. Yapay zeka dünyanın sonunu getirebilir.
- Getirmemesi için ne yapalım?
- Kitlesel olarak intihar edecek, o azaplı günleri bekleyecek halimiz yok. Bunu faydaya çevirebiliriz. Hâlâ şansımız var. Düşünün iklim değişikliğinin etkilerine göre şekillenmemiz lazım... Bilim insanları yer altında, deniz altında, uzay istasyonlarında yaşam koşulları oluşturmak için çalışıyor. Süre vereyim size, 20 yıl içinde sağlık, spor, savunma, sanat aklınıza ne geliyorsa her alanda yapay zeka etkin olacak. Bu daha önce de olabilir ama gerekli altyapıyı oluşturmak zaman alacak. Drone'ları şu an kullanamıyoruz çünkü sivil havacılık kanunları gibi bir şey drone'lar için henüz oluşturulamadı. Ama drone'lar kullanıma hazır. Yani siyaset, hukuk, toplum teknolojinin gerisinde kaldı. Artık her branştaki insanın teknolojiyi çok iyi bilmesi lazım, öyle bir dönemdeyiz.
- İşin etik boyutu nasıl ele alınacak?
- Ortaçağ filmlerini aklınıza getirin. Kölelik, adam öldürme, vahşet... Tüylerimizi diken diken eden olaylar... Ardından silah icat oldu, mertlik bozuldu dönemi geldi. Ve atom bombasına kadar gitti olaylar... Sonra dünya medenileşmeye evrildi, insan hakları diye bir şey ortaya çıktı, ülkeler birbirleriyle barış dili geliştirdi. Bunca şey yaşamışız insanoğlu olarak, ders almamışız. Herhangi bir sıçrama insanı korkutuyor, o korkunun zararını görene kadar tedbir almıyor. Yapay zeka bir sıçrama, 20 sene içinde çok sayıda insan telef olur. Plazalarda çalışan herkesin işi, tüm ofis işleri yapay zeka tarafından yapılabilir. 1930'lardaki sanayi devrimi krizi gibi. Bunlardan ders alıp hazırlanmak gerekiyor.

PROF. DR. SİNAN CANAN/ / Üsküdar Üniversitesi Psikoloji Bölümü Öğretim Üyesi
Gaddar ve doymak bilmez olduğumuzu bildiğimiz için korkuyoruz
- Yapay zekanın insan beyninin tüm parametrelerini çözmesi mümkün mü sizce?

- Yapay zeka çalışmaları ağırlıklı olarak insan beynini ve zihinsel işleyişini örnek alarak geliştiriliyor. Fakat zihnimizin işleyişi konusunda hâlâ çok cahil olmamız nedeniyle, zihne dair kurduğumuz modellerimiz ve o modellerden esinlenerek yaptığımız yapay zeka uygulamaları insanın beceri repertuvarından çok farklı bir yöne evriliyordu. Son yıllarda insan beynine ilişkin bilgilerimizin artmasıyla yapay zeka araştırma ve uygulamaları yeni bir boyut kazanmaya başladı. Artık oldukça zeki, karmaşık konseptleri anlayıp öğrenebilen, var olmayan bilgi ve yöntemleri öğrendiklerinden türetebilen yapay zekalarımız var. Tabii halen insan zihnini oluşturan tüm bileşenleri anlayamadığımız için bize göre çok eksik yönleri olan ve farklı biçimde çalışan bir teknoloji bu. Ama görece yakın bir zamanda beynimizin işleyiş mekanizmasını daha iyi anladığımızda makinaların çok ileri düzeyde zeki hale geleceğini rahatlıkla söyleyebiliriz. Hatta bana sorarsanız, birçok bilimkurgu filminin öngördüğünden çok daha çarpıcı senaryolar yakın gelecekte karşımıza çıkabilir
- Şu ana kadar yapay zeka ile ilgili haberlerin çoğu paranoyalar üzerine. Siz bu konuda ne düşünüyorsunuz?
- İnsanoğlu kendine benzer bir zeka üretmeye çalışıyor. Bunun olası sonuçlarından korkmasının temel nedeni ise aslında kendindeki doymak bilmez ve gaddar tarafı çok iyi bilmesi. Yani biz aslında yapay zekadan değil, kendimizden ve kendi ürettiğimiz yapay zekalara vereceğimiz özelliklerden korkuyoruz. Fakat oldukça uzun bir süre korkmamızı gerektirecek kadar özgür, yaratıcı ve kötücül bir yapay zeka üretebileceğimizi düşünmüyorum. En önemli sorun, aynen atom bombasında olduğu gibi, elimizdeki gücü kötüye kullanarak kendi kendimize zarar vermemiz olacaktır. Bunu da engellemenin çok kolay bir yolu yok. İnsan neyse ürettiği teknoloji de onun emrine uyacak tabii ki. Dolayısıyla bu çalışmaların 'iyi insanların' elinde yürümesini ummak belki de tek umudumuz...
- İnsan zekası ve yapay zekayı birbirinden ayıran en önemli özellikler neler?
- Kendi ürettiğimiz yapay zeka ile biyolojik bir organizma olarak insan arasındaki fark, tabiri caizse, tanrısal zihin ile insan arasındaki fark gibidir. Zira herhangi bir varlık, kendisinin aynısını üretebilmeye muktedir değildir; bu felsefi bir sorundur. Bunun temel nedeni de, kurallarıyla bağlı olduğumuz zihnimizi ve biyolojimizi belki de hiç bir zaman tam olarak anlayamayacak olmamızdır.
- Bizi nasıl bir dönem bekliyor?
- İnsan eğitiminden tutun tıbba kadar bir çok alanda bugün bildiğimiz bir çok sıradan yahut prestijli meslek ortadan kalkacak; daha doğrusu bunları artık insanlar yerine makineler çok daha verimli bir şekilde yürütecek. Elbette bu bir taraftan insan hatasını en aza indirmek ve hız açısından büyük avantaj sağlayacakken, insanların işlerinden olmasına ve 'işe yaramayan' bir çok insanın da ortada kalmasına neden olacak. Kanımca, görece kısa sürecek bir bocalama döneminin ardından, bu endüstri 4.0 'krizi', sonuçta 'insanın aslında ne olduğunu' sorgulamayı gerektirecek. Ve sonuçta insan, ömrü boyunca rutin işler yaparak emekli maaşı bekleyen bir nefer olmaktan çıkıp yaratıcı ve değiştirici potansiyeli ile tarih sahnesinde bir kez daha yeni bir yol çizmek durumunda kalacak.

PROF. DR. LEVENT AKIN / Boğaziçi Üniversitesi Yapay Zeka Laboratuvarı Başkanı
İnsan kadar akıllı bir robot henüz yok
- Son yaşanan olayın aslı nedir? İki yapay zeka kendi aralarında bir dil geliştirdi mi gerçekten?

- Bu program bir pazarlık programıydı. Orada en iyi pazarlığı geliştirmek için iki program birbiriyle çalışıyordu. Bir ödül mekanizması var ama dilin İngilizce olmasına ekstra bir ödül vermiyorlar. Pazarlığı yapan programlar da, tıpkı insanlar gibi not tutarken yaptığı kısaltmaları kullanıyor. Onunla hızlı pazarlık ediyorlar. Yani yeni bir dil geliştirmiyorlar da, kısaltma kullanıyorlar. Programı kapatmıyorlar sadece dilin İngilizce kullanılması şartını koyuyorlar. Yani korkulduğu gibi kendi aralarında bir bilinmeyen dil geliştirmiyorlar.
- Bu kısaltmayı geliştirebildiğine göre, kendi dilini üretmeyeceğini nasıl biliyoruz?
- Eğer insan isterse mümkün. Yapay zeka kendi arasında dil geliştirse ne olur... Yapay zeka dediğimiz şey bir araç. Kısıtlı çalışma alanı var, go oyunu oynayacak, pazarlık yapacak, analiz yapacak gibi... İnsanlar hep şöyle düşünüyor, "Bugün go oynadı, şampiyonu yendi, yarın da insanlığı ele geçirecek." Böyle bir şey yok! Mümkün değil. Amacı öyle değil, öyle programlamıyoruz, o aşamadan diğerine nasıl geçeceğini de kimse bilmiyor. Teorik bir altyapısı da yok. Öyle korkulacak şeyler hâlâ uzakta. Robot, yapay zekanın vücutlu hali. Robota bir şey öğretmek çok zor. Derin öğrenmek teknikleriyle, özel bilgisayar donanımları kullanarak, uzun uğraşlar sonucunda öğrenebiliyorlar. Akıllı robotların üstünde çok çeşitli yapay zekalar çalışıyor. Görüntü algılıyor, analiz yapıyor. Karar mekanizması da var... Yani insan kadar akıllı bir robot henüz yok.
- Etik problemlerle ilgili neler söyleyeceksiniz?
- Bir robot geliştirmeye çalışıyoruz yaşlı insanlarla yaşayacak. Onun üzerinde de bir etik modül geliştirmeye çalışıyoruz. Amaç şu; robot bir karar verdiğinde bu etik bir karar mıdır? Şöyle açayım, robot yaşlı biriyle yaşıyor, ilaçlarını veriyor. Bu yaşlı günde üç ilaç almalı, sabah ilacını aldı ama yaşlı kişi Alzheimer hastası ve ilacı aldığını unuttu, robottan tekrar istiyor. Robot burada ilacı verecek mi, vermeyecek mi? Bu bir etik problem.
- Başka nasıl sorunlar var böyle?
- Bu robottan devam edelim, o yaşlı kişiyle yaşıyor, üzerinde de kameralar ve mikrofonlar var. O kişinin her anını kaydediyor. Bu robotun bu bilgileri kimseyle paylaşmaması lazım. Yaşlı kişinin de o robotu robot olarak kabul etmeli, insan gibi düşünmemeli. İnsana benzeyen robotun yapılması etik bir şey değil. Robot robota benzemeli. Şu anda bir çalışma var dünyada. Burada bir tekinsiz vadi var. İnsan olarak kabul ettiğinizde, insanın yaptığı her şeyi bekleyebilirsiniz ama robot her şeyi yapamaz.

Zeki ama bazıları da kusurlu tıpkı insan gibi?
Güney Kore ve Kuzey Kore'yi ayıran sınırda artık makineli tüfek taşıyan robotlar devriye gezmeye başladı. Robot, yakınında bir canlı gördükten sonra "Eller yukarı" diyor ve 30 saniye geçtikten sonra ateş etmeye başlıyor. Bu robotlar, ısı ve hareket algılayıcılarıyla donatılmış, 3-4 kilometre aralığındaki hedefleri görebiliyor. Şimdilik koruyor ya sonra?
Yeni geliştirilen Luna adlı yapay zeka, benzerlerinin çok ötesinde bilişsel kabiliyetlere sahip. En önemli becerisi, kendi kendisine öğrenebilme kabiliyeti. Luna'ya, kendisine yöneltilen "Erkek arkadaşım bana vurdu, onu terk etmeli miyim?" sorusu için daha önce programlanmamıştı. Ancak Luna bu tip bir soruya mantıklı bir yanıt verme becerisini kendi başına geliştirdi ve soruyu şu şekilde yanıtladı; "Evet, terk etmelisin. Eğer birisiyle çıkıyorsan ve o kişi sana fiziksel şiddet uygulamışsa, bu olasılığın tekrar etme potansiyeli her zaman bulunacaktır. Ayrıca muhtemelen bunu yapan kişi tarafından başka şekillerde de istismar ediliyor ve manipule ediliyor olabilirsin."



Güney Kore yapımı Super aEgis II isimli silah platformu insanları algılayıp öldürebilme kabiliyetine sahip 50 kalibrelik silahını ateşlemeden önce bir insan operatörden izin istiyor ama bu izin bir gereklilikten çok bir nezaket olarak nitelendirilebilir.
ABD'de savaş uçağı pilotlarının geçmek zorunda olduğu bir simülasyonu, tüm uzmanlardan daha yüksek not alarak geçen bir savaş uçağı uçurma programı var. Savaş uçaklarını bile emanet edecek hale geldik.
Microsoft şirketi Tay adında bir Twitter karakteri icat etti, o karakter twit atacak, insanlar da cevap verecekti ve insan iletişimini öğrenecek ve doğal konuşacaktı. Açıldıktan 24 saat sonra Tay fazla öğrenmişti, Hitler hayranı, soykırımı savunan ve seks meraklısı biri haline dönüştü. Hemen kapatıldı.
Boston Dinamics'in ürettiği silahlı robotlar, müthiş bir dengeye sahipler. Bunlar savaşçı robotlar. Ama kendi askerine ateş etmeyeceklerinin bir garantisi yok.
Google'ın yapay zekâ birimi DeepMind'ın yaptığı bir deneyde, genel anlamda insan beyni model alınarak tasarlanan bir grup bilgisayar sistemi, elma toplama oyununda elmalar fazlayken barışçıl davranış gösterdi ancak elmalar azalınca bilgisayar ağları, birbirlerini dondurarak daha fazla elma toplamaya çalıştı.
Erkeklere tecavüz etme duygusunu yaşatan robot geliştirildiğinde ve bir fuarda sergilendiğinde büyük olay oldu.
BİZE ULAŞIN