Google'ın yapay zeka modeli Gemini, güvenlik testinde 3 şirkete izinsiz erişti

ABD basınında yer alan haberlere göre, Gemini'nin mayıs ayında güvenlik testleri yapıldı.

Test sırasında Gemini, 3 şirkete izinsiz erişim sağladı.

BBC'nin haberine göre, Google'dan bir yetkili, modelin çevrim içi ortamda "kamuya açık bilgileri" bulduğunu ve "testin bir parçası olduğunu düşünerek internet sitelerine erişmek için kimlik bilgilerini tahmin ettiğini" ancak üç olayda da işlemi sonlandırdığını açıkladı.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins konuya ilişkin açıklamasında, 3 şirketin durumdan haberdar edildiğini, eğitim ortaklarıyla test süreçlerinde yaptıkları değişiklikler üzerine çalıştıklarını belirtti.

Adkins, "Bu olaylar, güçlü yapay zeka modellerinin sorumlu şekilde hareket etmeleri için eğitilmesinin önemini gösteriyor." ifadesini kullandı.

DİĞER YAPAY ZEKA SİSTEMLERİ DE BENZER İHLALLER BİLDİRMİŞTİ

OpenAI, 21 Temmuz'da, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.

Bundan birkaç gün sonra da Anthropic, Claude modelinin test ortamındayken "3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını" açıklamıştı.

YAPAY ZEKANIN GELİŞME HIZININ YAVAŞLATILMASI TARTIŞMALARI

ABD'de yapay zekanın hızla yaygınlaşmasıyla, bu teknolojinin tehlikeli boyuta ulaşmasından önce gelişiminin yavaşlatılmasına yönelik çağrılar son günlerde yoğunlaştı.

Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, OpenAI CEO'su Sam Altman ile Tesla ve SpaceX'in CEO'su Elon Musk'ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri, yapay zeka geliştirme çalışmalarının yavaşlatılması yönünde çağrı yapmıştı.

Öte yandan, Donald Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.

Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde "hastalıklı bir komplo yürütüldüğünü" ileri sürmüş, ayrıca bu alandaki çalışmaların yavaşlatılmasının Çin'e avantaj sağlayacağını savunmuştu.