Sözcük kullanmadan düşünen yapay zekâ geliştirildi: Maliyeti 11 kat azaltabilir

Yapay zekâ modellerinin düşünmek için uzun metin zincirleri üretmesi gerektiği fikri tartışmaya açıldı. Pathway tarafından geliştirilen BDH-CQ adlı yeni sistem, ara düşünme adımlarını sözcüklere dökmeden işlem yaparak daha düşük maliyet ve daha kısa yanıt süresi vadediyor.

ChatGPT ve benzeri araçların temelindeki Transformer modelleri, karmaşık görevlerde çok sayıda token üreterek adım adım akıl yürütüyor. Token miktarı arttıkça işlem gücü, gecikme ve kullanım maliyeti de yükseliyor. BDH-CQ ise çözümü yüksek boyutlu bir "gizli alanda" yinelemeli olarak işliyor ve yalnızca nihai cevabı üretiyor.

150 MİLYON PARAMETREYLE DİKKAT ÇEKEN SONUÇ

Araştırmaya göre yalnızca 150 milyon parametreye sahip model, soyut akıl yürütmeyi ölçen ARC-AGI-1 testinde iki denemede yüzde 29,5 başarı elde etti. Görev başına hesaplanan çalıştırma maliyeti 0,0007 dolar olurken sistemin karşılaştırılan OpenAI modelinden yaklaşık 11 kat daha ucuza çalıştığı belirtildi.

YENİ MİMARİ YAPAY ZEKâ MALİYETİNİ DÜŞÜREBİLİR

Model, örneklerden öğrendiği bilgileri yinelenen belleğinde saklıyor ve çözümü metinsel bir taslak oluşturmadan geliştiriyor. Böylece gereksiz token üretiminin ve enerji tüketiminin azaltılması hedefleniyor.

Ancak BDH-CQ henüz genel amaçlı büyük modellerin rakibi değil. Sonuçlar tek bir karşılaştırma testine dayanıyor ve yöntemin karmaşık görevlerde nasıl ölçekleneceği bilinmiyor. Araştırmacılar, mimariyi matematik, siber güvenlik ve endüstriyel operasyonlarda sınamayı planlıyor. Bu yaklaşım başarılı olursa yapay zekâyı daha erişilebilir hale getirebilir.

X
Sitelerimizde reklam ve pazarlama faaliyetlerinin yürütülmesi amaçları ile çerezler kullanılmaktadır.

Bu çerezler, kullanıcıların tarayıcı ve cihazlarını tanımlayarak çalışır.

İnternet sitemizin düzgün çalışması, kişiselleştirilmiş reklam deneyimi, internet sitemizi optimize edebilmemiz, ziyaret tercihlerinizi hatırlayabilmemiz için veri politikasındaki amaçlarla sınırlı ve mevzuata uygun şekilde çerez konumlandırmaktayız.

Bu çerezlere izin vermeniz halinde sizlere özel kişiselleştirilmiş reklamlar sunabilir, sayfalarımızda sizlere daha iyi reklam deneyimi yaşatabiliriz. Bunu yaparken amacımızın size daha iyi reklam bir deneyimi sunmak olduğunu ve sizlere en iyi içerikleri sunabilmek adına elimizden gelen çabayı gösterdiğimizi ve bu noktada, reklamların maliyetlerimizi karşılamak noktasında tek gelir kalemimiz olduğunu sizlere hatırlatmak isteriz.