SubQ AI Açıklaması: 12M Bağlam Pencereli LLM Ne Kadar İyi?

5 Mayıs 2026'da, Miami merkezli küçük bir girişim olan Subquadratic, SubQ adlı bir model yayınladı. Ekip küçük, ancak 29 milyon $ tohum yatırım aldılar ve modelin tek seferde 12 milyon belirteci işleyebildiğini iddia ediyorlar.

Ayrıca, modellerinin 1M belirteçte FlashAttention'dan 52 kata kadar daha verimli olduğu ve yaklaşık 1/20 maliyetle Claude Opus'a benzer kodlama performansı elde ettiği gibi kulağa çılgın gelen başka iddialarda da bulundular.

Bunlar büyük iddialar; dolayısıyla bunları parçalara ayırıp gerçekte neler olup bittiğine bakmak mantıklı. Bu yazıda, SubQ'nun ne olduğunu, mimarinin nasıl çalıştığını ve ilk ayrıntılar ile geliştirici topluluklarının bu iddialar hakkında ne söylediğini anlatacağım.

SubQ nedir?

SubQ, Subquadratic'in 5 Mayıs 2026'da yayınlanan ve tek başlık özelliği etrafında inşa edilen LLM'idir: 12 milyon belirteçlik bir bağlam penceresi. Şirketin sevk ettiği ilk modeldir ve şimdiden önemli tartışmalar başlatan verimlilik ve maliyete dair iddialı söylemlerle birlikte gelir. 

Model henüz genel kullanıma açık değil; API, SubQ Code ve SubQ Search erişimi şimdilik yalnızca bekleme listesi üzerinden erken erişimle sınırlı.

SSA denen bir şeyin üzerine kurulu; bu, Subquadratic Sparse Attention'ın kısaltmasıdır.

Her belirteci diğer tüm belirteçlerle karşılaştırmak yerine (standart yoğun dikkat böyle çalışır), SSA seçici bir yaklaşım benimser. Her belirteç için model en ilgili belirteçleri seçer ve yalnızca bu alt küme içindeki ilişkileri hesaplar.

Bu iki net etki doğurur.

• İlk olarak, hesaplama sayısını azaltır; bu da doğrudan verimliliği artırır ve maliyeti düşürür. 
• İkincisi, seçim içeriğe bağlıdır. Bu, modelin yalnızca yakındaki belirteçlere bakmadığı anlamına gelir. İlgili belirteçleri dizideki herhangi bir yerden, araları uzak olsa bile, çekebilir.

SubQ'yu Özel Kılan Nedir?

Pratikte, SSA mimarisi modelin her şeyi eşit şekilde işlemeye çalışmak yerine gerçekten önemli olana odaklanması anlamına gelir. Hedeflenen sonuç, tam dikkatle benzer doğruluk, ancak önemli ölçüde daha düşük hesaplama ve bellek gereksinimleridir.

İlk olarak yoğun dikkate daha yakından bakalım, sonra iki yaklaşımı karşılaştıralım.

Transformer'larda karesel ölçekleme sorunu

Bugünün GPT, Claude ve Gemini gibi modelleri yoğun dikkate dayanır. Yüksek seviyede bu, girdideki her belirtecin diğer tüm belirteçlerle karşılaştırıldığı anlamına gelir. Girdi büyüdükçe karşılaştırma sayısı karesel olarak artar.

Uzun bir belge alın ve modelin son kelimeyi üretmesi gerektiğini hayal edin. O belgede yer alan her belirtece geri bakar, ilişkiler kurar ve sonra sırada ne geleceğine karar verir. Yoğun dikkatin işe yaramasının nedeni budur. Her şeyi dikkate alır.

Ama bu güç bir maliyetle gelir. Girdi boyutu arttıkça hesaplama ve bellek gereksinimleri keskin şekilde artar ve bağlam penceresi sınırlarını oluşturur. Basitçe söylemek gerekirse, n belirteç sayısı olmak üzere O(n²) düzeyinde ölçeklenir.

Bu nedenle çoğu model pratik sınırlar içinde kalır. Standart modellerde 128 bin belirteç normdur ve Claude Opus gibi en güçlü modeller 1M bağlam penceresinde zirve yapar.

Bunu aşmak için, çoğu yapay zekâ destekli sistem modeli tam veri kümeleriyle beslemekten kaçınır. Bunun yerine şu tekniklere dayanırlar:

• RAG (Geri Getirme Artırmalı Üretim): Veriyi haricen depolayın, yalnızca ilgili parçaları alın ve bunları modele iletin.
• Parçalama: Büyük metni daha küçük parçalara ayırın ve sadece ilgili parçaları modele gönderin.
• Özetleme stratejileri: Uzun içeriği sıkıştırın ve tüm metin yerine özetleri modele verin.

Dikkat mekanizmalarını daha derinlemesine anlamak isterseniz, LLM'lerde Dikkat Mekanizması üzerine bu öğreticiye göz atabilirsiniz. Modern LLM'lerin yapı taşlarıyla pratik deneyim kazanmak için PyTorch ile Transformer Modelleri kursumuzu öneririm.

SubQ kendini nasıl farklı konumluyor

Yoğun dikkat girdi boyutuyla karesel olarak büyürken, SSA alt-karesel ölçeklenecek şekilde tasarlanmıştır; O(n·k) hedefine daha yakındır; O(n²) yerine; burada k, adım başına seçilen belirteç sayısıdır. k değeri n'ye kıyasla küçük tutulduğunda bu, tam dikkatten belirgin şekilde daha verimlidir.

Yoğun tümden-tüme bağlantılara karşı seyrek seçici bağlantıları gösteren karesel ve doğrusal dikkat diyagramı.

Buradaki bariz endişe doğruluktur. Model yalnızca girdinin bir kısmına bakıyorsa, önemli ilişkileri kaçırabilir. Bu ödünleşim genellikle yoğun dikkatin var olmasının başlıca nedenidir.

SubQ'nun iddiası, bu ödünleşimin pratikte ortaya çıkmadığı yönünde. Modelin, mevcut belirteçten uzakta olsalar bile gerekli tüm belirteçlere dikkat ettiğini ve en üst düzey modellerle benzer doğruluğu koruduğunu söylüyorlar.

Subquadratic Sparse Attention Nasıl Çalışır?

Artık biliyoruz ki, her belirteci diğer tüm belirteçlerle karşılaştırmak yerine, SSA dizide önemli olan belirteçleri seçer ve dikkat hesabını yalnızca bu konumlar üzerinde yapar. Şimdi bu seçimi nasıl yaptığına bakalım.

SSA ilgili ilişkileri nasıl seçer

SSA içerik bağımlı yönlendirme kullanır. Basitçe söylemek gerekirse, belirteçleri mevcut belirtece ne kadar ilgili olduklarına göre seçer. Belirteçler arasında similarity(query_i, key_j) gibi bir benzerlik skoru hesaplar ve dikkat için yalnızca en yüksek skora sahip ilk k belirteci tutar.

Zamanla model, anlamlı belirteçleri önceliklendirmeyi ve gürültüyü yok saymayı öğrenir. Buna anahtar kelimeler, önemli varlıklar ve güçlü bağlamsal sinyaller taşıyan belirteçler dahildir.

Sadece içeriğe bağlı olmakla kalmaz, SSA ayrıca dizideki yapısal ilişkileri de korur. Örneğin, yerel dikkat desenleriyle yakın belirteçlere her zaman dikkat verilirken, belirli küresel belirteçler tüm dizi boyunca dikkat edecek şekilde tasarlanmıştır.

SSA aynı zamanda hiyerarşik ve kümeleme tabanlı dikkat tekniklerini de içerir. Örneğin, benzer belirteçleri kümeler ve dikkati en ilgili kümelerle hesaplar. Bu, modelin her belirteci tek tek değerlendirmesine gerek olmadığı, önce gruplar düzeyinde akıl yürütebileceği, sonra gerekirse bu kümeler içindeki belirteçlere yakınlaşabileceği anlamına gelir.

Uzun bağlam geri getirme için eğitim

Tek başına büyük bir bağlam penceresi sihir yaratmaz. Modele 12M belirteç verseniz bile, bu bağlamı etkin şekilde nasıl kullanacağını bilmesi gerekir. SSA bu amaçla eğitilir:

• Ön eğitim: Temel model, uzun bağlam temsilleri içeren, büyük ve çeşitli veri kümeleri üzerinde eğitilir. 
• Denetimli ince ayar: Model daha sonra akıl yürütme ve kod üretimi dahil olmak üzere yapılandırılmış görevlerde eğitilir. 
• Pekiştirmeli öğrenme: Modeli yalnızca yakın belirteçleri (yerel dikkat) dikkate almakla sınırlamak yerine, bu adım onun tüm metinden (küresel dikkat) ilgili belirteçleri kullanmasını sağlamaya yöneliktir.

Pekiştirmeli öğrenme aşaması özellikle kurumsal kodlama kullanım senaryoları için önemlidir. Modelin aynı anda daha geniş bir bağlamı, bu durumda tüm kod tabanını, çıktıyı üretirken dikkate almasını sağlar.

SubQ Kıyaslamaları ve Performans

"SubQ 1M-Preview" ifadesinin, 1M belirteçte kıyaslanan sürüme atıfta bulunduğunu not edin. Tam 12M bağlam penceresine API üzerinden erişilebilir.

Subquadratic'in paylaşmayı seçtiği üç kıyaslamada, SubQ 1M-Preview; Claude Opus 4.7, GPT-5.5 ve Gemini 3.1 Pro ile başa baş gidiyor. 

Ancak kıyaslama seçimi dar; tam olarak üç test ve hepsi uzun bağlam geri getirme ile kodlamaya odaklanıyor; yani SubQ'nun açıkça iyi yapmak üzere tasarlandığı iki alan. Genel akıl yürütme, matematik, çok dilli performans ve güvenlik gibi daha geniş değerlendirmeler yayınlanmadı.

Tam model kartı web sitesinde "yakında" olarak listeleniyor, bu nedenle orada daha genel kullanım durumları için daha fazla kıyaslama bekleyebiliriz.

Şimdilik, uzun bağlam geri getirme ve kodlama kullanım durumları genelindeki sonuçlar şöyle:

Rakamlar ne gösteriyor

RULER 128K: SubQ %95 aldı; Opus 4.7'nin %94,8'ine karşı. Doğruluk farkı önemsiz olsa da, burada asıl önemli olan maliyet: Subquadratic, bu değerlendirmeyi SubQ üzerinde çalıştırmanın yaklaşık 8 $ tuttuğunu, aynı bağlam uzunluğunda Opus'ta ise yaklaşık 2.600 $ olduğunu iddia ediyor.

MRCR v2 (8-needle, 1M): Bu kıyaslama, modelin 1M belirteçlik bir bağlam boyunca gömülü 8 ayrı bilgiyi doğru şekilde geri getirip izleyip izleyemediğini test eder. SubQ, araştırma sonucu olarak %83 gösteriyor, ancak üretim skoru %65,9'a düşüyor. Laboratuvar ile devreye alınmış performans arasındaki yaklaşık 17 puanlık bu fark dikkat çekici ve tam olarak açıklanmış değil. Yine de GPT-5.5 (%74,0) ile rekabetçi kalıyor ve Claude Opus 4.7 (%32,2) ile Gemini 3.1 Pro'nun (%26,3) oldukça önünde.

SWE-Bench Doğrulanmış: SubQ %81,8 alıyor; Opus 4.6'nın %80,8'inin önünde, ancak Opus 4.7'nin %87,6'sının gerisinde. Opus 4.6'ya karşı marjlar küçük ve test düzeneğine duyarlı. Opus 4.7 ve GPT-5.5'e karşı SubQ açıkça geride.

12 milyon belirteçte: SubQ'nun 12M bağlamda samanlıkta iğne görevlerinde %90'ın üzerinde puan aldığı bildirildi; ancak bu rakam resmî kıyaslamalarda doğrulanmadı. Bu uzunlukta test edilen başka ileri düzey model yok; bu yüzden doğrudan karşılaştırma yapılabilecek bir şey bulunmuyor. Bu, lansmandaki mimari açıdan en ilginç sonuç ve aynı zamanda sonuçlara varmadan önce bağımsız yeniden üretim gerektiren bulgu.

SubQ, RAG, Kodlama Aracıları ve Yapay Zekâ Maliyetleri İçin Ne Anlama Geliyor?

SubQ'nun mimarisi ölçekli olarak ayakta kalırsa, LLM sistemlerinin nasıl inşa edildiğini değiştirir. Daha uzun bağlam pratik hâle gelir; agresif parçalama, geri getirme ve belirteç optimizasyonu ihtiyacını azaltır. Bu değişikliklere daha yakından bakalım.

RAG ne zaman isteğe bağlı olur

Son iki yıldır, Geri Getirme Artırmalı Üretim (RAG), LLM'lerde temel bir sınırlamaya verilen varsayılan yanıttı: modeller her şeyi aynı anda okuyamaz. Bilgi tabanınız bağlam penceresinden büyükse belgeleri parçalarsınız, gömümlerini çıkarır, bir vektör veritabanında saklar, en ilgili parçaları geri getirir ve istemle birlikte yalnızca bu parçaları modele iletirsiniz.

Bu ekosistemin tamamı bağlam kıt olduğu için var.

Bir model tek seferde güvenilir şekilde milyonlarca belirteci işleyebildiğinde, geri getirme etrafında inşa edilen mühendislik katmanlarının çoğu belirli iş akışları için daha az gerekli hâle gelir. Hangi parçaların geri getirileceğine zaman harcamak yerine, sistem ham malzemeyi doğrudan içeri alabilir ve baştan sona bunun üzerinde akıl yürütebilir.

Ancak, bağlam penceresinin ötesinde RAG hâlâ şu kabiliyetler için önemlidir:

• Oturumlar arası bellek: LLM'ler bir oturum bittiğinde hiçbir şeyi hatırlamaz. Bir kullanıcı daha sonra geri gelirse, model sıfırdan başlar. Geri getirme sistemleri (veya veritabanları) geçmiş kararlar, belgeler veya kullanıcı verileri gibi önemli bilgileri saklar; böylece model bunları gelecekteki etkileşimlerde hatırlayıp kullanabilir.
• İzinler ve erişim kontrolü: Geri getirme sistemleri "bu kullanıcı yalnızca kendi ekibinin verilerine erişebilir" gibi kuralları uygulayabilir. Böylece model, kullanıcının görmesine izin verilen belgeleri alır; bu da kazara veri sızıntılarını önler.
• Denetlenebilirlik: Kurumsal ortamlarda sadece bir yanıt vermek yetmez; neden doğru olduğunu göstermeniz gerekir. Geri getirme sistemleri kullanılan tam belgelere veya kaynaklara işaret edebilir; böylece ekipler sonuçları doğrulayabilir ve bir sorun çıkarsa hataları ayıklayabilir.
• Yapılandırılmış bilgi yönetimi: Şirketler sürekli olarak belgeler ekler, günceller ve kaldırır. Geri getirme sistemleri bu veriyi gömümleme ve indeksleme ile düzenler; böylece model, her seferinde her şeyi yeniden işlemeye gerek kalmadan, en güncel ve en ilgili bilgiyi hızla bulabilir.

Yapay zekâ araclarına kalıcı bellek eklemek için yeni ve ilginç bir yaklaşıma dair, Supermemory Eğitimi yazımızı okuyun; bu yazıda kısa ve uzun süreli belleğe sahip bir egzersiz eğitmeni nasıl oluşturulur öğrenilir.

Uzun bağlamlı kodlama iş akışları

Şu anda çoğu kodlama modeli tüm kod tabanını göremez. Bu yüzden, doğru bağlamı pencerede tutmak ve dosyalar arası ilişkiler kurmak için üzerine katmanlar ekleriz: dosya arama, parçalama, sıralama ve çok adımlı planlama.

Ancak SubQ'nun 12M bağlamıyla, tüm kod tabanı tek seferde modele yüklenir. Bu, aracı tasarımını anlamlı biçimde sadeleştirir.

• Planlama küresel olur: Model, mimari, bağımlılıklar ve dosyalar arası etkileşimler hakkında bağlam kaçırmadan akıl yürütebilir.
• Uygulama daha tutarlıdır: Birden çok dosyadaki değişiklikler artımlı güncellemeler yerine tek seferde koordine edilebilir.
• Gözden geçirme daha güvenilirdir: Model kendi değişikliklerini tüm kod tabanına karşı doğrulayabilir ve tutarsızlıkları azaltır.

Maliyet ekonomisi

Standart transformer modellerinde dikkat, dizi uzunluğuyla karesel olarak ölçeklenir. Bağlamı iki katına çıkarırsanız maliyet sadece iki katına çıkmakla kalmaz; dört kat daha pahalı hâle gelebilir.

SubQ bu ödünleşimi bozduğunu iddia ediyor.

• ~1/20 maliyet rapor ediyor (karşılaştırılabilir ileri seviye modeller olan Claude Opus'a kıyasla)
• Ve 12M belirteçlik bağlamda ~1.000× hesaplama azaltımı

Bu üretimde de geçerli olursa, uzun bağlam işleme pahalı bir uç durum olmaktan çıkar ve daha rutin olarak kullanılabilir hâle gelir.

Ancak, ucuz bir bağlam penceresine ek olarak, modelin bağlamına yüklediğimiz bilgiyi verimli kullanabilmesi gerekir. Kıyaslamalara dayanarak, SubQ çok daha düşük maliyetle karşılaştırılabilir doğruluk iddia ediyor; ancak nihai bir yargı için henüz çok erken.

SubQ'ya Nasıl Erişebilirim?

SubQ henüz genel kullanıma açık değil. Üç ürünün tamamı, çekirdek API, SubQ Code ve SubQ Search, şu anda özel betada ve erişim SubQ web sitesi üzerinden erken erişim talebi gerektiriyor.

Geliştirici perspektifinden, API entegrasyonu kolay olacak şekilde tasarlanmıştır. Şunları destekler:

• akış yanıtları
• araç/fonksiyon çağırma
• OpenAI uyumlu uç noktalar

Bu da, yığınınız hâlihazırda OpenAI tarzı API'lerle çalışıyorsa, genellikle entegrasyonunuzu baştan yazmanıza gerek olmadığı anlamına gelir.

SubQ Code, komut satırı kodlama aracısı olarak konumlandırılırken, SubQ Search daha derin araştırma iş akışları için uzun bağlam aramaya odaklanır. Bunları Claude Code ve Perplexity'nin SubQ versiyonları olarak düşünebilirsiniz. 

Bu araçların hiçbirinin fiyatlandırması da henüz şeffaf değil. Halka açık per-belirteç ücretleri yok; bu da şirketin maliyet iddialarını bağımsız olarak doğrulamayı zorlaştırıyor.

Şüphecilik ve Açık Sorular

Lansmandan saatler sonra, sosyal medya platformlarında ve Hacker News gibi mesaj panolarında hâlihazırda çok sayıda kuşku ve karışık tepki vardı. Tartışma ikiye bölünmüş durumda; kimi bunun gerçek bir atılım olduğunu düşünürken kimileri de bunu "AI Theranos"a benzetiyor (sahtekâr teknoloji iddialarıyla gündeme gelen ve başarısız olan kan testi girişimine gönderme).

Şüphelerin çoğu şunlara odaklanıyor: 

• 12M'lik bir bağlam penceresi iddia ediyorlar, ancak paylaşılan kıyaslamaların hepsi 1M'de.
• Şirketin adını Subquadratic koydular; ama bazı yerlerde O(1) benzeri ölçeklemeden bahsediyorlar. O(1) olsaydı, 12M belirteçlik bir bağlam penceresinden çok daha fazlası beklenirdi. O(log n) bile daha büyük sınırlar sağlar.

Benzer bir anlatı 2024'te Magic.dev ile de ortaya çıkmıştı. Çok büyük bağlam pencereleri (100M belirtece kadar) ve özellikle kodlama iş akışları için büyük verimlilik kazanımları etrafında güçlü iddialarda bulundular. 

Sunum neredeyse aynıydı: tüm kod tabanlarını yükleyin, geri getirme karmaşıklığını azaltın ve aracı tasarımını sadeleştirin. Ancak sonuç, en azından kamuya açık olan, daha sönük oldu. Yaklaşık 500 milyon $ toplamalarına rağmen, 2026 başı itibarıyla hâlâ sınırlı düzeyde gerçek dünya görünürlüğü veya benimseme var.

Doğrulananlar

SubQ'nun iddiaları tamamen teorik değil. Subquadratic, RULER, MRCR v2 ve SWE-Bench Doğrulanmış kıyaslamalarının üçüncü taraf bir test hizmeti tarafından yürütüldüğünü ve uzun bağlam geri getirmede güçlü, kodlama görevlerinde rekabetçi performans gösterdiğini raporluyor. 

Bununla birlikte, bu sonuçlar henüz haricî araştırmacılar tarafından bağımsız şekilde yeniden üretilmedi ve değerlendirme kapsamı dar. Üç kıyaslamanın tamamı, SubQ'nun tam da inşa edildiği alanları (büyük bağlamdan sinyallerin geri getirilmesi ve kod üzerinde çalışması) vurguluyor.

Bir diğer önemli ayrıntı mimari. CTO, SubQ'nun modelleri sıfırdan eğitmediğini, bunun yerine açık kaynaklı temel modeller üzerine inşa ettiğini (muhtemelen DeepSeek veya Kimi ailelerinden) doğruladı. Bu, küçük bir ekip için pratik bir tercihtir. Yineleme hızını artırır ve eğitim maliyetini düşürür. Bu da asıl yeniliğin temel modelin kendisi değil, dikkat mekanizması ve bunun etrafındaki sistem tasarımı olduğu anlamına gelir.

Son Düşünceler

SubQ sahnede ve iddialar epey iddialı. Yön belli: bağlam penceresi kısıtını ortadan kaldırın ve modellerin çok daha büyük girdileri işlemesine izin verin. Kodlama ve uzun bağlam geri getirme konularında ileri seviye modellerle eşleştiğini ya da onları geçtiğini, hem de çok daha düşük maliyetle yaptığını konumluyorlar.

Bununla birlikte, hâlâ erken. Daha geniş yetenekler ve testler hakkında daha fazla görünürlük için tam model kartını bekliyoruz. Bunun üzerine inşa edilen ürünler, SubQ Code ve API, henüz genel kullanıma açık değil. Bu araçları bizzat deneyimlemeyi ve iddiaların üretimde nasıl dayandığını görmeyi dört gözle bekliyorum.