NVIDIA Nemotron 3.5 Lightning: Özellikler, Kıyaslamalar ve Erişim

Aracı yapay zekâya dair sohbetlerin çoğu, planlamayı yapan sınır akıl yürütme modellerine odaklanır.

NVIDIA, Nemotron 3.5 Lightning ile aracıların çoğu işini yapmak için sınır modelinin yanlış araç olduğunu savunuyor.

Uzun süre çalışan ajanlar, belirteç bütçelerinin çoğunu araç çağrılarına, çıktıları doğrulamaya ve alt ajanlara devretmeye harcar; her adımda bir sınır modeli çalıştırmak pahalı ve yavaştır.

11 Ağustos 2026'da yayımlanan Nemotron 3.5 Lightning, yürütme katmanını doğrudan hedefleyen, 3B aktif parametreli açık bir 30B uzman karışımı (MoE) modelidir.

NVIDIA, Artificial Analysis Intelligence Index'te doğruluk-hız Pareto sınırını yakaladığını ve benzer boyuttaki modellere kıyasla 4 kata kadar çıktı hızına ulaştığını iddia ediyor. Ağırlıklar, eğitim verisi ve tariflerle birlikte serbest OpenMDW-1.1 lisansı altında sunuluyor.

Bu yazıda, Nemotron 3.5 Lightning ile gelen yenilikleri, özelliklerini ve kıyaslamalarını ele alacağım. Benzer boyuttaki bir MoE modelinin pratikte nasıl davrandığını görmek isterseniz, tıbbi S&C veri kümesi üzerinde Qwen3.6 ince ayarı hakkındaki eğitimimiz uçtan uca iş akışını anlatıyor.

Kısaca Nemotron 3.5 Lightning

• Nemotron 3.5 Lightning, 11 Ağustos 2026'da yayımlanan, her zaman açık ajanların yüksek hacimli yürütme katmanı için oluşturulmuş, 3B aktif parametreli açık bir 30B MoE modelidir.
• NVIDIA, benzer boyuttaki modellere kıyasla 4 kata kadar çıktı hızı ve Qwen3.6-35B'ye göre benzer doğrulukta 10.000 görevin %30 daha hızlı tamamlandığını iddia ediyor.
• Temel kıyaslamalar (BF16): SWE-bench Verified 51.56, PinchBench 85.37, GPQA Diamond 75.44, MMLU Pro 81.94.
• OpenMDW-1.1 altında ağırlıklar, veriler ve tariflerle birlikte sunulur; Jetson'dan DGX Spark'a ve veri merkezlerine kadar donanımlarda çalışır.
• NeMo Switchyard, yürütmeyi Lightning'e, planlamayı ise Nemotron 3 Ultra gibi sınır modellere yönlendirir.

Nemotron 3.5 Lightning Nedir?

Nemotron 3.5 Lightning, NVIDIA'nın özerk ajanlarda yüksek hacimli, düşük gecikmeli yürütme için özel olarak tasarlanmış Nemotron 3 açık model ailesinin en küçük üyesidir.

Mamba-2 + MoE + dikkat hibrit mimarisi kullanır; toplam 30B parametreye ve belirteç başına 3B aktif parametreye sahiptir; 1M belirtece kadar bağlam uzunluğunu destekler.

Hızı sağlayan, MoE tasarımıdır.

Bir yönlendirici, her belirteci çok sayıdaki uzmandan yalnızca birkaçına gönderir; böylece belirteç başına parametrelerin yalnızca bir kısmı çalışır.

Daha büyük yoğun bir modelin kapasitesini, küçük bir modelin hesaplama maliyetiyle elde edersiniz; bu, 3B aktif parametreye sahip Qwen3.6-35B-A3B'nin yaptığıyla aynı değiş tokuştur.

NVIDIA'nın büyük iddiası tek bir puandan ziyade konumsaldır: aracı görevleri, kodlama, bilimsel akıl yürütme ve genel zekâyı kapsayan 9 değerlendirmeyi birleştiren Artificial Analysis Intelligence Index'te, Lightning küçük açık modeller için doğruluk-hız Pareto sınırında yer alır.

Düz söylemek gerekirse, kendi boyut sınıfında hem daha isabetli hem de aynı anda daha hızlı olan bir model yok.

Nemotron 3.5 Lightning'de Neler Yeni?

Buradaki özelliklerin tümü tek bir amaca hizmet ediyor: bir ajanın rutin işlerini, doğruluktan ödün vermeden hızlı şekilde çalıştırmak.

Gerçekte neler yapabileceğinize bakalım.

Yerel donanımda yetkin ajanlar çalıştırın

Model, NVIDIA DGX Spark, GeForce RTX 5090 veya Jetson üzerinde dağıtılabilecek kadar küçük olduğu için, bir veri merkezine ihtiyaç duymadan masaüstünde ajanik iş yükleri çalıştırabilirsiniz.

NVIDIA, Lightning'i DGX Spark üzerinde profillemek için EXO Labs ile çalıştı ve EXO Labs local.ai liderlik tablosunda küçük açık modeller için Pareto sınırında yer aldığını bildiriyor.

Uygulayıcılar için bu, araç çağrılarını ve sonuç doğrulamayı üstlenen her zaman açık bir ajanın, hâlihazırda sahip olduğunuz donanımda çalışabileceği anlamına gelir.

Ayrıca LM Studio, llama.cpp, Ollama ve Unsloth üzerinden de sunabilirsiniz; bu nedenle yerel araç ekosistemi lansman anında olgun durumda.

NeMo Switchyard ile yürütmeyi aşağıya, planlamayı yukarıya yönlendirin

NVIDIA, istekleri bunları karşılayabilecek en verimli modele yönlendiren bir kütüphane olan NeMo Switchyard'ı modelle birlikte yayımlıyor.

Switchyard, Nemotron 3.5 Lightning'i açık ve kapalı modellerinizin yanında bir yönlendirme hedefi olarak sunar; böylece planlama Nemotron 3 Ultra gibi bir sınır modele yukarı yönlendirilirken yürütme Lightning'e aşağı yönlendirilir.

Pratik getirisi ise belirteç verimliliğidir.

Bir git pull çalıştırmak, bir araç çıktısını doğrulamak veya bir sonucu biçimlendirmek için sınır model ücretlerini ödemek yerine bu çağrılar ucuz modele iner; pahalı model ise kaliteyi belirleyen ama hacmi belirlemeyen zor planlama adımları için ayrılır.

Kutudan çıktığı gibi özelleştirin

Küçük modeller, büyük modellere kıyasla daha hızlı, daha ucuz ve daha mütevazı donanımlarda ince ayarlanır; Lightning de belirli bir işe uyarlanmak üzere tasarlanmıştır.

NVIDIA, ağırlıkları, eğitim verilerini ve tarifleri OpenMDW-1.1 altında yayımladı; LoRA veya tam SFT'yi NeMo Automodel ve NeMo Megatron Bridge kullanarak yapabilir ya da NeMo RL ve NeMo Gym ile pekiştirmeli öğrenim çalıştırabilirsiniz.

Yayıma ayrıca, bazı kodlama-ajan davranışlarını eğitmek için kullanılan açık bir ajan RL veri kümesi olan Nemotron-RL Agentic Terminal Pivot da dahil edildi.

Burada değmeye değer, topluluk odaklı bir iddia daha var.

MindStudio, ortak ince ayarının yaklaşık 100 $ maliyetle 3 saatin altında tamamlandığını bildiriyor; bu, ancak bu boyutta bir modelle mantıklı olan bir uyarlama maliyeti.

Daha yüksek verim için spekülatif kod çözücü

Lightning, bir taslak modelin önerdiği ve ardından verimli biçimde gözden geçirilen belirteçler üreten spekülatif kod çözme ile adım başına birden çok belirteç üretir.

Modelin çoklu belirteç tahminini (MTP) içselleştirmesi için özel bir ön eğitim aşamasından geçti; bunu bir MTP artırma evresi izledi. Bu yaklaşım Nemotron 3 Super ve Ultra'da da kullanıldı.

MTP'nin ötesinde, NVIDIA iki taslak model sunuyor.

DSpark, DGX Spark ve düşük eşzamanlı veri merkezi iş yükleri için önerilirken MTP, orta-yüksek eşzamanlılığa uygundur; ayrıca hizmet verme deseninize en iyi hangisinin uyduğunu kıyaslayabilmeniz için bir DFlash taslak modeli de sağlanır.

Nemotron 3.5 Lightning Kıyaslamaları

NVIDIA, hem BF16 hem de NVFP4 kontrol noktaları için skorlar bildiriyor ve ikisi çoğu görevde birbirine yakın seyrediyor; bu önemli çünkü NVFP4, gerçekte dağıtacağınız nice'lenmiş kontrol noktasıdır. Aşağıdaki rakamlar NVIDIA'nın kendi model kartı ve lansman blogundan alınmıştır. Yazı yazılırken bağımsız üçüncü taraf yeniden üretimi mevcut değildi; bu nedenle bunları satıcı tarafından yayımlanmış olarak değerlendirin.

SWE-bench Verified

Lightning, gerçek GitHub sorunlarını çalışır bir yama üreterek çözüp çözemediğini ölçen SWE-bench Verified'da 51.56 (BF16) ve 52.80 (NVFP4) alıyor. 3B aktif parametreli 30B bir MoE için %50'yi aşmak güçlü bir sonuçtur ve doğrudan kodlama-ajan kullanım durumunu destekler.

SWE-bench Multilingual, daha zor çok dilli kod tabanı dağılımı nedeniyle beklendiği gibi 39.33 (BF16) ile daha düşük geliyor.

PinchBench ve görev verimliliği

PinchBench'te Lightning 85.37 (BF16) ve 83.43 (NVFP4) seviyesine ulaşıyor; OpenRouter, benzer doğrulukta 10.000 görevi Qwen3.6-35B'den %30 daha hızlı tamamladığını bildiriyor. 

Aracı verimliliği, ham belirteç üretim hızından ziyade bir modelin faydalı işi ne kadar çabuk bitirdiğine bağlı olduğundan, modelin asıl iddiasını en iyi yakalayan kıyas bu.

Qwen3.6 karşılaştırması üzerinde durmaya değer. Qwen3.6-35B-A3B'yi incelediğimizde, 3B aktif parametreleri ve güçlü SWE-bench ve Terminal-Bench performansına dikkat çekmiştik; dolayısıyla NVIDIA'nın onu referans noktası olarak seçmesi, aynı boyut sınıfında denk bir karşılaştırmadır.

GPQA Diamond ve akıl yürütme

Lightning, araçsız GPQA Diamond'da 75.44 (BF16) puan alıyor; bu, web erişimi olsa bile uzman olmayanlar için zor olacak şekilde yazılmış lisansüstü düzey bilim sorularından oluşur.

Bu, küçük bir model için güçlü bir sayı; ancak model kartı Lightning'in bir akıl yürütme motoru olarak konumlandırılmadığını açıkça belirtiyor.

Humanity's Last Exam (yalnızca metin, araç yok) diğer yönü 11.72 (BF16) ile gösterirken SciCode 32.60'da kalıyor.

Bu daha düşük skorlar NVIDIA'nın çerçevesiyle tutarlı: bu bir yürütme modeli ve zor, açık uçlu akıl yürütme bunun yerine bir sınır modele yönlendirilmeli.

Ajanik ve talimat takibi

Terminal-Bench 2.1, 24.58 (BF16) ve BrowseComp 36.97 seviyesinde gelirken, IFBench (gevşek) 71.88'e ulaşıyor; bu da modelin yapılandırılmış talimatları güvenilir biçimde takip ettiğini gösteriyor.

Genel bilgi de sağlam: MMLU Pro 81.94 (BF16) ve 81.62 (NVFP4) ile, nice'lenmiş kontrol noktasının dağıtım için güvenli olduğunu teyit eden ihmal edilebilir bir fark var.

Nemotron 3.5 Lightning vs Qwen3.6-35B-A3B

Her ikisi de 3B aktif parametreli MoE modelleridir ve kodlama ile ajanik iş yüklerini hedefler; bu nedenle yan yana karşılaştırma, Lightning'in konumunu görmenin en net yoludur.

Nemotron 3.5 Lightning Fiyatlandırma ve Erişilebilirlik

Nemotron 3.5 Lightning'i build.nvidia.com üzerinde veya OpenRouter üzerinden deneyebilir; ağırlıkları Hugging Face ve ModelScope'tan indirebilirsiniz. Model, NVIDIA NIM aracılığıyla /v1/chat/completions, /v1/completions ve /v1/responses dahil OpenAI uyumlu uç noktalar sunar; böylece mevcut ajanik hatlara yeniden yazım olmadan yerleşir.

Barındırılan fiyatlandırma sağlayıcıya göre değişir:

• DeepInfra: 1M giriş belirteci başına 0,05 $ ve 1M çıkış belirteci başına 0,20 $; GPU sağlama olmadan ilk günden itibaren kullanılabilir.
• OpenRouter: 0 $ giriş ve 0 $ çıkış olarak listelenen bir ücretsiz katman; ancak rota 1M belirteçlik bağlam penceresini desteklese de çıktı üretiminde 65.536 maksimum belirteç sınırı uyguladığını unutmayın.
• Kendi sunucunuzda: OpenMDW-1.1 altında ücretsiz; vLLM, SGLang ve TensorRT-LLM ile dağıtılabilir.

Bu OpenRouter sınırı not edilmeye değer. 1M bağlam uzunluğu bir model yeteneğidir; ancak pratik limit, sağlayıcıya ve rotaya bağlıdır; bu yüzden tam pencereye sahip olduğunuzu varsaymadan önce uç noktayı kontrol edin.

Son Düşünceler

Nemotron 3.5 Lightning, NVIDIA'nın belirli bir bahsi: üretim ajanlarının geleceği, hacmi ucuz bir yürütme modelinin, planlamayı ise bir sınır modelinin yaptığı bir model sistemi. Aynı lansmanda NeMo Switchyard'ın yayımlanması bunun işareti; çünkü bu model, işleri akıllıca yönlendirebildiğinizde anlamlıdır.

Benim en faydalı bulduğum, kapsam konusundaki açıklık. NVIDIA bunun bir akıl yürütme modeli olduğunu iddia etmiyor ve kıyaslamalar bunu doğruluyor: SWE-bench Verified'da (51.56) ve PinchBench'te (85.37) güçlü, Humanity's Last Exam'de (11.72) mütevazı. İş yükünüz her zaman açık ajanlarda araç çağrıları, doğrulama ve biçimlendirme ise bu değiş tokuş tam isabet.

Ağırlıklar, veriler ve tariflerle birlikte OpenMDW-1.1 altında açık yayımlanması ve DGX Spark'ta çalışacak kadar küçük bir kontrol noktası, ince ayar yapmak ve kendi sunucusunda barındırmak isteyip belirteç başına ödeme yapmak istemeyen ekipler için bunu gerçekten kullanışlı kılıyor. Ana çekince, mevcut tüm kıyas sayılarının satıcı tarafından yayımlanmış olması; bu yüzden 4x hız ve %30 daha hızlı tamamlama iddialarını kesin kabul etmeden önce bağımsız yeniden üretim görmek isterim.

Bu tür bir modeli kendi iş yükünüze uyarlamak için ince ayar becerileri edinmek isterseniz, tıbbi S&C veri kümesi üzerinde Qwen3.6 ince ayarı eğitimimiz, benzer bir MoE modelinde QLoRA iş akışını adım adım anlatıyor.