1. Anasayfa
  2. Donanım

NVIDIA’dan Dev Güncelleme: RTX 5090 ile Saniyede 200 Jeton Hızına Ulaşıldı!

NVIDIA’dan Dev Güncelleme: RTX 5090 ile Saniyede 200 Jeton Hızına Ulaşıldı!
0

NVIDIA, yapay zekâ destekli bilgisayarlar ve yerel yapay zekâ çalıştırma konusunda kapsamını genişletmeye devam ediyor. Şirket, Nemotron 3.5 Lightning, LTX-2.5, Muse Glimmer, Cosmos 3 Edge, MiniMax-H3 ve daha birçok yeni açık model için DGX ve RTX platformlarında önemli optimizasyonlar ve destek güncellemeleri duyurdu. Yeni adımların temel amacı, kullanıcıların güçlü yapay zekâ modellerini bulut servislerine ihtiyaç duymadan doğrudan bilgisayarlarında çalıştırabilmesini sağlamak.

NVIDIA’nın özellikle açık ağırlıklı yapay zekâ modellerine yaptığı yatırım, son dönemde hız kazanan yerel AI trendinin önemli bir parçasını oluşturuyor. Şirket, yalnızca yüksek performanslı veri merkezi sistemlerine değil, masaüstü bilgisayarlara ve profesyonel iş istasyonlarına da odaklanıyor. Böylece geliştiriciler, içerik üreticileri ve profesyonel kullanıcılar daha fazla modeli kendi donanımlarında çalıştırabilecek.

Yeni güncellemelerin dikkat çeken noktalarından biri NVIDIA Sync Cluster Assistant oldu. Bu araç, birden fazla DGX Spark sisteminin daha kolay biçimde bir araya getirilerek küme oluşturmasını sağlıyor. Birden fazla sistemin birlikte kullanılması sayesinde daha büyük yapay zekâ modelleri için kullanılabilecek bellek ve hesaplama kapasitesi artırılabiliyor. NVIDIA, ağ yapılandırması, iş yüklerinin yönlendirilmesi ve sistemlerin sağlık durumunun izlenmesi gibi süreçleri de daha kolay hale getiriyor.

Optimizasyon / ÖzellikEski Nesil / Standart DurumNVIDIA Yeni Güncelleme ve RTX 5090 Gücü
Video Üretimi (LTX 2.5)Standart İşleme Süreleri2x Performans Artışı ve Büyük Bellek Tasarrufu
Meta Açık Modeller (Token Hızı)Sınırlı Yerel PerformansRTX 5090 ile 200 Token/s Rekor Üretim Hızı
Donanım Hedef KitleleriSadece Kurumsal Cloud SistemlerDGX Kurumsal Altyapılar + Bireysel RTX Ekran Kartları
Bellek YönetimiYüksek VRAM TüketimiOptimize Edilmiş Mimari ile Ciddi Bellek Tasarrufu

Bu özellik özellikle yerel yapay zekâ altyapısını büyütmek isteyen kullanıcılar açısından önem taşıyor. Tek bir DGX Spark’ın kapasitesinin yetersiz kaldığı durumlarda kullanıcıların daha karmaşık sistemler kurabilmesi, yerel AI kullanımının profesyonel seviyeye taşınmasına yardımcı olabilir. NVIDIA Sync Cluster Assistant’ın Windows ve macOS üzerinde kullanılabilmesi de erişilebilirliği artıran ayrıntılar arasında bulunuyor.

DGX Spark tarafındaki yenilikler bununla da sınırlı değil. NVIDIA, sistem için Google Chrome’un yerel ARM64 Linux sürümünü de kullanıma sunuyor. Chrome doğrudan DGX işletim sistemindeki kontrol panelinden kurulabilecek. Ayrıca yeni NVIDIA Sync Resource Monitor, tek bir DGX Spark veya oluşturulan kümenin tamamı üzerinde CPU ve GPU kullanımını gerçek zamanlı olarak takip etmeye ve geçmiş kullanım verilerini incelemeye olanak tanıyor.

Bu özellikler, özellikle sürekli çalışan yerel yapay zekâ iş yüklerinde sistem kaynaklarının takip edilmesini kolaylaştırabilir. Kullanıcılar hangi işlemlerin CPU veya GPU üzerinde ne kadar yük oluşturduğunu görebilecek ve gerektiğinde iş yüklerini daha uygun şekilde dağıtabilecek.

Muse Glimmer ve LTX-2.5 Yerel Yapay Zekâ Deneyimini Geliştiriyor

NVIDIA’nın yeni duyurusundaki en dikkat çekici modellerden biri ise Meta’nın Muse Glimmer modeli. 30 milyar parametreli açık ağırlıklı model, özellikle kodlama ve ajan tabanlı yapay zekâ görevleri için tasarlanıyor. Uzun bağlam desteği ve sürekli çalışan AI ajanlarına yönelik optimizasyonları sayesinde model, kullanıcıların bilgisayarlarında daha karmaşık görevleri gerçekleştirebilmesini hedefliyor.

NVIDIA’ya göre Muse Glimmer, tek bir RTX 5090 üzerinde saniyede 200’ün üzerinde token üretebiliyor. Bu seviyedeki çıktı hızı, özellikle kullanıcı ile model arasındaki etkileşimin sürekli olması gereken yerel AI ajanlarında önemli bir avantaj sağlayabilir.

Modelin öne çıkan özellikleri arasında özel görevlere göre yapılandırılabilen ajanlar bulunuyor. Kullanıcılar modeli belirli araçlar, veriler veya uzmanlık alanları için uyarlayabiliyor. Bunun yanında yerel dosyaları, belgeleri, e-postaları ve mesajları işleme, çok adımlı görevleri gerçekleştirme ve uzun süre devam eden projelerde önceki bağlamı koruma gibi yetenekler de sunuluyor.

Yerel çalışmanın bir diğer önemli avantajı ise verilerin cihazdan çıkmaması. Özellikle şirket içi belgeler, özel dosyalar veya hassas bilgilerle çalışan kullanıcılar açısından bu yaklaşım önemli. API anahtarları ve kimlik doğrulama bilgileri gibi hassas verilerin de cihaz üzerinde işlenebilmesi, bulut tabanlı yapay zekâ servislerine kıyasla farklı bir kullanım modeli oluşturuyor.

NVIDIA’nın desteklediği bir diğer önemli model LTX-2.5. Bu model, özellikle yerel video üretimi ve üretken video düzenleme alanına odaklanıyor. Yeni nesil video difüzyon kod çözücüsü, mevcut VAE tabanlı video kod çözücüye ek bir yol sunarak nihai görüntülerin kalitesini yükseltmeyi amaçlıyor.

NVIDIA’nın açıklamasına göre LTX-2.5, özellikle RTX GPU’larda önemli performans kazanımları sunuyor. RTX PRO 6000 96 GB üzerinde video oluşturma performansı yüzde 20’ye kadar artırılırken bellek kullanımı yüzde 40 oranında azaltılabiliyor. Bu durum, yüksek çözünürlüklü video üretiminde GPU belleğinin daha verimli kullanılmasını sağlayabilir.

Model aynı zamanda NVFP4, FastVideo ve ComfyUI gibi NVIDIA tarafından desteklenen teknolojilerle birlikte kullanılabiliyor. Böylece kullanıcılar yalnızca metinden video üretmekle kalmayıp görüntü ve video-to-video üretim gibi daha gelişmiş işlemleri de yerel sistemlerinde gerçekleştirebiliyor.

NVIDIA’nın açık model desteği kapsamında Cosmos 3 Edge, MiniMax-H3, Laguna S 2.1, DeepSeek-V4-Flash, Wan-Animate-2 ve Inkling-Small gibi modeller de öne çıkıyor. Açıklanan modeller arasında parametre sayısı 4 milyardan 284 milyara kadar değişen seçenekler bulunuyor. Bu da NVIDIA’nın farklı donanım seviyelerine ve farklı yapay zekâ kullanım senaryolarına yönelik geniş bir model ekosistemi oluşturmaya çalıştığını gösteriyor.

Özellikle Wan-Animate-2, statik bir karakter görüntüsüne hareket ve yüz ifadelerini aktarma konusunda dikkat çekiyor. NVIDIA’nın verilerine göre RTX 5090, Apple’ın M3 Ultra platformuna kıyasla bu modelde 26 kata kadar daha yüksek performans sunabiliyor. RTX PRO 5000 Blackwell ise aynı karşılaştırmada 16 kata kadar performans avantajı sağlayabiliyor.

Bunun yanında NVIDIA, tamamen açık kaynaklı Unsloth Desktop uygulamasını da desteklenen yazılımlar arasına ekliyor. Uygulama; yerel model çıkarımı, görüntü ve video üretimi, model ince ayarı, yapay zekâ ajanları, web araştırması ve kod çalıştırma gibi çeşitli işlevleri tek bir masaüstü ortamında bir araya getiriyor.

Tüm bu gelişmeler, AI PC kavramının yalnızca üreticilerin pazarlama söyleminden ibaret olmadığını ve yerel yapay zekâ ekosisteminin giderek genişlediğini gösteriyor. NVIDIA, RTX GPU’ların yüksek hesaplama gücünü açık ağırlıklı modellerle birleştirerek kullanıcıların daha fazla yapay zekâ görevini doğrudan bilgisayarlarında gerçekleştirmesini hedefliyor.

Özellikle Muse Glimmer’ın RTX 5090 üzerinde 200 token/saniye seviyesini aşması, LTX-2.5’in daha düşük bellek kullanımıyla yüksek kaliteli video üretmesi ve DGX Spark sistemlerinin kümelenebilmesi, NVIDIA’nın farklı kullanıcı gruplarına yönelik stratejisinin üç önemli ayağını oluşturuyor. Geliştiriciler için güçlü AI ajanları, içerik üreticileri için yerel video üretimi ve profesyoneller için ölçeklenebilir yapay zekâ altyapısı aynı ekosistem içerisinde bir araya getiriliyor.

Bu yaklaşımın önümüzdeki dönemde daha da önem kazanması beklenebilir. Daha güçlü açık modellerin ortaya çıkmasıyla birlikte kullanıcıların her işlem için bulut tabanlı yapay zekâ servislerine başvurması gerekmeyebilir. Bunun yerine yeterli donanıma sahip bilgisayarlar, modellerin çalıştırıldığı, kişisel verilerin işlendiği ve yapay zekâ ajanlarının sürekli görev yaptığı yerel merkezlere dönüşebilir.

NVIDIA ise RTX ve DGX platformlarını yeni açık modeller için sürekli optimize ederek bu dönüşümde donanım tarafındaki konumunu güçlendirmeye çalışıyor. Nemotron 3.5 Lightning, Muse Glimmer ve LTX-2.5 gibi modellerin aynı ekosistem içerisinde desteklenmesi de şirketin yalnızca GPU satmak yerine giderek daha kapsamlı bir yerel yapay zekâ platformu oluşturma stratejisini ortaya koyuyor.

Reaksiyon Göster
  • 0
    alk_
    Alkış
  • 0
    be_enmedim
    Beğenmedim
  • 0
    sevdim
    Sevdim
  • 0
    _z_c_
    Üzücü
  • 0
    _a_rd_m
    Şaşırdım
  • 0
    k_zd_m
    Kızdım
Paylaş

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir