NVIDIA’nın yeni nesil yapay zekâ hızlandırıcıları ve veri merkezi işlemcileriyle ilgili son dönemde ortaya atılan “özellik düşürme” iddiaları şirket tarafından yapılan açıklamayla farklı bir boyut kazandı. Özellikle Vera CPU, Vera Rubin ve Rubin Ultra platformlarında bellek kapasitesinin azaltılacağına yönelik söylentiler, devam eden DRAM tedarik sıkıntıları nedeniyle teknoloji dünyasında geniş yankı uyandırmıştı. Bazı raporlar, NVIDIA’nın başlangıçta duyurduğu yüksek kapasiteli bellek yapılandırmalarından geri adım atabileceğini öne sürerken şirket bunun bir düşürme olmadığını, müşterilerin ihtiyaçlarına göre yapılan optimizasyonların söz konusu olduğunu belirtiyor.
NVIDIA’nın yeni nesil yapay zekâ altyapısında yalnızca işlem gücünü artırmakla kalmayıp bellek, ağ bağlantısı ve genel sistem verimliliğini birlikte optimize etmeye çalıştığı anlaşılıyor. Şirketin Wccftech’e yaptığı açıklamada özellikle Vera’nın modüler SOCAMM mimarisine dikkat çekildi. NVIDIA, Vera platformunun performans ve ölçeklenebilirlik açısından optimize edilmiş bellek yapılandırmaları sunduğunu ve sistemin 1,5 TB’a kadar belleği destekleyebildiğini yeniden doğruladı. Bu açıklama, son dönemde ortaya çıkan 1,5 TB yerine 768 GB bellek kullanılacağı yönündeki iddiaların tüm Vera platformu için geçerli olmadığını gösteriyor.
Tartışmanın merkezinde NVIDIA’nın Vera CPU’larında kullandığı SOCAMM2 bellek modülleri bulunuyor. Söylentilere göre bazı Vera sistemlerinde başlangıçta 192 GB kapasiteli SOCAMM2 modüller kullanılarak toplam 1,5 TB belleğe ulaşılması planlanırken, daha düşük kapasiteli 96 GB modüllere geçiş yapılabileceği iddia edildi. Böyle bir yapılandırma kullanıldığında toplam bellek kapasitesi 768 GB seviyesine düşüyor. Ancak NVIDIA’nın açıklaması, bunun şirketin 1,5 TB kapasiteden vazgeçtiği anlamına gelmediğini ortaya koyuyor. Buradaki temel ayrım, bir donanımın teknik özelliklerinin düşürülmesi ile farklı müşteri ihtiyaçlarına yönelik farklı SKU’ların oluşturulması arasında yatıyor.
Vera ve Rubin İçin Bellek Yapılandırmaları Neden Değişebilir?
NVIDIA’nın “1,5 TB’a kadar” ifadesi burada büyük önem taşıyor. Bir ürünün belirli bir bellek kapasitesine “kadar” destek vermesi, her müşteriye aynı maksimum yapılandırmanın sunulacağı anlamına gelmiyor. Veri merkezi müşterilerinin ihtiyaçları birbirinden oldukça farklı. Bazı müşteriler maksimum bellek kapasitesine ihtiyaç duyarken, bazıları daha düşük kapasiteyi daha düşük maliyet, daha iyi enerji verimliliği veya farklı bir toplam sahip olma maliyeti nedeniyle tercih edebilir.
Bu nedenle 192 GB SOCAMM2 modüllerle 1,5 TB kapasiteye ulaşabilen bir Vera sisteminin yanında 96 GB modüller kullanan 768 GB’lık farklı bir SKU’nun bulunması teknik olarak bir “downgrade” anlamına gelmiyor. Tam tersine, NVIDIA’nın veri merkezi müşterilerine daha fazla seçenek sunması anlamına geliyor.
Bu yaklaşım özellikle yapay zekâ sektöründeki DRAM talebinin olağanüstü seviyelere çıkması nedeniyle daha önemli hale geliyor. Yapay zekâ modellerinin büyümesiyle birlikte yalnızca GPU hesaplama gücüne değil, yüksek bant genişliğine ve yüksek kapasiteli belleğe olan ihtiyaç da hızla artıyor. HBM4, HBM4E ve SOCAMM2 gibi yeni nesil bellek teknolojileri bu nedenle NVIDIA’nın gelecek nesil platformlarının en kritik parçaları arasında yer alıyor.
Bellek üreticileri de bu talebe cevap vermek için yüksek kapasiteli modüller geliştiriyor. SK Hynix’in NVIDIA Vera platformları için 192 GB SOCAMM2 modüller üretmeye başlaması bunun önemli örneklerinden biri. Micron ise daha da yüksek kapasite sunan 256 GB SOCAMM2 modüllerini müşterilere göndermeye başladı. Dolayısıyla NVIDIA’nın 1,5 TB bellek desteğinden vazgeçmesi için teknik bir zorunluluk bulunmuyor. Asıl mesele, bu kapasitenin hangi müşteriler için ve hangi üretim hacminde kullanılacağı.
Benzer bir esneklik Rubin GPU tarafında da görülüyor. Standart Rubin GPU’nun 288 GB HBM4 belleğe ve 22 TB/s seviyesine kadar bellek bant genişliğine sahip olması bekleniyor. GPU üzerinde sekiz HBM4 bellek yığını bulunurken her yığın 12-Hi yapılandırmasıyla toplam 36 GB kapasite sunuyor. Böylece sekiz yığının toplamı 288 GB’a ulaşıyor.
Rubin Ultra ise daha üst seviyede konumlanıyor. NVIDIA daha önce Rubin Ultra için 1 TB HBM4E bellek kapasitesinden söz etmişti. Bu kapasitenin 16 HBM yığını kullanılarak elde edilmesi ve daha yüksek yoğunluklu bellek yapılandırmalarıyla desteklenmesi planlanıyor. Ancak son dönemde Rubin Ultra’nın farklı bellek yapılandırmalarıyla test edildiğine yönelik iddialar ortaya çıktı. Bunlar arasında 192 GB ile 256 GB arasında değişen yapılandırmaların yanı sıra farklı HBM4 ve HBM4E seçenekleri bulunuyor.
İlk bakışta bu durum Rubin Ultra’nın daha önce açıklanan özelliklerinden geri adım atıldığı izlenimini yaratabilir. Ancak NVIDIA’nın açıklaması burada da benzer bir tabloya işaret ediyor. Yapay zekâ hızlandırıcıları tek bir sabit konfigürasyona bağlı kalmak yerine farklı müşterilerin ihtiyaçlarına göre farklı hesaplama ve bellek kombinasyonlarıyla üretilebiliyor.
Bunun AMD tarafında da örnekleri bulunuyor. AMD’nin Instinct ailesinde bazı müşterilere özel hazırlanmış GPU yapılandırmaları, standart modellerden farklı miktarlarda bellek ve hesaplama kalıbı içerebiliyor. Örneğin belirli müşterilerin ihtiyaçlarına göre tasarlanan özel Instinct çözümleri, standart ürünlerin bellek kapasitesinden farklı değerlere sahip olabiliyor. Bu durum ürünün teknik olarak daha kötü hale getirildiği anlamına gelmiyor; müşterinin iş yüküne göre optimize edilmiş farklı bir ürün anlamına geliyor.
NVIDIA’nın Vera ve Rubin platformlarında da benzer bir strateji uygulaması özellikle mevcut DRAM krizinin etkileri düşünüldüğünde oldukça mantıklı. Yapay zekâ şirketleri mümkün olduğunca fazla GPU ve bellek kapasitesi satın almak isterken DRAM ve HBM üreticilerinin kapasitesi üzerindeki baskı giderek artıyor. Bu nedenle NVIDIA’nın her müşteriye maksimum bellek yapılandırmasını sunmak yerine farklı SKU’larla üretimi esnek hale getirmesi hem maliyetleri kontrol etmesine hem de daha fazla müşteriye ürün sağlayabilmesine yardımcı olabilir.
Üstelik NVIDIA yalnızca bellek kapasitesini artırmaya odaklanmıyor. Şirket, yapay zekâ çıkarımında uzun bağlamlı modellerin oluşturduğu bellek baskısını azaltmak için depolama teknolojilerini de sistem mimarisinin daha önemli bir parçası haline getiriyor. Vera BlueField-4 STX platformu bu stratejinin örneklerinden biri. Platform, uzun bağlamlı, çok turlu ve ajan tabanlı yapay zekâ çıkarımında kullanılabilecek bir bağlam katmanı oluşturmak amacıyla NVIDIA’nın ağ ve depolama teknolojilerini bir araya getiriyor.
Bu yaklaşım gelecekte yapay zekâ sistemlerinde yalnızca “daha fazla HBM” kullanmanın yeterli olmayabileceğini gösteriyor. Büyük dil modellerinin ve yapay zekâ ajanlarının çalışma şekli değiştikçe veri merkezlerinin yüksek kapasiteli belleğin yanı sıra hızlı depolama ve düşük gecikmeli veri erişimine de ihtiyacı artacak.
Dolayısıyla Rubin Ultra ve Vera ile ilgili son gelişmeleri yalnızca teknik özelliklerdeki olası düşüşler üzerinden değerlendirmek yanıltıcı olabilir. NVIDIA’nın açıklaması, şirketin farklı müşteri profilleri için birden fazla bellek yapılandırması hazırladığını gösteriyor. 1,5 TB Vera bellek yapılandırması ve 1 TB Rubin Ultra hedefi ortadan kalkmış değil. Bunların yanında daha düşük kapasiteli ve daha erişilebilir SKU’ların da sunulması mümkün.
NVIDIA’nın geçmişte Hopper ve Blackwell nesillerinde de benzer söylentilerle karşı karşıya kaldığı düşünüldüğünde şirketin yeni platformlarının yol haritasını korumaya özellikle önem verdiği görülüyor. Şirket CEO’su Jensen Huang da Rubin, Rubin Ultra ve Kyber platformlarının planlandığı şekilde ilerlediğini birçok kez vurguladı. Bu nedenle mevcut gelişmelerin bir “ürün düşürme”den çok, yapay zekâ altyapısında giderek daha önemli hale gelen tedarik, maliyet ve ölçekleme sorunlarına karşı yapılan bir optimizasyon stratejisi olarak değerlendirilmesi daha doğru görünüyor.
Önümüzdeki dönemde asıl takip edilmesi gereken konu ise NVIDIA’nın teorik maksimum bellek kapasitesinden ziyade hangi SKU’ların gerçek müşterilere ne miktarda teslim edileceği olacak. Çünkü yapay zekâ sektöründeki devasa talep, HBM ve DRAM üretiminin NVIDIA’nın ürün yol haritası kadar önemli hale gelmesine neden oluyor. NVIDIA yüksek kapasiteli Vera ve Rubin çözümlerini sunmaya devam ederken, daha düşük bellekli varyantların da üretim esnekliği sağlamak amacıyla devreye girmesi artık şaşırtıcı olmayacak.
Kısacası NVIDIA’nın Vera, Rubin ve Rubin Ultra platformlarında görülen farklı bellek yapılandırmaları şu aşamada bir performans düşürmesi olarak değerlendirilmemeli. Şirket, maksimum kapasiteyi korurken müşterilerin ihtiyaçlarına göre daha düşük kapasiteli ve farklı maliyet seviyelerine sahip SKU’lar sunmaya hazırlanıyor. Özellikle devam eden DRAM ve HBM tedarik baskısı göz önüne alındığında bu yaklaşım, NVIDIA’nın yeni nesil yapay zekâ sistemlerini mümkün olduğunca geniş bir müşteri kitlesine ulaştırabilmesi açısından kritik önem taşıyor.
