NVIDIA GeForce RTX 30 serisi ekran kartları, yeni bir açık kaynaklı GPU kilidi açma aracı sayesinde yapay zekâ ve yüksek performanslı hesaplama iş yüklerinde daha yüksek performans sunabilir. Zagitta adlı GitHub projesi, Ampere mimarisine dayanan belirli RTX 30 serisi GPU’larda FP16 ve BF16 komutlarının işlem başlatma hızındaki kısıtlamaları kaldırmayı hedefliyor. Projenin dikkat çeken tarafı ise bunun için ekran kartının vBIOS’unu değiştirmeye veya fiziksel donanım modifikasyonu yapmaya gerek bırakmaması.
Araç, özellikle RTX 3090 Ti, RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070, RTX 3070 Ti ve RTX 3060 gibi Ampere tabanlı modellerde önemli hesaplama kazanımları sağlayabiliyor. Ancak bütün modeller için aynı seviyede sonuç alınmıyor ve bazı kartlarda kilit açma işlemi tamamlanmasına rağmen beklenen BF16 performans artışı elde edilemiyor. Bu nedenle projeyi destekleyen tüm GPU’ların aynı performans seviyesine ulaşacağını söylemek doğru değil.
Zagitta projesinin temel amacı, NVIDIA’nın tüketici RTX 30 serisi kartlarında sınırlanmış olan FP16/BF16 FMA komutlarının işlem başlatma oranını artırmak. Proje açıklamasında kullanılan yöntem, daha önce CMP madencilik kartlarında kullanılan kilit açma yaklaşımının bazı teknik bileşenlerini UEFI öncesi sürücü zamanlamasıyla birleştiriyor.
Araç, Linux çekirdeği modülü şeklinde çalışıyor. Sistem açılış sürecinde gerekli kilit açma işlemlerini gerçekleştiriyor, ilgili hız seçicilerini ayarlıyor ve NVIDIA’nın değiştirilmemiş sürücüsü ekran kartına bağlanmadan önce gerekli işlemleri tamamlıyor. Böylece her yeni NVIDIA sürücü sürümünde sürücüyü manuel olarak yamalama gereksinimi ortadan kaldırılabiliyor.
Projenin açıklamasına göre desteklenen GA102, GA103, GA104 ve GA106 GPU’larda FP16/BF16 FMA’nın FP32 işlemlerine göre komut gönderme hızının iki katına çıkarılması mümkün. Bu durum özellikle büyük dil modelleri, matris hesaplamaları ve diğer yapay zekâ iş yüklerinde önem taşıyor.
Ancak burada önemli bir ayrım bulunuyor: Bu işlem, ekran kartına fiziksel olarak yeni hesaplama birimleri eklemiyor. Daha ziyade GPU’nun mevcut donanımında bulunan ancak tüketici modellerinde sınırlandırılmış hesaplama kapasitesinin daha yüksek oranda kullanılmasını sağlıyor. Dolayısıyla elde edilen sonuçlar modelden modele ve iş yükünden iş yüküne değişebilir.
| GPU | Model | Durum | Bildirilen BF16 GEMM kazanımı |
|---|---|---|---|
| GA102 | RTX 3090 Ti | Kilit açıldı | %68–80 |
| GA102 | RTX 3090 | Kilit açıldı | %25–67 |
| GA102 | RTX 3080 Ti 20 GB OEM | İşlem tamamlanıyor | BF16 yarı hızda kalıyor |
| GA102 | RTX 3080 10 GB | Kilit açıldı | %70–73 |
| GA102 | RTX 3080 20 GB | Kilit açıldı | %56–59 |
| GA104 | RTX 3070 | Kilit açıldı | %73–81 |
| GA104 | RTX 3070 Ti | Modülle test edilmedi | Windows UEFI yöntemiyle çalıştığı bildirildi |
| GA106 | RTX 3060 12 GB | Kilit açıldı | Yaklaşık %80 |
| GA103 | RTX 30 serisi | Yeterli rapor yok | — |
RTX 3090 Ti ve Diğer RTX 30 Kartlarında Yapay Zekâ Performansı Ne Kadar Artıyor?
Zagitta aracının ortaya çıkardığı sonuçların en dikkat çekici örneklerinden biri RTX 3090 Ti. Paylaşılan testlerde 450 watt güç sınırında gerçekleştirilen yoğun 8192³ GEMM testlerinde FP16 performansı 87,46 TFLOPS seviyesinden 118,39 TFLOPS’a yükselirken, BF16 performansı 87,50 TFLOPS’tan 157,41 TFLOPS’a çıkıyor. TF32 performansının ise 42,58 TFLOPS’tan 82,61 TFLOPS’a yükseldiği bildiriliyor.
| RTX 3090 Ti testi | Kilit açılmadan önce | Kilit açıldıktan sonra |
|---|---|---|
| FP16 | 87,46 TFLOPS | 118,39 TFLOPS |
| BF16 | 87,50 TFLOPS | 157,41 TFLOPS |
| TF32 | 42,58 TFLOPS | 82,61 TFLOPS |
Başka bir ölçümde 3090 Ti’nin BF16 performansının 87,5 TFLOPS’tan 157 TFLOPS seviyesine, TF32 performansının ise 42,6 TFLOPS’tan 82,6 TFLOPS seviyesine çıktığı aktarılıyor. RTX 3080 10 GB için de stok 320 watt güç seviyesinde yaklaşık 65 TFLOPS FP16 performansından 113 TFLOPS seviyesine ulaşılabildiği iddia ediliyor.
Bu kazanımların yapay zekâ uygulamalarındaki karşılığı ise doğrudan her zaman aynı oranda olmuyor. Paylaşılan testlerde kilidi açılmış bir RTX 30 serisi GPU’nun uzun bağlamlı LLM prefill işlemlerinde yüzde 33 ila yüzde 36 daha yüksek performans sunduğu belirtiliyor. Time-to-first-token, yani modelin ilk yanıt token’ını üretmeye başlamasına kadar geçen sürenin ise yaklaşık yüzde 25 azaldığı aktarılıyor.
Buna karşılık decode performansında belirgin bir değişiklik olmadığı ve matris çarpımı performansının bazı senaryolarda aynı kaldığı belirtiliyor. Bu ayrıntı önemli çünkü benchmarklardaki yüksek TFLOPS artışının bir yapay zekâ modelinin bütün kullanım senaryolarına aynı şekilde yansımayacağını gösteriyor.
Araç şu anda yalnızca Linux platformlarında kullanılabiliyor. Windows desteği bulunmuyor. Ayrıca RTX 30 serisi en büyük kazanımı sağlayan aile olsa da yöntemin daha eski GTX 9, GTX 10 ve RTX 20 serisi kartlara da genişletilebildiği belirtiliyor. Bununla birlikte bu kartların tamamı için aynı sonuçların alındığına dair yeterli veri bulunmuyor.
RTX 40 serisi kartlarda da bazı kazanımlar rapor edilmiş olsa da projenin asıl dikkat çektiği alan Ampere tabanlı RTX 30 serisi. Bunun temel nedeni, bu kartların bugün hâlâ yüksek miktarda VRAM ve güçlü hesaplama kapasitesi sunmasına rağmen yeni nesil ekran kartlarına kıyasla ikinci el piyasasında daha erişilebilir olması.
Özellikle 24 GB VRAM’e sahip RTX 3090, yerel yapay zekâ modelleri çalıştıran kullanıcılar açısından uzun süredir popüler bir seçenek. Büyük dil modellerinin yerel olarak çalıştırılması, model boyutuna bağlı olarak yüksek VRAM kapasitesini gerektirebildiği için RTX 3090’ın 24 GB belleği önemli bir avantaj sağlıyor.
Son dönemde RTX 3090 üzerinde yapılan yazılım optimizasyonları da dikkat çekiyor. Paylaşılan örneklerden birinde Qwen3.8-27B modelinin çeşitli optimizasyonlarla saniyede 381 token seviyesine ulaştığı bildiriliyor. Buradaki performansın yalnızca ekran kartının ham gücünden kaynaklanmadığı; optimize edilmiş MTP, bağlam araması, DFlash2 ve arama doğrulaması gibi tekniklerin de sonucu etkilediği belirtiliyor.
Bu gelişmeler ikinci el ekran kartı piyasasını da etkileyebilir. RTX 3090’ın yaklaşık 1.000 dolar seviyesinde bulunabildiği dönemlerin ardından bazı ilanlarda fiyatların 2.000 doların üzerine çıktığı aktarılıyor. RTX 3090 Ti’nin ise 3.000 dolar seviyesine yaklaştığı, RTX 3080 10 GB ve 12 GB modellerinin bazı ikinci el platformlarda 900 ila 1.100 dolar aralığına ulaştığı bildiriliyor.
Fiyatlardaki değişimin tamamını Zagitta aracına bağlamak mümkün değil. Yerel yapay zekâ modellerine olan ilginin artması, yüksek VRAM kapasitesine sahip eski ekran kartlarının yeniden değer kazanması ve ikinci el piyasasındaki arz-talep dengesi gibi birçok faktör fiyatları etkileyebilir. Ancak RTX 30 serisinin yapay zekâ iş yüklerinde yeniden cazip hâle gelmesi, özellikle 24 GB VRAM sunan RTX 3090 gibi modeller üzerindeki talebi artırabilecek unsurlardan biri.
Bu durum oyuncular açısından ise farklı bir tablo oluşturuyor. Daha önce uygun fiyatlarla yüksek performans sunan ikinci el RTX 3090 ve RTX 3080 modelleri, yapay zekâ meraklılarının ilgisi nedeniyle daha pahalı hâle gelirse, yalnızca oyun amacıyla ekran kartı arayan kullanıcıların seçenekleri azalabilir.
Zagitta’nın ortaya koyduğu yaklaşım, RTX 30 serisinin yapay zekâ hesaplamaları açısından hâlâ önemli bir potansiyele sahip olduğunu gösteren dikkat çekici bir gelişme. Ancak bildirilen yüzde 70-80 seviyesindeki hesaplama kazanımlarının her LLM uygulamasında aynı şekilde görülmeyeceği unutulmamalı. Gerçek kullanımda model mimarisi, VRAM kapasitesi, güç sınırı, soğutma, yazılım optimizasyonları ve kullanılan hesaplama türü sonucu doğrudan etkiliyor.
Dolayısıyla bu proje, eski RTX 30 serisi kartları bir anda yeni nesil GPU’larla eşdeğer hâle getirmiyor. Bunun yerine, belirli yapay zekâ ve hesaplama iş yüklerinde donanımda mevcut olan ancak yazılımsal olarak sınırlandırılmış kapasitenin daha fazla kullanılmasına imkân tanıyor. Özellikle Linux üzerinde yerel LLM çalıştıran kullanıcılar için bu durum RTX 3090 gibi yüksek VRAM’li Ampere kartlarını yeniden oldukça ilgi çekici hâle getirebilir. Ancak ikinci el ekran kartı satın alırken yalnızca bu performans iddialarına değil, kartın geçmiş kullanımına, sıcaklıklarına, VRAM durumuna ve toplam fiyatına da dikkat etmek gerekiyor.
