Nvidia Vera tanıtıldı: Çekirdek sayısı yarışında kurallar değişiyor

0

BEĞENDİM

ABONE OL

News

0

Nvidia, data merkezleri için geliştirdiği Vera işlemcisinin mimari detaylarını açıkladı. Şirketin birinci özel data merkezi CPU çekirdeğini kullanan Vera; çekirdek sayısını daima artıran klâsik sunucu işlemcilerinden ayrılarak tek iş parçacığı performansı, bellek bant genişliği ve yük altındaki gecikme kıymetlerine odaklanıyor.

Vera’nın merkezinde, Nvidia tarafından sıfırdan geliştirilen Olympus çekirdeği bulunuyor. Grace işlemcisinde lisanslı Arm Neoverse V2 çekirdeklerini kullanan şirket, Vera ile kendi data merkezi CPU mimarisine geçiyor.

Olympus birebir vakitte Nvidia’nın Tegra periyodundaki Denver ve Carmel çalışmalarından yaklaşık 10 yıl sonra geliştirdiği birinci büsbütün özel CPU çekirdeği oldu.

Arm tabanlı Vera işlemcisi, 88 Olympus çekirdeği ve 176 donanım iş parçacığını tek kesim hesaplama kalıbında bir araya getiriyor. Nvidia, klâsik eş vakitli çoklu iş parçacığı yapısından farklı olarak Spatial Multithreading ismini verdiği bir teknoloji kullanıyor. Bu yapı, iki iş parçacığının çekirdek kaynaklarını denetimsiz biçimde paylaşması yerine kaynakların iş yüküne nazaran bölümlendirilmesine müsaade veriyor.

Olympus çekirdeği geniş bir ön uç, gelişmiş dallanma iddiası, derin sırasız yürütme ve yüksek komut sürece kapasitesiyle tasarlandı. Mimari, döngü başına 16 komuta kadar getirme süreci yapabiliyor ve bir çevrimde 10 birleştirilmiş komutu çözebilen 10 genişlikli kod çözme motoru kullanıyor. Sinir ağı tabanlı dallanma iddiacısı ise sistemsiz program akışlarında yanlış yol yürütmelerini azaltıyor.

Her çekirdekte 64 KB L1 komut önbelleği, 96 KB L1 bilgi önbelleği ve 2 MB L2 önbellek bulunuyor. İşlemcinin tamamı 164 MB birleşik L3 önbelleği paylaşıyor. Donanımsal grafik evvelce getirme ünitesi, adreslerin evvelki bellek süreçlerine bağlı olduğu grafik tahlili, data tabanı ve işaretçi yüklü yazılımlardaki bekleme müddetlerini azaltıyor.

Nvidia, Olympus çekirdeklerini ve ortak önbelleği ikinci jenerasyon Scalable Coherency Fabric üzerinden birbirine bağlıyor. Tek kesim hesaplama kalıbındaki bu irtibat sistemi 3,4 TB/s’ye kadar iki yönlü kesit bant genişliği sağlıyor. Bellek denetleyicileri ve giriş-çıkış üniteleri başka kalıplarda yer alsa da çekirdekler arasında data aktarırken çoklu hesaplama yongaları arasında geçiş yapılmıyor.

Vera, sunucular için uyarlanan SOCAMM2 biçimindeki LPDDR5X bellekleri kullanıyor. ECC, detaylı telemetri ve data merkezi sınıfı güvenilirlik özellikleri taşıyan bellek sistemi toplam 1,2 TB/s bant genişliğine ve 1,5 TB’a kadar kapasiteye ulaşıyor. Bellek modülleri anakarta lehimlenmek yerine alanda değiştirilebilecek formda hazırlanıyor.

Şirketin ölçümlerinde Vera, klâsik DDR tabanlı sunucu dizaynlarına kıyasla çekirdek başına yaklaşık üç kat daha fazla bellek bant genişliği ve watt başına yaklaşık beş kat daha yüksek bellek bant genişliği sunuyor.

Nvidia ayrıyeten Olympus çekirdeğinin iki kata kadar daha yüksek performans, çiplet tabanlı rakiplerden üç kat daha yüksek çekirdekler arası bant genişliği ve yoğun yük altında yüzde 40 daha düşük bellek gecikmesi sağladığını açıkladı. Bu pahaların tamamı Nvidia’nın şirket içi testlerine dayanıyor.

Vera, ikinci jenerasyon NVLink-C2C üzerinden çift soketli sistemlerde çalışabiliyor. Her soket yazılıma tek bir NUMA alanı olarak gösteriliyor ve çift soketli sunucularda iki NUMA düğümünden oluşan daha sade bir topoloji kuruluyor. İşlemci ayrıyeten PCIe 6.4, CXL 3.1 ve sanal makineler için Arm CCA/RME tabanlı bilinmeyen bilgi süreç özelliklerini destekliyor. Çift soketli yapılandırmada toplam 176 PCIe sınırı kullanılabiliyor.

Nvidia’nın mimari tercihi, bilgi merkezi işlemcilerinde yaklaşık 20 yıldır devam eden çekirdek sayısı yarışından ayrılıyor. Üst seviye bir Intel Xeon işlemcisi 2014 yılında 14 ila 18 çekirdek taşırken AMD’nin Zen 5 tabanlı EPYC Turin ailesi 128 çekirdeğe ulaştı. Bu periyotta çekirdek sayıları yaklaşık dokuz kat yükselirken çekirdek başına performanstaki artış yaklaşık iki katta kaldı.

Çiplet mimarileri daha fazla çekirdeğin ekonomik biçimde üretilmesini sağladı fakat çekirdekler, bellek denetleyicileri ve önbellekler arasındaki data hareketini artırdı. Nvidia, yapay zeka casuslarının yürüttüğü sıralı süreçlerde daha fazla çekirdeğin tek başına kâfi olmadığını savunuyor.

Bir casus GPU üzerinde akıl yürüttükten sonra araç davetleri, SQL sorguları, API süreçleri, kod çalıştırma ve betik yürütme için CPU’ya dönüyor. Tıpkı vazife sırasında CPU ile GPU arasındaki bu geçiş yüzlerce sefer tekrarlanabiliyor.

Nvidia’nın yük altındaki gecikme testlerinde çiplet tabanlı işlemciler, bellek trafiği 400 GB/s düzeyine yaklaşırken doygunluğa ulaşıyor. Vera ise daha yüksek trafik düzeylerinde ölçeklenmeye devam ediyor. Şirket, bu yaklaşımı “ölçek altında azamî tek iş parçacığı CPU performansı” olarak isimlendiriyor.

İlk müşteri testlerinde Perplexity, Vera üzerinde çalışan kodlama sanal alanlarındaki misyonları mevcut Xeon sunucularına kıyasla 1,5 kat daha süratli tamamladı. Eş vakitli sanal alan başlatma müddeti ise 1,9 kat hızlandı. Haftada yaklaşık 5 trilyon token işleyen DeepInfra, Intel Granite Rapids sistemlerine karşı 1,6 kat daha fazla eş vakitli yapay zekâ casusu ve 2,2 kat daha süratli orkestrasyon ölçtü.

Günde 1,1 trilyon kayıt işleyen New York Borsası, HPE sistemlerinde Redpanda bilgi akışı motoruyla gerçekleştirdiği testlerde AMD EPYC Turin’e kıyasla p99 gecikmesinin altı kat düştüğünü bildirdi. Kurum, Vera’yı mevcut altyapının yerine geçebilecek seçeneklerden biri olarak değerlendiriyor.

Los Alamos Ulusal Laboratuvarı, casus tabanlı bir iş yükünde yedi kata kadar hızlanma elde etti. Radyasyon taşınımı ve çoklu ızgara simülasyonlarında ise performans üç kat arttı. Karşılaştırma, 2023’ün başında hizmete giren Intel Sapphire Rapids tabanlı bir üstün bilgisayar üzerinden gerçekleştirildi.

Paylaşılan SPEC CPU 2026 sonuçları, temmuz ayında üretim öncesi bir referans sistemde yapılan şirket içi ölçümlerden oluşuyor. Nvidia’nın datalarında Vera, Python çalıştırma ve öteki casus tabanlı iş yüklerinde AMD EPYC Turin 9755 sistemlerine karşı 1,8 kata kadar daha yüksek performansa ulaşıyor. Sonuçlar şimdi bağımsız laboratuvarlar tarafından doğrulanmadı.

Vera iki ana sistem biçiminde kullanılacak. Direkt sıvı soğutmalı yoğun raf sistemi 256 CPU ve 22.000’den fazla çekirdek barındıracak. Hava soğutmalı klâsik çift soketli sistemler de standart data merkezlerinde kurulabilecek.

Dell, HPE, Lenovo, Supermicro ve Bull, Vera tabanlı sunucular hazırlıyor. Dell’in eser ailesinde hava soğutmalı PowerEdge R9822 ve direkt sıvı soğutmalı PowerEdge M9822 modelleri bulunuyor.

Vera Rubin NVL72 sistemlerinin üretimi CoreWeave, Google Cloud, Microsoft Azure ve Oracle Cloud Infrastructure tarafında başladı. CoreWeave’in canlı donanım üzerinde gerçekleştirdiği birinci ölçümlerde Vera Rubin NVL72, DeepSeek-R1 çalıştırırken Grace Blackwell NVL72’ye kıyasla megawatt başına 10 kat daha yüksek token üretim suratına ulaştı.

Google Cloud, Vera Rubin tabanlı birinci A5X örneğini pekiştirmeli öğrenme şirketi Ineffable Intelligence için devreye aldı. Microsoft ile Mistral arasındaki genişletilmiş muahedede da Avrupa’daki milyarlarca dolarlık yapay zekâ altyapısının merkezine Vera Rubin yerleştirildi. Nvidia, üretim sürecinde 30 ülkedeki 350’den fazla tesis ve 300 global ortakla çalışıyor.

Vera’yı geniş ölçekte kullanacak şirketler arasında OpenAI, Anthropic, SpaceX ve Perplexity yer alıyor. Los Alamos Ulusal Laboratuvarı, Ulusal Enerji Araştırmaları Bilimsel Hesaplama Merkezi ve Texas Advanced Computing Center da işlemciyi harika bilgisayar ve yüksek başarımlı hesaplama çalışmalarında pahalandırıyor.

Nvidia, data merkezi CPU pazarındaki yeni kullanım alanlarının 200 milyar dolarlık ek hacim oluşturacağını hesaplıyor. Şirket Vera’yı standart bir sunucu soketine satılan bağımsız işlemci olarak değil, yüksek maliyetli GPU’ların boşta kalma mühletini azaltan Vera Rubin platformunun bir kesimi olarak konumlandırıyor.

Vera’nın detayları, AMD’nin Advancing AI aktifliğinin çabucak öncesinde açıklandı. AMD’nin Zen 6 tabanlı EPYC Venice işlemcileri 256 çekirdeğe kadar çıkarken Intel de Diamond Rapids ailesini hazırlıyor.

Amazon Graviton, Google Axion ve Microsoft Cobalt üzere özel Arm işlemcileri ise yüksek çekirdek yoğunluğu ve ölçeklenebilir bulut altyapısı üzerine kurulu farklı bir yaklaşımı sürdürüyor.

Nvidia, önümüzdeki haftalarda Vera’yı hem x86 hem de Arm tabanlı rakiplerle karşılaştıran daha kapsamlı performans sonuçları yayımlayacak. Bağımsız testler; Vera’nın tek iş parçacığı performansını yoğun yük altında ne kadar koruyabildiğini, güç tüketimini ve AMD EPYC Venice ile Intel Diamond Rapids karşısındaki pozisyonunu netleştirecek.