Yapay zeka (YZ) ekosisteminin bel kemiği konumundaki CUDA platformu, NVIDIA tarafından yirmi yılın en kapsamlı güncellemesiyle yenilendi. Yeni sürüm CUDA 13.1 ile birlikte tanıtılan 'CUDA Tile' adlı yenilikçi sistem, YZ programcılığında köklü değişikliklere hazırlanıyor.
CUDA TILE: YZ PROGRAMCILIĞINDA YENİ DÖNEM
Bu devrim niteliğindeki gelişme, CUDA'nın keşfedildiği ilk günden bu yana yapılan en büyük sıçrama olarak kayıtlara geçti. Başlangıç aşamasında, bu yenilik yalnızca NVIDIA'nın en güncel Blackwell nesli GPU donanımlarıyla sınırlı olacak. Ancak şirket, ilerleyen dönemlerde bu desteğin çok daha geniş bir mimari yelpazesine yayılacağını duyurdu. CUDA Tile ile geliştiriciler, kodlarını artık 'tile' adı verilen veri yığınları üzerinden daha üst bir soyutlama katmanında yönetebilecek. Bu sayede derleyici ve çalışma zamanı (runtime), belirlenen iş yükünü Tensor Çekirdekleri gibi özel donanımları da kapsayacak şekilde en verimli yolla otomatik olarak dağıtabilecek.
GELİŞTİRİCİLERE DAHA FAZLA ESNEKLİK VE VERİMLİLİK
Yeni tile tabanlı programlama modeli, her bir iş parçacığının yürütme yolunun detaylı olarak tanımlanması gerekliliğini ortadan kaldırıyor. Bu özellik, geliştiricilerin farklı GPU mimarilerinde dahi yüksek performans sergileyen kodları çok daha az çabayla yazabilmesine olanak tanıyor. YZ iş yüklerinin temel veri tipi olan tensörler için NVIDIA'nın geliştirdiği Tensor Çekirdekleri (TC) ve Tensor Bellek Hızlandırıcıları (TMA) gibi özel donanımların kullanımı, artan donanım karmaşıklığı nedeniyle daha gelişmiş yazılımlar gerektiriyordu. CUDA Tile, Tensor Çekirdeklerini ve onların programlama modellerini soyutlayarak, kullanılan kodun hem mevcut hem de gelecekteki tüm tensör çekirdeği mimarileriyle sorunsuz bir uyumluluk içinde çalışmasını sağlıyor. Geliştiriciler, algoritmalarını veri parçalarını (tile'ları) tanımlayarak ve bu parçalar üzerinde yapılacak işlemleri belirterek programlayacak. Algoritmanın element bazında nasıl çalışacağını en ince ayrıntısına kadar ayarlama zorunluluğu ortadan kalkıyor; bu görev derleyici ve çalışma zamanı tarafından üstleniliyor. Bu üst düzey kodlama, tile işlemlerini mümkün kılan ve sanal bir komut seti olan CUDA Tile IR ile destekleniyor. NVIDIA, bu sistemin geleneksel SIMT (tek talimat, çoklu iş parçacığı) donanımı ve programlama yapısının yerini almadığını, aksine her ikisinin de paralel olarak var olmaya devam ettiğini vurguluyor. Ayrıca şirket, popüler YZ platformunda CUDA Tile programlamayı etkinleştiren NVIDIA cuTile Python aracını da kullanıma sundu.
