NVIDIA, yapay zeka (YZ) dünyasına güç veren CUDA platformuna yirmi yılın en büyük ve en kapsamlı güncellemesini getirdi. Piyasaya sürülen NVIDIA CUDA 13.1 sürümü, ‘CUDA Tile’ olarak adlandırılan ve YZ programlama anlayışını kökten değiştirmesi beklenen yeni bir sistemi kullanıma sunuyor. Bu önemli gelişme, platformun keşfedildiği yirmi yılın ardından gelen en büyük adım olarak kayıtlara geçti.
CUDA Tile görücüye çıktı
Başlangıç aşamasında, bu yenilik sadece güncel Blackwell nesli GPU donanımlarıyla sınırlı kaldı. Şirket, ilerleyen dönemlerde desteğin daha fazla mimariyi kapsayacağını belirtti.
CUDA Tile programlama ile geliştiriciler, kodlarını veri yığınları olan “tile’lar” ile daha üst bir soyutlama katmanına taşıyor. Bu noktadan sonra, derleyici ve çalışma zamanı (runtime), belirlenen iş yükünü, Tensor Çekirdekleri gibi özel donanımlar da dâhil olmak üzere, tekil iş parçacıklarına dağıtmak için en verimli yolu otomatik olarak belirliyor.
Yeni tile tabanlı programlama, her bir iş parçacığının yürütme yolunun detaylıca tanımlanması zorunluluğunu ortadan kaldırıyor. Bu özellik, geliştiricilerin farklı GPU mimarilerinde yüksek performans sergileyen kodları daha az çabayla yazabilmesini sağlıyor.
YZ iş yüklerinin ana veri tipi olan tensörler için NVIDIA, Tensor Çekirdekleri (TC) ve Tensor Bellek Hızlandırıcıları (TMA) gibi özel donanımlar geliştirdi. Donanım karmaşıklığı arttıkça, bu yetenekleri kullanmak için daha gelişmiş yazılımlara ihtiyaç duyuluyordu.
https://shiftdelete.net/nissandan-yeni-elektrikli-crossover-nissan-nx8
CUDA Tile, Tensor Çekirdeklerini ve onların programlama modellerini soyutlayarak, kullanılan kodun hem mevcut hem de gelecekteki tüm tensör çekirdek mimarileriyle uyumlu olmasını garantiliyor.
Geliştiriciler, algoritmalarını veri parçalarını (tile’ları) tanımlayarak ve bu parçalar üzerinde yapılacak işlemleri belirterek programlıyor. Algoritmanın element bazında nasıl çalışacağını en ince ayrıntısına kadar ayarlama gereği kalmıyor, bu görevi derleyici ve çalışma zamanı üstleniyor.
Bu üst düzey kodlama, tile işlemlerini mümkün kılan ve sanal bir komut seti olan CUDA Tile IR ile destekleniyor. NVIDIA, bu sistemin geleneksel SIMT (tek talimat, çoklu iş parçacığı) donanımı ve programlama yapısının yerini almadığını, aksine ikisinin paralel olarak var olmaya devam ettiğini bildiriyor. Şirket ayrıca, popüler YZ platformunda CUDA Tile programlamayı etkinleştiren NVIDIA cuTile Python aracını da kullanıma sundu.
