NVIDIA, güçlü AI GPU’larıyla sektörde lider konumda bulunuyor ve yeni nesil B200 Blackwell çipleri ile bu konumunu daha da güçlendirecek. Ancak, Etched adlı bir startup, daha hızlı ve daha ekonomik bir çözüm geliştirdiğini iddia etti: Sohu adlı ASIC (Application Specific Integrated Circuit) çipi.
Etched’nin Sohu ASIC çipi NVIDIA GPU’larından 20 kat daha hızlı
Etched adlı startup’ın yeni çipi Sohu, geleneksel GPU’lardan çok daha üstün performans sunuyor. ASIC yapısı sayesinde, machine learning gibi belirli iş yükleri için optimize edilen bu çip, NVIDIA B200 GPU’larından 10 kat, mevcut en yaygın hızlandırıcı olan NVIDIA H100 (Hopper) GPU’lardan ise 20 kat daha hızlı performans sunuyor.
Örneğin, Meta tarafından geliştirilen Llama 70B mimarisi üzerinde yapılan testlerde, 8 Sohu çipi kullanan bir sunucu, saniyede 500 bin token işleyebiliyor. Kıyaslayacak olursak, 160 adet NVIDIA H100 GPU’nun işleme gücüne eşdeğer. Sohu, yüksek işlem gücünü daha fazla sayıda özel transistor kullanarak elde ediyor. Bu da, AI sistemlerinin ihtiyaç duyduğu “ham güç”ü sağlıyor.
Ünlü bilişim şirketleri, Nvidia'nın kapısını ilginç bir istekle çaldı. Firmalar, Nvidia'dan daha yavaş yapay zeka modelleri istiyor.
ASIC, tam yükte yüzde 90 kullanım oranına ulaşabiliyor ki bu, geleneksel GPU’ların iki katı kadar. GPU’lar, programlanabilir ve esnek olmalarına rağmen, ASIC’ler kadar yüksek verimlilik sağlayamıyorlar. Etched’e göre, GPU’lar nesilden nesile çok büyük ilerlemeler kaydetmiyor. Performans artışı, genellikle daha büyük çip boyutları ve daha yüksek enerji tüketimi ile sağlanıyor.
ASIC’ler ise, belirli görevler için optimize edildiklerinden, daha verimli ve güçlü olabiliyorlar. Eğer vaat edilen performans gerçekleşirse, büyük veri merkezi sağlayıcıları bu yeni teknolojiyi yakından takip edeceklerdir. Sohu’nun piyasaya çıkış tarihi hakkında henüz bilgi bulunmuyor, ancak üretim TSMC’nin 4 nm süreci ile yapılacak.
Bu yeni teknoloji, NVIDIA GPU’larına ciddi bir rakip olabilir. Siz bu yeni ASIC çipler hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmında paylaşmayı unutmayın…
SDN Yorumları 20 Yorum
Yorum Yap
Yıllarca tecrübe, milyar dolarlar, nvidia başaramadı bu adamlar mı başardı yani? Bir bit yeniği mutlaka vardır.
Direkt yüksek hızlarda model çıkarsalar yeni yılda ne üretecekler . Taktik bunlar kademe kademe hız piyasaya sürüp parası bol olanlara her yıl mal satmak.
Ancak yeni şirketler direkt yüksek hızla girip rakip koltuklarındaki kişileri çekmeye çalışıyorlar.
Böyle girişim haberleri genelde uydurma oluyor. İddia ettikleri yenilikleri yakalayamıyorlar.
Sen çok biliyorsun sivri zeka
Nvidia da çalışanları ya da bu şirketin çalışanlarını yöneticilerini bilmiyorsun oyüzden yorum yapma
şimdi naneyi yedin nvidia…
Şimdi naneyi yedin ekran kartı üretiyorum diyen intel
Biz değilde piyasa ve Nvdia ne tepki veriyor ona bakalım…
Tepkiyi borsasında yedi zaten
Çip teknolojisi geliştirmesi ve üretmesi en zor bileşenlerdendir. Normal bir Start-up 10-20 kat güçlü bir işlemciyi kolay kolay yapamaz, arkasında mühendislik gücü ve olması gerekir.
Yeni bir şirketin nvidia gibi şirketi alt edecegini düşünmek cahilliktir…
Borsaya çıktı mı, hissesini alalım
Bu firmaların hissesini nasıl alıyorsunuz almaya çalıştın alamadim
ASIC daha çok, kısıtlı bir görev alanını yerine getirmek için çalışıyor. Bu bireysel kullanıcılar yönünden bir değişiklik yaratmaz. Dolayısıyla Nvidia’ya bireysel kullanıcılar yönünden rakip olmayacak ilk etapta. Kaldı ki ASIC yeni bir teknoloji değil, fena sayılmayacak bir gelişme gibi görünüyor.
Nvidia gerçekse yutar bu firmayı… Buraya yazıyorum vaziyet alın.
Bence çok güzel bir şey herkesin bir teknoloji bağlı kalması ve onları da bunu istedikleri gibi yönetmesi hiçte iç açıcı değil bence rekabet şart biz de teknolojiyi istediğimiz gibi kullanalım daha ucuza daha kaliteli
Böyle bir durum söz konusu ise gerçekten Nvidia yer sıçmaz bunları afedersiniz. Arkadaşların dediğine katılıyorum, Nvidia denen firma günümüze kadar tekel konumundaydı bu alanda neredeyse şu anda Intel Nvidia’ya diş geçirirse geçirir. Yoksa bir anda ortaya çıkıp Nvidia’ya rakip olma cürreti gösterecek veya iddia edilecek bir şirket olamaz. Nvidia harcar adamı.
Etched mi? Nvidia mi? Bana sorsalar ben kesinlikle Nvidia derim.çünkü Nvidia kendisini her alanda kanıtlamış.insanlarin güvenini asla boşa çıkarmayan bir stratejisi var nvidianın…
Bence çok güzel bir şey herkesin bir teknoloji bağlı kalması ve onları da bunu istedikleri gibi yönetmesi hiçte iç açıcı değil bence rekabet şart biz de teknolojiyi istediğimiz gibi kullanalım daha ucuza daha kaliteli
İddia edildiği gibi bir teknoloji geliştirmek verdikleri örnek, yeni transistör yapısı. Ne yaptınız 40 pikometre transistör mü ürettiniz? Sanmam. Varsayalım 512bit veya üzeri bir mimariye gittiler. Hatrı sayılır bir hız artışı olacağı bariz, fakat güç tüketimi de 2-3kwatt civarına çıkacaktır. Hanginizin evinde 5kw psu var? Detaylar geldikçe inceleriz, ancak bu günkü bilgilerimiz ile sadece mevcut mimariyi çiftlemelerinden fazlasını düşünemiyorum. Bunu hali hazırda amd, nvidia, Intel de yapabilir, yapmıyorlar .. bekleyelim görelim. Ancak belirtmekte fayda var, transistörler neredeyse limitine dayandı, 1nm altına ineceklerini sanmam