Amazon, yapay zekâ çiplerinin kullanımını kolaylaştırmak amacıyla geliştirdiği TorchNeuron yazılımını tanıtmaya hazırlanıyor. Annapurna Labs tarafından geliştirilen araç, PyTorch yazılan kodların Amazon Trainium çiplerinde yeniden yazılmadan çalıştırılmasını hedefliyor. Amazon’un ücretsiz açık kaynaklı olarak yayınlamayı planladığı çözüm, yapay zekâ altyapısında Nvidia CUDA ekosisteminin oluşturduğu avantajı azaltma girişimlerinden biri olarak öne çıkıyor.
TorchNeuron, Amazon Trainium Çiplerinde PyTorch Kodlarını ÇalıştıracakAmazon’un yeni yazılımı TorchNeuron, geliştiricilerin PyTorch tabanlı uygulamalarını Trainium hızlandırıcılarına taşırken karşılaştığı teknik engelleri azaltmayı amaçlıyor. Annapurna Labs’ın açıklamasına göre geliştiriciler, kodlarını baştan yazmak yerine tek yapılandırma değişikliğiyle uygulamalarını Amazon’un kendi yapay zekâ çiplerinde çalıştırabilecek.
PyTorch, Meta tarafından desteklenen açık kaynaklı makine öğrenimi çerçevesi olarak yapay zekâ geliştirme süreçlerinde yaygın biçimde kullanılıyor. Nvidia ise CUDA platformuna uzun yıllardır yatırım yaparak PyTorch uygulamalarının kendi grafik işlemcilerinde verimli çalışmasını sağlayan geniş yazılım ekosistemi oluşturdu.
Amazon PyTorch desteği sayesinde geliştiricilerin mevcut iş akışlarını koruyarak alternatif donanımları değerlendirmesini istiyor. Şirketin yaklaşımı, farklı çip mimarisine geçiş sırasında ortaya çıkan kod uyarlama ihtiyacını azaltarak Trainium ürünlerinin benimsenmesini hızlandırmayı amaçlıyor.
Nvidia’nın yapay zekâ hesaplama pazarındaki güçlü konumu yalnızca donanım performansına dayanmıyor. geliştiricilerin modellerini eğitmesine, uygulamalarını optimize etmesine Nvidia GPU’larından yararlanmasına yardımcı olan kapsamlı yazılım altyapısı sunuyor. Geliştiricilerin yıllar içinde oluşturduğu araçlar iş akışları alternatif platformlara geçişi zorlaştıran unsurlar arasında bulunuyor.
TorchNeuron, Amazon’un yazılım bağımlılığını azaltmaya yönelik hamlelerinden biri olarak değerlendirilebilir. Şirket, PyTorch uygulamalarının Trainium üzerinde çalıştırılmasını kolaylaştırarak müşterilerin mevcut projelerini farklı donanımlara taşıma maliyetini düşürmeyi hedefliyor. Böylece yapay zekâ çipleri arasındaki rekabet, donanım özelliklerinin yanı sıra yazılım uyumluluğu geliştirici deneyimi üzerinden şekilleniyor.
Google gibi kendi yapay zekâ çiplerini geliştiren bulut sağlayıcıları Nvidia karşısında geliştiricileri çekmek için PyTorch desteğini iyileştirmeye çalışıyor. rekabet, bulut tabanlı yapay zekâ altyapılarında yazılım araçlarının stratejik önemini artırıyor.
Annapurna Labs yazılım biriminden sorumlu başkan yardımcısı Colin Brace, TorchNeuron’un geliştiricilerin Amazon çiplerini denemek için atması gereken adımları azaltmayı amaçladığını belirtmiş. Brace, Reuters’a verdiği röportajda şirketin yaklaşımını müşterilerin mevcut çalışma biçimlerine uyum sağlama hedefiyle açıklamış.
Brace’in tığı bilgilere göre robotik, dünya modelleri sesli yapay zekâ alanlarında çalışan 30’dan fazla erken dönem müşterisi yeni yazılımı kullanmaya başlamış. Amazon temsilcisi, Trainium çiplerine geçişin bazı iş yüklerinde önemli maliyet tasarrufları sağlayabileceğini ifade etmiş. Ancak açıklamada tasarrufların oranına veya farklı donanımlarla yapılan karşılaştırmalı performans ölçümlerine ilişkin ayrıntılı rakamlar ılmamış.
TorchNeuron’un ücretsiz açık kaynaklı olarak yayınlanması, geliştiricilerin aracı incelemesine kendi projelerinde değerlendirmesine olanak tanıyacak. Yazılımın gerçek kullanım alanlarında sağlayacağı performans, desteklenen iş yükleri üretim ortamlarındaki kararlılığı ise Amazon’un Nvidia karşısındaki rekabet gücünü belirleyecek temel ölçütler arasında yer alacak.
Amazon, Trainium ailesiyle yapay zekâ eğitimi çıkarım işlemlerinde kendi donanımını daha fazla kullandırmayı hedefliyor. Bulut hizmetleri üzerinden sunulan özel çipler, şirketin altyapı maliyetlerini yönetmesi kadar müşterilere Nvidia dışındaki seçenekleri sunması açısından önem taşıyor.
TorchNeuron’un geliştiriciler tarafından benimsenmesi, alternatif yapay zekâ hızlandırıcılarının kullanımını kolaylaştırabilir. Bununla birlikte, tek yapılandırma değişikliğiyle geçiş yapılabilmesi her uygulamanın aynı performansı göstereceği anlamına gelmiyor. Model mimarisi, kullanılan operatörler, optimizasyonlar iş yükünün özellikleri sonuçları etkileyebilir.
Amazon’un yeni aracı, yapay zekâ donanımı pazarındaki rekabetin yazılım katmanına daha fazla taşındığını gösteriyor. Geliştiricilerin mevcut kodlarını koruyarak farklı çipleri deneyebilmesi, bulut altyapısı seçimlerinde maliyet esneklik ölçütlerinin ağırlığını artırabilir.
