Microsoft, Windows 11 üzerinde yerel yapay zekâ uygulamalarının geliştirilmesini kolaylaştırmak için Windows ML altyapısına GGUF ONNX desteği, yeni API’ler açık topluluklarına yönelik yeni katkılar ekliyor. Şirket, llama.cpp entegrasyonu sayesinde Hugging Face üzerinden alınan GGUF modellerinin Windows bilgisayarlarda yerel olarak çalıştırılmasına yönelik deneysel desteği genişletirken NVIDIA performans optimizasyonları üzerinde çalışıyor. Microsoft, Windows ML Runtime API’yi yerel çıkarım için yeni temel katman olarak konumlandırırken mevcut ONNX Runtime API’lerinin desteğini sürdürecek.
Windows ML Yerel Model Çalıştırmayı Daha Erişilebilir Hale GetiriyorWindows ML, geliştiricilerin donanım üreticisine özel optimizasyonlarla ayrı ayrı uğraşmadan Windows 11 için yerel yapay zekâ uygulamaları geliştirmesine yönelik birleşik çıkarım altyapısı sunuyor. Microsoft, son güncellemelerle birlikte farklı model formatlarının aynı çalışma ortamında kullanılmasını kolaylaştırarak Windows üzerindeki yerel yapay zekâ ekosistemini genişletiyor.
Microsoft’un llama.cpp topluluğuyla yürüttüğü çalışma, açık modellerin Windows üzerinde kullanılmasında önemli adım oluşturuyor. Geliştiriciler deneysel entegrasyon üzerinden Hugging Face’ten GGUF modeli aktararak modeli Windows bilgisayarda yerel olarak çalıştırabiliyor.
GGUF modeli desteği, özellikle llama.cpp ekosistemindeki açık yapay zekâ modellerini Windows ortamına taşımak isteyen geliştiricilere daha doğrudan çalışma yolu sunuyor. Microsoft ayrıca NVIDIA birlikte llama.cpp projesine katkı verirken çıkarım performansını artırmaya yönelik optimizasyonlar üzerinde çalışıyor.
Microsoft, Windows ML içerisinde ONNX GGUF modellerini çalıştırabilen deneysel Windows-native çıkarım yolu sunuyor. Windows ML Runtime API olarak adlandırılan yeni katman, Text Generation API Speech Recognition API gibi geliştirici arayüzlerini aynı altyapı üzerinde topluyor.
Windows ML Runtime API, Windows daha derin entegrasyon, performans optimizasyonları daha ayrıntılı kontrol seçenekleri üzerine kuruluyor. Geliştiriciler böylece model çıkarım süreçlerini Windows’un yerel çalışma ortamıyla daha yakından ilişkilendiren yapı kullanabiliyor.
ONNX Runtime API’leri ise yeni altyapının gelişiyle birlikte kaldırılmıyor. Microsoft, mevcut API’lerin desteğini sürdüreceğini belirtirken geliştiricilere alışık oldukları çalışma ortamıyla devam etme seçeneği sunuyor. Windows’a özel optimizasyonların ilerleyen dönemde Windows ML Runtime API’ye taşınması planlanıyor.
Windows ML’nin yeni yaklaşımı, farklı model formatlarını tek yerel yapay zekâ geliştirme ortamında buluşturmayı hedefliyor. Geliştiriciler GGUF tabanlı açık modelleri llama.cpp üzerinden kullanabilirken ONNX modelleri için mevcut ekosistemi kullanmaya devam edebiliyor.
Microsoft’un sunduğu yapı, donanım özelliklerine göre ayrı optimizasyonlar geliştirme ihtiyacını azaltmaya odaklanıyor. Windows ML, uygulamaların farklı Windows sistemlerinde yerel çıkarım gerçekleştirmesi için ortak çalışma katmanı oluştururken performans iyileştirmelerini altyapı seviyesinde ele alıyor.
Yerel yapay zekâ çıkarımı, verilerin sürekli olarak bulut servislerine gönderilmesini gerektirmeyen uygulamalar açısından önem taşıyor. Windows üzerinde model çalıştırma seçeneklerinin genişlemesi, geliştiricilerin uygulama tasarımında yerel bulut tabanlı yapay zekâ arasında daha fazla seçenek kullanmasına zemin hazırlıyor.
Microsoft, Windows ML çalışmalarını yalnızca model çıkarım altyapısıyla sınırlamıyor. Şirket PyTorch projesine katkı verirken Windows Arm64 CPU için yerel paketlerin sunulmasına destek sağlıyor.
NVIDIA ise CUDA destekli Windows Arm64 paketlerinin geliştirilmesinde rol üstleniyor. Böylece Windows on Arm cihazlarında yapay zekâ geliştirme süreçlerinin daha geniş donanım yazılım altyapısına kavuşması hedefleniyor.
Triton tarafında ise triton.jit, torch.compile özel GPU çekirdekleri desteklenen Windows GPU’larında kullanılabiliyor. gelişme, yapay zekâ modellerinin çalışma performansını GPU seviyesinde optimize etmek isteyen geliştiriciler için Windows ortamındaki araç setini genişletiyor.
Microsoft, Windows ML’nin gelecekteki gelişimini açık toplulukları donanım ortaklarıyla yürütülen çalışmalara bağlamaya devam ediyor. Şirketin planları arasında yerel paketlerin genişletilmesi, daha fazla çekirdek desteği, performans iyileştirmeleri Windows on Arm uyumluluğunun artırılması bulunuyor.
Windows ML’nin gelişimi, Windows 11’i yalnızca yapay zekâ uygulamalarının çalıştığı işletim sistemi olmaktan çıkarıp yerel model çıkarımının daha doğrudan desteklendiği geliştirme ortamına dönüştürme stratejisinin parçası olarak ilerliyor. Microsoft’un llama.cpp, PyTorch, Triton NVIDIA gibi farklı ekosistemlerle yaptığı çalışmalar, yerel yapay zekâ uygulamalarında tek model formatına veya donanım mimarisine bağlı kalmayan daha geniş Windows altyapısının oluşmasına katkı sağlayabilir.
