AWS, Trainium için yerel PyTorch aracı TorchNeuron’u duyurdu
TorchNeuron, PyTorch iş yüklerini Trainium’a taşımayı kolaylaştırmayı hedefliyor. Açık beta ve Apache 2.0 yayını 20 Ekim için planlandı.
AWS, 19 Ekim’de TorchNeuron adlı yerel PyTorch arka ucunu duyurdu. Araç, geliştiricilerin model kodlarını ve alıştıkları PyTorch araçlarını Trainium hızlandırıcıları üzerinde kullanmasını kolaylaştırmayı amaçlıyor. Şirket, Apache 2.0 lisanslı açık kaynak yayını ve herkese açık beta için 20 Ekim’i işaret etti.
TorchNeuron, Trainium2 ve Trainium3 üzerinde araştırma ve hata ayıklama için doğrudan yürütmeyi, üretim iş yükleri içinse derlemeyi destekliyor. Özel hesaplama çekirdekleri geliştirmek isteyen ekipler Neuron Kernel Interface’i kullanabiliyor. Standart PyTorch profil araçları da donanıma kadar uzanan performans incelemesine bağlanıyor.
Duyurudaki örneklerde cihaz seçimini değiştirmek veya derleyiciye Neuron arka ucunu belirtmek temel geçiş adımı olarak gösteriliyor. Bununla birlikte, bütün modellerin hiçbir inceleme gerektirmeden aynı performansla çalışacağı sonucu çıkarılamaz. Açıklamada FP8 ve TorchAO desteğinin hâlen özel betada olduğu belirtiliyor.
Geliştiriciler açısından haberin önemi, yeni bir çipten ziyade mevcut yazılım iş akışının farklı bir hızlandırıcıya taşınmasını kolaylaştıran entegrasyon katmanı. Uyumluluk ve verimlilik yine kullanılan modele göre değerlendirilmeli.
Kaynaklar: Swipeline, PyTorch duyurusu, Amazon.
Kapak, yapay zekâ ile üretilmiş temsili bir marka görselidir.
