Otonom Yapay Zeka Ajanlarına Hız Katacak Adım: AWS’ten Açık Kaynaklı Karar Modeli Strands Decider 2B

Yapay zeka ajanlarının (AI agents) günlük iş akışlarına entegre olmasıyla birlikte, her mikro işlem için devasa büyük dil modellerine (LLM) çağrı yapmanın getirdiği maliyet ve gecikme problemleri belirginleşmeye başladı. Bu verimsizliğin önüne geçmek isteyen Amazon Web Services (AWS), ajanların yönlendirme ve seçim süreçlerini hızlandırmak amacıyla tasarladığı Strands Decider 2B modelini açık kaynak olarak yayınladı.

Sıradan dil modellerinden farklı bir yaklaşımla geliştirilen sistem, serbest metin üretmek yerine geliştirici tarafından tanımlanmış seçenekler arasından en mantıklı olanı seçmeye odaklanıyor.

Metin Üretimi Yerine Doğrudan Karar Odaklı Yapı

AWS’nin Strands Labs bünyesinde hazırlanan model, kıdemli mühendis Marc Brooker liderliğinde hayata geçirildi. TypeSafe tarafının Jev modelinden ilham alınarak geliştirilen Strands Decider 2B, temelinde Qwen3.5-2B mimarisini taşıyor.

Modelin ana hedefi, yapay zeka ajanlarının karar ağaçlarındaki karmaşayı gidermek. Sınıflandırma, bir sonraki eylemi belirleme veya doğru API aracını çağırma gibi görevlerde tam kapasiteli bir LLM çalıştırmak yerine, bu hafif model devreye giriyor. Üstelik model, seçtiği her opsiyon için bir "güvenilirlik skoru" üreterek sistemin daha öngörülebilir çalışmasını sağlıyor.

Yerel Donanımlarda Yüksek Hız ve Düşük Latans

Yaklaşık 2 milyar parametreye sahip olan Strands Decider 2B, bulut bağımlılığını azaltarak yerel donanımlarda da sorunsuz çalışabilecek şekilde tasarlandı. AWS tarafından paylaşılan test sonuçları modelin hızını gözler önüne seriyor:

• Nvidia RTX 3090 GPU: Medyan karar gecikmesi yaklaşık 115 milisaniye.
• Apple M3 İşlemcili MacBook: Küçük ölçekli görevlerde ortalama 153 milisaniye gecikme.

Bu milisaniyelik yanıt süreleri, yüzlerce ardışık işlem gerçekleştiren karmaşık ajan mimarilerinde ciddi bir performans artışı anlamına geliyor.

Ajan Mimarilerinde Geniş Kullanım Senaryoları

Strands Decider 2B; kod yazma, sohbet etme veya uzun doküman özetleme gibi üretken görevler için tasarlanmadı. Bunun yerine sistem içinde bir "trafik polisi" veya "karar mekanizması" olarak konumlanıyor. Başlıca kullanım alanları şunlar:

• Araç ve API Seçimi: Kullanıcı isteğine göre doğru modülün çağrılması.
• Güvenlik ve Kurallar (Guardrails): Girdilerin güvenlik standartlarına uygunluğunun denetimi.
• Eksik Bilgi Denetimi: Örneğin hava durumu sorgulanmadan önce konum bilgisinin mevcut olup olmadığının kontrol edilmesi.

AWS’nin tam açık kaynak yaklaşımı sayesinde geliştiriciler modelin kodlarına, ağırlıklarına ve eğitim betiklerine doğrudan erişebiliyor. Bu hamlenin, yapay zeka ekosisteminde maliyetleri düşürürken otonom ajanların tepki sürelerini radikal şekilde iyileştirmesi bekleniyor.