Perplexity ve Nvidia’dan Yerel Yapay Zeka Ajanı: Portable Computer Tanıtıldı

Yapay zeka ekosisteminde bulut tabanlı sistemlerin maliyet ve veri gizliliği konusundaki soru işaretleri devam ederken, Perplexity ve Nvidia bu soruna iddalı bir yanıt verdi. İki dev şirket, yapay zeka ajanlarını doğrudan kullanıcıların kendi donanımlarında çalıştıran Portable Computer sistemini resmi olarak duyurdu. Geçtiğimiz dönemde sunulan bulut odaklı Computer platformunun yerel versiyonu olarak konumlanan bu yeni çözüm; veri analizinden belge incelemeye kadar pek çok karmaşık görevi internet bağlantısına ve bulut kredilerine ihtiyaç duymadan gerçekleştirmeyi amaçlıyor.

Bulut Kredisi Tüketmeyen Yerel Ajan Mimarisi

Portable Computer; yapay zeka modellerini, ajan iş akışlarını, özel araçları ve yerel dosyaları doğrudan kullanıcının bilgisayarında bir araya getiriyor. Bu sayede hassas finansal raporlar, şirket içi belgeler ve büyük veri setleri üzerinde yapılan işlemler hiçbir şekilde üçüncü taraf sunuculara aktarılmıyor.

Sistemin en dikkat çekici yanlarından biri de maliyet optimizasyonu. Yerel donanımda yürütülen işlemler, Perplexity'nin abonelik kapsamındaki bulut kredilerini harcamıyor. Böylece yoğun analiz yapan mühendisler, veri bilimciler ve araştırmacılar ek bulut token maliyeti stresi yaşamadan saatlerce süren dosya incelemelerini çalıştırabiliyor.

Hibrit bir çalışma prensibine sahip olan sistem, varsayılan olarak tüm süreçleri cihaz üzerinde başlatıyor. Yerel modelin yetersiz kaldığı uç senaryolarda bulut modellerinden destek alınabiliyor; ancak bu aşamada sistem kullanıcıdan onay istiyor ve dışarı aktarılacak verileri kişisel bilgilerden arındırarak şeffaf bir şekilde listeliyor.

Sınırlı Donanımlar İçin Yeniden Tasarlanan Modeller

Büyük bulut sunucularına kıyasla masaüstü donanımların sınırlı kapasitesini göz önünde bulunduran Perplexity, yapay zeka ajanı altyapısını baştan aşağı yeniden tasarladı. Daha kısa istemler (prompt) kullanan sistem, ihtiyaç duyulan yetenekleri "skills" adı verilen modüler yapılar üzerinden dinamik olarak yüklüyor.

Ajanın desteklediği öne çıkan modeller ve özellikleri şunlar:

• PPLX 27B: Perplexity'nin kendi ajan altyapısı için özel olarak eğittiği model.
• Qwen 3.8 27B: Yerel performansıyla öne çıkan alternatif model.
• Nemotron 3.5 Lightning: İlerleyen süreçte sisteme dahil edilecek Nvidia imzalı model.

Şirket tarafından yapılan Local Knowledge Work Bench testlerinde PPLX 27B modeli yüzde 85,4 başarı oranına ulaşırken, Qwen modeli yüzde 82,6 puan elde etti. Her ne kadar küçük ölçekli bu modeller karmaşık akıl yürütme süreçlerinde dev bulut modellerinin biraz gerisinde kalsa da günlük iş yüklerinin büyük bir kısmını başarıyla sırtlayabiliyor.

Entegrasyonlar ve Minimum Sistem Gereksinimleri

Tamamen yerel çalışmasına rağmen Portable Computer, harici platformlarla iletişim kurma yeteneğine sahip. Örneğin cihaz üzerindeki bir CSV dosyasını analiz eden yapay zeka ajanı, ulaştığı özet sonuçları doğrudan bir Slack kanalına aktarabiliyor. Ayrıca Google Drive, Gmail ve GitHub gibi popüler geliştirici ve verimlilik araçlarıyla entegrasyon desteği sunuluyor.

Portable Computer şu anda Linux işletim sistemi üzerinde Perplexity Pro, Max, Enterprise Pro ve Enterprise Max kullanıcılarının erişimine açılmış durumda. Sistemi sorunsuz çalıştırabilmek için en az 24 GB VRAM kapasitesine sahip bir Nvidia RTX GPU (GeForce RTX 3090 ve üzeri) veya Nvidia DGX Spark masaüstü süper bilgisayarı gerekiyor. Windows desteğinin eylül ayında yayınlanması planlanırken, Apple Silicon mimarisine sahip cihazlar için henüz açıklanmış bir takvim bulunmuyor.