Teknolojideki devrimlerin çoğu, işlem gücünün (computing power) merkezi sunuculardan uç noktalara (edge) doğru kaymasıyla gerçekleşir. İlk bilgisayarlar oda büyüklüğündeydi; sonra masaüstümüze, ardından cebimize girdiler. Bugün asıl devrim, yapay zekanın (AI) bulut sunucularından çıkıp evlerimizin kalbine inmesidir.
İşte bu devrimin donanımsal kahramanı NPU (Neural Processing Unit - Ağsal İşlem Birimi)'dur.
Neden İşlemci veya Ekran Kartı Değil? Neden NPU?
CPU'lar (İşlemciler) genel görevler, komut satırları ve web sunucuları için mükemmeldir. Ancak konu bir sensör verisini algılayıp yüz tanıma yapmak, sesli bir komutu doğal dil işleme (NLP) modeliyle analiz etmek olduğunda işlemciler çok yavaştır ve devasa elektrik tüketirler.
"UnverHub içerisine entegre ettiğimiz 8 TOPS gücündeki NPU çipi, geleneksel bir sunucunun saniyede milyonlarca kez yapacağı AI matematiksel işlemlerini, yalnızca 15 Watt güç tüketimi ile doğrudan cihazın içinde yapar."
NPU'lar tam olarak matematiksel matris çarpımları için tasarlandığından, bir konuşma veya görüntü analizinin model çıkarımı (inference) evinizden bir byte bile dışarı çıkmadan milisaniyeler içinde tamamlanır.
"Bulut Yapay Zeka" Yerine Neden "Yerel Yapay Zeka"?
Sesli asistanınıza (Siri, Alexa, Google) bir soru sorduğunuzda gerçekleşen döngü şöyledir:
- Sesiniz kaydedilir.
- Bu ses doyası internet üzerinden uzak bir veri merkezine yüklenir.
- Büyük dil modelleri bu sesi metne dönüştürür ve analiz eder.
- Cevap tekrar evinize yönlendirilir.
Bu hem yavaş (latency/gecikme problemi) hem de mahremiyet açısından korkutucudur. Sizin ev haliyle yaptığınız tüm sohbetler, tartıştığınız finansal konular bulutta indekslenebilir potansiyele sahiptir.
Gelecek, Sensörlerinizden Öğrenen Bir Ağıdır
UnverHub donanım destekli Edge AI yaklaşımı ile: Cihazınızın içindeki sensörlerden, kameralardan ve mikrofonlardan akan tüm veriler NPU tarafından lokal olarak analiz edilir.
- Klima alışkanlığınızı, sabahları kaçta güneş ışığı istediğinizi öğrenen bir model, evinizdeki kapalı kutunun (UnverHub cihazınızın) içindeki kendi Lokal Veritabanında (Local Vector Database) saklanır. Dışarı bir veri transferi yapmasına gerek yoktur.
Gelecek on yıla baktığımızda akıllı evler internetle beslenen aptal algılayıcılar olmaktan çıkıp, kendi zekası olan "Otonom İşletim Sistemleri"ne dönüşecektir. Biz, UnverTech olarak, ev otomasyonunun kalbine şifrelenmiş Edge AI'i yerleştiriyoruz.