İşte dünyanın en küçük yapay zeka süper bilgisayarı!

Tiiny AI, yapay zeka dünyasında dengeleri değiştirebilecek yeni cihazı Pocket Lab’i tanıttı. Dünyanın en küçük yapay zeka süper bilgisayarı olarak lanse edilen bu cihaz, yerel olarak 100 milyar sınıfı modelleri çalıştırabilme kapasitesiyle Guinness Dünya Rekorlar Kitabı’na girmeyi başardı. Amerikan girişimi Tiiny, bu mini bilgisayarın bulut bağlantısına, harici sunuculara veya ayrı bir ekran kartına ihtiyaç duymadan gelişmiş çıkarım görevlerini yerine getirebildiğini belirtiyor.

Buluta veda edin: 120 milyar parametreli modelleri cebinizde çalıştırın

Cihazın en dikkat çeken özelliği, 10 milyar ile 120 milyar parametre arasındaki devasa dil modellerini tamamen çevrimdışı çalıştırabilmesi. Şirket, tüm işlemlerin cihaz içinde yapılması sayesinde veri gizliliğinin korunduğunu ve ağ gecikmelerinin ortadan kalktığını vurguluyor. Tiiny AI yöneticisi Samar Bhoj, zekanın veri merkezlerine değil insanlara ait olması gerektiğini savunarak, bu cihazın yapay zekayı daha kişisel ve erişilebilir kılacağını ifade ediyor.

Teknik tarafta ise cihaz, 65W güç tüketimi sınırları içinde kalarak yüksek performans sunmayı vaat ediyor. Sistemin kalbinde 12 çekirdekli bir ARMv9.2 işlemci ve yaklaşık 190 TOPS işlem gücü sağlayan özel bir yapay zeka modülü yer alıyor. Buna 80GB LPDDR5X bellek ve 1TB SSD eşlik ediyor. Fiziksel olarak büyük bir harici diski andıran cihaz, TurboSparse ve PowerInfer gibi yazılım teknolojilerini kullanarak iş yükünü verimli bir şekilde dağıtıyor ve pahalı hızlandırıcılara olan ihtiyacı ortadan kaldırıyor.

Şirketin açıklamalarında kafa karıştıran bir detay da bulunuyor. Tiiny, cihaz için “OTA donanım yükseltmeleri” sunacağını belirtiyor ancak fiziksel donanımın uzaktan güncellenmesi mümkün olmadığından, bunun bir pazarlama hatası veya yanlış ifade edilmiş bir yazılım güncellemesi olduğu düşünülüyor. Henüz bağımsız test sonuçları yayınlanmamış olsa da, cihazın sunduğu mahremiyet ve düşük maliyet avantajları dikkat çekiyor.

Linux’ta yapay zeka kararı

GNOME, eklenti mağazasında yapay zeka ile üretilen niteliksiz kodları yasakladı. Yeni yasağın detayları haberimizde.

Böylesine küçük bir cihazın sunucu sınıfı performans vaat etmesi teknoloji dünyasında heyecan yaratsa da, gerçek dünya testlerini görmek gerekiyor. Peki siz bu konuda ne düşünüyorsunuz, gelecekte dev yapay zeka modellerini evimizdeki küçük cihazlarda mı çalıştıracağız?