Guinness, ileri teknoloji alanında faaliyet gösteren ABD merkezli bir girişimin, bulut bağlantısına ihtiyaç duymadan ve geleneksel grafik işlem birimlerine (GPU) bağlı olmaksızın çalışan dünyanın en küçük kişisel yapay zeka süper bilgisayarını piyasaya sürdüğünü duyurdu.
ABD’li teknoloji girişimi Tiiny AI, Guinness Rekorlar Kitabı’na göre dünyanın en küçük kişisel yapay zeka süper bilgisayarı unvanını alan Tiiny AI Pocket Lab adlı cihazını tanıttı.
Küçük bir taşınabilir güç bankasını andıran cihaz, 120 milyar parametreye kadar sahip derin öğrenme (LLM) modellerini tamamen yerel olarak çalıştırabiliyor. Bunu yaparken internete bağlanmaya, bulut sistemlerine ya da geleneksel GPU’lara ihtiyaç duymuyor. (Parametreler, bir yapay zeka modelinin “zihni” olarak kabul ediliyor; sayıları arttıkça modelin karmaşık problemleri çözme ve daha akıllı sonuçlar üretme kapasitesi de artıyor.)
Tiiny AI, bu yenilikle birlikte bireylerin veri merkezlerine bağımlı kalmadan gelişmiş yapay zekadan faydalanmasını amaçlıyor. Şirket, süper bilgisayar seviyesinde işlem gücü sunarken enerji tüketimini düşürmeyi ve mahremiyet risklerini azaltmayı hedefliyor.
10 Aralık’ta piyasaya sürülen AI Pocket Lab, geleneksel yapay zeka altyapılarının yüksek enerji maliyetleri ve sürdürülebilirlik sorunlarına karşı pratik bir çözüm olarak sunuluyor.
Tiiny AI Pazarlama ve Satış Direktörü Summer Pogue, konuyla ilgili şu ifadeleri kullandı:
“Bulut tabanlı yapay zeka büyük ilerleme kaydetti ancak beraberinde güvenilirlik, güvenlik ve sürdürülebilirlik sorunları da getirdi. Tiiny AI Pocket Lab ile bu dengeyi değiştirmeyi amaçlıyoruz.”
Pogue, sözlerini şöyle sürdürdü:
“Yapay zekânın bireylerin erişimine açık olması gerektiğine inanıyoruz. Bu yaklaşım, gelişmiş yapay zekâyı özel, kişisel ve her cihaz için erişilebilir kılıyor.”
Cihaz, kişisel yapay zeka ihtiyaçlarının tamamını karşılayacak şekilde tasarlandı. İçerik üreticileri, yazılımcılar, araştırmacılar ve öğrenciler tarafından kullanılabiliyor.
AI Pocket Lab; çok adımlı çıkarım, derin bağlam anlama, yapay zeka ajanlarının iş akışını yönetme, içerik üretimi ve hassas verilerin güvenli şekilde işlenmesini internet bağlantısı olmadan mümkün kılıyor. Kullanıcı verileri ve belgeleri cihazda, bankacılık seviyesinde şifreleme ile saklanıyor. Bu da bulut sistemlere kıyasla daha güçlü gizlilik ve uzun süreli bellek sağlıyor.
Cihaz, 10 milyar ile 100 milyar parametre arasındaki modelleri destekliyor; 120 milyar parametreye kadar olan modelleri de çalıştırabiliyor. Bu sayede, veri güvenliği korunurken GPT-4 benzeri çok adımlı analiz ve akıl yürütme performansı sunuluyor.
Gelişmiş teknik özellikler
AI Pocket Lab, 65 watt gücünde, 12 çekirdekli ARMv9.2 işlemci ile çalışıyor. Geleneksel sistemlere kıyasla yüksek enerji verimliliği ve daha düşük karbon ayak izi sağlıyor.
Cihaz iki temel teknolojiye dayanıyor:
TurboSparse: Model performansını etkilemeden yalnızca gerekli nöronları etkinleştirerek verimliliği artırıyor.
Powerinfer: Açık kaynaklı bu motor, yapay zekâ yüklerini CPU ve NPU arasında dağıtarak enerji tüketimini azaltırken performansı koruyor.
Ayrıca cihaz, açık kaynaklı bir işletim sistemi sunuyor ve Llama, DeepSeek ve GPT-OSS gibi popüler modellerin kurulmasına olanak tanıyor.