Teknoloji dünyasında yeni bir çığır açan Tiiny AI süper bilgisayar, avuç içi boyutlarıyla dikkat çekiyor. Bu cihaz, devasa yapay zeka modellerini yerel olarak çalıştırma yeteneğine sahip olarak, NVIDIA DGX Spark gibi pahalı donanımlara uygun fiyatlı bir alternatif sunmayı hedefliyor. Kullanıcılar artık internete ihtiyaç duymadan büyük dil modellerini (LLM) kullanabilecek.
KÜÇÜK BOYUT, DEV PERFORMANS
Sadece 300 gram ağırlığında ve 14.2 x 8 x 2.53 cm ölçülerindeki Tiiny AI süper bilgisayar, 120 milyar parametreli modelleri başarıyla çalıştırıyor. Cihazın kalbinde 12 çekirdekli ARMv9.2 işlemci ve özel bir heterojen modül bulunuyor. Yapay zeka işlemleri için yaklaşık 190 TOPS gücünde hesaplama performansı sunan sistem, 80 GB LPDDR5X RAM ve 1 TB SSD depolama alanı ile geliyor.
YAZILIM TEKNOLOJİLERİ VE GELECEK PLANLARI
Yüksek bellek kapasitesi sayesinde agresif niceleme teknikleri uygulanabilen cihaz, Llama, Qwen ve Mistral gibi popüler açık kaynaklı modelleri sorunsuz çalıştırıyor. Performansı artırmak için TurboSparse adlı bir teknik kullanan şirket, çıkarım verimliliğini önemli ölçüde iyileştiriyor. PowerInfer motoru ise iş yükünü işlemci ve NPU arasında dinamik olarak dağıtıyor. Tiiny AI süper bilgisayarın CES 2026 fuarında sergilenmesi bekleniyor.