Une puce IA singapourienne veut rivaliser avec Apple

La startup singapourienne Acrab présente Gelix 1, une nouvelle puce dédiée à l'intelligence artificielle. Gravée en 5nm, elle intègre un processeur ARM à 20 cœurs et une bande passante mémoire de 273 Go/s. Son objectif est de proposer une alternative performante aux solutions actuelles comme le Mac mini dans un encombrement très réduit.

Selon les tests fournis par l'entreprise, cette puce serait capable de surpasser le processeur M4 Pro d'Apple sur les tâches d'inférence IA, permettant de faire tourner localement des modèles allant jusqu'à 100 milliards de paramètres. Ces performances permettent une exécution rapide des requêtes, avec des scores atteignant 1 416 jetons par seconde sur des modèles comme Gemma 26B.

Ce type de matériel illustre la montée en puissance de l’IA locale sur le matériel grand public et professionnel, où la gestion de la mémoire et la vitesse de calcul sont cruciales. Pour un utilisateur, cela signifie à terme des machines capables de traiter des modèles d'IA complexes sans dépendre exclusivement du cloud, offrant plus de confidentialité et de réactivité.