Un cluster d’IA fabriqué avec des cartes mères issues de déchets électroniques

Exécuter un grand modèle de langage, ou LLM, en local demande généralement beaucoup de mémoire et de puissance de calcul. Les cartes graphiques sont souvent privilégiées pour ce type de tâche, car elles peuvent traiter de nombreuses opérations en parallèle, mais elles ne constituent pas la seule approche possible.

Le projet présenté utilise plusieurs cartes mères récupérées dans des déchets électroniques, des adaptateurs Ethernet USB peu coûteux et un cadre fabriqué en impression 3D. Les différentes machines sont reliées afin de fonctionner comme un petit cluster, c’est-à-dire un groupe d’ordinateurs qui se partage une charge de travail.

Cette méthode permet de réutiliser du matériel qui aurait autrement été jeté. Elle demande cependant de coordonner plusieurs systèmes, de gérer leurs communications réseau et de répartir correctement les calculs. Dans la pratique, un tel montage est donc plus expérimental qu’une machine unique équipée d’un matériel récent.

L’intérêt de cette réalisation est surtout pédagogique : elle montre qu’un projet d’IA local peut être abordé avec des composants récupérés, au prix d’une installation plus complexe. Elle ne permet pas, à elle seule, de déterminer les performances obtenues ni les modèles de langage pouvant être exécutés.