SanDisk propose une nouvelle mémoire Flash HBF sous les GPU pour les systèmes d'IA

SanDisk, une entreprise bien connue dans le domaine du stockage, a imaginé une nouvelle architecture mémoire appelée High-Bandwidth Flash (HBF), ou Flash à bande passante élevée. Cette innovation vise à résoudre un problème majeur dans le secteur de l'intelligence artificielle (IA) : la demande toujours plus grande en mémoire vive, qui est coûteuse et parfois difficile à obtenir.

L'idée derrière HBF est d'intégrer des piles de mémoire Flash directement sous les puces graphiques (GPU). Traditionnellement, les GPU utilisent une mémoire très rapide, mais en quantité limitée, appelée HBM (High Bandwidth Memory). Le concept de SanDisk permettrait d'augmenter massivement la capacité de mémoire disponible pour le GPU, sans dépendre uniquement de la HBM. En plaçant cette mémoire Flash à proximité immédiate du GPU, on réduit les distances parcourues par les données, ce qui améliore la vitesse d'accès et la bande passante globale. C'est essentiel pour les applications d'IA qui traitent d'énormes quantités de données en temps réel, comme l'entraînement de modèles complexes ou l'analyse de données massives. Cette solution pourrait offrir un compromis intéressant entre rapidité et capacité de stockage pour les systèmes d'IA de nouvelle génération.