Bien que les centres de données utilisent la fibre optique dans leurs réseaux de communications externes, les racks des centres de données communiquent encore majoritairement via un câblage électrique en cuivre. Ces câbles connectent les accélérateurs GPU, qui peuvent passer plus de la moitié de leur temps d'inactivité à attendre des données provenant d'autres appareils dans le cadre d'un vaste processus de formation distribué, ce qui peut entraîner des coûts et une consommation d'énergie importants.
Les chercheurs d'IBM ont démontré un moyen d'apporter la vitesse et la capacité de l'optique aux centres de données. Dans un article récemment publié disponible sur arXiv, IBM présente un nouveau prototype de module CPO capable de fournir une connectivité optique à haut débit. Cette technologie peut augmenter considérablement le débit de communication dans les centres de données, minimisant ainsi les temps d'arrêt du GPU tout en accélérant considérablement le traitement de l'IA. Cette innovation de recherche, telle que décrite, permettrait :
- Réduire les coûts pour faire évoluer l’IA générative en réduisant la consommation d'énergie de plus de 5 fois par rapport aux connexions électriques de milieu de gamme, tout en étendant la longueur des câbles de raccordement des centres de données d'un à plusieurs centaines de mètres.
- Former plus rapidement des modèles d’intelligence artificiellepermettant aux développeurs de former un grand modèle de langage (LLM) jusqu'à cinq fois plus rapidement qu'un câblage électrique conventionnel. CPO peut réduire le temps nécessaire à la formation d'un modèle LLM standard de trois mois à trois semaines, avec des performances améliorées lors de l'utilisation de modèles plus grands et de davantage de GPU.
- Augmenter considérablement l’efficacité énergétique des centres de donnéeséconomisant ainsi l'équivalent de la consommation énergétique annuelle de 5 000 foyers américains pour chaque modèle d'intelligence artificielle formé.
IBM continue de mener des recherches sur le développement de semi-conducteurs, menées notamment au sein d'IBM Research à Zurich.. La technologie CPO ouvre une nouvelle voie pour répondre aux demandes croissantes de performances de l'IA, avec le potentiel et la capacité de remplacer les communications hors module de l'électrique vers l'optique. C'est poursuivre l'histoire d'IBM en matière d'innovation en matière de semi-conducteursqui comprend également premier circuit intégré 2 nmla première mise en œuvre des technologies de traitement 7 nm et 5 nm, des transistors Nanofeuilletransistors verticaux (VTFET), mémoire monocellulaire DRACHME et des photorésistances chimiquement améliorées.
