Figure 1 : Principaux avantages de l'optique packagée à multiplexage par répartition en longueur d'onde dense (DWDMCPO). (Crédit image : Scintil Photonics)
Il existe un dicton dans le domaine de la conception de centres de données : « Utilisez des câbles en cuivre autant que possible et n'utilisez la technologie optique que lorsque la fibre est absolument nécessaire. » Pendant des années, l'approche pragmatique de l'industrie a consisté à donner la priorité aux câbles en cuivre-à faible coût jusqu'à ce que les lois de la physique imposent une mise à niveau technologique. Mais aujourd'hui, alors que les clusters informatiques d'intelligence artificielle (IA) évoluent vers l'échelle d'« usines de puissance de calcul » déployant des millions d'unités de traitement graphique (GPU), et que la rentabilité des centres de données-est confrontée à une pression immense, les gens découvrent que ce point d'inflexion technologique "sans-alternative optique-est arrivé bien plus tôt que prévu.
Les architectes réseau savent depuis longtemps que les câbles en cuivre présentent des limitations importantes en termes de distance de transmission dans des scénarios-à haut débit, mais rares sont ceux qui ont analysé les causes sous-jacentes d'un point de vue physique fondamental. Bien que les ingénieurs réseau aient repoussé à l'extrême les limites de la distance de transmission et de la bande passante des câbles en cuivre grâce à leur expertise, les contraintes des lois de la physique ne peuvent être surmontées ; même les conceptions techniques les plus ingénieuses ont du mal à surmonter les limites inhérentes aux câbles en cuivre. Comprendre cela explique pourquoi l'industrie s'oriente de toute urgence vers la technologie Co-Packaged Optics (CPO).
Plus la fréquence des signaux électriques transmis via les câbles en cuivre est élevée, plus le débit de symboles et la bande passante sont élevés, et plus ils peuvent transporter d'informations. Le problème est qu’à mesure que la fréquence du signal augmente, la distance de transmission diminue considérablement. Il existe deux causes principales de perte de signal : l’effet cutané et la perte diélectrique.
Effet cutané : la « concentration superficielle » du courant
Lorsqu'un signal CA traverse un câble en cuivre, le champ magnétique changeant induit des courants de Foucault dans le conducteur. Le champ magnétique généré par ces courants de Foucault annule le champ magnétique du signal au centre du câble. Plus le champ magnétique du signal change rapidement-c'est-à-dire plus la fréquence est élevée-plus cet effet d'annulation devient fort.
Le résultat direct est que le courant est « comprimé » dans une couche superficielle extrêmement fine du conducteur ; l'épaisseur de cette couche est appelée profondeur de peau. La transmission actuelle du signal dans les centres de données IA utilise généralement des fréquences autour de 53 GHz. À cette fréquence, la profondeur de peau des câbles en cuivre n'est que de 0,3 μm. Une couche de transmission aussi fine utilise moins de 1 % de la section transversale du conducteur-, ce qui fait monter en flèche la résistance du câble- dépassant même la résistance CC de plus de 100 fois.
Perte diélectrique : "Dissipation d'énergie" dans la couche d'isolation
Un autre responsable majeur de l’atténuation du signal dans les câbles en cuivre est la perte diélectrique. Dans les scénarios à haute -fréquence au niveau du gigahertz, les molécules contenues dans le diélectrique isolant du câble ne peuvent pas suivre le rythme des fluctuations rapides du champ électrique. Le délai entre les fluctuations rapides du champ électrique et la réponse tardive des molécules convertit l'énergie électromagnétique du signal en énergie thermique, entraînant une perte d'énergie.
Doubles pertes : la faiblesse fatale des câbles en cuivre
Lorsque l'effet cutané et la perte diélectrique agissent de concert, la perte de signal dans les câbles en cuivre augmente de façon exponentielle à mesure que la fréquence augmente.
Pour illustrer cela clairement : à une fréquence de 50 GHz, même avec des câbles en cuivre de haute-qualité, la perte combinée de ces deux effets consommera plus de 90 % du budget de puissance du signal sur une distance de transmission de 2 mètres. Les propriétés physiques des câbles en cuivre dictent une contradiction fondamentale irréconciliable : la bande passante et la distance de transmission ne peuvent pas être atteintes simultanément.
Co de multiplexage par répartition en longueur d'onde dense-Optique packagée (DWDMCPO)
Aujourd'hui, le goulot d'étranglement des performances des clusters d'entraînement d'IA est passé des-opérations en virgule flottante par seconde (FLOPS) aux besoins en bande passante.
Dans les réseaux évolutifs dotés d’une mémoire cohérente, une nouvelle génération de technologie réseau est nécessaire pour répondre à de multiples demandes :
|Alors que la consommation d'énergie devient un facteur limitant dans les déploiements de centres de données, une consommation d'énergie inférieure par bit est requise ;
| Étant donné que les opérations en virgule flottante-ne constituent plus un goulot d'étranglement, une plus grande bande passante doit être fournie pour chaque processeur ;
| À mesure que l’espace physique pour le déploiement de la fibre optique devient limité, une densité d’intégration plus élevée doit être atteinte ;
| Pour permettre la mise à l'échelle horizontale entre-racks, des distances de transmission plus longues doivent être prises en charge ;
| Pour maintenir la cohérence du domaine de mémoire et améliorer l'utilisation du GPU, une latence résiduelle ultra-faible est requise ;
| Une grande fiabilité et une facilité de maintenance sont également essentielles.
Lorsque la latence finale devient une contrainte majeure, le respect des exigences ci-dessus augmentera considérablement l'utilisation du GPU (certaines estimations de modèles indiquent que l'utilisation peut plus que doubler), réduira considérablement la consommation d'énergie du réseau et améliorera les performances du modèle de bout en bout. Actuellement, DWDMCPO est la seule approche technique capable de répondre simultanément à ces exigences strictes, et elle apportera des transformations -coût-de grande envergure aux opérateurs de centres de données à grande échelle.
En transmettant plusieurs longueurs d'onde de lumière sur une seule fibre, la technologie DWDMCPO fournit à chaque GPU plusieurs canaux larges et à faible-vitesse. En augmentant le nombre de longueurs d'onde transmises de 1 à 8, 16, voire plus, ce modèle de mise à l'échelle géométrique est sur le point de révolutionner les réseaux d'IA, tout comme la technologie DWDM a révolutionné l'infrastructure Internet il y a 25 ans.
Le débit de transmission à canal unique-de DWDM est d'environ 50 à 64 Gbit/s, ce qui correspond à la catégorie de transmission à faible-vitesse. Cette caractéristique permet aux ingénieurs de simplifier le schéma de codage des données de PAM4 vers NRZ. Cette simplification élimine plusieurs étapes de traitement du signal coûteuses et gourmandes en énergie, permettant ainsi une double réduction de la consommation d'énergie et de la latence en rationalisant le chemin de transmission du signal.
La latence de queue est le « tueur silencieux » qui érode le retour sur investissement du centre de données. Lorsque les clusters GPU traitent des jetons de données, ils nécessitent une entrée de flux binaire continue et prévisible. Si un seul bit subit un retard de transmission, le reste du cluster devient inactif, réduisant considérablement l'utilisation du processeur. À mesure que le nombre de processeurs dans un cluster augmente, la probabilité d'une latence des bits de queue de niveau p999 augmente considérablement et l'utilisation du processeur diminue en conséquence.
Sans la technologie DWDMCPO à faible-latence, faible-consommation et longue-portée, l'évolutivité des réseaux serait limitée et les performances des grands modèles de langage (LLM) seraient par conséquent limitées. Les réseaux évolutifs à plus grande-échelle, plus plats et à faible-latence peuvent prendre en charge des caches de valeurs de clé-plus grands, augmentant directement la taille de la fenêtre contextuelle du modèle et la pertinence du contenu, augmentant ainsi efficacement la mémoire de travail efficace du LLM. L'augmentation de la bande passante à faible latence - offre également le potentiel d'augmenter le nombre de couches de transformateur, permettant aux modèles de posséder des capacités de réflexion et de raisonnement plus approfondies. En bref : briser les contraintes de communication entre les puces permet aux LLM de stocker plus d'informations dans la mémoire de travail et d'effectuer davantage d'étapes de raisonnement sans bégaiement.
Le câblage en cuivre était sans aucun doute une technologie formidable à son époque, mais ses limitations physiques inhérentes ont créé un besoin urgent de technologies de mise en réseau plus avancées pour améliorer considérablement le retour sur investissement des centres de données hyperscale et étendre les capacités des LLM.
Dans quelques années, les centres de données d'IA entièrement construits sur des câbles en cuivre deviendront aussi inimaginables que les-connexions Internet longue distance reposant uniquement sur le cuivre.
Les opérateurs de centres de données hyperscale, les investisseurs, les développeurs LLM et les autres parties prenantes de l'infrastructure d'IA doivent prendre cette tendance technologique au sérieux : elle va non seulement remodeler fondamentalement le paysage de la rentabilité des centres de données, mais elle repoussera également continuellement les limites des capacités de l'IA. Les entreprises qui adoptent d'abord la technologie DWDMCPO bénéficieront d'avantages architecturaux en termes de coût, de consommation d'énergie et de performances ; ces avantages continueront de s’amplifier à mesure que l’infrastructure d’IA se développera.
