Innovation en matière de connectivité pour l’IA

Au fur et à mesure que les modèles d’intelligence artificielle (IA) deviennent de plus en plus sophistiqués, les centres de données doivent modifier leur architecture pour traiter plus rapidement et plus efficacement des quantités croissantes de données.

Les informations économiques produites par les modèles d’IA ont stimulé la productivité dans toute une série d’industries. Des chatbots alimentés par l’IA qui fournissent une assistance à la clientèle 24/24 et 7/7 dans les institutions financières aux plateformes de soins de santé qui peuvent analyser les données des patients en temps réel et aider les prestataires à prédire les complications potentielles afin d’intervenir plus rapidement, les applications des systèmes informatiques axés sur les données continuent de se développer. À mesure que ces modèles deviennent de plus en plus sophistiqués, la quantité de données qu’ils doivent traiter ne cesse d’augmenter. Cette évolution ne tient pas compte du développement de l’IA générative, qui s’appuie sur des modèles de langage de plus en plus volumineux nécessitant une puissance de calcul de plus en plus importante pour produire des résultats.

Pour soutenir ces applications, les centres de données ont dû devenir beaucoup plus efficaces et performants dans le traitement de grandes quantités de données. Cette tendance est en train de faire évoluer les équipements qu’ils utilisent ainsi que la technologie qui permet de les connecter.

Une gestion efficace des tâches par l’IA nécessite des systèmes ayant la bande passante la plus large et la latence la plus faible qui soient. Le traitement intensif des données est passé des processeurs (CPU) qui alimentent traditionnellement les ordinateurs à des processeurs graphiques (GPU) plus puissants - nommés ainsi car ils ont été conçus à l’origine pour restituer des images complexes en effectuant en même temps un grand nombre de calculs relativement peu complexes. Les GPU sont devenus le véritable moteur des systèmes d’intelligence artificielle, qui nécessitent l’exécution de plusieurs calculs dans un court laps de temps. Les GPU sont maintenant complétés par des unités de traitement de tenseurs (TPU), capables d’accélérer encore davantage les calculs de l’IA.

Il y a cependant une limite à ce qu’un seul processeur peut accomplir. En reliant des grappes de processeurs, les centres de données peuvent augmenter la puissance de calcul disponible. Le défi technologique lié à la construction de ces grappes est la capacité de les connecter efficacement.

La transmission rapide et fiable d’énormes quantités de données entre plusieurs composants nécessite une gamme de connecteurs différents. Les GPU qui effectuent les opérations les plus importantes et les CPU qui orchestrent la gestion des tâches tout au long du processus s’appuient sur des connecteurs mezzanine et des supports pour les connecter aux cartes de circuits imprimés. Des jeux de câbles à grande vitesse et des cables cartridges relient les connexions électriques de fond de panier du serveur aux cartes de circuits imprimés et aux autres composants du serveur. D’autres connecteurs d’entrée/sortie (E/S) permettent de déplacer les données d’un serveur à un autre et permettent de connecter des grappes sur plusieurs serveurs.

Pour fonctionner efficacement, ces connecteurs doivent être conçus pour répondre aux spécifications de taille tout en maximisant la vitesse de transfert des données. Les solutions d’IA les plus rapides transfèrent aujourd’hui des données à une vitesse d’environ 56 gigabits par seconde. Dans les systèmes installés, ce chiffre passera à 112 gigabits par seconde d’ici un an environ, puis à 224 gigabits par seconde dans deux ou trois ans.

À chaque augmentation du débit de données, la marge d’erreur pour maintenir un signal efficace afin de garantir la fiabilité des performances du système se réduit. La transmission de 224 gigabits par seconde sur une connexion en cuivre de manière fiable implique un fonctionnement qui atteint les limites de la physique. Ces spécifications de performance rigoureuses s’ajoutent à l’importance de concevoir des connecteurs suffisamment robustes sur le plan mécanique et thermique pour pouvoir être utilisés dans un environnement d’exploitation difficile.

À cette fin, TE produit une variété de connecteurs conçus avec les caractéristiques adéquates, tout en équilibrant la performance, le coût, la fiabilité et la durabilité. Il s’agit notamment d’interfaces de connecteurs qui permettent de monter des unités de traitement informatique accéléré sur diverses cartes de circuits imprimés, ainsi que des supports pour installer les processeurs à des fins de contrôler le mouvement des données dans le système. Pour connecter ces composants à des débits très élevés, TE a également développé une famille de câbles pour la connectivité à haut débit au niveau de la carte, des câbles pour fonds de panier, ainsi que des cartridges et des connecteurs à haut débit. Ils permettent de simplifier l’intégration du système et favorisent une conception modulaire de la construction et de la mise à l’échelle de ces systèmes, toujours dans le but d’atteindre le débit le plus élevé avec la latence la plus faible possible.

Le transfert des données au bon endroit ne représente qu’une partie du problème. Les composants qui constituent les grappes d’IA ont également besoin d’énergie pour effectuer leurs tâches et, en règle générale, plus la puissance de calcul est importante, plus elle nécessite d’énergie électrique. La distribution de cette puissance nécessite également des connecteurs plus efficaces qui permettent au système d’atteindre le plus haut niveau de performance.

Pour pouvoir supporter des applications gourmandes en ressources de calcul, ces composants doivent également être robustes afin de pouvoir résister de manière fiable aux exigences d’un fonctionnement continu. Ainsi, pour que les architectures en constante évolution continuent de répondre à ces spécifications exigeantes, les fabricants de composants devront fournir une large gamme de câbles et de connecteurs d’alimentation pour toutes les tailles.

La puissance plus élevée exigée par les composants informatiques sophistiqués de l’IA génère également plus de chaleur, ce qui rend la dissipation thermique d’autant plus importante. La connectivité sur le panneau avant d’un système d’intelligence artificielle est souvent l’une des principales sources de génération de chaleur, ce qui en fait donc un point important pour améliorer l’efficacité. Par exemple, les produits d’E/S de TE disposent d’une capacité de dissipation de chaleur intégrée pour transférer l’énergie thermique loin de ces modules afin de garantir une température moins élevée, améliorant ainsi l’efficacité et la fiabilité globales du système.

Dans le domaine des centres de données, la demande pour plus de vitesse et de bande passante afin de prendre en charge des applications d’IA de plus en plus sophistiquées n’est quasiment jamais satisfaite. Alors même qu’ils déploient leurs dernières technologies, nos clients réfléchissent activement à la manière de concevoir une architecture plus rapide et plus efficace pour la prochaine étape de l’évolution des data centers.

Dans certains cas, les possibilités offertes par les connecteurs peuvent modifier l’approche de l’architecture du système. Par exemple, lorsque nous avons travaillé en étroite collaboration avec un client au début du développement de son système, la stratégie a évolué, passant d’un système basé sur des connecteurs carte-à-carte à un système utilisant un fond de panier basé sur des câbles, ce qui a permis d’obtenir une conception plus polyvalente et plus efficace.

De telles innovations sont possibles car nous nous engageons très tôt aux côtés de nos clients afin de comprendre leurs besoins présents et leurs objectifs de demain. Compte tenu du fait que l’IA accélère la transformation des centres de données, ce type de collaboration sera essentiel pour continuer à faire progresser le secteur suffisamment vite pour pouvoir répondre aux besoins croissants en matière de puissance de calcul.