Ingenieros en Tecnologías de la información en la sala de control de un centro de datos manejan sistemas de IA generativa.

Perspectiva de TE Connectivity sobre la eficiencia de los centros de datos

Conectividad para una computación de IA adaptable

Autor: Sudhakar Sabada, vicepresidente sénior y gerente general, Datos y Dispositivos

A medida que los modelos de inteligencia artificial se vuelven cada vez más sofisticados, la arquitectura de los centros de datos se transforma para procesar una creciente cantidad de datos con mayor rapidez y eficiencia.

 

La información comercial que generan los modelos de IA aumenta la productividad en toda una gama de industrias. Las aplicaciones de los sistemas informáticos que se sustentan en datos están en constante crecimiento, como los chatbots que funcionan con IA que ofrecen atención al cliente 24/7 en instituciones financieras y las plataformas de asistencia a la salud que pueden analizar la información de los pacientes en tiempo real y ayudar al personal de asistencia a predecir posibles complicaciones y actuar con más rapidez. A medida que estos modelos se vuelven más sofisticados, la cantidad de datos que necesitan consumir continua aumentando. Todo esto sin tener en cuenta el desarrollo de la IA generativa, que se basa en modelos lingüísticos cada vez más grandes y que requieren una mayor potencia de cálculo para producir resultados.

 

Para dar soporte a estas aplicaciones, los centros de datos han tenido que volverse más eficientes y eficaces al procesar enormes cantidades de datos. lo que transforma los equipos que utilizan, así como la tecnología necesaria para conectarlos.

Desarrollamos la arquitectura de un centro de datos adaptable

Para procesar las cargas de trabajo con eficacia, se requieren sistemas con el mayor ancho de banda y la menor latencia posibles. La carga de trabajo de procesamiento intensivo ha pasado de las unidades centrales de procesamiento (CPU) estándares, que solían alimentar a las computadoras, a las unidades de procesamiento gráfico (GPU) más potentes, las cuales llevan ese nombre porque, al principio, fueron diseñadas para producir imágenes complejas al realizar un gran número de cálculos relativamente sencillos a la vez. Las GPU se convirtieron en el procesador de preferencia de las aplicaciones de IA, que requieren ejecutar múltiples cálculos en poco tiempo. Ahora, a las GPU se suman las unidades de procesamiento tensorial, capaces de acelerar aún más los cálculos de IA.

 

Sin embargo, la capacidad de un solo procesador es limitada. Al conectar grupos de procesadores, los centros de datos pueden aumentar la potencia de cálculo y el reto tecnológico relacionado con el diseño de estos grupos es la capacidad de conectarlos con eficiencia.

Ingenieros de IA programan bastidores de centros de datos para operar arquitecturas de IA generativa.
Diseñamos las arquitecturas de los centros de datos del futuro

Los conectores son la clave para la adaptabilidad

Para transmitir enormes cantidades de datos entre múltiples componentes con rapidez y confiabilidad, se requiere una gama de conectores diferentes. Las GPU que realizan el trabajo pesado y las CPU que organizan la gestión de las cargas de trabajo durante el proceso necesitan conectores hembra y mezanine para acoplarse a las placas de circuito impreso. Los conjuntos de cables de alta velocidad y las carcasas para cables conectan las conexiones eléctricas del backplane del servidor a las placas del circuito y a otros componentes del servidor. Otros conectores de entrada y salida (E/S) transfieren los datos de un servidor a otro y conectan grupos de varios servidores.

 

A fin de funcionar con eficiencia y eficacia, estos conectores deben diseñarse para cumplir con las especificaciones de factor de forma y, a la vez, optimizar la velocidad de transferencia de datos. En la actualidad, las soluciones de IA más rápidas transfieren datos a una velocidad de 56 gigabits por segundo; sin embargo, en los sistemas implementados, esa cifra llegará a los 112 gigabits por segundo durante el próximo año y a los 224 gigabits por segundo dos o tres años después.

 

Cada aumento en la velocidad de transmisión de datos, reduce el margen de error al mantener una señal confiable que a su vez garantice la confiabilidad del rendimiento del sistema. Al mover 224 gigabits por segundo a través de una conexión de cobre de forma confiable se opera en los límites de la física. La exigencia de estas especificaciones de rendimiento se suma a la importancia de diseñar conectores que tengan características mecánicas y térmicas lo suficientemente robustas para su uso en entornos operativos adversos.

 

Para ello, TE Connectivity produce una gran variedad de conectores que cuentan con las características adecuadas, a la vez que equilibran el rendimiento, los costos, la confiabilidad y la durabilidad. Entre ellos, se incluyen interfaces de conectores que permiten montar unidades de procesamiento informático acelerado en distintas placas de circuitos, así como enchufes para implantar los procesadores que se utilizar para controlar la transmisión de datos en todo el sistema. Además, para conectar estos componentes a velocidades muy altas, TE Connectivity desarrolló una línea propia de conjuntos de cables para la conectividad de alta velocidad a nivel de placa, conjuntos de backplanes de cables, así como carcasas y conectores de alta velocidad que simplifican el proceso de integración del sistema y favorecen un enfoque modular para construir y adaptar estos sistemas, siempre con la meta de operar a la mayor velocidad y con la menor latencia posibles.

Perspectivas sobre la innovación: hacemos posible el futuro de la conectividad de datos

Impulsamos la IA en la informática

Llevar los datos a donde se necesitan es solo la mitad del camino. Los componentes que conforman los grupos de IA también necesitan energía para funcionar y, por regla general, una mayor potencia de cálculo requiere más energía eléctrica. Para distribuir esa energía, también se requieren conectores más eficientes que hagan posible el máximo rendimiento del sistema.

 

Además, para facilitar aplicaciones de cálculo intensivas, estos componentes deben ser robustos para satisfacer las exigencias del funcionamiento continuo con confiabilidad. Para garantizar que las arquitecturas en evolución sigan cumpliendo con este nivel de exigencia de las especificaciones, los fabricantes de componentes deberán suministrar una amplia gama de conectores y cables de alimentación en todos los factores de forma.

 

La mayor cantidad de energía que requieren los sofisticados componentes informáticos de IA también genera más calor, lo que hace que la mayor disipación térmica sea un motivo de preocupación crítico. La conectividad en el panel frontal de un sistema de IA suele ser una de las mayores fuentes de generación de calor, por lo que mejorar su eficiencia es un objetivo importante. Por ejemplo, los productos de E/S de TE Connectivity cuentan con disipadores de calor que transfieren la energía térmica fuera de los módulos y mantienen baja la temperatura de funcionamiento, lo que mejora la eficiencia y la confiabilidad total del sistema.

Colaboración a la vanguardia

La demanda de una mayor velocidad y más ancho de banda para hacer posible las aplicaciones de IA cada vez más sofisticadas en los centros de datos no tiene límites. Incluso, a medida que implementan las soluciones actuales, nuestros clientes ya están pensando en cómo diseñar una arquitectura más rápida y eficiente para estar a la par con la evolución de los centros de datos.

 

A veces, las características de los conectores pueden cambiar el planteamiento de la arquitectura del sistema. Por ejemplo, al colaborar con un cliente durante la etapa de exploración del diseño de su sistema, la estrategia pasó de un sistema de conectores de placa a placa a otro que utilizaba un backplane con cables, lo que hizo posible un diseño más flexible y eficiente.

 

Estas innovaciones son posibles porque colaboramos con nuestros clientes desde el principio para tener noción de sus requisitos en el presente y de sus metas en el futuro. Con la transformación rápida de los centros de datos a través de la IA, este tipo de colaboración es esencial para que la industria siga avanzando al ritmo necesario que satisfaga la creciente demanda de una potencia de cálculo cada vez mayor.

Información sobre el autor

Sudhakar Sabada, SVP & GM, Data & Devices

Sudhakar Sabada

Sudhakar Sabada es vicepresidente sénior y gerente general de la Unidad de Negocio Datos y Dispositivos de TE Connectivity. En este puesto, es responsable de las utilidades y pérdidas totales de la unidad de negocio, la cual presta servicios a la industria electrónica y cubre los segmentos de la nube, inteligencia artificial, empresarial, telecomunicaciones y el comercio al por menor. Además, supervisa el desarrollo del segmento de Internet de las cosas, que aporta innovación y soluciones de comunicación en todos los aspectos de la vida. También dirige la estrategia empresarial y de productos, las actividades de comercialización, así como las funciones de ingeniería y manufactura.