IBM ha desarrollado con éxito una nueva tecnología óptica que puede respaldar el entrenamiento de modelos de IA a la “velocidad de la luz” y al mismo tiempo ahorrar una cantidad significativa de energía. IBM afirma que al aplicar estos nuevos avances a los centros de datos, la energía ahorrada al entrenar un modelo de IA típico es equivalente al uso anual de energía de 5.000 hogares estadounidenses.
Aunque los centros de datos se conectan al mundo exterior mediante cables de fibra óptica, en su interior el cableado de cobre sigue siendo el material predominante, según IBM. Estos cables con núcleo de cobre que conectan los aceleradores de GPU pasan mucho tiempo esperando datos de otros dispositivos mientras consumen energía, lo que aumenta significativamente los costos operativos. Al comentar sobre la nueva tecnología de transmisión óptica de datos, Dario Gil, Vicepresidente Senior y Director de Investigación de IBM, dijo:
A medida que la IA crea una necesidad de más potencia y capacidad de procesamiento, los centros de datos deben evolucionar, y la tecnología óptica empaquetada genérica puede ayudar a los centros de datos a gran escala a adaptarse mejor a las demandas futuras. Con este avance, los procesadores del futuro se comunicarán de la misma manera que los cables de fibra óptica transportan datos dentro y fuera de los centros de datos, marcando el comienzo de una nueva era de comunicaciones más rápidas y sostenibles que pueden manejar cargas de trabajo masivas de IA.

IBM describe su nuevo prototipo de tecnología de óptica de paquete conjunto (CPO) en un documento técnico . Básicamente, al aumentar significativamente el ancho de banda en los centros de datos, se puede minimizar el tiempo de inactividad de la GPU, acelerando el procesamiento de la IA.
IBM promete con confianza que esta tecnología puede ayudar a acortar el tiempo de entrenamiento de modelos de lenguaje grandes (LLM) de tres meses a tres semanas. Al mismo tiempo, una mayor eficiencia energética reducirá el consumo de energía y disminuirá los costos asociados con la formación LLM.