Lightmatter presenta un procesador fotónico de inteligencia artificial de seis chips con un increíble rendimiento por vatio

Lightmatter ha lanzado su último procesador fotónico, que representa un cambio fundamental con respecto a las arquitecturas informáticas tradicionales. El nuevo sistema integra seis chips en un único módulo empaquetado en 3D, cada uno de los cuales contiene núcleos tensoriales fotónicos y troqueles de control que trabajan en concierto para acelerar las cargas de trabajo de IA. Detallado en una reciente publicación de Nature, el procesador combina aproximadamente 50.000 millones de transistores con un millón de componentes fotónicos interconectados mediante enlaces ópticos de alta velocidad. La industria se ha enfrentado a numerosos retos informáticos a medida que los enfoques de escalado convencionales se estancaban, con la Ley de Moore, el escalado de Dennard y la duplicación de la capacidad de las DRAM, todos ellos alcanzando límites físicos por área de silicio. La solución de Lightmatter implementa un formato de punto flotante de bloque adaptativo (ABFP) con control analógico de ganancia para superar estas barreras. Durante las operaciones matriciales, los pesos y las activaciones se agrupan en bloques que comparten un único exponente determinado por el valor más significativo, lo que minimiza los errores de cuantificación.

El procesador logra 65,5 billones de operaciones ABFP de 16 bits por segundo (algo así como TOPs de 16 bits) con un consumo de sólo 78 W de potencia eléctrica y 1,6 W de potencia óptica. Lo que distingue a este procesador es su capacidad para ejecutar modelos de IA no modificados con una precisión cercana a FP32. El sistema ejecuta con éxito modelos a gran escala, como ResNet para la clasificación de imágenes, BERT para el procesamiento del lenguaje natural y los algoritmos de aprendizaje por refuerzo Atari de DeepMind sin técnicas especializadas de reentrenamiento o de cuantificación. Se trata del primer acelerador fotónico de inteligencia artificial disponible en el mercado capaz de ejecutar modelos estándar sin necesidad de ajuste fino. La arquitectura del procesador utiliza fundamentalmente la luz para el cálculo con el fin de hacer frente a los prohibitivos costes y demandas energéticas de las GPU de nueva generación. Gracias a su integración nativa con marcos de trabajo de IA tan populares como PyTorch y TensorFlow, Lightmatter espera su adopción inmediata en entornos de producción.

Fuente: Lightmatter