Investigadores del Laboratorio de Informática e Inteligencia Artificial del MIT (CSAIL) han desarrollado un nuevo modelo de inteligencia artificial inspirado en oscilaciones neurales en el cerebro, con el objetivo de avanzar significativamente en cómo los algoritmos de aprendizaje automático manejan largas secuencias de datos.
La IA a menudo lucha por el análisis de información compleja que se desarrolla durante largos períodos de tiempo, como tendencias climáticas, señales biológicas o datos financieros. Un nuevo tipo de modelo de IA, llamado «modelos de espacio de estado», ha sido diseñado específicamente para comprender estos patrones secuenciales de manera más efectiva. Sin embargo, los modelos existentes del espacio de estado a menudo enfrentan desafíos: pueden volverse inestables o requerir una cantidad significativa de recursos computacionales al procesar secuencias de datos largas.
Para abordar estos problemas, los investigadores de CSAIL T. Konstantin Rusch y Daniela Rus han desarrollado lo que llaman «modelos lineales del espacio oscilatorio del estado» (Linoss), que aprovechan los principios de los osciladores armónicos forzados, un concepto profundamente arraigado en la física y observado en las redes neuronales biológicas. Este enfoque proporciona predicciones estables, expresivas y computacionalmente eficientes sin condiciones demasiado restrictivas en los parámetros del modelo.
«Nuestro objetivo era capturar la estabilidad y la eficiencia observadas en los sistemas neuronales biológicos y traducir estos principios en un marco de aprendizaje automático», explica Rusch. «Con Linoss, ahora podemos aprender de manera confiable interacciones de largo alcance, incluso en secuencias que abarcan cientos de miles de puntos de datos o más».
El modelo Linoss es único para garantizar una predicción estable al requerir opciones de diseño mucho menos restrictivas que los métodos anteriores. Además, los investigadores demostraron rigurosamente la capacidad de aproximación universal del modelo, lo que significa que puede aproximar cualquier función continua y causal que relacione la secuencia de entrada y salida.
Las pruebas empíricas demostraron que Linoss superó consistentemente a los modelos de estado existentes de última generación en varias tareas de clasificación de secuencia y pronóstico exigentes. En particular, Linoss superó al modelo Mamba ampliamente utilizado en casi dos veces en tareas que involucran secuencias de longitud extrema.
Reconocido por su importancia, la investigación fue seleccionada para una presentación oral en ICLR 2025, un honor otorgado solo al 1 por ciento superior de las presentaciones. Los investigadores del MIT anticipan que el modelo Linoss podría afectar significativamente cualquier campo que se beneficie de la pronóstico y clasificación de horizonte de larga duración precisa y eficiente, incluidos los análisis de atención médica, la ciencia del clima, la conducción autónoma y el pronóstico financiero.
«Este trabajo ejemplifica cómo el rigor matemático puede conducir a avances de rendimiento y amplias aplicaciones», dice Rus. «Con Linoss, estamos proporcionando a la comunidad científica una herramienta poderosa para comprender y predecir sistemas complejos, cerrando la brecha entre la inspiración biológica y la innovación computacional».
El equipo se imagina que la aparición de un nuevo paradigma como Linoss será de interés para los profesionales del aprendizaje automático para construir. Mirando hacia el futuro, los investigadores planean aplicar su modelo a una gama más amplia de modalidades de datos diferentes. Además, sugieren que Linoss podría proporcionar información valiosa sobre la neurociencia, potencialmente profundizando nuestra comprensión del cerebro en sí.
Su trabajo fue apoyado por la Swiss National Science Foundation, el programa Schmidt AI2050 y el Departamento de EE. UU. Acelerador de inteligencia artificial de la Fuerza Aérea.
