Las empresas de hoy están incorporando inteligencia artificial en todos los rincones de su negocio. Se espera que la tendencia continúe hasta que los modelos de aprendizaje automático se incorporen a la mayoría de los productos y servicios con los que interactuamos todos los días.
A medida que esos modelos se vuelven una parte más importante de nuestras vidas, garantizar su integridad se vuelve más importante. Esa es la misión de Verta, una startup que surgió del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT.
La plataforma de Verta ayuda a las empresas a implementar, monitorear y administrar modelos de aprendizaje automático de manera segura y a escala. Los ingenieros y científicos de datos pueden usar las herramientas de Verta para rastrear diferentes versiones de modelos, auditarlos en busca de sesgos, probarlos antes de la implementación y monitorear su desempeño en el mundo real.
“Todo lo que hacemos es permitir que se construyan más productos con IA y hacerlo de manera segura”, dice el fundador y director ejecutivo de Verta, Manasi Vartak SM ’14, PhD ’18. “Ya estamos viendo con ChatGPT cómo se puede usar la IA para generar datos, artefactos, lo que sea, que parecen correctos pero no lo son. Es necesario que haya más gobernanza y control sobre cómo se utiliza la IA, particularmente para las empresas que brindan soluciones de IA”.
Verta está trabajando actualmente con grandes empresas de atención médica, finanzas y seguros para ayudarlas a comprender y auditar las recomendaciones y predicciones de sus modelos. También está trabajando con una serie de empresas tecnológicas de alto crecimiento que buscan acelerar la implementación de nuevas soluciones habilitadas para IA y al mismo tiempo garantizar que esas soluciones se utilicen de manera adecuada.
Vartak dice que la empresa ha podido reducir el tiempo que tardan los clientes en implementar modelos de IA en órdenes de magnitud al tiempo que garantiza que esos modelos sean explicables y justos, un factor especialmente importante para las empresas en industrias altamente reguladas.
Las empresas de atención médica, por ejemplo, pueden usar Verta para mejorar el monitoreo de pacientes y las recomendaciones de tratamiento con tecnología de IA. Dichos sistemas deben examinarse minuciosamente en busca de errores y sesgos antes de que se utilicen en pacientes.
“Ya sea sesgo, equidad o explicabilidad, se remonta a nuestra filosofía sobre el gobierno y la gestión del modelo”, dice Vartak. “Lo consideramos como una lista de verificación previa al vuelo: antes de que un avión despegue, hay una serie de verificaciones que debe realizar antes de que su avión despegue. Es similar con los modelos de IA. Debe asegurarse de haber realizado sus comprobaciones de sesgo, debe asegurarse de que haya cierto nivel de explicabilidad, debe asegurarse de que su modelo sea reproducible. Ayudamos con todo eso”.
Del proyecto al producto
Antes de llegar al MIT, Vartak trabajó como científico de datos para una empresa de redes sociales. En un proyecto, después de pasar semanas ajustando modelos de aprendizaje automático que seleccionaron contenido para mostrarlo en las noticias de las personas, se enteró de que un ex empleado ya había hecho lo mismo. Desafortunadamente, no hubo registro de lo que hicieron o cómo afectó a los modelos.
Para su doctorado en el MIT, Vartak decidió crear herramientas para ayudar a los científicos de datos a desarrollar, probar e iterar modelos de aprendizaje automático. Trabajando en el Grupo de base de datos de CSAIL, Vartak reclutó a un equipo de estudiantes graduados y participantes en el Programa de Oportunidades de Investigación de Pregrado (UROP) del MIT.
“Verta no existiría sin mi trabajo en el MIT y el ecosistema del MIT”, dice Vartak. “MIT reúne a personas a la vanguardia de la tecnología y nos ayuda a construir la próxima generación de herramientas”.
El equipo trabajó con científicos de datos en el programa CSAIL Alliances para decidir qué características crear e iterar en función de los comentarios de los primeros usuarios. Vartak dice que el proyecto resultante, llamado ModelDB, fue el primer sistema de gestión de modelos de código abierto.
Vartak también tomó varias clases de negocios en MIT Sloan School of Management durante su doctorado y trabajó con compañeros de clase en nuevas empresas que recomendaban ropa y rastreaban la salud, pasó incontables horas en el Martin Trust Center for MIT Entrepreneurship y participó en el acelerador de verano delta v del centro.
“Lo que el MIT le permite hacer es tomar riesgos y fallar en un entorno seguro”, dice Vartak. «MIT me permitió esas incursiones en el espíritu empresarial y me mostró cómo construir productos y encontrar los primeros clientes, por lo que cuando llegó Verta lo había hecho en una escala más pequeña».
ModelDB ayudó a los científicos de datos a entrenar y rastrear modelos, pero Vartak rápidamente vio que había más en juego una vez que los modelos se implementaron a escala. En ese punto, tratar de mejorar (o romper accidentalmente) los modelos puede tener importantes implicaciones para las empresas y la sociedad. Esa idea llevó a Vartak a comenzar a construir Verta.
“En Verta, ayudamos a administrar modelos, ayudamos a ejecutar modelos y nos aseguramos de que funcionen como se espera, lo que llamamos monitoreo de modelos”, explica Vartak. “Todas esas piezas tienen sus raíces en el MIT y mi trabajo de tesis. Verta realmente evolucionó a partir de mi proyecto de doctorado en el MIT”.
La plataforma de Verta ayuda a las empresas a implementar modelos con mayor rapidez, garantizar que continúen funcionando según lo previsto a lo largo del tiempo y administrar los modelos para el cumplimiento y la gobernanza. Los científicos de datos pueden usar Verta para rastrear diferentes versiones de modelos y comprender cómo se construyeron, respondiendo preguntas como cómo se usaron los datos y qué comprobaciones de sesgo o explicabilidad se realizaron. También pueden examinarlos ejecutándolos a través de listas de verificación de implementación y escaneos de seguridad.
“La plataforma de Verta toma el modelo de ciencia de datos y le agrega media docena de capas para transformarlo en algo que puede usar para potenciar, digamos, un sistema completo de recomendaciones en su sitio web”, dice Vartak. “Eso incluye optimizaciones de rendimiento, escalado y tiempo de ciclo, que es la rapidez con la que puede tomar un modelo y convertirlo en un producto valioso, así como la gobernanza”.
Apoyando la ola de IA
Vartak dice que las grandes empresas a menudo usan miles de modelos diferentes que influyen en casi todas las partes de sus operaciones.
“Una compañía de seguros, por ejemplo, usará modelos para todo, desde suscripción hasta reclamos, procesamiento administrativo, marketing y ventas”, dice Vartak. “Entonces, la diversidad de modelos es realmente alta, hay un gran volumen de ellos, y el nivel de escrutinio y cumplimiento que las empresas necesitan en torno a estos modelos es muy alto. Necesitan saber cosas como: ¿Usaste los datos que se suponía que debías usar? ¿Quiénes fueron las personas que lo examinaron? ¿Hiciste controles de explicabilidad? ¿Hiciste controles de sesgo?
Vartak dice que las empresas que no adopten la IA se quedarán atrás. Mientras tanto, las empresas que llevan la IA al éxito necesitarán procesos bien definidos para administrar su lista cada vez mayor de modelos.
“En los próximos 10 años, cada dispositivo con el que interactuemos tendrá inteligencia integrada, ya sea una tostadora o sus programas de correo electrónico, y le hará la vida mucho, mucho más fácil”, dice Vartak. “Lo que permitirá esa inteligencia son mejores modelos y software, como Verta, que lo ayudarán a integrar la IA en todas estas aplicaciones muy rápidamente”.
