Imagine un mundo en el que alguna decisión importante (la recomendación de sentencia de un juez, el protocolo de tratamiento de un niño, qué persona o empresa debería recibir un préstamo) se hiciera más confiable porque un algoritmo bien diseñado ayudó a una persona clave a tomar decisiones a tomar una mejor decisión. Un nuevo curso de economía del MIT está investigando estas interesantes posibilidades.
La Clase 14.163 (Algoritmos y Ciencias del Comportamiento) es un nuevo curso interdisciplinario centrado en la economía del comportamiento, que estudia las capacidades cognitivas y las limitaciones de los seres humanos. El curso fue impartido conjuntamente la primavera pasada por el profesor asistente de economía Ashesh Rambachan y el profesor visitante Sendhil Mullainathan.
Rambachan estudia las aplicaciones económicas del aprendizaje automático, centrándose en herramientas algorítmicas que impulsan la toma de decisiones en el sistema de justicia penal y los mercados de préstamos al consumo. También desarrolla métodos para determinar la causalidad utilizando datos transversales y dinámicos.
Mullainathan pronto se unirá como profesor a los departamentos de Ingeniería Eléctrica y Ciencias de la Computación y Economía del MIT. Su investigación utiliza el aprendizaje automático para comprender problemas complejos del comportamiento humano, la política social y la medicina. Mullainathan cofundó el Abdul Latif Jameel Poverty Action Lab (J-PAL) en 2003.
Los objetivos del nuevo curso son tanto científicos (comprender a las personas) como impulsados por políticas (mejorar la sociedad mejorando las decisiones). Rambachan cree que los algoritmos de aprendizaje automático proporcionan nuevas herramientas para los objetivos científicos y aplicados de la economía del comportamiento.
«El curso investiga el uso de la informática, la inteligencia artificial (IA), la economía y el aprendizaje automático al servicio de mejores resultados y reducción de los casos de sesgo en la toma de decisiones», dice Rambachan.
Rambachan cree que existen oportunidades para que las herramientas digitales en constante evolución, como la inteligencia artificial, el aprendizaje automático y los grandes modelos de lenguaje (LLM, por sus siglas en inglés), ayuden a remodelar todo, desde las prácticas discriminatorias en las sentencias penales hasta los resultados de la atención médica entre las poblaciones desatendidas.
Los estudiantes aprenden a utilizar herramientas de aprendizaje automático con tres objetivos principales: comprender qué hacen y cómo lo hacen, formalizar los conocimientos de la economía del comportamiento para que se integren bien en las herramientas de aprendizaje automático y comprender áreas y temas donde la integración de la economía del comportamiento y las herramientas algorítmicas podrían ser más fructíferas.
Los estudiantes también producen ideas, desarrollan investigaciones asociadas y ven el panorama más amplio. Se les lleva a comprender dónde encaja una idea y a ver hacia dónde conduce la agenda de investigación más amplia. Los participantes pueden pensar críticamente sobre lo que los LLM supervisados pueden (y no pueden) hacer, para comprender cómo integrar esas capacidades con los modelos y conocimientos de la economía del comportamiento y reconocer las áreas más fructíferas para la aplicación de lo que descubren las investigaciones.
Los peligros de la subjetividad y el sesgo
Según Rambachan, la economía del comportamiento reconoce que existen sesgos y errores en nuestras elecciones, incluso en ausencia de algoritmos. «Los datos utilizados por nuestros algoritmos existen fuera de la informática y el aprendizaje automático y, en cambio, a menudo son producidos por personas», continúa. «Por lo tanto, comprender la economía del comportamiento es esencial para comprender los efectos de los algoritmos y cómo construirlos mejor».
Rambachan buscó que el curso fuera accesible independientemente de los antecedentes académicos de los asistentes. La clase incluyó estudiantes de grados avanzados de una variedad de disciplinas.
Al ofrecer a los estudiantes un enfoque interdisciplinario basado en datos para investigar y descubrir formas en que los algoritmos podrían mejorar la resolución de problemas y la toma de decisiones, Rambachan espera construir una base sobre la cual rediseñar los sistemas existentes de jurisprudencia, atención médica y préstamos al consumidor. y la industria, por nombrar algunas áreas.
«Comprender cómo se generan los datos puede ayudarnos a comprender el sesgo», afirma Rambachan. «Podemos hacer preguntas sobre cómo producir un resultado mejor que el que existe actualmente».
Herramientas útiles para reimaginar las operaciones sociales
El estudiante de doctorado en economía Jimmy Lin se mostró escéptico sobre las afirmaciones que hicieron Rambachan y Mullainathan cuando comenzó la clase, pero cambió de opinión a medida que avanzaba el curso.
«Ashesh y Sendhil comenzaron con dos afirmaciones provocativas: el futuro de la investigación en ciencias del comportamiento no existirá sin la IA, y el futuro de la investigación en IA no existirá sin la ciencia del comportamiento», dice Lin. «A lo largo del semestre, profundizaron mi comprensión de ambos campos y nos explicaron numerosos ejemplos de cómo la economía influyó en la investigación de la IA y viceversa».
Lin, que anteriormente había investigado en biología computacional, elogió el énfasis de los instructores en la importancia de una «mentalidad de productor», pensando en la próxima década de investigación en lugar de en la década anterior. «Eso es especialmente importante en un área tan interdisciplinaria y de rápido movimiento como la intersección de la IA y la economía: no existe una literatura antigua establecida, por lo que uno se ve obligado a plantear nuevas preguntas, inventar nuevos métodos y crear nuevos puentes». él dice.
La velocidad del cambio a la que alude Lin también es un atractivo para él. «Estamos viendo que los métodos de IA de caja negra facilitan avances en matemáticas, biología, física y otras disciplinas científicas», dice Lin. «La IA puede cambiar la forma en que abordamos el descubrimiento intelectual como investigadores».
Un futuro interdisciplinario para la economía y los sistemas sociales
Estudiar las herramientas económicas tradicionales y mejorar su valor con la IA puede generar cambios revolucionarios en la forma en que las instituciones y organizaciones enseñan y empoderan a los líderes para tomar decisiones.
«Estamos aprendiendo a seguir los cambios, ajustar los marcos y comprender mejor cómo implementar herramientas al servicio de un lenguaje común», dice Rambachan. «Debemos interrogar continuamente la intersección del juicio humano, los algoritmos, la inteligencia artificial, el aprendizaje automático y los LLM».
Lin recomendó con entusiasmo el curso independientemente de los antecedentes de los estudiantes. «Cualquier persona interesada en los algoritmos en la sociedad, las aplicaciones de la IA en las disciplinas académicas o la IA como paradigma para el descubrimiento científico debería tomar esta clase», afirma. «Cada conferencia se sintió como una mina de oro de perspectivas sobre investigación, áreas de aplicación novedosas e inspiración sobre cómo producir ideas nuevas y emocionantes».
El curso, dice Rambachan, sostiene que algoritmos mejor construidos pueden mejorar la toma de decisiones en todas las disciplinas. «Al establecer conexiones entre la economía, la informática y el aprendizaje automático, tal vez podamos automatizar las mejores decisiones humanas para mejorar los resultados y al mismo tiempo minimizar o eliminar las peores», afirma.
Lin sigue entusiasmado con las posibilidades aún inexploradas del curso. «Es una clase que te entusiasma sobre el futuro de la investigación y tu propio papel en ella», dice.
