Ha habido un aumento notable en el uso de algoritmos e inteligencia artificial para abordar una amplia gama de problemas y desafíos. Si bien su adopción, particularmente con el auge de la IA, está remodelando casi todos los sectores industriales, disciplinas y áreas de investigación, tales innovaciones a menudo exponen consecuencias inesperadas que involucran nuevas normas, nuevas expectativas y nuevas reglas y leyes.
Para facilitar una comprensión más profunda, las Responsabilidades Sociales y Éticas de la Computación (SERC), una iniciativa transversal en el Schwarzman College of Computing del MIT, reunió recientemente a científicos sociales y humanistas con informáticos, ingenieros y otros profesores de computación para una exploración de las formas en que la amplia aplicabilidad de los algoritmos y la IA ha presentado oportunidades y desafíos en muchos aspectos de la sociedad.
“La naturaleza misma de nuestra realidad está cambiando. La IA tiene la capacidad de hacer cosas que hasta hace poco eran únicamente del ámbito de la inteligencia humana, cosas que pueden desafiar nuestra comprensión de lo que significa ser humano”, comentó Daniel Huttenlocher, decano del MIT Schwarzman College of Computing, en su discurso de apertura. en el Simposio inaugural del SERC. “Esto plantea preguntas filosóficas, conceptuales y prácticas en una escala no experimentada desde el comienzo de la Ilustración. Ante un cambio tan profundo, necesitamos nuevos mapas conceptuales para navegar el cambio”.
El simposio ofreció un vistazo a la visión y las actividades de SERC tanto en investigación como en educación. “Creemos que nuestra responsabilidad con SERC es educar y equipar a nuestros estudiantes y permitir que nuestra facultad contribuya al desarrollo y despliegue de tecnología responsable”, dijo Georgia Perakis, profesora de Administración William F. Pounds en la Escuela de Administración Sloan del MIT, co- decano asociado de SERC y organizador principal del simposio. “Nos basamos en las muchas fortalezas y la diversidad de disciplinas del MIT y más allá y las reunimos para obtener múltiples puntos de vista”.
A través de una sucesión de paneles y sesiones, el simposio profundizó en una variedad de temas relacionados con las dimensiones sociales y éticas de la informática. Además, 37 estudiantes de pregrado y posgrado de una variedad de especializaciones, que incluyen estudios y planificación urbana, ciencias políticas, matemáticas, biología, ingeniería eléctrica e informática, y ciencias del cerebro y cognitivas, participaron en una sesión de carteles para exhibir su investigación en este espacio, cubriendo temas como la ética cuántica, la colusión de la IA en los mercados de almacenamiento, los desechos informáticos y el empoderamiento de los usuarios en las plataformas sociales para una mejor credibilidad del contenido.
Exhibición de una diversidad de trabajos.
En tres sesiones dedicadas a temas de computación benéfica y justa, salud equitativa y personalizada, y algoritmos y humanos, el Simposio SERC mostró el trabajo de 12 miembros de la facultad en estos dominios.
Uno de esos proyectos de un equipo multidisciplinario de arqueólogos, arquitectos, artistas digitales y científicos sociales computacionales tenía como objetivo preservar sitios patrimoniales en peligro en Afganistán con gemelos digitales. El equipo del proyecto produjo modelos 3D interrogables muy detallados de los sitios patrimoniales, además de experiencias de realidad virtual y realidad extendida, como recursos de aprendizaje para audiencias que no pueden acceder a estos sitios.
En un proyecto para United Network for Organ Sharing, los investigadores mostraron cómo usaron análisis aplicados para optimizar varias facetas de un sistema de asignación de órganos en los Estados Unidos que actualmente está pasando por una revisión importante para hacerlo más eficiente, equitativo e inclusivo. para diferentes grupos raciales, de edad y género, entre otros.
Otra charla discutió un área que aún no ha recibido la atención pública adecuada: las implicaciones más amplias para la equidad que tienen los datos de sensores sesgados para la próxima generación de modelos en computación y atención médica.
Una charla sobre el sesgo en los algoritmos consideró tanto el sesgo humano como el sesgo algorítmico, y el potencial para mejorar los resultados teniendo en cuenta las diferencias en la naturaleza de los dos tipos de sesgo.
Otras investigaciones destacadas incluyeron la interacción entre las plataformas en línea y la psicología humana; un estudio sobre si los tomadores de decisiones cometen errores sistémicos de predicción sobre la información disponible; y una ilustración de cómo se pueden aprovechar los análisis y la computación avanzados para informar la gestión de la cadena de suministro, las operaciones y el trabajo regulatorio en las industrias alimentaria y farmacéutica.
Mejorando los algoritmos del mañanaw
“Los algoritmos están, sin duda, afectando todos los aspectos de nuestras vidas”, dijo Asu Ozdaglar, vicedecano académico del MIT Schwarzman College of Computing y jefe del Departamento de Ingeniería Eléctrica y Ciencias de la Computación, al inaugurar un panel que moderó en las implicaciones de los datos y los algoritmos.
“Ya sea en el contexto de las redes sociales, el comercio en línea, las tareas automatizadas y ahora una gama mucho más amplia de interacciones creativas con el advenimiento de las herramientas generativas de inteligencia artificial y los grandes modelos de lenguaje, no hay duda de que habrá mucho más por venir”, dijo Ozdaglar. . “Si bien la promesa es evidente para todos nosotros, también hay mucho de qué preocuparse. Este es mucho tiempo para el pensamiento imaginativo y la deliberación cuidadosa para mejorar los algoritmos del mañana”.
En cuanto al panel, Ozdaglar pidió a los expertos de la informática, las ciencias sociales y la ciencia de datos información sobre cómo comprender lo que está por venir y darle forma para enriquecer los resultados para la mayoría de la humanidad.
Sarah Williams, profesora asociada de tecnología y planificación urbana en MIT, enfatizó la importancia crítica de comprender el proceso de cómo se ensamblan los conjuntos de datos, ya que los datos son la base de todos los modelos. También enfatizó la necesidad de investigación para abordar la posible implicación de los sesgos en los algoritmos que a menudo encuentran su camino a través de sus creadores y los datos utilizados en su desarrollo. “Depende de nosotros pensar en nuestras propias soluciones éticas a estos problemas”, dijo. “Así como es importante progresar con la tecnología, debemos comenzar el campo de analizar estas preguntas sobre qué sesgos hay en los algoritmos. ¿Qué sesgos hay en los datos, o en el viaje de esos datos?”
Cambiando el enfoque a los modelos generativos y si el desarrollo y el uso de estas tecnologías deben regularse, los panelistas, que también incluyeron a Srini Devadas, profesor de ingeniería eléctrica y ciencias de la computación del MIT, John Horton, profesor de tecnología de la información, y Simon Johnson, profesor de espíritu empresarial: todos coincidieron en que regular los algoritmos de código abierto, que son de acceso público, sería difícil dado que los reguladores todavía se están poniendo al día y luchando incluso para establecer barreras para la tecnología que ahora tiene 20 años.
Volviendo a la cuestión de cómo regular efectivamente el uso de estas tecnologías, Johnson propuso un sistema de impuestos corporativos progresivos como una posible solución. Recomienda basar los pagos de impuestos de las empresas en sus ganancias, especialmente para las grandes corporaciones cuyas ganancias masivas no pagan impuestos debido a la banca extraterritorial. Al hacerlo, Johnson dijo que este enfoque puede servir como un mecanismo regulatorio que disuade a las empresas de intentar “poseer el mundo entero” al imponer desincentivos.
El papel de la ética en la educación informática
A medida que la informática continúa avanzando sin signos de desaceleración, es fundamental educar a los estudiantes para que sean intencionales en el impacto social de las tecnologías que desarrollarán e implementarán en el mundo. Pero, ¿puede uno realmente aprender tales cosas? ¿Si es así, cómo?
Caspar Hare, profesor de filosofía en el MIT y co-decano asociado de SERC, planteó esta pregunta inminente a la facultad en un panel que moderó sobre el papel de la ética en la educación informática. Todos con experiencia en la enseñanza de la ética y el pensamiento sobre las implicaciones sociales de la informática, cada panelista compartió su perspectiva y enfoque.
Un firme defensor de la importancia de aprender de la historia, Eden Medina, profesor asociado de ciencia, tecnología y sociedad en el MIT, dijo que “a menudo, la forma en que enmarcamos la informática es que todo es nuevo. Una de las cosas que hago en mi enseñanza es mirar cómo las personas han enfrentado estos problemas en el pasado y tratar de sacarlos como una forma de pensar en posibles formas de avanzar”. Medina usa regularmente estudios de casos en sus clases y se refirió a un artículo escrito por la historiadora de ciencias de la Universidad de Yale, Joanna Radin, sobre el conjunto de datos de diabetes de los indios Pima que planteó cuestiones éticas sobre la historia de esa colección particular de datos que muchos no consideran como un ejemplo de cómo las decisiones sobre tecnología y datos pueden surgir de contextos muy específicos.
Milo Phillips-Brown, profesor asociado de filosofía en la Universidad de Oxford, habló sobre el Protocolo de computación ética que co-creó mientras era un postdoctorado SERC en el MIT. El protocolo, un enfoque de cuatro pasos para desarrollar tecnología de manera responsable, está diseñado para capacitar a los estudiantes de informática para que piensen de una manera mejor y más precisa sobre las implicaciones sociales de la tecnología al dividir el proceso en pasos más manejables. “El enfoque básico que adoptamos se basa en gran medida en los campos del diseño sensible al valor, la investigación y la innovación responsables, el diseño participativo como puntos de vista orientadores, y luego también es fundamentalmente interdisciplinario”, dijo.
Campos como la biomedicina y el derecho cuentan con un ecosistema ético que distribuye la función del razonamiento ético en estas áreas. Se proporciona supervisión y regulación para guiar a las partes interesadas de primera línea y a los tomadores de decisiones cuando surgen problemas, al igual que los programas de capacitación y el acceso a la experiencia interdisciplinaria de la que pueden aprovechar. “En este espacio, no tenemos nada de eso”, dijo John Basl, profesor asociado de filosofía en la Universidad Northeastern. “Para las generaciones actuales de informáticos y otros responsables de la toma de decisiones, en realidad les estamos haciendo hacer el razonamiento ético por su cuenta”. Basl comentó además que la enseñanza de habilidades básicas de razonamiento ético en todo el plan de estudios, no solo en las clases de filosofía, es esencial, y que el objetivo no debería ser que todos los científicos informáticos sean éticos profesionales, sino que conozcan lo suficiente del panorama para ser capaz de hacer las preguntas correctas y buscar la experiencia y los recursos relevantes que existen.
Después de la sesión final, grupos interdisciplinarios de profesores, estudiantes e investigadores participaron en animados debates relacionados con los temas tratados a lo largo del día durante una recepción que marcó la conclusión del simposio.