En 15 presentaciones de estilo de conversación TED, la facultad del MIT discutió recientemente su investigación pionera que incorpora consideraciones y experiencia sociales, éticas y técnicas, cada una respaldada por subvenciones semilla establecidas por las responsabilidades sociales y éticas de la informática (SERC), una iniciativa de corte transversal del MIT Schwarzman College of Computing. El llamado a propuestas el verano pasado se reunió con casi 70 aplicaciones. Un comité con representantes de cada escuela del MIT y la universidad se reunió para seleccionar los proyectos ganadores que recibieron hasta $ 100,000 en fondos.
«SERC se compromete a impulsar el progreso en la intersección de la informática, la ética y la sociedad. Las subvenciones de las semillas están diseñadas para encender el pensamiento audaz y creativo sobre los complejos desafíos y posibilidades en este espacio», dijo Nikos Trichakis, co-asociado al decano de SERC y el profesor de manejo de JC Penney. «Con la ética del MIT del Simposio de Investigación de Computación, sentimos que era importante no solo mostrar la amplitud y profundidad de la investigación que está dando forma al futuro de la computación ética, sino también invitar a la comunidad a ser parte de la conversación».
«Lo que estás viendo aquí es una especie de juicio de la comunidad colectiva sobre el trabajo más emocionante cuando se trata de investigación, en las responsabilidades sociales y éticas de la informática que se realizan en el MIT», dijo Caspar Hare, co-asociado de SERC y profesor de filosofía.
El simposio de día completo el 1 de mayo se organizó en torno a cuatro temas clave: tecnología de atención médica responsable, gobernanza y ética de inteligencia artificial, tecnología en la sociedad y la participación cívica, y la inclusión digital y la justicia social. Los oradores entregaron presentaciones estimulantes sobre una amplia gama de temas, incluido el sesgo algorítmico, la privacidad de los datos, las implicaciones sociales de la inteligencia artificial y la relación en evolución entre humanos y máquinas. El evento también presentó una sesión de carteles, donde los estudiantes investigadores mostraron proyectos en los que trabajaron durante todo el año como académicos de SERC.
Lo más destacado de la ética del MIT del Simposio de Investigación de Computación en cada una de las áreas temáticas, muchas de las cuales están disponibles para ver en YouTube, incluyeron:
Hacer el sistema de trasplante de riñón más justo
Las políticas que regulan el sistema de trasplante de órganos en los Estados Unidos son hechas por un comité nacional que a menudo tarda más de seis meses en crear, y luego años para implementarse, una línea de tiempo que muchos en la lista de espera simplemente no pueden sobrevivir.
Dimitris Bertsimas, vicecabinada para el aprendizaje abierto, decano asociado de análisis de negocios y profesor de investigación de operaciones de Boeing, compartió su último trabajo en análisis para una asignación de trasplante de riñón justo y eficiente. El nuevo algoritmo de Bertsimas examina criterios como la ubicación geográfica, la mortalidad y la edad en solo 14 segundos, un cambio monumental de las seis horas habituales.
Bertsimas y su equipo trabajan en estrecha colaboración con United Network for Organ Sharing (UNOS), una organización sin fines de lucro que administra la mayor parte del sistema nacional de donación y trasplante a través de un contrato con el gobierno federal. Durante su presentación, Bertsimas compartió un video de James Alcorn, estratega senior de políticas de UNOS, quien ofreció este conmovedor resumen del impacto que tiene el nuevo algoritmo:
«Esta optimización cambia radicalmente el tiempo de respuesta para evaluar estas diferentes simulaciones de escenarios de políticas. Solía llevarnos un par de meses para observar un puñado de diferentes escenarios de políticas, y ahora toma una cuestión de minutos ver a miles y miles de escenarios. Podemos hacer estos cambios mucho más rápido, lo que finalmente significa que podemos mejorar el sistema para trasladar a los candidatos mucho más rápido».
La ética del contenido de las redes sociales generadas por IA
A medida que el contenido generado por la IA se vuelve más frecuente en las plataformas de redes sociales, ¿cuáles son las implicaciones de revelar (o no revelar) que AI creó alguna parte de una publicación? Adam Berinsky, profesor de ciencias políticas de Mitsui, y Gabrielle Péloquin-Skulski, estudiante de doctorado en el Departamento de Ciencias Políticas, exploraron esta pregunta en una sesión que examinó estudios recientes sobre el impacto de varias etiquetas en el contenido generado por IA.
En una serie de encuestas y experimentos que fijan etiquetas a las publicaciones generadas por IA, los investigadores analizaron cómo las palabras y descripciones específicas afectaron la percepción del engaño de los usuarios, su intención de interactuar con la publicación y, en última instancia, si el puesto era verdadero o falso.
«La gran conclusión de nuestro conjunto inicial de hallazgos es que una talla no se ajusta a todos», dijo Péloquin-Skulski. «Descubrimos que etiquetar imágenes generadas por IA con una etiqueta orientada a procesos reduce la creencia en publicaciones falsas y verdaderas. Esto es bastante problemático, ya que el etiquetado tiene la intención de reducir la creencia de las personas en la información falsa, no necesariamente información verdadera. Esto sugiere que las etiquetas que combinan tanto el proceso como la veracidad podrían ser mejores para contrarrestar la información errónea generada por AI».
Usar AI para aumentar el discurso civil en línea
«Nuestra investigación tiene como objetivo abordar cómo las personas cada vez más quieren opinar en las organizaciones y comunidades a las que pertenecen», explicó Lily Tsai en una sesión sobre experimentos en IA generativa y el futuro de la democracia digital. TSAI, profesor de ciencias políticas de Ford y director del MIT Governance Lab, está llevando a cabo una investigación en curso con Alex Pentland, profesor de Toshiba de Ciencias de las Artes de Medios y un equipo más grande.
Las plataformas deliberativas en línea han aumentado recientemente en popularidad en los Estados Unidos en entornos del sector público y privado. Tsai explicó que con la tecnología, ahora es posible que todos tengan algo que decir, pero hacerlo puede ser abrumador o incluso sentirse inseguro. Primero, hay demasiada información disponible y, en segundo lugar, el discurso en línea se ha vuelto cada vez más «incivilado».
El grupo se centra en «cómo podemos construir sobre las tecnologías existentes y mejorarlas con una investigación rigurosa e interdisciplinaria, y cómo podemos innovar integrando la IA generativa para mejorar los beneficios de los espacios en línea para la deliberación». Han desarrollado su propia plataforma integrada AI para democracia deliberativa, deliberación.io, y lanzaron cuatro módulos iniciales. Todos los estudios han estado en el laboratorio hasta ahora, pero también están trabajando en un conjunto de estudios de campo próximos, el primero de los cuales estará en asociación con el Gobierno del Distrito de Columbia.
Tsai le dijo a la audiencia: «Si no toma nada más de esta presentación, espero que le quite esto, que todos debamos exigir que las tecnologías que se están desarrollando se evalúan para ver si tienen resultados aguas abajo positivos, en lugar de centrarnos en maximizar la cantidad de usuarios».
Un grupo de expertos públicos que considera todos los aspectos de la IA
Cuando Catherine D’Ingnazio, profesora asociada de ciencia y planificación urbana, y Nikko Stevens, Postdoc en el Laboratorio de Datos + Feminismo en el MIT, inicialmente presentó su propuesta de financiación, no tenían la intención de desarrollar un grupo de expertos, sino un marco que articulaba cómo el trabajo de aprendizaje de inteligencia y máquina artificial podría integrar los métodos comunitarios y utilizar el diseño participativo.
Al final, crearon Liberatory AI, que describen como un «grupo de expertos públicos rodantes sobre todos los aspectos de la IA». D’Angensio y Stevens reunieron a 25 investigadores de una amplia gama de instituciones y disciplinas que escribieron más de 20 documentos de posición que examinan la literatura académica más actual sobre los sistemas de IA y el compromiso. Agruparon intencionalmente los documentos en tres temas distintos: el panorama corporativo de IA, los callejones sin salida y los caminos hacia adelante.
«En lugar de esperar a que Open AI o Google nos inviten a participar en el desarrollo de sus productos, nos hemos unido para disputar el status quo, pensar más grande y reorganizar los recursos en este sistema con la esperanza de una transformación social más grande», dijo D’Gnazio.
