La senior Audrey Lorvo está investigando la seguridad de la IA, que busca garantizar que los modelos de IA cada vez más inteligentes sean confiables y pueden beneficiar a la humanidad. El creciente campo se centra en desafíos técnicos como la robustez y la alineación de la IA con los valores humanos, así como las preocupaciones sociales como la transparencia y la responsabilidad. Los practicantes también están preocupados por los posibles riesgos existenciales asociados con herramientas de IA cada vez más poderosas.
«Asegurar que la IA no sea mal utilizada o actos contrariamente a nuestras intenciones es cada vez más importante a medida que abordamos la inteligencia general artificial (AGI)», dice Lorvo, un especialista en ciencias de la computación, economía y ciencia de datos. AGI describe el potencial de la inteligencia artificial para igualar o superar las capacidades cognitivas humanas.
Un MIT Schwarzman College of Computing Social y Ethical Responsities of Computing (SERC), Lorvo analiza de cerca cómo la IA podría automatizar los procesos y prácticas de investigación y desarrollo de la IA. Miembro del Grupo de Investigación de Big Data, está investigando las implicaciones sociales y económicas asociadas con el potencial de IA para acelerar la investigación sobre sí misma y cómo comunicar de manera efectiva estas ideas e impactos potenciales a audiencias generales, incluidos legisladores, asesores estratégicos y otros.
Lorvo enfatiza la necesidad de evaluar críticamente los rápidos avances y sus implicaciones de la IA, asegurando que las organizaciones tengan marcos y estrategias adecuadas para abordar los riesgos. «Necesitamos garantizar que los humanos obtengan los beneficios de IA y que no perdamos el control de la tecnología», dice ella. «Necesitamos hacer todo lo posible para desarrollarlo de manera segura».
Su participación en esfuerzos como la Beca Técnica de Seguridad AI refleja su inversión para comprender los aspectos técnicos de la seguridad de la IA. La beca brinda oportunidades para revisar la investigación existente sobre la alineación del desarrollo de la IA con consideraciones de impacto humano potencial. «La beca me ayudó a comprender las preguntas y desafíos técnicos de la seguridad de la IA para que pueda proponer mejores estrategias de gobierno de IA», dice ella. Según Lorvo, las empresas de la frontera de IA continúan superando los límites, lo que significa que necesitaremos implementar políticas efectivas que prioricen la seguridad humana sin impedir investigaciones.
Valor del compromiso humano
Al llegar al MIT, Lorvo sabía que quería seguir un curso de estudio que le permitiera trabajar en la intersección de la ciencia y las humanidades. Sin embargo, la variedad de ofertas en el Instituto dificultó sus decisiones.
«Hay muchas maneras de ayudar a avanzar en la calidad de vida de las personas y las comunidades», dice ella, «y el MIT ofrece muchos caminos diferentes para la investigación».
Comenzando con la economía, una disciplina que disfruta debido a su enfoque en cuantificar el impacto, Lorvo investigó las matemáticas, las ciencias políticas y la planificación urbana antes de elegir el curso 6-14.
«Las clases de econometría del profesor Joshua Angrist me ayudaron a ver el valor de centrarme en la economía, mientras que los elementos de ciencia de datos y ciencias de la computación me atrajeron debido al creciente alcance y el impacto potencial de la IA», dice. «Podemos usar estas herramientas para abordar algunos de los problemas más apremiantes del mundo y, con suerte, superar serios desafíos».
Lorvo también ha seguido concentraciones en estudios urbanos y planificación y desarrollo internacional.
Mientras se enfocó, Lorvo descubre que comparte una perspectiva de la humanidad con otros miembros de la comunidad del MIT como el grupo de alineación del MIT AI, de quien aprendió bastante sobre la seguridad de la IA. «A los estudiantes se preocupan por su impacto marginal», dice ella.
El impacto marginal, el efecto adicional de una inversión específica de tiempo, dinero o esfuerzo, es una forma de medir cuánto se suma una contribución a lo que ya se está haciendo, en lugar de centrarse en el impacto total. Esto puede influir potencialmente donde las personas eligen dedicar sus recursos, una idea que atrae a Lorvo.
«En un mundo de recursos limitados, un enfoque basado en datos para resolver algunos de nuestros mayores desafíos puede beneficiarse de un enfoque personalizado que dirige a las personas a donde es probable que hagan lo más bueno», dice. «Si desea maximizar su impacto social, reflexionar sobre el impacto marginal de su elección de carrera puede ser muy valioso».
Lorvo también valora el enfoque del MIT en educar a todo el estudiante y ha aprovechado las oportunidades para investigar disciplinas como la filosofía a través del Concourse del MIT, un programa que facilita el diálogo entre la ciencia y las humanidades. Concurso espera que los participantes obtengan orientación, claridad y propósito para actividades científicas, técnicas y humanas.
Experiencias de los estudiantes en el Instituto
Lorvo invierte su tiempo fuera del aula para crear experiencias memorables y fomentar relaciones con sus compañeros de clase. «Soy afortunado de que haya espacio para equilibrar mis cursos, la investigación y los compromisos del club con otras actividades, como levantamiento de pesas y iniciativas fuera del campus», dice ella. «Siempre hay muchos clubes y eventos disponibles en todo el Instituto».
Estas oportunidades para expandir su visión del mundo han desafiado sus creencias y la expusieron a áreas de nuevos intereses que han alterado su vida y su opción profesional para mejor. Lorvo, que habla francés, inglés, español y portugués con fluidez, también aplaude al MIT por las experiencias internacionales que ofrece a los estudiantes.
“He internado en Santiago de Chile y París con Misti y ayudé a probar una cámara de condensación de vapor de agua que diseñamos en una clase D-Lab de otoño 2023 en colaboración con la Escuela Politécnica de Madagascar y la ONG de Tatirano [nongovernmental organization]», Dice ella,» y ha disfrutado de las oportunidades para aprender sobre abordar la desigualdad económica a través de mi desarrollo internacional y mis clases de D-Lab «.
Como presidente de la Asociación de Economía de Pregrado del MIT, Lorvo se conecta con otros estudiantes interesados en la economía mientras continúa expandiendo su comprensión del campo. Ella disfruta de las relaciones que está construyendo mientras participa en los eventos de la asociación durante todo el año. «Incluso en su último año, he encontrado nuevas comunidades del campus para explorar y apreciar», dice ella. «Animo a otros estudiantes a continuar explorando grupos y clases que provocan sus intereses durante su tiempo en el MIT».
Después de la graduación, Lorvo quiere continuar investigando la seguridad de la IA e investigando las estrategias de gobernanza que pueden ayudar a garantizar la implementación segura y efectiva de la IA.
«El buen gobierno es esencial para el exitoso desarrollo de la IA y garantizar que la humanidad pueda beneficiarse de su potencial transformador», dice ella. «Debemos continuar monitoreando el crecimiento y las capacidades de la IA a medida que la tecnología continúa evolucionando».
Comprender los posibles impactos de la tecnología en la humanidad, hacer el bien, mejorar continuamente y crear espacios donde las grandes ideas pueden ver que la luz del día continúa impulsando a Lorvo. Fusionar las humanidades con las ciencias anima gran parte de lo que hace. «Siempre esperé contribuir a mejorar la vida de las personas, y la IA representa el mayor desafío y oportunidad de la humanidad hasta ahora», dice ella. «Creo que el campo de seguridad de la IA puede beneficiarse de personas con experiencias interdisciplinarias como el tipo que he tenido la suerte de ganar, y animo a cualquiera que sea apasionado por dar forma al futuro a explorarlo».
