El gobierno no debe «abdicar» de sus responsabilidades y dejar el camino futuro de la inteligencia artificial únicamente a Big Tech, dijo Aleksander Mądry, profesor de Computación de Sistemas de Diseño de Cadencia en el MIT y director del Centro de Aprendizaje Automático Implementable del MIT, a un panel del Congreso el miércoles. .
Más bien, dijo Mądry, el gobierno debería hacer preguntas sobre el propósito y la explicabilidad de los algoritmos que utilizan las corporaciones, como precursores de la regulación, que describió como «una herramienta importante» para garantizar que la IA sea coherente con los objetivos de la sociedad. Si el gobierno no comienza a hacer preguntas, entonces «estoy extremadamente preocupado» por el futuro de la IA, dijo Mądry en respuesta a una pregunta del representante Gerald Connolly.
Mądry, un destacado experto en explicabilidad e IA, testificó en una audiencia titulada «Avances en IA: ¿Estamos listos para una revolución tecnológica?» ante el Subcomité de Seguridad Cibernética, Tecnología de la Información e Innovación Gubernamental de la Cámara, un panel del Comité de Reforma y Supervisión del Gobierno de la Cámara. Los otros testigos en la audiencia fueron el ex director ejecutivo de Google, Eric Schmidt, el vicepresidente de IBM, Scott Crowder, y el director de investigación sénior del Centro de IA y Política Digital, Merve Hickok.
En sus comentarios de apertura, la presidenta del subcomité, la representante Nancy Mace, citó el libro «La era de la IA: y nuestro futuro humano» de Schmidt, Henry Kissinger y Dan Huttenlocher, decano de la Facultad de Computación Schwarzman del MIT. También llamó la atención sobre un artículo de opinión del 3 de marzo en El Wall Street Journal por los tres autores que resumieron el libro mientras discutían ChatGPT. Mace dijo que sus comentarios formales de apertura habían sido escritos en su totalidad por ChatGPT.
En sus comentarios preparados, Mądry planteó tres puntos generales. Primero, señaló que la IA “ya no es una cuestión de ciencia ficción” ni está confinada a los laboratorios de investigación. Está en el mundo, donde puede traer enormes beneficios pero también presenta riesgos.
En segundo lugar, dijo que la IA nos expone a “interacciones que van en contra de nuestra intuición”. Dijo que debido a que las herramientas de IA como ChatGPT imitan la comunicación humana, es muy probable que las personas crean sin cuestionar lo que producen modelos de lenguaje tan grandes. En el peor de los casos, advirtió Mądry, las habilidades analíticas humanas se atrofiarán. También dijo que sería un error regular la IA como si fuera humana, por ejemplo, pidiéndole a la IA que explique su razonamiento y asumiendo que las respuestas resultantes son creíbles.
Finalmente, dijo que se ha prestado muy poca atención a los problemas que resultarán de la naturaleza de la «cadena de suministro» de IA, la forma en que los sistemas de IA se construyen uno encima del otro. En la base están los sistemas generales como ChatGPT, que solo pueden ser desarrollados por unas pocas empresas porque son muy caros y complejos de construir. En la parte superior de dichos sistemas hay muchos sistemas de IA diseñados para manejar una tarea particular, como averiguar a quién debe contratar una empresa.
Mądry dijo que esta superposición planteó varias preocupaciones «relevantes para las políticas». En primer lugar, todo el sistema de IA está sujeto a cualquier vulnerabilidad o sesgo que exista en el gran sistema en su base, y depende del trabajo de unas pocas empresas grandes. En segundo lugar, la interacción de los sistemas de IA no se entiende bien desde un punto de vista técnico, lo que hace que los resultados de la IA sean aún más difíciles de predecir o explicar, y que las herramientas sean difíciles de «auditar». Finalmente, la combinación de herramientas de IA hace que sea difícil saber a quién responsabilizar cuando surge un problema: quién debe ser legalmente responsable y quién debe abordar la inquietud.
En el material escrito presentado al subcomité, Mądry concluyó: “La tecnología de IA no es particularmente adecuada para su implementación a través de cadenas de suministro complejas”, aunque así es exactamente como se está implementando.
Mądry terminó su testimonio pidiendo al Congreso que investigue los problemas de IA y que esté preparado para actuar. “Estamos en un punto de inflexión en términos de lo que traerá la IA en el futuro. Aprovechar esta oportunidad significa discutir el papel de la IA, qué queremos exactamente que haga por nosotros y cómo asegurarnos de que nos beneficie a todos. Esta será una conversación difícil, pero necesitamos tenerla, y tenerla ahora”, dijo al subcomité.
El testimonio de todos los testigos de la audiencia y un video de la audiencia, que duró unas dos horas, están disponibles en línea.
