canjear ahora
- Paul Scharre, un exfuncionario de defensa, argumenta que el dominio de la IA determinará la próxima potencia mundial.
- La batalla por el poder de la IA revolucionará las economías y los ejércitos mundiales.
- Su libro, «Cuatro campos de batalla: poder en la era de la inteligencia artificial», se publicó el 28 de febrero.
La batalla mundial por el dominio de la IA está en marcha, según el autor Paul Scharre, ex guardabosques del ejército y actual vicepresidente y director de estudios del Center for New American Security, un grupo de expertos especializado en temas de seguridad nacional.
Scharre se desempeñó anteriormente como planificador estratégico en la Oficina del Secretario de Defensa, trabajando para establecer políticas sobre sistemas autónomos y no tripulados y tecnologías de armas emergentes, y estableció políticas del Departamento de Defensa sobre programas de inteligencia, vigilancia y reconocimiento.
En su último libro, «Four Battlegrounds: Power in the Age of Artificial Intelligence», Scharre explora cómo la batalla internacional por la tecnología de IA más poderosa está cambiando la dinámica de poder global. Esa batalla, dice, es una competencia global para buscar los mejores y más eficientes datos, hardware de cómputo, talento humano e instituciones que adopten tecnología de inteligencia artificial, lo que determinará la próxima superpotencia mundial.
Esta conversación con Scharre ha sido ligeramente editada por su extensión y claridad.
En su nuevo libro, argumenta que hay una batalla por el poder global en la forma de una revolución provocada por la inteligencia artificial. ¿Cuáles son las apuestas de esa batalla?
Entonces vimos durante la Revolución Industrial que las naciones subieron y bajaron en el escenario global en función de la rapidez con que se industrializaron. Ahora, la tecnología es este facilitador clave del poder político, económico y militar. Y creo que las tecnologías de IA son herramientas extremadamente poderosas para la capacidad de un país o una sociedad para dar forma al progreso global y al entorno internacional.
No quiero vivir en un mundo donde el Partido Comunista Chino tenga ese nivel de influencia sobre los asuntos globales. Me parece preocupante dados sus atroces abusos de los derechos humanos en el país, su intimidación a sus vecinos y en el extranjero, su amenaza a Taiwán y otros países de la región con agresión militar, su militarización del Mar de China Meridional. Y creo que parte del riesgo no se trata solo del poder económico y militar y el poder político, sino de la propagación del modelo de gobierno de China, su tecnoautoritarismo, a través de la adopción de sus sistemas de IA.
Otros países están emulando cada vez más las leyes y normas de China sobre cómo usar la tecnología para la vigilancia y la represión en el hogar, parte del software social que se encuentra sobre el hardware de esta tecnología de vigilancia en sí. Y, por supuesto, esto encaja en una tendencia más amplia que hemos visto de retroceso democrático en varios países, por lo que creo que no debemos dar por sentada la democracia en el país o en el extranjero. Y es realmente importante que las democracias rechacen estas tendencias autoritarias.
Y no es una batalla típica, ya que no estamos directamente en guerra, entonces, ¿dónde está ocurriendo la acción?
Entonces, el libro explora la rivalidad entre EE. UU. y China en inteligencia artificial y analiza lo que está sucediendo con la inteligencia artificial como una tecnología de propósito general, al igual que la electricidad o las redes informáticas o el motor de combustión interna. Y al igual que esas otras tecnologías, tiene una amplia variedad de aplicaciones en toda la sociedad. El libro concluye que los cuatro campos de batalla clave de la competencia global: en inteligencia artificial o datos, hardware informático o computación, talento humano y las instituciones necesarias para adoptar con éxito los sistemas de IA.
Probablemente la aplicación más fundamental de la IA que ayudará a promover el poder nacional es la aplicación generalizada de la IA para mejorar la productividad económica y la investigación científica. Cuando la tecnología de IA se adopte en una amplia gama de industrias y aumente la productividad económica, eso tendrá efectos de segundo y tercer orden en el poder nacional al aumentar el PIB y luego permitir que la nación convierta la productividad económica en otras herramientas, a veces más tangibles, de poder nacional, ya sea para los servicios de inteligencia que construyen satélites y procesan la información de inteligencia que se recopila o para la construcción de fuerzas militares.
¿Qué aplicaciones prácticas tiene la IA para la comunidad de inteligencia o las operaciones militares?
La tecnología de IA tiene mucho potencial en aplicaciones de inteligencia. Creo que es bastante probable que el Departamento de Defensa de los EE. UU. y la comunidad de inteligencia usen IA para analizar imágenes, ya sea de satélites o drones y, aunque no lo han reconocido públicamente, es muy posible que esté jugando un papel en la información que los EE. UU. comparten con Ucrania. Hemos visto algunos otros ejemplos de tecnología de IA utilizada directamente por las fuerzas ucranianas en el terreno, en particular algunos de los operadores civiles de drones. Y esto destaca realmente cuán omnipresente es la tecnología de IA que no necesita ser la persona más avanzada del mundo para usar la tecnología, está bastante disponible.
También estamos viendo en la guerra en Ucrania la importancia de la logística, por ejemplo, y las operaciones de mantenimiento, y ese es el tipo de cosas en las que la mayor parte de lo que hacen los militares en el día a día es mover personas y cosas desde un punto A al punto B: se parece mucho a Walmart o Amazon, es solo lo que sucede al final lo que es diferente. Y ese es un lugar donde los militares pueden mejorar su logística, preparación y finanzas. y personal, y mantenimiento en un 5%, la suma total de esos efectos en términos de efectividad militar podría ser bastante significativa y transformadora.
¿Y la IA también está transformando la guerra tradicional?
En cuanto a los avances militares en la guerra, también hay algunos ejemplos. En la competencia DARPA Alpha Dog, el objetivo era construir un agente de IA que pudiera lograr un rendimiento sobrehumano en un simulador contra un humano en peleas de perros, que los humanos consideran como el crisol definitivo de los pilotos humanos. Para resumir, la IA tuvo éxito, se enfrentó cara a cara contra un piloto experimentado de la Fuerza Aérea y aplastó por completo al piloto humano, 15 a cero: el humano no disparó ni un solo tiro contra la IA.
En particular, los disparos de cabeza a cabeza están prohibidos en el entrenamiento de los pilotos humanos porque existe un alto riesgo de colisión si el piloto está tratando de maniobrar el avión cuando están compitiendo entre sí a cientos de millas por hora. Y es extremadamente difícil de hacer en cualquier caso y requiere niveles de precisión sobrehumanos, pero nada de eso fue un problema para el agente de IA. Puede lograr estos disparos en una fracción de segundo y al mismo tiempo evitar una colisión. Y el agente de IA aprendió a hacer todo esto por su cuenta, no estaba capacitado para hacerlo. El sistema de IA que ganó fue entrenado en un simulador y tenía más de 30 años de tiempo de vuelo simulado y esta fue una de las cosas que simplemente aprendió por sí solo de todos estos años de peleas de perros simuladas.
¿Y qué hay del uso de la IA fuera de la guerra?
Creo que hay una variedad de lugares donde es probable que la IA tenga efectos bastante significativos con el tiempo en la productividad económica. Una es, por supuesto, las aplicaciones específicas de IA que podrían mejorar las finanzas, la medicina, el transporte u otras industrias, por lo que los automóviles autónomos deberían estar en el punto en que son realmente efectivos y viables en las carreteras son un ejemplo de esto. ciertamente mejoras en la medicina, usando IA para imágenes, por ejemplo, ese tipo de cosas que podrían ser muy beneficiosas para toda la sociedad. Pero una de las cosas más emocionantes de la IA es su capacidad para aumentar la productividad en una amplia gama de lugares.
Cuando pienso en IA, pienso en cosas como el reconocimiento facial Clearview AI, donde las fuerzas del orden pueden usar escaneos de reconocimiento facial de civiles. ¿Cuáles son las aplicaciones de vigilancia de este tipo de tecnología?
Un componente realmente crítico de esta competencia global en inteligencia artificial es la lucha emergente sobre cómo se usa la IA dentro de los países para la seguridad y vigilancia internas y la propagación progresiva que estamos viendo a nivel mundial de los modelos de tecnoautoritarismo al estilo chino en los que China ha sido pionera. . Es una represión muy distópica y mejorada por la tecnología. China tiene la mitad de los mil millones de cámaras de vigilancia del mundo, y cada vez utilizan más herramientas de inteligencia artificial como el reconocimiento facial o el reconocimiento de la forma de caminar para identificar quiénes son las personas en función de sus patrones de forma de caminar y cómo caminan. Y al conectar eso con otros tipos de datos, como datos de matrículas, llamadas o datos de geolocalización en teléfonos y comportamientos de compra de las personas para monitorear y rastrear a los ciudadanos chinos.
Y China está exportando gran parte de la tecnología al extranjero, por lo que 80 países de todo el mundo han comprado tecnología de vigilancia china. Y quizás aún más preocupante, estamos viendo cada vez más la exportación de las normas y leyes que usa China a otros países para usar esta tecnología. Entonces, el software social, por así decirlo, se combina con el hardware físico de parte de la tecnología de vigilancia. Y es profundamente preocupante porque no es solo que la tecnología se esté utilizando para abusos contra los derechos humanos en China, y potencialmente puede ser utilizada por otros países, sino que una de las cosas preocupantes sobre la opresión habilitada por IA es que mejora la capacidad del estado para monitorear a los ciudadanos. y por lo tanto acelerar el propio sistema de opresión.
¿Cómo sería un modelo de la competencia?
Bueno, eso es parte del problema. Uno de los desafíos que enfrentan las democracias es que aún no tenemos ese modelo. Entonces, para el reconocimiento facial, por ejemplo, tenemos un sistema de mosaico que se está desarrollando en los Estados Unidos de diferentes regulaciones sobre, por ejemplo, el uso del reconocimiento facial por parte de las fuerzas del orden según el lugar donde vive en los Estados Unidos y varias ciudades y estados diferentes. han aprobado prohibiciones sobre el uso del reconocimiento facial por parte de las fuerzas del orden, ya sabes, creo que uno de los desafíos que enfrentan las democracias es que la naturaleza descentralizada del poder dentro de las democracias significa que encontrar una solución para la gobernanza tecnológica lleva más tiempo. Tarda más porque a veces la respuesta rápida no es la correcta.
Entonces, ¿qué tipo de barandas crees que deberían colocarse en esta tecnología?
Con el tiempo, la regulación de alguna manera de la tecnología de IA; probablemente muchos de los cuales serán específicos del sector. Las regulaciones para la IA en las aplicaciones médicas estarán dentro del paradigma más amplio de cómo regulamos las herramientas y la seguridad de los dispositivos médicos, y la forma en que regulamos la IA en las aplicaciones financieras dependerá de cómo regulamos el comercio y otras cosas financieras. Pero sí creo que la IA no pasa por alto las regulaciones y vale la pena reflexionar sobre el hecho de que solo tenemos aire y agua limpios, carreteras seguras, viajes aéreos seguros y alimentos seguros para comer en Estados Unidos debido a la regulación gubernamental. de industria
Necesitamos algún marco regulatorio para modelos de entrenamiento muy grandes. Creo que esa es la conversación que debemos comenzar a tener, en parte porque estos modelos grandes son en muchos casos de doble uso. Podrían usarse para generar texto y chatear con ellos o escribir ensayos, pero también podrían usarse para encontrar vulnerabilidades cibernéticas, podrían, en principio, si fueran más sofisticados, tal vez usarse para ayudar a alguien a planear un ataque terrorista para causar dañar o descubrir cómo, ya sabes, no hoy, sino en el futuro, hacer un arma biológica o algún otro tipo de dispositivo destructivo. Y esa es una conversación que debemos comenzar a tener ahora, en parte porque el ritmo de la tecnología es mucho, mucho, mucho más rápido que el ritmo de las discusiones sobre políticas en Washington.
¿Cuáles cree que son los posibles inconvenientes de la IA, especialmente cuando llegamos a un punto en el que realmente estamos desarrollando nuevas tecnologías primero y haciendo preguntas después?
Ese es un gran punto. Creo que deberíamos tener reservas sobre la tecnología de IA porque hoy en día hay muchos problemas con la tecnología de IA: no es confiable, a menudo es muy frágil en el sentido de que los sistemas de IA pueden funcionar bien en algunos contextos y luego pueden fallar a menudo de manera bastante dramática. en otros.
Según los informes, uno de mis ejemplos favoritos de esta fragilidad fue una de las primeras versiones de AlphaGo, el agente de IA que logró un rendimiento sobrehumano en el juego Go, si cambias ligeramente el tamaño del tablero, proporcionalmente su rendimiento se redujo drásticamente porque era no entrenado en datos de ese tamaño. Solo fue entrenado en un cierto s ize y ese es un buen ejemplo de los problemas que surgen a menudo bastante frágiles y fallando en generalizar dentro de una a otras situaciones.
Estamos viendo algo de esto en exhibición muy recientemente con la implementación de estos chatbots en la búsqueda, por ejemplo. Quiero decir, tanto Microsoft como Google implementaron recientemente chatbots de IA públicamente que no estaban listos. Y el problema no es que Bing esté declarando su amor por los usuarios y diciendo que alguien con quien está chateando debería dejar a su esposa para estar con él, quiero decir, eso es un poco extraño, pero el verdadero problema es que los mejores científicos de IA en el mundo no sabe cómo evitar que estos chatbots hagan eso.
Entonces, para mí, ese es el tipo de cosas que deberían hacernos detenernos mientras pensamos en cómo usamos estos sistemas de IA en más aplicaciones del mundo real. En el momento inmediato, el riesgo de que un chatbot hiera los sentimientos de alguien no es trascendental, pero a medida que vemos que la IA se integra en más aplicaciones de alto impacto, queremos asegurarnos absolutamente de que estos sistemas harán lo que queremos. hacer.
Y, ya sabes, el comportamiento de algunas de las principales empresas aquí no ha sido exactamente muy responsable. Y ya lo estamos viendo con Open AI, y Microsoft, y Google vio la prisa en los últimos dos meses para implementar apresuradamente chatbots de IA que no estaban listos y las empresas respondiendo entre sí en esta dinámica competitiva que es realmente dañina. este tipo de carrera hacia el abismo en materia de seguridad.
¿Tiene una perspectiva positiva sobre el futuro de la IA en este momento? ¿De qué tienes esperanzas?
Es gracioso. No diría que soy optimista sobre la tecnología. Quiero decir, soy bastante optimista acerca de hacia dónde se dirige la IA en términos de capacidades. Simplemente creo que hemos visto un tremendo progreso y creo que no hay señales de que disminuya en el corto plazo. Pero hay muchos riesgos que vienen con la IA. Solo diría que soy optimista sobre la capacidad de la sociedad para manejar esos riesgos. Creo que cuando damos un paso atrás y observamos el progreso humano, este es el mejor momento para estar vivo.
Hemos visto un tremendo progreso en los últimos cientos de años en la mejora del nivel de vida de las personas, en la reducción de la pobreza, en la mejora de la esperanza de vida y en la reducción de la mortalidad infantil. Hay buenas razones para ser optimistas sobre el futuro y nuestra capacidad de seguir utilizando la tecnología para mejorar nuestras vidas de una manera muy significativa.
Creo que hay desafíos muy importantes con la tecnología de inteligencia artificial. Lo preocupante es que estos problemas parecen muy difíciles. Estos problemas técnicos de lograr que la IA haga lo que usted quiere que haga son bastante difíciles. Y creo que es importante que seamos claros acerca de algunos de estos problemas técnicos. Me siento bastante alentado por el hecho de que algunas de estas fallas relativamente públicas han traído algunas de estas preocupaciones sobre la IA más generalizadas y han aumentado la cantidad de personas que están prestando atención al problema.
Four Battlegrounds: Power in the Age of Artificial Intelligence se lanzó el 28 de febrero.
IA inteligencia artificial militar Más…
canjear ahora
