Sam Altman y Robert Oppenheimer, señalando una imagen de un hongo atómico. JASON REDMOND/AFP vía Getty Images; Bettmann/imágenes falsas
canjear ahora
- Sam Altman comparó las ambiciones de OpenAI con la escala del Proyecto Manhattan en 2019, según el NYT.
- Parafraseó a Robert Oppenheimer con su creencia de que la IA debe progresar a pesar de los riesgos.
- «¿Estoy haciendo algo bueno? ¿O realmente malo?» según se informa, dijo el CEO.
El CEO de Open AI, Sam Altman, comparó previamente la escala de su empresa con el Proyecto Manhattan, nombre en clave del proyecto del gobierno de EE. UU. para producir la primera bomba nuclear en la Segunda Guerra Mundial, según The New York Times.
Días después de que Microsoft se comprometiera a invertir mil millones de dólares en OpenAI en 2019, Altman le dijo al reportero de tecnología del Times, Cade Metz, que el programa de armas nucleares de la Segunda Guerra Mundial era un «proyecto de la escala de OpenAI, el nivel de ambición al que aspiramos».
Según Metz, Altman también parafraseó al líder del Proyecto Manhattan, Robert Oppenheimer, en un discurso de 1945 en el que justificó la creación de las bombas que devastaron Hiroshima y Nagasaki como una expansión necesaria del conocimiento humano.
«La tecnología sucede porque es posible», dijo Altman, y agregó que él y Oppenheimer compartieron el mismo cumpleaños el 22 de abril, según The Times.
El objetivo principal de OpenAI es lograr inteligencia general artificial o AGI, el punto en el que la IA se vuelve tan capaz como los humanos, y hacerlo de manera segura, según una publicación de blog de febrero.
Pero el rápido progreso de la empresa, la actualización al GPT-4 más potente cuatro meses después del lanzamiento público de ChatGPT, ha causado preocupación.
El 36% de los que respondieron a una encuesta de la Universidad de Nueva York dijeron que temían que la tecnología pudiera conducir a una «catástrofe de nivel nuclear», mientras que los investigadores dijeron que la IA «no se preocupa por nosotros ni por la vida inteligente en general».
Un informe de Goldman Sachs publicado la semana pasada sugirió que la IA podría impactar en 300 millones de trabajos de tiempo completo, y ya se usa para escribir cartas de presentación, libros para niños y ayudar a los estudiantes a hacer trampa en los ensayos.
Altman advirtió que AGI vendría con un «grave riesgo de uso indebido, accidentes drásticos y trastornos sociales» en la publicación de blog de febrero. En la conversación de 2019 con Metz, también preguntó: «¿Estoy haciendo algo bueno? ¿O realmente malo?».
Detalló aún más sus creencias en esta publicación de blog, diciendo: «Debido a que la ventaja de AGI es tan grande, no creemos que sea posible o deseable que la sociedad detenga su desarrollo para siempre; en cambio, la sociedad y los desarrolladores de AGI tienen que pensar cómo hacerlo bien».
Altman le dijo al Wall Street Journal que quiere un ingreso básico universal para compensar los trabajos que son reemplazados por IA, permitiendo que las personas realicen un trabajo más creativo. También forma parte de una junta de seguridad conjunta junto con el CTO de Microsoft, Kevin Scott, que tiene la capacidad de revertir cualquier lanzamiento de producto si se considera demasiado peligroso, según el Journal.
OpenAI recibió críticas renovadas la semana pasada cuando más de 1000 personas, incluidos los expertos en inteligencia artificial, Elon Musk y el cofundador de Apple, Steve Wozniak, firmaron una carta abierta en la que pedían que el desarrollo de la tecnología se detuviera durante seis meses debido al rápido progreso.
«Los últimos meses han visto a los laboratorios de IA encerrados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable», decía la carta.
El viernes pasado, la agencia nacional de protección de datos de Italia anunció que estaba bloqueando el acceso a ChatGPT e investigando OpenAI. Citó una violación de datos y su uso de datos personales para entrenar el algoritmo del chatbot.
OpenAI no respondió de inmediato a la solicitud de comentarios de Insider, enviada fuera del horario laboral normal.
Sam Altman OpenAI IA Más…
canjear ahora