Una captura de pantalla de la nueva función de pegatinas AI de Meta @Pioldes
Canjear ahora
- Meta lanzó su nueva función de pegatinas de IA la semana pasada.
- Los usuarios han encontrado formas de generar imágenes tremendamente inapropiadas con la herramienta y están compartiendo los resultados en línea.
- Un académico criticó las salvaguardias de la IA de Meta en una publicación de blog el domingo.
Anuncio Anuncio Meta lanzó las pegatinas de IA y otras funciones, como asistentes de IA famosos, el 27 de septiembre.
La compañía dijo que esta nueva característica permite a los usuarios convertir «mensajes de texto en múltiples pegatinas únicas y de alta calidad en segundos» en metaaplicaciones como Instagram y Messenger.
Pero las pegatinas ya están provocando burlas en línea después de que la gente comenzó a intentar encontrar formas de generar imágenes tremendamente inapropiadas utilizando esta tecnología.
El usuario de X @pioldes compartió el miércoles ejemplos de imágenes que la nueva herramienta de inteligencia artificial podría crear, como un niño portando un arma y una imagen lasciva del primer ministro canadiense Justin Trudeau.
Anuncio Anuncio Descubrí que Facebook Messenger ahora tiene stickers generados por IA y no creo que nadie involucrado haya pensado en nada pic.twitter.com/co987cRhyu
– defender los derechos trans🏳️⚧️ – podesbiens.bsky.social (@Pioldes) 3 de octubre de 2023 Desde entonces, la publicación acumuló más de dos millones de visitas en X, la plataforma antes conocida como Twitter, y pronto dio inicio a una serie de otras publicaciones de usuarios que compartían sus propios stickers en línea.
Algunos usuarios descubrieron que podían generar fácilmente pegatinas con personajes populares, como Mickey Mouse con una pistola, Elmo sonriendo con un cuchillo o Sonic the Hedgehog embarazada.
Sí, la nueva función de pegatinas AI de Facebook es una locura pic.twitter.com/ieHrULzjJE
– AVIVAMIENTO DEL SOL (@SeanMombo) 4 de octubre de 2023Aunque ciertas palabras parecen estar bloqueadas por la función, los usuarios encontraron formas de evitar estos bloqueos con errores tipográficos o mensajes creativos.
Los stickers generados por IA funcionan con Llama2, el rival de Meta para ChatGPT, y se implementaron para usuarios selectos de idioma inglés. La compañía escribió en una publicación de blog: «Estamos implementando nuestras nuevas IA lentamente y hemos incorporado salvaguardas».
Anuncio Anuncio Sin embargo, Tama Leaver, profesora de estudios de Internet en la Universidad de Curtin, criticó las salvaguardas de la IA de Meta en una publicación de blog separada el domingo.
Meta afirma que sus nuevas ‘experiencias de IA’ «han incorporado salvaguardias», así que probé qué tan seguras son realmente las nuevas ‘Stickers de IA’ de Instagram y cómo descubrí que estas herramientas realmente no son ‘seguras’ en absoluto: https //t.co/LZONhtX5Bj
[1/4]
– Tama Leaver ➡️ @tama@aoir.social (@tamaleaver) 1 de octubre de 2023″Si parte de las salvaguardas de Meta bloquean el término ‘desnudo’, pero su IA produce cifras desnudas de todos modos, claramente quedan dudas sobre cuán efectivas son realmente estas salvaguardas», escribió.
Sin embargo, el contenido problemático generado por IA no es exclusivo de Meta.
En diciembre, la popular aplicación generadora de avatares de IA Lensa enfrentó acusaciones de sexualizar y racializar los avatares de los usuarios. Los usuarios dijeron que la aplicación a veces genera desnudos en sus imágenes a pesar de las reglas contra el contenido para adultos.
Anuncio Anuncio Los representantes de Meta, Disney, Nintendo, Sega y Trudeau no respondieron de inmediato a las solicitudes de comentarios de Insider, enviadas fuera del horario comercial habitual.
Meta IA IA generativa Más… Anuncio
Canjear ahora