La masificación de las herramientas de inteligencia artificial (IA) generativa creó un nuevo paradigma en la creación de contenido digital. Esta tecnología ahora permite producir imágenes y videos de un realismo impresionante con una inversión mínima, lo que también democratizó el acceso a la producción audiovisual.
Los videos son de un realismo impresionante: muestran mujeres en bikini realizando entrevistas en la calle y provocando comentarios obscenos, pero son falsos, generados para inundar las redes sociales con contenido sexista.
Estos contenidos, creados masivamente con herramientas de Inteligencia Artificial (IA) de baja calidad, a menudo desplazan a las publicaciones auténticas y desdibujan la línea entre la ficción y la realidad.
Esta tendencia ha dado lugar a una industria artesanal de influencers que producen en serie contenido sexualizado, motivados por los programas de incentivos de las plataformas que recompensan con dinero las producciones virales.
Muchos clips generados por IA, llenos de humor grosero, pretenden mostrar entrevistadoras con poca ropa en las calles de India o del Reino Unido.
Los verificadores de AFP encontraron cientos de videos de este tipo en Instagram, muchos de ellos en hindi, que muestran a hombres entrevistados lanzando comentarios misóginos y sexistas con indiferencia, a veces incluso agarrando a las mujeres, mientras una multitud de hombres los observa boquiabierta o se ríe en el fondo.
Estos videos se han reproducido decenas de millones de veces.
Estos videos fueron creados utilizando el generador de IA Veo 3 de Google, conocido por sus imágenes hiperrealistas, indicó la empresa estadounidense de ciberseguridad GetReal Security en un análisis compartido con AFP.
LEA MÁS: Descubra la nueva IA de WhatsApp que cambia la forma de escribir
Sexismo
“La misoginia que generalmente se mantenía oculta en conversaciones en vestuarios y grupos ahora se está trasmutando a imágenes generadas por IA”, dijo a la AFP Nirali Bhatia, una psicóloga especializada en el espacio cibernético basada en India.
“Esto es parte del daño de género mediado por IA”, agregó, y señaló que la tendencia está “alimentando el sexismo”.
La tendencia es que internet ahora está siendo cada vez más saturada con memes, videos e imágenes generados por IA que compiten por atención con -y eclipsan cada vez más- el contenido auténtico.
“El contenido generado por IA y cualquier tipo de contenido de IA no etiquetado erosionan lentamente la poca confianza que queda en el contenido visual”, dijo Emmanuelle Saliba de GetReal Security a la AFP.
El contenido misógino más viral a menudo se basa en imágenes chocantes, por ejemplo videos de Instagram y TikTok que, según la revista Wired, fueron generados usando Veo 3 y retratan a mujeres negras como primates de pies grandes.
Videos en una popular cuenta de TikTok enumeran burlonamente lo que algunas “chicas desenfrenadas” harían por dinero.
Las mujeres también son material para contenido sensacionalista impulsado por IA.
Los verificadores de AFP rastrearon videos virales de una falsa entrenadora de animales llamada “Jessica Radcliffe” siendo fatalmente atacada por una orca durante un espectáculo en vivo en un parque acuático. Nada era cierto.
El corto se difundió rápidamente a través de plataformas como TikTok, Facebook y X, y provocó una conmoción global de usuarios que creyeron que la mujer era real.
“Irreal”
El año pasado, Alexios Mantzarlis, director de la Iniciativa de Seguridad y Confianza en Cornell Tech, encontró 900 cuentas de Instagram de “modelos” probablemente generadas por IA, predominantemente femeninas y en general poco vestidas.
Estas cuentas trampa acumularon en conjunto 13 millones de seguidores y publicaron más de 200.000 imágenes, y monetizaron el resultado al redirigir a sus audiencias a plataformas comerciales de intercambio de contenido.
Con la proliferación en línea de las falsificaciones creadas por IA, “los números ahora son indudablemente mucho más grandes”, dijo Mantzarlis a AFP.
El contenido basura financieramente incentivado se está convirtiendo en algo cada vez más difícil de controlar, ya que los creadores recurren a la producción de video con IA como trabajo ocasional.
Muchos creadores en YouTube y TikTok ofrecen cursos pagos sobre cómo monetizar material viral generado por IA en plataformas, muchas de las cuales reducen su dependencia de humanos verificadores de hechos y han disminuido la moderación de contenido.
Algunas plataformas tratan de tomar medidas contra las cuentas que promueven contenido basura. YouTube señaló recientemente que los creadores de contenido “no auténtico” y “producido masivamente” no serían elegibles para obtener dinero.
“La IA no inventa la misoginia, simplemente refleja y amplifica lo que ya está ahí”, dijo el consultor de IA Divyendra Jadoun a la AFP.
LEA MÁS: BCR activa nueva capa de protección; aprenda cómo quiere protegerlo
“Si las audiencias recompensan este tipo de contenido con millones de ‘me gusta’, los algoritmos y los creadores de contenido de IA seguirán produciéndolo. La lucha más grande no es solo tecnológica, es social y cultural”, concluyó.
