porno-deepfake:-rechazo-contra-una-app-que-permite-editar-videos-sexuales-para-que-aparezca-cualquier-mujerTecnología 

Porno deepfake: rechazo contra una app que permite editar videos sexuales para que aparezca cualquier mujer

Convertir a cualquiera en una estrella porno usando la tecnología deepfake para sustituir la cara de la persona en un video para adultos“. Ese es el objetivo de un sitio web que se volvió controversial esta semana a partir de un artículo publicado por el Massachusetts Institute of Technology (MIT): permite poner la cara de una persona y “convertirla” en pornstar.

“El sitio web en cuestión llama la atención por su sencillez. Sobre un fondo blanco, un enorme botón azul invita a los usuarios a subir una foto de una cara. Debajo del botón, cuatro caras generadas por inteligencia artificial (IA) permiten probar el servicio”, explicaron desde la nota del MIT.

Todo comenzó con el investigador de deepfake Henry Ajder, que se dio cuenta de que esta página estaba realizando una práctica repudiable. Desde el sitio prefirieron referirse a la polémica página como “Y” para no hacerle publicidad.

Los Deepfake son un tipo de edición que es llamativamente similar a la realidad, incluso con videos. Hay, incluso, aplicaciones que con una simple foto pueden agregarle movimiento como si se hubiese grabado un video. Funcionan mediante inteligencia artificial.

Hitler y Stalin fueron protagonistas de un deepfake viral este año.

“Desde el principio, los deepfakes, o contenidos sintéticos generados por IA, se han utilizado principalmente para crear representaciones pornográficas de mujeres, que a menudo sienten como algo psicológicamente devastador. El creador original de Reddit que popularizó la tecnología cambiaba las caras de las mujeres famosas en los videos porno”, explicaron desde el MIT.

Según una investigación de Sensity AI, entre el 90% y el 95% de todos los videos deepfake online son pornografía sin consentimiento, y en alrededor del 90% de esos videos las protagonistas son mujeres.

El peligro: es muy fácil hacerlo

El principal problema es que con el lidian las víctimas de estos videos es lo fácil que es hacerlos. Estas páginas permiten que los usuarios reemplacen unas caras por otras para generar estos contenidos.

Si bien esto suele combatirse y los sitios se denuncian, el problema es que el código de estos programas ya circula por la web y es muy fácil usarlo.

El último sitio de este tipo recibió más de 6.7 millones de visitas en agosto, según la investigadora Genevieve Oh “Ha habido otras apps de intercambio de caras con una sola foto, como ZAO y ReFace, que colocan a los usuarios en escenas elegidas de distintas películas o vídeos populares. Pero, como primera app pornográfica dedicada al intercambio de rostros, ‘Y’ lleva el tema a un nuevo nivel”, explica el MIT.

Esto porque está hecho “a medida” para crear imágenes pornográficas de personas sin su consentimiento, según el fundador de la organización sin ánimo de lucro EndTAB, Adam Dodge “Esto hace que sea más fácil para los creadores mejorar los deepfakes para este uso específico y atrae a personas que de otra manera no hubieran pensado en crear pornografía deepfake. Cada vez que hay algo tan especializado, se crea un nuevo rincón de internet que atraerá a nuevos usuarios”, explica Dodge.

¿Cómo se usa? Cuando el usuario sube la foto de una cara, el sitio abre una biblioteca de videos porno. La gran mayoría es de mujeres, aunque un pequeño número también es de hombres, principalmente de porno gay. Luego, el usuario puede seleccionar cualquier video para generar en segundos una vista previa del resultado del intercambio de caras y pagar para descargar la versión completa.

Los resultados están lejos de ser perfectos y pueden verse algunos errores en la edición. Muchos de los intercambios de rostros son obviamente falsos, con caras brillando y distorsionadas cuando giran en diferentes ángulos. Pero para un observador cualquiera, algunos son lo suficientemente sutiles como para pasar por reales, y la trayectoria de los deepfakes ya ha demostrado lo rápido que pueden volverse indistinguibles de la realidad.

Según especialistas, esto daña psicológicamente a las personas. Las imágenes y los videos son difíciles de eliminar de internet y el material nuevo se puede crear en cualquier momento.

SL

TEMAS QUE APARECEN EN ESTA NOTA

Articulos relacionados