Domingo, 25 Ago,2019
Internet / JUL 01 2019 / hace 1 mes

Esta polémica app “desnuda” a las mujeres usando inteligencia artificial

DeepNude generaba imágenes falsas con solo un click.

Esta polémica app “desnuda” a las mujeres usando inteligencia artificial

Foto : DeepNude.

Desde que aparecieron los “DeepFakes”, se veía venir. Un desarrollador anónimo creó una aplicación que permite a los usuarios crear imágenes de mujeres desnudas de aspecto realista. Afortunadamente, la app fue dada de baja luego de que­­ se viralizara y fuera el blanco de justificadas críticas.

Según recoge Motherboard, DeepNude generaba imágenes falsas con solo un click. Un usuario subía la foto de una mujer y dejaba que el software, basado en IA, hiciera su trabajo. Aunque las mujeres imágenes de las mujeres desnudas aparecían con un sello de agua, esta supuesta “seguridad” podía ser retirada fácilmente. Por otro lado, el sitio web vende una versión premium por 50 dólares que elimina la marca de agua.

Recomendado: 
Esta app le ayudará a medir qué tanto le ha afectado la marihuana

DeepNude es problemática porque solo genera imágenes manipuladas de mujeres, no de hombres. Esto puede hacer que personas inescrupulosas utilicen la app para crear fotos falsas y las difundan por internet dando lugar a chantajes y bullying escolar.  


Las reacciones

A pesar de eso, Alberto, el desarrollador detrás de DeepNude, se defendió diciendo a Motherboard que no era "un voyeur”, sino “un entusiasta de la tecnología". Alberto dijo que su software está basado en pix2pix, un algoritmo de código abierto utilizado para la "traducción de imagen a imagen". Pix2pix y otro software deepfake utilizan una red de confrontación generativa —GAN—, un algoritmo que genera repeticiones de representaciones falsas que pudieron engañar a una computadora para que crea que la imagen era legítima.

En ese sentido, el equipo que desarrolló Pix2pix, un grupo de investigadores de ciencias de la computación, calificó el uso de DeepNude como "bastante preocupante". "Hemos visto algunos usos maravillosos de nuestro trabajo por parte de médicos, artistas, cartógrafos, músicos y más", dijo a Business Insider el profesor del MIT Phillip Isola, quien ayudó a crear el programa.

Vea también: Una app puede detectar la anemia con solo tomar fotos de sus uñas

Pero, "nosotros, como comunidad científica, debemos entablar una discusión seria sobre la mejor manera de hacer avanzar nuestro campo y establecer salvaguardas razonables para garantizar que podamos beneficiarnos de los casos de uso positivos y al mismo tiempo mitigar el abuso", añadió el investigador.

Finalmente, Alberto decidió darle de baja a la app. "El mundo aún no está listo para DeepNude", explicó a través de su cuenta de Twitter. "Creamos este proyecto para el entretenimiento de los usuarios hace unos meses. Pensamos que venderíamos algo todos los meses de manera controlada … Nunca pensamos que se volvería viral y no podríamos controlar el tráfico", añadió.
 

 

"A pesar de las medidas de seguridad adoptadas —marcas de agua— si 500 mil personas la utilizan, las probabilidades de que las personas las utilicen de manera inadecuada es muy alta. No queremos hacer dinero de esta manera", finaliza.

Hace unos meses una compañía para adultos prometía convertirte en pornstar usando inteligencia artificial, lo cual desencadenó una serie de problemas como el ampliamente conocido video porno con rostro de la actriz Gal Gadot y otras figuras conocidas internacionalmente.


Victor Román
Esta noticia ha sido publicada originalmente en N+1, ciencia que suma.


COMENTA ESTE ARTÍCULO

En cronicadelquindio.com está permitido opinar, criticar, discutir, controvertir, disentir, etc. Lo que no está permitido es insultar o escribir palabras ofensivas o soeces, si lo hace, su comentario será rechazado por el sistema o será eliminado por el administrador.

logo-copy-cronica
© todos los derechos reservados
Powered by: rhiss.net