Discord cierra canal que creaba porno falso de celebridades

Discord cierra canal que creaba porno falso de celebridades

Así no, dicen en Discord.

La inteligencia artificial que falseaba videos porno con las caras de celebridades sabíamos que, tarde o temprano, sería utilizada para el mal. Y eso sucedió en la aplicación de chat Discord (una especie de IRC moderno), que dio de baja un canal que se dedicaba a repartir estos videos falsos.

Lo curioso de la situación es que el reporte previo al cierre fue dado por el medio Business Insider y hasta antes de ese suceso, el canal funcionaba como si nada. Aún así, el contenido distribuido en dicho canal iba contra las reglas impuestas por Discord, desde donde dicen que “la pornografía no consensuada es motivo de cierre instantáneo y ban permanente a los usuarios”.

El problema de este canal era que los usuarios estaban repartiendo imágenes de otras personas para que la inteligencia artificial hiciera lo suyo y creara aquellos videos. Esto, pese a que las reglas estaban claras y solo se permitían fotos de celebridades; desconocidos y menores de edad, absolutamente prohibidos.

Lo cierto es que el funcionamiento de la IA era la receta perfecta para gente con intenciones cuestionables, particularmente si se trata de porno vengativo. Al menos Discord hizo lo correcto y cerró el canal, aunque ya sabemos que muchas veces esto es como la piratería: cierra a uno y aparecerán cuatro haciendo lo mismo. Y peor.