Reddit prohíbe las comunidades de "porno involuntario" que comercializan videos de celebridades generados por AI

Luego de otras prohibiciones recientes sobre la controvertida práctica del porno generado por la IA y el intercambio de rostros, Reddit también derribó la prohibición. El miércoles, la plataforma social cerró r / deepfakes y r / deepfakeNSFW, dos centros populares para los videos falsos, que usan software algorítmico para crear pornografía virtual que representa la imagen de participantes poco dispuestos. Reddit también actualizó su política en torno a la pornografía involuntaria y la sexualización de menores. La movida sigue medidas similares en Pornhub , Discord y Twitter .

Como dice el nuevo lenguaje de Reddit:

Reddit prohíbe la diseminación de imágenes o videos que muestren a cualquier persona en un estado de desnudez o que participe en cualquier acto de conducta sexual aparentemente creado o publicado sin su permiso, incluidas las representaciones que han sido falsificadas.

Tampoco se permiten imágenes o videos de partes íntimas del cuerpo de una persona, incluso si la persona está vestida o en público, si se crean o publican sin su permiso y se contextualizan de manera salaz (por ejemplo, imágenes “creepshots” o “upskirt”) ) Además, no publique imágenes o videos de otra persona con el propósito específico de falsificar contenido explícito o solicitar pornografía “similar”.

Sin relatarlo, el cofundador de Reddit, Alexis Ohanian, anunció hoy que dejaría de lado a Reddit para centrarse en un puesto de tiempo completo en Initialized Capital, la firma de VC en fase inicial que cofundó.

Antes del momento de la prohibición, r / deepfakes tenía una base de suscriptores de más de 92,000 miembros. Una captura de pantalla anterior a la prohibición revela publicaciones recientes de pornografía generada por AI con Taylor Swift, Selena Gomez y Olivia Wilde. Una publicación anclada comparte información sobre el software llamado FakeApp que cualquiera puede usar para empalmar porno con videos de celebridades, lo que resulta en un producto final manipulado que puede representar figuras públicas (o cualquier otra persona) participando en actos sexuales que nunca ocurrieron. TechCrunch se ha comunicado con Reddit para obtener más detalles sobre cómo planean aplicar la prohibición de contenido en otros lugares de la plataforma y actualizará esta historia cuando recibamos noticias.

La controversia en torno a este tipo de video estalló cuando Motherboard informó sobre los “deepfakes” de usuarios de Reddit que recrearon un falso porno de IA con la estrella de Wonder Woman Gal Gadot. La historia, apropiadamente titulada ” Porno asistida asistida por la IA está aquí y todos estamos jodidos “, es una buena introducción a todo el asunto.

La tendencia es inquietante en algunos niveles. Obviamente, es inquietante y extremadamente espeluznante para cualquiera poder crear contenido sexual, esencialmente porno de venganza bajo demanda, sin el consentimiento de un sujeto virtual. Pero incluso más allá del ángulo de la pornografía, la tecnología de aprendizaje automático que hace que este tipo de videos manipulados funcione solo se volverá más sofisticado con el tiempo, lo que hará aún más difícil para los internautas determinar qué es real y qué se fabrica.

Si crees que tenemosUn problema de noticias falsas ahora, bueno, va a empeorar antes de que mejore

Haga clic aquí para más información