Um dos primeiros deepfakes criados envolve a atriz Gal Gadot (imagem: reprodução)

A bizarra moda dos falsos vídeos pornográficos com celebridades cresceu tanto que muitos serviços online já estão tomando providências: depois do Reddit, é a vez do Twitter proibir esse tipo de publicação. Plataformas de conteúdo adulto devem ir pelo mesmo caminho. O PornHub, por exemplo, já deixou claro que não vai dar espaço para deepfakes, como a prática vem sendo chamada.

Colocar rostos de celebridades no corpo de atrizes em cenas de filmes pornográficos não é uma ideia recente. Mas fazer isso exige bastante conhecimento de edição de vídeos. Ou exigia: tudo mudou em dezembro de 2017, quando um usuário do Reddit que se identifica como deepfakes descobriu que é possível usar ferramentas de inteligência artificial como Keras e TensorFlow (do Google) para modificar rostos em vídeos sem muito esforço.

Os vídeos modificados via inteligência artificial passaram a ser chamados justamente de deepfakes. Na maioria das vezes, os resultados impressionam. Não demorou muito para aplicativos do tipo surgirem, com destaque para o FakeApp. Aí que a coisa desandou: a quantidade de vídeos pornográficos falsamente protagonizados por famosas como Taylor Swift, Gal Gadot, Selena Gomez e Ariana Grande disparou.

Na semana passada, o Reddit começou a apagar vídeos do tipo, embora ainda seja possível encontrar muitos deles por lá. Serviços de hospedagem de imagens como Gfycat estão fazendo a mesma coisa.

É óbvio que os deepfakes também iam chegar ao PornHub, afinal, esse é um dos maiores sites de pornografia do mundo. Porém, a plataforma proíbe a publicação de conteúdo não consensual e entende que deepfakes se enquadram nessa categoria. Por isso, deixou claro que não vai fazer vista grossa para eles.

Deepfake com Nicolas Cage

As principais redes sociais proíbem a veiculação de conteúdo pornográfico, razão pela qual os vídeos modificados aparecem nelas mais como zueira: a brincadeira que mais pegou foi a de colocar o rosto do ator Nicolas Cage em diversos vídeos.

Mas o Twitter é exceção. A plataforma é mais tolerante com conteúdo erótico e afins. A consequência é que os deepfakes também ganharam força por lá. Mas não por muito tempo: o serviço confirmou que proibirá esse tipo de conteúdo. As contas que violarem a regra poderão ser suspensas.

É compreensível. Embora Estados Unidos e outros países não tenham legislação específica para deepfakes (afinal, essa é uma tendência recente), os vídeos modificados normalmente são protegidos por direitos autorais. Além disso, pessoas que se sentirem prejudicadas podem abrir processos judiciais. Como é difícil identificar os responsáveis, as plataformas é que poderão ser responsabilizadas.

Com informações: The Next Web, Motherboard.

Relacionados

Escrito por

Emerson Alecrim

Emerson Alecrim

Repórter

Emerson Alecrim cobre tecnologia desde 2001 e entrou para o Tecnoblog em 2013, se especializando na cobertura de temas como hardware, sistemas operacionais e negócios. Formado em ciência da computação, seguiu carreira em comunicação, sempre mantendo a tecnologia como base. Em 2022, foi reconhecido no Prêmio ESET de Segurança em Informação. Em 2023, foi reconhecido no Prêmio Especialistas, em eletroeletrônicos. Participa do Tecnocast, já passou pelo TechTudo e mantém o site Infowester.

Temas populares