A inteligência artificial (IA) está gerando bilhões em ganhos de eficiência, mas a grande questão é: para quem esse dinheiro realmente vai? Os recursos economizados pela IA podem beneficiar consumidores, empresas ou simplesmente se perder em disputas algorítmicas.
Essa tecnologia tem promovido avanços significativos em diversas áreas, desde descobertas científicas até a cibersegurança. No entanto, também é utilizada em práticas ilícitas, como a criação de conteúdo pornográfico não consensual. O caso do DeepNude, que gera imagens íntimas falsas de mulheres, é um exemplo alarmante do potencial abusivo dessas ferramentas. As implicações dessa tecnologia são sérias, afetando a vida pública e privada de muitas pessoas.
O DeepNude refere-se a um conjunto de aplicativos e sites que usam IA para produzir material íntimo sem consentimento. Esses “nudificadores” conseguem “remover” a roupa de uma pessoa a partir de uma única foto, criando uma nova imagem que reproduz a aparência da pessoa. O termo DeepNude surgiu em 2019, quando um aplicativo com esse nome ganhou notoriedade. Após sua divulgação, o desenvolvedor retirou o app do ar, mas o código foi amplamente compartilhado, permitindo que outros criassem versões semelhantes.
Embora DeepNude e deepfake sejam frequentemente confundidos, eles representam tecnologias diferentes. O deepfake é uma categoria mais ampla que altera vídeos, áudios e imagens para que pareçam reais. Já o DeepNude foca na criação de imagens íntimas falsas, usando a tecnologia de deepfake de uma maneira mais específica.
A tecnologia por trás do DeepNude utiliza redes generativas adversariais (GAN), que tentam criar imagens realistas através de um processo de tentativa e erro. Com apenas uma foto, o aplicativo gera rapidamente uma nova imagem onde a roupa é removida. Os modelos atuais de IA são ainda mais sofisticados e acessíveis, aumentando a preocupação com seu uso indevido.
A pornografia gerada por IA abrange conteúdos sexualmente explícitos criados por algoritmos, sem serem filmados no mundo real. Isso inclui tanto material inteiramente sintético quanto aqueles que alteram imagens de pessoas reais sem consentimento. Nos últimos anos, a tecnologia evoluiu, permitindo que mais pessoas criem e compartilhem esse tipo de conteúdo.
Os casos de abuso envolvendo a criação de deepfakes pornográficos destacam a gravidade do problema. Em 2017, um usuário do Reddit publicou um vídeo com o rosto da atriz Gal Gadot, gerando uma onda de indignação. Em setembro de 2023, na Espanha, mais de 20 adolescentes denunciaram que suas imagens foram manipuladas por um aplicativo de IA, resultando em julgamentos e condenações.
No Brasil, casos semelhantes ocorreram em escolas de várias cidades, e grupos no Telegram oferecem esses serviços a usuários. Mesmo plataformas populares, como a rede social X, já foram utilizadas para disseminar imagens manipuladas de celebridades.
Os riscos associados a deepfakes íntimos são alarmantes. Eles violam o consentimento das vítimas, podendo gerar extorsão e assédio. As consequências emocionais podem ser devastadoras, afetando a saúde mental das pessoas envolvidas e prejudicando suas vidas sociais e profissionais.
Embora a criação de imagens íntimas falsas seja amplamente condenada, a legislação brasileira não possui um crime específico para isso. No entanto, práticas como a divulgação de deepnudes podem configurar delitos e levar a processos legais. A legislação atual contempla punições para crimes relacionados a danos emocionais e manipulação digital, especialmente em casos que envolvem mulheres e menores de idade.
À medida que a tecnologia avança, é essencial que medidas legais e sociais sejam adotadas para combater esses abusos e proteger as vítimas.
Fonte: www.estadao.com.br