A Inteligência Artificial tem transformado o jeito de viver das pessoas, desde facilidades de automação até a forma como se consome entretenimento. No entanto, a evolução dessa tecnologia também trouxe preocupações éticas em campos inesperados, como a pornografia gerada por IA. Atualmente, cerca de 96% dos vídeos deepfake online são pornografia não consensual, e a maioria deles apresenta mulheres, de acordo com um estudo realizado pela empresa de IA Sensity.
O assunto, inclusive, foi abordado no começo deste ano na novela “Travessia”, da Globo, com a personagem Karina (Danielle Olímpia) sendo intimidada por um pedófilo durante uma chamada de vídeo, quando ele se passa por uma mulher fingindo ser a influencer Bruna (Giullia Buscacio).
Essas cenas da Karina 😓 #Travessia pic.twitter.com/Aj44LdVFSL
— TV Globo 📺 (@tvglobo) March 18, 2023
A evolução da IA resulta em maior sofisticação no conteúdo adulto, que se baseia em algoritmos avançados capazes de criar imagens e vídeos realistas usando imagens não autorizadas de pessoas. E embora celebridades como Tom Cruise Taylor Swift e Emma Watson tenham sido vítimas de pornografia falsa, mulheres anônimas também são alvo dos ataques.
“O aumento da pornografia gerada por IA e do deepfake porn normaliza o uso da imagem de uma mulher sem seu consentimento”, explica Sophie Maddocks, pesquisadora da Universidade da Pensilvânia, que estuda abusos sexuais com base em imagens.
Além disso, a pornografia gerada por IA suscita preocupações sobre consentimento e privacidade. A criação de conteúdo explícito sem consentimento viola direitos pessoais e pode causar danos. A disseminação desenfreada desse tipo de pornografia pode ter implicações sociais e psicológicas. Exposição a imagens sexualmente explícitas pode afetar a percepção do corpo e da sexualidade, especialmente em jovens.
Entre pixels e ética
Segundo especialistas, a sociedade precisa discutir ética e uso responsável da IA na pornografia. Governos, empresas e especialistas devem criar regulamentações e diretrizes. Conscientização sobre os perigos da pornografia gerada por IA e a verificação da autenticidade de mídias online são essenciais.
A educação digital pode capacitar indivíduos a consumir conteúdo online de forma responsável. A pornografia por IA ilustra o impacto multifacetado – e perigoso – da tecnologia.
Em maio, um legislador dos EUA apresentou a Lei de Prevenção de Deepfakes de Imagens Íntimas, que tornaria ilegal compartilhar pornografia falsa sem consentimento. Já no Brasil existe uma lei que criminaliza a prática do deepfake vigente desde 2018. De acordo com o texto aprovado pela Câmara dos Deputados, quem criar uma montagem não autorizada de uma pessoa em cena de nudez ou ato sexual pode pegar de 6 meses a 1 ano de detenção, além de multa. A pena pode ser ainda maior caso o criminoso mantenha ou tenha mantido relação íntima com a vítima.
