Falsos nudes criados com inteligência artificial: O uso da inteligência para o mal
No Rio de Janeiro, mais de 20 alunas foram vítimas de montagens de fotos nuas criadas com inteligência artificial, e prestaram depoimento na Delegacia de Proteção à Criança e ao Adolescente (DPCA). A maioria delas é do Colégio Santo Agostinho, na Barra da Tijuca. Além desses casos, pelo menos outras dez adolescentes sofreram o mesmo em uma unidade de ensino da rede particular de Belo Horizonte; e também em Pernambuco.
O advento da Inteligência Artificial, apesar de otimizar e automatizar processos, também tem seu lado negativo, e a criação das deepfakes para o mal, é um exemplo de ônus da IA. A prática consiste na criação de conteúdos com o uso da voz/rosto de pessoas reais. Com ela é possível fazer uma montagem e sincronizar movimentos labiais, expressões e demais detalhes, criando um contexto falso mas que simula o real.
A onda não veio de agora e as ferramentas que realizam essa montagem existem desde 2017. Além disso, o uso dessa tecnologia para o bem pode fornecer resultados emocionantes e nostálgicos, como foi o caso da propaganda da Volkwagen, que uniu a figura da falecida Elis Regina, ao lado da filha Maria Rita, fazendo uma lembrança à cantora e seu legado.
Contudo, com a crescente inovação da Inteligência Artificial, atualmente as pessoas estão usando o advento para criar os aqui pontuados, nudes falsos. Para a realização da montagem, basta uma pessoa ter uma fonte para reconhecer o modelo do rosto da “vítima”, mapear a estrutura da cabeça destino e fazer a sobreposição, unindo a imagem da cabeça das vítimas a corpos nus que não são os delas.
Por esse motivo, a IA está sendo vista como uma nova ameaça, principalmente pelas escolas. O recurso tecnológico que deveria ser uma ferramenta promissora para a educação, está problematizando com esse “lado sombrio”. Segundo o delegado da Polícia Civil de Minas Gerais (PCMG), Ângelo Ramalho, os episódios em Minas e no Rio de Janeiro exigem a atenção dos pais e responsáveis, uma vez que a prática é considerada crime.
Sem a noção da proporção que esse fake pode causar, crianças e adolescentes se tornam reféns das consequências a longo prazo.Os responsáveis pelas montagens podem responder como menores infratores por crimes previstos no Estatuto da Criança e do Adolescente (ECA), e podem receber uma medida socioeducativa, ficando até 3 anos em alguma unidade de socioeducação e privados da liberdade.
