Ataques cibernéticos

Mulheres e defensores dos direitos humanos são alvos de deepfakes

Inteligência artificial é usada para fazer montagem com famosos e autoridades, substituindo rostos e vozes em vídeos realistas; novidade traz preocupações éticas

Atualizada em 11/10/2022 às 12h22
Deepfakes estão cada dia mais bem feitos e causam mais estragos
Deepfakes estão cada dia mais bem feitos e causam mais estragos (deepfakes)

São Paulo - O Seminário “Desinformação: antídotos e tendências” contou com a palestra de abertura “Deepfakes: a última geração da desinformação” com o especialista em deepfakes, Sam Gregory.

Ele apresentou o trabalho desenvolvido pela Witness, organização que auxilia pessoas em diferentes lugares, inclusive no Brasil, no uso de vídeo e tecnologia para proteger e defender os direitos humanos e promover o jornalismo cívico.

Atualmente, o grupo atua no combate ao que Sam Gregory classifica como “mídia sintética”. Ou seja, a mídia que tem a capacidade de alterar fotos e vídeos, criar uma voz realista ou um rosto de ser humano que nunca existiu e simular e manipular uma representação de voz, face e movimento de uma pessoa real.

“Precisamos nos preparar para a deepfake. Temos tempo para chegar às respostas. Não devemos entrar em pânico, mas devemos priorizar as ameaças”, afirma.

Segundo Sam Gregory, a mídia sintética realiza ataques de violência de gênero, com ações pornográficas que atingem mais as mulheres, e falsificação de identidade dirigida aos defensores de direitos humanos.

“O que devemos fazer agora? É um verdadeiro jogo de gato e rato. Eles têm dados para criar falsidades realistas e nós temos outros dados que detectam a falsidade”, afirma.

Segundo o pesquisador, a tecnologia usada na mídia sintética está avançando com uma maior facilidade de uso, adaptabilidade, verossimilhança e velocidade. “O deepfake já virou um serviço e passou a ser comercializado. A produção passou de artesanal para um volume considerável”.

O pesquisador explica que é preciso considerar algumas perguntas no combate à manipulação: podemos ensinar as pessoas a identificar isso? Existem ferramentas para identificação? E quem tem acesso? O que as plataformas digitais e legisladores devem fazer?

Realidade brasileira
Durante encontro com jornalista brasileiros,Sam Gregory teve contato com a realidade de desinformação no país. Assim, o grupo listou as soluções prioritárias que são relevantes no contexto brasileiro:
- Alfabetização midiática mais ampla em relação a fake news, especialmente para a população vulnerável.
- Ferramentas de detecção de deepfake baratas, acessíveis e compreensíveis.
- Plataformas como Youtube e Whatsapp fornecerem ferramentas para detecção de manipulação de vídeos e fotos.

SAIBA MAIS

O deepfake é uma tecnologia que usa inteligência artificial (IA) para criar vídeos falsos, mas realistas, de pessoas fazendo coisas que elas nunca fizeram na vida real. A técnica que permite fazer as montagens de vídeo já gerou desde conteúdos pornográficos com celebridades até discursos fictícios de políticos influentes. Circulam agora debates sobre a ética e as consequências da tecnologia, para o bem e para o mal.

O termo deepfake apareceu em dezembro de 2017, quando um usuário do Reddit com esse nome começou a postar vídeos de sexo falsos com famosas. Com softwares de deep learning, ele aplicava os rostos que queria a clipes já existentes. Os casos mais populares foram os das atrizes Gal Gadot e Emma Watson.

Leia outras notícias em Imirante.com. Siga, também, o Imirante nas redes sociais Twitter, Instagram, TikTok e canal no Whatsapp. Curta nossa página no Facebook e Youtube. Envie informações à Redação do Portal por meio do Whatsapp pelo telefone (98) 99209-2383.