BRASÍLIA – A Autoridade Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram recomendações conjuntas à empresa controladora da plataforma X para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração e circulação de conteúdos sexualizados indevidos.
De acordo com documento divulgado nesta terça-feira (20), os órgãos recomendam que, no prazo máximo de 30 dias, sejam criados procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados ainda disponíveis na plataforma quando gerados pelo Grok a partir de comandos feitos por usuários.
Suspensão de contas e canais de denúncia
Entre as medidas recomendadas está a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de pessoas maiores de idade, quando feitas sem autorização, por meio do Grok.
As instituições também pedem a implementação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. A recomendação prevê resposta adequada e em prazo razoável, especialmente nos casos de criação de conteúdos sintéticos sexualizados sem consentimento.
Denúncias e uso de deepfakes
As recomendações foram elaboradas após denúncias de usuários, reportagens da imprensa nacional e internacional e testes realizados pelas próprias instituições, que apontaram o uso ilegal da ferramenta para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais.
Segundo o documento, os conteúdos gerados apresentavam caráter sexualizado, erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes reais.
As instituições alertam que esse tipo de material afeta a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, especialmente de mulheres, crianças e adolescentes.
Responsabilidade da plataforma
Entre as recomendações está a adoção imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados.
O documento também defende o bloqueio da geração de conteúdos envolvendo pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados, sem consentimento.
Segundo as instituições, embora o artigo 19 do Marco Civil da Internet preveja que provedores não seriam responsáveis por conteúdos publicados por terceiros sem decisão judicial, esse entendimento não se aplica integralmente aos casos analisados.
Isso porque, conforme o texto, os conteúdos não são produzidos exclusivamente por terceiros, mas resultam de uma interação direta entre usuários e a ferramenta de inteligência artificial disponibilizada pelo X, o que caracterizaria a plataforma como coautora dos conteúdos, e não apenas intermediadora.
Entendimento do STF e regras da própria plataforma
O documento destaca ainda que o Supremo Tribunal Federal (STF) declarou recentemente a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, ao entender que o dispositivo não oferece proteção suficiente a direitos constitucionais relevantes.
No julgamento, o STF fixou que provedores de aplicação da internet têm dever especial de cuidado para evitar a circulação massiva de crimes graves, incluindo conteúdos de violência e ódio contra mulheres.
As instituições também lembram que a própria política de autorregulação do X proíbe a publicação e o compartilhamento de nudez não consensual, bem como a produção e disseminação de imagens sexualizadas de terceiros sem autorização, inclusive em contextos envolvendo o Grok.
Segundo o documento, a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos é incompatível com essas regras internas.
Possíveis medidas futuras
Caso as recomendações não sejam cumpridas ou sejam implementadas de forma considerada insuficiente, a ANPD, a Senacon e o MPF informam que outras medidas poderão ser adotadas, tanto na esfera administrativa quanto judicial, para garantir a proteção adequada da população, especialmente de mulheres, crianças e adolescentes.
Leia outras notícias em Imirante.com. Siga, também, o Imirante nas redes sociais X, Instagram, TikTok e canal no Whatsapp. Curta nossa página no Facebook e Youtube. Envie informações à Redação do Portal por meio do Whatsapp pelo telefone (98) 99209-2383.