Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) exigiram que a empresa responsável pela plataforma X adote medidas para impedir o uso indevido do Grok, ferramenta de inteligência artificial utilizada para geração de textos e imagens. A orientação é para coibir a criação e a circulação de conteúdos sexualizados produzidos a partir de imagens de pessoas reais.
As recomendações foram feitas pela Autoridade Nacional de Proteção de Dados, pela Secretaria Nacional do Consumidor e pelo Ministério Público Federal, conforme documento divulgado nesta terça-feira (20). O texto aponta a necessidade de mudanças técnicas e operacionais para evitar que o Grok continue sendo usado para gerar conteúdos de caráter sexual ou erótico sem consentimento.
Entre as medidas sugeridas está a criação, no prazo máximo de 30 dias, de procedimentos capazes de identificar, revisar e remover conteúdos sexualizados que ainda estejam disponíveis na plataforma quando gerados pela ferramenta a partir de comandos de usuários. Também foi indicada a suspensão imediata das contas envolvidas na produção desse tipo de material, tanto quando envolve crianças e adolescentes quanto adultos sem autorização.
As instituições ainda recomendam a implementação de um canal transparente, acessível e eficaz para que titulares de dados possam denunciar usos irregulares, abusivos ou ilegais de informações pessoais. O objetivo é garantir resposta adequada e dentro de prazo razoável, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.
Segundo os órgãos, a circulação desse material pode afetar diretamente a proteção de dados pessoais, as relações de consumo e a dignidade da pessoa humana, além de atingir direitos coletivos e individuais, com impacto mais grave sobre mulheres, crianças e adolescentes.
Entenda
O Grok funciona como um chatbot capaz de responder comandos e gerar textos e imagens. De acordo com as denúncias, a ferramenta passou a atender pedidos de alteração de fotos reais, como inserir biquínis, tornar roupas transparentes, modificar ângulos para deixar imagens sugestivas e até incluir objetos de cunho sexual nos corpos das pessoas retratadas.
A atuação dos órgãos também decorre de uma denúncia protocolada pela deputada federal Erika Hilton (Psol-SP), que acionou a Autoridade Nacional de Proteção de Dados e apresentou representação no Ministério Público Federal contra o uso do Grok para a geração e divulgação de imagens eróticas de mulheres e crianças reais.
