A Agência Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o Ministério Público Federal recomendaram que a empresa responsável pela plataforma X adote medidas para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração de conteúdos sexualizados.
De acordo com o documento divulgado nesta terça-feira (20), as instituições pedem que, no prazo máximo de 30 dias, sejam criados procedimentos técnicos para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis na plataforma quando gerados pela ferramenta.
Entre as recomendações está a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas sem consentimento, incluindo casos que envolvam crianças, adolescentes e adultos identificáveis. Os órgãos também solicitaram a criação de mecanismos acessíveis para que vítimas possam denunciar o uso irregular de dados pessoais.
As recomendações foram motivadas por denúncias de usuários e por testes realizados pelas próprias instituições, que identificaram a geração de conteúdos sintéticos sexualizados a partir de imagens de pessoas reais, por meio da técnica conhecida como deepfake.
Segundo os órgãos, esse tipo de prática pode causar danos graves à dignidade humana, às relações de consumo e à proteção de dados, afetando principalmente mulheres, crianças e adolescentes.
O documento destaca ainda que, embora o Marco Civil da Internet limite a responsabilização das plataformas, o Supremo Tribunal Federal já reconheceu que provedores têm dever especial de cuidado em casos de crimes graves, como a disseminação de conteúdos sexualizados sem consentimento. Caso as recomendações não sejam atendidas, medidas administrativas e judiciais poderão ser adotadas.