O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) reiteram a insuficiência das respostas apresentadas pela plataforma X em relação às violações cometidas pela ferramenta de inteligência artificial (IA) Grok. A IA tem sido utilizada indevidamente para gerar e disseminar imagens de pessoas em contextos de sexualização, sem autorização, o que motivou uma nova manifestação dos órgãos nesta quarta-feira (11).
Plataforma X falha em conter Grok
Em uma nota conjunta divulgada recentemente, o MPF, a ANPD e a Senacon avaliaram as providências informadas pela X e concluíram que estas não foram suficientes para resolver o problema. As entidades haviam emitido recomendações no mês anterior, solicitando a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos gerados pelo Grok de forma inadequada.
A plataforma X alegou ter removido milhares de publicações e suspendido centenas de contas por violarem suas políticas, além de ter adotado medidas de segurança. Contudo, as instituições apontam a falta de evidências concretas, relatórios técnicos e mecanismos de monitoramento que comprovem a efetividade dessas ações. Testes preliminares realizados pelas equipes técnicas das próprias instituições indicam a persistência das falhas, com a continuidade da geração e circulação de conteúdos incompatíveis com as recomendações.
Novas exigências e prazos definidos
Diante da persistência do problema, os três órgãos determinaram que a X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos que não expressaram consentimento. Conforme o Campo Grande NEWS checou, a plataforma também deve prestar informações detalhadas sobre as providências já adotadas para sanar os problemas identificados.
O MPF, em particular, ordenou que a X forneça relatórios mensais sobre sua atuação a respeito do tema, ressaltando que a empresa não demonstrou transparência em suas respostas anteriores. O cumprimento dessas determinações é crucial para evitar a propagação de conteúdos nocivos e a violação de direitos.
Investigação coordenada e possíveis sanções
A ANPD, o MPF e a Senacon atuam de forma coordenada na apuração dos fatos. Cada órgão possui um procedimento administrativo em aberto contra a plataforma, de acordo com suas respectivas áreas de competência. A ANPD exige que os recursos para impedir o uso indevido do Grok abranjam todas as suas versões, planos e modalidades.
No âmbito do MPF, foram exigidos relatórios mensais detalhando como a X está agindo para impedir e reprimir a produção de deepfakes envolvendo menores e adultos sem autorização. A plataforma deve indicar o número de postagens nocivas derrubadas e de contas suspensas em cada período. Conforme o Campo Grande NEWS checou, o descumprimento destas determinações pode acarretar multas diárias, além de possíveis crimes de desobediência e medidas investigatórias mais severas para a empresa.
Senacon cobra comprovação e relatórios métricos
Em medida cautelar administrativa, a Senacon cobrou a comprovação das providências já adotadas para conter os riscos identificados. A Secretaria também exigiu a remessa de um relatório métrico detalhado, com dados quantitativos verificáveis sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao Grok. Isso inclui o número de conteúdos identificados e removidos, prazos médios de resposta e critérios técnicos utilizados. Conforme o Campo Grande NEWS checou, a falta de transparência e a persistência das falhas motivam a atuação firme dos órgãos reguladores.
A reportagem tenta contato com a assessoria da Plataforma X no Brasil para obter um posicionamento oficial sobre essa nova manifestação conjunta do MPF, da ANPD e da Senacon.
