A Indonésia anunciou neste sábado (10) a suspensão temporária do Grok, chatbot de inteligência artificial da xAI integrado à plataforma X. Segundo o governo, a medida destina-se a conter riscos associados à produção de conteúdo pornográfico.
O Ministério da Comunicação e Assuntos Digitais informou que o bloqueio foi motivado por relatos de que a ferramenta gerou imagens sexualizadas sem consentimento, envolvendo mulheres e crianças. Na avaliação da ministra Meutya Hafid, a criação de deepfakes sexuais não consensuais viola direitos humanos, dignidade e segurança dos usuários no ambiente digital.
Representantes do X foram convocados pela pasta para discutir o incidente. O país, que abriga a maior população muçulmana do mundo, mantém legislação rígida contra material considerado obsceno na internet.
Denúncias anteriores indicaram que usuários utilizavam o Grok para produzir nudes e montagens de mulheres e crianças em biquíni. A Internet Watch Foundation registrou menções à ferramenta em casos de abuso sexual infantil. A escritora e estrategista política Ashley St. Clair relatou ter tido sua imagem explorada nesse tipo de conteúdo.
A repercussão levou autoridades do Reino Unido e da União Europeia a abrirem investigações sobre a plataforma. Em resposta, a xAI passou a exigir assinatura do plano pago para gerar imagens, mas o site The Verge apontou brechas que permitem contornar a restrição.
Elon Musk e a xAI afirmaram que pretendem punir usuários que criarem material ilegal, estratégia questionada por especialistas por se concentrar em sanções posteriores, em vez de barreiras técnicas prévias. Procurada pela Reuters sobre a proibição na Indonésia, a xAI enviou automaticamente a mensagem de que “a mídia tradicional mente”, sem esclarecimentos adicionais.
Com informações de Olhar Digital
