- A ferramenta Grok AI do X criou imagens pornográficas de mulheres e crianças
- Agora, os senadores dos EUA disseram à Apple e ao Google que devem proibir os aplicativos
- Malásia e Indonésia já bloquearam o uso dos aplicativos
Nas últimas semanas, descobriu-se que a inteligência artificial (IA) integrada no X chatbot Grok está sendo usado ativamente para gerar imagens explícitas de crianças e mulheres sem o seu consentimento, levando a apelos para que a Apple e o Google removam os aplicativos Grok e X de suas respectivas lojas de aplicativos.
Agora, a pressão aumentou depois que um grupo de senadores dos EUA escreveu uma carta para Apple e Google exigindo que tomem medidas – e hoje o órgão de vigilância da mídia do Reino Unido, Ofcom, diz que tem lançou uma investigação oficialtambém.
A carta dos EUA foi assinada pelos senadores Ron Wyden, Ben Ray Lujan e Edward Markey, e apela às empresas para “aplicarem os termos de serviço das suas lojas de aplicações”, uma vez que “a geração X destas representações prejudiciais e provavelmente ilegais de mulheres e crianças demonstrou total desrespeito pelos termos de distribuição das suas lojas”.
Depois de detalhar como Grok tem “modificado imagens para retratar mulheres sendo abusadas sexualmente, humilhadas, feridas e até mortas” e como “Grok teria criado imagens sexualizadas de crianças”, os senadores apontaram que essas ações violam as políticas da loja de aplicativos de ambos. Maçã e Google.
Os termos de serviço do Google “proíbem os usuários de criar, enviar ou distribuir conteúdo que facilite a exploração ou abuso de crianças”, dizem os senadores, “incluindo a proibição de retratar crianças de uma maneira que possa resultar na exploração sexual de crianças”.
A Apple, por sua vez, proíbe expressamente “material abertamente sexual ou pornográfico”. Os senadores alegam que “fechar os olhos ao comportamento flagrante de X seria uma zombaria de suas práticas de moderação”.
A pressão sobre X e Musk cresce
O grupo de senadores dos EUA também apontou a recente resistência da Apple e do Google contra maior escrutínio regulatório de suas lojas de aplicativos.
“Não tomar medidas prejudicaria suas reivindicações públicas e judiciais de que suas lojas de aplicativos oferecem uma experiência de usuário mais segura do que permitir que os usuários baixem aplicativos diretamente em seus telefones”, escreveram os senadores, acrescentando que “este princípio tem sido fundamental para sua defesa contra reformas legislativas para aumentar a concorrência nas lojas de aplicativos e suas defesas contra alegações de que suas lojas de aplicativos abusam de seu poder de mercado por meio de seus sistemas de pagamento”.
A Apple e o Google provaram que podem agir rapidamente para proibir aplicativos, observam os senadores. “Suas empresas removeram rapidamente aplicativos que permitiam aos usuários denunciar legalmente atividades de fiscalização de imigração, como ICEBlock e Red Dot”, argumentam. “Ao contrário da geração de conteúdo doentio de Grok, esses aplicativos não criavam ou hospedavam conteúdo prejudicial ou ilegal e, ainda assim, baseados inteiramente no [US Government’s] alega que eles representavam um risco para as autoridades de imigração, você os removeu de suas lojas.”
Os senadores dizem que esperam que a Apple e o Google “demonstrem um nível semelhante de capacidade de resposta e iniciem ações rápidas para remover os aplicativos X e Grok de suas lojas de aplicativos”.
Independentemente de a Apple e o Google agirem, X e Grok enfrentam uma pressão crescente em todo o mundo. Os governos da Indonésia e da Malásia bloqueou recentemente o Grok à luz da controvérsia sobre a geração de imagens, e com os legisladores do Reino Unido, da União Europeia e da Índia também a examinarem de perto a ferramenta de IA, estes podem não ser os únicos países a tomar uma medida.
Siga o TechRadar no Google Notícias e adicione-nos como fonte preferencial para receber notícias, análises e opiniões de especialistas em seus feeds. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok para notícias, análises, unboxings em formato de vídeo e receba atualizações regulares nossas em WhatsApp também.