Elon Musk, proprietário da Tesla, SpaceX, X e xIA
A plataforma X de Elon Musk anunciou medidas para impedir que o seu chatbot de IA Grok transforme fotografias de pessoas reais em imagens de carácter sexual, “onde isso for ilegal”, após críticas em todo o mundo pela geração deste tipo de conteúdo a partir de imagens de mulheres e menores.
A plataforma X, antigo Twitter, anunciou finalmente, esta quarta-feira, medidas para impedir o Grok de criar deepfakes com vídeos de mulheres e menores nuasa partir de imagens de pessoas reais.
O anúncio surge depois de o procurador-geral da Califórnia, Rob Bontater iniciado uma investigação à xAI, a empresa de Inteligência Artificial de Elon Muskpor “facilitar a produção em larga escala de montagens íntimas não consentidas, usadas para assediar mulheres e raparigas na internet, principalmente através da rede social X”, segundo um comunicado.
“Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico“, acrescentou o procurador-geral do estado norte-americano em comunicado publicado esta quarta-feira. A investigação determinará “se, e como, a xAI violou a lei“.
O governador da Califórnia, Gavin Newsomdisse, também na quarta-feira, que a “vil decisão da xAI” de permitir a proliferação de deepfakes sexualmente explícitos o levou a instar o procurador-geral a responsabilizar a empresa.
A rede social de Musk, milionário fundador da Tesla e SpaceX, disse entretanto que irá “bloquear geograficamente a capacidade” dos utilizadores do Grok e do próprio X de criar imagens de pessoas em “biquínis, roupa interior e peças similares” nas jurisdições onde essas ações são consideradas ilegais.
“Implementámos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, disse a equipa de segurança do X em comunicado. “Esta restrição aplica-se a todos os utilizadores, incluindo os assinantes do serviço pago“, acrescentou.
Como “uma camada adicional de proteção“, a criação de imagens e a possibilidade de editar fotografias através da conta Grok do X passaram a estar disponíveis apenas para assinantes pagosacrescentou o comunicado.
Segundo a agência AFP, uma análise realizada na semana passada pela ONG AI Forensics sobre mais de 20.000 imagens geradas pelo Grok revelou que mais de metade retratava pessoas com pouca roupadas quais 81% eram mulheres e cerca de 2% pareciam menores de idade.
O movimento internacional de indignação contra o Grok e a possibilidade que a IA de Musk oferece de modificar imagens, em particular as publicadas na rede social X intensificou-se nas últimas semanas.
Esta opção estava a permitir que os utilizadores criem ‘deepfakes’ sexualizados de mulheres e menores de idade usando indicações como “coloque-a num biquíni” ou “tire-lhe a roupa“.
Isso está unido, ó Grot tentou esquivar-se às críticascom o anúncio de uma nova política de monetização, anunciando no X que a geração e edição de imagens ficavam “limitadas aos assinantes do serviço pago“.
Mas esse anúncio apenas alimentou ainda mais a indignação: o gabinete do primeiro-ministro britânico Keir Starmer condenou a medida por considerá-la uma afronta às vítimas, e “não uma solução”.
Por sua vez, o regulador de comunicação social britânico, anunciou a abertura de uma investigação para determinar se o X violou a legislação do Reino Unido em relação as imagens sexualizadas.
Também a comissária francesa para a infância, Sarah El Peludoadiantou que tinha remetido as imagens geradas pelo Grok à procuradoria do país, ao regulador de comunicação social Arcom e à União Europeia — que pediu entretanto que a geração deste tipo de conteúdo fosse imediatamente bloqueada.
Aumentando ainda mais a pressão sobre a companhia de Musk, uma associação de 28 organizações da sociedade civil enviou nesta quarta-feira cartas abertas aos diretores-executivos da Apple e da Google, instando-os a banir o Grok e o X das suas lojas de aplicações.
Entretanto, a Indonésia, Malásia e Filipinas bloquearam o acesso ao Grokenquanto a Índia anunciou que o X tinha eliminado milhares de publicações e centenas de contas de utilizadores em resposta às suas queixas.
Aparentemente, então, no código moral das empresas de Elon Musknão há problema nenhum em gerar, sem consentimento, imagens sexualizadas de mulheres e crianças — desde que seja um serviço pagoou apenas onde essa prática não for ilegal.