- O órgão de vigilância de dados do Reino Unido está investigando formalmente X e xAI sobre a criação de imagens deepfake não consensuais de Grok
- Grok supostamente gerou milhões de imagens explícitas de IA, incluindo algumas que parecem representar menores
- A investigação está analisando possíveis violações do GDPR, falta de salvaguardas
O regulador de proteção de dados do Reino Unido lançou uma investigação abrangente sobre X e xAI após relatos de que o Grok AI bot de bate-papo estava gerando deepfake indecente imagens de pessoas reais sem o seu consentimento. O Gabinete do Comissário de Informação está a investigar se as empresas violou o GDPR permitindo que Grok crie e compartilhe imagens de IA sexualmente explícitas, incluindo algumas que parecem representar crianças.
“Os relatórios sobre Grok levantam questões profundamente preocupantes sobre como os dados pessoais das pessoas foram usados para gerar imagens íntimas ou sexualizadas sem o seu conhecimento ou consentimento, e se as salvaguardas necessárias foram implementadas para evitar isso”, disse o diretor executivo de risco regulatório e inovação da ICO, William Malcolm, em um comunicado.
Os investigadores não estão apenas analisando o que os usuários fizeram, mas o que o X e o xAI não conseguiram evitar. A ação segue-se a uma operação na semana passada no escritório X de Paris por promotores franceses como parte de uma investigação criminal paralela sobre a suposta distribuição de deepfakes e imagens de abuso infantil.
A escala deste incidente tornou impossível considerá-lo um caso isolado de algumas sugestões erradas. Os pesquisadores estimam que Grok gerou cerca de três milhões de imagens sexualizadas em menos de duas semanas, incluindo dezenas de milhares que parecem retratar menores. A estrutura de penalidades do GDPR oferece uma pista sobre o que está em jogo: as violações podem resultar em multas de até £ 17,5 milhões ou 4% do faturamento global.
Problema grok
X e xAI insistiram que estão implementando salvaguardas mais fortes, embora os detalhes sejam limitados. X anunciou recentemente novas medidas para bloquear certas vias de geração de imagens e limitar a criação de fotos alteradas envolvendo menores. Mas uma vez que esse tipo de conteúdo começa a circular, especialmente em uma plataforma tão grande como a X, torna-se quase impossível apagá-lo completamente.
Os políticos apelam agora a mudanças legislativas sistémicas. Um grupo de deputados liderados por Anneliese Dodds, do Partido Trabalhista, instou o governo a introduzir legislação sobre IA que exija que os desenvolvedores realizem avaliações de risco completas antes de liberarem as ferramentas ao público.
À medida que a geração de imagens por IA se torna mais comum, a linha entre conteúdo genuíno e fabricado fica cada vez mais confusa. Essa mudança afeta qualquer pessoa com redes sociais, não apenas celebridades ou figuras públicas. Quando ferramentas como o Grok conseguem fabricar imagens explícitas e convincentes a partir de uma selfie comum, os riscos do compartilhamento de fotos pessoais mudam.
A privacidade se torna algo mais difícil de proteger. Não importa o quão cuidadoso você seja quando a tecnologia ultrapassa a sociedade. Os reguladores em todo o mundo estão lutando para acompanhar. A investigação do Reino Unido sobre X e xAI pode durar meses, mas é provável que influencie o comportamento esperado das plataformas de IA.
É provável que haja um impulso para requisitos de segurança desde a concepção mais fortes e aplicáveis. E haverá mais pressão sobre as empresas para que proporcionem transparência sobre a forma como os seus modelos são treinados e quais as protecções existentes.
O inquérito do Reino Unido sinaliza que os reguladores estão a perder a paciência com a ideia de uma abordagem “agir rapidamente e quebrar as coisas” para a segurança pública. Quando se trata de IA que pode manipular a vida das pessoas, há um impulso para uma mudança real. Quando a IA facilita a distorção da imagem de alguém, o ônus da proteção recai sobre os desenvolvedores, não sobre o público.
Siga o TechRadar no Google Notícias e adicione-nos como fonte preferencial para receber notícias, análises e opiniões de especialistas em seus feeds. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok para notícias, análises, unboxings em formato de vídeo e receba atualizações regulares nossas em WhatsApp também.
Os melhores laptops empresariais para todos os orçamentos