Fazry Ismail/EPA
Grok
Empresário anuncia que a rede social terá código aberto a partir de sábado. Indonésia e Malásia foram os primeiros países a bloquear assistente IA.
O magnata e proprietário do XElon Musk, anunciou que, a partir do próximo sábado, a sua rede social será de código aberto, incluindo todo o código utilizado para determinar as publicações orgânicas e publicitárias que são recomendadas aos utilizadores.
Esta medida surge após uma série de controvérsias que envolveram a plataforma relacionadas com a geração de imagens explícitas com inteligência artificial (IA) a pedido dos utilizadores, incluindo nudez de menores.
Após denúncias de utilizadores e instituições, como a União Europeia, que ordenou à plataforma que conservasse toda a documentação até ao final do ano, Musk tomou a decisão de tornar público o novo algoritmo para dar mais transparência à rede social.
Numa mensagem publicada no X, Elon Musk esclareceu que esta medida “será repetida a cada quatro semanascom notas completas para os programadores para os ajudar a ver o que mudou”.
No entanto, não é a primeira vez que o magnata tenta tornar público o código aberto do X, uma vez que em 2023, meses depois de assumir o comando da plataforma, divulgou um código que não foi muito revelador, embora tenha sido descoberto que as publicações de Musk tinham uma categoria própria, juntamente com republicanos, democratas e “utilizadores avançados”. Depois disso, os engenheiros da plataforma defenderam que era para “rastrear estatísticas”, embora posteriormente tenham eliminado essa secção do algoritmo.
Grok bloqueado
Indonésia e Malásia foram os primeiros países, este fim de semana, a bloquear o ‘assistente’ de Inteligência Artificial (IA) Grok, da empresa xAI do norte-americano Elon Musk, por considerarem a ferramenta geradora de imagens de conteúdo sexual não consensual.
O “chatbot” (robô de contacto) Grok, através da plataforma digital em rede X, tem sido alvo de críticas por criar imagens manipuladas, incluindo representações de mulheres de biquíni ou em poses sexualmente explícitas, bem como imagens que envolvem crianças.
Os órgãos reguladores daqueles dois países do sudeste asiático declararam que a ausência de mecanismos de controlo para impedir produção e disseminação de conteúdo pornográfico falso. O governo da Indonésia bloqueou temporariamente o acesso ao Grok no sábado, seguido pela Malásia no domingo.
“O Governo considera os ‘deepfakes’ (conteúdos artificiais) sexuais não consensuais uma grave violação dos Direitos Humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse o ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, em comunicado.
Estas medidas refletem a crescente preocupação global com as ferramentas de IA generativa que podem produzir imagens, sons e textos realistas, enquanto as salvaguardas existentes não conseguem impedir seu uso indevido.
O diretor-geral de supervisão do espaço digital, Alexander Sabar, noutro comunicado, afirmou ter ficado provado que o Grok não tem salvaguardas eficazes para impedir que os utilizadores criem e distribuam conteúdo pornográfico com base em fotos reais de cidadãos indonésios, acrescentando que tais práticas violam privacidade e direitos de imagem, podendo causar danos psicológicos, sociais e à reputação.
Em Kuala Lumpur, a Comissão de Comunicações e Multimédia da Malásia ordenou uma restrição temporária ao Grok, domingo, após o que classificou como “uso indevido repetido” da ferramenta para gerar imagens obscenas, sexualmente explícitas e manipuladas sem consentimento, incluindo conteúdo envolvendo mulheres e menores.
O órgão regulador local disse que as notificações emitidas este mês para as empresas de Musk (X Corp. e xAI), exigindo salvaguardas mais robustas, receberam respostas baseadas, principalmente, em denúncias de utilizadores.
“A restrição é imposta como medida preventiva e proporcional enquanto os processos legais e regulatórios estão em andamento”, declarou o grupo empresarial, adiantando que o acesso vai ficar bloqueado até que haja salvaguardas eficazes.
Lançado em 2023, o Grok é gratuito para uso na rede social X. Os assinantes podem fazer perguntas na plataforma e marcar publicações que criaram diretamente ou respostas a publicações de outros utilizadores.
No verão, a empresa adicionou um recurso de gerador de imagens, o Grok Imagine, que incluía um chamado “modo picante” que pode gerar conteúdo para adultos.
As restrições no sudeste asiático ocorrem quando está a verificar-se um crescente escrutínio ao Grok noutros países, incluindo na União Europeia, Reino Unido e Índia.
Na semana passada, a geração e edição de imagens de assinantes foi limitada, após uma reação global negativa sobre ‘deepfakes’ sexualizados de pessoas, mas muitos peritos defendem que a medida não resolveu completamente o problema.