- O CEO da Locai Labs diz que todos os modelos atuais de IA podem criar imagens prejudiciais
- Locai Labs proíbe menores de 18 anos e geração de imagens até que a situação seja “verdadeiramente segura”
- O regulador do Reino Unido, Ofcom, está agora lançando uma investigação sobre Grok Images
À medida que continua a controvérsia em torno da plataforma Grok AI de Elon Musk e sua capacidade de criar imagens sexualizadas de mulheres e crianças, James Drayson, CEO da Laboratórios locais – o rival britânico do ChatGPT – declarou que nenhum gerador de imagens de IA poderá ser verdadeiramente seguro e instou a indústria a ser honesta sobre os perigos.
Falando antes de uma aparição perante os deputados que examinam os direitos humanos e a regulamentação da IA, Drayson apelou à acção e desafiou o governo a apoiar a inovação britânica.
Ele disse: “[The] a indústria precisa acordar. É impossível para qualquer empresa de IA prometer que seu modelo não poderá ser induzido a criar conteúdo prejudicial, incluindo imagens explícitas. Esses sistemas são inteligentes, mas não são infalíveis. O público merece honestidade.”
Em resposta à situação atual, a Locai recusou-se a implementar a geração de imagens até que seja “verdadeiramente seguro”. Também proibiu menores de 18 anos de acessar sua IA bot de bate-papoe apela a uma transparência radical em toda a indústria.
Ressalta-se que a plataforma não havia implementado anteriormente recursos de geração de imagens.
As proibições de Grok já estão começando
O recurso de edição de imagens do Grok, chamado Grok Images, permite aos usuários fazer upload de fotos e, em seguida, usar truques conhecidos para fazer com que a IA tire roupas ou coloque pessoas em biquínis, incluindo edições não consensuais de indivíduos comuns, figuras públicas e crianças.
A situação já levou à proibição do Grok na Indonésia e na Malásia, com uma nova proibição sendo agora considerada pelo regulador do Reino Unido, Ofcom.
Ofcom lançou hoje um investigação no X de Elon Musk. Em um comunicado, o órgão de fiscalização do Reino Unido disse que houve “relatos profundamente preocupantes” de que o chatbot estava sendo usado para criar e compartilhar imagens de pessoas nuas, bem como “imagens sexualizadas de crianças”.
A secretária de tecnologia do Reino Unido, Liz Kendall, disse anteriormente que apoiaria o regulador Ofcom se bloquear o acesso do Reino Unido ao X – anteriormente conhecido como Twitter e agora a casa de Grok – por não cumprir as leis de segurança online.
Elon Musk respondeu à ameaça do governo do Reino Unido em X dizendo: “Eles querem qualquer desculpa para a censura”.
Em resposta à polêmica, o recurso Grok Images foi restrito apenas a assinantes pagantes, uma medida que não satisfez o governo do Reino Unido. Um porta-voz de Downing Street disse: “A mudança simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium”.
Regulamentação rigorosa pode estar chegando
O Comissão de Direitos Humanos do Parlamento do Reino Unido está atualmente investigando os riscos e benefícios da IA, como ela pode impactar a privacidade e a discriminação, e se as leis e políticas atuais do Reino Unido são suficientes ou se é necessária nova legislação para responsabilizar as empresas e desenvolvedores de IA.
James Drayson acrescentou: “Acreditamos que o Reino Unido pode liderar o mundo em termos de IA responsável e orientada por valores, se assim o desejarmos. Isso significa regulamentação rigorosa, debate aberto e um compromisso com a transparência. A IA veio para ficar. O desafio é torná-la o mais segura, justa e confiável possível, para que as suas recompensas superem em muito os seus riscos”.
Siga o TechRadar no Google Notícias e adicione-nos como fonte preferencial para receber notícias, análises e opiniões de especialistas em seus feeds. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok para notícias, análises, unboxings em formato de vídeo e receba atualizações regulares nossas em WhatsApp também.
Os melhores laptops empresariais para todos os orçamentos