A capacidade da IA de automatizar conteúdo inundou a internet com material de baixa qualidade (representacional)
Quando se trata da nossa experiência na Internet, “os tempos, eles estão mudando”, como diria Bob Dylan. Você não consegue lembrar bem como, mas a internet certamente parece diferente hoje em dia.
Para alguns, é “menos divertido e menos informativo” do que costumava ser. Para outros, as pesquisas on-line são compostas de “cortador de biscoitos”páginas que abafam informações úteis e estão saturadas de golpes, spam e conteúdo gerado por inteligência artificial (IA).
Seus feeds de mídia social estão cheios de conteúdo atraente, provocativo, hiperdirecionado ou que induz à raiva, de imagens bizarras geradas por IA para comentários tipo robôs. Você tem sorte se seus feeds de vídeo não forem compostos somente de exortações para “assinar”.
Como chegamos aqui? E podemos voltar com garras?
Interesses comerciais dominam
Um fator importante que contribui para o estado atual da internet é sua comercialização excessiva: motivos financeiros impulsionam grande parte do conteúdo. Isso sem dúvida levou à prevalência do sensacionalismo, priorizando a viralidade em detrimento da qualidade da informação.
A publicidade dissimulada e enganosa é generalizada, confundindo a linha entre conteúdo comercial e não comercial para atrair mais atenção e engajamento.
Outra força motriz é o domínio de gigantes da tecnologia como Google, Meta e Amazon. Elas alcançam bilhões em todo o mundo e exercem imenso poder sobre o conteúdo que consumimos.
Suas plataformas usam tecnologias avançadas de rastreamento e algoritmos opacos para gerar conteúdo de mídia hiperdirecionado, alimentado por dados extensos do usuário. Isso cria bolhas de filtroonde os usuários são expostos a conteúdo limitado que reforça suas crenças e preconceitos existentes, e câmaras de eco onde outros pontos de vista são ativamente desacreditados.
Atores ruins como criminosos cibernéticos e golpistas têm sido um problema persistente online. No entanto, a evolução da tecnologia, como a IA generativa, os fortaleceu ainda mais, permitindo-lhes criar imagens falsas altamente realistas, vídeos deepfake e clonagem de voz.
A capacidade da IA de automatizar a criação de conteúdo também inundou a internet com material de baixa qualidade, enganoso e prejudicial em uma escala sem precedentes.
Em suma, a comercialização acelerada da internet, o domínio de gigantes da tecnologia de mídia e a presença de maus atores infiltraram o conteúdo na internet. A ascensão da IA intensifica ainda mais isso, tornando a internet mais caótica do que nunca.
Parte da ‘boa’ internet permanece
Então, o que era a “boa internet” que alguns de nós ansiamos com nostalgia?
No início, a internet foi concebida para ser um espaço livre e igualitário onde as pessoas deveriam “surfar” e “navegar”. O conhecimento foi concebido para ser compartilhado: sites como a Wikipedia e o The Internet Archive são bastiões contínuos do conhecimento.
Antes do advento das bolhas de filtro, a internet era um playground criativo onde as pessoas exploravam ideias diferentes, discutiam perspectivas variadas e colaboravam com indivíduos de “grupos externos” – aqueles fora de seus círculos sociais que podem ter visões opostas.
As primeiras plataformas de mídia social foram construídas com base no ethos de reconexão com colegas de classe e familiares há muito perdidos. Muitos de nós temos grupos comunitários, conhecidos e familiares com quem entramos em contato pela internet. O aspecto de “conexão” da internet continua tão importante quanto sempre – como todos nós vimos durante a pandemia da COVID.
O que mais queremos preservar? Privacidade. Uma piada de desenho animado do New Yorker em 1993 declarou que “na internet ninguém sabe que você é um cachorro”. Agora todos – especialmente os anunciantes – querem saber quem você é. Para citar o Gabinete do Comissário de Informação Australianoum dos princípios da privacidade é “poder controlar quem pode ver ou usar informações sobre você”.
No mínimo, queremos controlar o que as grandes empresas de tecnologia sabem sobre nós, especialmente se elas podem lucrar com isso.
Poderemos voltar algum dia?
Não podemos controlar os tempos “mutáveis”, mas podemos manter o máximo possível das partes boas.
Para começar, podemos votar com os pés. Os usuários podem promulgar mudanças e conscientizar sobre problemas em plataformas existentes. Nos últimos tempos, vimos isso com o êxodo de usuários do X (antigo Twitter) para outras plataformas, e o protesto em toda a plataforma contra o Reddit para alterar suas políticas de acesso a dados de terceiros.
No entanto, votar com os pés só é possível quando há competição. No caso do X, várias outras plataformas – de Mastodon a Threads e Bluesky – permitem que os usuários escolham uma que se alinhe com suas preferências, valores e círculos sociais. Os mecanismos de busca também têm alternativas, como DuckDuckGo ou Ecosia.
No entanto, a competição só pode ser criada mudando para sistemas descentralizados e removendo monopólios. Isso realmente aconteceu nos primeiros dias da internet durante a década de 1990 “guerras de navegadores”, quando a Microsoft foi finalmente acusada de monopolizar ilegalmente o mercado de navegadores da web em um caso judicial histórico.
Como usuários de tecnologia, todos nós devemos permanecer vigilantes sobre ameaças à nossa privacidade e conhecimento. Com IA generativa barata e onipresente, conteúdo enganoso e golpes são mais realistas do que nunca.
Devemos exercer um ceticismo saudável e garantir que aqueles que correm maior risco de ameaças online – como crianças e idosos – sejam informados sobre os danos potenciais.
Lembre-se, a internet não é otimizada para seus melhores interesses. Cabe a você decidir quanto poder você dá aos gigantes da tecnologia que estão alimentando os deles.
Marco CheongProfessor Sênior de Sistemas de Informação, Escola de Computação e Sistemas de Informação; e Membro Sênior (Honorário), Faculdade de Direito de Melbourne, A Universidade de Melbourne e Wonsun ShinProfessor Associado em Mídia e Comunicações, A Universidade de Melbourne
Este artigo foi republicado de A Conversa sob uma licença Creative Commons. Leia o artigo original.
(Com exceção do título, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)