Olá, pessoal, sejam bem-vindos ao boletim informativo regular de IA do TechCrunch.
Esta semana em IA, IA generativa está a começar a enviar spam para publicações académicas – um novo desenvolvimento desencorajador na frente da desinformação.
Em um postar no Relógio de Retraçãoum blog que rastreia retratações recentes de estudos acadêmicos, os professores assistentes de filosofia Tomasz Żuradzk e Leszek Wroński escreveram sobre três periódicos publicados pela Addleton Academic Publishers que parecem ser compostos inteiramente de artigos gerados por IA.
As revistas contêm artigos que seguem o mesmo modelo, repletos de palavras-chave como “blockchain”, “metaverso”, “internet das coisas” e “aprendizado profundo”. Eles listam o mesmo conselho editorial – 10 membros já falecidos – e um endereço indefinido em Queens, Nova York, que parece ser uma casa.
Então qual é o problema? você pode perguntar. Folhear conteúdo de spam gerado por IA não é simplesmente o custo de fazer negócios na Internet hoje em dia?
Bem, sim. Mas os diários falsos mostram como é fácil enganar os sistemas utilizados para avaliar os investigadores para promoções e contratações – e isto pode ser um indicador para os trabalhadores do conhecimento de outras indústrias.
Em pelo menos um sistema de avaliação amplamente utilizado, o CiteScore, os periódicos estão entre os 10 primeiros em pesquisa filosófica. Como isso é possível? Eles se citam extensivamente. (O CiteScore considera as citações em seus cálculos.) Żuradzk e Wroński descobrem que, de 541 citações em um dos periódicos de Addleton, 208 vêm de outras publicações falsas da editora.
“[These rankings] frequentemente servem às universidades e aos organismos de financiamento como indicadores da qualidade da investigação”, escreveram Żuradzk e Wroński. “Eles desempenham um papel crucial nas decisões relativas a prêmios acadêmicos, contratações e promoções e, portanto, podem influenciar as estratégias de publicação dos pesquisadores.”
Alguém poderia argumentar que o CiteScore é o problema – claramente é uma métrica falha. E esse não é um argumento errado a se fazer. Mas também não é errado dizer que a IA generativa e o seu abuso estão a perturbar os sistemas dos quais depende a subsistência das pessoas de formas inesperadas – e potencialmente bastante prejudiciais.
Há um futuro em que a IA generativa nos fará repensar e reprojetar sistemas como o CiteScore para serem mais equitativos, holísticos e inclusivos. A alternativa mais sombria — e a que está em jogo agora — é um futuro em que a IA generativa continue a descontrolar-se, causando estragos e arruinando vidas profissionais.
Espero que possamos corrigir o curso em breve.
Notícias
Gerador de trilha sonora do DeepMind: DeepMind, laboratório de pesquisa de IA do Google, afirma que está desenvolvendo tecnologia de IA para gerar trilhas sonoras para vídeos. A IA da DeepMind utiliza a descrição de uma trilha sonora (por exemplo, “água-viva pulsando sob a água, vida marinha, oceano”) combinada com um vídeo para criar música, efeitos sonoros e até diálogos que correspondam aos personagens e ao tom do vídeo.
Um motorista robô: Pesquisadores da Universidade de Tóquio desenvolveram e treinaram um “humanóide musculoesquelético” chamado Musashi para dirigir um pequeno carro elétrico em uma pista de testes. Equipado com duas câmeras que substituem os olhos humanos, Musashi pode “ver” a estrada à sua frente, bem como as vistas refletidas nos espelhos laterais do carro.
Um novo mecanismo de pesquisa de IA: Genspark, uma nova plataforma de pesquisa baseada em IA, utiliza IA generativa para escrever resumos personalizados em resposta a consultas de pesquisa. Até agora, arrecadou US$ 60 milhões de investidores, incluindo Lanchi Ventures; a última rodada de financiamento da empresa avaliou-a em US$ 260 milhões pós-dinheiro, um número respeitável enquanto o Genspark enfrenta rivais como a Perplexity.
Quanto custa o ChatGPT?: Quanto custa o ChatGPT, a plataforma de chatbot baseada em IA em constante expansão da OpenAI? É uma pergunta mais difícil de responder do que você imagina. Para acompanhar as várias opções de assinatura do ChatGPT disponíveis, elaboramos um guia atualizado de preços do ChatGPT.
Artigo de pesquisa da semana
Os veículos autônomos enfrentam uma variedade infinita de casos extremos, dependendo da localização e da situação. Se você estiver em uma estrada de duas pistas e alguém acender o pisca-pisca esquerdo, isso significa que vai mudar de faixa? Ou que você deveria passá-los? A resposta pode depender se você está na I-5 ou na Autobahn.
Um grupo de pesquisadores da Nvidia, USC, UW e Stanford mostram em um artigo recém-publicado na CVPR que muitas circunstâncias ambíguas ou incomuns podem ser resolvidas, se você puder acreditar, fazendo com que uma IA leia o manual dos motoristas locais.
Deles Assistente de direção em idiomas grandes, ou LLaDa, dá ao LLM acesso – nem mesmo ajuste fino – ao manual de direção de um estado, país ou região. Regras, costumes ou sinalização local são encontrados na literatura e, quando ocorre uma circunstância inesperada, como buzina, farol alto ou rebanho de ovelhas, uma ação apropriada (encostar, parar, virar, buzinar de volta) é gerada.
Não é de forma alguma um sistema de direção completo, mas mostra um caminho alternativo para um sistema de direção “universal” que ainda encontra surpresas. Além disso, talvez uma maneira de o resto de nós saber por que estamos sendo buzinados quando visitamos lugares desconhecidos.
Modelo da semana
Na segunda-feira, Pistauma empresa que desenvolve ferramentas generativas de IA voltadas para criadores de conteúdo de filmes e imagens, revelou Gen-3 Alfa. Treinado em um grande número de imagens e vídeos de fontes públicas e internas, o Gen-3 pode gerar videoclipes a partir de descrições de texto e imagens estáticas.
Runway diz que Gen-3 Alpha oferece uma “grande” melhoria na velocidade de geração e fidelidade em relação ao modelo de vídeo carro-chefe anterior da Runway, Geração 2, bem como controles refinados sobre a estrutura, estilo e movimento dos vídeos que ele cria. A Geração 3 também pode ser adaptada para permitir personagens mais “estilisticamente controlados” e consistentes, diz Runway, visando “requisitos artísticos e narrativos específicos”.
Gen-3 Alpha tem suas limitações – incluindo o fato de que sua filmagem atinge no máximo 10 segundos. No entanto, o cofundador da Runway, Anastasis Germanidis, promete que este é apenas o primeiro de vários modelos de geração de vídeo a entrar em uma família de modelos de próxima geração treinados na infraestrutura atualizada da Runway.
Gen-3 Alpha é apenas o mais recente sistema de vídeo generativo entre vários que surgiram em cena nos últimos meses. Outros incluem OpenAI’s SoraA Máquina dos Sonhos de Luma e do Google Eu vejo. Juntos, eles ameaçam derrubar a indústria cinematográfica e televisiva tal como a conhecemos – supondo que consigam vencer desafios de direitos autorais.
Sacola
A IA não aceitará seu próximo pedido do McDonald’s.
McDonald’s esta semana anunciado que removeria a tecnologia automatizada de recebimento de pedidos, que a rede de fast-food vinha testando há quase três anos, de mais de 100 de seus restaurantes. A tecnologia – desenvolvida em conjunto com a IBM e instalada em drive-thrus de restaurantes – se tornou viral no ano passado por sua propensão a interpretar mal os clientes e cometer erros.
Um recente pedaço no Takeout sugere que a IA está a perder o controlo sobre os operadores de fast-food em geral, que não há muito tempo expressaram entusiasmo pela tecnologia e pelo seu potencial para aumentar a eficiência (e reduzir os custos laborais). Presto, um importante player no setor de pistas de drive-thru assistidas por IA, perdeu recentemente um grande cliente, Del Taco, e enfrenta perdas crescentes.
A questão é a imprecisão.
CEO do McDonald’s, Chris Kempczinski contado A CNBC informou em junho de 2021 que sua tecnologia de reconhecimento de voz era precisa em cerca de 85% das vezes, mas que a equipe humana teve que ajudar em cerca de um em cada cinco pedidos. A melhor versão do sistema Presto, por sua vez, atende apenas cerca de 30% dos pedidos sem a ajuda de um ser humano, segundo o Takeout.
Então, embora a IA seja dizimando Em certos segmentos da gig economy, parece que alguns empregos – especialmente aqueles que exigem a compreensão de uma ampla gama de sotaques e dialetos – não podem ser automatizados. Por enquanto, pelo menos.