• Qui. Out 3rd, 2024

Voyage AI está construindo ferramentas RAG para fazer com que a IA tenha menos alucinações

Byadmin

Out 3, 2024
Viagem com IA

A IA tende a inventar coisas. Isso não é atraente para praticamente qualquer pessoa que o utilize regularmente, mas especialmente para as empresas, para as quais resultados falaciosos podem prejudicar os resultados financeiros. Metade dos trabalhadores respondendo para uma pesquisa recente da Salesforce dizem que temem que as respostas dos sistemas generativos alimentados por IA de sua empresa sejam imprecisas.

Embora nenhuma técnica possa resolver essas “alucinações”, algumas podem ajudar. Por exemplo, geração aumentada de recuperação, ou RAGcombina um modelo de IA com uma base de conhecimento para fornecer informações complementares ao modelo antes que ele responda, servindo como uma espécie de mecanismo de verificação de fatos.

Inteiro negócios foram construídos em RAG, graças à enorme demanda por IA mais confiável. A Voyage AI é uma delas. Fundada pelo professor Tengyu Ma de Stanford em 2023, a Voyage alimenta sistemas RAG para empresas como Harvey, Vanta, Replit e SK Telecom.

“A Voyage tem a missão de melhorar a precisão e a eficiência da pesquisa e recuperação na IA corporativa”, disse Ma ao TechCrunch em uma entrevista. “Soluções de viagem [are] adaptado a domínios específicos, como codificação, finanças, jurídico e aplicações multilíngues, e adaptado aos dados de uma empresa.”

Para ativar os sistemas RAG, a Voyage treina modelos de IA para converter textos, documentos, PDFs e outras formas de dados em representações numéricas chamadas incorporações vetoriais. Os embeddings capturam o significado e as relações entre diferentes pontos de dados em um formato compacto, tornando-os úteis para aplicações relacionadas à pesquisa, como o RAG.

Créditos da imagem:Viagem com IA

O Voyage usa um tipo específico de incorporação denominado incorporação contextual, que captura não apenas o significado semântico dos dados, mas também o contexto em que os dados aparecem. Por exemplo, dada a palavra “banco” nas frases “Sentei-me na margem do rio” e “Depositei dinheiro no banco”, os modelos de incorporação do Voyage gerariam vetores diferentes para cada instância de “banco” – refletindo os diferentes significados implícitos no contexto.

A Voyage hospeda e licencia seus modelos para uso local, em nuvem privada ou em nuvem pública e ajusta seus modelos para clientes que optam por pagar por esse serviço. A empresa não é a única nesse aspecto – a OpenAI também possui um serviço de incorporação personalizado – mas Ma afirma que os modelos da Voyage oferecem melhor desempenho a custos mais baixos.

“No RAG, diante de uma pergunta ou consulta, primeiro recuperamos informações relevantes de uma base de conhecimento não estruturada – como um bibliotecário pesquisando livros em uma biblioteca”, explicou ele. “Os métodos RAG convencionais muitas vezes enfrentam perda de contexto durante a codificação de informações, levando a falhas na recuperação de informações relevantes. Os modelos de incorporação da Voyage têm a melhor precisão de recuperação da categoria, o que se traduz na qualidade de resposta ponta a ponta dos sistemas RAG.”

Dar peso a essas afirmações ousadas é uma endosso do principal rival da OpenAI, Antrópico; um documento de apoio da Anthropic descreve os modelos da Voyage como “estado da arte”.

“A abordagem da Voyage usa incorporações de vetores treinados nos dados da empresa para fornecer recuperações conscientes do contexto”, disse Ma, “o que melhora significativamente a precisão da recuperação”.

Ma diz que a Voyage, com sede em Palo Alto, tem pouco mais de 250 clientes. Ele se recusou a responder perguntas sobre receita.

Em setembro, a Voyage, que tem cerca de uma dúzia de funcionários, fechou uma rodada Série A de US$ 20 milhões liderada pela CRV com a participação de Wing VC, Conviction, Snowflake e Databricks. Ma diz que a infusão de dinheiro, que eleva o total arrecadado da Voyage para US$ 28 milhões, apoiará o lançamento de novos modelos de incorporação e permitirá que a empresa duplique seu tamanho.

Source

By admin

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *