Apresentando Zep: Uma Camada de Memória para Agentes de IA
A Zep AI Research apresenta Zep, uma camada de memória projetada para resolver desafios nas soluções de memória de IA, aproveitando o Graphiti, um mecanismo de gráfico de conhecimento temporalmente consciente. Ao contrário dos métodos de recuperação estáticos, Zep atualiza e sintetiza continuamente tanto os dados de conversação não estruturados quanto as informações comerciais estruturadas.
Projeto Técnico e Benefícios
1. Uma Abordagem de Gráfico de Conhecimento para a Memória:
– Subgráfico de Episódio: Captura os dados de conversação brutos.
– Subgráfico de Entidade Semântica: Identifica e organiza entidades.
– Subgráfico de Comunidade: Agrupa entidades em clusters.
2. Manipulando Informações Baseadas em Tempo:
– Modelo bi-temporal rastreia o conhecimento com duas linhas do tempo:
– Linha do Tempo de Eventos (T): Ordena os eventos cronologicamente.
– Linha do Tempo do Sistema (T’): Mantém um registro de armazenamento de dados e atualizações.
3. Um Mecanismo de Recuperação Multifacetado:
– Combina a busca por similaridade de cosseno, busca de texto completo Okapi BM25 e busca em largura baseada em gráficos para recuperação eficiente.
4. Eficiência e Escalabilidade:
– A estrutura do gráfico de conhecimento reduz a recuperação redundante de dados, levando a um menor uso de tokens e respostas mais rápidas.
Avaliação de Desempenho
1. Banco de Dados de Recuperação de Memória Profunda (DMR):
– 94,8% de precisão com GPT-4 Turbo (em comparação com 93,4% para MemGPT).
– 98,2% de precisão com GPT-4o Mini.
2. Banco de Dados de Avaliação de Longa Memória (LongMemEval):
– Melhorias de precisão de 15,2% e 18,5% com GPT-4o Mini e GPT-4o, respectivamente.
– Latência de resposta 90% mais rápida.
– Uso de tokens mais baixo (1.600 tokens por resposta).
3. Desempenho em Diferentes Tipos de Perguntas:
– Perguntas Baseadas em Preferências: Melhoria de 184% em relação à recuperação de contexto completo.
– Consultas de Multi-Sessão: Melhoria de 30,7%.
– Raciocínio Temporal: Melhoria de 38,4%.
Conclusão
Zep fornece uma maneira estruturada e eficiente para os sistemas de IA reter e recuperar conhecimento por períodos prolongados. Com 94,8% de precisão de DMR e eficácia comprovada em aplicações de nível empresarial, representa um avanço nas soluções de memória de IA. Além disso, a tecnologia Zep tem o potencial de ser aplicada em uma variedade de campos, desde assistentes virtuais até veículos autônomos, melhorando a capacidade de sistemas de IA de entender e interagir com o mundo ao seu redor.
Em resumo, Zep é uma ferramenta poderosa que pode revolucionar a forma como os sistemas de IA processam e armazenam informações, permitindo que eles sejam mais eficientes e eficazes em suas tarefas. Com sua abordagem inovadora e capacidade de lidar com grandes volumes de dados, Zep é um exemplo de como a tecnologia pode ser usada para melhorar a IA e torná-la mais útil em uma variedade de aplicações.
