Arquitetura
Retrieval-Augmented Generation
Retrieval-augmented generation (RAG) é um método para construir sistemas de IA que pesquisam documentos, registos ou dados relevantes numa base de conhecimento controlada antes de gerar uma resposta, garantindo que os resultados se baseiam em fontes específicas, atuais e fidedignas, em vez de dependerem apenas do que o modelo aprendeu durante o treino.
Porque existe o RAG: o problema das alucinações
Os grandes modelos de linguagem são treinados em vastos corpora de texto e conseguem gerar respostas fluentes e plausíveis para quase qualquer pergunta. O problema é que o seu conhecimento fica congelado numa data de corte do treino, não têm acesso a dados proprietários da organização e, por vezes, geram respostas com tom confiante que estão factualmente erradas. A este comportamento chama-se alucinação.
Em casos de uso empresariais (responder a perguntas sobre políticas internas, processar documentos de fornecedores específicos, gerar relatórios baseados em dados operacionais reais), a alucinação não é um pequeno inconveniente. É um obstáculo à produção. O RAG resolve isto diretamente: em vez de pedir ao modelo que gere a resposta de memória, o sistema pesquisa primeiro o material de origem relevante e só depois gera uma resposta fundamentada nesse material, com citações.
Como funciona o RAG num contexto empresarial
Em produção, o RAG envolve vários passos. As fontes de conhecimento organizacionais (bibliotecas do SharePoint, documentos PDF, registos de bases de dados, notas de CRM) são indexadas num sistema de pesquisa, tipicamente através de embeddings vetoriais. Quando um utilizador submete uma pergunta, o sistema pesquisa as passagens mais relevantes no índice. O modelo de linguagem gera então uma resposta com base nessas passagens, citando as fontes que usou.
Os requisitos empresariais fundamentais são o controlo de acesso (os utilizadores só devem pesquisar fontes que estão autorizados a ver), a atualidade (o índice deve manter-se atualizado à medida que os documentos de origem mudam) e a citação (as respostas devem referenciar a fonte, de forma a que o resultado possa ser verificado).
RAG versus fine-tuning
Uma pergunta comum é se se deve usar RAG ou fazer fine-tuning de um modelo com dados da organização. O fine-tuning incorpora conhecimento nos pesos do modelo. Melhora o comportamento geral do modelo num domínio, mas não lhe dá acesso a documentos específicos e atuais. O RAG pesquisa numa base de conhecimento viva e pode referenciar um documento atualizado nessa mesma manhã.
Para a maioria dos casos de uso empresariais que envolvem conhecimento proprietário (políticas, contratos, dados de produto, registos de clientes), o RAG é a arquitetura adequada. O fine-tuning é mais relevante para mudar o estilo, o tom ou as capacidades específicas de uma tarefa do modelo, não para o fundamentar em conteúdo organizacional.
Próximo passo
Veja como o GenOS coloca isto em produção para equipas empresariais.