Em aplicações modernas de Processamento de Linguagem Natural, usando Grandes Modelos de...

Q906136 | Engenharia de Software, Ciência de Dados Manhã, BNDES, CESGRANRIO, 2024

Em aplicações modernas de Processamento de Linguagem Natural, usando Grandes Modelos de Linguagem (Large Language Models – LLM) é comum a necessidade de usar informações relevantes que estão em documentos novos e privados, que não foram usados no pré-treinamento dos modelos de LLM. Considerando que esses documentos podem ser longos e em grande quantidade, que o tamanho do contexto usado na chamada à Application Programming Interface (API) da LLM é limitado, e ainda pensando que os custos de processar são muitas vezes calculados por quantidade de tokens, foi desenvolvida a técnica conhecida como Retrieval Augmented Generation (RAG).
Considerando-se esse contexto, qual é a característica da técnica RAG?

a) Compara a resposta da LLM aos documentos recuperados para verificar seu alinhamento com a resposta desejada.
b) Refina a LLM previamente com base nos documentos, evitando custos adicionais por contexto.
c) Realiza uma tarefa de recuperação de informação para selecionar as partes de documentos que devem ser enviadas dentro do contexto.
d) Revisa localmente todas as possibilidades combinatórias das partes de documentos escolhendo um número mínimo ótimo, reduzindo assim o custo de análise.
e) Usa chamadas recursivas a LLM para enviar todas as partes necessárias do documento.