Glossário · Fundamentos de IA
O que é Janela de contexto?
Janela de contexto é a quantidade de texto, medida em tokens, que um modelo de linguagem consegue considerar de uma vez ao gerar uma resposta. Funciona como a memória de trabalho do modelo.
Também chamado de: Context window.
- Publicado em
- Leitura
- 1 min
A janela de contexto é diferente dos dados de treino: é o que o modelo "tem à mão" naquela conversa, incluindo a pergunta, as instruções e os documentos recuperados. Janelas maiores permitem lidar com textos mais longos; quando o limite é atingido, parte do conteúdo fica de fora.
Exemplo
Num sistema de RAG, os trechos recuperados de páginas da web precisam caber na janela de contexto junto com a pergunta.