O que é engenharia de contexto?
Um modelo de IA sabe muito sobre o mundo e nada sobre a sua empresa. Toda resposta útil depende do contexto recebido: que dados, que definições, que regras e que ferramentas.
A engenharia de prompts trata da forma de perguntar. A engenharia de contexto trata do que o modelo sabe quando responde. No trabalho de negócio, a segunda costuma pesar mais.
Como funciona a engenharia de contexto?
- Instructions. The system prompt, the standing instructions a model gets before any question, plus examples of good answers when the task needs them. Giving examples is called few-shot prompting, and giving none is zero-shot.
- Definições. O que cada métrica significa e como é calculada, para que o modelo use a matemática da empresa.
- Data. The current, relevant records for the question, retrieved from trusted sources.
- Regras. Políticas e guardrails, como diretrizes de marca ou o que precisa da aprovação de uma pessoa.
- Ferramentas. As ações que o modelo pode executar e as permissões com que são executadas.
- Limites. Apenas o que a tarefa exige, já que contexto em excesso pode piorar as respostas.
Qual é um exemplo de engenharia de contexto?
Duas respostas para a mesma pergunta sobre ROAS
Asked for ROAS by channel, an assistant with no business context picks its own formula and its own date range. The answer looks confident and matches no report in the company.
Com a definição de ROAS, a taxonomia de canais e o calendário fiscal da empresa, o mesmo assistente retorna o número que a área financeira calcularia. Só o contexto mudou.
Engenharia de contexto vs. engenharia de prompts vs. fine-tuning
| Engenharia de prompts | Engenharia de contexto | Fine-tuning | |
|---|---|---|---|
| O que muda | A forma como o pedido é redigido | O que o modelo sabe no momento da resposta | Os pesos do modelo |
| Atualiza quando os dados mudam | Não | Sim, a cada solicitação | Só após novo treinamento |
| Ideal para | Tom e formato | Respostas de negócio precisas e atuais | Estilo ou tarefas especializadas |
Por que a engenharia de contexto é importante?
A maioria das respostas erradas da IA nas empresas não é culpa do modelo. O modelo tinha os dados errados, uma definição desatualizada ou nenhuma definição. Acertar o contexto é a forma mais direta de tornar as respostas da IA confiáveis.
Como Alli faz isso?
Alli Semantic Layer, parte do Alli by PMG, é onde a lógica de negócio de marketing é definida uma única vez: definições de KPI compartilhadas, nomenclatura harmonizada em todas as plataformas e regiões e um dicionário de dados comum. Todas as equipes, ferramentas e agentes de IA do Alli trabalham com essas definições, para que a IA permaneça baseada na lógica com a qual as equipes já concordaram.
Alli Data fornece os dados governados e atuais por baixo, e as skills do Alli4u reúnem as instruções e as ferramentas de que um assistente precisa para uma tarefa específica.
Explorar Alli Semantic LayerPerguntas frequentes sobre engenharia de contexto
Qual é a diferença entre engenharia de contexto e engenharia de prompts?
A engenharia de prompts trata da forma como um pedido é redigido. A engenharia de contexto define que informações, definições, regras e ferramentas o modelo tem quando responde, o que costuma pesar mais na precisão para o negócio.
O RAG é uma forma de engenharia de contexto?
Sim. A retrieval-augmented generation busca documentos ou dados relevantes e acrescenta esse material ao contexto do modelo. A engenharia de contexto também abrange definições, regras e ferramentas.
Contexto demais pode prejudicar as respostas da IA?
Sim. Informações extras e irrelevantes podem desviar a atenção do modelo e tornar as respostas menos precisas. Um bom contexto inclui apenas o que a tarefa exige.
Como uma camada semântica ajuda a IA?
Dá à IA as definições de métricas e a nomenclatura da própria empresa, para que o modelo calcule os números como a empresa calcula, em vez de adivinhar.
What is a context window?
It's how much a model can take in at once, measured in tokens. It covers the instructions, the conversation, and any retrieved data. Windows have grown large, but models still tend to use what's at the start and end of a long context better than what's in the middle. So a bigger window doesn't remove the need to choose what goes in.
Last updated Back to the glossary
