O que é Janela de Contexto?
A janela de contexto é um conceito fundamental na inteligência artificial (IA) que se refere à quantidade máxima de informação que um modelo de IA consegue analisar e manter ativa ao mesmo tempo para gerar uma resposta. É como se fosse a memória de curto prazo da IA, onde tudo o que está dentro dessa janela pode ser usado para interpretar perguntas, manter coerência e responder com precisão.
Como funciona a Janela de Contexto?
A janela de contexto funciona como a “memória de curto prazo” da inteligência artificial. É dentro desse espaço que o modelo reúne tudo o que precisa considerar para gerar uma resposta. Para lidar com esses dados, a IA transforma tudo em tokens, pequenas unidades que representam partes do conteúdo. Cada token ocupa uma parte da janela de contexto, que vai sendo preenchida à medida que novas informações chegam. Quando esse espaço atinge o limite, o sistema descarta os trechos mais antigos para conseguir processar as entradas mais recentes.
O que é Mecanismo de Atenção?
O mecanismo de atenção é o que permite à IA decidir no que prestar atenção dentro da janela de contexto. Ele calcula relações entre todos os tokens disponíveis e atribui “pesos” de importância a cada um. Assim, o modelo consegue conectar ideias distantes no texto, entender referências e manter coerência em respostas longas.
Por que a IA “Esquece” as Coisas?
Quando uma IA parece esquecer algo, na maioria das vezes ela não errou, é porque aquela informação simplesmente saiu da janela de contexto. É como uma conversa humana muito longa. Depois de um tempo, os detalhes do começo se perdem. Com a IA, isso acontece de forma literal. Quando o limite é atingido, as informações antigas são descartadas para dar espaço às novas.
Qual é a Janela de Contexto das IAs?
A janela de contexto não é igual para todas as plataformas de inteligência artificial. Ela varia de acordo com o modelo e a plataforma, já que cada empresa define limites próprios de quanto conteúdo sua IA consegue processar ao mesmo tempo. Alguns exemplos incluem:
- ChatGPT: 16 mil tokens no plano Free, 32 mil nos planos Plus e Business e 128 mil nos planos Pro e Enterprise.
- Gemini: 32 mil tokens no básico e 128 mil tokens no Google AI Plus.
- Claude: 200 mil tokens nos planos pagos e 500 mil tokens no plano Enterprise.
Este conteúdo pode conter links de compra.
Fonte: link