IA generativa é um dos tipos de inteligência artificial
Quando se fala de “IA” hoje em dia, quase sempre está a falar-se de “IA generativa”. São coisas diferentes. A IA generativa é uma fatia específica de um campo mais amplo.
A IA generativa é uma família de modelos estatísticos que produz texto, imagem, áudio ou código a partir de uma instrução. Os mais usados são os LLMs (Large Language Models), que geram texto um token de cada vez, escolhendo sempre o próximo com base em probabilidades. Não consultam uma base de dados: constroem a resposta.
ML sem ser generativa
Fora de IA
Há muita IA que não é generativa. Filtros de spam (classificação), previsão de procura para encomendas de stock (regressão) e sistemas de recomendação no Netflix ou na FNAC (ranking) são todos IA. Nenhum gera conteúdo novo: classificam, preveem ou ordenam.
São IA generativa o ChatGPT, o Claude, o Gemini, o Microsoft Copilot, o Midjourney, ou o Suno, entre outros. Misturam-se duas dimensões: a modalidade que produzem (texto, imagem, áudio, código) e a interface por onde os acedes. A interface pode ser uma conversa de chat, uma API (Application Programming Interface, a forma programática de chamar o modelo a partir de outro software), ou um plugin numa aplicação como o navegador ou o Word.
Um LLM é um gerador de tokens
Há uma única ideia que, depois de assente, faz tudo o resto deste guia fazer sentido. Um LLM produz texto um pedaço de cada vez, sempre escolhendo o próximo com base em probabilidades. Esses pedaços chamam-se tokens. O modelo não consulta um índice nem procura uma resposta numa base de dados. Constrói a resposta token a token, no momento.
Um token aproxima-se de uma palavra sem ser uma. Em português, corresponde aproximadamente a 3 ou 4 caracteres. Uma frase curta como “Olá, tudo bem?” tem 5 a 6 tokens. Uma palavra rara ou um nome próprio pode ocupar vários tokens; um sinal de pontuação ocupa quase sempre um sozinho. Tudo o que entra no modelo (pergunta, histórico, ficheiros, instruções de sistema) é convertido em tokens por um componente chamado tokenizer.
Os tokens importam por duas razões. A janela de contexto é medida em tokens, e os modelos de IA, quando acedidos por APIs, cobram por token (de entrada e de saída).
Como o modelo escolhe o próximo token
Em cada passo, o modelo olha para tudo o que está no contexto, calcula uma distribuição de probabilidades sobre todos os tokens possíveis no vocabulário, e escolhe um. Adiciona-o ao contexto e repete. Quando começa uma frase, ainda não sabe como ela vai acabar.
Prompt em tokens
Cada caixa é um token. Palavras frequentes ficam num só, palavras mais raras partem-se em pedaços. Os · marcam espaços.
Probabilidades do próximo token
O modelo amostra "23%". Outra chamada, com a mesma frase, pode amostrar outro.
Porque é que isto importa
Três consequências práticas:
- O modelo pode escrever com confiança total um facto falso. Se a sequência mais provável não tem suporte factual, o modelo não tem um botão “não sei” por omissão. Aparece como alucinação.
- A mesma prompt pode dar respostas diferentes. A escolha é amostrada de uma distribuição; o parâmetro de temperatura controla quão variada ela fica, como veremos na próxima secção.
- Há um limite máximo de tokens por conversa. Prompt, histórico, ficheiros e resposta vivem dentro de uma janela finita.
Construir uma resposta token a token, sem consultar um índice, é o que define um LLM. Se há uma ideia para lembrar deste guia, é esta. Tudo o que explicamos a seguir é consequência disto.
Porque é que a mesma pergunta dá respostas diferentes
Se já fizeste a mesma pergunta duas vezes ao ChatGPT, com horas de diferença, sabes que as respostas raramente são iguais. Por vezes mudam só na ordem das frases; por vezes mudam na conclusão. Não é bug.
A geração é probabilística por desenho. Em cada passo, o modelo faz uma amostra da distribuição de probabilidades dos próximos tokens. O parâmetro que controla quão aleatória é essa amostragem chama-se temperatura. Temperatura próxima de zero aproxima-se de determinístico: a mesma pergunta dá quase sempre a mesma resposta, mais repetitiva e “aborrecida”. Temperatura alta achata as probabilidades, abrindo espaço a tokens menos óbvios, e dá respostas mais variadas e por vezes mais criativas.
A maioria das interfaces de chat (ChatGPT, Claude, Gemini) usa por omissão temperatura acima de zero, para as respostas soarem menos robóticas. Por isso não consegues “fixar” a saída.
Implicação prática: se queres comparar a qualidade de dois prompts, uma única resposta não chega. O ruído da amostragem encobre a diferença real entre prompts. Para trabalho reproduzível (avaliar prompts, gerar relatórios automatizados), pode ser necessário usar a API diretamente com temperatura a zero e, se o modelo o suportar, uma seed fixa (uma semente numérica que ancora a aleatoriedade: para a mesma seed e a mesma prompt devolve sempre a mesma resposta). Para brainstorm, deixa a temperatura alta.
A janela de contexto: o limite real
A janela de contexto é o número máximo de tokens que o modelo consegue “ler” e gerar numa única chamada. É um dos limites que mais condiciona a qualidade do que recebes do modelo.
Janela de contexto · ~200 000 tokens
Tudo o que está dentro conta para o limite. O que está fora não existe para o modelo nesta chamada.
- System prompt ~800
- Mensagens da conversa actual ~38 000
- Ficheiros anexados ~52 000
- Resultados de tools ~6 000
- Resposta em geração ~2 400
Soma de tudo ≤ 200 000 tokens
Fora da janela
- Conversas anteriores sem memória ativa
- Dados de treino parados na data de cutoff
- Documentos não anexados ficheiros que ainda não colaste
O modelo não tem como ler isto enquanto não entrar na janela.
O que conta e o que não conta
A regra é simples de enunciar e fácil de esquecer. Conta para a janela tudo o que está numa conversa: a prompt de sistema (as instruções que a interface envia sempre ao modelo), o histórico completo da conversa atual, os ficheiros que anexaste (convertidos em tokens), imagens (em tokens visuais), os resultados das ferramentas que o modelo invocou, e a resposta que está a gerar agora.
Não conta o que viveu apenas em conversas anteriores sem memória ativa. Não conta o que o modelo “viu” durante o treino (esse conhecimento está incluído no funcionamento interno do modelo, e não é “lido” como tokens em cada chamada). Não conta um documento que existe no Google Drive mas que não anexaste. Se queres que o modelo use uma informação, ela tem de estar dentro da “caixa” naquela chamada.
| O que entra na janela | O que NÃO entra |
|---|---|
| Prompt de sistema da interface | Conversas anteriores sem memória ativa |
| Mensagens da conversa atual | Ficheiros não anexados (mesmo na cloud) |
| Ficheiros anexados nesta conversa | Conhecimento do treino |
| Imagens anexadas (em tokens visuais) | Sites não consultados via web browsing |
| Resultados de ferramentas desta conversa | Documentos no teu Drive sem indexação |
| A resposta que está a ser gerada | O que disseste a outro modelo |
Ordens de grandeza hoje
Os modelos comerciais mais usados em 2026 vivem aproximadamente nestas ordens de grandeza: a família GPT-4 ronda os 128 mil tokens; a família Claude ronda os 200 mil; o Gemini oferece janelas que chegam ao milhão ou dois milhões. Como referência grosseira, 200 mil tokens em português equivalem a cerca de 150 a 170 mil palavras (perto de um romance médio!). Estes números mudam constantemente e têm vindo a aumentar: deixamos só a nota para ter noção da ordem de grandeza atual.
O que acontece quando se excede a janela
Três comportamentos típicos:
- Truncagem silenciosa do início. A interface deita fora mensagens antigas para caber, sem avisar. Começas a notar que o modelo “esqueceu” coisas que disseste no início.
- Erro explícito. O sistema devolve um erro específico. É frequente quando colas um ficheiro grande de uma vez.
- Janela deslizante. A interface mantém o início (instruções importantes) e o fim recente, e corta o meio.
Todos têm o mesmo efeito: perda silenciosa de informação.
Regra prática
Uma conversa longa degrada-se. Quatro hábitos evitam a maioria dos problemas:
- Começa uma conversa nova quando mudas de problema. A conversa antiga só ocupa tokens que vão competir com a resposta nova.
- Cola só o essencial. Não carregues um PDF de 300 páginas; cola as 3 secções relevantes.
- Para conteúdo persistente, usa memória externa. Um documento partilhado, uma base de notas, ou um servidor MCP (Model Context Protocol, um padrão aberto para ligar LLMs a ferramentas externas, explicado mais à frente).
- Verifica “quanto custa” em tokens o teu input típico. Quase todas as ferramentas têm um contador; a OpenAI publica um tokenizer que dá uma ideia rápida.
Memória: porque é que um LLM não se lembra de ti
“O ChatGPT lembra-se do meu nome desde a semana passada. Quer dizer que afinal tem memória?” A resposta é mais subtil do que parece, e vale a pena perceber o que se passa por baixo.
Sem memória por omissão
Cada chamada a um LLM não tem estado. O modelo é uma “função pura”: recebe tokens à entrada, devolve tokens à saída, e esquece tudo. Não há “ficheiro em disco” onde grave o que viu. Se chamares o mesmo modelo duas vezes sem lhe dar nada do passado, a segunda chamada não tem qualquer informação da primeira.
O que o modelo “sabe” numa conversa vem dos tokens que estão na janela de contexto naquele instante. É por isso que a janela de contexto condiciona o comportamento do modelo na prática.
O que as interfaces chamam de “memória”
O ChatGPT Memory, os Projects do Claude, os Gems do Gemini com instruções persistentes, o sistema de memória do Microsoft Copilot. São todos pequenos armazéns que a interface (a aplicação que usamos para o chat) mantém entre conversas. Quando começas uma nova conversa, a interface vai buscar essas notas e injeta-as na prompt de sistema sem te mostrar. O modelo, em cada chamada, está só a ler tokens; do ponto de vista dele, só há esse contexto.
Isto compete pelo mesmo orçamento de tokens que tudo o resto. Quanto mais notas guardadas, menos espaço resta para o trabalho efetivo.
Implicação para o dia a dia
Tudo o que queres que o LLM use tem de estar num de três sítios: nos “pesos” do modelo (os parâmetros internos que resultam do seu treino), no contexto da conversa (escrito agora ou injetado pela interface), ou acessível via ferramenta. Quando alguém te diz “o ChatGPT lembra-se de mim”, quer dizer “a interface guardou notas sobre mim e injeta-as a cada conversa”. É importante ter esta diferença em mente para evitar expectativas erradas quando trabalhamos com estas aplicações.
Ferramentas: quando o modelo deixa de estar sozinho
Até aqui, descrevemos um LLM como um gerador de tokens confinado ao contexto. As ferramentas mudam isso. Vale a pena perceber o mecanismo, porque é a base do que se chama hoje “agentes de IA” e do ecossistema MCP.
O problema que as ferramentas resolvem
Um LLM puro tem três limitações estruturais. Não acede a informação em tempo real. Não executa código. Não interage com sistemas externos (não envia emails, não cria eventos no Google Calendar). As ferramentas são a ponte para fora dessa caixa.
Como funcionam
- 1 Utilizador
Pergunta
"Qual é a taxa de IVA aplicada a serviços digitais em Portugal?"
- 2 Modelo
Emite chamada de ferramenta
pesquisa_web({ query: "iva servicos digitais portugal" }) - 3 Sistema
Executa a pesquisa
Consulta o portal da AT. Devolve o excerto relevante e o URL da fonte.
- 4 Modelo
Lê o resultado
Junta o excerto ao contexto e gera a resposta com a fonte citada.
- 5 Utilizador
Resposta final
"23%, conforme portal AT. Fonte: at.gov.pt/…"
Com ferramentas disponíveis, o modelo pode, em cada passo, gerar texto normal para o utilizador ou emitir uma chamada a uma ferramenta (uma instrução estruturada do tipo {"tool": "pesquisa_web", "args": {"query": "taxa IVA serviços digitais"}}). O sistema à volta do modelo (a aplicação de chat, a API, o cliente MCP) executa, devolve o resultado ao modelo como mais tokens no contexto, e o modelo continua a gerar a resposta. O ciclo pode repetir-se várias vezes na mesma resposta.
Os cinco passos típicos:
- O utilizador pergunta (“qual é a taxa de IVA aplicada a serviços digitais para um cliente em Itália?”).
- O modelo emite uma chamada de ferramenta de pesquisa.
- O sistema executa, encontra a página da Autoridade Tributária ou da Comissão Europeia, devolve o conteúdo.
- O modelo lê esse conteúdo (agora dentro do contexto).
- O modelo gera a resposta final, com citação da fonte.
Três famílias de ferramentas
- Ferramentas embutidas na interface. Por exemplo, navegação web ou geração de imagens. ChatGPT, Claude e Gemini trazem estas (e outras capacidades) pré-configuradas.
- Chamada de funções através de API. Quando integras um LLM no teu sistema, expões funções (
criar_fatura(cliente, items),marcar_consulta(medico, data)) e o modelo pode chamá-las. - MCP (Model Context Protocol). Protocolo aberto, lançado pela Anthropic e adotado entretanto por OpenAI, Google e a maioria dos clientes de IA, que normaliza como uma ferramenta fica disponível a qualquer LLM.
O que muda com ferramentas
Sem ferramentas, o LLM é uma caixa fechada que inventa para preencher buracos de conhecimento. Com ferramentas, o modelo pode consultar factos, executar ações e verificar antes de afirmar. É a diferença entre IA generativa como chatbot (responde do que sabe) e como assistente operacional (age sobre sistemas reais). Quando esse assistente passa a decidir sozinho a sequência de ferramentas que vai chamar para cumprir um objetivo, está-se já a falar de um agente.
Limitações que tens de conhecer
Três modos de falha aparecem em todos os LLMs. Não desaparecem com modelos melhores; vão sendo mitigados pelos laboratórios e pela maneira como usamos os modelos.
Alucinações
Uma alucinação é texto gerado com confiança e sem apoio factual. O modelo cita uma lei que não existe, atribui um livro ao autor errado, inventa uma data. Não é mentira no sentido humano; é o resultado lógico de um sistema que escolhe sempre o próximo token estatisticamente mais provável, mesmo sem informação fiável para a pergunta. Sem um mecanismo interno que diga “não sei”, o modelo completa a frase com aquilo que soa plausível.
Três mitigações que funcionam na prática:
- Pede fontes explicitamente. Incluir instruções como “cita a referência” baixa a taxa de invenção em tópicos verificáveis.
- Dá ao modelo acesso a ferramentas de pesquisa e a dados. Se o modelo pode procurar antes de responder, deixa de adivinhar para temas com informação online ou nos teus documentos. O padrão chama-se RAG (Retrieval-Augmented Generation): em vez de confiar no que o modelo aprendeu, o sistema procura os documentos relevantes e injeta-os no contexto antes de o modelo responder. Para os mais curiosos a nível técnico, ver a explicação da Anthropic sobre retrieval-augmented generation.
- Reduz a temperatura para texto factual. Para relatórios e descrições jurídicas, definir a temperatura a zero reduz a aleatoriedade que alimenta as alucinações.
Data de corte de treino
Todos os LLMs têm uma data após a qual os dados de treino param, o corte (ou cutoff em inglês). Tudo o que aconteceu depois (notícias, decretos-lei novos, novos preços) não está nos parâmetros do sistema. Para Portugal, isto importa: alterações ao IVA, novas regras da Autoridade Tributária, mudanças no Código do Trabalho ou decisões recentes do Tribunal Constitucional podem ser todas posteriores à data de corte do modelo que estás a usar. Sem ferramentas, o modelo responde com base na versão que conhecia, sem saber que está desatualizada.
A mitigação direta é dar acesso a ferramentas de vários tipos que vão buscar informação atualizada (ou específica da empresa).
Viés
Os modelos refletem vieses dos dados em que foram treinados, e a maior parte desses dados é em inglês americano. Para utilizadores em Portugal, o sintoma mais visível é linguístico: o modelo, sem instruções específicas, pode tender para português do Brasil (“você”, “celular”, “tela”, “arquivo”). Os exemplos também podem cair em contextos americanos (dólares, leis federais, organismos como o IRS no lugar da AT), pressupondo sistemas que não existem cá. Há também vieses sociais e culturais mais difíceis de detetar.
A correção parcial passa por prompts explícitas: pedir a variante europeia do português, indicar contexto local (Portugal, RGPD, AT, NIF, IUC), dar exemplos do registo que queres (por exemplo, “responde em português europeu, com vocabulário e ortografia de Portugal”).
Para ir mais fundo (recursos em inglês)
Material em inglês, ordenado por exigência crescente: da intuição visual ao paper fundador.
- 3Blue1Brown, Neural Networks series, episode on transformers (vídeo). Intuição visual para o mecanismo de atenção, sem matemática a sério.
- Jay Alammar, The Illustrated Transformer (blog post). Referência ilustrada clássica para entender a arquitetura.
- Andrej Karpathy, Let’s build GPT: from scratch, in code, spelled out (vídeo). Construção do zero em código; longa, lenta, excelente.
- Hugging Face, NLP Course, capítulos 1 e 2 (curso aberto). Material formativo aberto, mais rigoroso.
- Anthropic, Prompting documentation & Core concepts (documentação oficial). Boas explicações sobre janela de contexto e uso de ferramentas.
- OpenAI, geração de texto e engenharia de prompts (documentação oficial). Referência prática.
- Stanford CS25, Transformers United (palestras gravadas). Para quem quer ir para o nível académico.
- Vaswani et al., Attention Is All You Need (paper, arXiv). O paper fundador. Denso, mas é a fonte.
Próximos passos
Os outros pilares dos fundamentos (escrever prompts, agentes de IA) pegam nas peças deste guia e levam-nas mais longe.