Engenharia de IA
Estudo sobre como modelos de linguagem funcionam por dentro e como construir aplicações com eles: da estatística da linguagem até avaliação, prompts, RAG, agentes e arquitetura.
- 01 De Sherlock ao GPT: a estatística por trás da linguagem De Sherlock Holmes à entropia de Shannon: como a estatística da linguagem levou aos tokens e aos modelos de linguagem atuais. 7 min
- 02 O que existe dentro de um modelo base Dados de treinamento, o peso do inglês, a arquitetura transformer, o mecanismo de atenção e o que é a janela de contexto. 9 min
- 03 Parâmetros, computação e os limites da escala O que são parâmetros, quanto custa treinar um modelo, a lei de Chinchilla e os gargalos de dados e energia. 8 min
- 04 Pós-treinamento e amostragem: por que a IA responde diferente a cada vez Como o modelo é ajustado para conversar e como temperatura, top-k e top-p explicam inconsistências e alucinações. 9 min
- 05 Como medir um modelo: entropia, perplexidade e IA como juiz Entropia, entropia cruzada, perplexidade e correção funcional, e como usar uma IA como juiz sabendo dos limites e vieses dela. 10 min
- 06 Critérios de avaliação: sua IA realmente ajuda o negócio? Capacidade de domínio, consistência factual, seguir instruções, custo e latência: os critérios para saber se uma aplicação de IA entrega valor. 6 min
- 07 Escolhendo um modelo: API, código aberto e benchmarks Como escolher um modelo para a sua aplicação: API ou hospedagem própria, rankings públicos e o problema da contaminação de benchmarks. 10 min
- 08 Do pipeline de avaliação ao primeiro prompt Como montar um pipeline de avaliação ligado ao negócio e os fundamentos da engenharia de prompt: partes do prompt, few-shot e contexto. 11 min
- 09 Boas práticas de engenharia de prompt Instruções claras, persona, exemplos, decomposição de tarefas e cadeia de pensamento, mais os ataques de prompt que sua aplicação precisa prever. 9 min
- 10 RAG: dando contexto ao modelo O que é RAG, por que contexto longo não acaba com ele e como funcionam a busca por termos, por embeddings e os bancos vetoriais. 13 min
- 11 RAG na prática: otimizando a recuperação Busca híbrida, fragmentação, reranking, reescrita de consulta, recuperação contextual e RAG com imagens e tabelas. 9 min
- 12 Agentes: ferramentas e planejamento O que é um agente, as ferramentas que ampliam o que ele faz e como ele planeja, valida e executa uma tarefa. 13 min
- 13 Agentes: execução, falhas e memória Chamada de função, tipos de plano, reflexão, as falhas mais comuns de um agente, como ele guarda memória e onde entra o ajuste fino. 12 min
- 14 Arquitetura de uma aplicação de IA Como uma aplicação de IA cresce: contexto, guardrails, roteador, gateway, cache, orquestração e feedback do usuário. 11 min