Ecossistema de Modelos Abertos & Hardware Sizing

Ecossistema de Modelos Abertos & Hardware Sizing: 12 aulas em 3 módulos da formação Formação em Infraestrutura Soberana & LLMs Locais.

Módulos e aulas

Landscape de Modelos Abertos 2026: Llama, Mistral, Qwen e Emergentes

Nível 3 · 4 aulas

  1. Panorama de Modelos Abertos & Pesos Abertos em 2026
  2. Arquiteturas Densas vs. Mixture of Experts (MoE) em LLMs
  3. Modelos Abertos Especializados: Código, Raciocínio e Visão
  4. Licenciamento Comercial, Governança e Auditoria de Pesos

VRAM, KV-Cache e Arquiteturas GPU para LLMs

Nível 3 · 4 aulas

  1. Cálculo Preciso de VRAM: Pesos do Modelo e Precisões Numéricas
  2. Dimensionamento de KV Cache e Concorrência de Usuários
  3. Arquiteturas de GPU para Inferência: Ada Lovelace, Hopper e Blackwell
  4. Planejamento de Capacidade e Arquitetura de Hardware On-Premise

Cloud GPU Provisioning: RunPod, Lambda Labs e Bare Metal

Nível 3 · 4 aulas

  1. Provisionamento de Instâncias GPU em Nuvem (RunPod, Lambda, Hetzner, Vast)
  2. Instalação e Configuração de Drivers NVIDIA, CUDA Toolkit e cuDNN
  3. Armazenamento Persistente, Network Volumes e Cache de Modelos
  4. NVIDIA Container Toolkit e Imagens Docker Otimizadas para LLMs