Medição de Latência: Time to First Token (TTFT) e Tokens por Segundo (TPS) — aula do módulo Guardrails & Testes de Carga, na trilha Construindo um Test…
Leitura de aproximadamente 8 minutos.
Módulo: Guardrails & Testes de Carga · Curso: Construindo um Test Harness Proprietário · Formação: Formação IA Harness: Test & Evaluation Harness para IA
O conteúdo desta aula é exclusivo para alunos da formação. A ementa acima descreve o que ela cobre.