Latência percentil ou média: qual métrica otimizar

A média de latência é confortável. Um número só, fácil de acompanhar. Só que ela esconde os picos que arruínam a experiência de quem espera. Já o percentil 99 mostra a cauda, mas pode levar a otimizações caras para um grupo pequeno. A escolha entre latência percentil e média depende do que você quer proteger: a percepção da maioria ou a estabilidade do sistema.

O que cada métrica revela

A média soma todas as requisições e divide pelo total. Em distribuições assimétricas, poucas requisições muito lentas puxam o valor para cima. O percentil 99 ignora 99% dos casos e foca nos 1% mais lentos. Na prática, a média pode ser 200 ms enquanto o P99 é 1,2 s. O usuário que espera 1,2 s não se importa com a média.

Quando a média ainda serve

Para planejamento de capacidade, a média ajuda a estimar carga. Se o sistema processa 1.000 requisições por segundo e a média é 150 ms, você dimensiona recursos com base nisso. Mas acompanhar só a média em produção é arriscado: um aumento de 10% na média pode significar que o P99 dobrou.

Quando o percentil é indispensável

Sempre que a experiência do usuário estiver em jogo. P95 e P99 capturam a lentidão que a média esconde. Em e-commerce, por exemplo, o P99 do checkout impacta diretamente a conversão. A média pode estar ótima, mas se 1% das compras travam, a receita sente. O custo de otimizar o P99 é maior, então priorize onde a cauda dói mais.

Tabela comparativa

| Critério | Média | Percentil (P95/P99) | | --- | --- | --- | | Sensibilidade a picos | Baixa | Alta | | Facilidade de interpretação | Alta | Média | | Custo de otimização | Menor | Maior | | Uso típico | Capacidade | Experiência do usuário |

Veredito

Para diagnosticar a experiência real e agir sobre a cauda, escolha percentis. Para dimensionar infraestrutura e ter uma visão geral, a média ainda tem seu lugar. O ideal é combinar as duas: a média para capacidade, o P99 para o que o usuário sente.

FAQ

O que é latência percentil?

É o valor abaixo do qual uma porcentagem das requisições se completa. O P95, por exemplo, indica que 95% das requisições foram mais rápidas que aquele tempo. Ajuda a ver a cauda que a média esconde.

Por que a média pode enganar?

Porque distribuições de latência costumam ser assimétricas. Poucas requisições muito lentas elevam a média, mas não representam a maioria. Ao mesmo tempo, a média pode parecer boa enquanto o P99 está péssimo.

Qual percentil usar?

Depende do serviço. P95 é comum para APIs. P99 para sistemas críticos. P99,9 para infraestrutura de grande escala. O importante é escolher um e acompanhar a tendência, não o valor absoluto.

Posso otimizar só o P99?

Não. Otimizar exclusivamente a cauda pode piorar a média se você adicionar complexidade. O ideal é monitorar ambos e agir quando a média sobe ou o P99 dispara.

Média e percentil medem a mesma coisa?

Medem a mesma latência, mas com recortes diferentes. A média é um resumo único. O percentil é uma posição na distribuição. Um não substitui o outro; complementam-se.