Что такое p99 latency

• p50 (median): половина запросов быстрее, половина медленнее
• p95: 95% запросов быстрее, 5% медленнее
• p99: 99% быстрее, 1% медленнее (tail)
• p99.9: 999 / 1000 — ещё более жёсткий, "three nines"
• Причины p99 выбросов: cold start, GC pause, network retries, DB lock

Response times: 50, 80, 100, 120, 150, ..., 850, 2400 ms
p50 = 120 ms (middle)
p99 = 2400 ms (1-of-100 worst)
p99/p50 ratio = 20× (high tail)

• SLI/SLO
• Core Web Vitals

p99 latency, или 99-й процентиль задержки, представляет собой метрику, использующуюся для оценки времени отклика системы, при котором 99% всех запросов обрабатываются быстрее определенного значения. Эта метрика позволяет выявить крайние случаи задержек, которые могут негативно сказываться на пользовательском опыте. Например, если p99 latency составляет 300 миллисекунд, это означает, что 99% всех запросов обрабатываются за 300 миллисекунд или быстрее, а лишь 1% запросов может занять больше времени.

p99 latency важен для мониторинга и оптимизации производительности веб-приложений и сервисов. В отличие от средних значений, которые могут скрывать проблемы с производительностью, p99 latency фокусируется на наиболее медленных запросах, которые могут негативно влиять на конечных пользователей. Это особенно критично для систем с высоким трафиком и требованиями к быстродействию. Например, в e-commerce платформах, где время отклика напрямую влияет на конверсии, контролирование p99 latency может помочь в выявлении узких мест и оптимизации архитектуры.

Для измерения этой метрики можно использовать различные инструменты мониторинга, такие как Prometheus или Grafana. С помощью этих инструментов можно собирать данные о задержках и визуализировать их в виде графиков. Например, используя Prometheus, можно выполнить запрос:

histogram_quantile(0.99, sum(rate(http_request_duration_seconds_bucket[5m])) by (le))

Этот запрос позволит получить значение p99 latency для HTTP запросов за последние 5 минут.

Рассмотрим практический пример измерения p99 latency на примере приложения, использующего Nginx в качестве веб-сервера. Для начала необходимо установить и настроить инструмент для мониторинга, такой как Prometheus. После этого можно добавить в конфигурацию Nginx следующие директивы для записи времени обработки запросов:

log_format main '$remote_addr - $remote_user [$time_local] "$request" $status $body_bytes_sent "$http_referer" "$http_user_agent" "$request_time"';
access_log /var/log/nginx/access.log main;

Здесь $request_time будет содержать время обработки каждого запроса. После этого необходимо настроить Prometheus для сбора этих данных. Для этого добавляем в конфигурацию Prometheus следующий job:

- job_name: 'nginx'
  static_configs:
    - targets: ['localhost:9090']
  metrics_path: '/metrics'

После успешного сбора данных можно использовать запросы к Prometheus для вычисления p99 latency. Например, вы можете создать график в Grafana, используя следующий запрос:

histogram_quantile(0.99, sum(rate(nginx_http_request_duration_seconds_bucket[5m])) by (le))

Таким образом, вы сможете визуализировать p99 latency в режиме реального времени и принимать меры по оптимизации производительности вашего приложения.