2장. 종단 지연 예산을 분해한다

브라우저 관측 800ms를 DNS·TLS·CDN·ingress·API·DB·외부 호출·전송으로 나눈다. 각 하위 예산의 p95를 더하면 종단 p95가 되는 것은 아니므로 trace 분포로 검증한다. 그래도 예산은 팀 경계와 timeout을 대화하는 출발점이다.

client deadline보다 server timeout 합이 길면 사용자는 실패했는데 서버는 일을 계속한다. cancellation, retry, queue 대기를 포함해 최악 시간을 계산한다. 성공 latency만 보지 않고 timeout·cancelled 요청의 서버 비용을 측정한다.