10장. TCP·QUIC·Timeout

DNS 성공 뒤 connect, TLS, request upload, TTFB, download 시간을 나눈다. connect timeout은 routing/firewall/listener, TTFB는 origin wait, read timeout은 streaming·proxy timeout을 의심하되 증거로 확인한다.

client, CDN, LB, gateway, app, DB timeout을 budget으로 설계한다. 바깥 timeout이 먼저 끝나는데 안쪽 작업이 계속되면 자원 누수와 중복 side effect가 생긴다. cancellation 전파와 idempotency를 시험한다.

retry는 timeout을 늘리고 장애를 증폭할 수 있다. 전체 deadline 안에서 횟수 제한, exponential backoff+jitter, retryable condition을 둔다.