5장. Timeout·Retry·Backoff

전체 사용자 deadline에서 각 dependency budget을 배분한다. retry마다 새 timeout을 온전히 주면 전체 응답이 폭증한다. 남은 deadline을 확인한다.

safe/idempotent operation 또는 idempotency key가 있는 요청만 자동 retry한다. 429의 Retry-After를 존중하고 exponential backoff+jitter, max attempt, concurrency limit을 둔다. 모든 instance가 동시에 retry하지 않게 한다.