4장. 동기 호출의 예산을 나눈다

종단 p95 300ms라면 API 내부가 300ms를 모두 쓸 수 없다. CDN·인증·네트워크·DB·직렬화·queueing에 예산을 배분한다. 하위 호출 timeout은 상위 timeout보다 짧아야 하며, 재시도 횟수와 backoff를 포함한 최악 시간이 요청 마감 안에 들어와야 한다.

client deadline 800ms
  edge/auth 120ms
  reservation service 400ms
    database 180ms
    external dependency 120ms
  response/network reserve 280ms

평균값으로 예산을 맞추지 않는다. timeout은 느린 성공을 실패로 바꾸는 정책이므로 사용자와 서버 양쪽 결과를 추적한다. 취소된 요청이 하위 시스템에서 계속 일하지 않도록 cancellation 전달 여부도 확인한다.