WEBBOOK CHAPTER

외부 인터페이스 엔지니어링: 7장. Rate Limit과 Circuit Breaker

7장. Rate Limit과 Circuit Breaker

limit, remaining, reset, Retry-After header와 공급자 문서를 본다. account 전체, app, user, endpoint limit을 구분한다. local token bucket으로 headroom을 보호한다.

circuit breaker는 장애를 고치는 기능이 아니라 실패 호출을 줄여 복구 시간을 주는 기능이다. operation별 threshold, open duration, half-open probe를 둔다. login과 analytics가 같은 breaker를 공유하지 않게 한다.