13장. Cache hit ratio 하나로 성공을 선언하지 않는다

cache가 줄인 DB 부하와 추가한 stale·memory·network 비용을 본다. route별 hit, miss latency, eviction, key count, value size, stampede를 측정한다. hit가 높아도 잘못된 값이면 실패다.

TTL jitter, request coalescing, stale-while-revalidate, negative cache를 위험에 맞게 사용한다. cache 장애 때 fallback이 DB를 압도하지 않도록 rate limit과 circuit breaker를 둔다. cold start load test를 별도로 실행한다.