로컬 캐시 & 분산 캐시 이해하기

🔖 먼저 읽으면 좋은 글

캐시(Cache) 개념 쉽게 정리하기

자주 사용하는 데이터나 반복적으로 조회되는 데이터를 캐시에 저장하면,

데이터베이스를 호출하지 않고도 데이터를 빠르게 반환할 수 있습니다. 

 

이 글에서는 캐시를 로컬 캐시와 분산 캐시로 나누어 알아보고자 합니다.

---

✅ 로컬 캐시

로컬 캐시는 각 서버마다 내장 캐시를 사용하는 전략입니다.

즉, 로컬 캐시는 애플리케이션 서버 내부에 존재합니다.

 

Spring에서는 애플리케이션 서버의 JVM 메모리에 데이터를 저장합니다.

Spring에서 자주 쓰는 로컬 캐시로는  EhCache, Caffeine, Guava Cache 등이 있습니다.

• ✅ 매우 빠른 속도: 네트워크를 거치지 않고, 서버 내부의 메모리에서 바로 데이터를 읽을 수 있습니다.
• ✅ 네트워크 지연이나 장애에 영향을 받지 않음: 외부 시스템과의 통신이 필요 없으므로 지연이 없습니다.
• ✅ 구현이 비교적 간단하고 비용이 저렴합니다.

그러나 서버가 여러 대 존재하는 경우 문제가 있을 수 있습니다.

• ⚠️ 서버 간 데이터 불일치: 여러 서버가 각각 로컬 캐시를 사용할 경우, 캐시 간의 데이터 공유가 자동으로 되지 않습니다.

또한 로컬 캐시는 소속된 애플리케이션에 전부 의존하므로 서버의 생명 주기를 따르고, 메모리 용량 제한도 있습니다.

• ⚠️ 데이터 휘발성: 서버나 애플리케이션이 재시작되면 캐시 데이터가 사라집니다.
• ⚠️ 용량 제한: 로컬 캐시는 서버의 메모리 내에 위치하므로 대용량 데이터를 캐싱하기에는 부적합합니다.

---

로컬 캐시만 사용하는 건 한계가 있습니다.

대뮤 서비스에서는 여러 서버를 사용하는 분산 환경을 따르기 때문입니다.

여러 서버가 동시에 동일한 데이터를 참조할 때, 각 서버에 달린 로컬 캐시만 사용하면 서버 간 데이터 불일치 문제가 발생할 수 있습니다.

모든 서버가 항상 동일한 데이터에 접근할 수 있게 하기 위해 분산 캐시가 필요합니다.

✅ 분산 캐시

 

분산 캐시는 서버 밖에 있는 별도의 외부 캐시 서버입니다.

애플리케이션 서버들과 연결되어 모든 애플리케이션 서버에서는 캐시에서 같은 데이터를 읽을 수 있습니다.

대표적인 분산 캐시로는 Redis, Memcached 등이 있습니다.

 

이러한 분산 캐시는 여러 대의 캐시 서버에 나누어 데이터를 분산 저장하여 대량의 데이터를 효율적으로 캐싱합니다.

각 캐시 서버는 네트워크를 통해 캐시 데이터를 공유합니다.

 

분산 캐시에서의 데이터 공유
여러 애플리케이션 서버가 캐시 클러스터에 접근합니다.
즉 모든 WAS 서버가 같은 분산 캐시 데이터를 공유합니다.

캐시 클러스터 내에는 분산 캐시 서버가 '노드'라는 이름으로 여러 대 존재합니다.

• ✅ 데이터 분산 저장: 데이터를 여러 서버에 나누어 저장하여, 한 서버에 부하가 집중되는 것을 방지합니다.
• ✅ 확장성: 노드(캐시 서버)를 추가하여 캐시 용량과 성능을 쉽게 확장할 수 있습니다.
• ✅ 데이터 일관성: 여러 서버가 동일한 캐시 데이터를 공유하므로, 서버 간 데이터 불일치 문제를 줄일 수 있습니다.
  
  • 분산 캐시도 완벽한 실시간 동기화보다는 일정한 시간 내에 모든 노드가 동일한 데이터 상태로 수렴하게 됩니다. 이를 최종적 일관성(Eventual Consistency)이라고 합니다.
• ✅ 고가용성: 일부 노드에 장애가 발생해도, 나머지 노드가 계속 데이터를 제공하여 안정적입니다.

 

분산 캐시 역시 주의할 점이 있습니다.

 

• ⚠️ 상대적으로 느린 속도: 네트워크를 통한 데이터 접근이 필요하므로 로컬 캐시에 비해 느립니다.
• ⚠️ 복잡성: 데이터 일관성 관리나 여러 대의 캐시 서버를 관리해야하므로 노드 장애 발생 시 복구 전략 수립이나 네트워크 병목 등 유지보수에 신경써야 합니다.
• ⚠️ 비용 증가: 추가 서버가 필요하므로 로컬 캐시에 비해 많은 비용이 필요합니다.

---

❓어떤 캐시를 사용해야 할까?

🏠 로컬 캐시	단일 서버 환경
	빠른 응답 속도 중요한 서비스
	변경이 적고, 자주 조회되는 데이터 (데이터 일관성이 실시간으로 맞지 않아도 되는 경우)
🛰️ 분산 캐시	캐시 데이터 일관성이 중요할 때 (동일한 캐시 데이터를 여러 서버에서 공유해야 할 때)
	확장성이 중요한 서비스
	대규모 트래픽이 있는 서비스

 

각 캐시를 사용하는 예시입니다.

• 로그인 세션 : 분산 캐시
  • 분산 환경에서 각 서버가 어느 사용자가 로그인한 사용자인지 알고 인가를 내리기 위해서는 로그인 세션 정보가 공유되어야 하므로 분산 캐시를 사용합니다.
• 카테고리 조회 : 로컬 캐시
  • 변경이 거의 없고, 자주 조회되므로 빠른 응답이 중요하므로 로컬 캐시를 사용합니다.
• 실시간 인기글 : 분산 캐시
  • 여러 서버에서 실시간으로 집계하고 공유해야 하는 데이터는 분산 캐시를 사용합니다.

 

---

참고자료

 

[Spring] 로컬 캐시(Local Cache) 도입으로 성능 개선하기

분산 시스템에서 로컬 캐시 활용하기

로컬 캐싱과 분산 캐싱

[Spring] 로컬캐시 vs 분산캐시