캐시(Cache) 개념 쉽게 정리하기

🚀 캐시(Cache)란?

지금까지 데이터가 필요할 때 데이터베이스에서 직접 조회해왔습니다.

개발을 공부해봤다면 애플리케이션 성능은 I/O 작업의 영향이 크다는 말을 들어봤을 겁니다.

그만큼 잦은 DB 접근은 부담이 되며 속도도 느립니다.

 

그렇다면, 자주 조회하는 데이터를 더 빨리 조회할 수 있는 방법이 없을까요?

 

바로 캐시가 그 방법입니다.
캐시(Cache)란, 자주 조회하는 데이터를 빠르게 접근할 수 있도록 임시 저장하는 공간을 말합니다.

캐시를 이용해 데이터 접근 시간을 줄이고, 서버와 데이터베이스의 부하를 줄여 성능을 향상시킬 수 있습니다.

 

즉, 캐시의 목적은 빠른 데이터 조회를 통해 응답 시간을 단축하고, 시스템 부하와 비용을 줄이는 것입니다.

 

 

컴퓨터 시스템에서 데이터에 접근하는 속도는 데이터가 저장된 위치에 따라 다릅니다.

메모리 계층 구조는 위 그림과 같이 표현할 수 있고,

데이터 조회 요청 시 아래 순서로 조회합니다.

CPU Register -> L1 Cache -> L2 Cache -> L3 Cache  -> 메인 메모리(RAM) -> 디스크

 

왼쪽으로 갈수록 속도가 빠르지만 용량이 작고

오른쪽으로 갈수록 속도는 느리지만 용량이 큽니다.

 

우리가 사용하는 애플리케이션 캐시는 대부분 메인 메모리에 존재합니다.
데이터베이스처럼 디스크를 거치지 않고, 훨씬 빠른 속도로 데이터를 가져올 수 있어 성능 개선에 큰 도움이 됩니다.

---

📌 특징

✅ 시간적 지역성(Temporal Locality)

한 번 참조된 데이터는 가까운 미래에 다시 참조될 가능성이 높다.

 

특정 데이터가 한 번 접근되었을 경우 가까운 미래에 또 한 번 데이터에 접근할 가능성이 높다는 뜻으로,

한 번 가져왔던 데이터는 또 쓸 일이 있을 거라고 보는 겁니다.

 

예를 들어, 쇼핑몰에서 '인기 상품 목록'은 한 번 조회된 후 자주 다시 조회되는 데이터입니다.

목록을 매번 데이터베이스에서 쿼리를 실행해 가져올 필요 없이 캐시에 저장할 수 있겠죠.

 

이런 경우 데이터를 처음 데이터베이스에서 조회할 때 캐시에 저장하고,

이후에는 캐시에서만 데이터를 읽으면 매번 데이터베이스에 접근하지 않고 빠르게 읽을 수 있습니다.

 

따라서 캐시는 반복적으로 사용되는 데이터가 많을 때 효율적입니다.

✅ 공간적 지역성(Spatial Locality)

참조된 데이터와 인접한 메모리 주소의 데이터도 함께 참조될 확률이 높다.

 

공간적 지역성은,

서로 인접하여 저장되어 있는 데이터들은 연속적으로 접근될 가능성이 높다는 특성입니다.

 

CPU 캐시나 디스크 캐시의 경우 어떤 메모리 주소에 접근할 때

그 주소 뿐 아니라 해당 블록을 통째로 캐시에 가져옵니다.

---

📌 주요 용어

✅ 캐시 히트(Cache Hit)

요청된 데이터가 캐시에 존재하여 즉시 찾아낸 경우를 말합니다.

✅ 캐시 미스(Cache Miss)

요청된 데이터가 캐시에 없는 경우입니다.

캐시 대신 원본 저장소에서 데이터를 조회한 후 캐시에 저장하여 값을 반환합니다.

 

✅ 캐시 적중률(Cache Hit Rate)

"캐시 적중률 = 캐시 히트 / 총 요청 수"

 

총 요청 대비 캐시가 히트된 횟수를 비율로 나타낸 값입니다.

캐시 적중률이 높을수록 히트 비율이 많고, 캐시를 효율적으로 쓰고 있다고 해석할 수 있습니다.

 

시스템 성능과 비용 절감 효과를 정량적으로 평가할 수 있는 핵심 지표로 중요한 용어입니다.

---

참고자료

• 캐시란 무엇일까?
• 캐시/ 웹 캐시(Cache)란?