[Programming] Cache Memories: Memory Hierarchy, Performance metrics

Cache Memories: Memory Hierarchy, Performance metrics

---

포스트 난이도: HOO_Junior

[Notice] 포스트 난이도에 대한 설명

---

# Cache Memories

캐시 메모리(Cache mormories)는 CPU 또는 Processor와 Memory 사이에 존재한다.

Memory의 효율성 관점에서 캐시를 살펴보자면, CPU의 경우 Latency가 매우 적기 때문에 memory와 CPU 간의 처리 속도에 대한 간극을 줄임으로써 효율적인 computing을 구현하고자 캐시를 사용하고 있다.

또한 메모리를 사용하는 현실적인 이유는 사실상 cost이기 때문에 비용적인 측면에 있어서 결과적으로 메모리를 사용해야 했기에 캐시를 통해 CPU와 Memory 사이의 문제를 해결해주고 있는 셈이다.

한마디로 캐시도 메모리의 한 종류이지만 Main memory와 CPU의 문제점을 해결하여 computing 효율성을 증가시키는 부분을 담당하고 있다.

Fig01.

---

# Memory Hierarchy

메모리(Memory)의 경우에는 효율적인 작업 수행을 위해서 하나의 메모리만 사용하지 않는다.

이 말인즉슨, 메모리에 다양한 단계별 Layer를 두어 작업의 효율성을 증가시킨다.

예를 들어 메모리 layer를 살펴보면 L1 caches, l2 caches, LLC, main memory 등과 같이 단계별로 나뉘어 있는 걸 알 수 있다.

---

# Performance Metrics

• Capacity: memory unit의 byte 수를 의미한다.
• Latency: 작업을 완료하는데 필요한 시간을 의미한다.
• Bandwidth/throughput: 주어진 작업을 완료하거나 전달하는 데 걸리는 시간의 양을 의미한다.

---