メモリ階層（主記憶とキャッシュメモリ）

メモリ階層は、コンピュータの処理速度を最大化するための賢い設計思想です。CPUの計算速度は非常に速い一方、主記憶（RAM）の読み書き速度はそれより遅いため、CPUがデータの到着を待つ「待ち時間」が発生してしまいます。これを解消するために、CPUと主記憶の間に、少量ながら極めて高速な「キャッシュメモリ」を配置します。CPUはまずキャッシュメモリを探し、データがあればそれを使う（ヒットする）ことで高速化を図ります。ポイントは、この階層構造がないと、どんなに速いCPUを使ってもメモリの遅さがボトルネックになり、全体の性能が引き出せないからです。試験では、速度と容量の関係（高速・小容量のレジスタ/キャッシュ vs 低速・大容量の主記憶/補助記憶）や、キャッシュメモリにデータが存在する確率を示す「ヒット率」の計算問題が頻出します。