コンピュータのCPUキャッシュのしくみ

1980年代に、マイクロプロセッサの速度は、メモリアクセス時間と比較して指数関数的に増加しました。メモリへのアクセス速度を向上させ、システム全体をより効率的にするために、何かをしなければならないことがすぐに明らかになりました。処理速度とメモリ速度の間のこれらの不一致は、キャッシュの開発につながりました。

キャッシュとは

キャッシュの発明は、コンピュータサイエンスの歴史の中で最も重要なイベントの1つでした。しかし、キャッシュとは正確には何ですか？どのように機能しますか？

基本的なレベルでは、キャッシュは高速な種類のメモリです。これには、特定のタスクを実行するときにコンピュータが次に必要とする可能性が最も高い命令を含むメモリの小さなプールが含まれています。コンピューターは、複雑なアルゴリズムとプログラミングコードの知識を使用して、その情報をキャッシュにロードします。コンピュータにキャッシュシステムを搭載する目的は、CPUが必要な順序で必要なデータに妨げられずにアクセスできるようにすることです。

これがどのように機能するかを確認するには、コンピューターに3種類のメモリがあることを知っておく必要があります。まず、ハードドライブまたはSSDにあるプライマリメモリがあります。これは、マシン内のメモリの最大のリポジトリです。次に、RAMまたはランダムアクセスメモリがあります。これは、プライマリメモリデバイスよりも高速ですが、小さいです。最後に、CPU自体の中にキャッシュと呼ばれるメモリユニットがあります。キャッシュは、すべてのメモリタイプの中で最速です。

プログラムが起動すると、そのプログラムは、プログラムのコードにある一連の命令の実行を開始します。その情報は最初にRAMにロードされ、次にCPUに移動します。データを最適に使用して命令を実行するには、CPUに高速メモリが必要です。そこでキャッシュが登場します。

キャッシュのレベル

CPU内には、L1、L2、およびL3の3つの異なるレベルのキャッシュがあります。一部の企業はL4キャッシュに取り組んでいます。

L1キャッシュは、3つの中で最も高速で最小です。これには、CPUが操作を実行するために必要となる可能性が最も高いデータが含まれています。 L1は通常約256KBを保持しますが、1MBまでプッシュするものもあります。

この小さなキャッシュには、命令キャッシュとデータキャッシュの両方を持つという2つの目的があります。命令キャッシュはCPUが実行する必要のある操作を処理し、データキャッシュはプロセスを実行する必要のある情報を保持します。

次に、L2キャッシュがあります。 L2は低速で、L1よりも多くの情報を保持します。これには、コンピューターが次にアクセスする必要がある可能性が最も高い256K〜8MBのデータが含まれています。

最後に、L3キャッシュが表示されます。これは最大で最も遅いキャッシュであり、4MBから50MBの範囲で保存されます。

キャッシュの仕組み

コンピュータでプログラムが起動すると、データはRAMからL3キャッシュに流れ、次にL2に流れ、最後にL1に流れます。プログラムの実行中、CPUは、L1キャッシュから開始し、そこから逆方向に実行して、実行する必要のある情報を探します。 CPUが必要な情報を見つけた場合、それはキャッシュヒットと呼ばれます。必要な情報が見つからない場合は、キャッシュミスであり、コンピューターは必要な情報を見つけるために別の場所を探す必要があります。

レイテンシーは、コンピューターの効率を高める重要な要素です。レイテンシーは、情報を取得するために必要な時間です。 L1キャッシュは最速であるため、レイテンシーは最小です。キャッシュミスが発生すると、コンピューターが必要な情報を見つけるためにさまざまなキャッシュを検索し続ける必要があるため、待ち時間が長くなります。

新しいコンピュータのCPUトランジスタサイズははるかに小さいため、キャッシュを直接配置するためのより多くのスペースを備えたボードを構築できます。キャッシュを物理的にCPUに近づけると、レイテンシが減少します。

キャッシュは、販売しているコンピュータが頻繁に指摘するものではありませんが、チェックする価値があります。キャッシュが高速になるとレイテンシが短くなり、プログラムがより高速かつ効率的に実行されます。