用語集

本書で定義した専門用語を分野別にまとめました。括弧内は英語表記、末尾のリンクは初出の章です。

計算の基本

CPU(central processing unit) — メモリ上の命令を順に読み取り実行する、コンピュータの中心装置。1章
メモリ(memory) — 命令とデータを置く記憶装置。本書では主にメインメモリ(DRAM)を指す。1章
命令(instruction) — 「足す」「読む」など、CPUが実行する最小単位の操作指示。1章
機械語(machine code) — 命令を0と1の並びで表した、 CPUが直接実行する形式。1章
アセンブリ(assembly) — 機械語の命令を人間が読める記法で 1対1に書き直した表現。1章
命令セット(instruction set architecture、ISA) — CPUが受け付ける命令の種類と形式の取り決め。x86-64、ARM64など。1章
オペランド(operand) — 命令が操作する対象。レジスタ、定数、メモリ上の位置など。add w0, w1, w0ならw1とw0が入力、先頭のw0が書き込み先のオペランド。1章
レジスタ(register) — CPU内部にある少数・最速の記憶場所。計算は原則レジスタ上で行われる。1章
レジスタ割り付け(register allocation) — どの変数をどのレジスタに載せるかを決めるコンパイラの処理。1章
フェッチ(fetch)/デコード(decode)/実行(execute) — 命令処理の3段階。メモリから読み、解釈し、実行する。1章
クロック周波数(clock frequency) — CPUが動作の拍を刻む速さ。 3GHzなら毎秒30億サイクル。1章
呼び出し規約(calling convention) — 関数の引数と戻り値をどのレジスタで受け渡すかの取り決め。OSとISAごとに決まっている。1章
debugビルド/releaseビルド — 最適化なし(検査あり)/最適化ありのコンパイル設定。性能の話はreleaseビルドが前提。1章

メモリとキャッシュ

レイテンシ(latency) — 要求してから最初の結果が届くまでの時間。2章
帯域幅(bandwidth) — 単位時間あたりに転送できるデータ量。2章
DRAM(dynamic RAM) — メインメモリに使われる大容量・低速のメモリ。レイテンシは約100ナノ秒。2章
SRAM(static RAM) — キャッシュに使われる高速・高価なメモリ。2章
キャッシュ(cache) — 最近使ったデータの写しを置く小容量・高速のメモリ。CPUに近い順にL1/L2/L3がある。2章
キャッシュヒット(cache hit)/キャッシュミス(cache miss) — 目的のデータがキャッシュにある/ない状態。2章
キャッシュライン(cache line) — キャッシュとメモリの転送単位。 x86-64では64バイトが標準的(Apple Silicon等では128バイト)。2章
プリフェッチ(prefetch) — アクセスの規則性を検出し、要求前にデータを先読みするハードウェアの仕組み。2章
空間的局所性(spatial locality) — 使ったデータの近くを続けて使う性質。キャッシュラインを活かす条件。2章
時間的局所性(temporal locality) — 同じデータを短い間隔で繰り返し使う性質。2章
ポインタチェイシング(pointer chasing) — 読んだ値が次に読む場所を決めるアクセス列。プリフェッチ不能でレイテンシが直列に積み上がる。2章
アラインメント(alignment) — 型ごとに決まる「置いてよいアドレスの単位」。2章
パディング(padding) — アラインメントを守るために挿入される隙間のバイト。2章
AoS(array of structs)/SoA(struct of arrays) — 構造体の配列/ フィールドごとの配列。SoAは走査とSIMD・GPUに有利。2章
ヒープ確保(heap allocation) — 実行時にメモリ領域を動的に確保すること。Vecの伸長などで発生し、性能上の主要コストになりやすい。7章

CPUの実行の仕組み

パイプライン(pipeline) — 命令の処理段階を重ねて流れ作業にする仕組み。3章
ハザード(hazard) — パイプラインの進行を妨げる要因。データ依存によるものと分岐によるものがある。3章
ストール(stall) — ハザードによってパイプラインが待ちに入ること。3章
分岐(branch) — ifやループの実体である条件付きジャンプ命令。3章
分岐予測器(branch predictor) — 分岐の行き先を履歴から予測するハードウェア。3章
投機実行(speculative execution) — 予測に基づき、確定前に命令を実行してしまう方式。外れたら捨てる。3章
ブランチレス(branchless) — 分岐を算術や条件付き移動に置き換えたコード。予測不能な分岐のコストを避ける。3章
条件付き移動(conditional move) — 条件に応じて値を選ぶ、分岐しない命令。3章
if変換(if-conversion) — コンパイラが分岐を条件付き移動などの計算に置き換える最適化。3章
スーパースカラ(superscalar) — 1サイクルに複数の命令を発行・実行する方式。3章
アウトオブオーダー実行(out-of-order execution) — 記述順でなく依存が解決した順に命令を実行する方式。3章
命令レベル並列性(instruction-level parallelism、ILP) — 命令列に含まれる「同時に実行できる度合い」。3章
IPC(instructions per cycle) — 1サイクルあたりの実行命令数。3章

SIMD

SIMD(single instruction, multiple data) — 1命令で複数のデータを同時に計算する方式。4章
ベクトルレジスタ(vector register) — SIMD用の幅広レジスタ。 SSE2は128ビット、AVX2は256ビット。4章
SSE2/AVX/AVX-512/NEON — SIMD命令の拡張の系統。SSE2はx86-64全CPU、 NEONはARM64全CPUが対応し、AVX系は対応CPU限定。4章
レーン(lane) — ベクトルレジスタ内の1区画。4章
portable SIMD(std::simd) — CPUの種類によらず書ける RustのSIMD API(2026年時点でnightly)。4章
自動ベクトル化(auto-vectorization) — コンパイラがループをSIMD命令に変換する最適化。4章
イントリンシック(intrinsic) — CPU命令に直結した関数(std::arch)。4章
実行時機能検出(runtime feature detection) — 実行中のCPUが持つ命令拡張を実行時に調べること。4章

並列とマルチコア

コア(core) — CPU内の独立した実行装置。5章
SMT(simultaneous multithreading) — 1コアに複数の命令の流れを混在させる技術。Hyper-Threadingなど。5章
スレッド(thread) — OSが管理する命令の流れの単位。5章
並行(concurrency)/並列(parallelism) — 複数の仕事を交互に進める構造/文字どおり同時に実行すること。5章
キャッシュコヒーレンス(cache coherence) — コアごとのキャッシュ間でデータの一貫性を保つ仕組み。書き込みはラインの所有権の奪い合いになる。5章
false sharing(偽共有) — 別々の変数が同じキャッシュラインに載り、無関係な書き込み同士が競合する現象。5章
データ競合(data race) — 同期なしの並行アクセスで少なくとも一方が書き込みである状態。Rustはコンパイル時に排除する。5章
アトミック操作(atomic operation) — 途中に割り込まれない読み書き。5章
メモリオーダリング(memory ordering) — アトミック操作の前後で、他の読み書きの順序をどこまで保証するかの指定。5章
データ並列(data parallelism) — 大量の要素それぞれに独立な計算をする形の並列性。5章
ワークスティーリング(work stealing) — 手の空いたスレッドが他のスレッドの未処理分を引き取って負荷を均す方式。rayonが採用。5章
Amdahlの法則(Amdahl’s law) — 並列化できない部分が全体の高速化の上限を決めるという法則。5章

コンパイラとRust

中間表現(intermediate representation、IR) — コンパイラ内部のプログラム表現。rustcのMIR、LLVM IRなど。6章
LLVM — 多数の言語が共有するコンパイラ基盤。Rustの速度最適化の大半を担う。6章
定数畳み込み(constant folding) — コンパイル時に計算できる式を計算してしまう最適化。6章
デッドコード除去(dead code elimination) — 結果が使われない計算を削除する最適化。6章
共通部分式除去(common subexpression elimination) — 同じ計算の重複を1回にまとめる最適化。6章
ループ不変式移動(loop-invariant code motion) — ループ内で不変の計算をループ外へ出す最適化。6章
ループのアンローリング(loop unrolling) — ループ本体を複数回分展開する最適化。6章
インライン化(inlining) — 関数呼び出しを本体で置き換える最適化。他の最適化の起点になる。6章
opt-level — 最適化の強さの設定。0(なし)〜3(最大)とサイズ優先のs/z。releaseビルドの既定は3。6章
codegen-units — クレートを何分割して並列コンパイルするかの設定。 1にすると最適化の見通しが広がる。6章
LTO(link-time optimization) — リンク時にクレート横断で行う最適化。6章
PGO(profile-guided optimization) — 実行統計をもとにした最適化。6章
エイリアス(alias) — 複数の参照が同じメモリを指すこと。Rustは型システムで「重ならない」ことをLLVMに保証できる。6章
ゼロコスト抽象化(zero-cost abstraction) — 使わない機能のコストはなく、使う機能は手書き同等、という性質。7章
境界チェック(bounds check) — 添字アクセスが範囲内かの実行時検査。単純なループではコンパイラが除去・ホイストする。7章
niche最適化(niche optimization) — 型の使われないビットパターンを enumのタグに流用する最適化。Option<&T>は参照と同サイズ。7章
単相化(monomorphization) — ジェネリクスを使われる型ごとの専用コードに展開すること。7章
vtable(仮想関数表) — トレイトオブジェクトが持ち歩くメソッドの関数ポインタ表。7章
動的ディスパッチ(dynamic dispatch) — 実行時にvtableを引いてメソッドを呼ぶ方式。7章
脱仮想化(devirtualization) — コンパイラが動的ディスパッチを静的呼び出しに置き換える最適化。7章

計測

ベンチマーク(benchmark) — 処理単体の実行時間を統計的に測ること。 Rustではcriterionが定番。8章
プロファイラ(profiler) — プログラム全体のどこで時間が使われているかを標本化で調べる道具。8章
フレームグラフ(flame graph) — プロファイル結果の可視化。横幅が時間、縦が呼び出し関係。8章
ハードウェアパフォーマンスカウンタ(hardware performance counter) — 命令数・キャッシュミスなどを数えるCPU内蔵のカウンタ。8章
black_box — 計測対象がコンパイラに削除されるのを防ぐ関数 (std::hint::black_box)。7章・8章

GPU

GPGPU(general-purpose computing on GPU) — GPUを描画以外の汎用計算に使うこと。9章
レイテンシ指向/スループット指向(latency-/throughput-oriented) — 1つの処理の速さを追うCPU的設計/総処理量を追うGPU的設計。9章
SIMT(single instruction, multiple threads) — スレッドの束に同じ命令を実行させるGPUの実行モデル。9章
ワープ(warp) — 同じ命令をロックステップで実行する32本程度のスレッドの束。WebGPUではサブグループ。9章
ダイバージェンス(divergence) — ワープ内で分岐が割れ、両側を順に実行する状態。9章
占有率(occupancy) — レイテンシを隠すのに十分なワープが実行単位に常駐できているかの指標。9章
ワークグループ(workgroup) — 共有メモリとバリアを使えるスレッドのグループ。CUDAのthread blockに相当。9章
VRAM — GPU専用の広帯域メモリ(GDDR/HBM)。10章
メモリコアレッシング(memory coalescing) — ワープ内の隣接アドレスへのアクセスを少数の転送に束ねる仕組み。10章
共有メモリ(shared memory / workgroup memory) — ワークグループ内で共有する、プログラマが明示的に管理する高速メモリ。10章
バリア(barrier) — グループ内の全スレッドが到達するまで待つ同期点。10章
ユニファイドメモリ(unified memory) — CPUとGPUが同じ物理メモリを共有する構成。Apple Siliconなど。10章
算術強度(arithmetic intensity) — 演算数÷転送バイト数(FLOP/byte)。10章
ルーフラインモデル(roofline model) — 算術強度から性能上限を見積もる図式。メモリ帯域律速と演算律速の2枚の屋根を持つ。10章
メモリ帯域律速/演算律速(memory-/compute-bound) — 性能の上限が帯域で/演算能力で決まっている状態。10章
シェーダ(shader) — GPU上で実行されるプログラム。計算用のものはカーネル(kernel)とも呼ばれる。9章
FLOP(floating-point operation) — 浮動小数点演算1回。毎秒10億回がGFLOP/s、毎秒1兆回がTFLOP/s。10章
WGSL(WebGPU Shading Language) — WebGPU標準のシェーダ言語。11章
wgpu — WebGPU標準のRust実装。Metal/Vulkan/DX12を抽象化する。11章

数の表現(応用編)

2の補数(two’s complement) — 符号つき整数の標準表現。最上位ビットの重みを負にする。符号の有無で加算器を分けずに済む。13章
オーバーフロー(overflow) — 演算結果が型の表現範囲を超えること。 Rustではdebugビルドで検査、releaseは既定で回り込み(設定で変更可)。13章
IEEE 754 — 浮動小数点数の標準。±(1.仮数)×2^指数の2進表現。13章
Kahanの総和(Kahan summation) — 加算でこぼれた丸め誤差を補正変数に回収する総和アルゴリズム。13章
NaN(not a number) — 不正な演算の結果を表す特殊値。自分自身とも等しくない。ソートにはtotal_cmp。13章
非正規化数(subnormal) — 最小の正規化数より小さい値を精度を犠牲に表す仕組み。演算速度はハードウェア依存。13章
bf16(bfloat16) — f32の上位16ビットを切り出した形式。指数幅が f32と同じため値の範囲が変わらない。ML計算の主役。13章
量子化(quantization) — 重みなどをint8/int4等の狭い表現に変換して詰め込む技法。25章

仮想メモリとキャッシュ内部(応用編)

仮想メモリ(virtual memory) — プログラムが見る仮想アドレスを物理アドレスへ変換する仕組みの総称。隔離・連続の錯覚・遅延と共有を提供する。14章
ページ(page) — アドレス変換の単位。4KBが主流(Apple Siliconは16KB)。14章
ページテーブル(page table) — 仮想→物理の変換表。多段の木構造。14章
MMU(memory management unit) — アドレス変換を行うCPU内の装置。14章
ページウォーク(page walk) — 多段ページテーブルをたどる処理。最悪でメモリアクセス4回ぶん。14章
TLB(translation lookaside buffer) — アドレス変換結果のキャッシュ。覆える範囲は4KBページで10MB程度と狭い。14章
hugepages — 2MB/1GBの大きなページ。TLBの覆える範囲を広げる。 Linuxの自動版がTHP。14章
デマンドページング(demand paging) — 物理メモリの割り当てを初回アクセスまで遅らせる方式。14章
ページフォールト(page fault) — 実体のないページへのアクセスで発生する例外。OSが物理フレームを割り当てて再実行する。14章
コピーオンライト(copy-on-write、COW) — 共有しておき、書き込みの瞬間に複製する技法。14章
mmap(memory map) — ファイルを仮想アドレス空間に貼り付けるシステムコール。14章・27章
セットアソシアティブ(set-associative) — キャッシュの配置方式。アドレスで決まるセットの中の任意のウェイに置く。15章
セット/ウェイ/タグ(set/way/tag) — キャッシュの区画・区画内の枠・照合用のアドレス上位ビット。15章
競合性ミス(conflict miss) — 容量は余っているのに特定セットの取り合いで起きるミス。初回(cold)・容量性(capacity)と並ぶ3分類の1つ。15章
キャッシュブロッキング(cache blocking) — 走査をキャッシュに収まるブロック単位に分ける技法。タイリングとも。15章
cache-oblivious — キャッシュ容量を知らずに再帰分割で全階層に適応するアルゴリズム設計。15章

CPU実行の深層(応用編)

フロントエンド/バックエンド(front end / back end) — 命令の供給側と実行側。どちらか遅い方が律速する。16章
μop(micro-operation) — CPU内部の固定形式命令。x86の可変長命令はデコードでμopに分解される。16章
BTB(branch target buffer) — 分岐の「行き先アドレス」を覚える表。間接分岐の予測に使う。16章
間接分岐(indirect branch) — 飛び先がレジスタ値で決まる分岐。関数ポインタ、vtable、matchのジャンプテーブル。16章
top-down分析(top-down analysis) — 発行スロットをRetiring/ Bad Speculation/Frontend Bound/Backend Boundの4分類で切り分ける性能診断法。16章
ストアバッファ(store buffer) — 書き込みを一時的に溜めるコア内の待ち行列。ストア→ロードの並べ替えの原因。17章
メモリモデル(memory model) — CPUが許すメモリ操作の並べ替えの範囲。 x86はTSO(強い)、ARMはweak(弱い)。17章
CAS(compare-and-swap) — 「期待値と一致したら書き換える」を1つのアトミック操作で行う命令。ロックフリーの基礎。17章
ABA問題 — 値がA→B→Aと戻ったためCASが変更を見逃す問題。17章
エポックベース回収(epoch-based reclamation) — ロックフリー構造のメモリを世代管理で安全に解放する方式。crossbeamが実装。17章

Rustの深層(応用編)

アロケータ(allocator) — OSから仕入れたメモリを小口で貸すヒープの管理機構。サイズクラス+スレッドキャッシュが現代の定石。18章
サイズクラス/フリーリスト(size class / free list) — 規格サイズごとの在庫管理。確保・解放の速い経路を支える。18章
断片化(fragmentation) — 切り上げの無駄(内部)と虫食いの空き(外部)。18章
アリーナ確保(arena allocation) — 同じ寿命のものを1つの塊に置き、まとめて解放する方式。確保はポインタを進めるだけ(バンプアロケーション)。18章
Future — asyncの「実行の計画書」。.awaitで分割された状態機械。中断中の変数はFutureの中に保存される。19章
poll/Waker — ランタイムがFutureを駆動する規約。「進めてください」と「準備できたら起こしてください」。19章
spawn_blocking — ブロッキング処理を専用スレッドプールへ隔離する tokioのAPI。19章
未定義動作(undefined behavior、UB) — コンパイラの最適化前提を破る操作。挙動の一切が保証されなくなる。クラッシュするとは限らない。20章
Miri — MIRを解釈実行してUBを検出するツール。20章
FFI(foreign function interface) — C ABIを介した他言語との相互運用。呼び出し自体は安価で、コストは最適化境界と表現変換にある。20章
BOLT — リンク済みバイナリを実行プロファイルで並べ替える最適化ツール。21章
SwissTable — RustのHashMapの実装方式。制御バイト配列を SIMDで探査する。22章
HashDoS — 衝突するキーを大量に送ってハッシュ表をO(n)に退化させる攻撃。既定のSipHashはこれへの耐性を持つ。22章
インターニング(interning) — 同じ値を1か所に登録し整数IDで持ち回る技法。比較が整数比較になる。22章
ビットセット(bitset) — 整数集合を1要素1ビットで表す構造。所属判定はシフトとANDだけ。22章

GPUの深層(応用編)

reduction(リダクション) — 配列全体を1つの値に畳む計算の総称。総和・最大値など。23章
グリッドストライドループ(grid-stride loop) — スレッドが総スレッド数ずつ跳びながら全体を覆うループ。コアレッシングを保つ。23章
スレッド粗粒度化(thread coarsening) — 1スレッドの担当を増やして同期と起動のコストを薄める技法。23章
subgroup命令 — ワープ内の集約・交換をバリアなしで行う命令群。 CUDAのwarp shuffleに相当。23章
ダブルバッファリング(double buffering) — 2組のバッファを交互に使い、転送と処理を重ねる古典技法。24章
行列エンジン(matrix engine) — 行列タイル同士の乗算累積を専用回路で行うユニット。テンソルコア、Apple AMX、Intel AMXなど。25章
BLAS(basic linear algebra subprograms) — 線形代数ライブラリの標準インターフェース。Accelerate/OpenBLAS/cuBLAS等が実装。25章
タイムスタンプクエリ(timestamp query) — GPU自身の時計をコマンド列の特定位置で記録する計測機構。26章

システムと実践(応用編)

システムコール(system call) — カーネルへの保護された依頼。本書のPlayground実測では通常の関数呼び出しの100倍超のコスト。27章
コンテキストスイッチ(context switch) — スレッド/プロセスの切り替え。スレッド間の起こし合い1往復は実測で十数マイクロ秒+キャッシュの冷え。27章
ページキャッシュ(page cache) — OSがファイル内容をメモリに保持するキャッシュ。2回目以降の読みはメモリ速度。27章
vDSO — カーネルが一部の機能(時刻取得など)をユーザー空間に公開してシステムコールを省く仕組み。27章
io_uring — 提出/完了のリングバッファを共有してシステムコールを減らすLinuxのI/O機構。27章
パーセンタイル(percentile) — 分布の位置を示す統計量。p99は「100回に1回の遅さ」。レイテンシは平均でなく分布で語る。28章
協調的省略(coordinated omission) — 応答を待ってから次を送る計測が、遅い期間のサンプルを取り落としてp99を過小評価する罠。28章