CPU・GPU・ASICの違いをやさしく整理｜AIデータセンターはGPUだけで動いていない

業界分析
2026.06.19

本記事は特定銘柄の売買を推奨するものではありません。技術・業界を調べ・整理し・記録する探索ログです。

📍 この記事はAIデータセンター銘柄マップの「演算チップ」レイヤーを深掘りしています → AIデータセンター関連株マップ

この記事の結論

AIデータセンターの投資テーマを追うと、NVIDIA、GPU、HBM（High Bandwidth Memory：広帯域メモリ）といった単語が頻出する。しかし、AIサーバーはGPUだけで動いているわけではない。

CPU（Central Processing Unit：中央演算処理装置）がサーバー全体を管理し、GPU（Graphics Processing Unit：画像処理装置）やASIC（Application-Specific Integrated Circuit：特定用途向け集積回路）がAI計算を担当し、DPU（Data Processing Unit：データ処理装置）がネットワークとストレージを整理し、HBM・DDR5・SSD（Solid State Drive：半導体ストレージ）がデータを供給し、光通信・電源・冷却がラック全体を支える。

この記事では、CPU、GPU、ASIC、SoC（System on a Chip：システムオンチップ）、FPGA（Field-Programmable Gate Array：書き換え可能なゲートアレイ）、DPU/SmartNICの違いを初歩から整理し、AIデータセンター関連株を見るための土台を作る。

CPUは脳、GPUは大量作業員、ASICは専用工具

まず、3つの主要チップをたとえで整理する。

チップたとえ得意なことAIでの役割
CPU脳・司令官複雑な判断を順番にこなすサーバー管理、前処理、GPU制御
GPU大量の作業員同じ計算を数千〜数万個同時にやるAI学習・推論の行列演算
ASIC刺身包丁特定の処理を最高効率でこなす大量推論、推薦、広告、検索

CPUは1人の優秀な司令官で、複雑な判断を次々にこなす。GPUは大量の作業員で、1人1人はCPUほど複雑な判断をしないが、同じ作業を一斉にこなす力が圧倒的に強い。ASICは刺身包丁で、万能包丁（GPU）より用途は限られるが、刺身だけを切るなら専用品の方が速くてきれいに仕上がる。

CPUとは何か：サーバー全体を管理する脳

CPUはコンピュータ全体を動かす中心的な演算装置である。OS（Operating System：基本ソフト）を動かし、プログラムの命令を順番に処理し、GPUやストレージ、ネットワーク機器に仕事を渡す。

AIデータセンターでのCPUの役割

役割内容
ホストCPUGPU/ASICサーバー全体を管理する
OS・仮想化Linux、コンテナ、仮想マシンを動かす
前処理・後処理データロード、トークナイズ、検索、ログ処理
ネットワーク制御NIC（Network Interface Card）/DPUと連携して通信を管理する
CPU推論小型モデル、推薦、検索など。すべてのAI処理がGPU向きとは限らない

GPUが主役に見えるAIサーバーでも、GPUへデータを供給するCPUが弱いと全体性能が落ちる。

主要なサーバーCPU

メーカー製品特徴
IntelXeon 6x86サーバーCPUの最大手。P-core（高性能）とE-core（高密度・省電力）に分かれる（Intel公式）
AMDEPYC 9005Zen 5世代。最大192コア。サーバーx86売上シェアでIntelに迫る（AMD公式）
AWSGravitonAWS自社設計のArm CPU。クラウド基盤の電力効率を最適化（AWS公式）
MicrosoftCobalt 100Azure向けArm CPU。クラウドネイティブ処理向け（Microsoft公式）
NVIDIAGrace / VeraGPUと密結合するArm CPU。Grace BlackwellなどGPUとセットで使う（NVIDIA公式）

サーバーCPU市場では、Intelがまだ出荷個数で大きいが、AMDがx86売上シェアで急速に迫り、2026年Q1で約46.2%に到達している（出典：Tom’s Hardware / Mercury Research, 2026年5月、2026-06-19取得）。ArmベースのCPUもクラウド事業者の内製で増えている（出典：AWS Graviton公式、Google Axion公式、2026-06-19取得）。

GPUとは何か：AI計算の大量並列エンジン

GPUはもともと画像処理向けのチップである。画面上の大量の点に似た計算を一斉に行うため、大量並列計算に向くよう発展した。

AI学習や推論では、ニューラルネットワークの行列演算を膨大な回数くり返す。GPUは数千から数万規模の演算器を使って、この行列演算を同時並行で処理できる。

CPUとGPUの違い

項目CPUGPU
得意な処理分岐、逐次処理、OS管理行列演算、大量並列計算
コアの性格少数の高性能コア多数の演算器
AIでの役割サーバー管理、前処理大規模学習・推論

なぜNVIDIAが強いのか：CUDAエコシステム

NVIDIAが強い最大の理由は、GPU単体の性能だけではない。

要素内容
CUDANVIDIA GPUを汎用計算に使うための開発基盤。10年以上の蓄積
cuDNN / TensorRT深層学習・推論の最適化ライブラリ
NCCL複数GPU間通信のライブラリ
NIM / AI Enterprise企業向けAIソフトウェア・推論提供基盤
開発者資産既存コード、論文、モデル、ツールがNVIDIA前提で書かれやすい

NVIDIAはAI向けGPU市場で80%以上のシェアを持つとされる（出典：Omdia等の調査会社による推計、2026-06-19取得）。AMDはROCm（Radeon Open Compute platform）で対抗しているが、CUDAほどの開発者資産と互換性を持つにはまだ時間がかかる。ハードウェアでは魅力が増しているが、エコシステム面ではNVIDIAがまだ強い。

NVIDIA現行GPU

世代製品メモリ位置づけ
HopperH10080GB HBM32023-2025年のAI学習・推論主力（NVIDIA公式）
HopperH200141GB HBM3eH100のメモリ強化版（NVIDIA公式）
BlackwellB200192GB HBM3eBlackwell世代の中核GPU（NVIDIA公式）
BlackwellGB200 NVL7272 GPU構成、13.5TB HBM3e1ラックを巨大なAIコンピュータとして扱う（NVIDIA公式）
RubinVera RubinHBM4世代Blackwell後の次世代（NVIDIA公式）

NVIDIAを見るときは、GPU単体ではなく、GPU、CPU（Grace）、DPU（BlueField）、NVLink、InfiniBand/Ethernet、ラック、冷却、ソフトウェアをまとめた「AIファクトリー」として見る必要がある。

AMD GPU

製品特徴位置づけ
MI300X192GB HBM3大容量メモリでLLM（Large Language Model：大規模言語モデル）推論向けに訴求（AMD公式）
MI325X256GB HBM3eMI300Xのメモリ強化版
MI350X / MI355X288GB HBM3eCDNA 4世代。低精度AIを重視（AMD公式）

AMDの強みは、EPYC CPUとInstinct GPUを組み合わせられること。弱みは、NVIDIAほどラック・ネットワーク・ソフトウェアを垂直統合していないこと。

ASICとは何か：特定処理を最高効率でこなす専用チップ

ASICは特定用途向け集積回路である。GPUが幅広いAI計算に対応する万能型なら、ASICは特定の処理を効率よくこなす専用型である。

GPUとASICの違い

項目GPUASIC
汎用性高い低い
電力効率高いが汎用ゆえ余分な機能も持つ特定用途では非常に高い
開発コストNVIDIA/AMDが負担。利用者は買う設計・検証・量産に巨額投資が必要
ソフトウェアCUDA/ROCmなど成熟自社フレームワークや専用コンパイラが必要
向く用途研究開発、学習、未知のモデル固定化された大量推論、推薦、広告、検索

なぜハイパースケーラーはASICを自社開発するのか

Google、AWS、Microsoft、MetaがASICを自社開発する理由は、コスト削減だけではない。

理由内容
電力効率推論は常時稼働するため、ワットあたり性能が重要
供給制約緩和NVIDIA GPUだけに依存すると調達リスクが高い
垂直統合チップ、サーバー、ソフトウェア、AIサービスを一体設計できる
価格交渉力GPU、ASIC併用で調達交渉力が増す
自社最適化検索、広告、推薦、Copilot、Gemini推論などに合わせられる

主要なAIカスタムASIC

チップ開発元特徴
TPU（Tensor Processing Unit）Google行列演算特化。Ironwood（第7世代）は192GB HBM3e、最大9,216チップPod（出典：Google Cloud公式、2026-06-19取得）
TrainiumAWS学習・推論向け。Trainium3は3nm、144GB HBM3e、4.9TB/s（出典：AWS公式、2026-06-19取得）
InferentiaAWS推論特化。32GB HBM/チップ（出典：AWS公式、2026-06-19取得）
Maia 100MicrosoftAzure OpenAI、Copilot向け。次世代Maia 200も報道あり（出典：Microsoft公式、2026-06-19取得）
MTIAMeta推薦、ランキング、広告、Llama推論向け（出典：Meta公式ブログ、2026-06-19取得）

「ASICが増える＝NVIDIA不要」ではない理由

理由内容
学習はまだGPUが強い最新モデル開発、研究ではGPUの柔軟性が重要
CUDA資産が巨大開発者、モデル、ライブラリがNVIDIAに寄っている
ASICは自社向けが多いTPU、Trainium、Maiaは外販GPUのように誰でも使えるわけではない
併用が現実学習はGPU、大量推論はASICという棲み分け
NVIDIAもシステムで売るGPU単体ではなくCPU、DPU、ネットワーク、ソフトウェアを含む

SoCとは何か：複数機能を1つのチップに詰めた弁当箱

SoCは、CPU、GPU、メモリコントローラ、通信機能などを1つのチップにまとめたものである。弁当箱にたとえると、ご飯がCPU、おかずがGPU、漬物が通信機能、仕切りがメモリコントローラで、それらを1つの箱に詰めたもの。

身近な例

SoC搭載先
Apple MシリーズMac / iPad
Qualcomm Snapdragonスマホ、PC
NVIDIA Grace HopperAI/HPCサーバー

SoCはCPUやGPUと同列ではなく、CPUやGPUを含む上位概念である。「CPUかGPUかSoCか」ではなく、「SoCの中にCPUやGPUやAIエンジンが入る」と考える。

AIデータセンターのカスタムASIC（TPU、Trainium、Maiaなど）も、演算だけでなくメモリ、通信、管理機能を持つため、SoC的な設計になっている。

アドバンテストとの接続： アドバンテストの「SoCテスタ」は、このSoCやAIアクセラレータを検査する装置。AIチップが複雑になるほどテスト工程が重くなるため、SoCの理解はアドバンテストの投資テーマにつながる。

FPGAとは何か：組み替えられるレゴブロック

FPGAは、製造後に回路構成を書き換えられるチップである。ASICのような完成品ではなく、あとから用途に合わせて組み替えられる。ただし、専用設計のASICほど高効率にはなりにくい。

GPU・FPGA・ASICの比較

項目GPUFPGAASIC
柔軟性高い中低い
電力効率中〜高中高い
開発の速さ速い中遅い
向く用途AI学習・汎用推論プロトタイプ、通信、エッジ大量固定ワークロード

FPGAはAIデータセンターの主役ではないが、ASICを作る前の回路検証、通信処理、エッジ推論、ネットワークアクセラレーションで補助的に使われる。主要メーカーはAMD（旧Xilinx、Versal公式）、Intel/Altera（Agilex公式）、Lattice Semiconductor。

DPU/SmartNICとは何か：データの交通整理係

DPUは、ネットワーク、ストレージ、セキュリティ、仮想化処理をCPUから切り離して専門に処理するチップである。SmartNICは、通常のNICに処理能力を持たせたネットワークカードである。

GPUやASICがいくら速くても、データ転送が詰まると全体性能が落ちる。DPU/SmartNICは以下の処理をCPUから切り離す。

処理内容
ネットワークパケット処理、RDMA（Remote Direct Memory Access）、仮想ネットワーク
セキュリティ暗号化、分離、ファイアウォール的処理
ストレージNVMe over Fabrics、分散ストレージ
仮想化クラウドのマルチテナント分離

主要製品

企業製品
NVIDIABlueField DPU
AMDPensando DPU
MarvellOCTEON
BroadcomSmartNIC / Ethernet系

AIラックの中身：すべてのチップが連携して動く

AIデータセンターの1ラックを上から見ると、以下のような役割分担になる。

位置部品役割
外部接続Ethernet / InfiniBandスイッチラック間通信
ネットワークNIC / SmartNIC / DPUデータの出入りを整理
管理CPU + DDR5OS、ジョブ管理、前処理
演算GPU / ASIC + HBMAI学習・推論の本体
記憶SSD / NANDデータ、ログ、RAG（Retrieval-Augmented Generation：検索拡張生成）、モデル保存
GPU間通信NVLink / Ethernet / InfiniBandGPU同士の高速接続
電源受配電・UPS電力供給
冷却空調・液冷・水処理発熱を逃がす

GPU/ASICはエンジンだが、燃料であるデータを運ぶネットワーク、熱を逃がす冷却、電気を供給する電源、品質を保証するテスト、チップを載せる基板がなければ動かない。

学習用ラックと推論用ラックの違い

項目学習用ラック推論用ラック
主役大量GPU、高速GPU間通信GPU、ASIC、CPU、DPUの組み合わせ
重視演算性能、HBM帯域レイテンシ、電力効率、コスト
代表H100/B200/GB200、MI300/MI350、TPUTrainium、Inferentia、Maia、MTIA、GPU推論

推論が増えるほど、電力・コスト・台数の問題が大きくなり、ASICの出番が増えやすい。

AI学習と推論の違い：チップ選びが変わる理由

項目学習推論
何をするかモデルを作る。重みを更新する学習済みモデルを使って答えを出す
重視するもの大規模計算、GPU間通信、HBM帯域レイテンシ、コスト、電力効率、稼働率
向くチップNVIDIA H100/B200、AMD MI300/MI350、TPUGPU、ASIC、CPU、小型アクセラレータまで広い

学習は「モデルを鍛えるジム」、推論は「鍛えたモデルを毎日働かせる現場」である。ジムでは最高のマシン（GPU）が必要だが、現場では電力効率とコストが重要になり、専用工具（ASIC）の出番が増える。

ASIC設計を支える企業

ハイパースケーラーがASICを自社で設計するとき、すべてを内製するわけではない。

企業役割
BroadcomカスタムASIC設計支援、SerDes（高速信号変換）、Ethernetスイッチ
Marvellカスタムシリコン、光DSP（Digital Signal Processor）、DPU
Synopsys / CadenceEDA（Electronic Design Automation：電子設計自動化ツール）
ArmCPU IP（設計図）。Graviton、Cobalt、Graceなどの基盤
TSMC先端製造・先端パッケージ。GPUでもASICでも製造が必要

BroadcomはGoogle、MetaなどのカスタムAIチップ関連で名前が出やすい。MarvellもAIデータセンターのカスタムチップと光通信の両方に接点がある。

日本株との接続：チップが増えるほど周辺に波及する

チップそのものを作る日本企業は限られるが、AIチップが増えるほど周辺の部材・装置・インフラに波及する。

チップの増加必要になるもの関連銘柄
GPU/ASIC数量増パッケージ基板（ABF基板）イビデン（4062）
GPU/ASIC複雑化SoCテスタ、メモリテスタアドバンテスト（6857）
GPU/ASIC精密加工ダイシング、グラインディングディスコ（6146）
HBM/NAND増加メモリ、エンタープライズSSDキオクシア（285A）、Micron（MU）
サーバー台数増光配線、光トランシーバフジクラ（5803）、AAOI
消費電力増電源・受配電・電線富士電機（6504）、SWCC（5805）
発熱増冷却・空調・ポンプ高砂熱学（1969）、荏原（6361）
半導体工場増設超純水、水処理栗田工業（6370）、オルガノ（6368）、野村マイクロ（6254）
GPU/ASIC周辺MLCC（積層セラミックコンデンサ）、受動部品村田製作所（6981）、太陽誘電（6976）

チップ種類の総整理

チップ得意なことAIでの役割代表製品
CPU逐次処理、OS管理サーバー管理、前処理Xeon、EPYC、Graviton、Grace
GPU大量並列計算AI学習・大規模推論H100、B200、GB200、MI300X
ASIC特定処理の最高効率大量推論、推薦、広告TPU、Trainium、Maia、MTIA
SoC複数機能の統合カスタムAIチップ、端末AIApple M、Snapdragon、Grace Hopper
FPGA製造後の回路書き換えプロトタイプ、通信、エッジVersal、Agilex
DPUネットワーク・ストレージ処理CPU負荷の分離、通信整理BlueField、Pensando

関連する企業分析ログ

参考文献

公式・一次情報

二次情報・市場データ

免責事項

本記事は技術・業界の理解を目的とした情報整理であり、特定銘柄の売買を推奨するものではありません。投資判断は必ずご自身の責任で行ってください。

コメント

タイトルとURLをコピーしました