Neural Accelerator

Neural Acceleratorの概要

Neural Acceleratorは、AppleがM5世代のApple Siliconで導入した新しいAI処理アーキテクチャだ。従来のApple SiliconではAI処理を担当するのは固定の16コアNeural Engineだったが、M5ではそれに加えて、GPUの各コアにNeural Acceleratorと呼ばれるAI専用の演算ユニットが組み込まれた。

この設計により、AI処理の負荷がGPUコア数に応じてスケールするようになった。上位チップほどGPUコアが多く、Neural Acceleratorの数も増えるため、プロ向けチップでのAI性能が飛躍的に向上する仕組みだ。

仕組み

GPUコア統合型アーキテクチャ

Neural Acceleratorは各GPUコアの内部に直接組み込まれており、行列乗算（マトリックス・マルチプリケーション）に特化した演算ユニットだ。行列演算は大規模言語モデル（LLM）の推論や画像生成AIなど、多くの機械学習ワークロードで中核をなす処理である。

GPUコア内に統合されているため、AIワークロードは全GPUコアで並列に実行され、別のプロセッサにデータを移動させる必要がない。この分散アーキテクチャにより、データの移動に伴うオーバーヘッドが削減され、処理効率が大幅に向上する。

Neural Engineとの違い

Neural EngineとNeural Acceleratorは共存する別のコンポーネントだ。M5世代では、従来どおりの16コアNeural Engineに加えて、GPUコアごとのNeural Acceleratorが搭載されている。

これまでのApple Siliconでは、ベースチップでもProチップでもMaxチップでもNeural Engineは同じ16コアだった。Neural Acceleratorの導入により、M5 Maxの40基はM5の10基に対して4倍のAI演算リソースを持つ。上位チップを選ぶ意味がAI処理の観点からも明確になった。

チップごとのスケーリング

性能

Neural Acceleratorの搭載により、M5世代のピークGPU AI処理性能はM4比で最大4倍、M1比で最大6倍に向上した。

LLMの推論処理においては、最初のトークン生成（Time-to-First-Token）で最大4倍の高速化が確認されている。一方、後続トークンの生成速度はメモリ帯域幅に依存するため、M4比で19〜27%の向上にとどまる（M5のメモリ帯域幅153GB/sはM4の120GB/sから約28%向上）。つまり、Neural Acceleratorは演算能力を飛躍的に向上させるが、連続的なトークン生成ではメモリ帯域幅がボトルネックになる。

開発者向け情報

開発者はMetal 4で導入されたTensor API（TensorOps）を使って、Neural Acceleratorを直接プログラムできる。Metal Performance Primitives フレームワークもNeural Acceleratorの機能をサポートしている。

Core MLやMetal Performance Shadersなど既存のAppleフレームワークを利用しているアプリは、特別な対応なしにNeural Acceleratorによる性能向上の恩恵を受けられる。MLXフレームワークもMetal 4のTensorOpsを活用してNeural Acceleratorに対応している。

搭載チップ・デバイス

Neural Acceleratorは以下のチップに搭載されている。

• M5（2025年10月〜）— MacBook Pro 14インチ、iPad Pro、Apple Vision Proに搭載
• M5 Pro（2026年3月〜）— MacBook Pro 14/16インチに搭載
• M5 Max（2026年3月〜）— MacBook Pro 14/16インチに搭載

M4以前のApple SiliconにはNeural Acceleratorは搭載されていない。AI処理は16コアNeural Engineのみで行われる。