Google TPU 8t and TPU 8i

Googleの第8世代TPUは、トレーニング用のTPU 8tと推論用のTPU 8iの2チップ構成を特徴とします。スケールと性能のトレードオフを解消するため、前世代と分離された設計を採用。TPU 8tは最大9,600チップ構成のスーパーポッドで121 ExaFlops、TPU 8iは1,152チップのポッドで各チップ288GBのHBMを搭載。推論の性能とコスト効率を大幅に向上させ、1,152チップ構成の推論ポッドは大規模エージェントワークロードを単一の論理ユニットとして実行可能に。AIインフラエンジニアやMLプラットフォームチーム向けの製品。