単体のサーバー機能を持つNVIDIA GB200 NVL72は、36 個の NVIDIA Grace CPU と 72 個の NVIDIA Blackwell GPUを搭載して構成しているそうです。
他のメーカーも似たようなメモリ構成で単体のサーバー機能を構成しているのではないでしょうか。
参考にサーバーの連結について、中華メーカーは新疆でのAIデーターセンター建設のために11万5,000個を超えるNVIDIA製AIチップを導入する計画があったとされています。
https://japan.storm.mg/articles/1051713