deep learning

8GPUサーバー(4th Gen Intel® Xeon® Scalable processors 2CPU)の紹介

Ken Hanabusa - September 16, 2023 38

前回も8GPUサーバーの紹介をしましたが、今回は4th Gen Intel® Xeon® Scalable processorsを2CPU搭載する8GPUサーバーを紹介します。CPUコア数は最大112、メモリスロット数は32で、128GB DIMMを搭載すると4TB実装可能です。M.2 SSDが2枚、2.5" NVMe SSDを８台、2.5" SATA SSDを8台実装可能です。ネットワークインターフェースは標準で2x 10GbE BaseT with Intel® X710-AT2が付属しています。もちろん専用のIPMI 2.0用1GbE BaseTのインターフェースもあります。シャーシの形状は4Uラックマウント型です。このサイズのサーバーをラックマウントする動画はこちらになります。

製品紹介新着情報

RTX4090 8GPUサーバーの紹介

Ken Hanabusa - September 09, 2023 117

GeForce RTX 4090はRTX A6000などと比較して、物理的サイズが非常に大きく、かつ消費電力も450Wと大きいため、RTX4090を8GPU搭載可能なサーバーの構築は困難と考えられますが、この記事では弊社が販売しているRTX4090を8GPU搭載可能な、AMD Epyc Genoa 2CPUのサーバーを紹介します。

HowTo config 新着情報

RTX4090をDeepLearningで並列動作可能にさせるcuda-driversのversion

June 18, 2023 89

GeForce RTX 4090をDeepLearningなどで並列動作させようとした場合、driverのバージョンを限定（525.105.17）しないとうまく動作しません。

Evaluation 新着情報

RTX4090 1, 2, 4 GPU vs RTX3090 1,2,4 GPU for DeepLearning

June 17, 2023 33

GeForce RTX 4090を1, 2, 4 GPU 使い、batch size を64, 128, 256, 512と変化させてtf_cnn_benchmarks での学習速度を計測しました。RTX3090との比較も掲載してあります。 modelは、resnet50, inception3, vgg16, nasnet, resnet152, inception4です。 fp16とfp32の学習速度を計測しました。

Evaluation

4GPU: 再計測 GeForce RTX 3090 Deep Learning Benchmarks

November 05, 2020 19

再計測（NGCのtensorflow:20.10-tf1-py3使用）GeForce RTX 3090 の Deep Learning 学習での性能評価のため、HPCDIY-ERM1GPU4TS に４枚実装して、tensorflow で tf_cnn_benchmarks.py（ダウンロートはこちら）を実行してみました。前回（こちら）より良い成績になりました。 CPU: AMD EPYC Rome 7252 DP/UP 8C/16T 3.1G 64M 120W, Memory: 128GB, SSD: NVMe M.2 512GB NVIDIA Driver: 455.32.00 TensorFlow: nvcr.io/nvidia/tensorflow:20.10-tf1-py3

Evaluation

2GPU: NVIDIA A100 Deep Learning Benchmarks

November 04, 2020 8

NVIDIA A100 PCIe 40GB の Deep Learning 学習での性能評価のため、HPCDIY-ERMGPU8R4S に2枚実装して、tensorflow で tf_cnn_benchmarks.py（ダウンロートはこちら）を実行してみました。 CPU: 2x AMD EPYC Rome 7302 DP/UP 16C/32T 3.0G 128M 155W, Memory: 512GB, SSD: NVMe U.2 1.92TB NVIDIA Driver: 455.32.00 TensorFlow: nvcr.io/nvidia/tensorflow:20.10-tf1-py3

Evaluation

8GPU: GeForce RTX 3090 Deep Learning Benchmarks

November 01, 2020 20

GeForce RTX 3090 の Deep Learning 学習での性能評価のため、HPCDIY-ERMGPU8R4S に8枚実装して、tensorflow で tf_cnn_benchmarks.py（ダウンロートはこちら）を実行してみました。 CPU: 2x AMD EPYC Rome 7302 DP/UP 16C/32T 3.0G 128M 155W, Memory: 512GB, SSD: NVMe U.2 1.92TB NVIDIA Driver: 455.32.00 TensorFlow: nvcr.io/nvidia/tensorflow:20.09-tf1-py3

Evaluation

4GPU: GeForce RTX 3090 Deep Learning Benchmarks

October 23, 2020 15

GeForce RTX 3090 の Deep Learning 学習での性能評価のため、HPCDIY-ERM1GPU4TS に４枚実装して、tensorflow で tf_cnn_benchmarks.py（ダウンロートはこちら）を実行してみました。 TensorFlow を新しくして再計測したらもっと高速になりました。その記事はこちら。 CPU: AMD EPYC Rome 7252 DP/UP 8C/16T 3.1G 64M 120W, Memory: 128GB, SSD: NVMe M.2 512GB NVIDIA Driver: 455.32.00 TensorFlow: nvcr.io/nvidia/tensorflow:20.09-tf1-py3