玩 Deep Learning/Machine Learning 的硬體設備考量要點

動機:若想要自己組一台電腦PC來玩 DL/ML,需要什麼樣等級的硬體(HW)呢(2019'Q2)?!

準備環境
1.Ubuntu 19.04
2.Python 3.7.3
3.OpenCV 4.1.0
4.Caffe 1.0.0
5.Darknet

實作步驟
1.對於 DL 開放源碼 及 快速準確 而言,Caffe(https://github.com/BVLC/caffe) 或 Darknet(https://pjreddie.com/darknet/) 是一個很好實作的軟體(C程式),但對於亟須計算能力的硬體而言,究竟什麼樣的Laboratory Tested Hardware才能滿足DL/ML所需呢?!筆者綜合了 參攷1.參攷2. 所列出的清單(其實,就是直接參攷價格不菲的 NVIDIA® DIGITS™ DevBox [https://developer.nvidia.com/devbox],再調整其中周邊就可以啦),整理如下...
a) 機殻Case: 配合主機板的記憶體4組插槽及PCI-E 2組插槽及選擇有散熱風扇+濾網的空間
b) 硬碟SSD: 目前較佳的是選擇 M.2SSD,容量 1TB,根據筆者經驗,256GB一定不夠,512GB稍嫌不足...可自行考量 RAID磁碟陣列
c) 記憶體Memory: 32GB(8GB x 4),配合主機板(雙通道/四通道) 插同廠牌4條,根據 Darknet作者稱 32GB 就足夠了!!
d) 電源供應器Power Supply: 要根據 GPU卡所需供電而定,若要插二片顯卡(例如: RTX 2080 Ti)則約多需 250*2= 500W 的足瓦電力,所以 650~700W 就必要了!!
e) 中央處理器CPU: Intel Core i7 就夠了,不用到 i9,目前是 i7-9700K 九代八核心處理器、3.60 GHz,但 AMD 這時也出了等價高效的 Ryzen9 3900X 第三代、12核心,令人動容,就不知道 AMD+GPU 的計算能力是否勝過 intel+GPU???
f) 主機板Motherboard: 筆者同意 Darknet作者的選擇 -- 使用 GIGABYTE,目前查到 Z390 GAMING X 系列可滿足
g) GPUs: 依據 Darknet作者是使用 4片 Titan X with 12GB,筆者查出 GeForce RTX 2080 Ti 11MB TU102 串接二片就可超過 Darknet當時運算力了!!

2.若要自組DIY以上所列的零件,粗略小計約需~NT$ 100k...可能要找廠商贊助吧!!

心得
一個好又強的計算環境讓你不用花太久(2~3天)就可以得到訓練/測試結果,目前筆者苦惱 i5的PC或MacBook(無GPU),均無法於3天內訓練完 Darknet 的範例 Imagenet 資料集,不知何時才有預算自組上述的硬體環境來完善實驗環境!!

參攷
1.Caffe Hardware, https://caffe.berkeleyvision.org/installation.html#hardware
2.Hardware Guide: Neural Networks on GPUs (Updated 2016-1-30), https://pjreddie.com/darknet/hardware-guide/

留言