DL Boost - DL Boost
Deep Learning Boost ( DL Boost ) firmy Intel to marketingowa nazwa funkcji architektury zestawu instrukcji na x86-64, która ma na celu poprawę wydajności zadań głębokiego uczenia, takich jak szkolenie i wnioskowanie. DL Boost składa się z dwóch zestawów funkcji:
- AVX-512 VNNI , 4VNNIW lub AVX-VNNI : szybka akumulacja mnożenia głównie dla splotowych sieci neuronowych .
- AVX-512 BF16: mniej precyzyjne liczby zmiennoprzecinkowe bfloat16 dla ogólnie szybszego obliczania. Dostarczone operacje obejmują konwersję do/z float32 oraz iloczyn skalarny.
W architekturze Cascade Lake wprowadzono funkcje DL Boost .
TensorFlow -na biegu benchmarku na Google Cloud Platform Compute Engine pokazy poprawie wydajności i zmniejszenie kosztów w porównaniu do poprzednich procesorów i kart graficznych, zwłaszcza dla małych seriach.
Zewnętrzne linki
- Deep Learning Boost w firmie Intel
- Andres Rodrigues i in., „Lower Numerical Precision Deep Learning Inference and Training”, Intel White paper [3]
- Intel i ML (2017), z działu relacji z programistami firmy Intel