DL Boost - DL Boost
Deep Learning Boost de la Intel ( DL Boost ) este un nume de marketing pentru caracteristicile arhitecturii setului de instrucțiuni de pe x86-64 conceput pentru a îmbunătăți performanța în sarcinile de învățare profundă , cum ar fi instruirea și inferența. DL Boost constă din două seturi de caracteristici:
- AVX-512 VNNI , 4VNNIW sau AVX-VNNI : acumulare rapidă multiplă în principal pentru rețelele neuronale convoluționale .
- AVX-512 BF16: numere cu virgulă mobilă bfloat16 de precizie mai mică pentru un calcul în general mai rapid. Operațiunile furnizate includ conversia la / de la produsul float32 și dot.
Caracteristicile DL Boost au fost introduse în arhitectura Cascade Lake .
O analiză de referință bazată pe TensorFlow pe Google Cloud Platform Compute Engine arată performanțe îmbunătățite și costuri reduse comparativ cu procesoarele anterioare și cu GPU-urile, în special pentru dimensiuni mici de lot.
linkuri externe
- Deep Learning Boost la Intel
- Andres Rodrigues și colab., "Inferență inferioară de precizie numerică și instruire profundă", Cartea albă Intel [3]
- Intel și ML (2017), de la divizia de relații cu dezvoltatorii Intel