Deep neural network re-training with quantization using TensorFlow

cancel
Showing results for 
Search instead for 
Did you mean: 

Deep neural network re-training with quantization using TensorFlow

No ratings

Deep neural network re-training with quantization using TensorFlow

Assignment

Quantization reduces computation costs of neural networks by shrinking model size and improving accelerator latency with only small degradation of model accuracy. To keep the precision the highest possible, often quantization-aware training is necessary. First, the model is trained with floating point weight and bias values, then fake quantization nodes are applied to the model graph to simulate quantization and to adjust the values. Find a method how to re-train existing floating point TensorFlow models using the final quantization phase. Apply the steps on the PoseNet model to achieve an 8-bit quantized network. Compare the accuracy of the quantized model with the original floating point model and with the accuracy of models quantized using the simpler post-training method.

 

Assignment CZ/SK

Kvantizace snižuje náročnost výpočtu neurónových sítí zmenšením jejich velikosti a zvýšením možností akcelerace s jenom malým ůbytkem přesnosti modelu. Pro zachování co nejvyšší přesnosti je často zapotřebí trénování s kvantizací. Nejdříve se natrénuje model s hodnotami vah a prahů s pohyblivou desetinnou čárkou, následně se aplikují uzly grafu modelu pro simulaci kvantizace na přizpůsobení hodnot. Najděte spůsob jak přetrénovat existujíci TensorFlow modely s hodnotami s pohyblivou desetinnou čárkou za použití finální fáze trénování s kvantizací. Aplikujte kroky na PoseNet model pro dosáhnutí 8-bitově kvantizované sítě. Srovnejte přesnost výsledného kvantizovaného modelu s originálem a s přesností modelů kvatizovaných pomocí jednodušší metody kvantizace po tréninku.

 

Language

CZ/SK/EN

 

Leaders

LadislavVadkerti

 

Contact

University team NXP Semiconductors CZ 

Apply by email 

nxp.png

Labels (1)
Version history
Revision #:
3 of 3
Last update:
‎11-20-2020 06:02 AM
Updated by: