요약
本文介绍了模型量化技术，旨在降低深度学习模型在资源受限设备上的部署复杂度。从FP32到INT8的转换可减少75%存储并提升推理效率。核心在于通过Scale（和Zero Point）建立浮点与整数空间的映射，实现量化与反量化，同时分析了量化带来的信息损失及后续PTQ、QAT方法的优化空间。
본문
1. AI FP3232 INT88 Scale PTQPost Training Quantization QATQuantization Aware Training 2. 2.1 FP32 FP32 32 1 = 32 bit = 4 Byte 1 100000000 × 4 Byte 400 MB 2.2 FP32 FP16 0.1…