Hexo

log

用log级别

• 防止underflow
• 乘法变成加法，加速计算

上溢

乘法中如果数字相乘过大会导致溢出的问题，从而导致数据的丢失.

log sum问题

定点化(对比浮点)

浮点运算变成定点运算：

• 减小模型大小
• 加快计算速度
• 降低功耗

随着计算性能提升，速度优势没那么大。
手机端也重视精度，因此采用GPU、TPU。

常用的方法