esp-dl模型输出错的，怎么排查问题
Posted: Mon May 15, 2023 6:49 am
我这里两个模型。第一个弄好。结果蛮好的。第二个。发现输出差别很大。请问怎么排查？。
我这里也还有几个疑问：
1. 我准备每层的输出都打印出来。请问每层的打印。是量化后的值int16。转成float。。那个指数是多少。固定15？还是量化过程中的Conv layer name: /conv1/Conv, output_exponent: -13
2.最后输出的值，转成float，都是固定-15吗？。和量化过程的打印Gemm layer name: /class_fc/Gemm, output_exponent: -11有关不？
我这里也还有几个疑问：
1. 我准备每层的输出都打印出来。请问每层的打印。是量化后的值int16。转成float。。那个指数是多少。固定15？还是量化过程中的Conv layer name: /conv1/Conv, output_exponent: -13
2.最后输出的值，转成float，都是固定-15吗？。和量化过程的打印Gemm layer name: /class_fc/Gemm, output_exponent: -11有关不？