esp-dl模型输出错的,怎么排查问题

danyanpi
Posts: 13
Joined: Thu Mar 23, 2023 3:02 am

esp-dl模型输出错的,怎么排查问题

Postby danyanpi » Mon May 15, 2023 6:49 am

我这里两个模型。第一个弄好。结果蛮好的。第二个。发现输出差别很大。请问怎么排查?。
我这里也还有几个疑问:
1. 我准备每层的输出都打印出来。请问每层的打印。是量化后的值int16。转成float。。那个指数是多少。固定15?还是量化过程中的Conv layer name: /conv1/Conv, output_exponent: -13
2.最后输出的值,转成float,都是固定-15吗?。和量化过程的打印Gemm layer name: /class_fc/Gemm, output_exponent: -11有关不?

ESP_Junru
Posts: 49
Joined: Tue Jul 12, 2022 6:26 am

Re: esp-dl模型输出错的,怎么排查问题

Postby ESP_Junru » Tue May 16, 2023 7:32 am

和每一层的量化系数有关系

Who is online

Users browsing this forum: No registered users and 18 guests