mxsurui / nnie-lite Goto Github PK

博主的yolov3我在hi3519av100平台下运行调试通过，请问能提供yolov4的支持吗？

I train Enet with the repo https://github.com/TimoSaemann/ENet, finnally I got prototxt and model weights, but it has
bn_param { scale_filler { type: "constant" value: 1.0 } shift_filler { type: "constant" value: 0.0010000000474974513 } bn_mode: INFERENCE }
in the bn_conv_merged_model.prototxt, it will meets error,
./nnie_mapper_12 model_inst.cfg Mapper Version 1.2.2.0_B010 (NNIE_1.2) 19050917062183 begin net parsing.... [libprotobuf ERROR google/protobuf/text_format.cc:307] Error parsing text-format caffe.NetParameter: 65:12: Message type "caffe.LayerParameter" has no field named "bn_param".
How do you deal with bn_param?

我在作者的基础上修改一些代码，移植好了yolov5，但目前有些问题没搞明白：
用high-precision量化的wk跑起来仍然有一些精度损失，主要表现为confidence略有下降，对于本身得分就不高的目标容易发生漏检，请问这个现象是合理吗？还是说哪里弄得有问题，现在我也在检查很久了，没发现问题。

ps：(最好的办法是每一层打印输出和torch模型对比，但可能我太菜了。。觉得这个工作量有点难受)

你好，我把你的代码进行了部分更改，部署到hi3521dv200上，在进行模型推理的时候报错：

[Level]:Error,[Func]:NNIE_Forward [Line]:203 [Info]:Error,HI_MPI_SVP_NNIE_Forward failed!
[Level]:Error,[Func]:NNIE_Forward_From_Data [Line]:331 [Info]:Error,SAMPLE_SVP_NNIE_Forward failed!

能请教下是哪方面出现问题了吗

报错信息如下

[Func]:HI_MPI_SYS_MmzAlloc_Cached [Line]:1044 [Info]:System alloc mmz memory failed!
[Level]:Error,[Func]:SAMPLE_SVP_NNIE_ParamInit [Line]:355 [Info]:Error,Malloc memory failed!

[Level]:Error,[Func]:SAMPLE_COMM_SVP_NNIE_ParamInit [Line]:466 [Info]:Error, SAMPLE_SVP_NNIE_ParamInit failed!

[Level]:Debug,[Func]:SAMPLE_COMM_SVP_CheckSysExit [Line]:95 [Info]:Svp mpi exit ok!
[Level]:Info,[Func]:nnie_param_init [Line]:34 [Info]:Error,nnie_Param_init failed!
Segmentation fault

1.假设我从摄像头获取数据，VPSS可以直接输出resize后的YUV数据，理论可以省掉opencv的数据处理层。
2.输入端为8bit 正整数，一般的模型均为float32，这样的条件下，如果做量化效果会比较好

[Level]:Error,[Func]:SAMPLE_COMM_SVP_SysInit [Line]:42 [Info]:Error(0xa0018012):HI_MPI_VB_SetConf failed!

[Level]:Error,[Func]:SAMPLE_COMM_SVP_CheckSysInit [Line]:76 [Info]:Svp mpi init failed!

你好！想问下utils.h里ParseYolov3Feature函数里面：
108行float tc = feature.data[cx + (cy * feature.width) + (channel + 4) * feature.height * feature.width];应该是目标框的得分，然后
123行用Softmax计算每个类别的得分，但是yolov3之后不是用Sigmoid计算每个框的得分吗，这样可以实现多标签分类，同一个框可以说不同类别的物体。我看海思给的yolov3 demo里，在sample_svp_nnie_software.c，SVP_NNIE_Yolov3_GetResult函数里也是用Sigmoid计算框和各类别的得分的

网络多数时候运行是正常的，偶尔会输出远超4096的值。
https://github.com/RaySue/NNIE-lite/blob/daf0dc19f47bc1e286308d137e1e636c2ef98da7/src/nnie_core.c#L272

                for (n = 0; n < pstNnieParam->astSegData[u32SegIdx].astDst[u32NodeIdx].u32Num; n++)
                {
                    for (i = 0; i < u32Chn; i++)
                    {
                        for (j = 0; j < u32Height; j++)
                        {
                            for (k = 0; k < u32Width; k++)
                            {
                                *(tmp + k) = (*(ps32ResultAddr + k)) * 1.0f / SAMPLE_SVP_NNIE_QUANT_BASE;
                            }
                            ps32ResultAddr += u32Stride / sizeof(HI_U32);
                            tmp += t.width;
                        }
                    }
                }

对*(ps32ResultAddr + k)打印，偶尔会出现特别大的值，远超4096

您好，看到你的demo，是针对image。如果架设到华为相机上如何能够调用摄像头，或则您有试过这个demo和华为相机的sdc服务对接吗？谢谢

https://github.com/RaySue/NNIE-lite/blob/daf0dc19f47bc1e286308d137e1e636c2ef98da7/src/nnie_core.c#L282
(tmp + k) = ((ps32ResultAddr + k)) * 1.0f / SAMPLE_SVP_NNIE_QUANT_BASE;
tmp 和 ps32ResultAddr ， 首地址相同，类型不一样，前者是float*, 后者HI_U32*, 都是32位，所以没有新分配内存，存储输出结果。

感谢您的工作和奉献，这个工程您还在继续维护吗？能给出yolov4后处理部分代码吗？我调试了很久，yolov4的检测效果很差，觉得是和后处理部分代码有关。

https://github.com/RaySue/NNIE-lite/blob/master/examples/GeneralCls.cpp#L111
您好，请问这句push_back, 是否应该放在if前面，存错所有类别得分，index里面保存最大值得索引。

大佬你好，我在海思上转换了一个yolov4的模型，利用NNIE-LITE进行推理，测试发现识别不准确，如图：

我的anchors配置：

其他代码我未做修改，这是为什么呢？
NNIE转换钱的caffe模型在PC上测试检测准确，盼望大佬解决。

您好，按照您的配置编译好的二进制文件seg_exe，在terminal执行./seg_exe会报错
'
bash: ./alg_Exe：无法执行二进制文件: 可执行文件格式错误
'
请问该如何解决呢？非常感谢

大佬你好，我将yolov4模型转化成了nnie wk文件，利用nnie-lite进行推理的时候，我修改了anchors部分，修改如下：

请问
这个函数还修改吗？如果需要，怎么修改呢？