cudnn int8 demo问题 about tensorrt_tutorial HOT 5 CLOSED

这个问题在给出的问题讨论链接里已经解决。
https://devtalk.nvidia.com/default/topic/1005119/cudnn-v6-int8-convolution-failing-with-cudnn_status_not_supported/

cudnn_conv_int8.cc文件main函数修改代码如下即可：

#define FIX
// input dimensions
size_t width = 960;
size_t height = 600;
#ifdef FIX
size_t channels = 4;
#else
size_t channels = 3;
#endif
int batch_size = 1;

// Create layer architecture
#ifdef FIX
int out_channels = 4;
#else
int out_channels = 1;
#endif
int kernel_size = 3;

原因是因为cudnn INT8函数的输入和输出必须是4的倍数，文档原文为"Input and output features maps must be multiple of 4"，详细见文档

from tensorrt_tutorial.

@LitLeo 修改后还是出现同样的问题：
Begin forwrad pass
CUDNN failure: CUDNN_STATUS_ARCH_MISMATCH
cudnn_conv_int8.cpp:236
Aborting...
我在win7 系统 cudnn_v6.0 cuda8.0 vs2013运行.
这和平台有关吗，为什么还是无法运行

from tensorrt_tutorial.

你是什么显卡？INT8需要计算能力>=6.1的显卡。比如GTX 1080，P4，P40。

from tensorrt_tutorial.

噢噢 我的是GTX750的 那是显卡的问题了 谢谢哈

from tensorrt_tutorial.

@LitLeo
测试demo跑通了，两个数据类，float32占用显存1000M左右，时间为0.4ms ,而int8占用显存通用为1000M，但是时间却达到2.2ms，我的显卡GTX1070 cudnn_v6.0
这是为何？？

from tensorrt_tutorial.