关于通道分组 about fcanet HOT 2 CLOSED

@Asthestarsfalll
非常高兴看到我们的方法对你的模型有提升，也感谢你很有insight的分析。有一点我可能还是需要澄清一下：

其他的都是对空间上某一个或几个部分注意的更多，这显然是存在偏颇的

我觉得其他频率也并没有对某些部分注意更多，因为DCT的基函数都是由cos wave构成的，所以他是非常对称的一种结构。而且他是预先数学上定义好的形式，是data-independent的，所以我觉得可能没有过分关注某个部分这种情况。至于为什么GAP效果最好，我觉得可能有两个原因吧，第一个是求平均确实很好的一种提取信息的方式，也对微小变化不是很敏感（这个有可能对于抽象，提高语义理解能力是很有帮助的）。第二个是神经网络似乎就是喜欢低频一些，这个可以在CVPR2020那篇 learning in the frequency domain 找到佐证。

其他的观点我还是比较认同的，是有可能在上述方案中取得更好的效果的。

from fcanet.

@cfzd
好的，感谢您的答复让我发现了频率在神经网络中的神奇奥秘！
另外，我将映射大小改为8，频率分量的选取改为
mapper_x = [0, 0, 0, 0, 0, 0, 0, 0, 1, 2, 3, 4, 5, 6, 7, 0]
mapper_y = [0, 1, 2, 3, 4, 5, 6, 7, 0, 0, 0, 0, 0, 0, 0, 0]
相较于原FCA模块获得了0.3的提升，不过也可能是实验误差。

from fcanet.