分布式训练的时候没有使用分布式的sampler

Question

<p dir="auto">您好 我最近在您的代码上做一下实验，但是我发现在train.py中，您似乎没有给dataloader提供distributed sampler，这样会导致每张卡可能会获得同

xg-chu · Answer

每个dataloader是每张卡的子进程分别初始化的，不会获得同样的图片。如果每张卡都获得同样的训练图片，会出现严重的掉点。

zehuichen123 · Answer

<p dir="auto">额 我做了一个实验 如果把shuffle设为False，打印数据集取到的图片，每张卡对应的id是一样的诶...我的意思是 不一定重复 但是每张卡的dataiter都只在数据

xg-chu · Answer

shuffle都设置false了当然是顺序取图片啊

zehuichen123 · Answer

<p dir="auto">举个例子来说吧 比如我有 [1,2,3,4,5,6,7,8]这么多图 拿两张卡训练 每张卡放两张图 那么iter_per_epoch=8 / (2 * 2) = 2，对于第

xg-chu · Answer

<p dir="auto">每个epoch过程中确实不保证遍历整个数据集，但是由于每张卡自行shuffle，各自train几个epoch后，每张卡都会独立的遍历一遍数据集。比如使用8卡，那么8个epo

zehuichen123 · Answer

懂了～哈哈哈这种写法好奇怪啊感谢解答～

xg-chu · Answer

对点数影响极小，写起来又方便😉

zehuichen123 · Answer

学习了😎

分布式训练的时候没有使用分布式的sampler about crowddet HOT 8 CLOSED