本项目以ultralytics/yolov3为YOLOv3的Pytorch实现，并在YOLOv3-model-pruning剪枝的基础上，推出了4个YOLO-v3剪枝版本。(在此致谢两位)

此外，最近还更新了YOLO的1bit、4bit、8bit、16bit量化。

1.采用的YOLO-v3实现较为准确，mAP相对较高。

2.提供对YOLOv3及Tiny的多种剪枝版本、量化版本，以适应不同的需求。

3.剪枝后保存为.weights格式，可在任何框架下继续训练、推理，或以图像视频展示。

4.目前支持情况

• 2019年12月26日：支持任意bit量化。
• 2019年11月6日：极限剪枝已支持无需微调。
• 非常感谢github大佬tanluren，对该项目指出的众多问题和支持，实在太强了^_^。

1.由于采用ultralytics/yolov3的YOLO实现，环境搭建见ultralytics/yolov3。这里重复介绍一下：

• numpy
• torch >= 1.1.0
• opencv-python
• tqdm

可直接pip3 install -U -r requirements.txt搭建环境，或根据该.txt文件使用conda搭建。

依然采用oxford hand数据集

1.下载数据集，并解压至/data目录下，得到hand_dataset文件夹。

2.执行python converter.py ，生成 images、labels 文件夹和 train.txt、valid.txt 文件。

3.获取YOLO预训练权重，/weights文件夹下执行bash download_yolov3_weights.sh，或自行下载。

4.至此，数据部分完成。

1.正常训练

python3 train.py --data data/oxfordhand.data --batch-size 32 --accumulate 1 --weights weights/yolov3.weights --cfg cfg/yolov3-hand.cfg

2.稀疏化训练

-sr开启稀疏化，--s指定稀疏因子大小，--prune指定稀疏类型。

其中：

--prune 0为正常剪枝和规整剪枝的稀疏化

--prune 1为极限剪枝的稀疏化

--prune 2为Tiny剪枝的稀疏化

python3 train.py --data data/oxfordhand.data --batch-size 32 --accumulate 1 --weights weights/yolov3.weights --cfg cfg/yolov3-hand.cfg -sr --s 0.001 --prune 0 

3.模型剪枝

• 正常剪枝

python3 normal_prune.py

• 规整剪枝

python3 regular_prune.py

• 极限剪枝

python3 shortcut_prune.py

• Tiny剪枝

python3 prune_tiny_yolo.py

需要注意的是，这里需要在.py文件内，将opt内的cfg和weights变量指向第2步稀疏化后生成的cfg文件和weights文件。 此外，可通过增大代码中percent的值来获得更大的压缩率。（若稀疏化不到位，且percent值过大，程序会报错。）

1 指定需要量化的层

打开任意一个可用的配置文件，例如yolov3-hand.cfg。将需要量化的层，从原来的convolutional替换为quantize_convolutional。

2 指定量化方式

通过修改models.py中的W_bit和A_bit，指定权重的量化方式，激活的量化方式。（目前默认为16bit量化）

3 量化训练

python3 train.py --data data/oxfordhand.data --batch-size 32 --accumulate 1 --weights weights/yolov3.weights --cfg cfg/yolov3-quantize-hand.cfg

与正常训练相同，只是cfg要指向修改过的cfg文件。

这里，我们不仅可以使用原始的YOLOV3用来推理展示，还可使用我们剪枝后的模型来推理展示。（修改cfg，weights的指向即可）

python3 detect.py --source ...

• Image: --source file.jpg
• Video: --source file.mp4
• Directory: --source dir/
• Webcam: --source 0
• RTSP stream: --source rtsp://170.93.143.139/rtplive/470011e600ef003a004ee33696235daa
• HTTP stream: --source http://wmccpinetop.axiscam.net/mjpg/video.mjpg

例如：

python3 detect.py --cfg cfg/prune_0.8_yolov3-hand.cfg --weights weights/yolov3_hand_pruning_percent0.8.weights --data data/oxfordhand.data --source test.jpg

以下数据除极限剪枝外，均未微调。

以下量化数据中，权重激活均被量化。

剪枝方法来源于论文Learning Efficient Convolutional Networks through Network Slimming，剪枝无需微调方法来源于Rethinking the Smaller-Norm-Less-Informative Assumption in Channel Pruning of Convolution Layers。

量化方法来源于论文DoReFa-Net: Training Low Bitwidth Convolutional Neural Networks with Low Bitwidth Gradients。

此外，具体实现时，在论文作者的基础上做了改进。

提高压缩率的关键在于稀疏化训练，可以加大--s的值并迭代训练多次等手段。

以上数据仅仅是测试了不到20次的结果，如果有同学的压缩率更高，欢迎在评论区分享！

由于采用了ultralytics/yolov3为YOLOv3的Pytorch实现，因此这类错误可跳转至此链接询问。

一定要在本评论区留言，我会尽快修正！