压缩模型是否会导致指标变差？ about mynlp HOT 5 CLOSED

你压缩完成后，再保存为一个新的模型文件，模型文件大小规模你可以看的出来。
压缩肯定会有一点点损失的，不过可以忽略

from mynlp.

@jimichan 感谢回复。
如果单从模型文件大小来看的话，我试了一个，压缩前：862 MB，压缩后：112 MB。
就是压缩花的时间有点长，3分多钟。

from mynlp.

@jimichan 另外还有个问题， quantize(2, false, false) 这里面，参数怎么设置，有文档说明吗，对不同的模型，2是否合适？

from mynlp.

参照官方原版
dsub: Int = 2,
qnorm: Boolean = false,
qout: Boolean = false

-qnorm quantizing the norm separately [0]
-qout quantizing the classifier [0]
-dsub size of each sub-vector [2]

影响最大是dsub，表示子空间的维度，越大压缩模型越小，误差越大
，如果你模型的维度是100，那么dsub一定要被100整除才行。

你可以测试一下你的模型在dsub增加到多少是，p和r开始严重下降。

另外压缩后，你把模型另存。生成环境直接使用压缩模型即可，所以压缩时间长度无所谓。
另外压缩操作需要消耗大的内存

from mynlp.

@jimichan 感谢回复

from mynlp.