如果你只想大概看一下结果，请直接打开`prediction_large.ipynb`文件预览

百度网盘，下载大模型 cpm-large-tf2
链接: https://pan.baidu.com/s/1gup1qhojFr4jC_a70tlmgw  密码: 5lba

百度网盘，下载小模型 cpm-distill-tf2
链接: https://pan.baidu.com/s/10vhjVRX2tWbX2892ulLemg  密码: dsvv

or GDrive：

大模型
https://drive.google.com/drive/folders/1XGy2B6QSf1k0SOtVF13gcekLvdtpPkmq?usp=sharing

小模型
https://drive.google.com/drive/folders/13wTPVMEslAx8Xl0Sfw59BbSUR-BowHgW?usp=sharing

cpm-lm-tf2/
...cpm-large-tf2/  （从网盘下载好的TF2版本大模型）
......assets
......saved_model.pb
......variables
...cpm-distill-tf2/  （从网盘下载好的TF2版本小模型，大小两个下载其中一个就好）
......assets
......saved_model.pb
......variables
...CPM-Generate/
......bpe_3w_new/ （词表所在目录）
...prediction_large.ipynb  （预测大模型的demo主程序，下载了大模型就运行这个）
...prediction_distill.ipynb  （预测小模型的demo主程序，下载了小模型就运行这个）
...gpt2_tokenizer.py  （分词文件，这个里面引入了jieba，和huggingface那一系列的不能简单互换）

运行所需的代码其实就大概以上的几个文件和目录就够了，其他的主要是模型转换等代码

# 依赖：
pip install sentencepiece jieba regex tensorflow tensorflow-hub

@article{cpm-v1,
  title={CPM: A Large-scale Generative Chinese Pre-trained Language Model},
  author={Zhang, Zhengyan and Han, Xu, and Zhou, Hao, and Ke, Pei, and Gu, Yuxian and Ye, Deming and Qin, Yujia and Su, Yusheng and Ji, Haozhe and Guan, Jian and Qi, Fanchao and Wang, Xiaozhi and Zheng, Yanan and Cao, Jiannan and Zeng, Guoyang and Cao, Huanqi and Chen, Shengqi and Li, Daixuan and Sun, Zhenbo and Liu, Zhiyuan and Huang, Minlie and Han, Wentao and Tang, Jie and Li, Juanzi and Sun, Maosong},
  year={2020}
}