[中文|English]
BytePiece是一个Byte-based的Unigram分词器,纯Python实现,更加易读和易拓展。由于采用了新的训练算法,所以压缩率通常比现有Tokenizer更高,同时支持多进程加速训练。此外,它直接操作文本的UTF-8 Bytes,几乎不进行任何的预处理,所以更加纯粹和语言无关。
博客:
理想的Tokenizer及其训练算法,应该具备以下特点:
- 无损重构
- 高压缩率
- 语言无关
- 数据驱动
- 训练友好
目前主流的SentencePiece,事实上已经基本具备以上特性,但仍存在一些问题。比如:它支持BPE和Unigram两种算法,BPE压缩率往往更高一些,但训练极慢,而且非常耗内存;它还是对文本进行了少许语言相关的预处理的,所以“语言无关”这一点也不够纯粹。此外,它是用C++写的,对于多数用户来说就是黑箱,因此也不利于研究和修改。
BytePiece构思了新的基于 Byte-based N-gram Language Model(BNLM) 的训练方式,能获得更高压缩率的词表,同时支持多进程训练,同等语料下相比SentencePiece的BPE训练有明显的加速。代码是纯Python,方便大家阅读和二次修改。
BytePiece并非单纯基于Byte-based和多进程来重写已有的Unigram模型,而是为Unigram设计了新的训练方案,这是它压缩率更高的关键原因之一。
新的训练方案基于N-gram语言模型的新词发现算法,首次提出于笔者7年前的博客《【中文分词系列】 5. 基于语言模型的无监督分词》,细节请移步阅读。
BytePiece只能运行在Python3上,使用了pyahocorasick来加速训练过程。由于BytePiece是Byte-based的,而PyPi上的pyahocorasick是Unicode-based的,所以不能直接用,需要参考如下方式安装Byte-based版的pyahocorasick:
# 如果已经安装,请先卸载
pip uninstall pyahocorasick
# 直接从git编译安装,注意要传入环境变量AHOCORASICK_BYTES
AHOCORASICK_BYTES=1 pip install git+https://github.com/WojciechMula/pyahocorasick.git
然后安装Cython:
pip install Cython
安装完之后,就可以用pip安装BytePiece了:
pip install bytepiece==0.4.0
BytePiece的所有源码其实也就是单文件,包含Trainer
和Tokenizer
两个类,分别对应训练和分词。
训练Tokenizer只需要引入Trainer
类:
from bytepiece import Trainer
然后准备训练语料。BytePiece支持不一次性将所有语料读进内存中,但由于BytePiece训练需要过两遍数据,所以不支持Generator输入,而是要写成Iterator的形式,例如:
import json
class corpus:
def __iter__(self):
f = 'data_sample.json'
with open(f) as f:
for l in f:
yield json.loads(l)['text'] # 每次返回一个Unicode
然后就可以正式训练了:
trainer = Trainer(order=6, max_vocab_size=100000, min_count=32)
trainer.train(corpus(), workers=64, batch_size=1000)
trainer.save('bytepiece.model')
这里的order
就是n-gram语言模型的阶,推荐默认order=6
就好;max_vocab_size
是词表最大尺寸,注意由于去冗的原因,最后得到的词表不一定精确等于max_vocab_size,而是有可能会略少于;min_count
则是token最低出现频数,数据量大时可以适当调大,一般不会明显影响训练结果;workers
是并行训练的进程数,可以跑满机器的所有核心;batch_size
是批大小,不会影响训练结果,一般情况下不用改,如果发现CPU利用率不满可以适当调大。
训练完成后,参考使用方式:
from bytepiece import Tokenizer
tokenizer = Tokenizer('bytepiece.model')
text = '今天天气不错'
tokens = tokenizer.tokenize(text) # 返回bytes的list
print(b' '.join(tokens).decode(errors='ignore')) # 可视化分词结果
ids = tokenizer.encode(text) # 返回tokens对应的ids
print(tokenizer.decode(ids)) # 重新将ids解码为unicode文本
tokens = tokenizer.tokenize(text, alpha=0.2) # 随机tokenize
print(b' '.join(tokens).decode(errors='ignore')) # 可视化分词结果
小数据量对比:
训练时间↓ | 最大内存占用↓ | 压缩率↑ | 分词速度↑ | |
---|---|---|---|---|
SP-BPE | 55.3分钟 | 5.2GB | 4.80 | 5.47 |
SP-Unigram | 1.6分钟 | 2.5GB | 4.73 | 7.84 |
BytePiece | 6.5分钟 | 4.3GB | 5.05 | 2.50 |
大数据量对比:
训练时间↓ | 最大内存占用↓ | 压缩率(同源)↑ | 压缩率(异源)↑ | 分词速度↑ | |
---|---|---|---|---|---|
SP-BPE | 19.21小时 | 97GB | 4.52 | 4.46 | 1.27 |
SP-Unigram | 2.02小时 | 384GB | 4.51 | 4.48 | 5.55 |
BytePiece | 2.24小时 | 51GB | 5.39 | 4.51 | 1.92 |
压缩率的单位是“bytes/token”,即平均每个token对应的字节数;速度的单位是“M bytes/second”,即平均每秒可以切分的字节数(以百万为单位)。其他细节请参考这里。
第一个表格的数据集平均长度较短,BytePiece同时慢于SP-BPE和SP-Unigram;在第二个表格中,语料的平均长度普遍更长,出现了BytePiece的速度优于SP-BPE的结果。这说明BPE的分词速度受长度影响比较明显,也说明经过Cython加速的BytePiece分词速度,速度上已经可以跟SentencePiece相比较。
在38G中英混合语料(中英比为3:5)上训练的两个模型:
vocab size | 压缩率 (bytes/token) | |
---|---|---|
bytepiece_80k | 79,896 | 5.09 |
bytepiece_160k | 159,896 | 5.34 |
在185G混合语料(中、英、代码语料比为3:5:0.5)上训练的五个模型(内存峰值519GB,耗时27.7小时):
vocab size | 压缩率 (bytes/token) | |
---|---|---|
bytepiece.plus.40k | 39,843 | 4.63 |
bytepiece.plus.80k | 79,812 | 5.13 |
bytepiece.plus.160k | 159,846 | 5.56 |
bytepiece.plus.240k | 239,858 | 5.74 |
bytepiece.plus.320k | 319,768 | 5.83 |
可以看到,在固定的语料配比上,当vocab_size到大一定程度后,增大vocab_size也无法带来明显的压缩率提高。
@misc{bytepiece2023,
title={BytePiece: A more pure and effective tokenizer},
author={Jianlin Su},
year={2023},
howpublished={\url{https://github.com/bojone/bytepiece}},
}
QQ群:67729435,微信群请加机器人spaces_ac_cn