目录
前言
在做文本挖掘的时候，首先要做的预处理就是分词。
- 英文单词天然有空格隔开容易按照空格分词，但是也有时候需要把多个单词做为一个分词，比如一些名词如“New York”，需要做为一个词看待。
- 而中文由于没有空格，分词就是一个需要专门去解决的问题了。
无论是英文还是中文，分词的原理都是类似的，本文就对文本挖掘时的分词原理做一个总结。
1. 分词的基本原理
现代分词都是基于统计的分词，而统计的样本内容来自于一些标准的语料库。假如有一个句子：“小明来到荔湾区”，我们期望语料库统计后分词的结果是：”小明/来到/荔湾/区”，而不是“小明/来到/荔/湾区”。那么如何做到这一点呢？
从统计的角度，我们期望“小明/来到/荔湾/区”这个分词后句子出现的概率要比“小明/来到/荔/湾区”大。如果用数学的语言来说说，如果有一个句子S,它有m种分词选项如下：
- /(A_{11}A_{12}…A_{1n_1}/)
- /(A_{21}A_{22}…A_{2n_2}/)
- /(…… ……/)
- /(A_{m1}A_{m2}…A_{mn_m}/)
原创文章，作者：，如若转载，请注明出处：https://blog.ytso.com/272714.html