百度分词算法详解

　　Spelling Checker拼写检查错误提示(以及拼音提示功能)

　　拼写检查错误提示是搜索引擎都具备的一个功能,也就是说用户提交查询 给搜索引擎,搜索引擎检查看是否用户输入的拼写有错误,对于中文用户来说一般造成的错误是输入法造成的错误.那么我们就来分析看看百度是 怎么实现这一功能的.

　　我们分析拼写检查系统关注以下几个问题:

　　(1)系统如何判断用户的输入是有可能发生错误的查询呢?

　　(2)如果判断是可能错误的查询输入,如何提示正确的词汇呢?

　　那么百度是如何做的呢?百度判断用户输入是否错误的标准,我觉得应该是查字典,如果发现字典里面不包含这个词汇,那么很有可能是个错误的输入,此时启动错误提示功能,这个很好判断,因为如果是一个正常词汇的话,百度一般不会有错误提示,而你故意输入一个词典不可能包含的所谓词汇,此时百度一般会提示你正确的检索词汇.
　那么百度是怎么提示正确词汇的呢?很明显是通过拼音的方式,比如我输入查询

　　" 制才",百度提供的提示词汇为: “:制裁质材纸材",都是同 音字.所以百度必然维持着一个同音词词典,里面保留着同音词信息,比如可能包含着下面这条词条: “ zhi cai à制裁,质材,纸材",另外还有一 个标注拼音程序,现在能够看到的基本流程是: 用户输入" 制才",查词典,发现没有这个词汇,OK,启动标注拼音程序,将" 制才"标注为拼音"zhi cai",然后查找同音词词典,发现同音词" 制裁,质材,纸材",那么提示用户可能的正确拼写.

　　整体流程看起来很简单,但是还有