中文分词到底对搜索引擎有多大影响?对于搜索引擎来说,最重要的并不是找到所有结果,因为在上百亿的网页中找到所有结果没有太多的意义,没有人能看得完,最重要的是把最相关的结果排在最前面,这也称为相关度排序。中文分词的准确与否,常常直接影响到对搜索结果的相关度排序。笔者最近替朋友找一些关于日本和服的资料,在搜索引擎上输入「和服」,得到的结果就发现了很多问题。下面就以这个例子来说明分词对搜索结果的影响,在目前最有三个中文搜索引擎上做测试。测试方法是直接在Google、百度、中搜上以「和服」为关键词进行搜索:
在Google上输入「和服」搜索所有中文简体网页,总共结果507,000条,前20条结果中有14条与和服一点关系都没有。在第一页就有以下错误:
"通信信息报:瑞星以技术和服务开拓网络安全市场"
"使用纯HTML的通用数据管理和服务- 开发者- ZDNet ..."
"陈慧琳《心口不一》 化妆和服装自己包办"
"::外交部:中国境外领事保护和服务指南(2003年版) ..."
"产品和服务"
等等。第一页只有三篇是真正在讲「和服」的结果。
在百度上输入「和服」搜索网页,总共结果为287,000条,前20条结果中有6条与和服一点关系都没有。在第一页有以下错误:
"福建省晋江市恒和服装有限公司系独资企业"
"关于商品和服务实行明码标价的规定"
"青岛东和服装设备"
在中搜山输入「和服」搜索网页,总共结果为26,917条,前20条结果都是与和服相关的网页。
这次搜索引擎结果中的错误,就是由于分词的不准确所造成的。通过笔者的了解,Google的中文分词技术采用的是美国一家名叫Basis Technology(http://www.basistech.com)的公司提供的中文分词技术,百度使用的是自己公司开发的分词技术,中搜使用的是国内海量科技(http://www.hylanda.com)提供的分词技术。业界评论海量科技的分词技术目前被认为是国内最好的中文分词技术,其分词准确度超过99%,由此也使得中搜在搜索结果中搜索结果的错误率很低。由此可见,中文分词的准确度,对搜索引擎结果相关性和准确性有相当大的关系。
wiss文档协同系统三分钟解决一切文档管理的烦恼,帮您完成公司文档到资产的转变!!!
更多功能欢迎访问
http://www.chinawiss.com