Django实现whoosh搜索引擎使用jieba分词
本文介绍了Django实现whoosh搜索引擎使用jieba分词,分享给大家,具体如下:
Django版本:3.0.4python包准备:
pip install django-haystackpip install jieba
使用jieba分词
1.cd到site-packages内的haystack包,创建并编辑ChineseAnalyzer.py文件
# (注意:pip安装的是django-haystack,但是实际包的文件夹名字为haystack)cd /usr/local/lib/python3.8/site-packages/haystack/backends/# 创建并编辑ChineseAnalyzer.py文件vim ChineseAnalyzer.py
2.修改ChineseAnalyzer.py文件内容
import jiebafrom whoosh.analysis import Tokenizer, Tokenclass ChineseTokenizer(Tokenizer): def __call__(self, value, positions=False, chars=False, keeporiginal=False, removestops=True, start_pos=0, start_char=0, mode=’’, **kwargs): t = Token(positions, chars, removestops=removestops, mode=mode,**kwargs) seglist = jieba.cut(value, cut_all=True) for w in seglist: t.original = t.text = w t.boost = 1.0 if positions: t.pos = start_pos + value.find(w) if chars: t.startchar = start_char + value.find(w) t.endchar = start_char + value.find(w) + len(w) yield tdef ChineseAnalyzer(): return ChineseTokenizer()
3.替换分词器
cp whoosh_backend.py whoosh_cn_backend.pyvim whoosh_cn_backend.py
# 导入ChineseAnalyzer,并将原有的StemmingAnalyser替换为ChineseAnalyzerfrom .ChineseAnalyzer import ChineseAnalyzer# from whoosh.analysis import StemmingAnalyzer
vim替换命令: %s/StemmingAnalyzer/ChineseAnalyzer/g
4.修改setting.py文件
# 全文搜索框架配置HAYSTACK_CONNECTIONS = { ’default’: { # 使用whoosh引擎 # ’ENGINE’: ’haystack.backends.whoosh_backend.WhooshEngine’, # 使用jieba分词 ’ENGINE’: ’haystack.backends.whoosh_cn_backend.WhooshEngine’, # 索引文件路径 ’PATH’: os.path.join(BASE_DIR, ’whoosh_index’), },}
5.重新建立索引
python manage.py rebuild_index
可以看到,已经使用了jieba分词。
到此这篇关于Django实现whoosh搜索引擎使用jieba分词的文章就介绍到这了,更多相关Django jieba分词内容请搜索好吧啦网以前的文章或继续浏览下面的相关文章希望大家以后多多支持好吧啦网!
相关文章: