• 全文检索 部署及使用


    全文检索

    • 全文检索不同于特定字段的模糊查询,使用全文检索的效率更高,并且能够对于中文进行分词处理
    • haystack:django的一个包,可以方便地对model里面的内容进行索引、搜索,设计为支持whoosh,solr,Xapian,Elasticsearc四种全文检索引擎后端,属于一种全文检索的框架
    • whoosh:纯Python编写的全文搜索引擎,虽然性能比不上sphinx、xapian、Elasticsearc等,但是无二进制包,程序不会莫名其妙的崩溃,对于小型的站点,whoosh已经足够使用
    • jieba:一款免费的中文分词包,如果觉得不好用可以使用一些收费产品

    操作

    官方文档:
    http://django-haystack.readthedocs.io/en/v2.4.1/tutorial.html

    1.  在虚拟环境中依次安装包

    安装全文检索管理模块haystack、全文搜索引擎模块whoosh和中文分词jieba

    pip install django-haystack
    pip install whoosh
    pip install jieba

    2.修改settings.py文件

    • 添加应用
    • 添加搜索引擎
    全文检索搜索过程是由haystack模块进行操作的,所以搜索路由操作交给haystack进行处理,修改路由配置如下:
    INSTALLED_APPS = (
        ...
        'haystack',
    )
    HAYSTACK_CONNECTIONS = {
        'default': {
            'ENGINE': 'haystack.backends.whoosh_cn_backend.WhooshEngine',
            'PATH': os.path.join(BASE_DIR, 'whoosh_index'),
        }
    }
    #自动生成索引
    HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'

    3.在项目的urls.py中添加url

    #配置全文检索路由
    urlpatterns = [
        ...
        re_path(r'^search/', include('haystack.urls')),
    ]

    4.在应用目录下建立search_indexes.py文件

    #管理搜索的数据模型
     
    # coding=utf-8
    from haystack import indexes
    from shopadmin import Good
    class GoodIndex(indexes.SearchIndex, indexes.Indexable):
        text = indexes.CharField(document=True, use_template=True)
     
        def get_model(self):
            return GoodsInfo
     
        def index_queryset(self, using=None):
            return self.get_model().objects.all()

    5.在目录“templates/search/indexes/shopadmin/”下创建“模型类名称_text.txt”文件

    #_text.txt,这里列出了要对哪些列的内容进行检索  编辑可搜索内容
    {{ object.name }}
    {{ object.description }}

    6.在目录“templates/search/”下建立search.html

    #构建索引展示页面
    <!DOCTYPE html>
    <html>
    <head>
        <title></title>
    </head>
    <body>
    {% if query %}
        <h3>搜索结果如下:</h3>
        {% for result in page.object_list %}
            <a href="/{{ result.object.id }}/">{{ result.object.name }}</a><br/>
        {% empty %}
            <p>啥也没找到</p>
        {% endfor %}
     
        {% if page.has_previous or page.has_next %}
            <div>
                {% if page.has_previous %}<a href="?q={{ query }}&amp;page={{ page.previous_page_number }}">{% endif %}&laquo; 上一页{% if page.has_previous %}</a>{% endif %}
            |
                {% if page.has_next %}<a href="?q={{ query }}&amp;page={{ page.next_page_number }}">{% endif %}下一页 &raquo;{% if page.has_next %}</a>{% endif %}
            </div>
        {% endif %}
    {% endif %}
    </body>
    </html>

    7.  建立ChineseAnalyzer.py文件

    whoosh作为一个全文搜索模块,分词功能和检索功能已经非常强大,但是针对中文的处理还是比较欠缺,所以通过jieba模块重写分词操作,支持whoose对中文的强大操作

    打开安装的whoosh模块目录,在python安装目录的site_packages/目录下找到对应的目录文件haystack/backends/,创建一个新的中文分词模块ChineseAnalyzer.py

    • 保存在haystack的安装文件夹下,路径如“/home/python/.virtualenvs/django_py2/lib/python2.7/site-packages/haystack/backends”
    • 注意:复制出来的文件名,末尾会有一个空格,记得要删除这个空格
    • 初始化索引数据
    import jieba
    from whoosh.analysis import Tokenizer, Token
     
     
    class ChineseTokenizer(Tokenizer):
        def __call__(self, value, positions=False, chars=False,
                     keeporiginal=False, removestops=True,
                     start_pos=0, start_char=0, mode='', **kwargs):
            t = Token(positions, chars, removestops=removestops, mode=mode,
                      **kwargs)
            seglist = jieba.cut(value, cut_all=True)
            for w in seglist:
                t.original = t.text = w
                t.boost = 1.0
                if positions:
                    t.pos = start_pos + value.find(w)
                if chars:
                    t.startchar = start_char + value.find(w)
                    t.endchar = start_char + value.find(w) + len(w)
                yield t
     
     
    def ChineseAnalyzer():
        return ChineseTokenizer()

    8.复制whoosh_backend.py文件,改名为whoosh_cn_backend.py

    from .ChineseAnalyzer import ChineseAnalyzer 
    查找
    analyzer=StemmingAnalyzer()  #搜索查询赋值参数
    改为
    analyzer=ChineseAnalyzer()  # 将分析器对象更改为我们自定义的中文分词分析器

    9.生成索引

    python manage.py rebuild_index

    10.在模板中创建搜索栏

    <form method='get' action="/search/" target="_blank">
        <input type="text" name="q">
        <input type="submit" value="查询">
    </form>
  • 相关阅读:
    bzoj 4583 购物
    hdu 4694 支配树
    弦图问题初步
    第一次省选总结
    初学kd树
    省选前集训 lca
    bzoj 3282 Tree
    bzoj 2157 旅游
    二分图匹配(匈牙利算法模板)
    最大流(模板)
  • 原文地址:https://www.cnblogs.com/canhun/p/11056420.html
Copyright © 2020-2023  润新知