• ElasticSearch入门篇Ⅰ --- ES核心知识概括


    C01.什么是Elasticsearch

    1.什么是搜索

    垂直搜索(站内搜索)

    • 互联网的搜索:电商网站,招聘网站,各种app

    • IT系统的搜索:OA软件,办公自动化软件,会议管理,员工管理,后台管理系

    2.如果用数据库做搜索会怎么样

    数据库在做某些搜索(模糊搜索)时,效率会很差,是不太靠谱的。

    3. 什么是全文检索?

    数据库搜索的弊端:数据库里有100万条数据,模糊匹配要扫描100万次,每次扫描都要匹配文本所有字符,还无法拆解开来检索。

    全文检索:会将100万条数据拆分开来,建立倒排索引,搜索的时也许第一次就可以搜素到对应的数据,可能是100次,1000次,上述过程就叫全文检索。

    Lucene:就是一个jar包,里面包含各种建立倒排索引,以及搜索的代码,包括各种算法。我们Java开发时,引入lucene的jar进行开发就可以了。使用lucene,我们可以去将已有的数据建立索引,lucene会在本地磁盘上面给我们组织索引的数据结构。

    lucene的弊端:数据量大,一台机器难以放下,需要多台机器,可用性,可维护性差。

    4.什么是Elasticsearch

    • 自动维护数据的分布到多个节点的索引的建立,还有搜索请求分不到多个节点执行

    • 自动维护数据的冗余副本,保证说一些机器宕机了,不会丢失任何的数据

    • 分装了更多的高级功能,以给我们提供更多高级的支持,让我们快速地开发应用,开发更复杂的应用,复杂的搜素功能,聚合分析的功能。

     

     

    C02.Elasticsearch的功能、适用场景

    1.Elasticsearch的功能

    • 分布式搜索引擎和数据分析引擎

      搜索:百度,网站站内搜索,It系统检索

      数据分析: 电商网站,最近7天牙膏销量排行较前有哪些;新闻网站,最近一个月访问量排行前十的有哪些

    • 全文检索:结构化检索,数据分析

      结构化检索:我想搜索的商品分类为日化用品的有哪些: select* from prod where cate_id = '日化用品'

      全文检索:想搜索商品名称包含牙膏的商品: select * from prod where prod_name like "%牙膏%"

      数据分析: 分析一下每一个商品分类有多少商品,select cate_id,count(*) from prod group by cate_id

    • 对海量数据近实时处理

      分布式: ES可以自动将海量数据分散到多台服务器上存储和检索

      海量数据的处理:分布式以后,就可以采用大量服务器去检索和存储数据。

      近实时:在秒级别对数据进行搜索和分析。

      与海量数据/分布式相反:lucene,单机应用,只能在单台服务器上用,最多只能处理单台服务器的数据

       

    2.ES的适用场景

    • 维基百科,全文检索,高亮,搜索推荐

    • 电商网站,检索商品

    • 新闻网站,用户行为日志(点赞,评论),数据分析

    • 论坛网站,全文检索,搜索问题和答案

    • Github,搜索代码和项目

    • 日志数据分析,logstash采集日志,ES进行复杂的数据分析(ELK技术,elasticsearch+logstash+kibana)

    • 商品价格监控网站,用户设定某商品的价格阈值,低于阈值时,发送通知给用户。

    • BI系统,商业智能,ES执行数据分析和挖掘

    • 站内搜索(电商,招聘,门户),IT搜索(OA,CRM,ERP)等

       

    3.ES的特点

    • 可以作为大型分布式集群的技术,处理PB级的数据,服务大公司,也可以运行在单机上

    • ES不是什么新技术,主要是将全文检索,数据分析以及分布式技术合并在了一起

    • 对用户而言,开箱即用,较为简单

    • 数据库的功能面对很多领域是不够用的,比如全文检索,同义词处理,相关度排名,复杂数据分析,海量数据近实时处理。ES可以作为传统数据库的不错,提供数据库不足的功能。

    C03.Elasticsearch的核心概念

    1.lucene和ES

    lucene,最先进,最强大的搜索库,基于lucene开发,非常复杂,api复杂,需要深入原理。

    ES基于lucene,隐藏其复杂性,提供简单易用的restful接口,java api接口。

    • 分布式的文档存储引擎

    • 分布式的搜索引擎和分析引擎

    • 分布式,支持PB级数据

     

    2.ES的核心概念

    • 1.Near Realtime(NRT): 近实时,从写入数据到ES到可以被搜索到大概有1秒延迟,基于ES执行搜索和分析可以达到秒级

    • 2.Cluster: 集群,包含多个节点,每个节点属于哪个集群是通过一个配置(集群名称,默认是elasticsearch)来决定的,对于中小型应用来说,刚开始一个集群就一个节点很正常。

    • 3.Node: 节点,集群中的一个节点,节点也有一个名称(默认是随机),节点名称很重要(在执行运维管理操作的时候),默认节点会去加入一个名称为"elasticsearch"的集群,如果直接启动一堆节点,那么他们会自动组成一个elasticsearch集群,当然一个节点也可以组成一个es集群

    • 4.Document: 文档。es中的最小单元,一个document可以是客户的一条数据,一条商品数据,订单数据,通常用JSON数据结构表示,每个index下的type中,都可以存储多个doucument,一个document里面有多个field,每个field就是一个数据字段

    • Index: 索引,包含一堆有相似结构的文档数据,比如一个商品索引,订单索引,索引有一个名称。一个index包含多个document,比如建立了一个商品索引,product index,里面可能就存放了所有商品的数据。

    • Type:类型,每个索引里面都可以有一个或多个type,type是index的一个逻辑数据分类,一个type下的document,都有相同的field(有例外),比如博客系统,有一个索引,可以定义用户数据的type,博客数据的type

    • shard: 单台机器无法存储大量数据,es可以将一个索引中的数据切分为多个shard,分布在多台服务器上存储。有了shard就可以横向扩展,存储更多数据,让数据搜索和分析等操作分布到多台服务器上执行,提高吞吐量和性能。

      PS:index会被拆分为多个shard,每个shard会存放这个index的部分数据,这些shard分布在多台服务器上分布执行,提升吞吐量与性能。

    • replica: 任何一个服务器随时可能故障或宕机,此时shard可能就会丢失,因此可以为每个shard创建多个replica,replica可以在shard故障时随时提供服务,保证数据不丢失,多个replica还可以提高吞吐量和性能。primary shard(建索引是一次设置,不能修改,默认5个),replica shard(随时修改,默认1个),默认每个索引10个shard,5个primary shard,5个replica shard,最小高可用配置,是两台服务器。

      PS: shard其实叫primary shard,replica叫replica shard,其实都shard

      replica的好处:

      1).提升了高可用性,一个shard宕机,数据不丢,服务继续提供

      2).提升了搜索这类请求的吞吐量和性能

     

    C04.ES与Kibana的安装与使用

    • 安装JDK,至少Java1.8以上

    • 下载解压ES安装包

    • 启动ES(使用终端命令行工具启动,bin目录下的elasticsearch)

    • 检查ES是否启动成功(默认是localhost 9200端口)

    • 修改集群名称:elasticsearch.yml

    • 下载和解压缩Kibana安装包,使用里面的开发界面,操作es,是学习es的主要界面入口

    • 启动kibana(默认localhost:5601)

    C05.电商网站商品管理(一):CRUD基础操作

    1.document数据格式

    • 应用系统的数据结构都是面向对象的,复杂的

    • 对象数据存储到数据库中,只能拆解开来,变为扁平的多张表,每次查询返回原对象的格式,相当麻烦

    • ES是面向文档的,文档中存储的数据结构,与面向对象的数据结构是一样的,基于这种文档数据结构,es可以提供复杂的索引,全文检索,分析聚合等功能

    • ES的document用json数据格式来表达

    2.电商网站商品管理案例背景介绍

    有一个电商网站,需要为其基于ES构建一个后台系统,提供以下功能:

    • 对商品信息进行CRUD(增删改查)操作

    • 执行简单的结构化查询

    • 可以执行简单的全文检索,以及复杂的phrase(短语)检索

    • 对于全文检索的结果,可以进行高亮显示

    • 对数据进行简单的聚合分析

    3.简单的集群管理

    • 1、快速检查集群的健康状况

      es提供了一套api,叫做cat api,可以查看es中各种各样的数据

      GET /_cat/health?v

       

      如何快速了解集群的健康状况?green、yellow、red?

      green:每个索引的primary shard和replica shard都是active状态的 yellow:每个索引的primary shard都是active状态的,但是部分replica shard不是active状态,处于不可用的状态 red:不是所有索引的primary shard都是active状态的,部分索引有数据丢失了

      为什么现在会处于一个yellow状态?

      我们现在就一个笔记本电脑,就启动了一个es进程,相当于就只有一个node。现在es中有一个index,就是kibana自己内置建立的index。由于默认的配置是给每个index分配5个primary shard和5个replica shard,而且primary shard和replica shard不能在同一台机器上(为了容错)。现在kibana自己建立的index是1个primary shard和1个replica shard。当前就一个node,所以只有1个primary shard被分配了和启动了,但是一个replica shard没有第二台机器去启动。

      做一个小实验:此时只要启动第二个es进程,就会在es集群中有2个node,然后那1个replica shard就会自动分配过去,然后cluster status就会变成green状态。

    • 2、快速查看集群中有哪些索引

      GET /_cat/indices?v

    • 3、简单的索引操作

      创建索引:PUT /test_index?pretty

      删除索引:DELETE /test_index?pretty

    4.商品的CRUD操作

    1.新增商品:新增文档,建立索引

    语法: PUT /index/type/id
    
    {
      "json数据"
    }

    示例:

    PUT /ecommerce/product/1
    {
        "name" : "gaolujie yagao",
        "desc" :  "gaoxiao meibai",
        "price" :  30,
        "producer" :      "gaolujie producer",
        "tags": [ "meibai", "fangzhu" ]
    }
     

     

    Return:

    {
      "_index": "ecommerce",  
      "_type": "product",
      "_id": "1",
      "_version": 1,
      "result": "created",
      "_shards": {
        "total": 2,
        "successful": 1,
        "failed": 0
      },
      "created": true
    }
    
    

    PS:ES会自动建立index和type,不需要提前创建,而且es默认会对document每个field都建立倒排索引,让其可以被搜索

    2.查询商品:检索文档

    语法: GET /index/type/id

    GET /ecommerce/product/1
     

    3.修改商品:替换文档

    PUT /ecommerce/product/1
    {
        "name" : "jiaqiangban gaolujie yagao",
        "desc" :  "gaoxiao meibai",
        "price" :  30,
        "producer" :      "gaolujie producer",
        "tags": [ "meibai", "fangzhu" ]
    }

     

    PS:替换方式有一个不好,即使必须带上所有的field,才能去进行信息的修改

    4.修改商品:更新文档

    POST /ecommerce/product/1/_update
    {
      "doc": {
        "name": "jiaqiangban gaolujie yagao"
      }
    }

     

    5.删除商品:删除文档

    DELETE /ecommerce/product/1

     

     

     

     

    C06.电商网站商品管理(二):多种搜索方式

    *搜索全部商品: GET /ecommerce/product/search

    took: 耗费了几毫秒 timed_out: 是否超时,这里是没有 shards: 数据拆成了5个分片,所以对于搜索请求,会打到所有的primary shard(或者是它的某个replica shard也可以) hits.total: 查询结果的数量,3个document hits.max_score: score的含义,就是document对于一个search的相关度的匹配分数,越相关,就越匹配,分数也高 hits.hits: 包含了匹配搜索的document的详细数据

     

    1. query string search

    query string search的由来,因为search参数都是以http请求的query string来附带的

    搜索商品名称中包含yagao的商品,而且按照售价降序排序:GET /ecommerce/product/_search?q=name:yagao&sort=price:desc

    PS: 适用于临时的在命令行使用一些工具,比如curl,快速的发出请求,来检索想要的信息;但是如果查询请求很复杂,是很难去构建的,在生产环境中,几乎很少使用query string search

    2. query DSL

    DSL: Domain Specified Language,特定领域的语言 http request body: 请求体,可以用json的格式来构建查询语法,比较方便,可以构建各种复杂的语法,比query string search肯定强大多了

    查询所有的商品

    GET /ecommerce/product/_search
    {
      "query": { "match_all": {} }
    }
     

    查询名称包含yagao的商品,同时按照价格降序排序

    GET /ecommerce/product/_search
    {
        "query" : {
            "match" : {
                "name" : "yagao"
            }
        },
        "sort": [
            { "price": "desc" }
        ]
    }
     

    分页查询商品,总共3条商品,假设每页就显示1条商品,现在显示第2页,所以就查出来第2个商品

    GET /ecommerce/product/_search
    {
      "query": { "match_all": {} },
      "from": 1,
      "size": 1
    }

     

    指定要查询出来商品的名称和价格就可以

    GET /ecommerce/product/search
    {
      "query": { "match_all": {} },
      "source": ["name", "price"]
    }

     

    PS: 更加适合生产环境的使用,可以构建复杂的查询

    3. query filter

    搜索商品名称包含yagao,而且售价大于25元的商品

    GET /ecommerce/product/_search
    {
        "query" : {
            "bool" : {
                "must" : {
                    "match" : {
                        "name" : "yagao" 
                    }
                },
                "filter" : {
                    "range" : {
                        "price" : { "gt" : 25 } 
                    }
                }
            }
        }
    }

      

    4. full-text search(全文检索)

    全文检索会将输入的搜索串拆解开来,去倒排索引里面去一一匹配,只要能匹配上任意一个拆解后的单词,就可以作为结果返回。

    GET /ecommerce/product/_search
    {
        "query" : {
            "match" : {
                "producer" : "yagao producer"
            }
        }
    }

      

    Result:

    {
      "took": 4,
      "timed_out": false,
      "_shards": {
        "total": 5,
        "successful": 5,
        "failed": 0
      },
      "hits": {
        "total": 4,
        "max_score": 0.70293105, //最高分,匹配度最高的那个
        "hits": [
          {
            "_index": "ecommerce",
            "_type": "product",
            "_id": "4",
            "_score": 0.70293105,
            "_source": {
              "name": "special yagao",
              "desc": "special meibai",
              "price": 50,
              "producer": "special yagao producer",
              "tags": [
                "meibai"
              ]
            }
          },
          {
            "_index": "ecommerce",
            "_type": "product",
            "_id": "1",
            "_score": 0.25811607,
            "_source": {
              "name": "gaolujie yagao",
              "desc": "gaoxiao meibai",
              "price": 30,
              "producer": "gaolujie producer",
              "tags": [
                "meibai",
                "fangzhu"
              ]
            }
          },
          {
            "_index": "ecommerce",
            "_type": "product",
            "_id": "3",
            "_score": 0.25811607,
            "_source": {
              "name": "zhonghua yagao",
              "desc": "caoben zhiwu",
              "price": 40,
              "producer": "zhonghua producer",
              "tags": [
                "qingxin"
              ]
            }
          },
          {
            "_index": "ecommerce",
            "_type": "product",
            "_id": "2",
            "_score": 0.1805489,
            "_source": {
              "name": "jiajieshi yagao",
              "desc": "youxiao fangzhu",
              "price": 25,
              "producer": "jiajieshi producer",
              "tags": [
                "fangzhu"
              ]
            }
          }
        ]
      }
    }

      

    5. phrase search (短语搜索)

    跟全文检索相对应,相反,phrase search,要求输入的搜索串,必须在指定的字段文本中,完全包含一模一样的,才可以算匹配,才能作为结果返回。

    GET /ecommerce/product/_search
    {
        "query" : {
            "match_phrase" : {
                "producer" : "yagao producer"
            }
        }
    }

    Return:

    {
      "took": 11,
      "timed_out": false,
      "_shards": {
        "total": 5,
        "successful": 5,
        "failed": 0
      },
      "hits": {
        "total": 1,
        "max_score": 0.70293105,
        "hits": [
          {
            "_index": "ecommerce",
            "_type": "product",
            "_id": "4",
            "_score": 0.70293105,
            "_source": {
              "name": "special yagao",
              "desc": "special meibai",
              "price": 50,
              "producer": "special yagao producer",
              "tags": [
                "meibai"
              ]
            }
          }
        ]
      }
    }

     

    6.highlight search(高亮搜索结果)

    GET /ecommerce/product/_search
    {
        "query" : {
            "match" : {
                "producer" : "producer"
            }
        },
        "highlight": {
            "fields" : {
                "producer" : {}
            }
        }
    }

     

    C07. 电商网站商品管理(三): 聚合分析

    1.计算每个tag下的商品数量:

    GET /ecommerce/product/_search
    {
      "aggs": {
        "group_by_tags": {
          "terms": { "field": "tags" } 
        }
      }
    }

    将文本field的fielddata属性设置为true:

    PUT /ecommerce/_mapping/product
    {
      "properties": {
        "tags": {
          "type": "text",
          "fielddata": true
        }
      }
    }
    
    GET /ecommerce/product/_search
    {
      "size": 0,
      "aggs": {
        "all_tags": {
          "terms": { "field": "tags" }
        }
      }
    }
    {
      "took": 20,
      "timed_out": false,
      "_shards": {
        "total": 5,
        "successful": 5,
        "failed": 0
      },
      "hits": {
        "total": 4,
        "max_score": 0,
        "hits": []
      },
      "aggregations": {
        "group_by_tags": {
          "doc_count_error_upper_bound": 0,
          "sum_other_doc_count": 0,
          "buckets": [
            {
              "key": "fangzhu",
              "doc_count": 2
            },
            {
              "key": "meibai",
              "doc_count": 2
            },
            {
              "key": "qingxin",
              "doc_count": 1
            }
          ]
        }
      }
    }

     

    2.对名称中包含yagao的商品,计算每个tag下的商品数量

    GET /ecommerce/product/_search
    {
      "size": 0,
      "query": {
        "match": {
          "name": "yagao"
        }
      },
      "aggs": {
        "all_tags": {
          "terms": {
            "field": "tags"
          }
        }
      }
    }

     

    3.计算每个tag下的商品的平均价格,并且按照平均价格降序排序

    GET /ecommerce/product/_search
    {
        "size": 0,
        "aggs" : {
            "group_by_tags" : {
                "terms" : { "field" : "tags" },
                "aggs" : {
                    "avg_price" : {
                        "avg" : { "field" : "price" }
                    }
                }
            }
        }
    }

    Result:

    {
      "took": 8,
      "timed_out": false,
      "_shards": {
        "total": 5,
        "successful": 5,
        "failed": 0
      },
      "hits": {
        "total": 4,
        "max_score": 0,
        "hits": []
      },
      "aggregations": {
        "group_by_tags": {
          "doc_count_error_upper_bound": 0,
          "sum_other_doc_count": 0,
          "buckets": [
            {
              "key": "fangzhu",
              "doc_count": 2,
              "avg_price": {
                "value": 27.5
              }
            },
            {
              "key": "meibai",
              "doc_count": 2,
              "avg_price": {
                "value": 40
              }
            },
            {
              "key": "qingxin",
              "doc_count": 1,
              "avg_price": {
                "value": 40
              }
            }
          ]
        }
      }
    }
    
    

     

    4.计算每个tag下的商品的平均价格,并且按照平均价格降序排序

    GET /ecommerce/product/_search
    {
        "size": 0,
        "aggs" : {
            "all_tags" : {
                "terms" : { "field" : "tags", "order": { "avg_price": "desc" } },
                "aggs" : {
                    "avg_price" : {
                        "avg" : { "field" : "price" }
                    }
                }
            }
        }
    }

     

    5.按照指定的价格范围区间进行分组,然后在每组内再按照tag进行分组,最后再计算每组的平均价格

    GET /ecommerce/product/_search
    {
      "size": 0,
      "aggs": {
        "group_by_price": {
          "range": {
            "field": "price",
            "ranges": [
              {
                "from": 0,
                "to": 20
              },
              {
                "from": 20,
                "to": 40
              },
              {
                "from": 40,
                "to": 50
              }
            ]
          },
          "aggs": {
            "group_by_tags": {
              "terms": {
                "field": "tags"
              },
              "aggs": {
                "average_price": {
                  "avg": {
                    "field": "price"
                  }
                }
              }
            }
          }
        }
      }
    }
  • 相关阅读:
    C# 实现 Aop [Emit动态生成代理类方式]
    分享一些最近在看的电子书
    Can't connect to your phone. Disconnect it, restart it, then try connecting again
    07,Windows Phone后台代理
    .NET 性能测试工具 性能计数器
    windows 8 metro 开发学习资源链接
    08,Windows Phone 本地存储
    06,Windows Phone 8程序的生命周期
    .NET 性能测试工具 事件跟踪器(ETW)
    LitJSONjson 和net 的完美组合用法
  • 原文地址:https://www.cnblogs.com/wangxiayun/p/11525117.html
Copyright © 2020-2023  润新知