Elasticsearch学习系列三（搜索案例实战）

Query DSL

Es提供了基于JSON的完整查询DSL（Domain Specific Language 特定域的语言）来定义查询。将查询DSL视为查询的AST（抽象语法树）。它由两种子句组成：

• 叶子查询子句

叶子查询子句，在特定域中寻找特定的值，如match、term或range查询

• 复合查询子句

复合查询子句包装其他叶子查询或复合查询，并用于以逻辑方式组合多个查询。如bool、dis_max、constant_score查询

1. 查询所有

POST /索引名称/_search
{
  "query":{
    "match_all": {}
  }
}

查询结果示例：

{
  "took" : 1,
  "timed_out" : false,
  "_shards" : {
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : {
      "value" : 3,
      "relation" : "eq"
    },
    "max_score" : 1.0,
    "hits" : [
      {
        "_index" : "test-demo1",
        "_type" : "_doc",
        "_id" : "1",
        "_score" : 1.0,
        "_source" : {
          "name" : "百度3",
          "job" : "运营",
          "amt" : "3000.34",
          "logo" : "http://www.lgstatic.com/ttasdf2",
          "createTime" : "20220303230000"
        }
      }
      ...省略2条数据
    ]
  }
}

• took：查询花费时间，单位是毫秒
• time_out：是否超时
• _shards：分片信息
• hits:搜索结果总览对象
  • total：搜索到的总条数
  • max_score:所有结果中文档得分的最高分
  • hits：搜索结果的文档对象数组，每个元素是一条搜索到的文档信息
    • _index：索引库
    • _type：文档类型
    • _id：文档id
    • _score:文档得分
    • _source:文档的源数据

2. 全文搜索

全文搜索能够搜索已分析的文本字段，如电子邮件正文、商品描述等。

先造一些测试数据：

PUT /item
{
  "settings": {},
  "mappings": {
    "properties": {
      "title": {
        "type": "text",
        "analyzer": "ik_max_word"
      },
      "images": {
        "type": "keyword"
      },
      "price": {
        "type": "float"
      }
    }
  }
}

POST /item/_doc/
{
"title": "小米电视4A",
"images": "http://image.lagou.com/12479122.jpg",
"price": 4288
}

POST /item/_doc/
{
"title": "小米手机",
"images": "http://image.lagou.com/12479122.jpg",
"price": 2688
}

POST /item/_doc/
{
"title": "苹果手机",
"images": "http://image.lagou.com/12479122.jpg",
"price": 5699
}

2.1 匹配搜索

• or关系

match类型的查询，会把查询条件分词，多个词条之间是or的关系。如下面的例子，会根据小米和手机分别去搜索，能搜出3条数据。

POST /item/_search
{
  "query":{
    "match": {
      "title": "小米手机"
    }
  }
}

• and关系

POST /item/_search
{
  "query":{
    "match": {
      "title": {
        "query": "小米手机",
        "operator":"and"
      }
    }
  }
}

2.2 短语搜索

match_phrase查询用来对一个字段进行短语查询，可以指定analyzer、slop移动因子

POST /item/_search
{
  "query":{
   "match_phrase": {
     "title": "小米手机"
   }
  }
}

带slop：

POST /item/_search
{
  "query":{
   "match_phrase": {
     "title": {
       "query": "手机小米",
       "slop":2
     }
   }
  }
}

slop参数告诉match_phrase查询词条能够相隔多远时仍然将文档视为匹配。相隔多远的意思是，你需要移动一个词条多少次来让查询和文档匹配

2.3 query_string 查询

query string提供了无需指定某字段而对文档全文进行匹配查询的一个高级查询，同时可以指定在哪些字段上进行匹配。

GET /item/_search
{
  "query": {
    "query_string": {
      "query": "2688"
    }
  }
}

GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "price", 
      "query": "2688"
    }
  }
}

GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "title", 
      "query": "手机 OR 小米"
    }
  }
}

GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "title", 
      "query": "手机 and 小米"
    }
  }
}

#模糊查询
GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "title", 
      "query": "小米~1"
    }
  }
}

#多字段支持
GET /item/_search
{
  "query": {
    "query_string": {
      "fields": ["title","price"], 
      "query": "2699"
    }
  }
}

2.4 多字段匹配搜索

如果你需要在多个字段上进行文本搜索，可用multi_match。

GET /item/_search
{
  "query": {
    "multi_match": {
      "query": "2688",
      "fields": ["title","price"]
    }
  }
}

#还可以使用*配置

GET /item/_search
{
  "query": {
    "multi_match": {
      "query": "2688",
      "fields": ["title","pri*"]
    }
  }
}

3. 词条搜索

可以使用term-level queries根据结构化数据中的精确值查找文档。term-level queries不分析搜索词。搜索词与存储在字段中的词需要完全匹配

3.1 词条普通搜索

用于查询指定字段包含某个搜索词的文档

POST /item/_search
{
  "query": {
    "term": {
      "title":"小米"
    }
  }
}

3.2 词条集合搜索

POST /item/_search
{
  "query": {
    "terms": {
      "title": ["小米","电视"]
    }
  }
}

3.3 范围搜索

• gte：大于等于
• gt：大于
• lte：小于等于
• lt：小于
• boost：查询权重

POST /item/_search
{
  "query": {
    "range": {
      "price": {
        "gte": 10,
        "lte": 3000
      }
    }
  }
}

#日期范围
POST /item/_search
{
  "query": {
    "range": {
      "createTime": {
        "gte": "2022-01-01",
        "lte": "2022-02-01",
        "format": "yyyy-MM-dd"
      }
    }
  }
}

3.4 不为空搜索

GET /item/_search
{
  "query": {
    "exists": {
      "field": "price"
    }
  }
}

3.5 词项前缀搜索

GET /item/_search
{
  "query": {
    "prefix": {
      "title": {
        "value": "小米"
      }
    }
  }
}

3.6 通配符搜索

GET /item/_search
{
  "query": {
    "wildcard": {
      "title":"小*"
    }
  }
}

3.7 正则搜索

GET /item/_search
{
  "query": {
    "regexp": {
      "title":"小米[a-z0-9]"
    }
  }
}

3.8 模糊搜索

GET /item/_search
{
  "query": {
    "fuzzy": {
      "title": "手机"
    }
  }
}

#错别字纠正
GET /item/_search
{
  "query": {
    "fuzzy": {
      "title": {
        "value": "大米",
        "fuzziness": 1
      }
    }
  }
}

3.9 ids搜索

GET /item/_search
{
  "query": {
    "ids": {
      "values": ["t76YgYEB9TD2fYkcLzha","tb6XgYEB9TD2fYkc6zhx"]
    }
  }
}

4. 复合搜索

4.1 constant_score，用来包装另一个查询，将查询匹配的文档的评分设为一个常值

GET /item/_search
{
  "query": {
   "constant_score": {
     "filter": {
       "term": {
         "title": "小米"
       }
     },
     "boost": 1.2
   }
  }
}

4.2 bool query，用bool组合多个查询子句为一个查询。

• must：必须满足
• filter：必须满足，但执行的是filter上下文，不参与、影响评分
• should：或
• must_not：必须不满足，在filter上下文中执行，不参与、不影响评分

POST /item/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "title": "小米"
          }
        }
      ], "filter": {
        "term": {
          "title": "电视"
        }
      },"must_not": [
        {
          "range": {
            "price": {
              "gte": 4200,
              "lte": 4300
            }
          }
        }
      ]
      ,"minimum_should_match": 0
    }
  }
}

minimum_should_match代表了最小匹配精度，如果设置为1，代表should语句中至少需要有一个条件满足。

5. 排序

5.1 相关性评分排序

默认情况下，返回的结果是按照相关性进行排序的。默认排序是_score降序

# 按照评分升序
GET /item/_search
{
  "query": {
    "match_all": {}
  },
  "sort":[{
    "_score":{
      "order":"asc"
    }
  }
  ]
}


#根据字段值排序
GET /item/_search
{
  "query": {
    "match_all": {}
  },
  "sort":[{
    "price":{
      "order":"asc"
    }
  }
  ]
}

#多个字段的排序
GET /item/_search
{
  "query": {
    "match_all": {}
  },
  "sort":[{
    "price":{
      "order":"asc"
    }
  },{
    "createTime": {
      "order":"desc"
    }
  }
  ]
}

6.分页

size:每页显示多少条

from:当前页起始索引

POST /item/_search
{
  "query": {
    "match_all": {}
  }
  ,"size": 2,
  "from": 0
}

7. 高亮

POST /item/_search
{
  "query": {
    "match": {
      "title": "小米"
    }
  },
  "highlight": {
    "pre_tags": "<font color='pink'>",
    "post_tags": "</font>",
    "fields": [{"title":{}}]
  }
}

• pre_tags：前置标签
• post_tags：后置标签
• fields：需要高亮的字段
  • title：这里声明title字段需要高亮

8. 文档批量操作

8.1 mget批量查询

不同的索引

GET /_mget
{
  "docs":[
    {
      "_index":"item",
      "_id":"tb6XgYEB9TD2fYkc6zhx"
    },
    {
      "_index":"test-location",
      "_id":1
    }
    ]
}

相同的索引

POST /test-location/_search
{
  "query": {
    "ids": {
      "values": ["1","2"]
    }
  }
}

8.2 bulk批量增删改

语法：

POST /_bulk
{"action": {"metadata"}}
{"data"}

示例：

POST /_bulk
  {"delete":{"_index":"item","_id":"tb6XgYEB9TD2fYkc6zhx"}}
  {"create":{"_index":"item","_id":"1"}}
  {"title":"华为电脑","price":2333}
  {"update":{"_index":"item","_id":2}}
  {"doc":{"title":"冰箱"}}

• delete：删除一个文档，删除没有请求体，只需要一个json串就行
• create：相当于强制创建
• index：普通的PUT操作，可以创建也可以全量替换
• update：执行的是局部更新

格式：每个json不能换行，相邻json必须换行

隔离：每个操作互不影响，操作失败的行会返回其失败信息

实际用法：bulk请求一次不要太大，否则一下积压到内存中，性能会下降。所以，一次请求几千个操作、大小在几M正好。bulk会将要处理的数据载入内存中，所以数据量是有限的，最佳的数据量不是一个确定的数据，它取决于你的硬件，你的文档大小以及复杂性，你的索引以及搜索的负载。一般建议是1000-5000个文档，大小建议是5-15MB，默认不能超过100M，可以在es的配置文件（ES的config下的elasticsearch.yml）中配置。

http.max_content_length: 10mb

Filter

Elasticsearch中的所有查询都会触发相关度得分的计算。对于我们不需要相关度得分的场景，Es以过滤器的形式提供了另一种查询功能，过滤器在概念上类似于查询，但是它们有非常快的执行速度，执行速度快主要有以下两个原因：

• 过滤器不会计算相关度的得分
• 过滤器可以被缓存到内存中，这使得在重复的搜索查询上，比相应的查询快出许多。

{
  "query": {
    "bool":{
      "must":{
        "match_all":{}
      },
      "filter": {
        "range": {
          "price": {
            "gte": 10,
            "lte": 20000
          }
        }
      }
    }
  }
}