努力做有价值的技术文章
这里,只求分享与免费;这里,不隐含扭曲的价值观,而是整合并充盈正能量;

ElasticSearch—(提高篇)

前言

Elasticsearch的简单入门请参考之前写的一篇文章Elasticsearch简单入门篇,这篇简单介绍啦Elasticsearch的基本安装、Docker安装方法、基本的概念,以及如何使用Java代码实现对ElasticsearchCRUD操作等入门知识。

内容摘要

Elastic Search分享

1.1.Elastic Stack应用场景

  • 网站搜索、代码搜索等(例如生产环境的日志收集 ——格式化分析——全文检索——系统预警)
  • 日志管理与分析、应用系统性能分析、安全指标监控等

1.2.Elastic Stack技术架构

Elastic static家族产品

image-20190802210856808

高级架构

Elastic的技术架构可以简单,也可以高级,它是很具有扩展性的,最简单的技术架构就是使用Beats进行数据的收集,Beats是一种抽象的称呼,具体的可以是使用FileBeat收集数据源为文件的数据或者使用TopBeat来收集系统中的监控信息,可以说类似Linux系统中的TOP命令,当然还有很多的Beats的具体实现,再使用logstash进行数据的转换和导入到Elasticsearch中,最后使用Kibana进行数据的操作以及数据的可视化等操作。

当然,在生产环境中,我们的数据可能在不同的地方,例如关系型数据库Postgre,或者MQ,再或者Redis中,我们可以统一使用Logstash进行数据的转换,同时,也可以根据数据的热度不同将ES集群架构为一种冷温热架构,利用ES的多节点,将一天以内的数据称谓热数据,读写频繁,就存放在ES热节点中,七天以内的数据称之为温数据,就是偶尔使用的数据存放在温节点中,将极少数会用到的数据存放在冷节点中

image-20190802212002520

1.3.ES基本概念回顾

文档(Document)

Elasticsearch面向文档性,文档就是所有可搜索数据的最小单位。比如,一篇PDF中的内容,一部电影的内容,一首歌等,文档会被序列化成JSON格式,保存在Elasticsearch中,必不可少的是每个文档都会有自己的唯一标识,可以自己指定,也可以由Elasticsearch帮你生成。类似数据库的一行数据。

元数据(标注文档信息)

"_index" : "user",
"_type" : "_doc",
"_id" : "l0D6UmwBn8Enzbv1XLz0",
"_score" : 1.6943597,
"_source" : {
    "user" : "mj",
    "sex" : "男",
    "age" : "18"
}
  • _index:文档所属的索引名称。
  • _type:文档所属的类型名。
  • _id:文档的唯一标识。
  • _version:文档的版本信息。
  • _score:文档的相关性打分。
  • _source:文档的原始JSON内容。

索引(index)

索引是文档的容器,是一类文档的集合,类似关系数据库中的表,索引体现的是一种逻辑空间的概念,每个索引都应该有自己的Mapping定义,用于定义包含文档的字段名和字段类型。其中Shard(分片)体现的是物理空间的一种概念,就是索引中的数据存放在Shard上,因为有啦集群,要保证高空用,当其中一个机器崩溃中,保存在它上的分片数据也能被正常访问,因此,存在啦分片副本

索引中有两个重要的概念,MappingSettingMapping定义的是文档字段和字段类型,Setting定义的是数据的不同分布。

类型(Type)

  • 在7.0之前,一个index可以创建多个Type。之后就只能一个index对应一个Type

节点(Node)

一个节点就是一个Elaseticsearch实例,本质就是一个JAVA进程。每一个节点启动后,默认就是一个master eligible节点。就是具备成为master资格的节点,你也可以狠心的指定它没有这个资格(node.master:false),

第一个节点启动后,他就选自己成为Master节点类,每一个节点上都保存了集群状态,但是,只有Master才能修改集群状态信息。集群状态信息就比如:

  • 所有的节点信息。
  • 所有的索引信息,索引对应的mapping信息和setting信息。
  • 分片的路由信息。

分片(shard)

  • 主分片:用于解决数据的水平扩展问题,通过主分片就数据分布在集群内的不同节点上,主分片在创建索引的时候就指定了,后面就不允许修改,除非重新定义Index
  • 副本:用于解决高可用的问题,分片是主分片的拷贝。副本分片数可以动态的调整,增加副本数量可以在一定的程度上提高服务的可用性。关于主分片的理解可以如下图,看是怎样实现高可用的,

image-20190802231314640

"settings" : {
    "index" : {
        // 设置主分片数
        "number_of_shards" : "1",
        "auto_expand_replicas" : "0-1",
        "provided_name" : "kibana_sample_data_logs",
        "creation_date" : "1564753951554",
        // 设置副本分片数
        "number_of_replicas" : "1",
        "uuid" : "VVMLRyw6TZeSfUvvLNYXEw",
        "version" : {
            "created" : "7010099"
        }
    }
}

1.4.倒排索引

正排索引:就是文档ID到文档内容的索引,简单讲,就是根据ID找文档。

倒排索引:就是根据文档内容找文档

倒排索引包含如下信息:

  • 单词词典:用于记录所有文档的单词,以及单词到倒排列表的关联关系。
  • 倒排列表:记录的是单词对应的文档集合,由倒排索引项组成,其中包含
    • 文档ID
    • 单词出现的次数,用于相关性的评分
    • 单词出现的位置
    • 偏移量,用于记录单词的开始位置和结束位置,用于单词的高亮显示

举例说明什么是正排索引倒排索引,其中正排索引如下:

文档ID 文档内容
1101 Elasticsearch Study
1102 Elasticsearch Server
1103 master Elasticsearch

讲上例Elasticsearch单词修改为倒排索引,如下:

文档ID(Doc ID) 出现次数(TF) 位置(Position) 偏移量(Offset)
1101 1 0 <0,13>
1102 1 0 <0,13>
1103 1 1 <7,20>

Elasticsearch中的每一个字段都有自己的倒排索引,也可以指定某些字段不做索引,可以节省存储空间,缺点就是不能被搜索到。

1.5.Analyzer分词

Analysis:文本分析,就是将文本转换为单词(term或者token)的过程,其中Analyzer就是通过Analysis实现的,Elasticsearch给我们内置例很多分词器。

  • Standard Analyzer:默认的分词器,按照词切分,并作大写转小写处理
  • Simple Analyzer:按照非字母切分(符号被过滤),并作大写转小写处理
  • Stop Anayzer:停用词(theis)切分,并作大写转小写处理
  • Whitespace Anayzer:空格切分,不做大写转小写处理
  • IK:中文分词器,需要插件安装
  • ICU:国际化的分词器,需要插件安装
  • jieba:时下流行的一个中文分词器。安装方法见附录

PS:Elasticsearch安装插件,[root@34d02ff9d16c elasticsearch]# bin/elasticsearch-plugin install analysis-icu

查看已经安装的插件:bin/elasticsearch-plugin list

1.6.Search API

ES中,我们可以使用URL SearchRequest Body Search进行相关的查询操作。

URL 查询

使用基本的查询

GET /user/_search?q=2012&df=title&sort=year:desc&from=0&size=10
{
	􏲽profile􏲿: true
}
  • 使用q指定查询的字符串
  • 使用df指定查询的字段
  • 使用sort进行排序,使用fromsize指定分页
  • 使用profile可以查询查询是如何进行查询的

指定所有字段的泛查询

GET /user/_search?q=2012
{
	"profile":"true"
}

指定字段的查询


GET /user/_search?q=title:2012&sort=year:desc&from=0&size=10&timeout=1s
{
	"profile":"true"
}

Term查询

GET /user/_search?q=title:Beautiful Mind
{
	"profile":"true"
}
  • 上例中的BeautifulMind就是两个TermTerm是查询中最小的单位。
  • Term查询是OR的关系,在上例中就是title字段包含Beautiful或者包含Mind都会被检索到。

Phrase查询

GET /user/_search?q=title:"Beautiful Mind"
{
	"profile":"true"
}
  • 使用引号表示Phrase查询
  • Phrase查询表示的不仅是And的关系,即Title字段中不仅要包含Beautiful Mind,而且。顺序还要一致。

分组查询

GET /user/_search?q=title:(Beautiful Mind)
{
	"profile":"true"
}
  • 使用中括号表示分组查询,一般使用Term查询的时候都会带上分组查询。

布尔查询

  • 使用 ANDORNOT或者||&&!
  • 还可以使用+(表示must),使用-(表示must_not
  • 需要注意的是必须大写
GET /user/_search?q=title:(Beautiful NOT Mind)
{
	"profile":"true"
}
GET /user/_search?q=title:(Beautiful %2BMind)
{
	"profile":"true"
}

PS:%2B表示的就是+,上例子表示的就是title字段中既要包含Beautiful,也要包含Mind字段

范围查询

GET /user/_search?q=title:beautiful AND age:[2002 TO 2018%7D
{
	"profile":"true"
}
  • 使用[ ]表示闭区间,使用{ }表示开区间,例如age :[* TO 56]
  • 使用算术符表示范围,例如year :>=2019 && <=1970

PS:URL Search还有很多查询方式。例如通配符查询,正则插叙,模糊匹配,相似查询,其中通配符查询不建议使用。

Request Body 查询

将查询的条件参数放在Request Body中,调用查询接口,就是Request Body查询,

基本 的查询

POST /movies,404_idx/_search?ignore_unavailable=true
{
  "profile": true,
	"query": {
		"match_all": {}
	}
}
  • 使用gnore_unavailable=true可以避免索引404_idx不存在导致的报错
  • profileURL Search查询一样,可以看到查询的执行方式

分页查询

POST /movies/_search
{
  "from":10,
  "size":20,
  "query":{
    "match_all": {}
  }
}

排序查询

POST /movies/_search
{
  "sort":[{"order_date":"desc"}],
  "query":{
    "match_all": {}
  }
}

过滤要查询的字段

POST /movies/_search
{
  "_source":["order_date"],
  "query":{
    "match_all": {}
  }
}
  • 如果一个文档中的字段太多,我们不需全部字段显示,就可以使用_source指定字段。可以使用通配符。

使用脚本查询

  • ES中的文档字段进行一定的处理后,再根据这个新的字段进行排序,
GET /movies/_search
{
  "script_fields": {
    "new_field": {
      "script": {
        "lang": "painless",
        "source": "doc['name'].value+'是大佬'"
      }
    }
  },
  "query": {
    "match_all": {}
  }
}

Term查询

POST /movies/_search
{
  "query": {
    "match": {
      "title": "last christmas"
    }
  }
}

POST movies/_search
{
  "query": {
    "match": {
      "title": {
        "query": "last christmas",
        "operator": "and"
      }
    }
  }
}
  • 使用match,表示的就是OR的关系
  • 使用operator,表示查询方式

Math_phrase查询

POST movies/_search
{
  "query": {
    "match_phrase": {
      "title":{
        "query": "one love",
         "slop": 4
      }
    }
  }
}
  • slop指定查询的字符中允许出现的字符

1.7.Dynamic Mapping

Mapping可以简单的理解为数据库中的Schema定义,用于定义索引中的字段的名称定义字段的类型字段的倒排索引指定字段使用何种分词器等。Dynamic Mapping意思就是在我们创建文档的时候,如果索引不存在,就会自动的创建索引,同时自动的创建MappingElasticSearch会自动的帮我们推算出字段的类型,当然,也会存在推算不准确的时候,就需要我们手动的设置。常用的字段类型如下:

  • 简单类型:TextDateIntegerBoolean
  • 复杂类型:对象类型和嵌套类型。

我们可以使用GET /shgx/_mapping查询索引的Mapping的设置,需要注意的是以下几点:

  • 当我们对索引中的文档新增字段时候,希望可以更新索引的Mapping就可以可以设置Dynamic:true
  • 对于已经有数据的字段,就不再允许修改其Mapping,因为Lucene生成的倒排索引后就不允许修改。

Dynamic Mapping可以设置三个值,分别是:

  • true:文档可被索引,新增字段也可被索引,Mapping也会被更新。
  • false:文档可被索引,新增字段不能被索引,Mapping不会被更新。
  • strict:新增字段写入,直接报错。

如何写Mapping

第一种方式是参考官方API,纯手工写,也可以先创建一个临时的IndexElasticSearch自动当我们推断出基本的Mapping,然后自己在改吧改吧,最后把临时索引删掉就是啦。下面列举一些常用的Mapping设置属性:

  • index:可以设置改字段是否需要被索引到。设置为false就不会生成倒排索引,节省啦磁盘开销
  • null_value:可以控制NULL是否可以被索引
  • cope_to:将字段值放在一个新的字段中,可以使用新的字段search,但这个字段不会出现在_source中。
  • anaylzer:指定字段的分词器
  • search_anaylzer:指定索引使用的分词器
  • index_options:控制倒排索引的生成结构,有四种情况
    • docs:倒排索引只记录文档ID
    • freqs:记录文档IDTerm
    • positions:记录文档IDTermTerm Position
    • offsets:记录文档IDTermTerm Positionoffsets

PS:Text类型的字段默认的是Position,其它类型默认的是docs,记录的越多,占用的存储空间就越大。

1.8.Aggregation聚合分析

ElasticSearch不仅仅是搜索强大,他的统计功能也是相当的强大的,聚合分析就是统计整个数据的一个分类数量等,例如武侯区有多少新楼盘。天府新区有多少新楼盘,通过聚合分析我们只需要写一条语句就可以得到。在加上Kibana的可视化分析,简直就是清晰,高效。常用的集合有以下几种:

  • Bucket Aggregation:满足特定条件的一些集合,使用关键字terms
  • Metric Aggregation:简单的数学运算,对字段进行统计分析,使用关键字minmaxsumavg等,使用关键字aggs
  • Pipeline Aggregation:二次聚合
  • Matrix Aggregation:对多个字段进行操作,提供一个结果矩阵

Bucket分析示例

GET kibana_sample_data_flights/_search
{
	"size": 0,
	"aggs":{
		"flight_dest":{
			"terms":{
				"field":"DestCountry"
			}
		}
	}
}

Metric分析示例

GET kibana_sample_data_flights/_search
{
	"size": 0,
	"aggs":{
		"flight_dest":{
			"terms":{
				"field":"DestCountry"
			},
			"aggs":{
				"avg_price":{
					"avg":{
						"field":"AvgTicketPrice"
					}
				},
				"max_price":{
					"max":{
						"field":"AvgTicketPrice"
					}
				},
				"min_price":{
					"min":{
						"field":"AvgTicketPrice"
					}
				}
			}
		}
	}
}

附录一

相关阅读


目录