E lasticsearch是一款分布式搜索引擎,支持在大数据环境中进行实时数据分析。它基于Apache Lucene文本搜索引擎,内部功能通过ReST API暴露给外部。除了通过HTTP直接访问Elasticsearch,还可以通过支持Java、JavaScript、Python及更多语言的客户 端库来访问。它也支持集成Apache Hadoop环境。Elasticsearch在有些处理海量数据的公司中已经有所应用,如GitHub、Foursquare和SoundCloud等。
elasticsearch 他对外提供了rest的http的接口,貌似很强大的样子。 但是咱们的一些数据平台市场会对于elasticsearch的数据进行分析,尤其是实时分析。 当然不能用 http的方式。
下面是http的方式的一个demo:
下面是查询,/ceshi是索引,rui是type,搜索的内容是title为jones的数据
curl http://vim.xiaorui.cc:9200/ceshi/rui/_search?q=title:jones&size=5&pretty=true
添加数据
curl -X POST -d '{"title":"jones","amount":5.7}'
但是听说,1.x之后不能直接curl,这不是重点忽略
下面介绍一个python使用elasticsearch的例子
from datetime import datetime from elasticsearch import Elasticsearch #连接elasticsearch,默认是9200 es = Elasticsearch() #创建索引,索引的名字是my-index,如果已经存在了,就返回个400, #这个索引可以现在创建,也可以在后面插入数据的时候再临时创建 es.indices.create(index='my-index',ignore) #{u'acknowledged':True} #插入数据,(这里省略插入其他两条数据,后面用) es.index(index="my-index",doc_type="test-type",id=01,body={"any":"data01","timestamp":datetime.now()}) #{u'_type':u'test-type',u'created':True,u'_shards':{u'successful':1,u'failed':0,u'total':2},u'_version':1,u'_index':u'my-index',u'_id':u'1} #也可以,在插入数据的时候再创建索引test-index es.index(index="test-index",doc_type="test-type",id=42,body={"any":"data","timestamp":datetime.now()}) #查询数据,两种get and search #get获取 res = es.get(index="my-index", doc_type="test-type", id=01) print(res) #{u'_type': u'test-type', u'_source': {u'timestamp': u'2016-01-20T10:53:36.997000', u'any': u'data01'}, u'_index': u'my-index', u'_version': 1, u'found': True, u'_id': u'1'} print(res['_source']) #{u'timestamp': u'2016-01-20T10:53:36.997000', u'any': u'data01'} #search获取 res = es.search(index="test-index", body={"query":{"match_all":{}}}) print(res) #{u'hits': # { # u'hits': [ # {u'_score': 1.0, u'_type': u'test-type', u'_id': u'2', u'_source': {u'timestamp': u'2016-01-20T10:53:58.562000', u'any': u'data02'}, u'_index': u'my-index'}, # {u'_score': 1.0, u'_type': u'test-type', u'_id': u'1', u'_source': {u'timestamp': u'2016-01-20T10:53:36.997000', u'any': u'data01'}, u'_index': u'my-index'}, # {u'_score': 1.0, u'_type': u'test-type', u'_id': u'3', u'_source': {u'timestamp': u'2016-01-20T11:09:19.403000', u'any': u'data033'}, u'_index': u'my-index'} # ], # u'total': 5, # u'max_score': 1.0 # }, #u'_shards': {u'successful': 5, u'failed': 0, u'total':5}, #u'took': 1, #u'timed_out': False #} for hit in res['hits']['hits']: print(hit["_source"]) res = es.search(index="test-index", body={'query':{'match':{'any':'data'}}}) #获取any=data的所有值 print(res)
至于body里面参数的设置,具体请看:https://www.elastic.co/guide/en/elasticsearch/reference/current/query-filter-context.html