炼数成金 门户 大数据 查看内容

Elasticsearch 史上最全最常用工具清单

2018-6-29 15:32| 发布者: 炼数成金_小数| 查看: 15876| 评论: 0|来自: 铭毅天下

摘要: Search Guard 是 Elasticsearch 的安全插件。它为后端系统(如LDAP或Kerberos)提供身份验证和授权,并向Elasticsearch添加审核日志记录和文档/字段级安全性。Search Guard所有基本安全功能(非全部)都是免费的, ...

管理 工具 安全 Hadoop 集群

题记
工欲善其事必先利其器,ELK Stack的学习和实战更是如此,特将工作中用到的“高效”工具分享给大家。

希望能借助“工具”提高开发、运维效率!

工具分类概览
基础类工具
1、Head插件

1)功能概述:

ES集群状态查看、索引数据查看、ES DSL实现(增、删、改、查操作)

比较实用的地方:json串的格式化


2)地址:http://mobz.github.io/elasticsearch-head/

2、Kibana工具
除了支持各种数据的可视化之外,最重要的是:支持Dev Tool进行RESTFUL API增删改查操作。

——比Postman工具和curl都方便很多。


地址:https://www.oschina.net/p/kibana

3、ElasticHD工具
强势功能——支持SQL转DSL,不要完全依赖,可以借鉴用。


地址:https://www.oschina.net/p/elastichd

集群监控工具

4、cerebro工具


地址:https://www.oschina.net/p/cerebro-elasticsearch

5、Elaticsearch-HQ工具
管理elasticsearch集群以及通过web界面来进行查询操作 


地址:https://github.com/royrusso/elasticsearch-HQ

集群迁移工具

6、Elasticsearch-migration工具
支持多个版本间的数据迁移,使用scroll+bulk

地址:https://github.com/medcl/elasticsearch-migration

7、Elasticsearch-Exporter
将ES中的数据向其他导出的简单脚本实现。

地址:https://github.com/mallocator/Elasticsearch-Exporter

8、Elasticsearch-dump
移动和保存索引的工具。

地址:https://www.oschina.net/p/elasticsearch-dump

集群数据处理工具

9、elasticsearch-curator
elasticsearch官方工具,能实现诸如数据只保留前七天的数据的功能。

地址:https://www.oschina.net/p/elasticsearch-curator

另外 ES6.3(还未上线)  有一个 Index LifeCycle Management 可以很方便的管理索引的保存期限。

安全类工具

10、x-pack工具



地址:https://www.oschina.net/p/x-pack

11、search-guard 第三方工具
Search Guard  是 Elasticsearch 的安全插件。它为后端系统(如LDAP或Kerberos)提供身份验证和授权,并向Elasticsearch添加审核日志记录和文档/字段级安全性。

Search Guard所有基本安全功能(非全部)都是免费的,并且内置在Search Guard中。  Search Guard支持OpenSSL并与Kibana和logstash配合使用。

地址:https://www.oschina.net/p/searchguard

可视化类工具

12、grafana工具


地址:https://grafana.com/grafana

grafana工具与kibana可视化的区别:

如果你的业务线数据较少且单一,可以用kibana做出很棒很直观的数据分析。
而如果你的数据源很多并且业务线也多,建议使用grafana,可以减少你的工作量

对比:https://www.zhihu.com/question/54388690


自动化运维工具

elasticsearch免费的自动化运维工具

13、Ansible
https://github.com/elastic/ansible-elasticsearch

14、Puppet
https://github.com/elastic/puppet-elasticsearch

15、Cookbook
https://github.com/elastic/cookbook-elasticsearch

以上三个工具来自medcl大神社区问题的回复,我没有实践过三个工具。

类SQl查询工具

16、Elasticsearch-sql 工具
sql 一款国人NLP-china团队写的通过类似sql语法进行查询的工具

地址:https://www.oschina.net/p/elasticsearch-sql

ES6.3+以后的新版本会集成sql。

增强类工具

17、Conveyor 工具
kibna插件——图形化数据导入工具

地址:https://github.com/samtecspg/conveyor

18、kibana_markdown_doc_view 工具
Kibana文档查看强化插件,以markdown格式展示文档

地址:https://github.com/sw-jung/kibana_markdown_doc_view

19、 indices_view工具
indices_view 是新蛋网开源的一个 kibana APP 插件项目,可以安装在 kibana 中,快速、高效、便捷的查看elasticsearch 中 indices 相关信息

地址:https://gitee.com/newegg/indices_view

20、dremio 工具




支持sql转DSL,
支持elasticsearch、mysql、oracle、mongo、csv等多种格式可视化处理;
支持ES多表的Join操作

地址:https://www.dremio.com/

报警类

21、elastalert
ElastAlert 是 Yelp 公司开源的一套用 Python2.6 写的报警框架。属于后来 Elastic.co 公司出品的 Watcher 同类产品。

官网地址: http://elastalert.readthedocs.org/

使用举例:当我们把ELK搭建好、病顺利的收集到日志,但是日志里发生了什么事,我们并不能第一时间知道日志里到底发生了什么,运维需要第一时间知道日志发生了什么事,所以就有了ElastAlert的邮件报警。

22、sentinl
SENTINL 6扩展了Siren Investigate和Kibana的警报和报告功能,使用标准查询,可编程验证器和各种可配置操作来监控,通知和报告数据系列更改 - 将其视为一个独立的“Watcher” “报告”功能(支持PNG / PDF快照)。

SENTINL还旨在简化在Siren Investigate / Kibana 6.x中通过其本地应用程序界面创建和管理警报和报告的过程,或通过在Kibana 6.x +中使用本地监视工具来创建和管理警报和报告的过程。

官网地址:https://github.com/sirensolutions/sentinl

小结
突然想起鲁迅先生笔下的孔乙己“茴香豆的茴字有几种写法?”
管几种写法,适合自己的工具才是较好的!
https://www.elastic.co/guide/en/elasticsearch/plugins/6.2/index.html

欢迎加入本站公开兴趣群
软件开发技术群
兴趣范围包括:Java,C/C++,Python,PHP,Ruby,shell等各种语言开发经验交流,各种框架使用,外包项目机会,学习、培训、跳槽等交流
QQ群:26931708

Hadoop源代码研究群
兴趣范围包括:Hadoop源代码解读,改进,优化,分布式系统场景定制,与Hadoop有关的各种开源项目,总之就是玩转Hadoop
QQ群:288410967 

鲜花

握手

雷人

路过

鸡蛋

相关阅读

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2018-7-23 20:00 , Processed in 0.138143 second(s), 25 queries .