当前位置: 首页 > backend >正文

# 06_Elastic Stack 从入门到实践(六)

06_Elastic Stack 从入门到实践(六)

一、课程介绍

1、课程介绍

2、Nginx日志分析系统

3、Filebeat入门学习

4、Metricbeat入门学习

5、Kibana入门学习

6、Logstash入门学习

7、综合练习

二、Nginx 日志分析系统需求分析

1、业务需求

Nginx是一款非常优秀的web服务器,往往nginx服务会作为项目的访问入口,那么,nginx的性能保障就变得非常重要了,如果nginx的运行出现了问题就会对项目有较大的影响,所以,我们需要对nginx的运行有监控措施,实时掌握nginx的运行情况,那就需要收集nginx的运行指标和分析nginx的运行日志了。

2、Nginx 的业务流程分析

在这里插入图片描述

3、说明:

1)通过Beats采集Nginx的指标数据和日志数据。
2)Beats采集到数据后发送到Elasticsearch中。
3)Kibana读取数据进行分析。
4)用户通过Kibana进行查看分析报表。

三、部署安装 Nginx

1、下载 nginx安装包,并上传到虚拟机服务器上。

nginx 各个版本下载地址

2、在虚拟机服务器上解压 nginx安装包

tar -xvf nginx-1.14.2.tar.gz

3、安装依赖

yum -y install pcre-devel zlib-devel

4、配置 nginx

./configure

5、编译安装

make install

6、启动nginx

cd /usr/local/nginx/nginx/sbin/
./nginx

在这里插入图片描述

7、通过浏览器访问页面

访问地址如(默认80端口):http://192.168.196.119/

在这里插入图片描述

8、在虚拟机服务器端查看日志

tail -f /usr/local/nginx/nginx/logs/access.log

在这里插入图片描述

四、Beats 简介

1、Beats 在 ElasticStack 技术栈中的作用示意图

在这里插入图片描述

2、beats 简介:

1)Beats是轻量型数据采集器。

Beats 是一个开源平台,集合了多种单一用途数据采集器。它们从成百上千或成千上万台机器和系统向 Logstash 或 Elasticsearch 发送数据。

2)Beats 系列:全品类采集器,搞定所有数据类型。

在这里插入图片描述

3)beats 跟踪 Elastic Stack 中的基础架构日志和指标。

4)Beats从源头采集。简单明了。

Beats 是数据采集的得力工具。将 Beats 和您的容器一起置于服务器上,或者将 Beats 作为函数加以部署,然后便可在 Elastisearch 中集中处理数据。Beats 能够采集符合 Elastic Common Schema (ECS) 要求的数据,如果您希望拥有更加强大的处理能力,Beats 能够将数据转发至 Logstash 进行转换和解析。

5)Beats即插即用 借助模块加速数据可视化体验。

Filebeat 和 Metricbeat 中包含的一些模块能够简化从关键数据源(例如云平台、容器和系统,以及网络技术)采集、解析和可视化信息的过程。一键探索。

6)Beats从环境中获得洞见 跟踪数据沿袭。

Beats 从您的专属环境中收集日志和指标,然后通过来自主机、诸如 Docker 和 Kubernetes 等容器平台以及云服务提供商的必要元数据对这些内容进行记录,然后再传输到 Elastic Stack 中。从监测容器到从无需服务器的架构传输数据,我们确保您拥有所需的上下文。

7)Beats 可扩展 缺少某种采集器?别着急。您可以自行构建并分享。

每款开源采集器都是以用于转发数据的通用库 libbeat 为基石。需要监控某个专用协议?您可以自己构建采集器。我们将为您提供所需的构建基块。同时,我们的 Beats 社区正在不断壮大。

8)Beats 同样能向 Elastic Cloud 输送数据。

正在运行托管式 Elasticsearch?这些轻量型采集器同样能有效地将数据发送至 Elastic Cloud。

3、beats 官网:

https://www.elastic.co/cn/products/beats

五、Filebeat入门之架构以及部署

1、Filebeat 简介

1)Filebeat 轻量型日志采集器

无论您是从安全设备、云、容器、主机还是 OT 进行数据收集,Filebeat 都将为您提供一种轻量型方法,用于转发和汇总日志与文件,让简单的事情不再繁杂。

2)汇总、“tail -f”和搜索 启动 Filebeat 后,打开 Logs UI,直接在 Kibana 中观看对您的文件进行 tail 操作的过程。通过搜索栏按照服务、应用、主机、数据中心或者其他条件进行筛选,以跟踪您的全部汇总日志中的异常行为。

2、Filebeat 用于监控、收集服务器日志文件 架构 示意图

在这里插入图片描述

3、filebeat 下载安装

https://www.elastic.co/cn/beats/filebeat
https://www.elastic.co/downloads/past-releases#filebeat
https://www.elastic.co/downloads/past-releases/filebeat-6-5-4

4、filebeat-6.5.4 部署与运行

# 创建新目录
mkdir /dzs168/beats# 解压安装包
tar -xvf filebeat-6.5.4-linux-x86_64.tar.gz# 切换目录
cd filebeat-6.5.4-linux-x86_64# 创建如下配置文件dzs168.yml
http://www.xdnf.cn/news/1336.html

相关文章:

  • 【MySQL】(7) 数据库设计
  • 【集合】底层原理实现及各集合之间的区别
  • 数据库操作
  • 遥感生物多样性产品
  • 【LLM】Ollama:容器化并加载本地 GGUF 模型
  • Agent系统工程实践:Langchain-Chatchat框架定制与优化
  • 计算机视觉算法实现——垃圾分类系统
  • 理解RAG第六部分:有效的检索优化
  • C++异步操作 - future async package_task promise
  • Java学习手册:RESTful API 设计原则
  • AI日报 - 2025年4月23日
  • css3新特性第六章(2D变换)
  • 使用Python+OpenCV将多级嵌套文件夹下的视频文件抽帧为JPG图片
  • 创建表结构
  • 树莓派超全系列教程文档--(39)树莓派config.txt旧版选项
  • 线程同步——线程安全
  • jQuery — 总结
  • 逻辑思维与软件开发:从选定方向到风险管理的全流程
  • BeeWorks:低成本的国产化企业内网即时通讯
  • 使用Multipart Form-Data一次请求获取多张图片
  • Linux网络IP协议
  • 【ROS2】ROS2 插件开发流程(基于 pluginlib)
  • 2023蓝帽杯初赛内存取证-4
  • 数据结构-树
  • 美乐迪电玩客户端打包与资源替换实战教程
  • Shader属性讲解+Cg语言讲解
  • pda数据采集器,是如何采集数据的?
  • Docker底层原理浅析 | namespace+cgroups+文件系统
  • windows搭建xwiki17服务器
  • C++——多态、抽象类和接口