我的编程空间,编程开发者的网络收藏夹
学习永远不晚

influxdb+grafana可视化

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

influxdb+grafana可视化

了解数据库的TPS、QPS是作为一个运维DBA是非常必要的,那什么是TPS、QPS呢,简单的理解是:

QPS:每秒查询数,即对数据库每秒的DML的操作数

TPS:每秒事物处理,即对数据库每秒DDL操作数

通过了解他们,可以掌握一个实例的基本工作运行状态

如何对于对他们进行页面可视化,是DBA的一个装逼神器,本章主要介绍通过时序数据库(influxdb)+grafana+简单的python代码实现

时时监控它们,什么是时序数据库可以在其他章节了解,这里不做过多介绍

Let's go.....3个包的下载

http://down.51cto.com/data/2287378

http://down.51cto.com/data/2287380

http://down.51cto.com/data/2287379

1、直接YUM安装influxdb,安装后生成默认的配置文件/etc/influxdb/influxdb.conf 暂不修改

2、ON/OF服务

  service influxdb start/stop

3、influxdb数据库网页管理控制台(默认值),这个只是方便某些操作,具体操作还是到终端输入命令influx,此通过http://IP:8083 通过页面方式登录添加

一个用户名和密码,为grafana连接INFLUXDB使用,用户名密码自己定义

influxdb+grafana可视化

选中create user 再query 就会有CREATE USER "根据实际输入用户名" WITH PASSWORD '输入你的密码'

  [root@mycat ~]# influx

Visit https://enterprise.influxdata.com to register for updates, InfluxDB server management, and monitoring.

Connected to http://localhost:8086 version 0.13.0

InfluxDB shell version: 0.13.0

这个就可以登录,是不是很熟悉的,具体操作看博客的其他章节。

注意:数据库url(默认值):http://localhost:8086 ##这个在后面的grafana会被用到,数据传输使用

4、YUM安装GRAFANA包

安装后on/off服务:/etc/init.d/grafana-server start/stop

5、GRAFANA的页面登录,默认使用3000端口:

192.168.1.114:3000 登录名和密码默认是admin

6、通过Python代码实现对MySQL和influxdb的同时操作

#注意:python 操作MySQL需要安装python-mysql的驱动包,自己百度下载个,一般在解压后目录里执行1、python setup.py build 2、python setup.py install 

       python 操作INFLUXDB也需要python-influxdb            

$ pip install influxdb
$ pip install --upgrade influxdb
$ pip uninstall influxdb  ##注意如果没有安装PIP自己百度安装吧。

7、python 脚本:

#!/usr/bin/env python

#_*_ coding:utf-8 _*_

import MySQLdb

import datetime

import json

#qps

import time

from influxdb import InfluxDBClient

#import influxdb 

try:

    conn=MySQLdb.connect(host="192.168.15.104",user="dlan",passwd="root123",port=3306)

    client=InfluxDBClient(host='192.168.15.104', port=8086, username='root', password='root', database='telegraf')

    cur=conn.cursor()

    while True:

        sql = '''show global status where variable_name in('com_select','com_insert','com_delete','com_update','com_insert_select','uptime')'''

        cur.execute(sql)

        aa = cur.fetchall()

        aa=list(aa)

        delete = int(aa[0][1])

        insert1 = int(aa[1][1])

        insert2 = int(aa[2][1])

        select = int(aa[3][1])

        update = int(aa[4][1])

        uptime1 = int(aa[5][1])

        qps1=delete+insert1+insert2+select+update

        time.sleep(1)

        while True:

            sql = '''show global status where variable_name in('com_select','com_insert','com_delete','com_update','com_insert_select','uptime')'''

            cur.execute(sql)

            aa = cur.fetchall()

            aa = list(aa)

            delete_2 = int(aa[0][1])

            insert_2 = int(aa[1][1])

            insert2_2 = int(aa[2][1])

            select_2 = int(aa[3][1])

            update_2 = int(aa[4][1])

            uptime2_2 = int(aa[5][1])

            qps2 = delete_2 + insert_2 + insert2_2 + select_2 + update_2

            commit=qps2 -qps1

            uptime=uptime2_2-uptime1

   aa =(commit/uptime)

   json_body = [

        {

            "measurement":'my_tps',

            "tags":{

                "host": "mycat"

            },

            "fields":{

"influxdb":"qps1",

                "qps":aa

            }

        }

    ]


            #aa ="query_per_sec  host=mycat,role=db,influxdb=qps qps=%d "% (commit/uptime)

            #aa =(commit/uptime)

    #print aa,json_body


   client.write_points(json_body) 

            break

except MySQLdb.Error,e:

    print "MySQL error%d:%s"%(e.args[0],e.args[1])

##脚本需要注意4个地方:1、连接数据库的信息,是被监控端的

                       2、MySQL的QPS统计收集的存储的数据库

                       3、收集的数据把字符串转成JSON格式

                    

 json_body = [

        {

            "measurement":'my_tps',   ###注意这个红色位置不能用双引号,估计是PYTHON的问题,JAVA用双引号没问题,是个坑哦~~~!这个可以设置你喜欢的,其他不要修改,直接使用

            "tags":{

                "host": "mycat"

            },

            "fields":{

                "qps":aa

            }

        }

    ]

                       4、需要在influxdb添加一个数据库,例子名字叫:test_influxdb (自定定义), client=InfluxDBClient(host='192.168.15.104', port=8086, username='root', password='root', database='telegraf'),可根据实际定义,后面的GRAFANA会用到这个名字

强烈建议对数据库的操作通过终端来搞:

[root@mycat ~]# influx

Visit https://enterprise.influxdata.com to register for updates, InfluxDB server management, and monitoring.

Connected to http://localhost:8086 version 0.13.0

InfluxDB shell version: 0.13.0

> create database test_influxdb

> show databases;

name: databases

---------------

name

telegraf

_internal

mytab

mydb

stress

test_influxdb

8、在grafana配置收集来的数据信息:

      1、添加数据源与配置,点击grafana的图表的下拉单点data sources---》add data source

      2、配置数据源信息

influxdb+grafana可视化

     3、datshboards->news->左上小绿格->add panel->graph

influxdb+grafana可视化

    4、选择metrics配置如下:

influxdb+grafana可视化

解释:1、为刚才创建的数据源名字

      2、添加个 query

      3、展开query

      4、这里根据前面的json格式 "measurement":'my_tps' 这个my_tps,可以理解为时序数据库的表。

      5、选择HOST

      6、选择JSON的tags标签的值mycat

"tags":{

                "host": "mycat"

      7、为JSON的"qps":aa的qsp,相当于字段,为field

      8、为统计方式,看其INFLUXDB的基础介绍

      9、统计时常

      10、为曲线的标志,可以在一个图里添加多个query ,这样每个名字对应不同的颜色

最后点击保存按钮,在最上方有个图标,保存后选择有4个方块里的刚才定义的general的名字


最后效果图:

influxdb+grafana可视化

##这里多提点:通过这样的定义,可以收集业务上一些常规的数据,可以在线的时时统计,比如在游戏里的DAU\PCU\ACU....网站的PV 等等都可以数据收集可视化展示。。。。。完毕
   这个PYTHON脚本可以优化,INFLUXDB可以批量插入数据,可靠消息次是2-3W写入是没问题的。

PYTHON脚本启动 python mysql_qps.py & 不加后台符会一直卡着,

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

influxdb+grafana可视化

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

docker环境如何搭建JMeter+Grafana+influxdb可视化性能监控平台

这篇文章主要介绍“docker环境如何搭建JMeter+Grafana+influxdb可视化性能监控平台”,在日常操作中,相信很多人在docker环境如何搭建JMeter+Grafana+influxdb可视化性能监控平台问题上存在疑惑,
2023-06-20

Linux主机与Grafana监控可视化

将Linux主机与Grafana进行监控可视化是一个相对简单的过程,以下是一些基本步骤:安装和配置Prometheus:Prometheus是一个开源的监控系统和时间序列数据库。它可以从各种来源收集指标,并提供强大的查询语言来检索这些数据。
Linux主机与Grafana监控可视化
2024-09-27

使用SpringBoot+Prometheus+Grafana实现可视化监控

使用SpringBoot、Prometheus和Grafana可实现可视化监控,全面管理应用程序和系统性能。SpringBoot集成Prometheus指标收集,Prometheus刮取指标数据,Grafana则用于创建仪表板和设置告警,实时监控和相应问题。
使用SpringBoot+Prometheus+Grafana实现可视化监控
2024-04-02

Grafana 使用表格面板进行数据可视化

我们了解另外一个表格面板,表格面板可视化非常灵活,支持时间序列和表格和原始 JSON 数据的多种模式,此面板还提供日期格式、值格式和着色选项。

后端程序员也可以用Grafana做出漂亮可视化界面!

此篇文章主要来记录学习 如何使用mysql打造属于我们的可视化监控仪表盘。

开源数据可视化和监测工具—Grafana,监控神器!

Grafana是一种流行的开源数据可视化和监测工具,它提供了许多功能强大的仪表盘和图形来帮助用户更好地理解其数据。

如何使用 K8spacket 和 Grafana 对 K8s 的 TCP 数据包流量进行可视化

使用 k8spacket 和Grafana,你可以可视化集群中的 TCP 流量。了解工作负载如何相互通信,以及建立了多少连接,交换了多少字节,这些连接处于活动状态的时间。

Python可视化 | Python可视化进阶必备 - plotly

本文就将以jupyter notebook为开发工具,详细介绍Plotly的基础内容。

python地图可视化

安装自从 v0.3.2 开始,为了缩减项目本身的体积以及维持 pyecharts 项目的轻量化运行,pyecharts 将不再自带地图 js 文件。如用户需要用到地图图表,可自行安装对应的地图文件包。下面介绍如何安装。全球国家地图: ech
2023-01-31

xmanager怎么可视化

这篇文章主要介绍“xmanager怎么可视化”,在日常操作中,相信很多人在xmanager怎么可视化问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”xmanager怎么可视化”的疑惑有所帮助!接下来,请跟着小编
2022-12-01

数据可视化 - Marvin

链接:https://bdcc.bigdataedu.org/block/50(需账号登录)
数据可视化 - Marvin
2018-03-03

Python数据可视化

相信最后大家阅读完毕本篇文章,肯定学到了不少知识吧?其实大家私下还得多多自学,当然如果大家还想了解更多方面的详细内容的话呢,不妨关注编程学习网教育平台,在这个学习知识的天堂中,您肯定会有意想不到的收获的!
Python数据可视化
2024-04-23

plt 数据可视化

1、plt.plot(x,y,color) 折线坐标图import matplotlib.pyplot as plth = np.linspace(1, 10, 10)v = np.linspace(20,30, 10)print(h, v
2023-01-30

python数据可视化

1、安装matplotlib在 cmd 中键入 python -m pip install matplotlib,系统将自动安装,需要等一段时间,待完成后 python -m pip list ,显示敲黑板划重点:一定通过 cdm 指定具体
2023-01-30

编程热搜

目录