MySQL 数据库迁移工作笔记----连接抓取、展示与异常连接
背景:由于公司机房网络调整,需要调整一批mysql 数据库的服务器IP,在新环境中已经搭建好新架构(keepalive+lvs),并需要开发工程师配合修改程序配置,共有2个业务,9台服务器,50多个实例。
1、抓取连接脚本
---从繁重的重复工作中解脱出来
为了使切换的过程更高效并解放自己的双手,编写了简单的shell脚本,定时抓取连接并存储至核心数据库,简单的例子:
#!/bin/bash StatFile="/var/log/status/processlist.txt" #获取IP信息 IP=`/sbin/ifconfig | egrep -A 1 "eth[0-4] " | egrep "inet " | egrep -v "192.168|:10."| awk -F'[ :]+' '{print $4}' | sed -n "1p"` if [[ $IP = '' ]] then IP=`/sbin/ifconfig | egrep -A 1 "eth[0-4] " | egrep "inet " | egrep "192.168|:10."| awk -F'[ :]+' '{print $4}' | sed -n "1p"` fi # port.txt 存储端口号 cat /var/log/port.txt | while read port do /bin/mysql -h数据库IP -uroot -p'密码' -P$port information_schema -Bse "select '$IP','$port',user,substring_index(host,':',1) as host from PROCESSLIST where user not in ('root','system user') group by user,substring_index(host,':',1);" > $StatFile # 此处将show processlist信息存入文件,也可直接循环执行 # 将文件中信息存入核心数据库,忽略表结构 cat $StatFile | while read ip port username host do /bin/mysql -h数据库IP -u用户名 -p 密码’ -P端口 库名 -Bse "insert into mysql_db_proce(db_ip,port,username,app_host) values ('$IP','$port','$username','$host');" done done
2、信息展示
-----让我的结果更好看
①抓取连接脚本加入到计划任务中,每分钟执行一次
②这时可以从核心库中查看到连接信息,根据表中的update_time字段判断当前最新时间的连接情况
③可以使用sql语句进行查询,但仍比较繁琐,众多的服务器依然需要重复执行sql,让人厌烦
④因此使用了最近学习的python用 django 搭建了简单的web页面进行展示,具体的结构都很简单,就是从数据库中查询数据,传到模板中进行渲染就好了
默认展示最近一分钟数据,添加了搜索框,可以根据IP,端口号进行筛选。
⑤这样在与开发进行沟通的时候,更加清晰,再也不是黑白页面了(●ˇ?ˇ●),虽然很简单
3、碰到的连接异常
整个工作进行的很顺利,但在切换到最后的时候,页面中看到有一个业务的写库一直有一台web的连接进来,于是询问开发是否有配置未同步,
他搜索了很久告诉我用到的地方都已经修改完了,没找到。
抓到的连接显示是他的服务器,因此需要帮助他定位到问题点
①开启mysql general-log抓取连接具体信息(因为此时主库已不可写,binlog中查不到信息),根据页面信息,抓取了五分钟数据,
查找到具体执行的sql,提供给开发确认
②开发以知晓具体程序,但检查配置已经修改了,怀疑是其他单独布置的脚本未使用vip,因此抓取网络信息,查看使用的是什么ip连接的数据库
在数据库服务器上执行命令:
netstat –lna | grep ‘应用服务器IP’
即可看到该程序使用的数据库IP是什么,发现确实为VIP,此时我们已经解决不了该问题了,需要交给开发仔细查找
③最后,经过他告诉我说是有一个进程,从昨天开始就一直在执行,新配置没生效
④纪录下这个问题,以后可能还会遇到,修改配置后,最好把程序进程都检查一遍
4、思考
DBA进行数据库变更后,每次都需要开发配合进行修改,这应该存在架构上的问题,每次都需要开发等到半夜很久,也是令人讨厌的一件事
怎样在架构上进行更改,让数据库配置对应用程序透明,做到基本无感,应该是接下来应该考虑的事情。 夜深人静,晚安
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341