我的编程空间,编程开发者的网络收藏夹
学习永远不晚

jenkins+python持续集成

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

jenkins+python持续集成

搜索jenkins,进入官网,5分钟以内相信你能找到适合你操作系统的安装步骤。此处为省事,列出centos步骤(注意安装稳定版)

sudo wget -O /etc/yum.repos.d/jenkins.repo http://pkg.jenkins-ci.org/redhat-stable/jenkins.repo
sudo rpm --import https://jenkins-ci.org/redhat/jenkins-ci.org.key
sudo yum install jenkins
如果你系统里没有Java,那么sudo yum install java
启停service jenkins start/stop/restart
或者systemctl start/stop/restart jenkins

不要问service start xxx和systemctl(centos7引入)啥关系,后者是用来替代前者的。具体问百度。启动后,验证安装是否成功,浏览器访问http://localhost:8080/,看到老爷爷(jenkins logo)就行。

要是遇到奇葩问题,看这里 https://wiki.jenkins-ci.org/display/JENKINS/Installing+Jenkins+on+Red+Hat+distributions

  • 配置前安装必要插件:

    Git Plugin:使用Git作为源代码管理

    Python Plugin:Adds the ability to execute python scripts as build steps.

    Violations:代码质量检测,支持pylint、jslint等

  • 配置job

    1.新建-->job-->自由风格

    2.填写git 地址,触发器选择Poll SCM, Schedule可选

    3.填写脚本:第二行#!/usr/bin/bash/...是给jenkins看的,让jenkins不要输出每条命令

     #!/usr/bin/bash
     #!/usr/bin/bash/...
     source /home/luodaihong/py27/bin/activate
     cd /home/luodaihong/workspace/django-privilege/example
     coverage run  --source=privilege  manage.py test privilege
     coverage report -m --skip-covered
     pylint --output-format=parseable privilege > pylint.xml || exit 0

    coverage pylint自己安装咯

    4.增加构建后操作步骤-->Report Violations--> pylint后填写pylint.xml --->Faux Project Path填写实际工程路径,也就是脚本中cd的路径

建好工程后,构建一次玩玩呗,点击构建详情,等待构建完毕,看到代码风格统计图, Console Output里看到单元测试通过情况,代码覆盖情况。遇到问题:

  • 初始安装后基本都能运行jenkin并看到jenkins web页面,否则重装。修修改改后进程起不来,多看看权限问题,特别是修改jenkins_user

  • 配置的job怎么都不按预期执行,先手动命令行执行,确认无误后查看jenkins环境变量



安装

见Installing Jenkins。它也支持通过Docker安装,真的是紧跟潮流!

需要提的一点是Jenkins比较耗内存,不运行任何构建任务的情况下就吃掉了300多M,再加上构建任务时会占用更多,所以建议服务器的内存至少有1G,512M的话很可能在执行构建任务的时候内存不够用。

访问控制

安装后默认所有人都可以访问,故需要更改访问控制策略,具体见Standard Security Setup。

插件清单

下面是我用到的一些插件:

  • Git Plugin:使用Git作为源代码管理

  • SSH plugin:远程ssh登录server执行命令

  • Parameterized Trigger Plugin:触发其他的job

  • Cobertura Plugin:代码测试覆盖率报告

  • Task Scanner Plugin:检测代码中出现的特殊标记(如TODO等)

  • Violations:代码质量检测,支持pylint、jslint等

  • ThinBackup:用于备份Jenkins

  • SCM Sync configuration plugin:将Jenkens的配置变更同步到SCM中

这里只是集中地列举一下,具体的使用会在下面穿插介绍。

测试、Staging部署、Production部署流程

根据本项目的需要,在Jenkins中建立了3个任务:

  • tm_test:用于执行测试、代码质量检测等

  • tm_staging_deploy:用于在staging服务器上deploy代码

  • tm_deploy:用于在production服务器上deploy代码

Image Title

其中staging服务器用于进行线上测试,staging服务器和production服务器的环境必须保持完全相同(当然,staging服务器配置可以低一些)。

具体的开发、测试、部署流程是:

  • 在开发新功能/修复bug的时候,一般是开新分支;但如果是那种很小的修改,则直接在master上改,这样比较省事儿

  • 新功能开发完成/bug修复后,进行单元测试+人工测试,如果通过,合并到master

  • 每次master有变动后,触发tm_test任务,执行集成的单元测试和代码质量检测,如果OK,则自动触发tm_staging_deploy,部署到staging服务器上

  • 若tm_staging_deploy成功,则登陆到运行在staging服务器的测试网站上,人工测试新功能是否OK/bug是否已修复;若tm_staging_deploy失败,检查失败原因,进行修复,直至成功

  • 若staging人工测试通过,则手动触发tm_deploy,部署到生产服务器上

  • 登录到生产服务器上进行人工测试,若出现问题,进行修复;同时密切关注Sentry发送的告警邮件,争取在第一时间修复错误

比较简单,没有采用Git-Flow/GitHub-Flow,单元测试写得很浅,也没有做代码审查。不过团队规模小,从目前来看,上面的流程是够用的。

下面对这三个任务做较为详细的介绍。

tm_test

该任务用于执行测试、代码质量检测等。

push触发构建

每当项目仓库的master分支有变动时,即会触发tm_test。要做这一点,需要如下步骤:

  • 设置tm_test的Build Triggers为Poll SCM,但不填Schedule

  • 为项目仓库添加Web Hook,URL填写http://<Jenkins URL>/git/notifyCommit?url=<URL of the Git repository>

参考Stack Overflow。

使用virtualenv配置测试环境

执行测试之前,需要确定Python版本(一般是2.7),然后根据此版本初始化virtualenv。

在构建中添加Execute shell项:

if [ ! -d "venv" ]; then    virtualenv -p /usr/bin/python2.7 venvfi

. venv/bin/activate
pip install -i http://pypi.douban.com/simple -r requirements.txt

测试与报告

测试中需要2个库:nose用于执行单元测试,coverage用于统计测试覆盖率。

需要在Jenkins中安装Cobertura Plugin插件,用于生成代码测试覆盖率报告。

然后在构建中添加Execute shell项,输入:

nosetests --with-xunit --with-coverage --cover-package=tm && coverage xml

其中--with-xunit告诉nose输出JUnit形式的测试报告,--with-coverage表示同时运行coverage(这个功能相当赞),--cover-package=tm表示仅对指定的package执行测试覆盖率检测,后面的coverage xml表示输出xml格式的coverage报告。

然后在构建后操作中,添加如下2项:

  • Publish JUnit test result report:填写nosetests.xml

  • Publish Cobertura Coverage Report:填写coverage.xml

这样一来,就可以执行测试,并得到测试报告和测试覆盖率报告啦:

Image Title

上面的图表都是可点击的,点进去后有代码级的详细报告,非常赞:

Image Title

绿色的代码行表示已经覆盖到,红色则没有。

代码质量检测

Jenkins有一个蛮不错的代码质量报告插件:Violations,支持非常多的代码测试工具。目前项目中使用Pylint做Python代码质量检测,使用JSHint做JavaScript代码质量检测。

在安装好Pylint后,运行pylint --generate-rcfile > pylintrc生成配置文件,并将其中的output-format项的值改为parseable

然后在构建中添加2项Execute shell项,

pylint:

pylint tm2 > pylint.xml || exit 0

jshint:

jshint --reporter=jslint $WORKSPACE/tm2/static/js/ > jslint.xml || exit 0

其中的exit 0是为了告诉Jenkins该命令执行成功。对于jshint来说,report选择jslint,然后需要使用$WORKSPACE组成绝对路径,否则无法看到源码级的分析报告(是不是一个bug?)。

然后在构建后步骤中添加Violations Report,在对应位置输入jslint.xml和pylint.xml。

最终的图形报告如下,可以看到趋势走向:

Image Title

源码级别的分析也有:

Image Title

检测代码中的特殊标注(如TODO)

团队中约定,在代码未完成的地方使用TODO进行标记,因为PyCharm有一个很好的功能就是可以检测出代码中的所有TODO信息:

Image Title

Jenkins中也有一个非常棒的插件Task Scanner Plugin用于检测代码中出现的特殊标记,当然,这些特殊标记完全是可以自定义的。

安装完该插件后,在构建后操作中添加一项Scan workspace for open tasks,根据需要填写配置:

Image Title

然后报告就可以出来啦:

Image Title

邮件告警

如果构建后状态是unstable或failed,则可以发送邮件告警,及时通知相关负责人进行处理。Jenkins自带SMTP功能,不过需要你提供SMTP服务器。

我使用的是qq邮箱SMTP服务器,挺好用的,目前没有发现拒发的情况。有一点需要注意的是,在配置好SMTP的账户信息后,还需填写系统管理员邮件地址,否则会发送失败,这也是比较容易忽略的地方。

配置好SMTP后,然后在构建后操作中添加E-mail Notification项,填写负责人的邮箱即可。

触发下游任务

如果tm_test构建成功,则需要自动触发tm_staging_deploy任务,这个触发过程是通过插件Parameterized Trigger Plugin来完成的。

在构建后操作中添加Trigger parameterized build on other projects项,选择触发条件为stable,然后填写待出发的任务名称即可。

最后的tm_test任务面板如下:

Image Title

界面是挺out的,不过很实用。

tm_staging_deploy

这一个job用于将最新代码部署到staging服务器上,我采用的部署方法是通过ssh远程登陆服务器执行命令的方式,需要一个插件SSH plugin。

然后在构建中添加Shell项:

cd /var/www/tmexport MODE=PRODUCTION
git reset --hard HEAD
git pull -fsource venv/bin/activate
pip install -r requirements.txt
python manage.py db upgrade
supervisorctl restart tm

tm_deploy

此任务和tm_staging_deploy基本差不多,不同的地方有2个:(1)目标服务器不同(2)触发方式是手动触发

备份

使用thinBackup进行备份,可设定备份周期。

配置变更同步

除此之外,我还用到了一个很有用的插件SCM Sync configuration plugin,就是把Jenkins的配置(全局配置+各job配置)同步到一个Git仓库中。这样的话,每次配置有变动,都会形成一个commit推送到Git仓库。

这相当于把配置的历史变迁都记录下来,如果哪天Jenkins任务挂了,可以看看配置变更进行排错。


免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

jenkins+python持续集成

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

jenkins+python持续集成

搜索jenkins,进入官网,5分钟以内相信你能找到适合你操作系统的安装步骤。此处为省事,列出centos步骤(注意安装稳定版)sudo wget -O /etc/yum.repos.d/jenkins.repo http://pkg.je
2023-01-31

GitLab+Jenkins持续集成

GitLab是一个代码仓库,用来管理代码。Jenkins是一个自动化服务器,可以运行各种自动化构建、测试或部署任务。所以这两者结合起来,就可以实现开发者提交代码到GitLab,Jenkins以一定频率自动运行测试、构建和部署的任务,帮组开发
2023-01-31

jenkins pipeline持续集成

简介Jenkins 2.x的精髓是Pipeline as Code,那为什么要用Pipeline呢?jenkins1.0也能实现自动化构建,但Pipeline能够将以前project中的配置信息以steps的方式放在一个脚本里,将原本独立运
2023-01-31

jenkins持续集成的原理是什么

Jenkins持续集成的原理是基于以下几个关键步骤:代码检出:Jenkins会从版本控制系统(如Git)中检出最新的代码。构建:Jenkins会根据项目的构建配置,执行构建命令或脚本来编译源代码、生成可执行文件、打包部署文件等。测试:Jen
2023-10-25

Jenkins+maven持续集成的实现方法

这篇文章给大家分享的是有关Jenkins+maven持续集成的实现方法的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。环境系统:centos 7tomcat位置:/usr/local/jbreport/apache
2023-06-14

jenkins集成python

1.创建一个自由风格的job2.配置构建选择“Execute Windows batch command”,输入:d:cd learn\pythonpython main.py构建即可
2023-01-31

PHP Jenkins 与 Docker:强大组合,实现持续集成

PHP Jenkins与Docker联手,为PHP开发人员打造强大的持续集成解决方案,简化部署和维护工作,提高项目质量和效率。
PHP Jenkins 与 Docker:强大组合,实现持续集成
2024-03-07

PHP Jenkins 最佳实践:掌握持续集成和交付

PHP Jenkins 最佳实践:提升持续集成和交付效率
PHP Jenkins 最佳实践:掌握持续集成和交付
2024-03-07

PHP Jenkins:与 PHP 携手实现持续集成和交付

持续集成和交付的利器:PHP Jenkins
PHP Jenkins:与 PHP 携手实现持续集成和交付
2024-03-07

使用 Jenkins 创建微服务应用的持续集成

Serverless 应用引擎 SAE(Serverless App Engine)是面向应用的 Serverless PaaS 平台,能够帮助 PaaS 层用户免运维 IaaS、按需使用、按量计费,做到低门槛微服务应用上云。

使用Jenkins搭建iOS/Android持续集成打包平台

背景描述根据项目需求,现要在团队内部搭建一个统一的打包平台,实现对iOS和Android项目的打包。而且为了方便团队内部的测试包分发,希望在打包完成后能生成一个二维码,体验用户(产品、运营、测试等人员)通过手机扫描二维码后能直接安装测试包。
2022-06-06

如何进行基于jenkins+kubernets+docker的持续化集成

这篇文章将为大家详细讲解有关如何进行基于jenkins+kubernets+docker的持续化集成,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。项目实现效果,开发人员在gitlab上传代码
2023-06-19

怎么署基于Windows系统的Jenkins持续集成环境

这篇文章主要讲解了“怎么署基于Windows系统的Jenkins持续集成环境”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“怎么署基于Windows系统的Jenkins持续集成环境”吧!首先,
2023-06-19

编程热搜

  • Python 学习之路 - Python
    一、安装Python34Windows在Python官网(https://www.python.org/downloads/)下载安装包并安装。Python的默认安装路径是:C:\Python34配置环境变量:【右键计算机】--》【属性】-
    Python 学习之路 - Python
  • chatgpt的中文全称是什么
    chatgpt的中文全称是生成型预训练变换模型。ChatGPT是什么ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列
    chatgpt的中文全称是什么
  • C/C++中extern函数使用详解
  • C/C++可变参数的使用
    可变参数的使用方法远远不止以下几种,不过在C,C++中使用可变参数时要小心,在使用printf()等函数时传入的参数个数一定不能比前面的格式化字符串中的’%’符号个数少,否则会产生访问越界,运气不好的话还会导致程序崩溃
    C/C++可变参数的使用
  • css样式文件该放在哪里
  • php中数组下标必须是连续的吗
  • Python 3 教程
    Python 3 教程 Python 的 3.0 版本,常被称为 Python 3000,或简称 Py3k。相对于 Python 的早期版本,这是一个较大的升级。为了不带入过多的累赘,Python 3.0 在设计的时候没有考虑向下兼容。 Python
    Python 3 教程
  • Python pip包管理
    一、前言    在Python中, 安装第三方模块是通过 setuptools 这个工具完成的。 Python有两个封装了 setuptools的包管理工具: easy_install  和  pip , 目前官方推荐使用 pip。    
    Python pip包管理
  • ubuntu如何重新编译内核
  • 改善Java代码之慎用java动态编译

目录