• DevOps系列——Jenkins/Gitlab自动打包部署


    前面只说了DevOps的两个基础组件Jenkins和GitLab,客官也不要着急,我们玩就玩的深入一点,Gitlab和Jenkins的各种配置和

    插件很多,也够啃一阵子的,不要照着操作一通就感觉万事大吉了,多做些边缘测试,多玩点不一样的操作,那今天我们来点

    实战整合加强训练。

    作者原创文章,谢绝一切转载,违者必究!

    本文只发表在"公众号"和"博客园",其他均属复制粘贴!如果觉得排版不清晰,请查看公众号文章。 

    准备:

    VMwareWorkstation15Pro/RHEL8.0/Jenkins2.222.3/Gitlab-ee-13.0.0

    难度: 新手--战士--老兵--大师

    说明:

    为了遇见各种问题,同时保持时效性,我尽量使用最新的软件版本。源码地址,其中的day30:https://github.com/xiexiaobiao/dubbo-project

    目标:

    1. window主机提交代码到Gitlab主机,Jenkins自动完成jar打包,并发布到Gitlab主机(可为任意主机)上运行。

    1 架构

    整体部署架构:

    2 环境

    2.1开发Java应用,一个极简的服务,可打包为jar运行:

    package com.biao.study;
    
    import org.springframework.boot.SpringApplication;
    import org.springframework.boot.autoconfigure.SpringBootApplication;
    import org.springframework.web.bind.annotation.PathVariable;
    import org.springframework.web.bind.annotation.RequestMapping;
    import org.springframework.web.bind.annotation.RestController;
    
    @SpringBootApplication
    @RestController
    public class AppMain {
        public static void main(String[] args) {
            SpringApplication.run(AppMain.class,args);
            System.out.println("AppMain app started >>>>>>>>>>>>");
        }
    
        @RequestMapping("/jenkins/{name}")
        public String hello(@PathVariable(name = "name") String name){
            System.out.println("Variable: "+ name);
            return "hello, " + name;
        }
    }
     

    运行测试,GET http://localhost:8081/jenkins/biao 输出:hello, biao

    2.2 GitLab主机上建立一个项目,操作步骤,略!注意看下项目的两个git地址,显示的端口号是Gitlab的端口号,不是Nginx的:

    2.3 配置Jenkins主机到Gitlab主机的SSH,(配置window到Gitlab主机的SSH,也是一样,window在CMD 下执行):

    [root@server224 docker-deploy]#ssh-keygen #生成密钥对
    [root@server224 docker-deploy]#ssh-copy-id root@192.168.2.226 #发送公钥

    Window下使用git测试ssh安装:

    2.4 Jenkins主机上测试使用SSH协议连接GitLab,这样Git可以免密连接,并使用SSH连接执行shell,

    进入新建的空白目录 /usr/hellojenkins 下:

    [root@server224 hellojenkins]# ssh -T git@192.168.2.226  #测试ssh
    [root@server224 hellojenkins]# git init  #初始化本地git库,否则报错not a git repository
    [root@server224 hellojenkins]# git remote –v  # -verbose查看远程gitlab url
    [root@server224 hellojenkins]# git remote add origin git@192.168.2.226:biao/hellojenkins.git
    [root@server224 hellojenkins]# git pull origin master

    如下,可见连接成功,其他git操作客官请随意:

    2.5 Jenkins主机上测试使用HTTP协议连接GitLab,在 /usr/hellojenkins 下:

    [root@server224 hellojenkins]# rm -rf ./* #清空hellojenkins目录,.git和 .idea也要删除
    [root@server224 hellojenkins]# git init 
    [root@server224 hellojenkins]# git remote -v
    [root@server224 hellojenkins]# git remote add origin http://192.168.2.226:9099/biao/hellojenkins.git  #注意url,不是gitlabUI中给的项目url,因有Nginx代理
    [root@server224 hellojenkins]# git pull origin master

    如下,可见http连接成功,其他git操作客官请随意

    特别注意:如开启了Nginx代理,会导致gitlab UI中给的项目url (见图1),在git中无法使用,应使用Nginx的端口号!

    2.6 访问JenkinsUI,添加 ”Publish Over SSH” 插件(见前文:Jenkins安装),并在 ”系统管理-系统配置” 添加SSH目标主机 (比如我这是192.168.2.226):

    要点: 1.SSH主机登录密码和私钥key,可以二选一,推荐使用私钥key,这样可以使用相同的私钥key登录多个目标主机。

    2.使用私钥key测试不通过,可能是格式问题,见后文问题部分。

    3.RemoteDirectory为SSH连接后要访问的目录 4.Test必须显示为Success才算配置成功

    2.7 其他工具配置:Jenkins主机需先安装好Maven,Git,JDK,略!并在 “系统管理—>全局工具配置”中做对应的配置:

    3 任务构建

    3.1 我们来个Jenkins自动构建的实验:新建一个任务,选择”构建一个自由风格的软件项目”:

    General中我全空,懒得写了。

    源码管理使用Git,(也可使用Subversion,需对应的插件),并选择前面配置好的”凭证”:

    自动构建触发的条件是 push 事件:

    构建前清空工作目录:

    构建时执行的shell脚本,source /etc/profile 不能省,可能导致mvn命令无法识别,cd $JENKINS_HOME/workspace/hellojenkins,使用环境变量来进入工作目录,

    也可使用 $WORKSPACE/hellojenkins 效果一样,有个环境变量列表链接,可供参考;mvn clean package 即 maven 编译打包命令,内存不足的话可先只测试 mvn clean

    构建后操作:1 source files是待发送的源文件,这里特别注意要写相对路径target/*.jar,不是绝对路径/var/lib/jenkins/workspace/hellojenkins/target/*.jar

    2 remove prefix是需要去掉的前缀,置空则将文件和路径一起发送,并在远程主机建立对应目录结构;

    3 remote directory是远程主机的目录,发送的文件将保存至此;

    4 执行的shell脚本,会在文件发送后执行,先可直接简化为如下建立一个日期文件(最常见的是停止旧jar的运行,并运行新的jar,完整版见后面的脚本);如果需要文件发送前执行,可以添加两个"构建后操作",并将shell脚本执行放前,文件transfer放后:

    附,完整Exec comand脚本:

    #!/bin/bash
    pid=$(ps -ef | grep HelloJenkins-1.0-SNAPSHOT | grep 'java' | grep -v grep | awk '{print $2'})
    if [ -z "$pid" ]; then
        echo 'there are no HelloJenkins process. starting will be continue.'
    fi
    if [ -n "$pid" ]; then
        echo 'java process id is '$pid
        if ps -p $pid > /dev/null
        then
            echo $pid' will be kill'
            kill -9 $pid
        fi
    fi
    echo 'start HelloJenkins wait.'
    nohup java -jar HelloJenkins-1.0-SNAPSHOT.jar  > /dev/null 2>error.log &
    echo 'finish starting HelloJenkins'
     

    3.2 进行 ”立即构建” 测试:

    3.3 等待构建完毕查看控制台日志,或左侧”构建执行状态”查看正在进行的Job:

    控制台内容:

    以上步骤解析:1 Jenkins生成对应的工作目录,注意 /var/lib/jenkins 对应 JENKINS_HOME 变量,即Jenkins家目录;

    2对应配置选项Delete workspace before build starts,构建前删除; 3使用SSH连接远程Gitlab代码库; 4 Git操作完毕后的消息,可用于记录本次构建;

    5可以看到Jenkins将构建的配置和构建流程共同生成了一个临时的Shell脚本,然后执行,这也是Jenkins的工作原理之一。

     

    总结:这里的Jenkins自动构建流程是使用Git从远程库clone到本地,然后本地构建,同时部分流程和配置会组合生成一个临时的Shell脚本来执行,

    最终完成整个构建工作流程。(Jenkins还有其他构建方式)。

     

    以上步骤解析:1对应执行”构建”配置中shell命令mvn clean package的结果; 2-5是对应”构建后操作” 中的配置,其中2是开始SSH连接,

    3是开始执行”Exec command”中的shell命令,4断开SSH连接,5文件传输的结果

    以下为server226上对应”构建后操作”中的结果,生成的文件和传输过来的jar包:

    4 题外话

    4.1 我上传的代码中还包含了 Dockerfile 和自动打包/部署Docker镜像的shell脚本,内容太多,各位看官可以尝试一下:使用Jenkins自动构建

    并生成镜像和部署运行,有空我就后期再说吧,一次写太多看的也累。

    4.2 Gitlab的WebHook功能:在Gitlab收到push事件后,可以 POST 发送定制的信息至指定的URL,从而触发更新。比如SpringCloud的config

    配置自动更新,当GitHub上的配置文件更新后,WebHook自动触发Refresh 到Config Server 上,而完成配置自动刷新。

    5 问题

    5.1 添加SSH服务器时,test失败,提示:

    Failed to connect or change directory jenkins.plugins.publish_over.BapPublisherException: Failed to add SSH key. Message [invalid privatekey: [B@d8d395a]

    这是因为私钥格式Jenkins无法识别,如果打开私钥文件,"-----BEGIN OPENSSH PRIVATE KEY-----" 表示使用的是最新的OpenSSH格式,需要使用旧版格式,重新生成密钥,命令如下:

    ssh-keygen -t rsa -b 4096 -m PEM

    再打开私钥文件,可见私钥文件内容开头:”-----BEGIN RSA PRIVATE KEY-----”,

    5.2 运行自动生成镜像脚本错误提示$' ' command not found

    这种错误是因为编写的 shell脚本是在window下编写的,每行结尾是 ,而 Unix 结束行是 , 所以在Linux下运行脚本会认为 是一个字符,需要把文件转换下:

    [root@server224 docker-deploy]# sed -i 's/
    //' auto-image.sh

    5.3 错误提示:Does not have a commit checked out,这是因为当前目录下存在没有提交的目录,首先使用 pwd (present working directory)命令查看当前目录,

    需保持 .init命令和 pwd 命令目录一致:

    5.4 提示 http/https协议不支持,可能原因是url错误,或者没添加远程地址,初始化没完成,即git remote add命令:

    5.5 打包编译时,内存不足,看控制台输出,我将Jenkins主机由6G调整为8G才解决,还好我的小电脑内存足够大:

    总结:控制台输出是个非常有用的记录,比如我之前的构建失败记录,可以看到无法识别 mvn 命令,于是知道是maven未配置好!

    全文完!


    我近期其他文章:

    只写原创,敬请关注

  • 相关阅读:
    shell的随机数
    centos7 安装install_mysql5.7网络教程安装_无报错.sh
    关于所有运动框架总结
    仅一年工作经验成功跳槽字节跳动,腾讯并拿到字节的offer,全靠这份面经!
    面试必看!花了三天整理出来的并发编程的锁及内存模型,看完你就明白了!
    新鲜出炉!花了三天整理的JVM复习知识点,面试突击必备!
    深度分析!面试99%被问到的多线程和并发篇,看完你就懂了
    去年去阿里面试,被问到ArrayList和LinkedList,我是这样回答的!
    深度分析:面试阿里,字节99%会被问到Java类加载机制和类加载器
    深度分析:Java并发编程之线程池技术,看完面试这个再也不慌了!
  • 原文地址:https://www.cnblogs.com/xxbiao/p/13037199.html
Copyright © 2020-2023  润新知