前言
大型软件(linux,android .etc)一般都有自己的构建系统,k8s 也不例外,本文简要介绍 k8s 构建系统
构建流程
release
以 quick-release 为例,在命令行执行以下命令
- # make quick-release
make 在源代码根目录 Makefile 文件中定位到 quick-release 目标,该目标的动作是执行 build/release.sh 脚本
- # kubernetes/Makefile
- .PHONY: release-skip-tests quick-release
- ifeq ($(PRINT_HELP),y)
- release-skip-tests quick-release:
- @echo "$$RELEASE_SKIP_TESTS_HELP_INFO"
- else
- release-skip-tests quick-release: KUBE_RELEASE_RUN_TESTS = n
- release-skip-tests quick-release: KUBE_FASTBUILD = true
- release-skip-tests quick-release:
- build/release.sh <--- 执行 kubernetes/build/release.sh
- endif
release.sh 将构建过程拆分成一个个步骤,每个步骤对应一个 shell function
- # kubernetes/build/release.sh
- ...
- kube::build::verify_prereqs
- kube::build::build_image
- kube::build::run_build_command make cross
- ...
- kube::build::copy_output
- kube::release::package_tarballs
verify_prereqs 对构建环境进行检查,比如是否缺少一些工具软件
build_image 创建构建需要的 docker 镜像 ???
run_build_command make cross 启动容器,运行 make cross
copy_output,package_tar 处理构建生成的各个文件
这里比较有意思的是 k8s 使用 docker 容器进行构建,可能是为了交叉编译吧
构建镜像
kube::build::build_image 方法构建基础镜像,同步 kubernetes 源代码到 data container(数据卷容器)
- function kube::build::build_image() {
- mkdir -p "${LOCAL_OUTPUT_BUILD_CONTEXT}"
- # Make sure the context directory owned by the right user for syncing sources to container.
- chown -R ${USER_ID}:${GROUP_ID} "${LOCAL_OUTPUT_BUILD_CONTEXT}"
- cp /etc/localtime "${LOCAL_OUTPUT_BUILD_CONTEXT}/"
- # 准备镜像构建所需文件
- cp build/build-image/Dockerfile "${LOCAL_OUTPUT_BUILD_CONTEXT}/Dockerfile"
- cp build/build-image/rsyncd.sh "${LOCAL_OUTPUT_BUILD_CONTEXT}/"
- dd if=/dev/urandom bs=512 count=1 2>/dev/null | LC_ALL=C tr -dc 'A-Za-z0-9' | dd bs=32 count=1 2>/dev/null > "${LOCAL_OUTPUT_BUILD_CONTEXT}/rsyncd.password"
- chmod go= "${LOCAL_OUTPUT_BUILD_CONTEXT}/rsyncd.password"
- kube::build::update_dockerfile
- kube::build::set_proxy
- # 构建镜像
- kube::build::docker_build "${KUBE_BUILD_IMAGE}" "${LOCAL_OUTPUT_BUILD_CONTEXT}" 'false'
- ...
- # 构建数据卷镜像,注意 ensure 这个词~数据卷镜像是可以复用的
- kube::build::ensure_data_container
- # 同步 kubernetes 源代码到数据卷镜像
- kube::build::sync_to_container
- }
k8s 构建过程中使用了以下几种容器:
- 数据卷容器:存储 k8s 源代码,其它容器启动时通过 --volume-from 共享数据卷
- rsyncd 容器:运行 rsyncd 服务(一种文件同步服务),将 k8s 源代码从 host 同步到数据卷容器中
- 构建容器:运行构建命令
源代码同步
上文说到 k8s 构建的时候会启动一个容器运行 rsyncd 服务,将 k8s 源代码同步到数据卷容器,那么源代码码会被同步到哪里呢?
- # kubernete/build/common.sh
- function kube::build::sync_to_container() {
- kube::log::status "Syncing sources to container"
- kube::build::start_rsyncd_container
- kube::build::rsync \
- --delete \
- --filter='H /.git' \
- --filter='- /.make/' \
- --filter='- /_tmp/' \
- --filter='- /_output/' \
- --filter='- /' \
- --filter='H zz_generated.*' \
- --filter='H generated.proto' \
- "${KUBE_ROOT}/" "rsync://k8s@${KUBE_RSYNC_ADDR}/k8s/"
- }
kube::build::rsync 方法将 KUBE_ROOT 目录下的源代码同步到 k8s@${KUBE_RSYNC_ADDR}/k8s/
查看 rsync 配置文件可以知道 k8s 这个虚拟目录对应的实际目录
- # kubernetes/build/build-image/rsyncd.sh
- ...
- VOLUME=${HOME}
- cat <<EOF >"${CONFFILE}"
- pid file = ${PIDFILE}
- use chroot = no
- log file = /dev/stdout
- reverse lookup = no
- munge symlinks = no
- port = 8730
- [k8s]
- numeric ids = true
- $USER_CONFIG
- hosts deny = *
- hosts allow = ${ALLOW} ${ALLOW_HOST-}
- auth users = k8s
- secrets file = ${SECRETS}
- read only = false
- path = ${VOLUME} <-- k8s 对应的路径 ${VOLUME} = ${HOME}
- filter = - /.make/ - /_tmp/
- EOF
这个 HOME 变量一般指向 用户主目录,但是从 go语言工程目录结构 来看 HOME 应该指向类似 $GOPATH/src/k8s.io/kubernetes 的目录,所以经验和直觉告诉我们肯定有什么地方设置了 HOME 变量,通过搜索源代码,证实确实如此
- # kubernetes/build/build-image/Dockerfile
- ...
- ENV HOME /go/src/k8s.io/kubernetes
- WORKDIR ${HOME}
- ...
总结
通过分析 k8s 构建系统,可以学习像 Google 这样的大厂是如何规划大型软件工程结构,构建,发布