Docker的Harbor私有仓库部署与管理

一、Harbor私有仓库介绍

1.1 Harbor简介

●Harbor是VMware公司的开源级的企业级DockerRegistry(仓库)项目，项目地址https://github.com/vmware/harbor.

●Harbor的目标是帮助用户迅速搭建一个企业级的DockerRegistry服务。

●Harbor以docker公司开源的registry为基础，提供了管理UI，基于角色的访问控制（Role Based Access Control），AD/LDAP集成，以及审计日志（Auditlogging）等企业用户需求的功能，同时还原生支持中文。

●Harbor的每个组件都是以Docker容器的形式构建的，使用docker-compose来对它进行部署。用于部署Harbor的docker-compose模板位于/usr/local/bin/harbor/docker-compose.yml(自定义)

1.2 核心组件介绍

●Proxy: Harbor的registry、UI、token services等组件，都处在一个反向代理后边。该代理将来自浏览器、docker clients的请求转发到后端服务上。

●Registry: 负责存储Docker镜像，以及处理Docker push/pull请求。因为Harbor强制要求对镜像的访问做权限控制， 在每一次push/pull请求时，Registry会强制要求客户端从token service那里获得一个有效的token。

●Core services: Harbor的核心功能，主要包括如下3个服务:

●UI: 作为Registry Webhook, 以图像用户界面的方式辅助用户管理镜像。1) WebHook是在registry中配置的一种机制， 当registry中镜像发生改变时，就可以通知到Harbor的webhook endpoint。Harbor使用webhook来更新日志、初始化同步job等。 2) Token service会根据该用户在一个工程中的角色，为每一次的push/pull请求分配对应的token。假如相应的请求并没有包含token的话，registry会将该请求重定向到token service。 3) Database 用于存放工程元数据、用户数据、角色数据、同步策略以及镜像元数据。

●Job services: 主要用于镜像复制，本地镜像可以被同步到远程Harbor实例上。

●Log collector: 负责收集其他模块的日志到一个地方

1.3 harbor配置文件参数

vim /usr/local/harbor/harbor.cfg，关于 Harbor.cfg 配置文件中有两类参数：所需参数和可选参数

所需参数：这些参数需要在配置文件 Harbor.cfg 中设置。如果用户更新它们并运行 install.sh脚本重新安装 Harbour，参数将生效。具体参数如下：

●hostname：用于访问用户界面和 register 服务。它应该是目标机器的 IP 地址或完全限 定的域名（FQDN），例如 192.168.100.128 或 hub.kgc.cn。不要使用 localhost 或 127.0.0.1 为主机名。
●ui_url_protocol：（http 或 https，默认为 http）用于访问 UI 和令牌/通知服务的协议。如果公证处于启用状态，则此参数必须为 https。

●max_job_workers：镜像复制作业线程。

●db_password：用于db_auth 的MySQL数据库root 用户的密码。

●customize_crt：该属性可设置为打开或关闭，默认打开。打开此属性时，准备脚本创建私钥和根证书，用于生成/验证注册表令牌。

●当由外部来源提供密钥和根证书时，将此属性设置为 off。

●ssl_cert：SSL 证书的路径，仅当协议设置为 https 时才应用。

●secretkey_path：用于在复制策略中加密或解密远程 register 密码的密钥路径。

可选参数：这些参数对于更新是可选的，即用户可以将其保留为默认值，并在启动 Harbor 后在 Web UI 上进行更新。如果进入 Harbor.cfg，只会在第一次启动 Harbor 时生效，随后对这些参数 的更新，Harbor.cfg 将被忽略。
注意：如果选择通过UI设置这些参数，请确保在启动Harbour后立即执行此操作。具体来说，必须在注册或在 Harbor 中创建任何新用户之前设置所需的

●auth_mode。当系统中有用户时（除了默认的 admin 用户），auth_mode 不能被修改。具体参数如下：
●Email：Harbor需要该参数才能向用户发送“密码重置”电子邮件，并且只有在需要该功能时才需要。
请注意，在默认情况下SSL连接时没有启用。如果SMTP服务器需要SSL，但不支持STARTTLS，那么应该通过设置启用SSL email_ssl = TRUE。

●harbour_admin_password：管理员的初始密码，只在Harbour第一次启动时生效。之后，此设置将被忽略，并且应 UI中设置管理员的密码。
请注意，默认的用户名/密码是 admin/Harbor12345。

●auth_mode：使用的认证类型，默认情况下，它是 db_auth，即凭据存储在数据库中。对于LDAP身份验证，请将其设置为 ldap_auth。

●self_registration：启用/禁用用户注册功能。禁用时，新用户只能由 Admin 用户创建，只有管理员用户可以在 Harbour中创建新用户。
注意：当 auth_mode 设置为 ldap_auth 时，自注册功能将始终处于禁用状态，并且该标志被忽略。
Token_expiration：由令牌服务创建的令牌的到期时间（分钟），默认为 30 分钟。

●project_creation_restriction：用于控制哪些用户有权创建项目的标志。默认情况下， 每个人都可以创建一个项目。

如果将其值设置为“adminonly”，那么只有 admin 可以创建项目。
●verify_remote_cert：打开或关闭，默认打开。此标志决定了当Harbor与远程 register 实例通信时是否验证 SSL/TLS 证书。
将此属性设置为 off 将绕过 SSL/TLS 验证，这在远程实例具有自签名或不可信证书时经常使用。

另外，默认情况下，Harbour 将镜像存储在本地文件系统上。在生产环境中，可以考虑 使用其他存储后端而不是本地文件系统，如 S3、Openstack Swif、Ceph 等。但需要更新 common/templates/registry/config.yml 文件。

二、部署Harbor私有仓库

2.1 实验环境

需要两台服务器

IP地址	环境
20.0.0.16	docker，docker-compose，harbor
20.0.0.12	docker

2.2 harbor服务器部署（前提两台服务器都有docker环境）

1，需要先下载docker-compose，并且优化它

[root@localhost ~]# curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
[root@localhost ~]# ll
-rw-r--r--.  1 root root  10867152 11月 30 00:43 docker-compose  
drwxr-xr-x.  2 root root         6 9月  10 08:02 公共
drwxr-xr-x.  2 root root         6 9月  10 08:02 模板
drwxr-xr-x.  2 root root         6 9月  10 08:02 视频
drwxr-xr-x.  2 root root         6 9月  10 08:02 图片
drwxr-xr-x.  2 root root         6 9月  10 08:02 文档
drwxr-xr-x.  2 root root         6 9月  10 08:02 下载
drwxr-xr-x.  2 root root         6 9月  10 08:02 音乐
drwxr-xr-x.  2 root root         6 9月  10 08:02 桌面
[root@localhost ~]# chmod +x docker-compose 
[root@localhost ~]# mv docker-compose /usr/local/bin/

2，导入下载harbor软件包，并解压

[root@localhost ~]# wget http://harbor.orientsoft.cn/harbor-1.2.2/harbor-offline-installer-v1.2.2.tgz
[root@localhost ~]# tar zxf harbor-offline-installer-v1.2.2.tgz -C /usr/local/

3，修改harbor参数文件

[root@docker ~]# vim /usr/local/harbor/harbor.cfg
hostname = 20.0.0.16    ##修改为监听本地地址，不可以使用localhost或者127.0.0.1
harbor_admin_password = Harbor12345   ##Harbor的默认用户名和密码

4，启动Harbor，查看生成的容器和镜像

[root@localhost ~]# sh /usr/local/harbor/install.sh 
[root@localhost ~]# docker ps -a
CONTAINER ID        IMAGE                              COMMAND                  CREATED             STMES
aa84ecaf8710        vmware/nginx-photon:1.11.13        "nginx -g 'daemon of…"   14 seconds ago      Uginx
8e98b2a35342        vmware/harbor-jobservice:v1.2.2    "/harbor/harbor_jobs…"   14 seconds ago      Uarbor-jobservice
7cf1697ae270        vmware/harbor-ui:v1.2.2            "/harbor/harbor_ui"      14 seconds ago      Uprbor-ui
2e246af7d68a        vmware/harbor-adminserver:v1.2.2   "/harbor/harbor_admi…"   15 seconds ago      Uarbor-adminserver
b9833884471d        vmware/registry:2.6.2-photon       "/entrypoint.sh serv…"   15 seconds ago      Uegistry
c0f84ed048c6        vmware/harbor-db:v1.2.2            "docker-entrypoint.s…"   15 seconds ago      Uarbor-db
4dd69964fbf3        vmware/harbor-log:v1.2.2           "/bin/sh -c 'crond &…"   16 seconds ago      Uarbor-log
[root@localhost ~]# docker images
REPOSITORY                  TAG                 IMAGE ID            CREATED             SIZE
vmware/harbor-log           v1.2.2              36ef78ae27df        3 years ago         200MB
vmware/harbor-jobservice    v1.2.2              e2af366cba44        3 years ago         164MB
vmware/harbor-ui            v1.2.2              39efb472c253        3 years ago         178MB
vmware/harbor-adminserver   v1.2.2              c75963ec543f        3 years ago         142MB
vmware/harbor-db            v1.2.2              ee7b9fa37c5d        3 years ago         329MB
vmware/nginx-photon         1.11.13             6cc5c831fc7f        3 years ago         144MB
vmware/registry             2.6.2-photon        5d9100e4350e        3 years ago         173MB
vmware/postgresql           9.6.4-photon        c562762cbd12        3 years ago         225MB
vmware/clair                v2.0.1-photon       f04966b4af6c        3 years ago         297MB
vmware/harbor-notary-db     mariadb-10.1.10     64ed814665c6        3 years ago         324MB
vmware/notary-photon        signer-0.5.0        b1eda7d10640        3 years ago         156MB
vmware/notary-photon        server-0.5.0        6e2646682e3c        3 years ago         157MB
photon                      1.0                 e6e4e4a2ba1b        4 years ago         128MB

上述容器解释

●harbor-adminserver：harbor系统管理接口，可以修改系统配置以及获取系统信息

●harbor-db：存储项目的元数据、用户、规则、复制策略等信息

●harbor-jobservice：harbor里面主要是为了镜像仓库之前同步使用的

●harbor-log：收集其他harbor的日志信息。rsyslogd

●harbor-ui：一个用户界面模块，用来管理registry。主要是前端的页面和后端CURD的接口

●nginx：harbor的一个反向代理组件，代理registry、ui、token等服务。这个代理会转发harbor web和docker client的各种请求到后端服务上。是个nginx。nginx负责流量转发和安全验证，对外提供的流量都是从nginx中转，它将流量分发到后端的ui和正在docker镜像存储的docker registry

●registry：存储docker images的服务，并且提供pull/push服务。harbor需要对image
的访问进行访问控制，当client每次进行pull、push的时候，registry都需要client去token服务获取一个可用的token。

●redis：存储缓存信息

●webhook：当registry中的image状态发生变化的时候去记录更新日志、复制等操作。

●token service：在docker client进行pull/push的时候今天token的发放。
5，验证：打开浏览器访问http://20.0.0.16 的管理页面，输入用户名（admin)和密码登录(初始密码Harbor12345)

三、Harbor私有仓库的运用

3.1 创建项目

3.2 上传镜像到Harbor私有仓库

1，登录harbor私有仓库

[root@localhost ~]# docker login -u admin -p Harbor12345 http://127.0.0.1

2，下载测试镜像nginx，并打标签

[root@localhost ~]# docker pull nginx
[root@localhost ~]# docker tag nginx 127.0.0.1/jifan/nginx:v1

3，上传到harbor

[root@localhost ~]# docker push 127.0.0.1/jifan/nginx:v1 
The push refers to repository [127.0.0.1/jifan/nginx]
7e914612e366: Pushed 
f790aed835ee: Pushed 
850c2400ea4d: Pushed 
7ccabd267c9f: Pushed 
f5600c6330da: Pushed 
v1: digest: sha256:99d0a53e3718cef59443558607d1e100b325d6a2b678cd2a48b05e5e22ffeb49 size: 1362

3.3 别的服务器上传镜像到harbor私有仓库

注意：直接登录会报错

[root@localhost ~]# docker login -u admin -p Harbor12345 http://20.0.0.16
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
Error response from daemon: Get https://20.0.0.16/v2/: dial tcp 20.0.0.16:443: connect: connection refused

解决方法：

[root@localhost ~]# vim /usr/lib/systemd/system/docker.service
###修改此行，使客户端可以连接harbor服务器'
ExecStart=/usr/bin/dockerd -H fd:// --insecure-registry 192.168.100.128 --containerd=/run/containerd/containerd.sock
[root@localhost ~]# systemctl daemon-reload      ##重新加载参数  
[root@localhost ~]# systemctl restart docker     ##重启docker服务
注意：不加载参数会报错，必须先先加载参数
Warning: docker.service changed on disk. Run 'systemctl daemon-reload' to reload units.

1，登录

[root@localhost ~]# docker login -u admin -p Harbor12345 http://20.0.0.16
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store

Login Succeeded

2，下载测试镜像httpd,并打标签

[root@localhost ~]# docker pull httpd
[root@localhost ~]# docker tag httpd:latest 20.0.0.16/jifan/httpd:v1
[root@localhost ~]# docker images
REPOSITORY              TAG                 IMAGE ID            CREATED             SIZE
20.0.0.16/jifan/httpd   v1                  0a30f4c29d25        13 days ago         138MB
httpd                   latest              0a30f4c29d25        13 days ago         138MB

3，上传到harbor私有仓库

[root@localhost ~]# docker push 20.0.0.16/jifan/httpd
The push refers to repository [20.0.0.16/jifan/httpd]
c74375f55aa8: Pushed 
211b9be55a20: Pushed 
aa0b3e4b6d3b: Pushed 
540171a10c83: Pushed 
f5600c6330da: Pushed 
v1: digest: sha256:4c7c70926e2f2e10a9f78b63f344c83ae97a22c7fefa96afed46c63e4e607c51 size: 1366

3.4 从harbor私有仓库下载镜像

1，下载到本地

[root@localhost ~]# docker pull 127.0.0.1/jifan/httpd:v1

2，其他服务器下载镜像

[root@localhost ~]# docker pull 20.0.0.16/jifan/nginx:v1

3.5 用新建的用户下载镜像

1，创建用户


2，在本地用新用户登录harbor私有仓库

[root@localhost ~]# docker logout 127.0.0.1
Removing login credentials for 127.0.0.1
[root@localhost ~]# docker login 127.0.0.1
Username: jifan
Password: 
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store

Login Succeeded

四，harbor仓库的维护管理

修改Harbor.cfg配置文件

可以使用 docker-compose 来管理 Harbor，命令必须在与 docker-compose.yml 相同的目录中运行
修改harbor.cfg配置文件的时候要注意

请先停止现有的 Harbour 实例并更新 Harbor.cfg；然 后运行 prepare 脚本来填充配置；最后重新创建并启动 Harbour 的实例

[root@docker ~]# cd /usr/local/harbor/
[root@docker harbor]# docker-compose down -v    ##关闭删除所有容器'
Stopping harbor-jobservice  ... done
Stopping nginx              ... done
Stopping harbor-ui          ... done
Stopping harbor-adminserver ... done
Stopping registry           ... done
Stopping harbor-db          ... done
Stopping harbor-log         ... done
Removing harbor-jobservice  ... done
Removing nginx              ... done
Removing harbor-ui          ... done
Removing harbor-adminserver ... done
Removing registry           ... done
Removing harbor-db          ... done
Removing harbor-log         ... done
Removing network harbor_harbor
[root@localhost harbor]# ./prepare     ##重新填充配置
[root@localhost harbor]# docker-compose up -d     ##开启容器
Creating network "harbor_harbor" with the default driver
Creating harbor-log ... done
Creating harbor-adminserver ... done
Creating harbor-db          ... done
Creating registry           ... done
Creating harbor-ui          ... done
Creating harbor-jobservice  ... done
Creating nginx              ... done

2 , 迁移harbor数据

//在 Harbor服务器上操作 docker-compose down -v
[root@localhost harbor]# docker-compose down -v
Stopping harbor-jobservice  ... done
Stopping nginx              ... done
Stopping harbor-ui          ... done
Stopping registry           ... done
Stopping harbor-db          ... done
……省略

如需重新部署，需要移除 Harbor 服务容器全部数据:  docker-compose down -v
持久数据，如镜像，数据库等在宿主机的/data/目录下,日志在宿主机的/var/log/Harbor/目录下。

rm -rf /data/database/
rm -rf /data/registry/