文章目录
Harbor 概述
Harbor是VMware公司的开源级的企业级DockerRegistry(仓库)项目,项目地址为 https://github.com/vmware/harbor.
Harbor的目标是帮助用户迅速搭建一个企业级的DockerRegistry服务。
Harbor以docker公司开源的registry为基础,提供了管理UI,基于角色的访问控制(Role Based Access Control),AD/LDAP集成,以及审计日志(Auditlogging)等企业用户需求的功能,同时还原生支持中文。
Harbor的每个组件都是以Docker容器的形式构建的,使用docker-compose来对它进行部署。用于部署Harbor的docker-compose模板位于/usr/local/bin/harbor/docker-compose.yml
Harbor特性
-
基于角色控制:用户与Docker镜像仓库通过"项目"进行组织管理,一个用户可以对多个镜像仓库在统一命名空间(projec)里有不同的权限
-
图形化用户界面:用户可以通过浏览器来浏览,检索当前Docker镜像仓库,管理项目和命名空间
-
审计管理:所有这怒地镜像仓库的错都可以被记录追溯,用于审计管理
-
基于镜像的复制策略:镜像可以在多个Harbor实例之间进行复制。
-
支持LDAP认证:Harbor的用户授权可以使用已经存在的用户。
-
镜像删除和垃圾回收:image可以被删除并且回收image占用的空间。
-
简单的部署功能:harbor提供了online、offline安装,此外还提供了virtualappliance安装
-
harbor和docker registry的关系:harbor实质上是对docker registry做了封装,扩展了自己的业务模板
Harbor简易架构
harbor主要有6大模块,默认的每个harbor的组件都被封装成一个docker container,所以可以通过compose来部署harbor,总共分为8个容器运行,通过docker-compose ps来查看
- Proxy: Harbor的registry、UI、token
services等组件,都处在一个反向代理后边。该代理将来自浏览器、docker clients的请求转发到后端服务上。 - Registry: 负责存储Docker镜像,以及处理Docker
- push/pull请求。因为Harbor强制要求对镜像的访问做权限控制,
在每一次push/pull请求时,Registry会强制要求客户端从token service那里获得一个有效的token
Core services: Harbor的核心功能,主要包括如下3个服务:
- UI: 作为Registry Webhook, 以图像用户界面的方式辅助用户管理镜像。1)
WebHook是在registry中配置的一种机制, 当registry中镜像发生改变时,就可以通知到Harbor的webhook
endpoint。Harbor使用webhook来更新日志、初始化同步job等。 2) Token
service会根据该用户在一个工程中的角色,为每一次的push/pull请求分配对应的token。假如相应的请求并没有包含token的话,registry会将该请求重定向到token
service。 3) Database 用于存放工程元数据、用户数据、角色数据、同步策略以及镜像元数据。 - Job services: 主要用于镜像复制,本地镜像可以被同步到远程Harbor实例上。
- Log collector: 负责收集其他模块的日志到一个地方
Harbor配置文件参数
vim /usr/local/harbor/harbor.cfg,关于 Harbor.cfg 配置文件中有两类参数:所需参数和可选参数
1、所需参数:这些参数需要在配置文件 Harbor.cfg 中设置。如果用户更新它们并运行 install.sh脚本重新安装 Harbour,参数将生效。具体参数如下:
hostname:用于访问用户界面和 register 服务。它应该是目标机器的 IP 地址或完全限 定的域名(FQDN),例如 192.168.195.128 或 hub.kgc.cn。不要使用 localhost 或 127.0.0.1 为主机名。
ui_url_protocol:(http 或 https,默认为 http)用于访问 UI 和令牌/通知服务的协议。如果公证处于启用状态,则此参数必须为 https。
max_job_workers:镜像复制作业线程。
db_password:用于db_auth 的MySQL数据库root 用户的密码。
customize_crt:该属性可设置为打开或关闭,默认打开。打开此属性时,准备脚本创建私钥和根证书,用于生成/验证注册表令牌。
当由外部来源提供密钥和根证书时,将此属性设置为 off。
ssl_cert:SSL 证书的路径,仅当协议设置为 https 时才应用。
secretkey_path:用于在复制策略中加密或解密远程 register 密码的密钥路径。
2、可选参数:这些参数对于更新是可选的,即用户可以将其保留为默认值,并在启动 Harbor 后在 Web UI 上进行更新。如果进入 Harbor.cfg,只会在第一次启动 Harbor 时生效,随后对这些参数 的更新,Harbor.cfg 将被忽略。
注意:如果选择通过UI设置这些参数,请确保在启动Harbour后立即执行此操作。具体来说,必须在注册或在 Harbor 中创建任何新用户之前设置所需的
auth_mode。当系统中有用户时(除了默认的 admin 用户),auth_mode 不能被修改。具体参数如下:
Email:Harbor需要该参数才能向用户发送“密码重置”电子邮件,并且只有在需要该功能时才需要。
请注意,在默认情况下SSL连接时没有启用。如果SMTP服务器需要SSL,但不支持STARTTLS,那么应该通过设置启用SSL email_ssl = TRUE。
harbour_admin_password:管理员的初始密码,只在Harbour第一次启动时生效。之后,此设置将被忽略,并且应 UI中设置管理员的密码。
请注意,默认的用户名/密码是 admin/Harbor12345。
auth_mode:使用的认证类型,默认情况下,它是 db_auth,即凭据存储在数据库中。对于LDAP身份验证,请将其设置为 ldap_auth。
self_registration:启用/禁用用户注册功能。禁用时,新用户只能由 Admin 用户创建,只有管理员用户可以在 Harbour中创建新用户。
注意:当 auth_mode 设置为 ldap_auth 时,自注册功能将始终处于禁用状态,并且该标志被忽略。
Token_expiration:由令牌服务创建的令牌的到期时间(分钟),默认为 30 分钟。
project_creation_restriction:用于控制哪些用户有权创建项目的标志。默认情况下, 每个人都可以创建一个项目。
如果将其值设置为“adminonly”,那么只有 admin 可以创建项目。
verify_remote_cert:打开或关闭,默认打开。此标志决定了当Harbor与远程 register 实例通信时是否验证 SSL/TLS 证书。
将此属性设置为 off 将绕过 SSL/TLS 验证,这在远程实例具有自签名或不可信证书时经常使用。
另外,默认情况下,Harbour 将镜像存储在本地文件系统上。在生产环境中,可以考虑 使用其他存储后端而不是本地文件系统,
如 S3、Openstack Swif、Ceph 等。但需要更新 common/templates/registry/config.yml 文件。
来吧!展示!!
实验环境:
两台 CentOS7.6 虚拟机
1、主机名: harbor,IP地址:20.0.0.5,安装软件:docker-ce、harbor、docker-compose
2、主机名:client01,IP地址:20.0.0.6,安装软件:docker-ce
harbor服务器安装harbor
[root@5centos ~]# ls
anaconda-ks.cfg docker-compose initial-setup-ks.cfg 公共 模板 视频 图片 文档 下载 音乐 桌面
[root@5centos ~]# chmod +x docker-compose
[root@5centos ~]# mv docker-compose /usr/bin
下载地址:wget http://harbor.orientsoft.cn/harbor-1.2.2/harbor-offline-installer-v1.2.2.tgz
但是我还是有下载好的!推荐使用迅雷下载!
[root@5centos harbor]# ls
harbor-offline-installer-v1.2.2.tgz
[root@5centos harbor]# tar zxvf harbor-offline-installer-v1.2.2.tgz
[root@5centos harbor]# mv harbor/ /usr/local/harbor
[root@5centos harbor]# cd /usr/local/harbor/
[root@5centos harbor]# vim /usr/local/harbor/harbor.cfg
hostname = 20.0.0.5 ##修改监听地址为本机IP,不可以使用localhost或者127。0.0.1
harbor_admin_password = Harbor12345 ##登录密码
[root@5centos harbor]# sh install.sh ##开启 harbor 服务
查看已经生成的镜像和容器
[root@5centos harbor]# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
vmware/harbor-log v1.2.2 36ef78ae27df 2 years ago 200MB
vmware/harbor-jobservice v1.2.2 e2af366cba44 2 years ago 164MB
vmware/harbor-ui v1.2.2 39efb472c253 2 years ago 178MB
vmware/harbor-adminserver v1.2.2 c75963ec543f 2 years ago 142MB
vmware/harbor-db v1.2.2 ee7b9fa37c5d 2 years ago 329MB
vmware/nginx-photon 1.11.13 6cc5c831fc7f 2 years ago 144MB
vmware/registry 2.6.2-photon 5d9100e4350e 3 years ago 173MB
vmware/postgresql 9.6.4-photon c562762cbd12 3 years ago 225MB
vmware/clair v2.0.1-photon f04966b4af6c 3 years ago 297MB
vmware/harbor-notary-db mariadb-10.1.10 64ed814665c6 3 years ago 324MB
vmware/notary-photon signer-0.5.0 b1eda7d10640 3 years ago 156MB
vmware/notary-photon server-0.5.0 6e2646682e3c 3 years ago 157MB
photon 1.0 e6e4e4a2ba1b 4 years ago 128M
[root@5centos harbor]# docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
08ec44896e92 vmware/harbor-jobservice:v1.2.2 "/harbor/harbor_jobs…" 2 minutes ago Up 2 minutes harbor-jobservice
ea91be5d061a vmware/nginx-photon:1.11.13 "nginx -g 'daemon of…" 2 minutes ago Up 2 minutes 0.0.0.0:80->80/tcp, 0.0.0.0:443->443/tcp, 0.0.0.0:4443->4443/tcp nginx
80449c2f0b83 vmware/harbor-ui:v1.2.2 "/harbor/harbor_ui" 2 minutes ago Up 2 minutes harbor-ui
6089fee6b0a4 vmware/harbor-db:v1.2.2 "docker-entrypoint.s…" 2 minutes ago Up 2 minutes 3306/tcp harbor-db
355c65d62c2e vmware/registry:2.6.2-photon "/entrypoint.sh serv…" 2 minutes ago Up 2 minutes 5000/tcp registry
8c98d4cef82f vmware/harbor-adminserver:v1.2.2 "/harbor/harbor_admi…" 2 minutes ago Up 2 minutes harbor-adminserver
f55f22a407ca vmware/harbor-log:v1.2.2 "/bin/sh -c 'crond &…" 2 minutes ago Up 2 minutes 127.0.0.1:1514->514/tcp
[root@5centos harbor]# docker-compose ps
Name Command State Ports
----------------------------------------------------------------------------------------------------------
harbor-adminserver /harbor/harbor_adminserver Up
harbor-db docker-entrypoint.sh mysqld Up 3306/tcp
harbor-jobservice /harbor/harbor_jobservice Up
harbor-log /bin/sh -c crond && rm -f ... Up 127.0.0.1:1514->514/tcp
harbor-ui /harbor/harbor_ui Up
nginx nginx -g daemon off; Up 0.0.0.0:443->443/tcp,
0.0.0.0:4443->4443/tcp, 0.0.0.0:80->80/tcp
registry /entrypoint.sh serve /etc/ ... Up 5000/tcp
上面容器的详细解释:
harbor-adminserver:harbor系统管理接口,可以修改系统配置以及获取系统信息
harbor-db:存储项目的元数据、用户、规则、复制策略等信息
harbor-jobservice:harbor里面主要是为了镜像仓库之前同步使用的
harbor-log:收集其他harbor的日志信息。rsyslogd
harbor-ui:一个用户界面模块,用来管理registry。主要是前端的页面和后端CURD的接口
nginx:harbor的一个反向代理组件,代理registry、ui、token等服务。这个代理会转发harbor web和docker client的各种请求到后端服务上。是个nginx。nginx负责流量转发和安全验证,对外提供的流量都是从nginx中转,它将流量分发到后端的ui和正在docker镜像存储的docker registry
registry:存储docker images的服务,并且提供pull/push服务。harbor需要对image的访问进行访问控制,当client每次进行pull、push的时候,registry都需要client去token服务获取一个可用的token。
redis:存储缓存信息
webhook:当registry中的image状态发生变化的时候去记录更新日志、复制等操作。
token service:在docker client进行pull/push的时候今天token的发放。
web网页登陆测试
harbor服务器字符界面镜像仓库测试
此时可使用 Docker 命令在本地通过 127.0.0.1 来登录和推送镜像。默认情况下,Register 服务器在端口 80 上侦听。
[root@5centos harbor]# docker login -u admin -p Harbor12345 http://127.0.0.1
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store
Login Succeeded
[root@5centos harbor]# docker pull nginx ##下载镜像进行测试
[root@5centos harbor]# docker tag nginx:latest 127.0.0.1/juejue/nginx:mk1
[root@5centos harbor]# docker push 127.0.0.1/juejue/nginx
The push refers to repository [127.0.0.1/juejue/nginx] ##上传镜像测试
908cf8238301: Pushed
eabfa4cd2d12: Pushed
60c688e8765e: Pushed
f431d0917d41: Pushed
07cab4339852: Pushed
mk1: digest: sha256:794275d96b4ab96eeb954728a7bf11156570e8372ecd5ed0cbc7280313a27d19 size: 1362
客户端上传镜像
以上操作都是在Harbor服务器本地操作。如果其他客户端上传镜像到Harbor,就会报如下错误。出现这问题的原因Docker Registry交互默认使用的是HTTPS,但是搭建私有镜像默认使用的是 HTTP服务,所以与私有镜像交互时出现以下错误
[root@localhost ~]# docker login -u admin -p Harbor12345 http://20.0.0.5
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
INFO[0000] Error logging in to v2 endpoint, trying next endpoint: Get https://20.0.0.5/v2/: dial tcp 20.0.0.5:443: connect: connection refused
Get https://20.0.0.5/v2/: dial tcp 20.0.0.5:443: connect: connection refused
修改docker的配置文件
[root@localhost ~]# vim /usr/lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --insecure-registry 20.0.0.5 --containerd=/run/containerd/containerd.sock ##改成这样
[root@localhost ~]# systemctl daemon-reload ##重载参数
[root@localhost ~]# systemctl restart docker ##重启docker服务
再次连接,成功
[root@localhost ~]# docker login -u admin -p Harbor12345 http://20.0.0.5
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store
Login Succeed
上传镜像测试
[root@localhost ~]# docker pull httpd ##下载一个
[root@localhost ~]# docker tag httpd:latest 20.0.0.5/juejue/httpd:v1 ##该名
[root@localhost ~]# docker push 20.0.0.5/juejue/httpd:v1 ##上传
The push refers to repository [20.0.0.5/juejue/httpd]
9f3f3dd7b0c2: Pushed
51eabf53c0c9: Pushed
6ce7826117a0: Pushed
d37da03a9458: Pushed
07cab4339852: Pushed
v1: digest: sha256:ee876fb8588d58d25eb95840c5d81d211f0ebf238c7c10cbaea10861f6a027db size: 1366
上传成功
用户管理
添加用户
将用户添加到项目
登录测试
[root@localhost ~]# docker login -u haohao -p Ph123123 http://20.0.0.5
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store
Login Succeeded
harbor仓库的维护管理
修改Harbor.cfg配置文件
可以使用 docker-compose 来管理 Harbor,命令必须在与 docker-compose.yml 相同的目录中运行
修改harbor.cfg配置文件的时候要注意
请先停止现有的 Harbour 实例并更新 Harbor.cfg;然 后运行 prepare 脚本来填充配置;最后重新创建并启动 Harbour 的实例。
[root@5centos harbor]# docker-compose down -v ##关闭所有容器
[root@5centos harbor]# pwd
/usr/local/harbor
[root@5centos harbor]# vim harbor.cfg ##如果修改配置文件
[root@5centos harbor]# ./prepare ##这条命令可以重读配置文件
[root@5centos harbor]# docker-compose up -d ##开启全部容器
harbor数据迁移
- 先关闭harbor仓库:docker-compose down -v
- 拷贝harbor数据:
##持久数据,如镜像,数据库等在宿主机的/data/目录下,日志在宿主机的/var/log/Harbor/目录下
/data/database/ 数据库内容,比如身份验证数据
/data/registry/ 镜像文件内容