[k8s] kubernetes从harbor拉取镜像没有权限解决方法 unauthorized

Kubernetes在拉取私服(Harbor)镜像时，经常出现问题，导致ImagePullBackOff。查看kubectl describe pod …，还经常发现这类错误：

Failed to pull image “192.168.1.13:9080/ces/ces-gateway:1.1-SNAPSHOT”: rpc error: code = Unknown desc = Error response from daemon: unauthorized: unauthorized to access repository: ces/ces-gateway, action: pull: unauthorized to access repository: ces/ces-gateway, action: pull

又或者：

Failed create pod sandbox: rpc error: code = Unknown desc = failed pulling image …Error response from daemon: pull access denied for …repository does not exist or may require ‘docker login’

这是因为没有正确配置pull权限所致。

~/.docker/config.json无效

首先，不要寄望于~/.docker/config.json。与Docker Swarm不同，Kubernetes不会使用这里的配置来pull。

当然，用docker login测试过账户、密码、Registry、镜像均无误后，再走下一步，是更好的选择。

使用imagePullSecrets

通过创建docker-registry类的secrets，可以实现类似docker login的功能。

regcred secrets 名称

kubectl create secret docker-registry regcred \    
--docker-server= \    
--docker-username= \    
--docker-password= \    
--docker-email=

其中.dockerconfigjson的值包含了登录harbor的用户名和密码等信息，通过以下命令进行查看：

kubectl get secret regcred --output="jsonpath={.data.\.dockerconfigjson}" | base64 -d

其中，server、username和password都是必填项，email可以不填。

在使用时，把imagePullSecrets添加到Pod配置中。

apiVersion: v1
kind: Pod
metadata:
  name: private-reg
spec:
  containers:
  - name: private-reg-container
    image: your-private-image
  imagePullSecrets:
  - name: regcred

其中，regcred为secrets名称，可随意指定。

注意Namespace

即使创建了secrets、配置了imagePullSecrets，有时仍然无法pull镜像。比如Calico的相关镜像，如果被同步到了本地一个私有Registry中，一般配置时无效的。

这是因为，Calico属于系统Network组件，Namespace是kube-system。而一般创建的secrets，属于default。通过以下命令可以查看特定secrets的详细信息。

# kubectl get secret regcred -o yaml
apiVersion: v1
data:
  .dockerconfigjson: eyJhdXRocyI6eyJodHRwOi8vaGFyYm9yLnR1cmluZy1jaS5oaXNpbGljb24uY29tIjp7IlVzZXJuYW1lIjoiY2hyaXN0b3BoZXIiLCJQYXNzd29yZCI6IlFpZGRZYWZkQmF2YTYjIiwiRW1haWwiOiJ5MDA0NDU0ODBAbm90ZXNtYWlsLmh1YXdlaS5jb20ifX19
kind: Secret
metadata:
  creationTimestamp: "2019-01-10T08:51:03Z"
  name: regcred
namespace: default
  resourceVersion: "100110"
  selfLink: /api/v1/namespaces/default/secrets/regcred
  uid: dc96580b-14b4-11e9-9f81-e435c87f8d90
type: kubernetes.io/dockerconfigjson

在创建secrets时需要指定Namespace：

kubectl --namespace kube-system \
    create secret docker-registry regcred \
    --docker-server= \
    --docker-username= \
    --docker-password= \
    --docker-email=

不同Namespace，secrets可以同名，所以仍然可以叫regcred。

注意：或者，在secrets创建后可以修改一些内容：

kubectl edit secret regcred --namespace=kube-system

但不能修改Namespace。所以，必须在创建时准确指定。

用patch避免设置imagePullSecrets

每个私有镜像在使用前，都需要设置imagePullSecrets，这是一件非常繁琐的事。在迁移服务时，它能有效地提醒secrets的迁移。这是一个优点，但能被良好的迁移文档所解决。

用patch可以避免这么繁琐。

kubectl patch serviceaccount default -p '{"imagePullSecrets": [{"name": "regcred"}]}'

这相当于，在default这个Namespace中的所有镜像pull操作，都自动具备了regcred这个账户密码。

终于，和docker login一样了。

注意：这里的示例只针对default这个Namespace。其它的Namespace需要一一执行patch。某些场景下，比如网络组件Calico，似乎只能老老实实地写imagePullSecrets。

对k8s系统镜像无效

系统镜像中，kube-proxy、pause是在所有Slave节点都需要使用的。如果这些系统镜像被设为私有，则无法下载。以上方法无效，原因不明。

所以，k8s系统镜像，即使同步到了本地Registry，也不要设为私有。