OpenShift上使用NFS作为共享存储的线上问题

NFS

NFS exports文件配置格式

<输出目录> [客户端1 选项（访问权限,用户映射,其他）] [客户端2 选项（访问权限,用户映射,其他）]

a. 输出目录：

输出目录是指NFS系统中需要共享给客户机使用的目录；

b. 客户端：

客户端是指网络中可以访问这个NFS输出目录的计算机
客户端常用的指定方式

指定ip地址的主机：192.168.0.200
指定子网中的所有主机：192.168.0.0/24 192.168.0.0/255.255.255.0
指定域名的主机：david.bsmart.cn
指定域中的所有主机：.bsmart.cn
所有主机：

c. 选项：

选项用来设置输出目录的访问权限、用户映射等。

NFS主要有3类选项：

• 访问权限选项

设置输出目录只读：ro
设置输出目录读写：rw

• 用户映射选项
  all_squash：将远程访问的所有普通用户及所属组都映射为匿名用户或用户组（nfsnobody）；
  no_all_squash：与all_squash取反（默认设置）；
  root_squash：将root用户及所属组都映射为匿名用户或用户组（默认设置）；
  no_root_squash：与rootsquash取反；
  anonuid=xxx：将远程访问的所有用户都映射为匿名用户，并指定该用户为本地用户（UID=xxx）；
  anongid=xxx：将远程访问的所有用户组都映射为匿名用户组账户，并指定该匿名用户组账户为本地用户组账户（GID=xxx）；

其它选项
secure：限制客户端只能从小于1024的tcp/ip端口连接nfs服务器（默认设置）；
insecure：允许客户端从大于1024的tcp/ip端口连接服务器；
sync：将数据同步写入内存缓冲区与磁盘中，效率低，但可以保证数据的一致性；
async：将数据先保存在内存缓冲区中，必要时才写入磁盘；
wdelay：检查是否有相关的写操作，如果有则将这些写操作一起执行，这样可以提高效率（默认设置）；
****no_wdelay：若有写操作则立即执行，应与sync配合使用；
subtree：若输出目录是一个子目录，则nfs服务器将检查其父目录的权限(默认设置)；
no_subtree：即使输出目录是一个子目录，nfs服务器也不检查其父目录的权限，这样可以提高效率；

例如：/data/nfsTest/ 127.0.0.1(rw,sync,no_root_squash)

OpenShift相关的账号权限问题

1. SUPGROUP为容器运行的用户添加所属组，可动态添加

securityContext:
  supplementalGroups:
    - 1001
    - 1002

如果NFS服务共享目录中设置了anongid，则可以通过设置supgroup来赋予容器用户对NFS目录的访问权限。

2. 指定NFS请求版本
   配置PV，强制使用NFSv3来访问后端NFS服务。
   参考配置如下：spec.mountOptions

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv0003
spec:
  capacity:
    storage: 5Gi
  volumeMode: Filesystem
  accessModes:
    - ReadWriteOnce
  persistentVolumeReclaimPolicy: Recycle
  mountOptions:
    - hard
    - nfsvers=3
  nfs:
    path: /tmp
    server: 172.17.0.2

另外也可以通过添加annotations.volume.beta.kubernetes.io/mount-options来设置

oc patch pv pv0003 -p '{"metadata":{"annotations":{"volume.beta.kubernetes.io/mount-options":"rw,nfsvers=3"}}}'