项目场景:
VMware 7.0 U3 MCX653105A-HDAT-SP 驱动 nmlx
—5-core 4.21.71.101 nmlx-rdma 4.21.71.101
问题描述
在esxi系统安装nmlx驱动后,识别不到网卡信息,使用esxcfg-nics -l
获取不到mellanox网卡信息。在/opt/mellanox/bin/mst status
同样获取不到网卡的pcie设备信息。
原因分析:
网卡识别不到驱动
MCX653105A-HDAT-SP网卡这种事VPI模式的IB网卡,一般默认为InfiniBand模式,系统挂载不了网卡驱动。
解决方案:
更改网卡的模式,改成ETH模式
在vm上新建一个ubuntu虚拟机,把MCX6网卡在web管理界面上直通到虚拟机上。使用lspci | grep Mellanox 查到识别到网卡,安装驱动后网卡信息显示正常。
下载MFT工具包。通过命令mlxconfig -d /dev/mst/mt4123_pciconf0 set LINK_TYPE_P1=2
(参数“1”为IB模式,参数“2”为ETH模式)。
保存关机。在vm的web管理界面删除pci直通设备。
然后再esxi系统上显示了MCX6网卡。
使用 /opt/mellanox/bin/mlxcondif -d mt4123_pciconf0 set SRIOV_EN=1 NUM_OF_VFS=16
设置单根sr-iov。