配置InfiniBand (IB) 和 RDMA over Converged Ethernet (RoCE) 网络

服务器端配置

在服务器端,你需要确保安装了必要的驱动程序和软件包,并且正确配置了网络接口。

安装 OFED

首先,安装 Open Fabrics Enterprise Distribution (OFED),它包含了 InfiniBand 所需的驱动程序和库。

sudo apt-get update
sudo apt-get install openib-tools openib-ucm libibverbs1 ibverbs-utils rdma-core
配置 NIC

确保 NIC 已经正确识别并且启用了 InfiniBand 功能。

# 检查 NIC 是否被识别
ibv_devinfo
配置 MTU

为了获得更好的性能,通常需要增加 MTU(最大传输单元)。

# 设置 MTU
ip link set dev <interface> mtu 9000
启用无损以太网

如果使用的是 RoCE,还需要启用无损以太网特性,这通常涉及到 PFC(Priority-Flow Control)和 DCB(Data Center Bridging)。

# 启用 PFC
echo 1 > /sys/class/net/<interface>/pfc/capable
echo 1 > /sys/class/net/<interface>/pfc/enabled

# 启用 DCB
echo 1 > /sys/class/net/<interface>/dcb/priority_flow_control
测试 IB 连接

使用测试工具验证 IB 连接是否正常工作。

# 使用 ibping 测试连接
ibping -d <device> -a <remote_address> -c 100

# 使用 iperf3 测试带宽
iperf3 -s -T
iperf3 -c <server_ip> -T

华为 IB 交换机配置

华为 IB 交换机通常通过命令行界面(CLI)进行配置。以下是一些基本的配置步骤:

登录交换机

首先,通过 SSH 或串口登录到交换机。

ssh admin@<switch_ip>
配置子网管理器

确保子网管理器(SM)已启动并配置好。

# 启动子网管理器
system-view
subnet-manager enable
subnet-manager start
subnet-manager quit
配置端口

配置交换机端口的速度、模式和其他参数。

# 进入系统视图
system-view

# 配置端口速度
interface <port>
speed 100G
quit

# 配置端口模式
interface <port>
port-type ib
quit
配置 QoS

配置 QoS 策略,以确保不同类型的流量得到合理的优先级处理。

# 配置端口 QoS
traffic-policy <policy_name> inbound
traffic-policy <policy_name> outbound
配置 VLAN

如果使用 VLAN 来隔离不同类型的流量,需要在交换机上配置 VLAN。

# 创建 VLAN
vlan <vlan-id>

# 将端口加入 VLAN
interface <port>
port access vlan <vlan-id>
quit
监控网络状态

使用交换机的监控工具来实时查看网络状态和性能指标。

display interface <port>
display dcb

综合配置和测试

在完成服务器端和交换机端的配置后,需要进行一些综合性的配置和测试,以确保整个网络正常运行:

测试网络连通性

使用 ibpingiperf3 等工具测试节点之间的连通性和带宽。

ibping -d <device> -a <remote_address> -c 100
iperf3 -s -T
iperf3 -c <server_ip> -T
性能优化

根据测试结果调整网络参数,如 MTU、队列深度等,以优化性能。

# 调整 NIC 上的队列深度
echo 128 > /sys/class/infiniband/<device>/ports/1/max_qp_depth
故障排查

使用日志和监控工具进行故障排查。

dmesg | grep mlx5
display diagnostic-information

注意事项

  • 在配置过程中,确保所有节点的时间同步(如使用 NTP)。
  • 监控网络性能和健康状况,及时调整配置以优化性能。
  • 根据具体的应用需求,可能还需要配置其他相关的软件和服务,如存储服务、数据库等。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部