1. 为什么一条命令能让链路起死回生PCIe Retrain 的本质PCIe 链路训练这件事很多做硬件和驱动的朋友第一次接触都是被一个设备突然掉链路的问题逼到墙角的。设备明明插着lspci却看不到或者看到了但速率从 Gen3 掉到 Gen1带宽直接砍到四分之一。这时候老手往往会甩出一句retrain 一下试试然后敲一条setpci命令链路就回来了。听起来像玄学其实背后是一整套 LTSSM 状态机在跑。Retrain中文一般叫链路重训练本质上是让 PCIe 链路的物理层重新走一遍链路训练流程。它不重启设备、不重新枚举、不动配置空间里的 BAR只是让 LTSSM 从 L0 状态退出来回到 Recovery 甚至 Polling 状态重新做一遍位锁定、符号锁定、通道对齐、速率协商和宽度协商。你可以把它理解成两个人打电话信号突然变差了不是挂断重拨而是双方同时说喂喂喂我们重新对一下频道对好了继续聊。这个操作解决的核心问题是链路在运行过程中因为信号完整性、电源波动、时钟抖动、热插拔残留状态等原因导致误码率升高甚至链路失步但设备本身没坏、配置也没丢。这时候重新训练一次往往能把链路拉回正常状态。它适合谁做服务器运维的、搞嵌入式板卡的、写 PCIe 驱动的、做硬件 bring-up 的甚至玩树莓派 5 加 M.2 HAT 的玩家都会用到。我见过太多案例一块 PCIe 转网口的板子跑网页测速跑到一半就断日志里一堆 AER 报错最后发现是链路在高速率下裕量不够retrain 到低速率反而稳定。所以理解 retrain不只是会敲命令而是要理解它触发了什么、影响范围有多大、什么时候该用、什么时候用了也没用。2. 链路训练与 LTSSMRetrain 到底动了哪根神经2.1 LTSSM 状态机速览与 Configuration 子状态要讲清楚 retrain绕不开 LTSSMLink Training and Status State Machine。这是 PCIe 物理层的一套状态机规范里定义得极其详细从 Detect、Polling、Configuration、Recovery、L0、L1、L2 一直到 Loopback、Hot Reset、Disabled 等等。设备上电或者链路出问题就是在这套状态机里流转。正常工作的链路停在 L0这是全速传输状态。Retrain 做的事情就是让链路从 L0 退到 RecoveryRecovery 里会重新做位锁定和符号锁定然后进入 Configuration 状态重新协商链路宽度和速率协商完再回到 L0。如果 Recovery 失败多次还会退到 Detect 重新来一遍。Configuration 状态内部还有子状态规范里叫 Link Width Start、Link Width Accept、Lanenum Wait、Lanenum Accept、Complete。简单说就是双方互相报我能用几条 lane我接受几条 lane谈妥了才往下走。很多 retrain 之后链路宽度变了就是在这个阶段重新谈的结果。比如一条 x4 的链路某条 lane 信号太差协商后可能变成 x2带宽减半但至少能用。这里有个容易踩的坑Configuration 阶段协商的是双方都支持且当前信号质量允许的最大宽度不是配置空间里写的那个。你在 lspci 里看到的 LnkCap 是能力上限LnkSta 才是当前实际状态。retrain 之后一定要对比这两个值才能判断链路是不是真的恢复了。2.2 Retrain 的两种触发路径协议层与寄存器层Retrain 有两种触发方式一种是通过链路对端发 TS1/TS2 有序集触发另一种是直接写寄存器。实际运维和调试中我们用的基本都是第二种因为第一种需要链路本身还能通信。寄存器层触发又分几个入口。最直接的是 Link Control Register 里的 Retrain Link 位bit 5。这个位写 1 就会触发一次链路重训练硬件完成后会自动清零。这个寄存器在 PCIe 配置空间的 Capability 结构里偏移 0x10Link Control Register前提是设备支持 PCIe Capability。还有一个是 Link Control 2 Register 里的 Target Link Speed 字段bit 0-3配合 Retrain Link 使用可以在重训练的同时改变目标速率。比如你想把链路从 Gen1 拉到 Gen3就先写 Target Link Speed 为 3再触发 retrain。这个组合在调试速率协商问题时特别有用。另外Secondary Bus Reset桥设备 Control Register 的 bit 6也会间接导致下游链路重训练但它是复位不是 retrain影响范围大得多会重置下游设备的配置空间慎用。我一般只在 retrain 无效、且确认下游设备能承受复位时才考虑。2.3 为什么 Retrain 比重启设备更值得优先尝试很多人遇到链路问题第一反应是重启机器或者重新插拔设备。这在实验室里没问题但在生产环境里代价太大。一台跑着几十个虚拟机的服务器重启一次业务中断几分钟一个在线跑的存储节点重新插拔意味着 IO 全停。Retrain 的优势就在于轻。它不动配置空间、不重置设备状态、不影响上层驱动已经建立的映射关系只是物理层重新同步一次。对于已经枚举成功、驱动已经加载、只是链路质量下降的场景retrain 是成本最低的恢复手段。但要注意retrain 不是万能的。如果设备已经彻底失联、配置空间都读不到那 retrain 也无从谈起因为写寄存器的前提是你能访问到那个寄存器。这时候只能走 Secondary Bus Reset 或者热复位。所以判断该不该 retrain第一步永远是确认设备还在总线上、配置空间还能读。3. 动手之前环境确认与工具准备3.1 用 lspci 摸清链路现状动手之前先把现状摸清楚。lspci是最基础的工具但很多人只会lspci看设备列表不会用-vvv看链路细节。真正有用的信息都在详细输出里。lspci -vvv -s 01:00.0重点看这几行LnkCap链路能力包括支持的最大速率和宽度比如Speed 8GT/s, Width x4LnkSta链路当前状态比如Speed 2.5GT/s, Width x1DevSta设备状态看有没有 Correctable/Uncorrectable ErrorAER相关字段高级错误报告能力如果 LnkSta 明显低于 LnkCap比如能力是 Gen3 x4实际跑在 Gen1 x1那就有优化空间retrain 值得一试。如果两者一致链路本身没问题retrain 也提升不了什么。还要看LnkCtl里的字段确认 Retrain Link 位和 Target Link Speed 的当前值。有些平台 BIOS 会把目标速率锁在 Gen1这种情况下你 retrain 一百次也上不去 Gen3得先去 BIOS 里放开。3.2 setpci 的定位与安装setpci是 pciutils 包里的工具和 lspci 同源。它可以直接读写 PCI 配置空间的任意偏移是 retrain 操作的主力。# Debian/Ubuntu 系 apt install pciutils # RHEL/CentOS 系 yum install pciutils装完之后setpci --version确认一下。注意 setpci 需要 root 权限普通用户跑会报权限错误。setpci 的语法是setpci -s BDF offset.sizevalue。BDF 是 Bus:Device.Function比如01:00.0。offset 是配置空间偏移size 可以是 Bbyte、Wword2字节、Llong4字节。这个语法一定要记牢写错一个字符可能改到别的寄存器后果不可控。提示操作前务必用setpci -s BDF offset.size先读一遍当前值确认偏移和位域没搞错再执行写操作。改错寄存器的代价可能是一条链路彻底起不来。3.3 找到正确的 PCIe Capability 偏移这是整个操作里最容易出错的一步。PCIe Capability 结构在配置空间里的偏移不是固定的得先找到 Capability 链表的头再顺着链表找到 PCIe Cap 的 ID0x10。# 读 Capability 链表头偏移 0x34 setpci -s 01:00.0 34.b # 假设返回 0xa0从 0xa0 开始遍历 setpci -s 01:00.0 a0.b # Capability ID setpci -s 01:00.0 a1.b # Next Capability PointerPCIe Capability 的 ID 是 0x10。找到 ID 为 0x10 的那个节点它的起始偏移就是 PCIe Cap 的基址。假设基址是 0xa0那么Link Control Register 在基址 0x10 0xb0Link Status Register 在基址 0x12 0xb2Link Control 2 Register 在基址 0x30 0xd0不同设备这些偏移可能不同因为 Capability 链表顺序不一样。所以每次操作前都要重新确认不能照搬别人的偏移值。我见过有人直接抄网上的setpci -s 01:00.0 b0.w...结果设备根本不支持那个偏移写进去把别的功能搞坏了。4. 实战一步步完成一次安全的 Retrain4.1 读取并解析 Link Control Register假设我们已经确认 PCIe Cap 基址是 0xa0Link Control Register 在 0xb0。先读当前值setpci -s 01:00.0 b0.w返回一个 16 位的十六进制值比如0143。这个值的位域含义位名称含义0ASPM Control电源管理控制1-2RCBRead Completion Boundary3Link Disable链路禁用4Retrain Link重训练触发位5Common Clock Config公共时钟配置6Extended Sync扩展同步7Enable Clock Power Management时钟电源管理8Hardware Autonomous Width Disable硬件自动宽度禁用9Bandwidth Management Interrupt Enable带宽管理中断使能10Link Bandwidth Management Interrupt带宽管理中断状态11Link Autonomous Bandwidth Interrupt自动带宽中断状态Retrain Link 是 bit 4不是 bit 5这点很多人记错。写这个位的时候要保留其他位的原值只把 bit 4 置 1。所以操作是读-改-写# 读当前值 CUR$(setpci -s 01:00.0 b0.w) # 置 bit 4 NEW$(printf %04x $((0x$CUR | 0x0010))) # 写回 setpci -s 01:00.0 b0.w$NEW硬件收到这个写操作后会启动链路重训练完成后自动把 bit 4 清零。你可以过几百毫秒再读一次确认 bit 4 已经归零说明重训练完成。4.2 配合 Target Link Speed 做速率协商如果只是想让链路重新同步上面那步就够了。但如果你想把链路速率拉高比如从 Gen1 拉到 Gen3就得先设置 Target Link Speed。Target Link Speed 在 Link Control 2 Register 里偏移是 PCIe Cap 基址 0x30。假设基址 0xa0那就是 0xd0。这个寄存器的 bit 0-3 是 Target Link Speed1 2.5 GT/s (Gen1)2 5.0 GT/s (Gen2)3 8.0 GT/s (Gen3)4 16.0 GT/s (Gen4)5 32.0 GT/s (Gen5)操作顺序很重要先写 Target Link Speed再触发 Retrain Link。顺序反了retrain 用的还是旧的目标速率。# 读 Link Control 2 当前值 CUR2$(setpci -s 01:00.0 d0.w) # 清低4位设为 3Gen3 NEW2$(printf %04x $(( (0x$CUR2 0xfff0) | 0x0003 ))) setpci -s 01:00.0 d0.w$NEW2 # 然后触发 retrain CUR$(setpci -s 01:00.0 b0.w) NEW$(printf %04x $((0x$CUR | 0x0010))) setpci -s 01:00.0 b0.w$NEW等一两秒再lspci -vvv看 LnkSta 的速率有没有上去。如果没上去说明链路信号质量不支持 Gen3硬件会自动回退到能稳定的速率。这时候别硬刚接受现实或者去查信号完整性问题。4.3 验证结果与回退方案Retrain 之后必须验证。看三个地方lspci -vvv的 LnkSta确认速率和宽度dmesg | tail -50看有没有 AER 报错、链路训练失败的日志实际跑一下业务比如网卡测速、磁盘读写看带宽和稳定性如果 retrain 之后链路反而更差了比如宽度从 x4 掉到 x1那说明当前信号条件下协商不出更好的结果。这时候可以考虑回退把 Target Link Speed 设回原来的值再 retrain 一次。# 回退到 Gen1 CUR2$(setpci -s 01:00.0 d0.w) NEW2$(printf %04x $(( (0x$CUR2 0xfff0) | 0x0001 ))) setpci -s 01:00.0 d0.w$NEW2 # 再触发 retrain注意如果 retrain 过程中设备彻底失联lspci 都看不到了那只能走 Secondary Bus Reset 或者系统重启。所以生产环境操作前最好确认有带外管理或者现场恢复手段。5. 那些年踩过的坑常见问题与排查实录5.1 Retrain 后设备消失怎么办这是最吓人的情况。retrain 触发后设备从 lspci 列表里消失了。原因通常是链路训练失败LTSSM 卡在 Detect 或者 Polling 状态出不来。先别慌等 10 秒再lspci看一次。有些设备训练慢尤其是老设备或者信号裕量差的链路可能要几秒才稳定。如果还是看不到检查 dmesgdmesg | grep -i pcie | tail -30如果看到link training failed或者Link Down说明物理层没谈拢。这时候可以尝试 Secondary Bus Reset# 找到上游桥的 BDF假设是 00:01.0 # Control Register 在偏移 0x3cbit 6 是 Secondary Bus Reset CUR$(setpci -s 00:01.0 3c.w) NEW$(printf %04x $((0x$CUR | 0x0040))) setpci -s 00:01.0 3c.w$NEW sleep 1 # 清掉 reset 位 setpci -s 00:01.0 3c.w$CURSecondary Bus Reset 会把下游设备彻底复位配置空间重新初始化设备通常会重新出现。但代价是驱动要重新加载上层业务会中断。5.2 速率上不去Target Link Speed 被锁很多人遇到的情况是明明设备支持 Gen3retrain 之后还是 Gen1。查了半天发现是 BIOS 或者平台把 Target Link Speed 锁死了或者根本没开放 Gen3 支持。排查方法读 Link Control 2 的 Target Link Speed 字段看当前值是多少。如果是 1说明目标就是 Gen1你 retrain 再多次也上不去。这时候得去 BIOS 里找 PCIe 速率相关的选项通常在 PCIe Configuration 或者 Link Speed 菜单下。还有一种情况是链路对端的设备或者 switch 限制了速率。比如你通过一个 PCIe switch 接设备switch 的上游链路是 Gen2那下游设备再强也只能跑 Gen2。这种要逐级排查从 CPU 根端口一路看到设备。5.3 网页测速中断Realtek 网卡的链路稳定性问题热词里提到 Realtek RTL8852BE WiFi 6 网卡在网页测速时中断这个案例很典型。WiFi 网卡通过 PCIe 接口和主机通信测速时数据量大、链路负载高如果信号裕量不够误码率上升链路就会触发 Recovery 甚至掉线。这种问题的根因往往不在网卡本身而在主板 PCIe 走线、连接器质量、供电稳定性。Retrain 能临时恢复但治标不治本。我的经验是先确认 LnkSta 的速率和宽度是否正常如果测速时掉到 Gen1 x1说明链路本身有问题检查 AER 日志看是 Correctable Error 还是 Uncorrectable Error如果是 Correctable 居多可以尝试降低目标速率换稳定性如果是 Uncorrectable那基本是硬件问题retrain 只能救急对于 M.2 接口的网卡还要注意 M.2 连接器的金手指接触是否良好有些廉价转接板走线阻抗不匹配高速率下必然出问题。5.4 常见问题速查表现象可能原因排查手段处理建议retrain 后设备消失链路训练失败dmesg 看 link training等待或 Secondary Bus Reset速率上不去Target Link Speed 被锁读 Link Control 2改 BIOS 或改目标速率宽度变窄lane 信号差对比 LnkCap 和 LnkSta接受或查信号完整性频繁掉链路信号裕量不足AER 日志降速率换稳定写寄存器无效偏移算错重新遍历 Capability确认 PCIe Cap 基址权限不足非 rootwhoami用 sudo 或 root6. 从寄存器到系统Retrain 的影响范围与边界6.1 对上层驱动和业务的影响Retrain 发生在物理层理论上对上层是透明的。配置空间不变、BAR 不变、驱动不用重新加载。但实际上retrain 期间链路会短暂不可用通常几十毫秒到几百毫秒。对于跑着实时业务的系统这段时间可能导致 IO 超时。我实测过一块 NVMe SSD 在 retrain 期间如果有正在进行的读写可能会报超时错误但驱动一般会重试业务层面感知不明显。对于网卡retrain 期间丢几个包是正常的TCP 会重传。但如果 retrain 频繁发生业务性能会明显下降。所以生产环境做 retrain最好选业务低峰期或者确认上层有足够的重试和容错机制。别在数据库跑大批量导入的时候去 retrain 存储链路那是自找麻烦。6.2 与热插拔、电源管理的关系Retrain 和热插拔是两回事但有关联。热插拔设备插入时链路会走一遍完整的训练流程这本身就是一次 retrain。如果热插拔之后链路状态不对手动 retrain 一次往往能修正。电源管理方面ASPMActive State Power Management会影响链路状态。L0s 和 L1 是低功耗状态进出这些状态也会触发链路重新同步。如果 ASPM 配置不当可能导致链路频繁进出低功耗状态表现为间歇性掉线。这种情况下关闭 ASPM 或者调整 L1 substates 可能比 retrain 更有效。# 查看当前 ASPM 配置 lspci -vvv -s 01:00.0 | grep -i aspm如果看到ASPM L1 Enabled但链路不稳定可以尝试在 BIOS 里关掉 ASPM或者用 setpci 改 Link Control 的 ASPM 位。6.3 什么时候不该用 RetrainRetrain 不是万能药有些场景用了反而添乱设备已经彻底失联配置空间读不到retrain 无从下手得走复位链路本身能力就低LnkCap 和 LnkSta 一致retrain 提升不了正在跑关键业务不能容忍毫秒级中断选维护窗口硬件本身有故障比如 lane 短路、供电异常retrain 治标不治本平台锁定了速率或宽度先解平台限制再谈 retrain我的原则是先诊断再动手。用 lspci 和 dmesg 把现状摸清楚判断 retrain 有没有可能解决问题再决定要不要操作。盲目 retrain 有时候会把一个能用但慢的链路变成一个彻底不能用的链路。7. 进阶脚本化与批量处理7.1 写一个安全的 retrain 脚本手动敲命令容易出错尤其是偏移计算。我一般会写个小脚本自动找 PCIe Cap 基址、自动读改写、自动验证。#!/bin/bash # pcie_retrain.sh - 安全触发 PCIe 链路重训练 BDF$1 TARGET_SPEED$2 # 可选1-5 if [ -z $BDF ]; then echo 用法: $0 BDF [target_speed] exit 1 fi # 找 PCIe Capability 基址 CAP$(setpci -s $BDF 34.b) PCIE_CAP while [ $CAP ! 00 ] [ -n $CAP ]; do ID$(setpci -s $BDF $CAP.b) if [ $ID 10 ]; then PCIE_CAP$CAP break fi CAP$(setpci -s $BDF $(printf %x $((0x$CAP 1))).b) done if [ -z $PCIE_CAP ]; then echo 未找到 PCIe Capability exit 1 fi LCTL_OFF$(printf %x $((0x$PCIE_CAP 0x10))) LC2_OFF$(printf %x $((0x$PCIE_CAP 0x30))) echo PCIe Cap 基址: 0x$PCIE_CAP, Link Control: 0x$LCTL_OFF # 设置目标速率 if [ -n $TARGET_SPEED ]; then CUR2$(setpci -s $BDF $LC2_OFF.w) NEW2$(printf %04x $(( (0x$CUR2 0xfff0) | $TARGET_SPEED ))) setpci -s $BDF $LC2_OFF.w$NEW2 echo 目标速率设为 Gen$TARGET_SPEED fi # 触发 retrain CUR$(setpci -s $BDF $LCTL_OFF.w) NEW$(printf %04x $((0x$CUR | 0x0010))) setpci -s $BDF $LCTL_OFF.w$NEW echo 已触发 retrain等待完成... sleep 2 # 验证 lspci -vvv -s $BDF | grep -E LnkCap|LnkSta这个脚本做了几件关键的事自动找 Capability 基址、保留其他位只改目标位、操作后自动验证。你可以根据实际需求调整等待时间和验证逻辑。7.2 批量处理多个设备服务器上可能有几十个 PCIe 设备逐个手动 retrain 不现实。可以结合 lspci 的输出批量处理# 找出所有链路状态低于能力的设备 for bdf in $(lspci -D | awk {print $1}); do cap$(lspci -vvv -s $bdf 2/dev/null | grep LnkCap | grep -oP Speed \K[^,]) sta$(lspci -vvv -s $bdf 2/dev/null | grep LnkSta | grep -oP Speed \K[^,]) if [ -n $cap ] [ -n $sta ] [ $cap ! $sta ]; then echo $bdf: Cap$cap Sta$sta fi done这个脚本能快速筛出能力大于现状的设备这些就是 retrain 的候选目标。批量操作时一定要加延时和验证别一口气全 retrain万一某个设备挂了排查起来很麻烦。7.3 监控与自动化恢复对于链路稳定性差的设备可以做一个监控脚本定期检查 LnkSta发现掉速或掉链路就自动 retrain。#!/bin/bash # link_monitor.sh - 监控链路状态异常时自动 retrain BDF$1 THRESHOLD_SPEED3 # 期望的最低速率 Gen3 while true; do STA$(lspci -vvv -s $BDF 2/dev/null | grep LnkSta | grep -oP Speed \K[0-9.]) if [ -z $STA ]; then echo $(date): 设备失联尝试 retrain ./pcie_retrain.sh $BDF else # 速率比较逻辑根据实际情况调整 echo $(date): 当前速率 $STA fi sleep 60 done这种自动化脚本适合实验室环境或者非关键业务。生产环境用的话一定要加日志和告警别让它默默 retrain 把问题掩盖了。8. 从 PCIe 协议到实际板卡几个真实场景的思考8.1 PCIe 转网口电路设计中的链路裕量热词里有PCIe 转网口电路设计这个场景和 retrain 关系很大。PCIe 转网口芯片比如常见的 RTL8111、I225 系列通过 PCIe 接口和主机通信。如果板子走线阻抗控制不好、参考层不完整、过孔 stub 太长高速率下眼图闭合链路就会频繁 retrain 或者掉线。做这类板卡 bring-up 时我的经验是先用低速率Gen1验证功能确认芯片能识别、驱动能加载、网络能通。然后再逐步拉高速率每拉一档就做压力测试看链路稳不稳。如果 Gen2 就不稳别硬上 Gen3先查信号完整性。Retrain 在这个场景里是诊断工具不是解决方案。它能帮你确认链路在低速率下是好的从而把问题定位到信号完整性而不是芯片本身。8.2 树莓派 5 PCIe 开发板与 M.2 HAT 的链路调试树莓派 5 开放了 PCIe 接口很多人用 M.2 HAT 接 NVMe SSD 或者网卡。这个场景下 retrain 也很有用。树莓派 5 的 PCIe 默认可能是 Gen2有些 HAT 板子走线质量一般Gen3 下不稳定。调试思路先确认/boot/firmware/config.txt里的 PCIe 配置看速率设置。然后用 lspci 看链路状态如果掉速或者掉链路可以尝试 retrain。但树莓派的 PCIe 控制器驱动可能对 retrain 支持有限实际操作要看具体内核版本。我实测下来树莓派 5 加 M.2 HAT 跑 NVMeGen2 下基本稳定Gen3 下要看 HAT 板子质量。如果遇到测速中断先降速到 Gen2 试试稳定了再考虑优化散热和供电。8.3 PCIe Switch 下游链路的 retrain 特殊性PCIe Switch 场景下 retrain 要复杂一些。Switch 有上游端口和下游端口retrain 上游端口会影响所有下游设备retrain 下游端口只影响那一个设备。所以操作前一定要搞清楚 BDF 对应的是哪个端口。另外Switch 的配置空间里有自己的 Link Control Register操作方式和端点设备一样但影响范围不同。我一般建议先 retrain 下游端口确认单个设备没问题再考虑上游。上游 retrain 相当于整个 Switch 子树重新训练风险大得多。还有一点Switch 的 ACSAccess Control Services和 AER 配置会影响错误处理。如果 AER 没配好retrain 过程中的错误可能不会上报你以为成功了其实链路已经降级了。所以 Switch 场景下retrain 前后都要仔细看 AER 日志。9. 我个人的几条实操心得第一条永远先读后写。setpci 的写操作是不可逆的改错了只能靠复位恢复。每次写之前把当前值读出来记下来万一出问题还能改回去。第二条偏移一定要自己算。网上的教程给的偏移值只能参考不同设备、不同 BIOS、不同 Capability 链表顺序偏移都可能不一样。自己遍历一遍 Capability 链表确认 PCIe Cap 基址再算 Link Control 的偏移这一步不能省。第三条retrain 之后必须验证。别写完命令就完事一定要 lspci 看 LnkStadmesg 看错误日志实际跑一下业务。我见过太多次命令执行成功但链路没恢复的情况不验证等于没做。第四条生产环境操作前想好退路。retrain 有概率把设备搞失联如果这台机器没有带外管理、没有现场恢复手段那就别在业务时间操作。实验室里随便折腾生产环境要谨慎。第五条retrain 是诊断手段也是恢复手段但别把它当常规操作。如果一条链路频繁需要 retrain那说明硬件或者配置有根本问题该修修、该换换靠 retrain 续命不是长久之计。最后分享一个小技巧如果你不确定 retrain 会不会出问题可以先用一个不太重要的设备练手比如一个空闲的 PCIe 插槽上的测试卡。熟悉了流程和现象再对关键设备操作。这个习惯帮我避免了好几次生产事故。
