选机架式GPU设备前，供电散热和运维要注意什么？
选购机架式GPU设备，先核对机柜供电、插座与PDU容量，再评估进风、排热、噪声和维护空间。本文对比GPU工作站与机架式计算设备的部署差异，并给出上线检查步骤。
阅读全文 →DEXUN GPU NEWS
资讯中心
汇集 GPU 选型、模型训练、推理部署与高性能计算资讯。
个人研发与团队部署可按使用规模选择GPU设备形态
个人研发侧重桌面工作站的本地交互与灵活扩展，团队部署则更看重机架式设备的集中管理、多卡协同和共享服务能力。本文从任务、扩展、运维和成本角度比较两种形态，并给出可执行的选型步骤。
阅读全文 →
生成式推理速度慢，是否一定是显存带宽不足？
显存带宽会影响生成速度，但慢推理也可能由计算能力、显存容量、批处理方式或软件开销造成。本文区分 prefill 与 decode 阶段，并提供可执行的排查步骤。
阅读全文 →
长上下文批量生成时，显存带宽影响GPU推理吞吐
长上下文批量生成中，显存带宽会限制解码阶段读取模型权重与KV缓存的速度，但实际吞吐还受批量大小、缓存布局、计算能力和软件实现影响。本文说明瓶颈机制，并给出可执行的排查与比较方法。
阅读全文 →
比较显存带宽与算力：5项提升推理吞吐的排查方法
生成式推理的瓶颈会随阶段、批量和模型精度变化。本文比较显存带宽与算力的作用，并给出五项可执行的排查方法，帮助判断该优化批处理、量化还是计算内核。
阅读全文 →
提升显存带宽后，生成式推理吞吐通常能改善多少？
提升显存带宽不等于吞吐同比增长：自回归解码更容易受带宽限制，带宽提升20%时，带宽受限场景的理论上限也提升20%，实际结果则可能更小，甚至没有变化。文章说明影响因素，并给出可复现的测试方法。
阅读全文 →
ECC带来的稳定性提升，是否值得承担性能与显存成本？
ECC可降低部分显存位错误导致训练异常或结果受损的风险，但不能替代检查点、数据校验和故障排查。是否开启，应结合任务时长、显存余量、硬件支持情况及实测性能决定。
阅读全文 →
想减少训练中断？了解ECC带来的4项稳定性收益
GPU计算卡的ECC能在硬件支持范围内纠正或报告部分显存错误，降低静默数据异常和训练返工风险。本文说明四项稳定性收益、ECC的边界，以及启用前后的检查步骤。
阅读全文 →
长时间大模型训练中，ECC可降低显存错误风险但仍需监控
GPU显存ECC能够在支持的硬件上检测并纠正部分内存错误，降低长时间训练受随机位翻转影响的风险，但不能保证训练不中断，也无法替代日志、错误计数和检查点管理。本文说明ECC的作用边界及实用监控步骤。
阅读全文 →ECC开启就能避免训练故障吗？它不能替代完整性监控
ECC能够纠正部分显存错误，降低训练因硬件位翻转而中断或产生异常结果的风险，但无法覆盖软件、通信和数据链路中的所有故障。本文说明其作用边界，并给出训练前检查、运行监控和故障排查方法。
阅读全文 →