DEXUN GPU NEWS
资讯中心
汇集 GPU 选型、模型训练、推理部署与高性能计算资讯。
进阶调优算力服务器基准：6项指标偏差需提前排查
基准结果不达预期，不一定是处理器或加速卡性能不足。本文从计算吞吐、延迟、利用率、内存、I/O及功耗温度六项指标入手，提供复测步骤与常见排查方向。
阅读全文 →
模型服务SLA定了，还需要计算设备冗余吗？
服务级别协议约定的是对外承诺，不等于计算设备故障时已有备用能力。本文说明如何结合故障范围、负载和恢复目标决定冗余方式，并给出可执行的容量核算步骤。
阅读全文 →
企业模型保障怎么配？5项SLA与设备冗余差异别忽略
企业模型服务保障不能只看设备数量。本文拆解可用性、延迟、吞吐量、错误率和恢复目标五项SLA，并比较单机冗余、主备切换与跨故障域部署，给出可执行的配置步骤。
阅读全文 →完成AI推理框架硬件适配的5个验证步骤
从基准模型、运行时支持、编译转换、精度性能到部署稳定性，逐步验证硬件适配效果，并比较 Apple Core ML、Qualcomm QNN、Coral Edge TPU 与 Apache TVM 的适用特点。
阅读全文 →新手先弄清模型、硬件与推理框架的适配关系
模型格式、硬件能力和运行时框架共同决定推理能否运行、速度如何以及维护成本多高。本文以 ONNX Runtime、OpenVINO、TensorRT 和 ROCm 为例，说明适配关系、选择条件与验证步骤。
阅读全文 →
不同推理框架适配同一硬件，性能收益差多少？
同一硬件上的推理速度，取决于框架能否调用合适的计算后端、覆盖模型算子并减少数据搬运。本文以 Raspberry Pi 5 的 Arm CPU 为例，比较 TensorFlow Lite、NCNN 与 MNN，并给出可复现的测试方法。
阅读全文 →
想提升硬件利用率？5项运行时框架适配优化思路
从算子覆盖、数据精度、内存与图优化、并发调度和实机验证五方面入手，比较不同推理运行时与硬件后端的适配特点，找到性能、功耗和维护成本之间的合适平衡。
阅读全文 →