训练推理混部并非人人适用，资源紧张团队要先评估隔离成本
训练与推理混合部署可以提高设备利用率，但训练作业可能挤占推理所需的算力、显存带宽和网络资源。本文介绍如何比较硬隔离与共享调度，并通过监测、压测和准入规则评估混部是否划算。
阅读全文 →DEXUN GPU NEWS
资讯中心
汇集 GPU 选型、模型训练、推理部署与高性能计算资讯。
训练推理抢资源怎么办？5种隔离方法对比适用场景
训练任务和在线推理争用算力时，可从物理资源、硬件分区、容器配额、调度优先级和流量控制五个层面隔离。本文比较各自的隔离强度、代价与适用条件，并给出落地步骤。
阅读全文 →
训练与推理做好资源隔离，能让吞吐和响应更稳定吗？
训练与推理共享机器时，隔离能减少资源争抢，但不能单靠划分配额保证稳定。文章说明常见冲突、隔离层次、Linux 与 Slurm 的配置思路，以及如何验证吞吐和延迟是否改善。
阅读全文 →
训练推理混合运行时，新手可先从资源隔离边界入手
训练任务追求吞吐，在线推理关注延迟，两者共享设备时容易互相争抢。本文从物理设备、GPU 分区、容器调度和主机资源四层说明隔离方法，并给出可执行的落地步骤与常见问题。
阅读全文 →
核算前别急着汇总：算力中心碳排评估的5个步骤
先明确核算边界，再整理能源与排放数据，并把碳排结果和能效指标分开评估。本文按五个步骤说明如何处理排放因子、制冷剂、PUE及数据质量，减少汇总后返工。
阅读全文 →
碳排放与能效指标评估，算力中心先统一核算口径
算力中心要先明确核算边界、能源数据和排放因子，再分别计算碳排放与PUE等能效指标。统一时间范围、计量点和分摊规则，才能让不同设施、时期及运营方案的结果可比较。
阅读全文 →
精细核算按需资源后，预算偏差能缩小多少？
预算偏差没有固定缩减比例。通过统一计量口径、拆分用量和复核账单，可以用历史数据比较改进前后的预测误差。文中提供计算公式、可执行步骤和一个明确标注为示例的测算。
阅读全文 →
短期模型实验按需调用资源，按运行时长核算成本
短期模型实验的费用不能只看任务运行时间，还要核对计费粒度、资源数量、启动与空闲时间，以及存储和数据传输等附加项。本文提供可执行的核算步骤和示例。
阅读全文 →