DEXUN GPU NEWS
资讯中心
汇集 GPU 选型、模型训练、推理部署与高性能计算资讯。
视觉识别在线服务部署硬件时需核对的6项条件与风险
部署视觉识别在线服务，不能只看设备算力。本文按模型兼容性、内存、推理性能、数据通路、可靠性和机房条件六项核对硬件，并提供部署前的验证步骤与常见问题。
阅读全文 →
推理服务选CPU还是GPU，怎样按并发量和时延要求比较？
比较 CPU 与 GPU 推理，关键不是只看峰值算力，而是结合并发量、p95 时延、模型特点和设备成本实测。本文给出选型条件、压测步骤及常见问题，帮助制定推理服务硬件配置指南。
阅读全文 →
推理硬件配置适合按并发和时延要求划分的服务团队
推理服务的硬件不能只看模型大小，还要结合并发量、时延目标、输入长度和软件兼容性。本文说明如何分档选择 CPU 或加速器，并通过压测确定配置余量。
阅读全文 →
单机与分布式训练各有适用范围，资源方案应随模型规模调整
训练资源不必一开始就扩展到集群。文章从模型内存、数据规模、通信开销和训练时限出发，说明何时选择单机、何时采用分布式，并给出可执行的规划步骤。
阅读全文 →
按模型规模还是按预算配置训练资源，规划步骤有何不同？
模型规模导向先确认任务能否装入并达到目标速度，再配置设备；预算导向则先划定总投入和运行期限，再反推可行方案。本文给出两种规划步骤、关键核算项与适用条件。
阅读全文 →
部署机架式AI设备只看显卡数量就够了吗？还要核对哪些条件？
部署机架式AI设备不能只比较显卡数量。还要核对任务与显存需求、机箱和扩展能力、供电散热、网络存储、软件兼容及现场维护条件，并通过清单和实测验证方案。
阅读全文 →