GPU

一份AI机器学习平台研发的深度总结，系统性地梳理和对比GPU集群在模型训练和模型推理这两个核心阶段所扮演的截然不同的角色、挑战及性能优化策略。

系统性地解析PyTorch作为核心框架，如何与算子优化、算法优化、框架优化以及GPU集群这四大AI工程技术栈进行分层协作，共同构建和加速现代大规模AI模型。

LLM大模型推理优化：一套系统化的全栈工程方法 引言：从全功能AI平台到LLM推理优化的深度聚焦 本文的探讨，源于我对研发的AI机器学习平台的工作总结和持续迭代的工作思考以及业界对于LLM模型推理的诉求重视程度越来越高：一个基于GPU集群、 …