英伟达发布 cuDNN Graph API 教程，详解融合、自动调优与计划复用

Techub News 消息，英伟达（NVIDIA）通过其技术博客发布 cuDNN Graph API 详细教程，深入解析深度学习库 cuDNN 的图 API 功能。该教程展示了如何利用 cuDNN Frontend 将计算描述为操作图，由 cuDNN 选择执行引擎，并允许开发者控制该选择过程。教程涵盖从单一融合卷积到跨引擎配置自动调优、FP8 风格后处理、注意力机制、计划序列化、动态形状以及 CUDA 图捕获等一系列进阶主题。 教程提供了完整的代码示例，包括环境设置、张量声明、操作链构建、五步构建流水线（验证、构建操作图、创建执行计划、检查支持、构建计划）以及针对指针变体包的执行。所有示例均在单个 Colab GPU 上运行，并与 PyTorch 参考结果进行比对，以验证融合正确性并评估性能成本。（MarkTechPost）