Zyphra 发布 ZYFA 开源 FP8 注意力内核，AMD MI355X 性能提升最高 1.76 倍

Techub News 消息，AI 基础设施公司 Zyphra 发布了 ZYFA（Zyphra FlashAttention on AMD），这是一套针对 AMD Instinct MI355X GPU 的 FP8 和 BF16 预填充注意力内核。该代码已在 Apache 2.0 协议下开源。在实际模型激活上，其 FP8 内核运行速度比 AMD 默认内核库 AITER 快 1.16 至 1.76 倍。在头维度为 128 时，ZYFA 的 FP8 误差比 AITER 低 62% 至 78%。 ZYFA 采用三项技术：精简概率计算、双波乒乓调度以及逐块缩放与舍入行和。在 32K 令牌的高斯基准测试中，其头维度 128 的 FP8 内核达到了 2,672 TFLOP/s，而 AITER 为 1,944 TFLOP/s。（MarkTechPost）