英伟达许冰与 Terry Chen 和 Zhifan Ye 为共同一作的一项英伟达新研究 AVO。

许冰说:在一些经过高度优化的注意力机制工作负载中，智能体在没有人工干预的情况下，即可在优化循环中连续搜索 7 天，从而超越几乎所有人类 GPU 专家。

也就是说这是AI自主进化能力的重大突破。

从性能上看，在Blackwell GPU上实现1668 TFLOPS的注意力计算吞吐量。

超越cuDNN官方库3.5%，碾压FlashAttention-4达10.5%。

仅用30分钟即可将优化方案迁移至GQA架构，保持7-9%性能优势。

虽然但是，当智能体可以持续自我优化时，人类工程师的认知能力确实是其瓶颈。但是万一突破了呢？