Home
avatar

taoleb

标签:英伟达 🏷️

共 2 篇文章

英伟达NVFP4技术突破:4比特精度预训练大模型,更快更便宜

AI技术

英伟达NVFP4技术突破:4比特精度预训练大模型,更快更便宜

英伟达NVFP4技术突破:4比特精度预训练大模型,更快更便宜概述在DeepSeek刚刚提及UE8M0FP8量化设计引发热议后,英伟达再次在低精度量化领域发力,这次不是FP8量化的新进展,而是向FP4量化跃进。英伟达将其最新的NVFP4策略拓展到预训练阶段,声称能够以匹配16位的精度进行训练,并以4位