03
FEB
使用 NPU 来运行 DeepSeek R1 32B
文章介绍了在NPU上部署OpenVINO以运行量化模型的过程，包括安装配置NPU驱动、安装OpenVINO Runtime、使用Optimum-Intel进行模型转换和量化、下载预训练模型并运行推理测试等步骤，并展示了通过量化模型实现性能提升的具体过程。--DeepSeek
文章介绍了在NPU上部署OpenVINO以运行量化模型的过程，包括安装配置NPU驱动、安装OpenVINO Runtime、使用Optimum-Intel进行模型转换和量化、下载预训练模型并运行推理测试等步骤，并展示了通过量化模型实现性能提升的具体过程。--DeepSeek