当前的位置: 首页 > 文章列表 > 手机平板 > 英特尔在GitHub上公开发布 NPU 加速库,兼容 Windows 和 Linux

— 英特尔在GitHub上公开发布 NPU 加速库,兼容 Windows 和 Linux —

更新时间:2024-03-04 12:20:03 编辑:丁丁小编

近日一位ID为Tony Mongkolsmai的用户在推特平台上发帖称:英特尔已经在GitHub上开源了NPU加速库,日后开发人员优化AI应用更方便,目前NPU加速库支持Windows和Linux。

该加速库供开发人员使用使用NPU模型,可以按照相应的文档对AI应用进行优化,适配新一代的AI模型,当前参照GitHub文档可以允许TinyLlama和Gemma-2b-it。

英特尔NPU加速库其实可以理解为是一个Python库,利用NPU的强大的性能在硬件上执行高速计算,以此来提高应用的效率。目前英特尔NPU加速库还在进一步开发当中,未来也将推出更多提高性能的功能,截至目前加速库已经实现了8bit量化等一系列功能,不久还将支持NPU/GPU异构计算。

微星B760M主板套装搭i513490F【优惠券:满1000元减120元】
intel英特尔I5 12490F/13490F/14600K搭微星B660/B760主板CPU套装领券购买
Intel4590台式机4代CPU成色好【优惠券:满20元减1元】
Intel/英特尔 i5 4670 4460 4430 4590 4690 4770 47901150针CPU领券购买
本文转载于:https://www.sohu.com/a/761689881_223764 如有侵犯,请联系dddazheyh@163.com删除

热门优惠券

更多