[新闻] 微软更新DirectML支援NPU,以加速Windows

楼主: TureCooler (这三洨)   2023-12-20 13:05:33
原文标题:
微软更新DirectML支援NPU,以加速Windows AI应用
原文连结:
https://www.ithome.com.tw/news/160365
发布时间:
2023-12-18
记者署名:
李建兴
原文内容:
微软预告明年将更新DirectML开始支援神经处理单元(NPU)。NPU是一种专为机器学习工作负载设计的处理单元,适合用于计算密集、不需要图型接口互动的工作负载,目前英特尔新款Core Ultra处理器芯片已经内建NPU,而这也会是第一个可在Windows上使用DirectML技术的NPU。
DirectML是一个低阶且硬件抽象化的API,能够直接存取GPU等各类加速器,执行机器学习计算。其属于DirectX家族,DirectX主要用于Windows平台上的图形与游戏开发,而DirectML则专注于机器学习工作负载。DirectML也能够和其他机器学习框架和工具整合,像是跨平台推理引擎ONNX Runtime和Windows机器学习模型最佳化工具Olive。
Core Ultra的NPU加速器直接整合到SoC,能够以相对较低的功耗执行人工智能运算,释放CPU和GPU运算资源。NPU获得DirectML支援便能够加入ONNX生态系,使用诸如ONNX Model Zoo的模型、英特尔Neural Compressor与ONNX Runtime等工具。
DirectML新增对NPU的支援,让开发者透过ONNX Runtime等API,将人工智能模型转移到英特尔的NPU上执行,提供在Windows上执行人工智能工作负载另一种选择。支援NPU的DirectML预计在2024年初,与最新的ONNX Runtime版本一起释出。
心得/评论:
windows 12 + NPU 明年微软要怎么输,最近是不是有个很红的NPU概念股话题,新一代换机潮要出现了吗?
※必需填写满30正体中文字,无意义者板规处分
作者: BBBroflovski (我大大在裤裤上了)   2023-12-20 13:20:00
没有杀手级的应用很难有换机潮吧 大部分人不都是打游戏做文书

Links booklink

Contact Us: admin [ a t ] ucptt.com