ONNX Runtime Web引入WebGPU:网络浏览器中的机器学习迎来性能飞跃
3月5日消息,微软近日宣布在其ONNX Runtime Web中整合了WebGPU技术,这一举措有望显著提升复杂机器学习模型在网络浏览器中的运行性能。目前,Chrome和Edge浏览器已初步支持这项技术,尽管它仍处于早期阶段。
ONNX Runtime Web是微软推出的一个Javascript库,旨在帮助网络开发人员直接在网络浏览器中部署机器学习模型,并提供基于硬件加速的多个后端支持。而WebGPU则是一种新兴的网络应用程序接口(API),它能够为机器学习模型提供硬件加速,从而在网络浏览器中实现更高效的运行。
此前,由于网络浏览器的计算能力有限,复杂的机器学习模型,特别是大型生成模型,在网络浏览器中的运行效率一直受到限制。然而,随着WebGPU技术的引入,这一问题有望得到解决。WebGPU能够释放设备GPU的能力,使得这些复杂的机器学习模型能够在网络浏览器中高效运行,从而显著提升性能。
据本站了解,微软表示,WebGPU借助计算着色器等先进功能,能够以更高效的方式处理复杂的机器学习工作负载。此外,WebGPU对半精度(FP16)的支持也降低了GPU内存的使用率和带宽要求,进一步加快了运算速度。通过这些优化,WebGPU有望在网络浏览器中直接推断出更高效、可扩展的机器学习应用。
目前,适用于Mac、Windows、ChromeOS的Chrome 113和Edge 113以及适用于Android的Chrome 121已默认包含WebGPU支持。这意味着开发者们可以尝试通过ONNX Runtime Web调用WebGPU加速资源,以提升其机器学习模型在网络浏览器中的运行性能。随着这项技术的不断发展和完善,我们有望在未来看到更多高效、便捷的机器学习应用在网络浏览器中得以实现。
相关文章
- 微软Windows 11秘密更新,支持USB4 2.0及80Gbps超快传输
- Windows 11 22H2用户迎来好消息:非安全更新截止日期延后
- 微软新突破:Windows 11预览版可调用安卓设备摄像头
- 微软推出新功能:Windows 11用户可将Android设备摄像头用作PC摄像头
- 微软全新平板电脑通过3C认证,39W适配器亮相
- 微软启动非托管Windows 10设备升级至Windows 11计划
- 微软Teams新版界面推出遇阻,自动更新时间延后至2024年7月
- 微软再次提升门槛:Windows 11硬件要求再升级,老旧CPU面临淘汰
- Windows 11迎新更新:“热补丁”技术减少重启烦恼
- 微软宣布:Windows 11 24H2版本将首次整合Wi-Fi 7与USB4 v2.0技术
- 微软为Windows 11引入“热补丁”功能,减少用户重启需求
- 微软发布Edge 122稳定版:截图工具焕新颜,图标与名称双双升级
- 微软为Windows 11用户带来更流畅的更新:推出“热补丁”功能
- 微软网页版Word新增复选框功能,提升文档编辑便利性
- 微软宣布2024年将终止Surface Pro 7固件更新,用户需留意安全补丁发布
- 微软更新安卓版Edge浏览器:Canary用户可在InPrivate模式下启用扩展
热门教程
Win11每次开机会检查tpm吗?Win11每次开机是否会检查tpm详情介绍
2Win11任务栏空白怎么办?Win11任务栏空白解决办法
3Win10 21H1更新KB5003637后任务栏不能在底部显示怎么办?
4系统之家装机大师怎么用?系统之家装机大师使用教程
5Win10家庭版笔记本电脑怎么关闭Windows defender功能?
6Win11正式版怎么安装安卓APK应用?Win11安装安卓APK文件方法
7Win11资源管理器的样式如何切换?Win11资源管理器样式切换方法
8Win11电脑下载的文件被自动删除怎么办?
9Win11蓝屏怎么修复?win11蓝屏修复教程
10Win11正式版如何固定“此电脑”到任务栏?
装机必备 更多+
重装教程
大家都在看
电脑教程专题 更多+