谷歌开源 TorchTPU,挑战英伟达 AI 生态主导地位

10月21日 07:44
PyTorch是一款热门开源工具库,人工智能应用开发者与初创企业依靠它搭建、训练和部署人工智能模型。有统计称,85%的人工智能应用都在使用PyTorch。PyTorch最初由Meta在2016年开发,那时人们还完全没有意识到大语言模型将会改变世界。当时英伟达GPU已经是人工智能研究的标准硬件,因此PyTorch的诸多功能都是专门为适配英伟达GPU打造。2022年,Meta将PyTorch移交至Linux基金会,这家非营利机构负责管理许多重要的开源项目。谷歌推出的TorchTPU,能够让人工智能应用在谷歌自研人工智能芯片张量处理单元(TPU)上运行。它还可以便捷地将现有的PyTorch应用迁移到TPU,进而迁移到谷歌云。开发者仅需简单修改配置,无需重写应用代码即可完成迁移。亚马逊在当地时间周一发布了类似消息,推出自家的PyTorch版本TorchNeuron。TorchNeuron可以在无需重写代码的情况下,把人工智能应用移植到亚马逊自研芯片Trainium以及亚马逊云(AWS)。亚马逊还表示,将进一步削弱英伟达对PyTorch的掌控力。其正在向PyTorch主项目提交代码,把各类功能与英伟达芯片解耦,让PyTorch原生就能兼容各类硬件。不过亚汇网注意到,谷歌在部分方面的举措力度或许超过亚马逊。谷歌称,其直接联合Meta、HuggingFace、英菲拉克特(Inferact,vLLM开发方)、拉迪克斯阿克(RadixArk,SGLang开发方)等多方合作,保证TorchTPU的功能与代码库能够像原版PyTorch一样,和这些主流人工智能开发工具良好兼容。除此之外,这家搜索巨头推出了专用工具TPU智能体套件,帮助开发者把应用迁移到谷歌芯片与云平台,并在迁移过程中排查修复错误。谷歌还升级了广受使用的LiteRT工具,该工具用于在手机、笔记本电脑和嵌入式设备上运行人工智能模型,升级后可以更好地支持基于PyTorch开发的人工智能应用。以上这些进展,并不代表人工智能应用开发者会仅仅因为可以便捷迁移到其他芯片与云平台,就集体放弃英伟达硬件。但亚马逊和谷歌显然正在努力终结英伟达的优势地位。
免责声明:本文章仅代表作者个人观点,不代表亚汇网立场,亚汇网仅提供信息展示平台。

更多行情分析及广告投放合作加微信: hollowandy

相关新闻

下载APP,查看更多新闻


请扫码或添加微信: Hollowandy