导读 谷歌云已宣布其TPU虚拟机全面上市。张量处理单元(TPU)是由Google开发的专用集成电路(ASIC),用于加速机器学习工作负载。CloudTPU使您能够使
谷歌云已宣布其TPU虚拟机全面上市。张量处理单元(TPU)是由Google开发的专用集成电路(ASIC),用于加速机器学习工作负载。CloudTPU使您能够使用开源机器学习平台TensorFlow在云托管巨头的TPU加速器硬件上运行机器学习工作负载。
谷歌表示,其用户社区已采用虚拟TPU,因为它们提供了更好的调试体验,并且还支持某些训练设置,包括分布式强化学习,它表示这对于现有的TPU节点(网络访问)架构是不可行的。
根据Google的说法,CloudTPU针对大规模排名和推荐工作负载进行了优化,并引用了Snap是该功能的早期采用者。
此外,随着TPUVMsGA版本的发布,谷歌正在引入一个新的TPU嵌入API,据称它可以加速基于ML的排名和推荐工作负载。
谷歌强调了有多少现代企业依赖排名和推荐用例,例如音频和视频推荐、产品推荐和广告排名。
这家科技巨头表示,TPU可以帮助企业实施一种基于深度神经网络的方法来处理上述用例,它表示这种方法的训练成本高且数据密集。
谷歌还表示,由于其本地执行设置,其TPU虚拟机提供了比现有TPU节点架构更多的功能,因为输入数据管道可以直接在TPU主机上执行,从而节省组织的计算资源。
TPUVMGARelease还支持其他ML主要框架,例如PyTorch和JAX。
有兴趣部署虚拟TPU?您可以按照Google的快速入门或教程之一进行操作。