谷歌周一公布了两套人工智能计算系统，试图以主打隐私保护和大内存的芯片挑战英伟达。

TPU 8tx和TPU 8i Max加入谷歌第八代Tensor Processing Unit产品线后，企业将获得四种用于训练和运行AI模型的配置。谷歌表示，其服务对象已接近100家TPU客户，涵盖AI实验室到大学等机构。

与英伟达广泛使用的图形处理器不同，TPU是专为AI设计的加速器。谷歌最初为自家服务开发这些芯片，但如今也越来越多地向外部公司出售使用权限，其中包括本地部署客户。

谷歌首席技术官兼AI与基础设施高级副总裁Amin Vahdat在谷歌的公告中写道：“随着计算从人类规模转向智能体规模，企业正在寻求能够跨越AI模型巨大上下文窗口进行推理的加速器。”

保护敏感信息的隐私

TPU 8tx针对许多认真采用AI的企业面临的一个问题：在模型使用数据时如何保护敏感信息。

数据在存储和传输过程中会被加密，但处理时通常需要在内存中解密。谷歌表示，这一配置使用硬件级机密计算，即使在运行过程中，也能隔离客户数据和专有模型参数。

该系统将TPU 8t芯片与第五代AMD EPYC处理器以及谷歌低延迟的Boardfly网络结合在一起。谷歌称，与TPU 8t相比，该系统可将延迟最多降低一半，而额外保护几乎不会带来性能损失。

换句话说，需要隐私保护的任务不会牺牲速度或准确性。

企业可以在同一系统上微调和运行模型，而不必在集群之间转移敏感信息。不过，机密计算无法阻止设计不佳的AI智能体滥用其被允许访问的数据。

突破AI的内存瓶颈

TPU 8i Max则针对另一个限制：内存。自主智能体在分析数据、代码库、文档或数小时视频等内容时，需要比传统AI任务快得多地访问更多信息。

谷歌将两颗TPU 8i芯片封装在一个模块中，与TPU 8i相比，计算能力、片上SRAM以及高带宽内存吞吐量都翻倍。该设计在相同机架占用空间内装入了两倍的硅片。

Vahdat写道：“我们的第四套系统TPU 8i Max，是为另一个问题而生：内存墙。”

谷歌还开源了TPU Sync，这是一款在芯片、服务器和存储之间移动AI工作内存的软件。谷歌称，该系统可将某些数据传输延迟和响应启动时间降低90%以上。

谷歌发布上述消息之际，英伟达正面临华尔街越来越大的压力。周四，英伟达股价下跌9.3%，周一交易中又下跌5%，此前首席执行官黄仁勋承认与一名被美国情报部门怀疑为中国从事间谍活动的女性存在婚外情。英伟达董事会已启动独立调查，不过公司表示，没有证据表明公司机密被泄露。

这一丑闻加剧了外界对英伟达增长前景的担忧，因为竞争对手正瞄准其AI芯片主导地位。据报道，OpenAI正计划购买谷歌的TPU，以减少对英伟达的依赖。目前这一消息尚未得到证实，但谷歌不断扩大的芯片产品线可能会给AI开发者带来更大的议价能力，并威胁英伟达的市场份额和未来增长预期。

谷歌竞争的不只是芯片速度，还有专用硬件和软件。其开源的TorchTPU项目也允许开发者在不重写应用程序的情况下，在TPU上运行PyTorch和Hugging Face模型。