半岛彩票亚马逊的云计算部门 AWS 宣布推出新的芯片,供客户构建和运行人工智能应用程序,同时计划提供对 Nvidia 最新芯片的访问。
亚马逊 AWS 服务致力于作为云提供商脱颖而出,提供多种成本效益高的选项。它不仅销售廉价的亚马逊品牌产品。与其在线零售市场一样,亚马逊的云服务还将提供其他供应商的顶级产品,包括来自顶级 AI 芯片制造商 Nvidia 的备受追捧的 GPU。
自从创业公司 OpenAI 去年发布其 ChatGPT 聊天机器人以来,对 Nvidia GPU 的需求激增,该机器人以总结信息和撰写类似人类的文本的能力惊艳了人们。这导致 Nvidia 芯片短缺,因为公司争相将类似的生成式 AI 技术纳入其产品中。
亚马逊的双管齐下策略,即建造自己的芯片并让客户访问 Nvidia 的最新芯片,可能会帮助它对抗其最大的云计算竞争对手微软。本月早些时候,微软采取了类似的方法,拉斯维加斯的 Reinvent 大会上宣布的。具体来说,AWS 表示将提供对 Nvidia 最新 H200 AI 图形处理单元的访问。它还宣布了新的 Trainium2 人工智能芯片和通用 Graviton4 处理器。
新的 Nvidia GPU 是从 H100 升级而来,OpenAI 用它来训练其最先进的大型语言模型 GPT-4。大公司、初创企业和政府机构都在争夺有限的芯片供应,这意味着像亚马逊这样的云提供商出租芯片的需求也很高。Nvidia 表示,H200 将产生的输出速度几乎是 H100 的两倍。
亚马逊自己的 Trainium2 芯片是为训练 AI 模型而设计的,包括 OpenAI 的 ChatGPT 及其竞争对手运行的那种 AI 聊天机器人。初创公司 Databricks 和亚马逊支持的 Anthropic(OpenAI 的竞争对手)计划使用新的 Trainium2 芯片构建模型,亚马逊表示,这将使性能比原始型号提高四倍。
Graviton4 处理器基于 Arm 架构,比英特尔或 AMD 的芯片节能。Graviton4 承诺比现有的 Graviton3 芯片性能提高 30%,AWS 表示这将使输出与价格更匹配。由于通货膨胀高于平时,中央银行提高了利率。希望继续使用 AWS 但降低云账单以更好应对经济的组织可能希望考虑转移到 Graviton。
这些芯片包含 Nvidia GPU 和 Nvidia 基于 Arm 的通用处理器。Nvidia 自己的研发小组和 AWS 客户都将能够利用这一基础设施。
自 2006 年推出其 EC2 和 S3 用于计算和存储数据的服务以来,AWS 已经推出了 200 多种云产品。并非所有产品都成功。有些产品长时间没有更新,极少数产品被停产,使亚马逊可以重新分配资源。然而,公司继续投资于 Graviton 和 Trainium 项目,这表明亚马逊感知到了需求。
AWS 尚未宣布带有 Nvidia H200 芯片的虚拟机实例的发布日期,也没有宣布依赖其 Trainium2 芯片的实例。客户现在可以开始测试 Graviton4 虚拟机实例,然后再在未来几个月内投入商业使用。