av 女同

12 月初，亚马逊云科技一年一度的 re:Invent 大会在好意思国拉斯维加斯大会召开，来自天下各地的超 6 万名参会者，他们脖子上带领着不同神采的牌子，穿梭于各个会场之间。

re:Invent 大会一直就以求实著称，但这一届发布的产物之多，连好多连气儿参会的资深群众都嗅觉到信息过载——只是在三天时刻里，亚马逊云科技 CEO Matt Garman 与高档副总裁 Peter DeSantis、AI 和数据副总裁 Swami 博士就发布了卓著 30+ 新品，涵盖推理芯片、AI 就业器、大谈话模子、生成式 AI 招引器用等等。

在切身感受这些密集的产物发布过程，可以明晰地提取出亚马逊云科技开会和演讲的套路，那即是——在就业客户过程中咱们发现了 XX 问题，于是咱们就推出了 XX 器用，异常浅易直给。

手脚亚马逊云科技最早、亦然应用最深入的客户，亚马逊 CEO Andy Jassy 时隔多年再次亮相 re:Invent，此次他不仅一语气发布了 6 款 Amazon Nova 模子（包括 4 款基础模子，1 款图像生成模子和 1 款视频生成模子），更是手脚亚马逊云科技最早、亦然应用最深入的客户（据他走漏，亚马逊里面已构建或正在构建近 1000 个生成式 AI 应用轨范），他共享的对于亚马逊应用 AI 的三个中枢问题——聘请、老本和需求，完全可以手脚雄厚本次大会的基本逻辑。搞懂了这三个问题，再看这 30 多个产物发布的背后想路就很明晰了。

更解放的聘请

"当你尝试构建某些东西或者作念决策时，延续需要在 A 和 B 之间作念聘请吗？这种聘请其实截止了你的想路。在亚马逊云科技，咱们不这样想考问题。"亚马逊云科技一年一度的 re:Invent 大会上，亚马逊云科技 CEO Matt Garman 在主题演讲时，这样抒发了对工夫应用的雄厚。

Matt 合计，"作念聘请"实质上制造了失实领域，"让你赶快运行想我方必须选 A 或者选 B，但咱们激动团队去想考若何同期杀青 A 和 B，就可以让公共换一种样式想考"。

在 Matt 眼中，招引者与客户永远有聘请最优产物的权益。这是亚马逊云科技建造时继承的理念，不管是一两百款 EC2，照旧上百款数据库——亚马逊云科技一直都合计，客户的需求大于一切，那么需求的各样性就决定了选项的各样性。

亚马逊云科技愿景文献撰写于 2003 年。彼时，深化科技公司纷纷构建系结式的处分有策划，试图大包大揽。最终酿成的是宏大而单一的处分有策划，虽功能全面却仅达及格水准。但及格不应是追求的异常，东谈主们着实渴慕的是最优组件。若能将所有这个词顶尖元素整合一体，那才号称完整。"基于此念，亚马逊云科技应时而生。" Matt 说。畴昔 18 年，无邪的工夫构建模块，也成为亚马逊云科技就业迟缓进取的抓念。

这一理念也表目下时下热议的大模子就业上。"在亚马逊里面构建技俩中所使用模子的各样性令东谈主讶异。赐与了招引者自主聘请的权益，正本以为公共都会选择 Anthropic 的 Claude 模子，毕竟畴昔一年多它在全球属于性能顶尖的模子，照实有好多里面招引者在使用 Claude 模子，但他们也会领受 Llama 模子、Mistral 模子，以至会使用自行研发的模子。" Andy Jassy 演讲时谈及亚马逊落地生成式 AI 的资格，"因为一直都在给与合并个教学，那即是永远不会出现一种器用能在某个鸿沟一统天地的情况。就像数据库鸿沟，计议了 10 年，公共会使用各式各样的联系型数据库或者非联系型数据库；就像大数据鸿沟商讨了很久是不是 TensorFlow 会一统天地，后果 PyTorch 更受接待。"

Amazon Bedrock Marketplace 是 Swami 博士在现场发布的其中一款新品。这是一个领有 100 多个最初大模子的"市集"，Amazon Bedrock 中的长入体验极大简化模子招引责任历程，给用户带来了前所未有的无邪度，将让模子推理从"非 A 即 B "的聘请达到老本与延伸的"高明均衡"。

"对一个成分的优化时常需要对另一个成分进行和谐，这是因为老本和响应延伸与谈德准确性呈反比联系，因为功能更坚忍、高度智能的模子会滥用更多的资源。" Swami 博士叙述从客户了解到的需求。而在更新的 Bedrock 上av 女同，新模子蒸馏功能，使得用户可以将特定常识从更大、更准确的模子滚动到更小、更高效的专科模子，使其速率提高 500%，老本缩小 75%。

然而多元化的聘请，也未免濒临一些自然存在的竞合联系，比如亚马逊云科技在向客户提供模子市集、模子招引平台的同期，也推出了我方的基础模子。不外，亚马逊云科技一直以来都是怒放性的看待这种竞合联系。

对于亚马逊云科技的模子策略，Andy Jassy 作念了这样的回话："咱们一直以来的指标即是为公共提供聘请，推行情况是，公共在不同的时刻、出于不同的原因，都会使用不同的模子。

这其实反应了推行天下的运行端正。就好比东谈主类不会只找一个东谈主去获取各个鸿沟的专科常识不异，不同的东谈主在不同的方面各有长处。有时候公共会侧重于优化编码，有时候关注数学，有时候垂青与检索增强生成（RAG）的集成，有时候聚焦智能需求，还有时候珍贵更低的延伸或老本问题。大多半情况下，是各式成分的组合决定的。

在亚马逊云科技，咱们会为公共提供这些成分组合之后，欣慰需求的聘请。咱们合计，最近又为这个组合增添了一些异常真谛真谛的模子。好音问是，所有这个词这些模子都能在 Amazon Bedrock 中使用，公共可以按照我方盼望的任何组合去使用它们，进行查验，并凭据情况作念出相应的休养。"

可领受的老本

云狡计的老本问题，一直是 Matt 最为暖热的问题。

2018 年，亚马逊云科技一经作念过一个跋扈且颇具争议的决定：招引我方的芯片。即 Amazon Graviton，以期在 ARM 内核变得越来越快、越来越坚忍的配景下提供各别化价值。目下，Amazon Graviton 被险些每个亚马逊云科技客户平方使用。Amazon Graviton 提供比 x86 高 40% 的性价比、减少 60% 的动力滥用，也极大缩减了云狡计老本。

以图片共享网站 Pinterest 为例。在转向 Amazon Graviton 之前，Pinterest 运行着数千个 x86 实例来运营他们的业务。转向 Amazon Graviton 之后，Pinterest 将狡计老本缩小了 47%，碳排放减少了 62%。"他们并不寂寥，90% 的前 1000 个 Amazon EC2 客户都运诓骗用 Amazon Graviton。" Matt 说。

目下，生成式 AI 时期来了，当下最大的狡计问题都与 AI 关联。固然与 NVIDIA 有着长达 14 年的配合联系（搭载 NVIDIA 新 Blackwell 芯片的 Amazon EC2 P6 就业器将于来岁年头推出），亦然 NVIDIA 的大型生成式 AI 集群场面，但 GPU 依然成了亚马逊云科技为狡计降本的新指标：推出一款专为顶端生成式 AI 教师和推理这类高条目责任负载而瞎想的 GPU。

会上，亚马逊云科技最强 Amazon EC2 Trn2 狡计实例发布。配备 16 个 Trainium2 芯片，一个 Amazon EC2 Trn2 实例可在单个狡计节点提供 20.8 petaflops 的狡计才能，Amazon EC2 Trn2 实例提供比现时 GPU 就业器跳动 30% 到 40% 的性价比，这些芯片通过一种称为 NeuronLink 的高带宽、低延伸互连勾通在沿路。

AI 大模子公司 Anthropic 合股首创东谈主兼首席狡计官 Tom Brown12 月 2 日在 re:Invent 演讲时赶快秘书，下一代的 Claude 模子将在 Project Rainier 上进行教师，他暗示这将是一个新的狡计集群，领额外十万个 Amazon Tranium2 芯片。优化完成后，该集群瞻望将成为迄今为止天下上最大的 AI 狡计集群，可供 Anthropic 构建和部署其翌日模子。

"数十万个芯片意味着数百个密集的亿次浮点运算，比咱们一经使用过的任何集群都多五倍以上。这意味着客户将可以更低的价钱、更快的速率得到更多的智能。有了 Amazon Tranium2 和 Project Rainier，咱们不单是是在构建更快的东谈主工智能，还在构建可蔓延的、值得信托的东谈主工智能。" Tom Brown 暗示。

Andy Jassy 在演讲时也屡次谈及"老本"，他合计当生成式 AI 应用轨范达到一定例模时，狡计老本的要害性就突显出来了，公共都进击但愿得到更高的性价比，即既能限度好延伸，也要具备合理的老本结构。据他不雅察，从全球范围来看，那些应用 AI 最为见效的公司，主要体目下老本遁入和坐褥力擢升方面，而且好多公司在这两方面都取得了阐明。但值得一提的是，亚马逊云科技的老本限度，是体目下整场的产物翻新上，而非浅易的价钱。

需求导向，实用 AI

要是一定要给亚马逊云科技的 AI 战术作念一个界说，需求导向的实用 AI 无意更为精准。

"好多时候，东谈主们用上可以的模子作念了些责任，就以为打造出很棒的生成式 AI 应用轨范了，但实质上可能只完成了不祥 70% 的责任，而客户不会可爱存在那 30% 问题的应用轨范。" Andy Jassy 暗示。以亚马逊我方为例，加入生成式 AI 这个"智谋大脑"之后，亚马逊聊天机器东谈主客户舒心度擢升了 500 个基点，"这即是实用 AI 的体现。" Andy Jassy 说。

客户至尚和逆向责任法，是亚马逊云科技 DNA 的一部分。亚马逊云科技创业初期，由于合规性、审计、监管、安全、加密等考量，大部分的银行客户暗示欢乐领受云狡计，但称可能永远不会上云。亚马逊云科技莫得毁掉这些金融客户，而是接下来花了十年来处分银行客户清单上的每一个问题。"今天，我很自重地说，许多大型金融公司都是咱们的客户。因此，当你在翻新时，要害的是要记着，你果真要从客户运行。你要问他们什么对他们要害，但你不单是是寄托客户条目的东西。你要为他们发明。" Matt 说。

AI 时期亦然同理：要为客户发明好用的 AI 器用。

会上，Swami 博士发布了新一代 Amazon SageMaker。从功能上看，SageMaker AI 与客户的数据强关联，是一个汇注了数据调用、数据分析、大模子教师的一站式平台，定位上发生了首要的变化。

"许多客户向咱们反馈，他们的分析和 AI 责任负载越来越多地围绕调换的数据和调换的责任历程进行交融。这正在更正其对分析就业的观念，因为事实阐发，他们不再只是孤随即使用分析和 AI 器用，他们正在使用历史分析数据来教师机器学习模子，况且越来越多地将调换的数据纳入其生成式 AI 应用轨范中。" Matt 谈及从一个客户案例中得到的启发。这也不难雄厚，因为数据才是企业的中枢金钱，才是各别化的竞争力，而非模子，将企业皆备上风的数据和大模子整合在一个平台上，才会有上风。

概括来看，对客户来说，AI 落地的器用越来越多；对亚马逊云科技来说，他们又用一年的时刻把 AI 生态这个木桶所有这个词的木板都加长了一大截；对行业来说，这个市集又被卷紧了好几圈，竞争的焦点也迟缓从大模子本人滚动到了器用和落地上。

附：亚马逊云科技 re:Invent2024 产物发布全景（笔者现场整理）

（本文首发于钛媒体 APPav 女同，作家 | 秦忠良，裁剪 | 刘湘明）‌