推进生成式ai创新，亚马逊云科技有哪些全新实践？-买球票的app

  【天极网企业频道】2022年年底以来，由chatgpt掀起的ai浪潮席卷全球，带动人工智能产业取得空前发展。其中，生成式ai备受科技巨头与投资者的青睐，各种各样的aigc大模型纷纷发布，并且影响力、应用范围和迭代速度也持续加快：一方面，生成式ai的数量持续激增，呈现“百花齐放”的局面;另一方面，生成式ai向长文本、文生图、文生视频多模态化深入发展。

  在数量持续增加与模型能力持续强化的同时，生成式ai技术也正在加速落地应用，深入不同行业、不同场景的实践，推动千行百业加速数智化转型。“尽管大模型非常重要，但仅仅依靠大模型提高生产力是远远不够的，企业还需要一系列周边能力用来帮助企业正确、合理、安全、高效地使用大模型。”亚马逊云科技大中华区产品总经理陈晓建表示。 

 亚马逊云科技大中华区产品总经理陈晓建

  生成式ai爆发新潜力

  生成式ai的火热程度，用“百花齐放”形容最为合适。

  国家互联网信息办公室近日发布的《关于发布生成式人工智能服务已备案信息的公告》显示，目前已有117款生成式人工智能服务通过备案，其中，北京51款，上海24款，广东19款。当然，“117款”也只是通过备案的生成式ai数量，为数不少的大模型还处于考察期。

  同时，生成式ai也爆发出新的潜力。根据idc的预测，全球生成式ai市场年复合增长率将达85.7%，到2027年全球生成式ai市场规模将接近1500亿美元。可以预料的是，越来越多的企业在思考通过生成式ai创造更具竞争力的产品，最先采用的也将获得竞争力。

  这一观点也得到了麦肯锡的验证。麦肯锡发布的《生成式人工智能的经济潜力》显示，从生成式ai中获益最大的是那些早已运用预测式ai的组织。其中组织愿意采用与否，主要取决于内部文化属性、是否具备相关技能，以及是否有准确的数据，可以训练大模型。

  当然，决定企业采用生成式ai的关键还在于生成式ai行业化场景化落地。技术真正价值在于应用，生成式ai已经进入拼落地、拼应用的“下半场”。这也成为提供生成式ai服务厂商所思考的问题。

  生成式ai如何落地应用？

  陈晓建认为，从模型能力到真正的运营生产之间，企业还需要增加很多辅助能力，诸如预置吞吐功能、模型微调、大模型监管能力等，同时大模型与业务结合也需要构建强大的数据基石。“我们认为，数据基石与大模型的能力同等重要。”陈晓建如是说。

  这也恰恰是亚马逊云科技系列产品提供的价值所在。陈晓建表示：“亚马逊云科技在生成式ai领域提供三层技术栈，从底层的高性能基础设施，到中间层提供最广泛的基础模型选择，客户可以在多个模型的基础上定制模型。顶层为应用 genai技术的开箱即用的云服务。” 

  在高性能基础设施所在的底层，亚马逊云科技能够为客户提供基础算力，包括英伟达最新推出的g200芯片、亚马逊云科技自研amazon trainium训练芯片、自研amazon inferentia推理芯片，以及用于训练和推理的平台——amazon sagemaker。在云服务所在的顶层，亚马逊云科技使其与应用充分结合，为客户提供服务。

  “在中间层，亚马逊云科技提供最广泛的基础模型选择，这些模型来自多个领先的提供商，客户可以在此基础上定制模型，同时保持自身数据的私有化与安全，并与其他在亚马逊云科技上的工作负载无缝集成。”陈晓建如是说。

  亚马逊云科技认为没有一个模型可以适用于所有业务场景，为此，在2023年9月份发布的生成式ai全托管服务amazon bedrock提供各种领先的基础模型供客户选择，既包括stable diffusion xl、llama、mistral 7b和mixtral 8*7b等知名开源模型，又包含anthropic claude 3、ai21labs jurassic、cohere command、amazon titan等非开源模型。

  同时，amazon bedrock还能帮助企业匹配辅助能力：预置吞吐量功能以保障业务拥有稳定独享的底层资源;模型微调能够将自身的业务数据与大模型快速进行结合;guardrails功能能够全面监管大模型。“这些工程化的能力是企业在真正上生产环境时一定会需要的”陈晓建如是说。

  深化与大模型厂商合作

  拥有先进且丰富的基础模型能力，主要得益于亚马逊云科技在生成式ai领域的相关布局。

  以买球票的app的合作伙伴anthropic为例，亚马逊与anthropic生成式ai领域进行广泛的深度合作，此前anthropic便将亚马逊云科技作为首选云服务提供商，利用amazon trainium及inferentia芯片构建模型，承诺为全球亚马逊云科技客户提供在amazon bedrock上对其未来基础模型的长期访问权限。近期，亚马逊又完成对anthropic的40亿美元投资。

  拥有强大且丰富的生态伙伴也成为亚马逊云科技扎根生成式ai领域的动力。不仅如此，anthropic在amazon bedrock上提供3种模型，分别是具有几乎即时响应能力且最紧凑的 claude 3 haiku、在技能与速度之间达到理想平衡的 claude 3 sonnet，以及为处理高度复杂任务设计的最智能模型 claude 3 opus。“客户可以根据自己的商业需求，从中选择最合适的智能、速度和价格组合。”陈晓建如是说。

  在性能方面，claude 3创造模型智能水平的新纪录，在数学问题、编程练习和科学推理等标准评估中超越了所有现有模型。客户可以借助ai驱动的响应，自动化完成任务并保证高准确率。特别是claude 3 opus，不仅在大多数常见的ai系统评估基准测试中表现优异，还在复杂任务中表现出优秀的理解能力和流畅性。

  在多模态能力方面，claude 3可以接收基于图像的输入，能力与其他前沿模型大致相同，并且延迟低于其他多模态模型。在准确率方面，claude 3能够降低幻觉，在处理挑战性开放问题(100q hard)上准确性明显提升，并且减少错误答案。在长文本方面，claude 3系列模型均提供200k超长上下文准确召回，甚至还能识别出测试本身的局限。

  在应用场景方面，claude 3系列可以提供内容续写、代码辅助、电商商品描述撰写、长文本知识召回总结等能力。

  写在最后

  在笔者看来，丰富且供客户选择的大模型定制仅仅是亚马逊云科技能力之一，在发布会上，陈晓建透露，亚马逊云科技拥有丰富的专业买球票的app的技术支持资源，包括架构师、产品专家、人工智能实验室、数据实验室、快速原型团队、专业服务团队，帮客户打通应用生成式ai的最后三公里的工程化挑战。

  其中，买球票的app的解决方案架构师和客户一起寻找场景与买球票的app的解决方案，产品技术专家根据客户需求来提供产品构建的专业方案，人工智能实验帮客户打磨算法，数据实验室帮忙客户打造端到端的数据创新尝试，快速原型团队助力客户构建 mvp，专业服务团队提供专业的咨询到实施的全流程服务，培训与认证部门提供专业的机器学习培训。

  生成式ai浪潮席卷而来。在这场浪潮下，积极拥抱生成式ai也将在激烈的竞争中赢得先机。而企业在面对生成式ai带来的挑战时，亚马逊云科技提供了丰富的技术产品和服务，也将助力企业更好地进行数智化选择。