关键字: [亚马逊云科技， Bedrock， 多模型协作， 垂直Ai应用， 知识库构建， 模型能力协作， 全托管Ai平台]

在这场演讲中，演讲者介绍了亚马逊云科技如何通过多模型协作构建垂直AI应用平台。他解释了在构建AI应用时，需要考虑不同场景下的需求，如水平AI应用需要适应更广泛的用户需求，而垂直AI应用则需要足够精准地解决特定行业问题。他详细阐述了亚马逊云科技如何利用多个模型(如Embedding模型、Re-ranker模型、DBC模型和Claude模型)协作，结合企业知识库，为客户提供准确的答复并触发相应的行动(如创建工单、派遣人员等)。此外，他还介绍了Bedrock等全托管AI平台如何帮助企业快速构建AI应用，并强调了可观测性、可用性等关键因素。最后，他预示亚马逊云科技将继续与卡乐美合作，在更多垂直场景中应用AI技术。

以下是小编为您整理的本次演讲的精华。

在这场富有洞见的演讲中，来自亚马逊云科技的解决方案架构师为我们揭开了他们如何利用多模型协作的方式构建垂直AI应用平台的神秘面纱。他首先阐明了水平AI应用和垂直AI应用的本质区别。水平AI应用旨在满足更广泛的用户需求，例如作为个人助理，需要考虑如何更加普世，适应更多用户的多样化需求。而垂直AI应用则专注于特定行业，如物流、制造等，需要足够精准地解决该行业的各种问题。

接着，演讲者详细剖析了他们在设计垂直AI应用平台时的基本流程，这个流程涉及多个模型的紧密协作，包括Bedrock Titan Embedding模型、Bedrock Cohere Re-Ranker模型、DBC模型和Claude模型。其中，Bedrock Titan Embedding模型的作用是将企业的知识沉淀成知识库，构建解决问题的基础。当用户提出问题时，Bedrock Cohere Re-Ranker模型会从知识库中准确检索相关信息。然后，DBC模型运用其语义理解能力给出初步答案。但由于DBC模型存在一定发散性，他们还引入了Claude模型进行校准，确保答案严谨准确，符合现有知识体系，而非胡编乱造。

值得一提的是，该系统不仅能回答问题，还能根据问题的性质自主触发不同的行动。举例来说，如果用户提出的问题在现有知识库中无法找到答案，系统会自动创建一个知识库维护工单，提醒相关团队补充对应的知识库文档。另一个场景是，如果系统判断用户的问题存在安全隐患，不应由用户自行解决，它会自动为用户创建一个售后支持工单，派单给相应的支持人员。这种自主决策和行动的能力，实现了整个端到端流程的自动化，大大提高了效率。

演讲者强调，该AI应用平台的基础架构包括知识库、记忆模块和多个模型能力的协作。他特别指出，他们选择Bedrock产品的一个重要原因是它提供了超过150款大型模型，能满足构建AI应用时对不同模型的需求。此外，Bedrock还提供了便捷的数据处理和知识库构建能力，为企业省去了自行研究和构建知识库的麻烦。在与卡乐美的合作中，Bedrock的这些能力帮助卡乐美避免了自己再去研究和琢磨知识库应该如何构建的问题。

在构建AI应用平台时，除了模型和向量检索等基础模块，还需要AI框架的支持。亚马逊提供了多种解决方案，如Semantic AI Services for code和全托管的Bedrock AI，能满足不同场景下构建AI应用的需求。例如，他们与卡乐美合作时，就运用了可视化和非可视化两种框架，前者适合内部管理人员进行拖拽式编排，后者则更适合开发人员通过代码集成。

最后，演讲者着眼于将AI应用从POC开发过渡到生产环境时需要考虑的可用性、可观测性等问题，并分享了Bedrock托管平台如何帮助解决这些问题。对于亚马逊的Bedrock这样的托管平台，观察一个AI是否当机、支持什么样的吞吐能力以及是否持久运行等问题都已经为用户解决，用户只需关注应用的研发，无需自行配置和解决这些底层问题。他还透露，未来他们将进一步拓展AI应用在全球业务拓展、数据洞察、客户营销、产品创新、运营优化和专业知识检索等场景的应用，与卡乐美携手共同成长。

总的来说，这场演讲为我们描绘了一幅生动的画卷，展现了亚马逊云科技如何利用多模型协作的方式构建垂直AI应用平台，包括基本流程、基础架构、模型选择、框架支持等多个方面，并分享了与卡乐美的合作案例和未来发展方向。通过这种创新的AI应用平台，企业将能够更加精准地解决行业痛点，提升运营效率，实现可持续发展。

下面是一些演讲现场的精彩瞬间：

The speaker introduces himself as a solutions architect from 亚马逊云科技， working with Qualcomm.

通过结合严谨的科学模型和知识体系，对用户问题和回答进行校准，确定答案是否过于发散或胡编乱造。

The speaker discusses how to handle situations where the knowledge base lacks the answer to a simple question， emphasizing the importance of creating a ticket to update the knowledge base with the relevant information.

The speaker explains that the end-to-end process they have achieved is an AI-driven collaboration of multiple models， leveraging AI autonomy and the ability to adapt to different scenarios through the “Two Users” capability， enabling seamless integration of various APIs and service tickets.

亚马逊的解决方案帮助传统企业轻松构建知识库，避免自行研究和构建的复杂过程。

亚马逊云科技为卡乐美构建了一个垂直AI应用平台，旨在提高售后服务的效率和准确性。该平台采用了多模型协作的方式，将企业知识库与多种AI模型相结合，实现了智能问题解答和自动化决策。

首先，泰坦Embedding模型将企业知识沉淀为知识库，构建问题解答的基础。当用户提出问题时，Bedrock的Cohere Re-Ranker模型会从知识库中准确检索相关信息。然后，DBC模型运用语义理解能力给出初步答案，Claude模型则对答案进行校准，确保其严谨性和准确性。最后，Agent模型会根据答案的质量，自主决定是否需要创建知识库维护工单或售后支持工单。

该平台的核心是多模型协作，利用不同模型的优势相互补充，实现端到端的智能化流程。亚马逊云科技的Bedrock平台提供了丰富的模型选择和全托管服务，大大简化了AI应用的开发和部署。未来，该平台还将拓展到更多场景，如全球业务拓展、数据洞察、客户营销等，持续为卡乐美提供AI赋能。

我们正处在Agentic AI爆发前夜。2025亚马逊云科技中国峰会提出，企业要从“成本优化”转向“创新驱动”，通过完善的数据战略和AI云服务，把握全球化机遇。亚马逊将投入1000亿美元在AI算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在AI时代突破。