使用 GenAI 快速构建、定制和安全部署应用程序的能力提升

关键要点

想象一下所有员工依靠 生成式人工智能AI让工作更高效，每个任务变得更具创新性，每个应用都提供更有用、个性化和参与感的体验。为了实现这种未来，组织需要不仅仅是一个强大的大型语言模型LLM或对话助手。他们需要一整套能力来构建和扩展针对其商业和用例的生成式 AI 应用程序包括内置生成式 AI 的应用、快速尝试和构建自己 AI 应用的工具、经济高效的性能基础设施，及安全控制和保障。因此，我们正在投资建立一个全面的生成式 AI 技术栈。在顶层是包含生成式 AI 功能的应用程序，我们有 Amazon Q，这是最强大的生成式 AI 助手。中层是 Amazon Bedrock，它提供轻松、快速构建、部署和扩展生成式 AI 应用的工具，使用 LLMs 和其他基础模型FMs。底层是我们稳健、经济高效的基础设施层，包括专为 AI 设计的芯片，以及 Amazon SageMaker 用于构建和运行 FMs。所有这些服务都经过设计是安全的，我们不断增加部署适合您业务的生成式 AI 应用所需的关键功能。在过去的18个月里，我们推出的机器学习ML和生成式 AI 功能的数量是其他主要云服务提供商总和的两倍多。这是数十万客户选择使用我们 AI 服务的另一个原因。

在今天的 AWS 纽约峰会上，我们宣布了一系列新能力，帮助客户根据自己的需求定制生成式 AI，并更快地实现其优势。我们使任何人都能通过简单的自然语言提示在几秒钟内构建生成式 AI 应用。我们正在让员工更易于利用数据，增强代理，并通过 Amazon Bedrock 的新功能快速、安全地将生成式 AI 部署到生产环境中。此外，我们还与创新者如 Scale AI 建立了新合作伙伴关系，帮助客户快速、轻松地定制应用。

生成式 AI 应用改变常规业务模式

生成式 AI 使信息的获取变得平易近人，让更多人有创造和创新的能力，并提供以前无法获得的助力，从而提升生产力。这就是为什么我们为每个人构建生成式 AI 应用程序的原因。

Amazon Q，包括 Amazon Q Developer 和 Amazon Q Business，是最强大的生成式 AI 助手，旨在支持软件开发并帮助员工利用公司数据做出更好的决策。Amazon Q 不仅能生成业内最准确的编码建议，还能自主执行多步骤任务，如升级 Java 应用程序和生成、实现新功能。Amazon Q 集成在 AWS 管理控制台 和常用的集成开发环境中，包括 IntelliJ IDEA、Visual Studio、VS Code 以及 Amazon SageMaker Studio。您可以安全地根据内部代码库定制 Amazon Q Developer，以获取更相关和有用的在线编码建议，进一步节省时间。例如，澳大利亚国民银行的接受率从 50 提高到 60，而 Amazon Prime 的开发者接受率已经增长了 30。Amazon Q 还帮助员工充分利用公司文档、系统和应用程序中的庞大数据，实现问题解答、提供总结、生成商业智能BI仪表盘和报告，甚至生成自动化关键任务的应用程序。我们对客户和合作伙伴所看到的生产力提升感到非常兴奋，早期信号表明 Amazon Q 能帮助员工的工作效率提高超过 80。

为了让所有员工能够创建自己的生成式 AI 应用以自动化任务，今天我们宣布 Amazon Q Apps 的正式推出，这是 Amazon Q Business 的一项功能。通过 Amazon Q Apps，员工可以在几秒钟内根据公司数据从对话转换成生成式 AI 应用。用户只需在提示中描述所需应用，Amazon Q 便会立即生成。Amazon Q 还允许员工单击生成来自已有对话的应用。在预览阶段，我们看到用户生成了用于多种任务的应用，包括总结反馈、创建入职计划、撰写文案、起草备忘录等。例如，数据安全提供商 Druva 创建了一个 Amazon Q 应用来支持其请求提案RFP流程，几乎即时总结所需信息，使 RFP 响应时间减少了高达 25。

除了 Amazon Q Apps 使任何员工可以轻松自动化其个人任务之外，我们今天还宣布了 AWS App Studio预览版，这是一项生成式 AI 驱动的服务，允许 IT 项目经理、数据工程师和企业架构师等技术专业人员使用自然语言创建、部署和管理整个组织的企业应用程序。用户只需描述其希望的应用、所需功能以及需要集成的数据源，App Studio 就能在几分钟内构建一个专业开发人员可能需要几天才能从头构建的类似应用。App Studio 的生成式 AI 助手消除了典型低代码工具的学习曲线，加快了应用创建过程，并简化了常见任务，如设计用户界面、构建工作流程和测试应用程序。每个应用程序可立即扩展到数千用户，并由 AWS 安全且全面管理，无需任何操作专长。

新功能和能力加速 Amazon Bedrock 构建生成式 AI 应用

Amazon Bedrock 是构建和扩展安全生成式 AI 应用的最快最简便的方法，提供最全面的领先 LLM 和 FM 选择以及易于使用的功能。目前已有数万客户在使用 Amazon Bedrock，并且这是 AWS 在过去十年中增长最快的服务之一。例如，法拉利正在迅速为客户、经销商和内部团队推出新体验，以快速运行模拟、创建帮助经销商和技术用户的新知识库、提升赛车粉丝体验，并在数秒内为客户提供数百万种法拉利车型的个性化车辆推荐。

自 2024 年初以来，我们已在 Amazon Bedrock 中宣布比其他领先云服务提供商的类似服务推出了更多可用功能和能力，帮助客户快速将生成式 AI 应用从概念验证推向生产。这包括对来自 Anthropic、Meta、Mistral 等公司最新行业领先模型的支持，以及最近添加的 Anthropic Claude 35 Sonnet，这是他们迄今为止最先进的模型，该模型已经可以立即供 Amazon Bedrock 客户使用。自发布以来，已有数千客户使用了 Anthropic 的 Claude 35。

今天，我们宣布了一些重大的新的 Amazon Bedrock 创新，使您能够：

使用您的数据定制生成式 AI 应用。 您可以使用自己的数据来定制生成式 AI 应用，使其特定于您的用例、组织和行业： 功能 描述 对 Anthropic 的 Claude 3 Haiku 进行微调 借助 Amazon Bedrock，您可以安全地通过在 Amazon Simple Storage ServiceAmazon S3中提供标记数据来对 Amazon Titan、Cohere Command 和 Command Lite、Meta Llama 2 模型进行微调，使模型更适应于您的业务和用例。今天开始，Amazon Bedrock 也是唯一提供微调预览的 Anthropic Claude 3 Haiku 的完全托管服务。 利用更多数据源进行检索增强生成RAG 通过 RAG，您可以为模型提供来自多个来源包括文档库、数据库和 API的新知识或最新信息。 例如，模型可能使用 RAG 从 Amazon OpenSearch 服务检索搜索结果或从 Amazon S3 检索文档。 Amazon Bedrock 知识库 完全管理这一体验，连接到您的私人数据源，包括 Amazon Aurora、Amazon OpenSearch Serverless、MongoDB、Pinecone 和 Redis Enterprise Cloud。今天，我们将列表扩展到包括 Salesforce、Confluence 和 SharePoint 的连接器预览，以便组织能够利用更多商业数据定制模型以满足特定需求。 获取最快的向量搜索 为了进一步增强您的 RAG 工作流，我们已向一些最受欢迎的数据服务包括 OpenSearch 服务和 OpenSearch Serverless、Aurora、Amazon Relational Database ServiceAmazon RDS等添加了向量搜索。客户可以将向量数据与操作数据共同存放，从而减少管理另一个数据库的开销。今天，我们还很高兴地宣布向量搜索的正式发布针对 Amazon MemoryDB。 Amazon MemoryDB 在 AWS 上提供最快的向量搜索性能，具有最高的召回率，非常适合需要单数毫秒延迟的使用案例。例如，Amazon Advertising、IBISWorld、Mediaset 等组织正在使用它进行实时语义搜索，Broadridge Financial 在提供与客户习惯一致的实时响应率的同时，执行 RAG。您今天可以独立使用 MemoryDB 向量搜索，不久后，您将能够通过 Amazon Bedrock 知识库访问它。查看有关 MemoryDB 的更多信息，请访问 新闻博客。

创造更高级、个性化的客户体验。 通过 Amazon Bedrock Agents，应用程序可以采取行动，执行基于公司系统和数据源的多步骤任务，使生成式 AI 应用程序更加实用。今天，我们向 Amazon Bedrock Agent 添加了关键功能。之前，代理仅限于基于单个会话中的信息采取行动。现在代理能够在多次交互中保留记忆，以记住您上次的停留地点，并基于先前的交互提供更好的推荐。例如，在航班预订应用中，开发人员可以创建一个代理，记住您最后一次旅行的时间或您选择素食餐的偏好。代理还能够解释代码，处理复杂的数据驱动用例，如数据分析、数据可视化、文本处理、求解方程和优化问题。例如，应用程序用户可以请求分析各种邮政编码的历史房地产价格，以识别投资机会。请查看 新闻博客 以获取有关这些功能的更多信息。

通过 Amazon Bedrock Guardrails 降低生成式 AI 的风险。 客户担心的是对模型产生了幻觉，即 LLMs 通过混淆多条信息生成不正确信息、提供错误信息或编造新信息。这些结果可能会误导员工和客户，损害品牌，从而限制生成式 AI 的实用性。今天，我们在 Amazon Bedrock Guardrails 中添加了上下文基础检查，以检测 RAG 和总结应用程序中模型响应的幻觉。上下文基础检查增加了 Amazon Bedrock Guardrails 中行业领先的安全保护，以确保 LLM 响应建立在正确的企业源数据之上，并评估 LLM 响应以确认其与用户查询或指令的相关性。上下文基础检查能够检测并过滤超过 75 的 RAG 和总结工作负载中的幻觉响应。进一步了解我们对负责任 AI 的承诺，请访问 AWS 机器学习博客。

我们很高兴看到客户如何利用 Amazon Bedrock 不断扩展的能力为垂直行业和商业功能定制其生成式 AI 应用。例如，德勤正在利用 Amazon Bedrock 的高级定制功能构建专门为 CFO 设计的 CSuite AI 解决方案。它利用德勤在财务功能中的专有数据和行业深度，为 CFO 提供量身定制的 AI 模型。

新合作伙伴和培训协助客户的 AI 旅程

我们广泛的合作伙伴网络帮助客户实现生成式 AI 的潜力。例如，BrainBox AI 与我们的生成式 AI 能力合作伙伴 Caylent 合作，在 AWS 上开发了其 AI 助手 ARIA，以帮助降低建筑的能源成本和排放。我们一直在扩大合作伙伴网络和培训产品，以帮助客户快速从试验阶段转向广泛应用。我们的 AWS 生成式 AI 能力合作伙伴项目 旨在识别、验证和推广在 AWS 技术方面具有专业知识及取得成功的 AWS 合作伙伴。今天有 19 位 新合作伙伴 加入了该计划，客户可获得全球 60 家生成式 AI 能力合作伙伴的支持。 新合作伙伴包括 C3ai、Cognizant、IBM 和 LG CNS，我们还显著扩大了对韩国、大中华区、拉美及沙特阿拉伯的客户支持。

我们还宣布与 Scale AI 建立新合作伙伴关系，成为我们首个模型定制和评估合作伙伴。 通过此次合作，企业和公共部门组织可以使用 Scale GenAI 平台 和 Scale Donovan 评估其生成式 AI 应用，进一步定制、配置和微调模型，以确保在生产中的信任和高效，所有这些都是基于 Amazon Bedrock 构建的。Scale AI 在与一些政府客户，诸如美国国防部等要求严格的组织合作时，始终坚持最高的隐私和合规标准。客户可以通过与 AWS 生成式 AI 创新中心 的合作获得 Scale AI 的访问权限，该中心是 AWS 提供的一项计划，将您与 AWS 科学和战略专家配对，或通过 AWS 市场获得。

为了提升您的员工技能，我们还提供了一种新的互动在线学习体验，即 AWS SimuLearn，结合生成式 AI 驱动的模拟和动手培训，帮助人们学习如何将商业问题转化为技术解决方案。这是我们更广泛的承诺的一部分，目标是在 2025 年之前为全球 2900万人提供免费的云计算技能培训。今天，我们宣布已经超越了这一里程碑，比预期提前了一年多。

我们正在为客户提供将生成式 AI 的力量赋予所有员工的工具，提供更多创建个性化和相关生成式 AI 应用的方式，并努力解决诸如减少幻觉等困难问题，以便更多公司能够从生成式 AI 中受益。我们对客户在实现生成式 AI 成为组织现实方面所取得的进展感到振奋，将继续为他们的利益不断创新。了解更多有关我们 生成式 AI 服务 的信息。

关于作者

[![](https//d2908q01vomqb2cloudfrontnet/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2022