亚马逊AWS官方博客

Shulex 携手亚马逊云科技与 Zilliz, 打造 VOC 数字化“加速器”

随着中国企业加速“走出去”步伐,出海业务的数字化转型和创新已成为重中之重。企业出海重心正从单一的“数字化出海”转向更加全面的“出海数字化”,即将数字化技术融入出海业务的方方面面,以提升全球化运营效率、增强国际竞争力。

在这一背景下,VOC(消费者声音)的数字化运营备受关注。VOC 数字化不仅能优化企业在传播沟通、商品营销、渠道管理、客户关系等领域的战略决策,更将直接影响品牌公众形象和口碑,进而决定品牌资产价值。因此,VOC 数字化已然成为企业出海不可或缺的重要一环。国际化 VOC SaaS 公司 Shulex 精准布局,相继推出 Shulex VOC 评论分析、Shulex 智能客服等一系列出海应用,致力为中国企业出海提供全方位 VOC 数字化解决方案,赋能品牌全球化运营,助力企业在海外市场百尺竿头、更进一步。

Shulex 已经将上亿数据量的核心业务从开源向量数据库 Milvus 迁移至全托管的向量数据库云服务 Zilliz Cloud。相比于 Milvus,Zilliz Cloud 实现了 Shulex VOC 评论分析洞察报告生成速度 30% 的提升,VOC 智能客服召回率 98%,且系统稳定,0 宕机,大大降低了企业在向量数据库的运维成本。

Amazon Bedrock 是亚马逊云科技推出的生成式 AI 应用开发平台,提供完全托管的服务。借助统一的 API 接口,开发者可便捷接入 AI 公司的顶尖基础模型。Amazon Bedrock 涵盖了构建生成式 AI 应用所需的全方位功能,在确保数据隐私和安全的同时,大幅简化了开发流程。作为 Amazon Bedrock 的重要应用场景,Shulex 推出了 VOC 评论分析和智能客服两大产品线,并衍生出一系列”Bot”形态的 AI 工具,实现了商业分析、用户自动问答等多种智能化功能。在 Amazon Bedrock 强大的生成式 AI 能力和亚马逊云科技合作伙伴 Zilliz 提供的向量数据库云服务 Zilliz Cloud 的共同赋能下,这些创新”Bot”工具得以高效开发,并通过集成大语言模型,进一步拓展了功能边界。Amazon Bedrock 与 Zilliz Cloud 的紧密融合,不仅让 Shulex 能快速上线创新的 AI 应用,更为企业级客户提供了安全可靠、性能卓越的一站式生成式 AI 解决方案,有力支撑了 Shulex 在 VOC 数字化赛道的持续创新和发展。

从 Milvus 到 Zilliz Cloud,向量数据库支撑 Shulex 核心业务场景

随着业务的高速发展,仅在 VOC 评论分析业务上,Shulex 就训练了 10,000 条以上电商类目的评论标签,产生了上亿规模的向量数据。以往基于开源向量数据库 Milvus 自建方案,费时费力,稳定性无法保障,运维成本非常高昂,当出现故障的时候往往需要几个小时甚至一天才能恢复,运营疲于处理由于系统不稳定导致的客户吐槽和投诉,客户满意度也持续走低。

Shulex 技术专家李辰辉表示:“业务发展到这个阶段,对向量数据库的要求也就更严苛了,要能弹性扩容以支撑海量的向量存储与搜索,向量匹配速度要更快、SLA 足够高,运维成本一定要够低。”

在与 Milvus 的背后商业公司 Zilliz 的专家团队进行充分沟通后,Shulex 技术团队决定将核心业务的向量数据库部分搬迁至 Milvus 的全托管云服务 Zilliz Cloud 上。目前 Zilliz Cloud 主要支持了 Shulex 的 VOC 评论分析及智能客服两大块核心业务。

文本搜索场景——VOC 评论分析

VOC 评论分析服务核心是通过向量数据库对海量的 Amazon 评论/社媒数据,进行分类打标和实时分析,为客户提供实时的商品评论洞察报告,包括但不限于:用户画像、使用场景、购买动机、商品卖点、商品不足点等。

向量数据库是该业务场景的关键组件,基于 Zilliz Cloud 的 VOC 评论分析流程包含建库、选品、分析样本、全量打标、报表生成 5 个步骤,具体来看:

  • 建立用来判断评论的标签库:在向量数据里面存储的表结构包括评论文本、评论的 embedding、评论的正负情感标签等等;
  • 选择待分析的商品类目:在上万个类目的商品中选择感兴趣的品类作为后续进行评论分析的对象;
  • 基于大模型的评论分析:选择上一步中品类的数万条评论(包含正负评论、意思相近的评论)输入给 Amazon Bedrock 上的大模型,让大模型对每个评论进行标签,将这些标签而后进行聚类后生成标签的样本库;
  • 用向量数据库做分类打标:将生成的标签样本输出给向量数据库里进行该类目商品的全部评论 embedding 数据的检索,结合向量数据库来进行分类,判断这些评论的正负情感;
  • 生成结构化的统计报表:基于向量数据库的分类情况,进行用户对该商品属性的情感、正负向的分析,然后生成报表。

图 1 |基于 Amazon Bedrock 和 Zilliz Cloud 的 VOC 评论分析流程

Shulex VOC 评论分析业务收益显著,总结而言包括以下几点:

  • 报表生成速度提升 30%:Zilliz Cloud 提供更高性能的向量搜索能力,其搜索引擎性能比开源 Milvus 提升超过 5 倍,稳定支持了 1000 QPS 的商品评论的高频次搜索。同时,相比于 Milvus,搜索时延降低了 50%,这使生成结构化的统计报表速度提升 30%;
  • 数据分析成本降低 50%:由于无需将所有的商品评论信息通过大模型进行分析来获取评论标签,仅需要基于评论原文与向量数据库,实时召回评论标签即可生成高质量标签,去除了对大模型的依赖,极大地降低了评论数据分析的成本。
  • 分钟级响应大促等突发流量:对于突发的客户访问量剧增,如大促周期,以往需要客户请求排队半个小时甚至 1 个小时,而 Zilliz Cloud 支持弹性扩缩容,集群增减分钟级即可完成,客户排队的状况也顺利解决。

大模型 RAG 应用——VOC 智能问答系统

Shulex 提供 VOC 企业智能问答系统,通过训练企业与外部数据,自动解析成 FAQ,2 分钟生成专业客服机器人,可以显著提升响应效率,同时降低运营成本。

图 2 |基于 Amazon Bedrock 和 Zilliz Cloud 的 VOC 智能问答系统

当前,Shulex VOC 智能客服业务采用 Amazon Bedrock 上的大模型+向量数据库的标准范式构建了 RAG 应用,除了自动提取公网链接,还将企业文件、邮件、工单等多渠道的知识 embedding 后存入 Zilliz Cloud 来构建企业专属知识库,为大模型增加外接记忆体。而 Zilliz Cloud 使得大模型能够快速有效地检索和处理大量的向量数据,实时召回知识,稳定支撑 Shulex VOC 智能客服业务每秒 90 次的客户询问,稳定召回率在 98% 以上,据统计,Shulex 智能客服机器人已经可以承担 80% 以上的客服工作。

Shulex CTO 潘胜一表示:“从开源的向量数据库 Milvus 切换到托管云服务 Zilliz Cloud 后,我们的业务收益显著提升,实现了更低的运维成本、更高的业务速度、更灵活的系统架构以及更稳定的用户体验。通过使用 Zilliz Cloud,我们能够享受到专家团队的支持,他们能够高效沟通并快速解决业务中遇到的问题。总的来说,Zilliz Cloud 为我们带来了更大的便利和竞争优势,我们对这一转变感到非常满意和乐观。”

关于 Zilliz

Zilliz 是一家领先的企业级人工智能向量数据库公司,其基础是受欢迎的开源向量数据库 Milvus。2023 年,Zilliz 推出了基于 Milvus 的全托管云服务 Zilliz Cloud,并且已经登陆了 AWS Marketplace。


*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。

本篇作者

张元涛

亚马逊云科技高级架构师。负责亚马逊云科技合作伙伴相关解决方案的建设以及合作伙伴生态合作。与合作伙伴一起,根据客户需求,分析其在技术架构层面所遇到的挑战和未来的方向,设计和落地基于亚马逊云科技平台和合作伙伴产品的架构方案。曾在知名外企以及国内领导企业任解决方案架构师。在云以及网络等领域有丰富的经验,对于公有云服务以及架构有深入的理解。

高甜甜

Zilliz 产品市场经理,负责 Zilliz 在亚太区的产品上市及营销推广。在加入 Zilliz 之前,曾就职于阿里云、华为等企业,在云计算、AI 领域有丰富的产品市场实战经验。

孙进华

亚马逊云科技资深解决方案架构师,负责帮助客户进行上云架构的设计和咨询。加入亚马逊云科技前自主创业负责电商平台搭建和车企电商平台整体架构设计。曾就职于全球领先的通讯设备公司,担任高级工程师,负责 LTE 设备系统的多个子系统的开发与架构设计。在高并发、高可用系统架构设计、微服务架构设计、数据库、中间件、IoT 等方面有着丰富的经验。

肖元君

亚马逊云科技解决方案架构师,负责基于 AWS 云计算方案的架构咨询和设计实现,同时致力于数据分析与 AI 的研究与应用。