Second Spectrum 使用 AWS 负载均衡器控制器和 Amazon EKS 将 Kubernetes 托管成本降低 90%
2021 年
Second Spectrum 是一家为体育广播提供人工智能驱动型跟踪技术的公司，他们正致力于对人们参与体育运动的方式进行现代化。广播员和评论员使用该公司的工具来提供快速见解以及有用的视觉效果。为了改进这些工具并快速开发新工具，Second Spectrum 依赖高效使用 Amazon Web Services（AWS）提供的工程资源。
Second Spectrum 开始将应用程序负载均衡器用于容器化工作负载，这些工作负载原来在自我管理的 Kubernetes 集群上运行。公司很快意识到，他们可以通过迁移到托管式 Kubernetes 服务 – Amazon Elastic Kubernetes Service（Amazon EKS），让公司能够在 AWS 上或本地灵活地启动、运行并扩展 Kubernetes 应用程序，从而更高效地运行 Kubernetes 集群。Second Spectrum 还发现了利用 AWS 负载均衡器控制器简化工作负载路由的机会，这使公司能够在多个部署于由 Amazon EKS 托管的 Kubernetes 集群中的应用程序之间共用应用程序负载均衡器，以便简化操作。这种集成 AWS 解决方案帮助 Second Spectrum 将 Kubernetes 托管成本降低了 90%，错误减少了 75%，将每个请求的应用程序响应时间缩短了 5 毫秒，提高了员工工作效率，并在全公司创建了可扩展、可复制的简化工作负载预置的方法。
AWS 负载均衡器控制器的直接容器组（pod）互联网协议目标注册使我们能够清除我们的配置，并将其合并到简单易用的 Kubernetes 输入。”
Sheldon Kwok
基础设施高级总监，Second Spectrum
为 Kubernetes 寻求高效的负载均衡器解决方案
Second Spectrum 的前身是南加州大学的一个研究小组。2013 年，它在洛杉矶成立。美国国家篮球协会、美国职业足球大联盟或超级联赛赛事的电视观众见证了 Second Spectrum 技术的实际应用，例如，使用计算机视觉来追踪球员的动作。作为一家初创企业，Second Spectrum 希望快速地试验新的工具，并推动将最切实可行的工具投入到生产当中。为此，该公司需要高效路由，通过可复制的方式对其架构的特定部分进行预置。
针对应用程序部署，Second Spectrum 自 2014 年起便开始运用容器化技术。“Kubernetes 是一头难以驯服的野兽”，Second Spectrum 的基础设施高级总监 Sheldon Kwok 说道，“因为有太多活动部件，要理解并管理 Kubernetes 的运行机制对公司内部团队来说过于耗时。
”在这种容器化环境当中，Second Spectrum 从 2016 年推出应用程序负载均衡器以来就非常依赖它。应用程序负载均衡器在请求级别（第 7 层）运行，将流量路由到容器或互联网协议地址等目标。然而，团队依然面临着效率低下的挑战。Kwok 表示：“我们要处理好一个额外的网络步骤：必须通过 NodePort 上的 Kubernetes 代理进行路由，但这些代理和最终服务不一定在同一个可用区内。”Second Spectrum 急切想要消除这个额外的步骤来改善表现。
借助 AWS 负载均衡器控制器和 Amazon EKS 来高效使用资源
当 AWS 在 2020 年推出 AWS 负载均衡器控制器时，Second Spectrum 的工程师便对此表现出浓厚的兴趣。该服务支持可同时部署与管理的容器组（pod）或小型应用程序容器组。“AWS 负载均衡器控制器的直接容器组（pod）互联网协议目标注册使我们能够清除我们的配置，并将其合并到简单易用的 Kubernetes 输入”，Kwok 说道。
Second Spectrum 还获得来自 Amazon EKS 的进一步支持，它会为公司处理 Kubernetes API 服务器并充当自我管理的 Kubernetes 集群的更高效替代方案。Kwok 认为，使用 Amazon EKS 消除了与管理 Kubernetes 有关的所有烦恼。“它让我们能够开发更多与产品相关的功能。” 在提高工作效率的同时，简化的 Amazon EKS 托管环境还能帮助公司节约成本：“我们过去每个月要花大约 1000 美元，只为 API 服务器运行一个 Kubernetes 集群”，Kwok 继续说道，“Amazon EKS 的每月成本在 100 美元左右。”
AWS 负载均衡器控制器和 Amazon EKS 让 Second Spectrum 能够直接监控 Kubernetes 容器组（pod），跳过要先经过实例的额外步骤。凭借这项新配置，团队注意到每个请求的表现改善了大约 5 毫秒。虽然看似不起眼，但在交付近乎实时的追踪和可视化以优化观看体验方面却具有十分重要的意义。这个 AWS 自动化流程也大幅减少了配置链中可能发生的人为错误。“我们遇到负载均衡与可用性问题的几率降低了大约 75%”，Second Spectrum 的工程运营副总裁 Eric Lui 说道。
Second Spectrum 团队估计，更简单的配置每年至少可以节省 2 周的员工时间，因为工程师能够更方便地使用自助服务，而不用等待基础设施团队的帮助。考虑到使用 Amazon EKS 能够避免花时间为新员工提供有关自我管理的 Kubernetes 集群的操作培训，预计总的时间节省将达到每年大概 3 个月时间（以全职员工的时间计算）。该公司可以对其整个命名空间仅使用一个应用程序负载均衡器，而 AWS 负载均衡器控制器可以动态扩展以应对大量传入的请求，并自动停止路由到出现故障的代理服务器。
使用最新的 AWS 产品/服务实现价值最大化
Second Spectrum 团队将这种新配置视作其迈向软件工程 DevOps 方法的重要一步。Lui 表示：“我们想把这些工具交到开发人员的手中，这样他们就能承担自行配置负载均衡的责任：部署、测试，以及设置运行状态检查。这释放了员工的潜能，让他们变得更加自主和高效。说到对组织的影响，它也是至关重要的。”
因为 Second Spectrum 的工程师不用花大量时间管理 Kubernetes 集群，他们可以将更多精力投入到探索其他机会。未来，团队计划通过将这些工作负载迁移到 AWS Fargate，充分利用弹性工作负载的价格优势。AWS Fargate 是一种无服务器计算引擎，适用于和 Amazon EKS 同时运行的容器。而且，新的路由配置是可扩展而且可复制的，因此公司能够在欧洲启动类似的配置。
随着 Second Spectrum 继续推进体育分析的发展，他们预计 AWS 产品/服务将在其间发挥核心的作用。“AWS 对客户请求抱着非常开放的态度。我们经常要求他们提供新的功能，而我们的技术客户经理提到过其他客户也会提出类似的要求”，Kwok 说道，“我们想要了解 AWS 提供的所有新功能，以便最大程度利用 AWS 带来的优势。”
Second Spectrum 的参考架构
.7e1ffc2a1c8d091e8d1faa0170452d3a3fac51d6.png)
原架构，采用应用程序负载均衡器和自我管理的 Kubernetes。
.49d5434657643ba21a0cadf8a928fdf9e33372f8.png)
新架构，现在使用 Amazon EKS 和 AWS 负载均衡器控制器。
关于 Second Spectrum
2013 年，Second Spectrum 在洛杉矶成立。作为美国国家篮球协会、美国职业足球大联盟和超级联赛的官方追踪服务提供商，Second Spectrum 提供对赛事的高级机器理解，快速挖掘技术驱动见解。
AWS 带来的效益
- 将 Kubernetes 的托管成本降低了 90%
- 预计使错误率降低 75%
- 预计每年在工程和新员工培训方面节省 3 个月时间（以全职员工的时间计算）
- 将每个请求的应用程序响应时间缩短了 5 毫秒
使用的 AWS 服务
Amazon EKS
Amazon Elastic Kubernetes Service（Amazon EKS）为您提供在 AWS Cloud 和本地启动、运行和扩展 Kubernetes 应用程序所需的灵活性。Amazon EKS 可帮助您提供高度可用且安全的集群，并自动化补丁、节点预置和更新等关键任务。
AWS Fargate
AWS Fargate 是一种适用于容器的无服务器计算引擎，可与 Amazon Elastic Container Service（ECS）和 Amazon Elastic Kubernetes Service（EKS）配合使用。使用 Fargate，您无需预置和管理服务器，而且可以为每个应用程序指定资源并为其付费，并通过设计隔离应用程序来提高安全性。
开始使用
无论行业无论规模，每天都有的公司在使用 AWS 实现业务转型。联系我们的专家，立即踏上您的 AWS Cloud 之旅。