基于链路追踪+ECI的流量洪峰应对

1 基于链路追踪+ECI的洪峰流量应对 最佳实践 业务架构 场景描述 云原生技术已经为越来越多的互联网客户接 受，对于在线教育、互动娱乐、电商等类型的 客户会由于业务的原因存在突增业务流量，因 此对于系统的稳定性非常关注，结合阿里云的 容器服务、链路追踪、弹性容器 ECI等产品， 帮助客户发现应用链路中的瓶颈，同时应对洪 峰流量的冲击。 方案优势 产品列表 1. 支持分布式追踪、调用链分析、DB 调用 分析、链路拓扑分析、业务指标统计等系 容器服务 Kubernetes版(ACK) 统链路调用分析。 日志服务 SLS 2. 运维研发效率提高，链路追踪服务端全托 性能测试 PTS 管，免运维。 弹性容器实例 ECI 链路追踪 X-trace 3. 链路追踪的应用调用链分析能力结合 ECI 高弹性能力，提升应用系统在洪峰流量冲 击下的稳定性。 最佳实践频道 阿里云最佳实践技术分享群 4. 链路追踪接入方便，ECI POD弹性伸缩， 节省用户运维成本和云资源使用成本。 解决问题 1. 云资源弹性能力不足，流量洪峰时无法应 对 2. 复杂应用性能出问题时定位困难 3. 应用中间件学习运维成本高 4. 云资源成本合理利用能力不足 文档版本：20200401（发布日期）

2文档模板（手册名称）/Error! Use the Home tab to apply 标 云服务器 ECS（产品名称） 题 to the text that you want to appear here. 阿里云 企业上云实践 基于链路追踪+ECI的应用 洪峰流量应对最佳实践 文档版本：20201222（发布日期） 文档版本：20201222 1

3基于链路追踪+ECI的洪峰流量应对实践 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 基于链路追踪+ECI的洪峰流量应对实践 文档编号 194 文档版本 V1.1 版本日期 2020-12-22 文档状态 外部发布 制作人 明誉 审阅人 无 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2020-12-22 明誉、川知、青 无 创建 俞、折松 文档版本：20201222 I

4基于链路追踪+ECI的应用高可用弹性实践 前言 前言 概述 本实践结合阿里云容器服务 Kubernetes版（ACK）、弹性容器实例（ECI）、链路追踪 TracingAnalysis、性能测试 PTS等核心阿里云产品，为需要在微服务架构下有效发现 应用架构性能瓶颈，提升开发诊断效率，应对突发流量洪峰下的应用性能稳定性和云 资源使用成本合理可控的用户提供参考。 应用范围 应用已经进行了微服务容器化的用户 需要快速诊断分布式微服务应用架构性能瓶颈，提升开发诊断效率的用户 日常业务有突发洪峰流量，需要弹性灵活应对峰值业务流量冲击的用户 对于云资源的使用成本弹性可控有需求的用户 名词解释 ACK：容器服务 ACK（Alibaba Cloud Container Service for Kubernetes）提供高 可性能可伸缩的容器应用管理服务，支持企业级 Kubernetes容器化应用的生命周 期管理。容器服务 ACK简化集群的搭建和扩容等运维工作，整合阿里云虚拟化、 存储、网络和安全能力，打造云端最佳的 Kubernetes容器化应用运行环境。更多 信息，请参见 https://www.aliyun.com/product/kubernetes 弹性容器实例 ECI：阿里云弹性容器实例(ECI)是免运维的 IaaS层容器组资源交付， 提供安全的 Serverless容器运行服务，用户无需管理底层服务器，只需要提供打 包好的 Docker镜像即可运行容器并只为容器实际运行消耗的资源付费。ECI可以 与阿里云容器服务产品(ACK/ASK)无缝兼容，并且跟 Kubernetes的 Pod概念完 全兼容。更多信息，请参见 https://www.aliyun.com/product/eci 链路追踪 TracingAnalysis：为分布式应用的开发者提供了完整的调用链路还原、 调用请求量统计、链路拓扑、应用依赖分析等工具。能够帮助开发者快速分析和 诊断分布式应用架构下的性能瓶颈，提高微服务时代下的开发诊断效率。更多信 息，请参见 https://www.aliyun.com/product/xtrace PTS：性能测试服务（Performance Testing Service，简称 PTS）是具备强大的 分布式压测能力的 SaaS压测平台，可模拟海量用户的真实业务场景，全方位验 证业务站点的性能、容量和稳定性。PTS的目标是将性能压测本身的工作持续简 文档版本：20201222 III

5基于链路追踪+ECI的应用高可用弹性实践 前言 化，用户可以通过较低的人力和资源成本，构造出最接近真实业务场景的复杂交 互式流量，快速衡量系统的业务性能状况，为性能问题定位、容量最佳配比、全 链路压测的流量构造提供最好的帮助。 更多信息，请参见 https://www.aliyun.com/product/pts SLS: 日志服务（Log Service，简称 SLS）是针对日志类数据的一站式服务，在 阿里巴巴集团经历大量大数据场景锤炼而成。用户无需开发就能快捷完成日志数 据采集、消费、投递以及查询分析等功能，提升运维、运营效率，建立 DT时代 海量日志处理能力。更多信息，请参见 https://www.aliyun.com/product/sls 文档版本：20201222 IV

6基于链路追踪+ECI的洪峰流量应对实践 目录 目录 文档版本信息 ........................................................................................................................................................ I 法律声明 ............................................................................................................................................................... II 前言 ..................................................................................................................................................................... III 目录 ...................................................................................................................................................................... V 最佳实践概述 ....................................................................................................................................................... 1 前置条件 ............................................................................................................................................................... 3 1. 环境准备 ....................................................................................................................................................... 4 1.1. 创建容器服务 Kubernetes集群 ..................................................................................................... 4 1.2. 创建数据库服务 ............................................................................................................................ 4 1.3. 创建容器镜像服务......................................................................................................................... 4 2. 应用部署 ....................................................................................................................................................... 6 2.1. 应用架构 ........................................................................................................................................ 6 2.2. 代码简析 ........................................................................................................................................ 6 2.3. 应用部署 ........................................................................................................................................ 9 2.4. 效果展示 ...................................................................................................................................... 16 3. 基于 ECI的弹性伸缩应对流量洪峰 ............................................................................................................ 20 3.1. 安装 virtual kubelet autoscaler ..................................................................................................... 20 3.2. 容器服务集群启用 logtail ............................................................................................................ 22 3.3. 配置 Kubernetes集群 Ingress概览 .............................................................................................. 23 3.4. 部署 alibaba-cloud-metrics-adapter.............................................................................................. 25 3.5. 配置基于 SLS external metrics的 Ingress HPA .............................................................................. 26 3.6. 配置基于 CPU利用率的 HPA ....................................................................................................... 27 3.7. 压力测试应用服务....................................................................................................................... 28 3.8. 压测结果分析 .............................................................................................................................. 29 3.9. 小结 ............................................................................................................................................. 34 文档版本：20201222 V

7基于链路追踪+ECI的洪峰流量应对实践 最佳实践概述 最佳实践概述 概述 本实践结合阿里云容器服务 Kubernetes版（ACK）、弹性容器实例（ECI）、链路追踪 TracingAnalysis、性能测试 PTS等核心阿里云产品，为需要在微服务架构下有效发现 应用架构性能瓶颈，提升开发诊断效率，应对突发流量洪峰下的应用性能稳定性和云 资源使用成本合理可控的用户提供参考。 场景描述 云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户 会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服 务、链路追踪、弹性容器 ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应 用架构中的瓶颈等问题，实现系统高弹性的同时优化客户的云资源使用成本。 遇到的痛点： 云资源弹性能力不足，流量洪峰时无法应对 复杂应用性能出问题时定位困难 应用中间件学习运维成本高 云资源成本合理使用能力不足 方案架构和优势 方案架构 文档版本：20201222 1

8基于链路追踪+ECI的洪峰流量应对实践 最佳实践概述 方案优势 ￚ 支持分布式追踪、调用链分析、DB调用分析、链路拓扑分析、业务指标统计 等系统链路调用分析。 ￚ 运维研发效率提高，链路追踪服务端全托管，免运维。 ￚ 链路追踪的应用调用链分析能力结合 ECI高弹性能力，提升应用系统在洪峰 流量冲击下的稳定性。 ￚ 链路追踪接入方便，ECI POD弹性伸缩，节省用户运维成本和云资源使用成 本。 ￚ 结合 SLS Ingress可以基于应用前端访问性能指标做弹性伸缩，更丰富的云原 生弹性能力。 文档版本：20201222 2