美文网首页
流量回放原理

流量回放原理

作者: DuffyMagic | 来源:发表于2021-01-26 00:10 被阅读0次

流量回放是通过日志采集再处理来获取所需要的数据

日志采集

通过logstash工具从应用容器拉取日志信息,可以根据filter、tags来筛选

数据传输

通过kafka等消息队列将获取的日志数据传输进行下一步处理

数据处理

从消息队列中消费日志数据,通过storm数据处理系统从日志信息中获取到想要的数据,比如从日志中获取接口的req

数据转存

通过hadoop\mysql\hive对处理的数据进行存储,第一轮一般是原始数据,后面可以用mapreduce再次处理,知道得到想要的数据再存储到具体的磁盘中

ELK

elasticsearch+logstash+kibana(前端开源框架)

压测

针对录制的流量进行处理,除敏、渲染、隔离、熔断,得到符合指标的流量,利用这些流量针对接口服务做压测服务,模拟线上请求

全链路压测核心点

1、流量渲染,打上特有的tag
2、日志隔离,压测的日志和生产的日志隔离
3、风险开关,流量瓶颈时设置黑白名单控制流量
4、数据隔离,影子库

全链路压测关注指标

1、用户
2、应用监控,保留现场数据
3、代码层面分析

问题:
1、可以省略线下单压测吗
2、可以随便压测吗

相关文章

  • 流量回放原理

    流量回放是通过日志采集再处理来获取所需要的数据 日志采集 通过logstash工具从应用容器拉取日志信息,可以根据...

  • 流量回放原理

    流量回放是通过日志采集再处理来获取所需要的数据 日志采集 通过logstash工具从应用容器拉取日志信息,可以根据...

  • 流量平台如何选型

    构造流量 常见方式线上流量回放线上流量引流流量模拟主要原理将线上集群的流量复制多份发送到指定的仓库, 然后使用指定...

  • 流量回放

    参考链接[https://mp.weixin.qq.com/s/0MXeMaLXJVsyyEd8tu5gyQ]流量...

  • 流量回放(自动化测试)

    功能测试 性能测试 流量回放 方案流量回放系统,利用生产上现有真实流量进行镜像,原始流量依然回到生产环境的真实服务...

  • 《RPC实战与核心原理》学习笔记Day15

    21 | 流量回放:保障业务技术升级的神器 什么是流量回放? 流量就是指在某个时间段内的所有请求,我们通过某种手段...

  • 流量回放机制

    校验系统的准确性和可靠性时,仅靠用例场景无法覆盖全生产环境的所有场景,需要一套引流工具,在系统正式上线前,用线上的...

  • 流量录制回放 用于测试

    tcpcopy 案例来说需要三台机器 server_src 源服务器(可以理解为正式机器 流量来源) (执行 tc...

  • 流量录制回放相关介绍

    流量录制回放是什么? 流量录制:在不影响用户正常使用的前提下,获取线上用户的真实请求和服务响应结果,将其保存或者转...

  • traffic playback things

    流量回放系统,利用生产上现有真实流量进行镜像,原始流量依然回到生产环境的真实服务器,流量的镜像拷贝会分发到集群外的...

网友评论

      本文标题:流量回放原理

      本文链接:https://www.haomeiwen.com/subject/wpywzktx.html