美文网首页项目变迁Java学习笔记
如何在日志中批量的添加业务ID埋点

如何在日志中批量的添加业务ID埋点

作者: AlanKim | 来源:发表于2016-12-09 23:38 被阅读687次

很多系统的日志格式比较乱,没有一个统一的样式,而在系统已经成型的情况下,很难再大规模的去批量调整日志格式,所以设计了一个日志Util工具,在日志打印时嵌入指定的业务参数。

  • 闲话少说,干货先上:
    LogUtil.java

     package com.alan.log.utils;
    
     import com.google.cmmon.base.Joiner;
     import org.apache.commons.lang3.StringUtils;
     import org.slf4j.MDC;
    
     /**
       * Created by alan on 2016/11/16.
       * 日志工具
      */
     public class LogUtil {
        private static final String BIZPARAM = "bizParam";
    
    /**
       * 设置日志中的业务参数
       *
       * @param bizId 业务ID
      */
    public static void setBizId(String... bizId) {
      String bizParam = MDC.get(BIZPARAM);
      if (StringUtils.isBlank(bizParam)) {
            bizParam = Joiner.on(",").skipNulls().join(bizId);
            MDC.put(BIZPARAM, bizParam);
      } else {
            StringBuilder sbd = new StringBuilder()
                      .append(bizParam)
                      .append(",")
                      .append(Joiner.on(",").skipNulls().join(bizId));
    
            MDC.put(BIZPARAM, sbd.toString());
      }
    }
    
    /**
      * 日志打点,加入清除原有数据的代码
      *
      * @param bizId 业务ID
     */
    public static void setBizIdWithClear(String... bizId) {
          MDC.clear();
          setBizId(bizId);
    }
    
    }
    

可以看到,logUtil使用了slf4j中的MDC来暂存bizId信息,关于MDC的说明,可以参考这里:http://logback.qos.ch/manual/mdc.html

至于提供的setBizIdWithClear方法,主要防止在线程池场景下线程复用时BizId串掉的问题出现。

  • 如何调用
    目前采用的调用方式比较原始,在dubbo\rest Service方法、NSQ消息消费处理类入口中直接调用,如下:
    LogUtil.setBizIdWithClear(refundRequest.getAcquireNo(),refundRequest.getRequestId());

其中bizId可以根据自己系统中的不同考虑,传入不同的值,也可以传递多个。
当然,如果希望做的代码入侵性更小一些,可以考虑使用intercepter,或者针对web工程使用filter,或者直接使用切面来做。不过由于不同入口的bizId不尽相同,所以在这里就简单的做个调用。大家可以根据自己系统的情况选择不同的方式。

  • 如何生效

既然记录在了MDC中,在写日志文化时如何记录下来呢?这块就需要配置对应的logback.xml或者log4j.xml了,如下:

     <appender name="STDOUT"  class="ch.qos.logback.core.ConsoleAppender">
       <encoder>
            <pattern>%d{yyyy-MM-dd HH:mm:ss.SSS} [%thread] [%X{bizParam}] %-5level %logger{56} - %msg%n
            </pattern>
      </encoder>
    </appender>   

这是一个普通的appender配置,关键就是在pattern格式表达式中的[%X{bizParam}],bizParam需要与LogUtil中的BIZPARAM对应起来

  • 最终的日志格式

        2016-11-18 16:13:39.022 [Thread-5] [161118105657385565] INFO  com.alan....
    

可以看到,对应的bizId已经按照对应的格式在日志中的固定位置打印出来了,后续做日志采集也好、日志搜索也好,都是会比较容易的。

PS:后续的日志采集、存储、搜索等功能,可以使用ES+LogStash+logView等开源框架,问题定位不要太爽。后续有时间会把这套日志处理框架写下,😀

相关文章

  • 如何在日志中批量的添加业务ID埋点

    很多系统的日志格式比较乱,没有一个统一的样式,而在系统已经成型的情况下,很难再大规模的去批量调整日志格式,所以设计...

  • SpringBoot项目实现发布订阅模式,真的很简单!

    在项目里,经常会有一些主线业务之外的其它业务,比如,下单之后,发送通知、监控埋点、记录日志…… 这些非核心业务,如...

  • 浅谈数据埋点

    |0x00 如何理解埋点 埋点是数据采集的专用术语,在数据驱动型业务中,如营销策略、产品迭代、业务分析、用户画像等...

  • 数据平台笔记

    数据生产:接入流程、上报地址API对接、埋点规范、埋点内容、数据测试、业务DB 数据采集:Flume日志, Kaf...

  • Java或Scala,如何将\x22这样的字符转换为字符串?

    介绍 最近涉及 Nginx 输出的埋点日志,实时接入 Kafka,我需要实时解析 Kafka 中埋点日志,但是在...

  • 项目需求分析

    1.采集埋点日志数据 2.采集业务数据库中的数据 3.数据仓库的搭建(用户行为数仓,业务数仓) 4.分析统计业务指...

  • JanusGraph---Transaction Log

    事务日志 记录事务日志 添加事务日志,使用addedPerson标识。 事务中改变都会被记录到用户日志系统并以id...

  • Magent插码SDK遗留问题

    BEH_SEND_PATH:发送日志后缀名 #define BEH_SEND_PATH @"m" // 添加埋点事...

  • Redis 使用redis队列优化系统问题

    对于实时性要求不高的业务,如操作日志,业务跟进等,可以采用先把数据存到缓存,当达到一定数量时批量插入的方案。这样减...

  • 关于 UITableView 的 delegate 被 hook

    开发中必不可少的一个环节就是产品经理要求添加的埋点, 从是否需要开发者添加代码的角度, 分为无侵入埋点和事件埋点...

网友评论

  • Nathans:类似于一个requestID对吧。可用于请求操作追溯和日志查询

本文标题:如何在日志中批量的添加业务ID埋点

本文链接:https://www.haomeiwen.com/subject/jluymttx.html