dolphinscheduler 3.0.1 监控中心(下):审计日志

🔼上一集:dolphinscheduler 3.0.1 监控中心(上):服务管理

*️⃣主目录:dolphinscheduler 3.0.1功能梳理及源码解读

🔽下一集:dolphinscheduler 3.0.1 安全中心

最近项目中要引入审计日志模块,第一次看到审计日志就是在3.0的监控中心,当时以为是和数据质量绑定的什么新功能呢,后来发现其实就是操作日志(没感觉到有啥区别,就是审计这个字眼感觉好像更严谨似的),记录一下当前用户什么时间进行了增删改查操作,假如环境突然出问题了,可以通过操作日志查看,是不是有人删了数据。

🐬3.0 审计日志代码


🐠现状


3.0的审计日志并没有效果,去官网看了下,有人提出这个问题审计日志不生效issues,估计下个版本应该能修复这个功能,目前最新的3.1.0也是没修复的,或者说是没开发完的吧。我发现2.0就有审计日志相关代码了,到了3.0页面也有了,表也有了,但是结果还是没有,看表结构和代码,是没开发完。

  • 3.0增加的日志表结果如下(看来确实是还没开发完):
    在这里插入图片描述
  • 一般存放审计日志的表,主要存储调用的方法类型和请求响应参数,比如开源用户权限系统,若依的操作日志表:
    在这里插入图片描述
  • 审计日志都打印出来了,但是没入库
    在这里插入图片描述
  • 项目列表查询日志
    [INFO] 2022-10-25 03:49:15.127 +0000 org.apache.dolphinscheduler.api.aspect.AccessLogAspect:[90] - REQUEST TRACE_ID:1844461f-cba9-42cf-9281-0751d6634edb, LOGIN_USER:renxiaozhao, URI:/dolphinscheduler/projects, METHOD:GET, HANDLER:org.apache.dolphinscheduler.api.controller.ProjectController.queryProjectListPaging, ARGS:{searchVal=, pageNo=1, pageSize=10}
    

🐠微微动


在这里插入图片描述
在这里插入图片描述

加了一行代码,登记日志表,纯粹为了满足强迫症,真实代码的话,还有不少要做的事情:

  • 查询方法感觉没必要记录,这个不配置注解@AccessLogAnnotation就行
    在这里插入图片描述

  • 方法增删改查,这个也没办法解析,查询一般通过get请求方式,但不是所有get都是查询,可以增加方法类型参数,通过注解传进来
    -

  • 其它好像也没啥了,增加一些存储请求响应的字段,现有代码都解析好了
    在这里插入图片描述

  • 源码

/*
 * Licensed to the Apache Software Foundation (ASF) under one or more
 * contributor license agreements.  See the NOTICE file distributed with
 * this work for additional information regarding copyright ownership.
 * The ASF licenses this file to You under the Apache License, Version 2.0
 * (the "License"); you may not use this file except in compliance with
 * the License.  You may obtain a copy of the License at
 *
 *    http://www.apache.org/licenses/LICENSE-2.0
 *
 * Unless required by applicable law or agreed to in writing, software
 * distributed under the License is distributed on an "AS IS" BASIS,
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 * See the License for the specific language governing permissions and
 * limitations under the License.
 */

package org.apache.dolphinscheduler.api.aspect;

import org.apache.dolphinscheduler.api.audit.AuditMessage;
import org.apache.dolphinscheduler.api.audit.AuditSubscriberImpl;
import org.apache.dolphinscheduler.common.Constants;
import org.apache.dolphinscheduler.common.enums.AuditOperationType;
import org.apache.dolphinscheduler.common.enums.AuditResourceType;
import org.apache.dolphinscheduler.dao.entity.AuditLog;
import org.apache.dolphinscheduler.dao.entity.User;
import org.apache.dolphinscheduler.service.bean.SpringApplicationContext;
import org.apache.dolphinscheduler.spi.utils.StringUtils;

import java.lang.reflect.Method;
import java.util.*;
import java.util.regex.Matcher;
import java.util.regex.Pattern;
import java.util.stream.Collectors;
import java.util.stream.IntStream;

import javax.servlet.http.HttpServletRequest;

import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Pointcut;
import org.aspectj.lang.reflect.MethodSignature;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Component;
import org.springframework.web.context.request.RequestContextHolder;
import org.springframework.web.context.request.ServletRequestAttributes;

@Aspect
@Component
public class AccessLogAspect {
    private static final Logger logger = LoggerFactory.getLogger(AccessLogAspect.class);

    private static final String TRACE_ID = "traceId";

    public static final String sensitiveDataRegEx = "(password=[\'\"]+)(\\S+)([\'\"]+)";

    private static final Pattern sensitiveDataPattern = Pattern.compile(sensitiveDataRegEx, Pattern.CASE_INSENSITIVE);

    @Pointcut("@annotation(org.apache.dolphinscheduler.api.aspect.AccessLogAnnotation)")
    public void logPointCut(){
        // Do nothing because of it's a pointcut
    }

    @Around("logPointCut()")
    public Object doAround(ProceedingJoinPoint proceedingJoinPoint) throws Throwable {
        long startTime = System.currentTimeMillis();

        // fetch AccessLogAnnotation
        MethodSignature sign =  (MethodSignature) proceedingJoinPoint.getSignature();
        Method method = sign.getMethod();
        AccessLogAnnotation annotation = method.getAnnotation(AccessLogAnnotation.class);

        String traceId = UUID.randomUUID().toString();

        // log request
        //if (!annotation.ignoreRequest()) {
            ServletRequestAttributes attributes = (ServletRequestAttributes) RequestContextHolder.getRequestAttributes();
            if (attributes != null) {
                HttpServletRequest request = attributes.getRequest();
                String traceIdFromHeader = request.getHeader(TRACE_ID);
                if (!StringUtils.isEmpty(traceIdFromHeader)) {
                    traceId = traceIdFromHeader;
                }
                // handle login info
                String userName = parseLoginInfo(request);

                // handle args
                String argsString = parseArgs(proceedingJoinPoint, annotation);
                // handle sensitive data in the string
                argsString = handleSensitiveData(argsString);
                logger.info("REQUEST TRACE_ID:{}, LOGIN_USER:{}, URI:{}, METHOD:{}, HANDLER:{}, ARGS:{}",
                        traceId,
                        userName,
                        request.getRequestURI(),
                        request.getMethod(),
                        proceedingJoinPoint.getSignature().getDeclaringTypeName() + "." + proceedingJoinPoint.getSignature().getName(),
                        argsString);

            }
        //}

        Object ob = proceedingJoinPoint.proceed();

        // log response
        if (!annotation.ignoreResponse()) {
            logger.info("RESPONSE TRACE_ID:{}, BODY:{}, REQUEST DURATION:{} milliseconds", traceId, ob, (System.currentTimeMillis() - startTime));
        }
        User loginUser = (User) (attributes.getRequest().getAttribute(Constants.SESSION_USER));
        if (loginUser != null) {
            SpringApplicationContext.getBean(AuditSubscriberImpl.class).execute(new AuditMessage(loginUser, new Date(), AuditResourceType.USER_MODULE, AuditOperationType.CREATE, 1));
        }

        return ob;
    }

    private String parseArgs(ProceedingJoinPoint proceedingJoinPoint, AccessLogAnnotation annotation) {
        Object[] args = proceedingJoinPoint.getArgs();
        String argsString = Arrays.toString(args);
        if (annotation.ignoreRequestArgs().length > 0) {
            String[] parameterNames = ((MethodSignature) proceedingJoinPoint.getSignature()).getParameterNames();
            if (parameterNames.length > 0) {
                Set<String> ignoreSet = Arrays.stream(annotation.ignoreRequestArgs()).collect(Collectors.toSet());
                HashMap<String, Object> argsMap = new HashMap<>();

                for (int i = 0; i < parameterNames.length; i++) {
                    if (!ignoreSet.contains(parameterNames[i])) {
                        argsMap.put(parameterNames[i], args[i]);
                    }
                }
                argsString = argsMap.toString();
            }
        }
        return argsString;
    }

    protected String handleSensitiveData(String originalData) {
        Matcher matcher = sensitiveDataPattern.matcher(originalData.toLowerCase());
        IntStream stream = IntStream.builder().build();
        boolean exists = false;
        while (matcher.find()) {
            if (matcher.groupCount() == 3) {
                stream = IntStream.concat(stream, IntStream.range(matcher.end(1),matcher.end(2)));
                exists = true;
            }
        }

        if (exists) {
            char[] chars = originalData.toCharArray();
            stream.forEach(idx -> {
                chars[idx] = '*';
            });
            return new String(chars);
        }

        return originalData;
    }

    private String parseLoginInfo(HttpServletRequest request) {
        String userName = "NOT LOGIN";
        User loginUser = (User) (request.getAttribute(Constants.SESSION_USER));
        if (loginUser != null) {
            userName = loginUser.getUserName();
        }
        return userName;
    }

}


1. 下载并安装Hadoop 下载Hadoop并解压缩到指定目录,配置Hadoop环境变量。 2. 下载并安装Zookeeper 下载Zookeeper并解压缩到指定目录,配置Zookeeper环境变量。 3. 下载并安装FastDFS 下载FastDFS并解压缩到指定目录,配置FastDFS环境变量。 4. 配置FastDFS 在FastDFS的安装目录下找到conf目录,将tracker.conf和storage.conf复制到另一个目录下作为配置文件。 修改tracker.conf和storage.conf配置文件中的IP地址和端口号。 启动tracker和storage服务: 进入FastDFS的安装目录,执行以下命令: ./trackerd /etc/fdfs/tracker.conf start ./storaged /etc/fdfs/storage.conf start 5. 配置dolphinscheduler 进入dolphinscheduler的安装目录,编辑conf/dolphinscheduler.properties文件。 配置资源中心相关属性: ``` # resource center properties ds.resourcemanager.url=http://localhost:8032 ds.resourcemanager.scheduler.address=http://localhost:8030 ds.resourcemanager.webapp.address=http://localhost:8088 ds.resourcemanager.webapp.https.address=https://localhost:8090 ds.resourcemanager.principal=hadoop/_HOST@EXAMPLE.COM ds.resourcemanager.keytab=/etc/security/keytabs/hdfs.headless.keytab ds.resourcemanager.default.queue=root.default ds.resourcemanager.fs.defaultFS=hdfs://localhost:9000 ds.fastdfs.tracker_servers=192.168.1.100:22122 ds.fastdfs.connect_timeout=5000 ds.fastdfs.network_timeout=30000 ds.fastdfs.charset=UTF-8 ds.fastdfs.http_anti_steal_token=false ds.fastdfs.http_secret_key=FastDFS1234567890 ds.fastdfs.http_tracker_http_port=8080 ds.fastdfs.tracker_http_port=8080 ds.fastdfs.http_tracker_https_port=8081 ds.fastdfs.tracker_https_port=8081 ``` 其中: - ds.resourcemanager.url:Hadoop的ResourceManager地址。 - ds.resourcemanager.scheduler.address:Hadoop的ResourceManager的scheduler地址。 - ds.resourcemanager.webapp.address:Hadoop的ResourceManager的webapp地址。 - ds.resourcemanager.webapp.https.address:Hadoop的ResourceManager的https地址。 - ds.resourcemanager.principal:Hadoop的ResourceManager的Kerberos principal。 - ds.resourcemanager.keytab:Hadoop的ResourceManager的Kerberos keytab文件路径。 - ds.resourcemanager.default.queue:Hadoop的ResourceManager的默认队列。 - ds.resourcemanager.fs.defaultFS:Hadoop的FileSystem的默认FileSystem。 - ds.fastdfs.tracker_servers:FastDFS的tracker服务器地址,多个地址用逗号分隔。 - ds.fastdfs.connect_timeout:FastDFS客户端连接超时时间,单位为毫秒。 - ds.fastdfs.network_timeout:FastDFS客户端网络超时时间,单位为毫秒。 - ds.fastdfs.charset:FastDFS客户端字符集。 - ds.fastdfs.http_anti_steal_token:FastDFS客户端是否开启防盗链。 - ds.fastdfs.http_secret_key:FastDFS客户端的secret_key。 - ds.fastdfs.http_tracker_http_port:FastDFS的tracker服务器的http端口。 - ds.fastdfs.tracker_http_port:FastDFS的tracker服务器的http端口。 - ds.fastdfs.http_tracker_https_port:FastDFS的tracker服务器的https端口。 - ds.fastdfs.tracker_https_port:FastDFS的tracker服务器的https端口。 6. 启动dolphinscheduler 进入dolphinscheduler的bin目录,执行以下命令: ./dolphinscheduler-daemon.sh start resourcemanager 启动成功后,可以访问http://localhost:12345/resourcemanager进行资源中心的管理。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

韧小钊

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值