由于spark streaming最后需要将原始日志分割存入数据库中,需要写正则表达式(Regex)去匹配分割Nginx日志
这次get到了正则表达式的子表达式,通过子表达式一次性匹配多个项,从而用一个正则表达式提取所必要的信息
但是,由于参考项目的日志与我们的日志有所不同,我们需要在其正则表达式中进行修改,增加对userAgent头和X-Forwarded-For头的匹配
但是由于正则表达式的贪婪匹配,匹配引号时总会和前面的http请求一起匹配到一起,导致匹配不到足够多的子表达式,然后取数据时数组越界错误
后面经过修改,通过对空白字符的精确匹配,成功克服这个错误
以下给出这次正则表达式的flag
^(\S+) (\S+) (\S+) \[([\w:/]+\s[+\-]\d{4})\] "(\S+)\s?(\S+)?\s?(\S+)?" (\d{3}|-) (\d+|-)\s?"?([^"]*)"?\s?"?([^"]*)?"?\s?"(\d.\d.\d.\d|-)"$