问题如下:
现在有一个12G的日志XXX.log文件,里面存放用户登录记录格式如下:
[用户名XXX:YYYY-mm-DD-HH-MM-ss:IP地址]
问题1.找出活动用户(活动用户即登录次数最多)并且得到登录次数
问题2.找出用户名为XXX的所有登录记录
前提:
用java语言实现,且不得借三方工具框架包 不能放入数据库借助数据库的全文检索
现在有一个12G的日志XXX.log文件,里面存放用户登录记录格式如下:
[用户名XXX:YYYY-mm-DD-HH-MM-ss:IP地址]
问题1.找出活动用户(活动用户即登录次数最多)并且得到登录次数
问题2.找出用户名为XXX的所有登录记录
前提:
用java语言实现,且不得借三方工具框架包 不能放入数据库借助数据库的全文检索
并且控制好CPU及内存的使用情况
可能解决方式回答:
1.使用nio 将文件映射到留存,然后就是字符串处理。
2.分批读+优先对列 得出登录次数最多的用户
3.用nio读取大文件。2、用正则表达式匹配每条记录,然后匹配用户名、时间和ip地址,把这些信息封装到一个用户对象里,用list保存这些对象。3、再从list中找出相同用户名最多的用户。
4.nio操作小文件做映射是非常快,nio读12g这么大的文件肯定会内存溢出的,list保存对象,这么大数据的list得消耗多大的内存。5.一次读取估计不行,我的想法是把这个log分成多个小文件(每个文件的大小不能大于系统可用内存),然后对每个小文件进行处理。对于要找出最多的那个登陆用户,我想用hashmap来实现。