单机版splunk创建索引和重写source,sourcetype,原日志保持不变

本文档详细介绍了如何配置Splunk的indexes.conf、input.conf、props.conf和transforms.conf文件,以创建名为'custom'的索引,并针对TCP端口60002上的输入设置自定义'sourcetype'为'custom-log'。通过正则表达式从日志中提取'app_id'和'log_type',并分别用于'MetaData:Source'和'MetaData:Sourcetype'字段。同时提供了一个Java发送日志数据到 Splunk 的示例。
摘要由CSDN通过智能技术生成

indexes.conf

[custom]

homePath   = $SPLUNK_DB\custom\db

coldPath   = $SPLUNK_DB\custom\colddb

thawedPath = $SPLUNK_DB\custom\thaweddb

tstatsHomePath = volume:_splunk_summaries\custom\datamodel_summary

maxMemMB = 20

maxConcurrentOptimizes = 6

maxHotIdleSecs = 86400

maxHotBuckets = 10

maxDataSize = auto_high_volume

 

input.conf

[tcp::60002]

sourcetype=custom-log

connection_host=dns

index=custom

 

props.conf

[custom-log]

TRANSFORMS-source = set-source

TRANSFORMS-sourcetype = set-sourcetype

 TRANSFORMS-sourcetype = set-rawdata

 

transforms.conf

[set-source]

REGEX = <tag>app_id:(.*),log_type:(.*)<tag>

FORMAT = source::$1

DEST_KEY = MetaData:Source

WRITE_META = true

 

 

[set-sourcetype]

REGEX = <tag>app_id:(.*),log_type:(.*)<tag>

FORMAT = sourcetype::$1##$2

DEST_KEY = MetaData:Sourcetype

WRITE_META = true

 

 

[set-rawdata]

REGEX = <tag>app_id:(.*),log_type:(.*)<tag>(.*)

FORMAT = $3

DEST_KEY = _raw

 

 

public class InputTest {

 

public static void main(String[] args) throws Throwable {

//send(60001, "2008-10-30 14:15:21 mightyhost awesomeftpd INFO Attempt to login by user: root: login FAILEDaaaaaaaaaaddddde.\r\n\r\n");

send(60002,"<tag>app_id:quguilai,log_type:cuostlog<tag> test log");

 

}

 

private static void send(int port, String message) throws UnknownHostException, IOException {

Socket socket = new Socket("localhost", port);

   // 向服务端程序发送数据

   OutputStream ops = socket.getOutputStream();    

   OutputStreamWriter opsw = new OutputStreamWriter(ops);

   BufferedWriter bw = new BufferedWriter(opsw);

     

   bw.write(message);

   bw.flush();

   

   ops.close();

   opsw.close();

   bw.close();

   socket.close();

}

}

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值