Prometheus指标数据同步机制

最新推荐文章于 2024-05-24 10:11:39 发布

萌兰三太子

最新推荐文章于 2024-05-24 10:11:39 发布

阅读量814

点赞数 1

文章标签： prometheus

本文链接：https://blog.csdn.net/m0_47495420/article/details/130858365

版权

本文详细解析了Prometheus的指标数据同步机制，包括源码分析、配置同步、数据处理入口以及数据同步的具体步骤。每个抓取目标由单独的goroutine按固定间隔进行指标抓取，抓取后的数据经过处理后写入底层存储。

摘要由CSDN通过智能技术生成

源码地址：https://github.com/prometheus/prometheus

整体代码框架大致如下：

由scrape.Manager管理所有的抓取对象；
所有的抓取对象按group分组，每个group是一个job_name；
每个group下含多个scrapeTarget，即具体的抓取目标endpoint；
对每个目标endpoint，启动一个抓取goroutine，按照interval间隔循环的抓取对象的指标；

同步配置

假如prometheus.yaml中的抓取配置为：

scrape_configs:
  - job_name: "monitor"
    static_configs:
    - targets: ['192.168.101.9:11504']


  - job_name: 'node-exporter'
    static_configs:
    - targets: ['10.21.1.74:9100', '192.168.101.9:9100']

那么，抓取对象将按如下结构分组：

{
    "monitor": [
        {
            "Targets": [
                {
                    "__address__": "192.168.101.9:11504"
                }
            ],
            "Labels": null,
            "Source": "0"
        }
    ],
    "node-exporter": [
        {
            "Targets": [
                {
                    "__address__": "10.21.1.74:9100"
                },
                {
                    "__address__": "192.168.101.9:9100"
                }
            ],
            "Labels": null,
            "Source": "0"
        }
    ]
}

入口方法

下面来看下数据处理的入口方法：

func (m *Manager) reload() {
   m.mtxScrape.Lock()
   var wg sync.WaitGroup
   for setName, groups := range m.targetSets {
      if _, ok := m.scrapePools[setName]; !ok {
         scrapeConfig, ok := m.scrapeConfigs[setName]
         if !ok {
            level.Error(m.logger).Log("msg", "error reloading target set", "err", "invalid config id:"+setName)
            continue
         }
         sp, err := newScrapePool(scrapeConfig, m.append, m.jitterSeed, log.With(m.logger, "scrape_pool", setName), m.opts)
         if err != nil {
            level.Error(m.logger).Log("msg", "error creating new scrape pool", "err", err, "scrape_pool", setName)
            continue
         }
         m.scrapePools[setName] = sp
      }

      wg.Add(1)
      // Run the sync in parallel as these take a while and at high load can't catch up.
      go func(sp *scrapePool, groups []*targetgroup.Group) {
         sp.Sync(groups)
         wg.Done()
      }(m.scrapePools[s