InfluxDB源码阅读之snapshotter服务

Stella981
• 阅读 633

操作系统 : CentOS7.3.1611_x64

go语言版本:1.8.3 linux/amd64

InfluxDB版本:1.1.0

服务模块介绍

源码路径: github.com/influxdata/influxdb/services/snapshotter

service.go : snapshotter服务的实现

service_test.go : snapshotter服务的测试代码

client.go : 提供snapshotter服务的客户端访问API

快照服务主要提供如下功能:

  • TSM碎片文件备份
  • Meta文件备份

拥有独特的标记( BackupMagicHeader ,针对meta文件): 0x59590101

  • 数据库信息备份
  • 数据库存储策略信息备份

Service结构

该结构所在文件 :service.go

snapshotter主服务结构如下:

type Service struct {
    wg  sync.WaitGroup
    err chan error

    Node *influxdb.Node

    MetaClient interface {
        encoding.BinaryMarshaler
        Database(name string) *meta.DatabaseInfo
    }

    TSDBStore *tsdb.Store

    Listener net.Listener
    Logger   *log.Logger
}

解释如下:

  • wg

使用锁机制进行数据同步

服务收到连接请求后,首先计数器加1,然后在独立的goroutine中处理该连接,处理完成时计数器减1;

调用Close接口时,wg进行阻塞操作,保证服务关闭时所有任务都完成。

  • err

error通道,暂时不知道怎么用。

  • Node

InfluxDB节点信息,集群相关功能。

  • MetaClient

Meta服务客户端接口,获取Meta的信息,用于备份Meta文件、数据库信息、数据库存储策略。

  • TSDBStore

InfluxDB存储引擎指针,用于备份数据库的TSM碎片文件。

  • Listener

socket对象,用于监听服务端口、接收客户端放来的请求。

  • Logger

日志指针,用于记录快照服务在运行过程中产生的日志。

Request结构

该结构所在文件 :service.go

snapshotter客户端请求的数据结构如下:

type Request struct {
    Type            RequestType
    Database        string
    RetentionPolicy string
    ShardID         uint64
    Since           time.Time
}

解释如下:

  • Type

用于区别数据备份的类型。

  • Database

Meta文件备份、数据库信息备份、存储策略备份时使用,用于指定需要备份的数据库名称。

  • RetentionPolicy

存储策略备份时使用,用于指定需要备份的数据库存储策略的名称。

  • ShardID

TSM碎片文件备份时使用,用于指定碎片ID。

  • Since

TSM碎片文件备份时使用,用于指定起始时间。

Response结构

结构如下:

type Response struct {
    Paths []string
}

该服务在InfluxDB中的应用

该服务在InfluxDB主服务器程序(influxd)中使用,具体如下:

[root@localhost influxdb]# grep "github.com/influxdata/influxdb/services/snapshotter" * -rn
cmd/influxd/backup/backup.go:18:        "github.com/influxdata/influxdb/services/snapshotter"
cmd/influxd/restore/restore.go:20:      "github.com/influxdata/influxdb/services/snapshotter"
cmd/influxd/run/server.go:28:   "github.com/influxdata/influxdb/services/snapshotter"
services/snapshotter/service.go:1:package snapshotter // import "github.com/influxdata/influxdb/services/snapshotter"
[root@localhost influxdb]#

1、服务流程

在 Server->Open 中通过 Server->appendSnapshotterService 加载SnapshotterService。

通过 Server->SnapshotterService 对外提供服务。

2、备份流程

备份流程如下:

通过控制台获取用户指令;

连接SnapshotterService,并发送请求;

执行备份过程;

snapshotter在该流程中充当SnapshotterService的客户端,负责转发请求及获取响应。

3、恢复流程

snapshotter在恢复流程中主要验证下 BackupMagicHeader 是否正确。 

好,就这些了,希望对你有帮助。

本文github地址:

https://github.com/mike-zhang/mikeBlogEssays/blob/master/2018/20180208_InfluxDB源码阅读之snapshotter服务.rst

欢迎补充

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
3个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Stella981 Stella981
3年前
Opencv中Mat矩阵相乘——点乘、dot、mul运算详解
Opencv中Mat矩阵相乘——点乘、dot、mul运算详解2016年09月02日00:00:36 \牧野(https://www.oschina.net/action/GoToLink?urlhttps%3A%2F%2Fme.csdn.net%2Fdcrmg) 阅读数:59593
Stella981 Stella981
3年前
KVM调整cpu和内存
一.修改kvm虚拟机的配置1、virsheditcentos7找到“memory”和“vcpu”标签,将<namecentos7</name<uuid2220a6d1a36a4fbb8523e078b3dfe795</uuid
Wesley13 Wesley13
3年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败,请联系管理员!');中国在东8区所以加8方法二:selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
Wesley13 Wesley13
3年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Wesley13 Wesley13
3年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
9个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这