golang分布式文件服务器,分享一个用go实现的分布式文件系统:godfs

godfs

godfs.svg?branch=master

godfs 是一个用go实现的轻量,快速,简单易用的分布式文件存储服务器。

godfs 开箱即用,并对docker支持友好。

835630cf605270e8bb8cfa9dfc6064e9.png

特性快速, 轻量, 开箱即用, 友好的API

易于扩展,运行稳定

非常低的资源开销

提供原生的客户端和Java客户端(还未开始)

提供HTTP方式的下载和上传API

清晰的日志帮助排查运行异常

支持不同平台下的编译运行: Linux, Windows, Mac

更好地支持docker容器

文件分片保存

完美的文件迁移解决方案

支持读写和只读文件节点

文件组内自动同步

安装请先安装golang1.9+

以CentOS7为例.

从最新的源码构建:yum install golang -y

git clone https://github.com/hetianyi/godfs.git

cd godfs

./make.sh

构建成功后, 三个文件会生成在./bin 目录下,分别是:

./bin/client

./bin/storage

./bin/tracker

将构建成功的二进制文件安装到目录 /usr/local/godfs:

./install.sh /usr/local/godfs

启动tracker服务:

/usr/local/godfs/bin/tracker [-c /your/tracker/config/path]

启动storage服务:

/usr/local/godfs/bin/storage [-c /your/storage/config/path]

然后你就可以在命令行直接使用 client 来上传和下载文件了。

当然要先设置trackers服务器设置(见下)

举个栗子:

上传一个文件:

client -u /you/upload/file

a848f4e8ef0af83b2942be37c7e5eea7.png

或者可以用一个更酷的命令来上传一个文件夹下所有的文件:

echo \"$(ls -m /f/foo)\" |xargs client -u

fa7bbea84187176351629e22d14a38c7.png

# 下载文件

client -d G01/10/M/2c9da7ea280c020db7f4879f8180dfd6 -n 123.zip

从最新源代码构建docker镜像:cd godfs/docker

docker build -t godfs .

强烈推荐使用docker来运行godfs.

最新的godfs的docker镜像可以在 docker hub 获取:

docker pull hehety/godfs

启动tracker服务器:

docker run -d -p 1022:1022 --name tracker --restart always -v /godfs/data:/godfs/data --privileged -e log_level="info" hehety/godfs:latest tracker

启动storage服务器:

docker run -d -p 1024:1024 -p 80:8001 --name storage -v /godfs/data:/godfs/data --privileged -e trackers=192.168.1.172:1022 -e bind_address=192.168.1.187 -e port=1024 -e instance_id="01" hehety/godfs storage

# 单机上部署多个storage最好加上命令: '-e port=1024'

这里,我们使用宿主机上的目录 /godfs/data 来存放上传的文件。

客户端命令:

-u string

the file to be upload, if you want upload many file once, quote file paths using """ and split with ","

example:

client -u "/home/foo/bar1.tar.gz, /home/foo/bar1.tar.gz"

-d string

the file to be download

-l string

custom logging level: trace, debug, info, warning, error, and fatal

-n string

custom download file name

--set string

set client config, for example:

client --set "tracker=127.0.0.1:1022"

client --set "log_level=info"

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 我们可以使用Golang来构建一个分布式缓存系统。一般来说,分布式缓存系统的实现包括:缓存服务器、缓存客户端、分布式缓存服务器分布式缓存客户端、分布式缓存存储引擎和缓存管理服务器。使用Golang可以构建一个可靠、可扩展、高性能的分布式缓存系统。 ### 回答2: 分布式缓存系统是一个将数据存储在多台机器上的缓存系统,可以提高数据访问的性能和并发能力。在golang中,我们可以使用一些库和技术来实现一个分布式缓存系统。 首先,我们需要选择一个合适的分布式存储技术来存储缓存数据,比如使用Redis或Memcached。这些技术可以让我们将缓存数据分布在多个节点上,并提供高性能的读写操作。 其次,我们需要设计一个对外提供接口的服务来操作缓存。可以使用golang的HTTP服务器实现这个服务。通过定义一些RESTful API,如GET、PUT、DELETE等,客户端可以向服务器发送请求来获取、设置或删除缓存数据。 在服务器端的代码中,我们需要处理接收到的请求,并将其映射到相应的缓存操作。当有GET请求时,我们需要先检查缓存中是否存在所需的数据,如果存在则直接返回,否则再从存储系统获取数据并放入缓存中。当有PUT请求时,需要将数据存储到缓存和存储系统中。当有DELETE请求时,需要从缓存和存储系统中删除相应的数据。 为了实现缓存的分布式特性,我们可以使用一致性哈希算法或一致性哈希环来将缓存数据分布到不同的节点上。这样可以确保当节点发生故障或增加时,仅会影响到部分数据,而不会影响全部缓存数据。 最后,我们需要定期清理缓存中的过期数据,以防止缓存数据占用过多的存储空间。可以使用定时任务或定时器来实现这个功能。 以上是一个简单的分布式缓存系统的设计和实现过程。当然,实际的分布式缓存系统可能还涉及到一些其他的问题,如并发控制、持久化存储等,但是以上提到的内容可以帮助我们开始构建一个基本的分布式缓存系统。 ### 回答3: 分布式缓存系统是用来提高系统的读取性能和减轻数据库压力的重要组件,能够将数据存储在多个节点上,提供快速的访问速度和高可用性。 在使用golang编写一个分布式缓存系统时,可以先考虑以下几个关键点: 1. 数据分片:将数据按照一定的规则分散存储到不同的节点上,可以使用一致性哈希算法或分片算法来实现。 2. 节点管理:需要设计节点的动态增删、负载均衡以及容错机制。可以使用集群管理工具如etcd或者zookeeper来实现。 3. 数据存储:使用内存数据库如Redis或Memcached来存储缓存数据,并保证数据的一致性和高可用性。可以选择golang中的redis或memcache客户端库进行数据读写。 4. 缓存更新和失效:提供缓存的自动更新机制,当数据发生变化时,需要及时更新缓存数据,同时设置合理的缓存失效策略,避免使用过期的数据。 5. 高可用性:保证缓存系统的高可用性,当节点出现故障时,能够自动切换到其他可用的节点上,并进行数据恢复。 6. 监控和日志:实现对缓存系统的监控和日志记录,可以使用Prometheus和Grafana等工具进行监控和性能分析。 在实现分布式缓存系统时,需要综合考虑不同的因素,并做好合理的设计和优化。同时,需要进行大规模测试和性能调优,确保系统的稳定和高效运行。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值