通过redis实现分布式存储fastdfs的文件名对应记录

最新推荐文章于 2024-08-01 05:10:58 发布

mojolang

最新推荐文章于 2024-08-01 05:10:58 发布

阅读量4k

点赞数 1

文章标签： fastDFS

周天被朋友拖住了，他说最近要实现一个文件分享的网站，一个是图片，一个是特定的文件，比如压缩包、pdf这类的。他是做idc的，手里的资源还是不少的，想通过文件分享网站来导入点所谓的流量。哥年轻时跟他搞过一个php的淘宝图片站，结果有个卖衣服的站点，流量很大，成本太高了，再说也没钱再次投入了，也就放弃 ~ 没赚多少钱，倒是赔给那几个淘宝卖家100多块钱。想起往事，还算有趣的 ~

现在的我以前不是当初菜鸟的我了，google了半天，从别地方，拔下来一个html模板，而且还是很高端的样子，后端是用pyton的tornado框架改了改，跑了几个实例都是没有问题的 ~

实现的方法简单的

上传

建立表单，文件上传，然后写如到tmp目录的下，调用我自己写的python fastdfs模块上传文件。

下载

可以通过fastdfs本身的web做下载连接，但是为了更高的性能，推荐使用nginx fastdfs模块来实现的下载，给朋友也是这么做的。

（还没有正式的上线）

subprocess 调用系统的fastdfs客户端

上传文件：/usr/local/bin/fdfs_upload_file  <config_file> <local_filename>

tornado的文件上传api

def post(self):                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
    upload_path=os.path.join(os.path.dirname(__file__),'files')  #文件的暂存路径                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
    file_metas=self.request.files['file']    #提取表单中‘name’为‘file’的文件元数据
                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
    for meta in file_metas:                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
        filename=meta['filename']                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
        filepath=os.path.join(upload_path,filename)                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
        with open(filepath,'wb') as up:      #有些文件需要已二进制的形式存储，实际中可以更改                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
            up.write(meta['body'])                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
        self.write('finished!')                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                              
                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
app=tornado.web.Application([                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
    (r'/file',UploadFileHandler),                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               
])

一般来说，上传后得到的文件名字，是一串hash，和以前的名字比起来不太一样。

举个例子，我明明上传的文件时 xiaorui.jpg，结果fastdfs接口给我返回的是一堆的hash ，这是在让人有点小郁闷。

我这里还只是图片的应用，后期文件功能出来后，让人看到的都是hash，你都不能通过hash想象出他的文件。

查看了uc那边的技术博客，扩展了一套简单的路子。

1. 应用系统在上传文件到FastDFS成功时将原始文件名和“文件索引（FID）”保存下来，我这里会记录在redis里面。

2. 在浏览器下载的时用Nginx的域名和FID拼出url，在url后面增加一个参数，指定原始文件名。例如： xxx.xx.xx.xx/group2/M00/00/89/eQ6h3FKJf_PRl8p4AUz4wO8tqaA688.apk?attname=xiaorui.cc

3. 在Nginx上进行如下配置，这样Nginx就会截获url中的参数attname，在Http响应头里面加上字段 Content-Disposition “attachment;filename=$arg_attname”。

location /group1/M00 {
root /data/store/data1;
if ($arg_attname ~ "^(.*).cc") {
    add_header Content-Disposition "attachment;filename=$arg_attname";
}
ngx_fastdfs_module;
}
location /group2/M00 {
root /data/store/data2;
if ($arg_attname ~ "^(.*).cc") {
    add_header Content-Disposition "attachment;filename=$arg_attname";
}
ngx_fastdfs_module;
}