分布式第七章 FastDFS

最新推荐文章于 2022-07-11 02:13:37 发布

日天家的猫

最新推荐文章于 2022-07-11 02:13:37 发布

阅读量261

点赞数

分类专栏：分布式文章标签： java 数据库 FastDFS

本文链接：https://blog.csdn.net/RTyinying/article/details/120200573

版权

分布式专栏收录该内容

8 篇文章 0 订阅

订阅专栏

文章目录

传送门

第1章 FastDFS入门

在这里插入图片描述

FastDFS整体架构

两大机构：客户端（通常为我们的程序）+服务端（跟踪器[调度工作]+存储结点[文件存储及管理]）

第2章 FastDFS环境搭建

启动tracker、storage，上传文件

fdfs_trackerd /etc/fdfs/tracker.conf
fdfs_storaged /etc/fdfs/storage.conf
ps -ef | grep fdfs
fdfs_test /etc/fdfs/client.conf upload aa.txt

第3章 FastDFS的Http访问

超级繁琐，吐了

但配置一次之后就方便了

扩展模块执行流程:
在这里插入图片描述

第4章 FastDFS 在Java项目中的开发示例

package fun.rtzhao.fastdfs;

import org.csource.common.MyException;
import org.csource.fastdfs.*;

import java.io.IOException;

/** @Author 邪王真眼是最强的 @Date 2021/9/9 17:44 @Version 1.0 */
public class FastDFSUtil {
  public static void main(String[] args) {
    delect();
  }
  /*上传文件*/
  public static void upload() {

    TrackerServer trackerServer = null;
    StorageServer storageServer = null;

    try {
      /*读取Fastdfs配置文件，将所有的tracker的地址读到内存中去*/
      ClientGlobal.init("fastdfs.conf");
      TrackerClient trackerClient = new TrackerClient();
      trackerServer = trackerClient.getConnection();
      storageServer = trackerClient.getStoreStorage(trackerServer);
      // 定义Storage的客户端对象，用它完成具体的文件上传、下载和删除
      StorageClient storageClient = new StorageClient(trackerServer, storageServer);

      String[] result = storageClient.upload_file("d:/test.jpg", "jpg", null);

      for (String str:result){
        System.out.println(str);
      }

    } catch (IOException e) {
      e.printStackTrace();
    } catch (MyException e) {
      e.printStackTrace();
    }finally{
      if(storageServer!=null){
        try {
          storageServer.close();
        } catch (IOException e) {
          e.printStackTrace();
        }
      }
      if(trackerServer!=null){
        try {
          trackerServer.close();
        } catch (IOException e) {
          e.printStackTrace();
        }
      }
    }
  }

  /*下载文件*/
  public static void download() {

    TrackerServer trackerServer = null;
    StorageServer storageServer = null;

    try {
      /*读取Fastdfs配置文件，将所有的tracker的地址读到内存中去*/
      ClientGlobal.init("fastdfs.conf");
      TrackerClient trackerClient = new TrackerClient();
      trackerServer = trackerClient.getConnection();
      storageServer = trackerClient.getStoreStorage(trackerServer);
      // 定义Storage的客户端对象，用它完成具体的文件上传、下载和删除
      StorageClient storageClient = new StorageClient(trackerServer, storageServer);

      int result =
          storageClient.download_file(
              "group1", "M00/00/00/wKg0gGE529iAb4XMAAe9bZMw0PM358.jpg", "d:/aa.jpg");
      System.out.println(result);
    } catch (IOException e) {
      e.printStackTrace();
    } catch (MyException e) {
      e.printStackTrace();
    }finally{
      if(storageServer!=null){
        try {
          storageServer.close();
        } catch (IOException e) {
          e.printStackTrace();
        }
      }
      if(trackerServer!=null){
        try {
          trackerServer.close();
        } catch (IOException e) {
          e.printStackTrace();
        }
      }
    }
  }

  /*删除文件*/
  public static void delect() {

    TrackerServer trackerServer = null;
    StorageServer storageServer = null;

    try {
      /*读取Fastdfs配置文件，将所有的tracker的地址读到内存中去*/
      ClientGlobal.init("fastdfs.conf");
      TrackerClient trackerClient = new TrackerClient();
      trackerServer = trackerClient.getConnection();
      storageServer = trackerClient.getStoreStorage(trackerServer);
      // 定义Storage的客户端对象，用它完成具体的文件上传、下载和删除
      StorageClient storageClient = new StorageClient(trackerServer, storageServer);
      int result =
          storageClient.delete_file("group1", "M00/00/00/wKg0gGE529iAb4XMAAe9bZMw0PM358.jpg");
      System.out.println(result);

    } catch (IOException e) {
      e.printStackTrace();
    } catch (MyException e) {
      e.printStackTrace();
    }finally{
      if(storageServer!=null){
        try {
          storageServer.close();
        } catch (IOException e) {
          e.printStackTrace();
        }
      }
      if(trackerServer!=null){
        try {
          trackerServer.close();
        } catch (IOException e) {
          e.printStackTrace();
        }
      }
    }
  }


}

第5章 FastDFS 在Web项目中的应用

文件从用户的机器上传到web服务器tomcat中，在tomcat中拿到用户的文件流，再将文件流上传到fastDFS中并且存入到数据库中

错误：初步搭建springboot应用，报错：Failed to configure a DataSource: ‘url’ attribute is not specified and no embedd

解决办法：properties配置文件未能正确被识别，需要根据添加的起步依赖修改配置文件字段，如下

spring.datasource.driverClassName=com.mysql.jdbc.Driver
spring.datasource.url=jdbc:mysql://127.0.0.1:3306/fastdfs?useUnicode=true&characterEncoding=UTF-8&useSSL=false
spring.datasource.username=root
spring.datasource.password=333

IDEA识别完成所有字段，才能顺利运行

不正确解决方式----spring boot 会默认加载org.springframework.boot.autoconfigure.jdbc.DataSourceAutoConfiguration这个类，而DataSourceAutoConfiguration类使用了@Configuration注解向spring注入了dataSource bean，又因为项目（oss模块）中并没有关于dataSource相关的配置信息，所以当spring创建dataSource bean时因缺少相关的信息就会报错。解决办法：在@SpringBootApplication注解上加上exclude，解除自动加载DataSourceAutoConfiguration

第6章 FastDFS 分布式文件系统集群

太湖之光集群
在这里插入图片描述

负载均衡操作

#0为轮询、1为指定组、2为存储空间优先
store_lookup=0
store_group=group2

文件访问执行流程:
在这里插入图片描述

集群配置流程
FastDFS分布式文件系统集群环境搭建-操作步骤手册

搭建一个FastDFS分布式文件系统集群，推荐至少部署6个服务器节点；
搭建FastDFS的集群
第一步：安装6个迷你版的Linux，迷你版Linux没有图形界面，占用磁盘及资源小，企业里面使用的Linux都是没有图形界面的Linux；

第二步：由于迷你版Linux缺少一些常用的工具库，操作起来不方便，推荐安装如下的工具库：
1、安装lrzsz， yum install lrzsz -y
2、安装wget, yum install wget -y
4、安装vim， yum install vim -y
5、安装unzip，yum install unzip -y
6、安装ifconfig，yum install net-tools -y

yum install lrzsz wget vim unzip net-tools -y

7、安装nginx及fastdfs需要的库依赖：
yum install gcc perl openssl openssl-devel pcre pcre-devel zlib zlib-devel libevent libevent-devel -y

第三步 安装fastdfs
1、上传fastdfs的安装包和libfastcommon的安装包
2、解压libfastcommon 安装libfastcommon
3、解压fastdfs 安装fastdfs
4、拷贝fastdfs目录中的http.conf和mime.types到/etc/fdfs 目录中
注：6台机器全部执行这些操作

第四步：部署两个tracker server服务器，需要做的工作:

修改两个tracker服务器的配置文件：
tracker.conf: 修改一个地方：
base_path=/opt/fastdfs/tracker   #设置tracker的数据文件和日志目录（需预先创建）
启动tracker服务器 fdfs_trackerd /etc/fdfs/tracker.conf

第五步 修改两个组中的4台storage中storage.conf文件
第一组group1的第一个storage server（修改storage.conf配置文件）：
group_name=group1 #组名，根据实际情况修改，值为 group1 或 group2
base_path=/opt/fastdfs/storage #设置storage的日志目录（需预先创建）
store_path0=/opt/fastdfs/storage/files #存储路径
tracker_server=192.168.171.135:22122 #tracker服务器的IP地址以及端口号
tracker_server=192.168.171.136:22122

第二组group2的第一个storage server（修改storage.conf配置文件）：
group_name=group2   #组名，根据实际情况修改，值为 group1 或 group2
base_path=/opt/fastdfs/storage   #设置storage的日志目录（需预先创建）
store_path0=/opt/fastdfs/storage/files    #存储路径
tracker_server=192.168.171.135:22122  #tracker服务器的IP地址以及端口号
tracker_server=192.168.171.136:22122

启动storage服务器
使用之前的Java代码测试FastDFS的6台机器是否可以上传文件

注意：FastDFS默认是带有负载均衡策略的可以在tracker的2台机器中修改tracker.conf文件
store_lookup=1

0 随机存放策略
1 指定组
2 选择磁盘空间的优先存放 默认值

修改后重启服务
fdfs_trackerd /etc/fdfs/tracker.conf restart

使用Nginx进行负载均衡

第六步 安装 nginx ，使用nginx 对fastdfs 进行负载均衡
上传 nginx-1.12.2.tar.gz以及 nginx的fastdfs扩展模块安装包fastdfs-nginx-module-master.zip
添加nginx的安装依赖
yum install gcc openssl openssl-devel pcre pcre-devel zlib zlib-devel -y
解压nginx
tar -zxvf nginx-1.12.2.tar.gz
解压fastdfs扩展模块
unzip fastdfs-nginx-module-master.zip
配置nginx的安装信息
2台tracker服务器的配置信息（不需要fastdfs模块）
./configure --prefix=/usr/local/nginx_fdfs
4台storage服务器其的配置信息（需要使用fastdfs模块）
./configure --prefix=/usr/local/nginx_fdfs --add-module=/root/fastdfs-nginx-module-master/src
编译并安装nginx
./make
./make install

4台storage的服务器需要拷贝mod_fastdfs文件
将/root/fastdfs-nginx-module-master/src目录下的mod_fastdfs.conf文件拷贝到 /etc/fdfs/目录下，这样才能正常启动Nginx；

第七步 配置tracker 的两台机器的nginx
进入安装目录
cd /usr/local/nginx_fdfs

添加一个location 对请求进行拦截，配置一个正则规则 拦截fastdfs的文件路径， 并将请求转发到其余的4台storage服务器(修改 conf目录下nginx.conf 文件)
#nginx拦截请求路径：
location ~ /group[1-9]/M0[0-9] {   
    proxy_pass http://fastdfs_group_server; 
}



添加一个upstream 执行服务的IP为 另外的4台stroage 的地址
#部署配置nginx负载均衡:
upstream fastdfs_group_server {  
    server 192.168.171.137:80;  
    server 192.168.171.138:80;
    server 192.168.171.139:80;  
    server 192.168.171.140:80;  
}

第八步 配置另外4台storage的nginx添加http访问的请求路径拦截
进入安装目录
cd /usr/local/nginx_fdfs
添加一个location 对请求进行拦截，配置一个正则规则拦截fastdfs的文件路径，使用fastdfs的nginx模块转发请求(修改 conf目录下nginx.conf 文件)
#nginx拦截请求路径：
location ~ /group[1-9]/M0[0-9] {
ngx_fastdfs_module;
}

第九步 分别修改4台storage服务器的mod_fasfdfs.conf文件（/etc/fdfs/mod_fastdfs.conf）
#修改基本路径，并在指定路径创建对应文件夹
base_path=/opt/fastdfs/nginx_mod #保存日志目录
#指定两台tracker服务器的ip和端口
tracker_server=192.168.171.135:22122 #tracker服务器的IP地址以及端口号
tracker_server=192.168.171.136:22122
#指定storage服务器的端口号
storage_server_port=23000 #通常情况不需要修改
#指定当前的storage服务器所属的组名（当前案例03和04为group1 05和06为group2）
group_name=group1 #当前服务器的group名
#指定url路径中是否包含组名（当前案例url包含组名）
url_have_group_name=true #文件url中是否有group名
store_path_count=1 #存储路径个数，需要和store_path个数匹配（一般不用改）
store_path0=/opt/fastdfs/storage/files #存储路径
#指定组个数，根据实际配置决定，（当前案例拥有2个组group1和group2）
group_count = 2 #设置组的个数

在末尾增加2个组的具体信息：
[group1]
group_name=group1
storage_server_port=23000
store_path_count=1
store_path0=/opt/fastdfs/storage/files

[group2]
group_name=group2
storage_server_port=23000
store_path_count=1
store_path0=/opt/fastdfs/storage/files

第一个组的第二个storage按照相同的步骤操作；

另外一个组的两个storage也按照相同的步骤操作；

#测试nginx的配置文件是否正确（测试全部6台服务器）
   /usr/local/nginx_fdfs/sbin/nginx -c /usr/local/nginx_fdfs/conf/nginx.conf -t
#启动nginx服务器(全部6台服务器)
  /usr/local/nginx_fdfs/sbin/nginx -c /usr/local/nginx_fdfs/conf/nginx.conf

测试：使用浏览器分别访问 6台服务器中的fastdfs文件

第十步：部署前端用户访问入口服务器，即访问192.168.230.128上的Nginx，该Nginx负载均衡到后端2个tracker server；
配置nginx.conf文件
location ~ /group[1-9]/M0[0-9] {
proxy_pass http://fastdfs_group_server;
}

添加一个upstream 执行服务的IP为 2台tracker 的地址
#部署配置nginx负载均衡:
upstream fastdfs_group_server {  
    server 192.168.171.135:80;  
    server 192.168.171.136:80; 
}

测试：使用浏览器访问128（唯一入口的nginx服务器）服务器中的fastdfs文件
注意：由于之前128的nginx中可能拥有静态资源拦截会导致访问不到文件，这时可以注释或删除这些静态资源拦截

补充资料
最后，为了让服务能正常连接tracker，请关闭所有机器的防火墙：
systemctl status firewalld 查看防火墙状态
systemctl disable firewalld 禁用开机启动防火墙
systemctl stop firewalld 停止防火墙
systemctl restart network 重启网络
systemctl start network 启动网络
systemctl stop network 停止网络

可能安装的linux（无图形的）没有开启网卡服务，可以修改/etc/sysconfig/network-scripts 下的网卡配置文件设置 ONBOOT=yse
表示开机启动网卡，然后启动网络服务即可

Keepalived当主nginx出现故障后会自动切换到备用nginx服务器的一款软件通常由运维人员进行使用

传送门

上一章：分布式第六章 Spring Session
下一章：分布式第八章 RabbitMQ

日天家的猫

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分布式第七章 FastDFS

文章目录第1章 FastDFS入门第2章 FastDFS环境搭建第3章 FastDFS的Http访问第4章 FastDFS 在Java项目中的开发示例第5章 FastDFS 在Web项目中的应用第6章 FastDFS 分布式文件系统集群传送门第1章 FastDFS入门FastDFS整体架构两大机构：客户端（通常为我们的程序）+服务端（跟踪器[调度工作]+存储结点[文件存储及管理]）第2章 FastDFS环境搭建启动tracker、storage，上传文件fdfs_trackerd /etc/
复制链接

扫一扫