记录：fastdfs上传报错IOException: recv cmd: 0 is not correct, expect cmd: 100解决方案

已于 2022-07-18 09:50:53 修改
阅读量2.3k 收藏 3
点赞数
文章标签： java 服务器 linux
于 2022-07-15 14:36:30 首次发布
原文链接：https://blog.csdn.net/luckykapok918/article/details/80938257
版权

项目在生产环境部署，出现大批量文件并发上传，运行环境偶发性报错：

java.io.IOException: recv cmd: 0 is not correct, expect cmd: 100
  at org.csource.fastdfs.ProtoCommon.recvHeader(ProtoCommon.java:173)
  at org.csource.fastdfs.ProtoCommon.recvPackage(ProtoCommon.java:201)
  at org.csource.fastdfs.StorageClient.do_upload_file(StorageClient.java:714)
  at org.csource.fastdfs.StorageClient.upload_file(StorageClient.java:162)
  at org.csource.fastdfs.StorageClient.upload_file(StorageClient.java:180)
  at org.csource.fastdfs.StorageClient1.upload_file1(StorageClient1.java:103)
  at com.innoking.coding.utils.FastDfsClient.uploadFile(FastDfsClient.java:102)
  at com.innoking.coding.utils.FastDfsClient.uploadFile(FastDfsClient.java:111)
  at com.innoking.coding.FileHelper.saveAndUploadImageToFds(FileHelper.java:111)
  at com.innoking.coding.uniview.subscriptioncontroller.RedisMsgSubscriber1.downPhoto(RedisMsgSubscriber1.java:315)
  at com.innoking.coding.uniview.subscriptioncontroller.RedisMsgSubscriber1.onMessage(RedisMsgSubscriber1.java:186)
  at org.springframework.data.redis.connection.lettuce.LettuceMessageListener.message(LettuceMessageListener.java:43)
  at org.springframework.data.redis.connection.lettuce.LettuceMessageListener.message(LettuceMessageListener.java:29)
  at io.lettuce.core.pubsub.PubSubEndpoint.notifyListeners(PubSubEndpoint.java:219)
  at io.lettuce.core.pubsub.PubSubEndpoint.notifyMessage(PubSubEndpoint.java:208)
  at io.lettuce.core.pubsub.PubSubCommandHandler.doNotifyMessage(PubSubCommandHandler.java:292)
  at io.lettuce.core.pubsub.PubSubCommandHandler.decode(PubSubCommandHandler.java:130)
  at io.lettuce.core.protocol.CommandHandler.channelRead(CommandHandler.java:594)
  at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:379)
  at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:365)
  at io.netty.channel.AbstractChannelHandlerContext.fireChannelRead(AbstractChannelHandlerContext.java:357)
  at io.netty.channel.DefaultChannelPipeline$HeadContext.channelRead(DefaultChannelPipeline.java:1410)
  at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:379)
  at io.netty.channel.AbstractChannelHandlerContext.invokeChannelRead(AbstractChannelHandlerContext.java:365)
  at io.netty.channel.DefaultChannelPipeline.fireChannelRead(DefaultChannelPipeline.java:919)
  at io.netty.channel.epoll.AbstractEpollStreamChannel$EpollStreamUnsafe.epollInReady(AbstractEpollStreamChannel.java:795)
  at io.netty.channel.epoll.EpollEventLoop.processReady(EpollEventLoop.java:480)
  at io.netty.channel.epoll.EpollEventLoop.run(EpollEventLoop.java:378)
  at io.netty.util.concurrent.SingleThreadEventExecutor$4.run(SingleThreadEventExecutor.java:986)
  at io.netty.util.internal.ThreadExecutorMap$2.run(ThreadExecutorMap.java:74)
  at io.netty.util.concurrent.FastThreadLocalRunnable.run(FastThreadLocalRunnable.java:30)
  at java.lang.Thread.run(Thread.java:748)

环境如下：服务器环境fastDFS做了主从备份

  • 操作系统：centos7
  • FastDFS ：5.05
  • libfastcommon：1.0.36
  • nginx ：1.7.9
  • fastdfs-nginx-module：1.16

fastDFS的tracker服务器日志如下类似：

[2017-09-19 09:13:52] ERROR - file: tracker_nio.c, line: 306, client ip: 192.168.0.1, pkg length: 15150 > max pkg size: 8192
[2017-09-19 10:34:57] ERROR - file: tracker_nio.c, line: 306, client ip: 192.168.0.1, pkg length: 16843 > max pkg size: 8192
[2017-09-19 10:34:57] ERROR - file: tracker_nio.c, line: 306, client ip: 192.168.0.1, pkg length: 16843 > max pkg size: 8192
[2017-09-19 11:31:08] ERROR - file: tracker_nio.c, line: 306, client ip: 192.168.03, pkg length: 23955 > max pkg size: 8192
[2017-09-19 11:42:56] ERROR - file: tracker_nio.c, line: 306, client ip: 192.168.01, pkg length: 12284 > max pkg size: 8192
[2017-09-19 12:10:28] ERROR - file: tracker_service.c, line: 2452, cmd=103, client ip: 192.168.0.3, package size 6258 is too long, exceeds 144

storaged的日志如下类似：

[2017-09-25 14:22:38] WARNING - file: storage_service.c, line: 7135, client ip: 192.168.1.11, logic file: M00/D1/04/wKg5ZlnIoKWAAkNRAAAY86__WXA920.jpg-m not exist
[2017-09-25 14:22:39] WARNING - file: storage_service.c, line: 7135, client ip: 192.168.1.11, logic file: M00/D1/04/wKg5ZlnIoKuAUXeVAAAeASIvHGw673.jpg not exist
[2017-09-25 14:22:50] ERROR - file: storage_nio.c, line: 475, client ip: 192.168.1.13, recv failed, errno: 104, error info: Connection reset by peer
[2017-09-25 14:22:56] ERROR - file: tracker_proto.c, line: 48, server: 192.168.1.11:23001, response status 2 != 0
[2017-09-25 14:23:06] ERROR - file: tracker_proto.c, line: 48, server: 192.168.1.11:23001, response status 2 != 0
[2017-09-25 14:23:11] ERROR - file: storage_service.c, line: 3287, client ip:192.168.1.13, group_name: group2 not correct, should be: group1

我们项目中fastdfs在application.properties中配置:

clientConf=ip:22122

项目中获取fastDFS上传方法如下：

 FastDfsClient fastDFSClient = FastDfsClient.getInstance(clientConf);

//获取到返回的fastdfs附件地址(不含服务器ip地址的附件地址)
String fastdfs_url = fastDfsClient.uploadFile(uploadFile.getBytes(), fileSuffix);

项目中引用fastdfs工具类如下：

package com.innoking.coding.utils;

import org.csource.common.MyException;
import org.csource.common.NameValuePair;
import org.csource.fastdfs.*;

import java.io.IOException;

/**
 * 
 * @ClassName: FastDfsClient
 * @Description: TODO
 * @author
 * @version
 *
 */
public class FastDfsClient {

	private TrackerClient trackerClient = null;
	private TrackerServer trackerServer = null;
	private StorageServer storageServer = null;
	private StorageClient1 storageClient = null;



	private  static FastDfsClient fastDfsClient=null;
	public static  FastDfsClient  getInstance(String conf) throws Exception {
		if( fastDfsClient==null){
			fastDfsClient=new FastDfsClient(conf);
		}
		return fastDfsClient;
	}

	public FastDfsClient(String conf) throws Exception {
		if (conf.contains("classpath:")) {
			conf = conf.replace("classpath:", this.getClass().getResource("/").getPath());
		}
		ClientGlobal.initByTrackers(conf);
		ClientGlobal.init(conf);
		trackerClient = new TrackerClient();
		trackerServer = trackerClient.getConnection();
		storageServer = null;
		storageClient = new StorageClient1(trackerServer, storageServer);
	}
	
	/**
	 * 上传文件方法
	 * <p>Title: uploadFile</p>
	 * <p>Description: </p>
	 * @param fileName 文件全路径
	 * @param extName 文件扩展名，不包含（.）
	 * @param metas 文件扩展信息
	 * @return
	 * @throws Exception
	 */
	public String uploadFile(String fileName, String extName, NameValuePair[] metas) throws Exception {
		String result = storageClient.upload_file1(fileName, extName, metas);
		return result;
	}
	
	public String uploadFile(String fileName) throws Exception {
		return uploadFile(fileName, null, null);
	}
	
	public String uploadFile(String fileName, String extName) throws Exception {
		return uploadFile(fileName, extName, null);
	}
	
	/**
	 * 上传文件方法
	 * <p>Title: uploadFile</p>
	 * <p>Description: </p>
	 * @param fileContent 文件的内容，字节数组
	 * @param extName 文件扩展名
	 * @param metas 文件扩展信息
	 * @return
	 * @throws Exception
	 */
	public String uploadFile(byte[] fileContent, String extName, NameValuePair[] metas) throws Exception {
		
		String result = storageClient.upload_file1(fileContent, extName, metas);
		return result;
	}
	
	public String uploadFile(byte[] fileContent) throws Exception {
		return uploadFile(fileContent, null, null);
	}
	
	public String uploadFile(byte[] fileContent, String extName) throws Exception {
		return uploadFile(fileContent, extName, null);
	}
	
	/**
	 * 删除文件
	 * @param fileName 文件服务器保存的地址
	 * @return
	 * @throws IOException
	 * @throws MyException
	 */
	public int deleteFile(String fileName) {
		try {
			return storageClient.delete_file1(fileName);
		} catch (IOException e) {
			e.printStackTrace();
		} catch (MyException e) {
			e.printStackTrace();
		}
		return 1;
	}
	
	/**
	 * 下载文件
	 * @param fileName  文件服务器中的文件名
	 * @param local_filename 下载到本地的文件名
	 * @return
	 * @throws IOException
	 * @throws MyException
	 */
	public int downloadFile(String fileName,String local_filename) throws IOException, MyException{
		return storageClient.download_file1(fileName, local_filename);
	}
	/**
	 * 下载文件
	 * @param fileName  文件的路径 如group1/M00/00/00/wKgRsVjtwpSAXGwkAAAweEAzRjw471.jpg
	 * @return
	 * @throws IOException
	 * @throws MyException
	 */
	public byte[] getBytedownloadFile(String fileName) throws IOException, MyException{
		return storageClient.download_file1(fileName);
	}

}

开发环境因并发量并不大未出现问题，上线至生产环境后上传文件速度过快造成了并发量增大。

问题原因：在每次上传时都获取了storageClient，如上传时定义了：

String fastdfs_url = fastDfsClient.uploadFile(uploadFile.getBytes(), fileSuffix);

但是大批量上传时，可以理解为第一次上传时storageClient创建了storageServer，但是第二次上传时，发现已经有storageServer就直接使用了。因此造成第一次上传结束后storageServer关闭，第二次上传借用的storageServer丢失。

排查问题中参考该文章得到解决：一次FastDFS并发问题的排查经历_luckykapok918的博客-CSDN博客

特别感谢该文章博主。

具体修改如下：

对FastDfsClient工具类进行修改，将上传方法uploadFile变更为如下：

public class FastDfsClient {

	private TrackerClient trackerClient = null;
//	private TrackerServer trackerServer = null;
	private StorageServer storageServer = null;
//	private StorageClient1 storageClient = null;



	private  static FastDfsClient fastDfsClient=null;
	public static  FastDfsClient  getInstance(String conf) throws Exception {
		if( fastDfsClient==null){
			fastDfsClient=new FastDfsClient(conf);
		}
		return fastDfsClient;
	}

	public FastDfsClient(String conf) throws Exception {
		if (conf.contains("classpath:")) {
			conf = conf.replace("classpath:", this.getClass().getResource("/").getPath());
		}
		ClientGlobal.initByTrackers(conf);
		ClientGlobal.init(conf);
		trackerClient = new TrackerClient();
//		trackerServer = trackerClient.getConnection();
		storageServer = null;
//		storageClient = new StorageClient1(trackerServer, storageServer);
	}
	
	/**
	 * 上传文件方法
	 * <p>Title: uploadFile</p>
	 * <p>Description: </p>
	 * @param fileName 文件全路径
	 * @param extName 文件扩展名，不包含（.）
	 * @param metas 文件扩展信息
	 * @return
	 * @throws Exception
	 */
	public String uploadFile(String fileName, String extName, NameValuePair[] metas) throws Exception {
		TrackerServer trackerServer = trackerClient.getConnection();
		StorageClient1 storageClient = new StorageClient1(trackerServer, storageServer);
		String result = storageClient.upload_file1(fileName, extName, metas);
		return result;
	}
}

在每次上传时都new新的storageClient和storageServer。

进行一天测试后问题未复现，得到解决

Tomcat_wr8
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
分布式文件系统fastdfs架构剖析及配置优化
05-27
FastDFS是一款开源的轻量级分布式文件系统 纯C实现，支持Linux、FreeBSD等UNIX系统 类google FS，不是通用的文件系统，只能通过专有API访问，目前提供了C、Java和PHP API 为互联网应用量身定做，解决大容量文件存储问题，追求高性能和高扩展性 FastDFS可以看做是基于文件的key value pair存储系统，称作分布式文件存储服务更为合适
向FastDFS上传图片报错
z2772055578的博客
07-26 1250
上传图片时报错java.io.IOException: recv cmd: 79 is not correct, expect cmd: 100 代码如下 public void testUpload() throws Exception{ //使用全局对象加载配置文件 ClientGlobal.init("F:\\JavaEE32\\a\\src\\main\\java...
java并行出来文件_java 客户端并行上传文件，出现错误
weixin_33842051的博客
02-26 261
2012-10-27 10:16:49,725 ERROR[com.starit.ueap.collect.worker.spi.impl.DefaultCollectDataPreserveStrategy] -java.io.IOException: recv cmd: 0 is not correct, expect cmd: 100>com.starit.ueap.collect.c...
FastDFS上传文件失败原因
c31372867的博客
03-05 2353
FastDFS上传失败（已解决）
fastDFS测试上传报错：[2020-05-21 19:40:15] ERROR - file: tracker_proto.c, line: 50, server: 192.168.89.188:
wancjst的博客
08-21 5546
转载至：添加链接描述 [2020-05-21 19:40:15] ERROR - file: tracker_proto.c, line: 50, server: 192.168.89.188:22122, response status 2 != 0 [2020-05-21 19:40:15] ERROR - file: …/client/tracker_client.c, line: 899, fdfs_recv_response fail, result: 2 tracker_query_storag
fastDFS遇到的并发问题
zxl2016的博客
05-10 7739
fastDFS遇到的并发问题recv cmd: 0 is not correct, expect cmd: 1002018年01月16日 20:28:02阅读数：537 此贴是我对一篇帖子FastDFS并发会有bug，其实我也不太信？进行的一些测试和我自己也发现的相关问题与解决方案。最开始我也按照帖子进行...
fastDFS遇到的并发问题recv cmd: 0 is not correct, expect cmd: 100
热门推荐
jianbo2233的博客
01-16 1万+
此贴是我对一篇帖子FastDFS并发会有bug，其实我也不太信？进行的一些测试和我自己也发现的相关问题与解决方案。 最开始我也按照帖子进行了测试，结果发现确实存在并发问题（下面代码改为单线程是木有问题的）。以下列出我尝试的几种情况： 先列出我进行测试的有main函数的FastConcurrence类： public class FastConcurrence { private sta
FastDFS上传错误
weixin_44422172的博客
12-03 508
FastDFS上传时出现recv cmd: 79 is not correct, expect cmd: 100 有没有大佬解决下？
fastdfs之report源码分析
pxxian的博客
01-21 729
1. report流程简介 report行为是storage向tracker注册storage，上报storage信息的行为。还需注意的是：它根据返回结果触发同步sync。 其storage端的流程大概如下： 在main[storage/fdfs_storaged.c]函数中，初始化：tracker_report_init[storage/tracker_client_thread.c]。其...
fastdfs报错：recv body length: 70 is not correct, expect length: 40
Ashen__One的博客
01-20 744
fastdfs
fastdfs-docker:fastdfs nginx docker高山中心
05-13
FastDFS码头工人 用法： docker build -t quentinyy/fastdfs-docker:alpine . 或docker pull quentinyy/fastdfs-docker:alpine 独立的 追踪器127 docker run -dti --network=host --name tracker -e PORT=22122 -v...
fdfs:FastDFS Node.js客户端
05-16
Nodejs Client for FastDFS 是分布式文件存储系统。这个项目是FastDFS的NodeJS客户端，用来与FastDFS Server进行交互，进行文件的相关操作。我测试过的server版本是4.0.6。 安装 npm install fdfs 使用 var ...
java.net.SocketException: Connection reset 解决方法
09-05
最近纠结致死的一个java报错java.net.SocketException: Connection reset 终于得到解决
monitor-tool:fastdfs的监视工具
05-11
##系统监控工具###为被监控的客户端提供远程执行命令的HTTP服务##使用方式###执行系统命令http://{host:port}/cmd?cmdName=ps -ef|grep java其中的host是被监控客户端的IPcmdName后面的参数，就是需要执行的系统命令...
mybatisPlus使用MetaObjectHandler对字段进行更新
m0_56356631的博客
04-23 857
都是符合我们的预期的。
java方法重写（重点讲），方法重载
最新发布
weixin_46281068的博客
04-27 912
一、方法重载定义：一个类中，出现多个方法的名称相同，但是它们的形参列表是不同的，那么这些方法就称为方法重载了。注意：一个类中，只要一些方法的名称相同、形参列表不同，那么它们就是方法重载了，其它的都不管（如:修饰符，返回值类型是否一样都无所谓）。形参列表不同指的是:形参的个数、类型、顺序不同，不关心形参的名称。应用场景：开发中我们经常需要为处理一类业务，提供多种解决方案，此时用方法重载来设计是很专业的。
string模拟实现（C++）
m0_73969414的博客
04-23 1878
c++中string的模拟实现，面试必会知识点
实现自定义注解、实现自定义幂等性注解
qq_44721738的博客
04-23 1122
添加 Spring AOP 依赖。创建自定义注解。创建一个新的 Java 注解类，通过@interface关键字来定义，并可以添加元注解以及属性。@Target(ElementType.METHOD) //表示作用于方法上@Retention(RetentionPolicy.RUNTIME) // 表示这个注解在运行时是可见的，这样 AOP 代理才能在运行时读取到这个注解编写 AOP 拦截（自定义注解）的逻辑代码。@Aspect@Component// 方法执行前的处理。
org.csource:fastdfs-client-java:1.29-
12-16
org.csource:fastdfs-client-java:1.29-是一个Java语言的FastDFS客户端，用于访问FastDFS分布式文件系统。FastDFS是一个开源的分布式文件系统，具有高性能、高可靠性、可扩展性和易于管理等特点。FastDFS将文件分成许多小块，然后存储在多台服务器上，提供了快速的文件上传和下载功能。 org.csource:fastdfs-client-java:1.29-是FastDFS的Java语言实现，通过该客户端，我们可以轻松地在Java项目中使用FastDFS进行文件的上传和下载。它提供了一组简单易用的API，允许我们通过指定文件路径或字节数组来上传文件，并通过文件的标识符来下载文件。同时，我们还可以获取文件的元信息，例如文件大小、创建时间等。 通过该客户端，我们还可以进行文件的删除、修改和查询等操作。它提供了丰富的接口方法，可以满足不同的业务需求。此外，该客户端还支持文件的断点续传功能，当网络中断或上传下载过程中出现异常时，我们可以恢复中断的操作，避免重新上传或下载整个文件。 org.csource:fastdfs-client-java:1.29-是一个成熟稳定的Java组件，被广泛应用于各种基于Java的项目中。它的源代码是开放的，意味着我们可以根据自己的需求进行修改和定制。此外，它还具有良好的文档和社区支持，我们可以在遇到问题时及时获得帮助和解决方案。 总之，org.csource:fastdfs-client-java:1.29-是一个功能强大、易用的Java客户端，提供了丰富的API和功能，帮助我们轻松地在Java项目中使用FastDFS分布式文件系统。它是一个值得信赖和推荐的工具，可以提高文件操作的效率和可靠性。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值