C/C++大文件/数据网络传输方法总结

原文: https://www.2cto.com/kf/201401/273290.html


在C/C++网络编程中不免会遇到需要传输大数据、大文件的情况,而由于socket本身缓冲区的限制,大概一次只能发送4K左右的数据,所以在传输大数据时客户端就需要进行分包,在目的地重新组包。而实际上已有一些消息/通讯中间件对此进行了封装,提供了直接发送大数据/文件的接口;除此之外,利用共享目录,ftp,ssh等系统命令来实现大文件/数据也不失为一种好的方法。

1.基础的基于socket进行传输

基础的基于socket进行传输关键在于控制,需要自己行分包和组包。

data-cke-saved-src=/uploadfile/Collfiles/20140117/20140117084908177.jpg

原理很简单那,我们就直接看一下代码吧。
 

 

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
      
     // file_server.c -- socket文件传输服务器端示例代码  
     // / 
     #include<netinet in.h= "" >  
     #include<sys types.h= "" >  
     #include<sys socket.h= "" >  
     #include<stdio.h>  
     #include<stdlib.h>  
     #include<string.h>  
       
     #define HELLO_WORLD_SERVER_PORT    6666 
     #define LENGTH_OF_LISTEN_QUEUE     20 
     #define BUFFER_SIZE                1024 
     #define FILE_NAME_MAX_SIZE         512 
       
     int main( int argc, char **argv) 
    
         // set socket's address information  
         // 设置一个socket地址结构server_addr,代表服务器internet的地址和端口 
         struct sockaddr_in   server_addr; 
         bzero(&server_addr, sizeof(server_addr)); 
         server_addr.sin_family = AF_INET; 
         server_addr.sin_addr.s_addr = htons(INADDR_ANY); 
         server_addr.sin_port = htons(HELLO_WORLD_SERVER_PORT); 
       
         // create a stream socket  
         // 创建用于internet的流协议(TCP)socket,用server_socket代表服务器向客户端提供服务的接口 
         int server_socket = socket(PF_INET, SOCK_STREAM, 0 ); 
         if (server_socket < 0
        
             printf(Create Socket Failed!
); 
             exit( 1 ); 
        
       
         // 把socket和socket地址结构绑定  
         if (bind(server_socket, (struct sockaddr*)&server_addr, sizeof(server_addr))) 
        
             printf(Server Bind Port: %d Failed!
, HELLO_WORLD_SERVER_PORT); 
             exit( 1 ); 
        
       
         // server_socket用于监听  
         if (listen(server_socket, LENGTH_OF_LISTEN_QUEUE)) 
        
             printf(Server Listen Failed!
); 
             exit( 1 ); 
        
       
         // 服务器端一直运行用以持续为客户端提供服务  
         while ( 1
        
             // 定义客户端的socket地址结构client_addr,当收到来自客户端的请求后,调用accept 
             // 接受此请求,同时将client端的地址和端口等信息写入client_addr中 
             struct sockaddr_in client_addr; 
             socklen_t          length = sizeof(client_addr); 
       
             // 接受一个从client端到达server端的连接请求,将客户端的信息保存在client_addr中 
             // 如果没有连接请求,则一直等待直到有连接请求为止,这是accept函数的特性,可以 
             // 用select()来实现超时检测  
             // accpet返回一个新的socket,这个socket用来与此次连接到server的client进行通信 
             // 这里的new_server_socket代表了这个通信通道 
             int new_server_socket = accept(server_socket, (struct sockaddr*)&client_addr, &length); 
             if (new_server_socket < 0
            
                 printf(Server Accept Failed!
); 
                 break
            
       
             char buffer[BUFFER_SIZE]; 
             bzero(buffer, sizeof(buffer)); 
             length = recv(new_server_socket, buffer, BUFFER_SIZE, 0 ); 
             if (length < 0
            
                 printf(Server Recieve Data Failed!
); 
                 break
            
       
             char file_name[FILE_NAME_MAX_SIZE + 1 ]; 
             bzero(file_name, sizeof(file_name)); 
             strncpy(file_name, buffer, 
                     strlen(buffer) > FILE_NAME_MAX_SIZE ? FILE_NAME_MAX_SIZE : strlen(buffer)); 
       
             FILE *fp = fopen(file_name, r); 
             if (fp == NULL) 
            
                 printf(File:    %s Not Found!
, file_name); 
            
             else 
            
                 bzero(buffer, BUFFER_SIZE); 
                 int file_block_length = 0
                 while ( (file_block_length = fread(buffer, sizeof( char ), BUFFER_SIZE, fp)) > 0
                
                     printf(file_block_length = %d
, file_block_length); 
       
                     // 发送buffer中的字符串到new_server_socket,实际上就是发送给客户端 
                     if (send(new_server_socket, buffer, file_block_length, 0 ) < 0
                    
                         printf(Send File:   %s Failed!
, file_name); 
                         break
                    
       
                     bzero(buffer, sizeof(buffer)); 
                
                 fclose(fp); 
                 printf(File:    %s Transfer Finished!
, file_name); 
            
       
             close(new_server_socket); 
        
       
         close(server_socket); 
       
         return 0
     }  </string.h></stdlib.h></stdio.h></sys></sys></netinet>

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
     // 
     // file_client.c  socket传输文件的client端示例程序  
     // /// 
     #include<netinet in.h= "" >                         // for sockaddr_in 
     #include<sys types.h= "" >                          // for socket 
     #include<sys socket.h= "" >                         // for socket 
     #include<stdio.h>                              // for printf 
     #include<stdlib.h>                             // for exit 
     #include<string.h>                             // for bzero 
       
     #define HELLO_WORLD_SERVER_PORT       6666 
     #define BUFFER_SIZE                   1024 
     #define FILE_NAME_MAX_SIZE            512 
       
     int main( int argc, char **argv) 
    
         if (argc != 2
        
             printf(Usage: ./%s ServerIPAddress
, argv[ 0 ]); 
             exit( 1 ); 
        
       
         // 设置一个socket地址结构client_addr, 代表客户机的internet地址和端口 
         struct sockaddr_in client_addr; 
         bzero(&client_addr, sizeof(client_addr)); 
         client_addr.sin_family = AF_INET; // internet协议族 
         client_addr.sin_addr.s_addr = htons(INADDR_ANY); // INADDR_ANY表示自动获取本机地址 
         client_addr.sin_port = htons( 0 ); // auto allocated, 让系统自动分配一个空闲端口 
       
         // 创建用于internet的流协议(TCP)类型socket,用client_socket代表客户端socket 
         int client_socket = socket(AF_INET, SOCK_STREAM, 0 ); 
         if (client_socket < 0
        
             printf(Create Socket Failed!
); 
             exit( 1 ); 
        
       
         // 把客户端的socket和客户端的socket地址结构绑定  
         if (bind(client_socket, (struct sockaddr*)&client_addr, sizeof(client_addr))) 
        
             printf(Client Bind Port Failed!
); 
             exit( 1 ); 
        
       
         // 设置一个socket地址结构server_addr,代表服务器的internet地址和端口 
         struct sockaddr_in  server_addr; 
         bzero(&server_addr, sizeof(server_addr)); 
         server_addr.sin_family = AF_INET; 
       
         // 服务器的IP地址来自程序的参数  
         if (inet_aton(argv[ 1 ], &server_addr.sin_addr) == 0
        
             printf(Server IP Address Error!
); 
             exit( 1 ); 
        
       
         server_addr.sin_port = htons(HELLO_WORLD_SERVER_PORT); 
         socklen_t server_addr_length = sizeof(server_addr); 
       
         // 向服务器发起连接请求,连接成功后client_socket代表客户端和服务器端的一个socket连接 
         if (connect(client_socket, (struct sockaddr*)&server_addr, server_addr_length) < 0
        
             printf(Can Not Connect To %s!
, argv[ 1 ]); 
             exit( 1 ); 
        
       
         char file_name[FILE_NAME_MAX_SIZE + 1 ]; 
         bzero(file_name, sizeof(file_name)); 
         printf(Please Input File Name On Server.    ); 
         scanf(%s, file_name); 
       
         char buffer[BUFFER_SIZE]; 
         bzero(buffer, sizeof(buffer)); 
         strncpy(buffer, file_name, strlen(file_name) > BUFFER_SIZE ? BUFFER_SIZE : strlen(file_name)); 
         // 向服务器发送buffer中的数据,此时buffer中存放的是客户端需要接收的文件的名字 
         send(client_socket, buffer, BUFFER_SIZE, 0 ); 
       
         FILE *fp = fopen(file_name, w); 
         if (fp == NULL) 
        
             printf(File:    %s Can Not Open To Write!
, file_name); 
             exit( 1 ); 
        
       
         // 从服务器端接收数据到buffer中  
         bzero(buffer, sizeof(buffer)); 
         int length = 0
         while (length = recv(client_socket, buffer, BUFFER_SIZE, 0 )) 
        
             if (length < 0
            
                 printf(Recieve Data From Server %s Failed!
, argv[ 1 ]); 
                 break
            
       
             int write_length = fwrite(buffer, sizeof( char ), length, fp); 
             if (write_length < length) 
            
                 printf(File:    %s Write Failed!
, file_name); 
                 break
            
             bzero(buffer, BUFFER_SIZE); 
        
       
         printf(Recieve File:     %s From Server[%s] Finished!
, file_name, argv[ 1 ]); 
       
         // 传输完毕,关闭socket  
         fclose(fp); 
         close(client_socket); 
         return 0
       
    
 
</string.h></stdlib.h></stdio.h></sys></sys></netinet>

 

2.使用现有的通讯中间件

2.1 ActiveMQ 传送文件接口

 

为了解决传输大文件的问题,ActiveMQ在jms规范之外引入了jms streams的概念。PTP模式下,连到同一个destination的两端,可以通过broker中转来传输大文件。

发送端使用connection.createOutputStream打开一个输出流,往流里写文件。

OutputStream out =connection.createOutputStream(destination);

接收端则简单的使用connection.createInputStream拿到一个输入流,从中读取文件数据即可。

?
1
InputStream in = connection.createInputStream(destination)

详见:https://activemq.apache.org/jms-streams.html


2.2 ZeroMQ 接口

ZeroMQ没有直接提供传送文件的接口。但ZeroMQ中send(void * data, size_t len)接口已经做好了封装,可以send任意大小的数据。代码如下:

 

?
1
2
3
4
5
6
7
8
9
10
11
12
zmq::context_t ctx( 1 );
zmq::socket_t sock(ctx, ZMQ_REQ);
 
sock.connect(tcp: //192.168.20.111:20310);
 
sock.send(pData,len); //数据大小没有限制,可以直接发送任意大小的数据
 
 
char reply[ 100 ];
sock.recv (reply, 100 );
 
sock.disconnect(addr);

接收端代码如下:

 

?
1
2
3
4
5
6
7
8
9
10
m_context = new zmq::context_t( 1 );
     m_socket = new zmq::socket_t (*m_context, ZMQ_REP);
     m_socket->bind (tcp: //*:20310);
 
     zmq::message_t request;
 
         // Wait for next request from client
         m_socket->recv (&request) // request可以接受发送来的任意大小的数据
         
         m_socket->send(ok, 2 );


 

是不是很简单呢?
 

3.基于共享文件、ftp、scp等


这就不细说了。要么就是写共享目录,要么就是调用系统命令。

 

4.总结


1)直接基于socket编程难度较高,所以不推荐。

2)使用现有的库方便,但需要学习。一般推荐。

3)共享文件、ftp、scp等难度低,简单易用,在符合使用场景时是首选。(但一些自命不凡的程序员或许会对你嗤之以鼻,考虑之...)

  • 2
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值