Dubbo限制大数据传输的解决方案
第一种方案
1、 统一修改提供方的dubbo配置,
在dubbo.properties 中增加如下
dubbo.protocol.dubbo.payload=11557050(默认为8M,即8388608)
2、特殊dubbo修改提供方的dubbo配置:
<dubbo:protocolname="dubbo" host=....." payload="104857600" />
<dubbo:provider payload="104857600" />
虽然问题不再出现,但是通过此问题反映还待优化,
首先dubbo不适合传输大文件,因dubbo协议采用单一长连接,
如果每次请求的数据包大小为500KByte,假设网络为千兆网卡(1024Mbit=128MByte),每条连接最大7MByte(不同的环境可能不一样,供参考),
单个服务提供者的TPS(每秒处理事务数)最大为:128MByte / 500KByte = 262。
单个消费者调用单个服务提供者的TPS(每秒处理事务数)最大为:7MByte / 500KByte = 14
如果能接受,可以考虑使用,否则网络将成为瓶颈。
2:
1. dubbo接口限制, 针对的是单个参数, 还是整体参数的大小呢?
1. 经过测试,大小限制针对整体参数大小.
2. 如何解决?
1. dubbo默认参数大小限制为8388608(8M).
2. 可以通过配置修改
3. 配置payload属性:dubbo.protocol.dubbo.payload=10485760
3. 另外一种方式:绕过dubbo的限制
大文件,都统一用第三方文件系统存储,dubbo接口调用中,只传递url地址.
3:
解决:
做一个内存分页,每次查询出来2000或者多少条,在内存中进行分页,然后通过循环然后传输给前端