Dubbo限制大数据传输的解决方案

Dubbo限制大数据传输的解决方案
第一种方案

  1、 统一修改提供方的dubbo配置,

  在dubbo.properties 中增加如下

  dubbo.protocol.dubbo.payload=11557050(默认为8M,即8388608)

  2、特殊dubbo修改提供方的dubbo配置:

<dubbo:protocolname="dubbo" host=....." payload="104857600" />
<dubbo:provider payload="104857600" />

虽然问题不再出现,但是通过此问题反映还待优化,
首先dubbo不适合传输大文件,因dubbo协议采用单一长连接,
如果每次请求的数据包大小为500KByte,假设网络为千兆网卡(1024Mbit=128MByte),每条连接最大7MByte(不同的环境可能不一样,供参考),
单个服务提供者的TPS(每秒处理事务数)最大为:128MByte / 500KByte = 262。
单个消费者调用单个服务提供者的TPS(每秒处理事务数)最大为:7MByte / 500KByte = 14

如果能接受,可以考虑使用,否则网络将成为瓶颈。


2:
1. dubbo接口限制, 针对的是单个参数, 还是整体参数的大小呢?
    1. 经过测试,大小限制针对整体参数大小.
2. 如何解决?
    1. dubbo默认参数大小限制为8388608(8M).
    2. 可以通过配置修改
    3. 配置payload属性:dubbo.protocol.dubbo.payload=10485760
3. 另外一种方式:绕过dubbo的限制
大文件,都统一用第三方文件系统存储,dubbo接口调用中,只传递url地址.

3:
解决:

做一个内存分页,每次查询出来2000或者多少条,在内存中进行分页,然后通过循环然后传输给前端

  • 4
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

guanminwei

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值