跨公网调用的大坑与架构优化方案

第三方接口挂掉,我们的服务会受影响么?

 

一、缘起与大坑

很多时候,业务需要跨公网调用一个第三方服务提供的接口,为了避免每个调用方都依赖于第三方服务,往往会抽象一个服务:

  • 解除调用方与第三方接口的耦合

  • 当第三方的接口变动时,只有服务需要修改,而不是所有调用方均修改

 

此时接口调用流程是什么样的呢?

如上图1-4所述:

(1)业务调用方调用内部service

(2)内部service跨公网调用第三方接口

(3)第三方接口返回结果给内部service

(4)内部service返回结果给业务调用方

 

这个过程存在什么潜在的大坑呢?

内部服务可能对上游业务提供了很多服务接口,当有一个接口跨公网第三方调用超时时,可能导致所有接口都不可用,即使大部分接口不依赖于跨公网第三方调用。

 

为什么会出现这种情况呢?

内部服务对业务方提供的N个接口,会共用服务容器内的工作线程(假设有100个工作线程)。

假设这N个接口的某个接口跨公网依赖于第三方的接口,发生了网络抖动,或者接口超时(不妨设超时时间为5秒)。

潜台词是,这个工作线程会被占用5秒钟,然后超时返回业务调用方。

假设这个请求的吞吐量为20qps,言下之意,很短的时间内,所有的100个工作线程都会被卡在这个第三方超时等待上,而其他N-1个原本没有问题的接口,也得不到工作线程处理。

 

潜在优化方案?

  • 增大工作线程数(不根本解决问题)

  • 降低超时时间(不根本解决问题)

  • 垂直拆分,N个接口拆分成若干个服务,使得在出问题时,被牵连的接口尽可能少(依旧不根本解决问题,难道一个服务只提供一个接口吗?)

 

跨公网调用的稳定性优化,是本文要讨论的问题。

 

二、异步代理法

业务场景:通过OpenID实时获取微信用户基本信息

解决方案:增加一个代理,向服务屏蔽究竟是“本地实时”还是“异步远程”去获取返回结果

本地实时流程如上图1-5:

(1)业务调用方调用内部service

(2)内部service调用异步代理service

(3)异步代理service通过OpenID在本地拿取数据

(4)异步代理service将数据返回内部service

(5)内部service返回结果给业务调用方

 

异步远程流程如上图6-8粗箭头的部分:

(6)异步代理service定期跨公网调用微信服务

(7)微信服务返回数据

(8)刷新本地数据

 

优点:公网抖动,第三方接口超时,不影响内部接口调用

 

不足:本地返回的不是最新数据(很多业务可以接受数据延时)

 

有时候,内部service和异步代理service可以合成一个service

 

三、第三方接口备份与切换法

业务场景:调用第三方短信网关,或者电子合同等

解决方案:同时使用(或者备份)多个第三方服务

流程如上图1-4:

(1)业务调用方调用内部service

(2)内部service调用第一个三方接口

(3)超时后,调用第二个备份服务,未来都直接调用备份服务,直到超时的服务恢复

(4)内部service返回结果给业务调用方

 

优点:公网抖动,第三方接口超时,不影响内部接口调用(初期少数几个请求会超时)

 

不足:不是所有公网调用都能够像短息网关,电子合同服务一样有备份接口的,像微信、支付宝等就只此一家

 

四、异步调用法

业务场景:本地结果,同步第三方服务,例如用户在58到家平台下单,58到家平台需要通知平台商家为用户提供服务

解决方案:本地调用成功就返回成功,异步调用第三方接口同步数据(和异步代理有微小差别)

本地流程如上图1-3:

(1)业务调用方调用内部service

(2)内部service写本地数据

(3)内部service返回结果给业务调用方成功

 

异步流程如上图4-5粗箭头的部分:

(4)异步service定期将本地数据取出(或者通知也行,实时性好)

(5)异步调用第三方接口同步数据

 

优点:公网抖动,第三方接口超时,不影响内部接口调用

 

不足:不是所有业务场景都可以异步同步数据

 

五、总结

跨公网调用第三方,可能存在的问题

  • 公网抖动,第三方服务不稳定,影响自身服务

  • 一个接口超时,占住工作线程,影响其他接口

 

降低影响的优化方案

  • 增大工作线程数

  • 降低超时时间

  • 服务垂直拆分

 

业务需求决定技术方案,结合业务的解决方案:

  • 业务能接受旧数据:读取本地数据,异步代理定期更新数据

  • 有多个第三方服务提供商:多个第三方互备

  • 向第三方同步数据:本地写成功就算成功,异步向第三方同步数据

 

希望第三方的服务挂掉,不再影响大家的服务。

这个锅,我们不背。

===【完】===

相关推荐:

TCP接入层的负载均衡、高可用、扩展性架构

配置文件架构迭代与演进

若有收获, 帮忙转发哟

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
ps:主要解决在webservice中,我们想从另外一个项目调用webservice项目的接口,也就是项目调用接口 这里主要用到了xfire wsdl 废话不说了 直接上东西 1. 首先新建一个项目 2. 在src下创建两个文件: a) 第一个是你想要访问的webservice的接口,比如我想访问的接口是 ReleaseService 那就在当前项目创建一个ReleaseService接口(接口中的方法必须和你想要访问的webservice的接口中的方法相同) b) 第二个是你的调用类 3. 导入相应的jar包,这些包不能引用,一定要复制到lib文件夹下面在引用 4. 具体的实现代码 TestWebService方法的代码: package com.isanta.webServiceTest; import java.io.InputStream; import java.net.MalformedURLException; import java.util.Properties; import java.util.Scanner; import org.codehaus.xfire.XFireFactory; import org.codehaus.xfire.client.XFireProxyFactory; import org.codehaus.xfire.service.Service; import org.codehaus.xfire.service.binding.ObjectServiceFactory; public class TestWebService { /** * @param args */ public static void testWebService() throws MalformedURLException, Exception{ // TODO Auto-generated method stub /** *这里是我的参数放在了properties文件中,我在读取里面的参数,这里我们也可以通过方法传参数 *如 : testWebService(String url,String xMlStr)() 那么在调用的时候就可以直接传进来了 *url 是你访问的webservice 的tomcat 的服务器地址 */ Properties pro = new Properties(); InputStream in = null; in = TestWebService.class.getResourceAsStream("/request.properties"); pro.load(in); String url = pro.getProperty("url"); String xMLstr = pro.getProperty("xMLstr"); Service s=new ObjectServiceFactory().create(ReleaseService.class); XFireProxyFactory xf=new XFireProxyFactory(XFireFactory.newInstance().getXFire()); System.out.println("url="+url); try { //这里就是获取webservice的接口的实例对象 ReleaseService seleaseService=(ReleaseService) xf.create(s,url); System.out.println("进入接口----------------->请求报文:"+xMLstr); //这里就是调用你需要的接口的方法 String st=seleaseService.queryReceiptDatas(xMLstr); System.out.print(st); } catch(Exception e) { e.printStackTrace(); } } } 5. 将整个项目打包成jar 6. 将打好的jar包引入到你想要调用的项目中,然后就想 正常的代码一样来调用,如: import java.net.MalformedURLException; import com.isanta.webServiceTest.TestWebService; public class Test { public static void main(String[] args) throws MalformedURLException, Exception { TestWebService.testWebService(); } }

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值