关闭

支付系统中的对账处理

标签: 支付对账轧账平账设计
1782人阅读 评论(3) 收藏 举报
分类:

博主说:在支付系统中,对账是至关重要的一部分,一个完善的对账体系,是支付系统健壮的基石。

正文

可以说,对账是支付系统最头疼的事情。每一笔交易,都要做到各参与者的记录能够吻合,没有偏差。对账系统的工作,是发现有差异的记录,即轧帐;然后通过人工或者自动的方式,解决这些差异,即平帐

对电商系统来说,每一笔交易,在所有相关主体侧都要能对得上:

  • 交易主体,如果发起人是个人,必须能够从个人交易历史记录中找到这笔交易。但大部分人不会保留电子记录,所以一般是提供可以下载的账单或交易记录,让用户自己对去。
  • 交易对手,一般是商户。商户侧对账处理同用户侧,也仅仅提供对账单。
  • 交易渠道侧,这是对账的重点,一是核实交易流水,二是核实交易佣金,毕竟是租用人家通道做结算的。

那有哪些记录需要对账? 目前主要是两个:一个是交易记录;一个是退款记录。 这里以交易记录的处理为例,退款记录可以类似处理。

1. 对账处理流程

一般来说,对账流程涉及到如下步骤: 渠道对账单下载、本地交易记录准备、轧账、平账。

1.1 渠道对账单下载

银行、第三方支付、银联等,基本都会提供对账单下载的功能。不过也有少数工作做不到位或者太到位的银行,只提供账单查询后台,不提供对账单下载功能。 对开发人员来说,这里有几个坑:

  • 对账单格式不一,文本、XML、CSV 的都有,为了后续能够统一处理,在账单下载完成后,需要进行标准化处理。
  • 下载方式不一,HTTP、HTTPS、FTP 的都有,下载程序需要按照渠道的协议来处理。
  • 下载时间不一,一般是凌晨 1 点后,到中午 12 才能用的也有,如果在预定的时间取不到数据,需要注意重试读取。
  • 稳定性差,FTP 服务器出问题那是常有的事。渠道侧解决方案往往就是重启。所以重试机制是必要的。

看一下第三方支付的对账单情况:

1

银行直连的对账情况:

2

1.2 渠道对账单标准化

找个例子大家看看, 比如微信的对账单,他是 CSV 格式的,包括如下信息:

  1. 交易时间:这是在微信侧的支付完成的时间,这个时间会成为一个陷阱。
  2. 公众号 ID、商户号、子商户号、设备号: 这些信息需要做验证,确保是自己的单子,不要让微信把老王家的单子也给发过来了。
  3. 微信订单号、商户订单号:这两个是对单的核心,前者是微信侧产生的订单号,在微信支付接口返回值中有,但是万一收不到这个返回值,那在本地记录中可能就空了;后者是我们发送给微信的订单号,一般用这个来做对单依据。两边的数据中都会有这个值。
  4. 用户标识、交易类型、交易状态、付款银行、货币种类、总金额、企业红包金额: 这几个就是对单的核心字段,必须确保双方是一致的。
  5. 商品名称、商户数据包、手续费、费率:这些是可选验证。

3

而某宝的对账单是文本格式的,用空格隔开。他们家的就简单很多,只有商户订单号、交易流水号、交易时间、支付时间、付款方、交易金额、交易类型和交易状态这些字段。

4

由于每个渠道的账单格式都不尽相同,在得到账单后,下一步是对账单做标准化处理,这样轧帐以及后续工作就可以统一处理了。标准化后的账单数据可以放在文件系统或者数据库中。这取决于交易数据量。每天百万以上的量,还是使用文件系统比较合适。数据库操作相对比较慢,也浪费资源。基于文件系统的标准化涉及如下内容:

  • 文件格式标准化:统一使用 CSV 或者 JSON 或者 XML 格式,如果是使用 Hadoop 或者 Spark 来对账,使用 CSV 是个不错的选择。
  • 文件存储统一化:文件目录和文件名都需要遵循统一命名规范。

为了加快处理速度,我们使用 HDFS 作为文件系统,有利于后续的对账的处理。

1.3 本地交易记录准备

本地交易记录的准备,总的来说有如下方法:

  • 啥都不做,直接用原始数据。鉴于大部分系统使用的是 MySQL,这也意味着在 MySQL 上做对账。对账时需要大量的数据查找工作,必然会影响线上业务。在数据规模较大,比如超过 100 万时,就不太合适了。
  • 当然,还有一个选择是使用备库来执行对账,这样既简单也不影响线上业务。这是典型的空间换时间的做法。
  • 如果业务大到需要分表分库才能处理,那对账数据准备也不一样。使用分库也不现实,因为分库一般是按照主体 id,而不是渠道 id,来分库,这样对账就需要在多个库上进行,效率反而降低了。而对分表分库建立从库也非常耗费资源。这种情况下,需要同步一份数据到(HDFS)文件系统中,或者 NOSQL 数据库上。

由于交易记录是支付系统核心数据,有大量的应用,如信用、风控等,都需要交易记录数据。这些应用对交易记录的需求还不完全一致,为了提升性能, 交易记录会使用异步的方式来将数据投递给使用方。 交易记录在入库时,投递消息到消息系统中。使用方监听这个消息,一旦收到新消息,则从交易记录库中查询数据,获取数据并更新到库中。关于此类数据同步的文章不少,这里就不详细介绍啦!

1.4 轧帐

轧帐是按照客户订单号来比较本地交易记录和渠道交易记录是否一致。从算法角度,是计算两个数组的差异。在单机运行时,可以采用的算法不少,这里不详细介绍。 我们推荐采用 MapReduce 来轧帐,这有个优势,可以按照订单号将渠道提供的记录和本地记录 shuffle 到同一个 reduce 处理上,这样就可以很容易进行数据比对。轧帐中最大的坑,莫过于切分点的问题。比如以整 0 点为切分点,那存在一个问题,本地 23:59 发起的交易,到了渠道侧,可能会在 00:01 处理,这一笔交易变成第二天的帐了。实际处理中,一笔交易在渠道侧处理,花上几分钟都有可能。 对于切分点附近无法确认的帐,做一个时间窗,在时间窗内的数据,留待第二天对账时继续处理。

1.5 平帐

发现两边不一致的数据,那应该如何处理?数据量不大时,记录起来,人工甄别就行。但如果数据量很大,每天上千条,人工处理就成本太高了。这个没有统一的处理方法,需要根据有问题的数据,做个分析,然后做自动处理。 针对交易记录的对账的处理,主要有如下情况:

  • 长款: 本地未支付,支付渠道已支付。这主要是本地未正确接收到渠道下发的异步通知导致。一般处理是将本地状态修改为已支付,并做响应的后续处理,比如通知业务方等。
  • 短款:本地已支付,但是支付渠道中无记录;或者本地无记录,支付渠道有记录。在排除跨日因素外,这种情况非常少见,需要了解具体原因后做处理。
  • 金额不一致: 本地已支付,支付渠道已支付,但是金额不同,这个需要人工核查。

针对退款的对账处理,主要有如下情况:

  • 本地未退款,支付渠道已退款,则以支付渠道为准,修改本地为已退款状态,并出发后续处理。
  • 本地已退款、支付渠道已退款,但是金额不同,需要人工核查。
  • 本地已退款,但是支付渠道无记录;或者支付渠道有记录,但是本地没有。 在排除跨日因素外, 这种情况非常少见,需要了解具体原因后做处理。

2. 对账架构

基于微服务的对账系统实现的一个参考架构如下:

4

2.1 对账单下载

对账单下载组件每天定时触发,从支付通道服务器上下载对账单。 目前主要有 HTTP(S) 和 FTP 两种对账单下载方式。 技术选型上,HTTP(S) 用 Apache httpclient 即可实现链接池和断点续传, FTP 也可以使用 Apache Commons Net API。不管是哪一个,都需要设置重试次数和链接超时间。重试次数和间隔的设置需要小心,重试太频繁,容易把服务器打死.;时间间隔太大,又会阻塞后续处理步骤。5~10 分钟是一个合适的重试间隔区间。链接超时指在服务器出现问题时,连接在指定时间内获取不到数据即自动断开。这个很容易被忽略。我们有一次系统出问题,是渠道侧的FTP假死后重启,导致我们的客户端挂住,一直在等待重新链接。此外,注意,有些对账单下载是支持分页下载的。

2.2 对账单转换

将对账单转换为标准格式的账单,为对账 MapReduce 任务执行提供支持。每个渠道的对账单格式不一,需要分别开发转换程序。 转换程序主要就两个操作: 解析源文件和转换成标准格式并输出。

2.3 轧账MR

如上所述,轧账 MapReduce 程序在 Hadoop 上运行,以交易号为 Key,核对渠道订单和本地交易记录之间的差异,输出差异记录。最后将差异记录导入到差异表中。

总之,对账工作,即复杂也不复杂。需要细心,对业务要有深入的了解,并选择合适的架构。


转载声明:本文转自个人博客「凤凰牌老熊」,支付系统的对账处理

7
1
查看评论

支付系统的对账处理

可以说,对账是支付系统最头疼的事情。每一笔交易,都要做到各参与者的记录能够吻合,没有偏差。对账系统的工作,是发现有差异的记录,即轧帐;然后通过人工或者自动的方式,解决这些差异,即平帐。 对电商系统来说,每一笔交易,在所有相关主体侧都要能对得上: 交易主体,如果发起人是个人,必须能够从个人...
  • u011001084
  • u011001084
  • 2016-10-13 10:37
  • 1851

开源中国颁发证书:GVP-码云最有价值开源项目(roncoo-pay)

roncoo-pay (龙果支付系统) roncoo-pay是国内首款开源的互联网支付系统,其核心目标是汇聚所有主流支付渠道,打造一款轻量、便捷、易用,且集支付、资金对账、资金清结算于一体的支付系统,满足互联网业务系统的收款和业务资金管理需求。 厉害了,龙果!《龙果开源支付系统》再次获得广...
  • zhaorui2017
  • zhaorui2017
  • 2017-10-13 10:23
  • 555

SODBASE CEP学习进阶篇(七):SODBASE CEP与Spark streaming集成

基于内存RDD的Spark框架在很多新项目中被使用。Spark计算框架包括其Streaming组件,出发点是批处理层(Lamda架构中Batch Layer)划分批的思路。在许多地方,用户在使用Spark后,又想实现在线系统低延时实时计算,以及流处理规则的管理。这时,我们可以将SODBASE CEP...
  • happynyear
  • happynyear
  • 2015-11-07 17:19
  • 1094

漫谈数据质量监控

0x00 前言 往往那些不起眼的功能,最能毁掉你的工作成果。 本篇分享一些和数据质量监控相关的内容。数据质量监控是一个在快速发展的业务中最容易被牺牲和忽略的功能,但是它确实至关重要的。 假设你做了100个业务,一旦有其中一个业务在某个时间段出现了数据异常,这个异常还是由业务方发现的而不是你,根据...
  • zhaodedong
  • zhaodedong
  • 2017-06-17 21:50
  • 1510

互联网支付-对账后的记账处理

A支付公司有代收和B2C两种交易类型,但是经过整理发现代收和B2C的对账方式和对账的记账流水都是一样的 对于对账可以大致分为 充值对平,退款对平, 充值长款,充值短款,退款长款,退款短款这六种状态 当然你们支付平台有两种类型的交易时,测试你当前系统的对账是否正常就需要,就要代收和B2C的都要测试...
  • sdtvyyb_007
  • sdtvyyb_007
  • 2017-01-15 16:56
  • 859

互联网金融系列-支付清算体系例子-下(理解日切)

笔者上一篇《互联网金融系列-支付清算体系介绍-上》已经比较全面的介绍了以银联为例子的支付清算体系,为了更好的理解里面的运作,本章以两个例子为重点,全面剖析整个清算的过程。 1,记账原则         这块跟会计相关,...
  • caomiao2006
  • caomiao2006
  • 2015-09-17 22:11
  • 5231

大型的支付系统,如支付宝、财付通,后系统是如何对账、风控的呢

大型的支付系统,如支付宝、财付通,后系统是如何对账、风控的呢
  • XingKong22star
  • XingKong22star
  • 2016-08-04 15:03
  • 846

支付系统开发中可能遇到的问题

考虑的重点: (请求) 并发请求 重复请求 超量请求 请求积压   (处理程序) Bug 处理中断 处理超时   (资源) 资源不可用 资源响应超时   (外部服务) 通信中断 服务不可用 外部服务器响应超时 外部服务违背功能契约   应对方式(参考) 原则:...
  • fayeyiwang
  • fayeyiwang
  • 2016-04-18 14:19
  • 612

支付系统对账算法优化方案

一、目前对账的算法: 1、从上游渠道(银行、银联等金融机构)获取对账文件,程序逐行解析入库 2、在存储过程中,以上游对账文件的表为基准,程序逐行读取并与我们系统的交易记录/账务记录(有账务系统情况下,合理方案应该是于账务记录)对比,查找出差异记录。 3、以我们系统的交易记录/账务记...
  • skiof007
  • skiof007
  • 2016-07-14 15:18
  • 3184

龙果支付开源项目对账接口介绍

微信对账接口(微信支付和对账接口都很规范)
  • whs_321
  • whs_321
  • 2016-08-26 17:29
  • 1687
    个人资料
    • 访问:957426次
    • 积分:12879
    • 等级:
    • 排名:第1271名
    • 原创:258篇
    • 转载:85篇
    • 译文:11篇
    • 评论:954条
    博主的 GitHub 账号
    GitHub : Charies Gavin

        鉴于 CSDN 糟糕的用户体验,博主会将一些优质的文章迁移到 Charies Gavin's Blog  欢迎大家在 GitHub 上 Follow 博主,以及 Fork、Star、Watch 博主的项目。


      青春不老 奋斗不止


      好学若饥虚心若愚
    博客专栏