本文結(jié)合商業(yè)銀行核心系統(tǒng)的技術(shù)架構(gòu)演進(jìn)路線與發(fā)展趨勢,介紹了中國民生銀行基于分布式技術(shù)架構(gòu)的核心系統(tǒng)建設(shè)歷程,并就分布式核心系統(tǒng)的架構(gòu)設(shè)計(jì)以及建設(shè)過程中遇到的關(guān)鍵問題和解決方案進(jìn)行歸納與總結(jié),供金融同業(yè)參考借鑒,以期推動(dòng)商業(yè)銀行在FinTech時(shí)代下核心技術(shù)的布局和綜合競爭力的提升。
一、商業(yè)銀行核心系統(tǒng)技術(shù)架構(gòu)轉(zhuǎn)型趨勢
國內(nèi)商業(yè)銀行核心系統(tǒng)大多數(shù)采用基于IOE技術(shù)的集中式架構(gòu),該架構(gòu)在銀行的IT系統(tǒng)建設(shè)中發(fā)揮著至關(guān)重要的作用,目前仍是各家銀行核心系統(tǒng)的主要設(shè)計(jì)方案,但隨著“互聯(lián)網(wǎng)+”時(shí)代的發(fā)展,銀行在應(yīng)對海量客戶數(shù)據(jù)處理時(shí),該架構(gòu)的缺點(diǎn)日益顯現(xiàn),并對傳統(tǒng)核心系統(tǒng)帶來了諸多挑戰(zhàn)。
一是集中式架構(gòu)普遍缺乏彈性伸縮的能力,隨著交易量和數(shù)據(jù)量的增長,系統(tǒng)支持的容量容易遇到硬件或技術(shù)的瓶頸。尤其在支持面向互聯(lián)網(wǎng)海量客戶相關(guān)業(yè)務(wù)時(shí),不能有效處理瞬時(shí)爆發(fā)的海量交易,嚴(yán)重制約了海量客戶的獲取以及大規(guī)模業(yè)務(wù)營銷。
二是集中式架構(gòu)采用單體應(yīng)用設(shè)計(jì),軟件開發(fā)和運(yùn)行管理的最小單元是應(yīng)用,管理力度較粗,容易“牽一發(fā)而動(dòng)全身”,應(yīng)用的開發(fā)過程不易踐行輕量化敏捷開發(fā)理念,系統(tǒng)在運(yùn)行過程中容易出現(xiàn)單點(diǎn)故障,難以有效進(jìn)行故障隔離。
三是基于集中式架構(gòu)的核心系統(tǒng)基礎(chǔ)設(shè)施使用小型機(jī)或大型機(jī),硬件和軟件采購成本高,開發(fā)和運(yùn)維主要依賴于服務(wù)廠商,服務(wù)成本高,也無法做到完全自主掌控。
四是IOE技術(shù)體系封閉,技術(shù)的發(fā)展高度依賴于廠商,特別是依賴國外廠商,商業(yè)銀行的IT團(tuán)隊(duì)缺乏自主可控能力,在一定程度上存在信息安全風(fēng)險(xiǎn)。
反觀互聯(lián)網(wǎng)行業(yè),隨著移動(dòng)互聯(lián)網(wǎng)的迅猛發(fā)展,分布式架構(gòu)在互聯(lián)網(wǎng)IT技術(shù)領(lǐng)域廣泛應(yīng)用并積累了大量實(shí)踐經(jīng)驗(yàn),開源技術(shù)與軟件日益成熟。在互聯(lián)網(wǎng)金融快速發(fā)展和利率市場化的大環(huán)境下,建設(shè)能夠支持海量客戶、具有彈性擴(kuò)展能力、高效靈活的核心系統(tǒng)已成為國內(nèi)商業(yè)銀行必然且迫切的需要,而基于傳統(tǒng)系統(tǒng)架構(gòu)的核心系統(tǒng)無法完成這種顛覆性改造。
商業(yè)銀行的核心系統(tǒng)經(jīng)歷了從總分行數(shù)據(jù)分離,到全國數(shù)據(jù)大集中,再到SOA架構(gòu)服務(wù)化等發(fā)展階段后,未來將向適應(yīng)云計(jì)算技術(shù)的分布式架構(gòu)發(fā)展(如圖1所示)。
近年來,監(jiān)管部門對分布式架構(gòu)、人工智能等新興技術(shù)提出了明確的發(fā)展規(guī)劃要求。2016年人民銀行發(fā)布了《金融業(yè)信息化“十三五”發(fā)展規(guī)劃》,明確提出“以安全、可靠、高效、彈性為重點(diǎn)目標(biāo)實(shí)施架構(gòu)轉(zhuǎn)型、探索分布式架構(gòu)和成熟開源技術(shù)應(yīng)用,逐步減少或擺脫對單一技術(shù)產(chǎn)品的依賴”。無論從技術(shù)發(fā)展還是監(jiān)管要求來看,商業(yè)銀行的核心系統(tǒng)技術(shù)架構(gòu)面臨著方向性轉(zhuǎn)變,朝著分布式架構(gòu)、云計(jì)算方向發(fā)展已成為必然趨勢。
二、中國民生銀行分布式核心系統(tǒng)
建設(shè)背景與歷程
中國民生銀行于2005年開始啟動(dòng)基于SAP平臺(tái)的核心系統(tǒng)建設(shè),在SAP的BPP平臺(tái)上實(shí)現(xiàn)了存款管理、卡管理、客戶信息管理、憑證管理等功能模塊,基于SAP平臺(tái)的核心系統(tǒng)于2013年成功上線,成為亞太地區(qū)首家使用SAP“銀行業(yè)核心產(chǎn)品”的銀行?;赟AP的核心系統(tǒng)運(yùn)行在IBM、EMC硬件設(shè)備上,在硬件采購方面投入了大量資金,每年還需向SAP公司支付軟件維護(hù)費(fèi)用;SAP的技術(shù)平臺(tái)相對封閉,國內(nèi)沒有具備維護(hù)能力的原廠工程師,市場上從事SAP ABAP語言的開發(fā)人員也較少,無法滿足中國民生銀行對核心系統(tǒng)故障快速響應(yīng)、快速處理的維護(hù)要求,目前主要依靠民生銀行在SAP核心系統(tǒng)建設(shè)期間培養(yǎng)的十幾人團(tuán)隊(duì)負(fù)責(zé)開發(fā)和運(yùn)維,存在投入高、產(chǎn)率低、行內(nèi)運(yùn)行維護(hù)壓力大等問題。
從運(yùn)行情況看,基于SAP的核心系統(tǒng)投產(chǎn)后每年賬戶增長速度和日均交易量遠(yuǎn)超預(yù)期,核心系統(tǒng)的處理能力將很快接近性能瓶頸,聯(lián)機(jī)交易平均響應(yīng)時(shí)間和結(jié)息、計(jì)提日終作業(yè)處理時(shí)間給業(yè)務(wù)帶來的壓力也越來越大,同時(shí)高并發(fā)交易時(shí)容易發(fā)生大量超時(shí)交易,生產(chǎn)的性能壓力日益增大。
正是看到了SAP核心系統(tǒng)日益凸顯的問題,同時(shí)結(jié)合對于未來核心系統(tǒng)技術(shù)方向的前瞻,中國民生銀行根據(jù)自身整體戰(zhàn)略目標(biāo),按照去IOE、自主掌控核心技術(shù)的指導(dǎo)思想,在借鑒互聯(lián)網(wǎng)公司分布式架構(gòu)經(jīng)驗(yàn)的同時(shí),結(jié)合民生銀行核心系統(tǒng)業(yè)務(wù)需求,啟動(dòng)了基于開源軟件分布式架構(gòu)平臺(tái)的設(shè)計(jì)與建設(shè),并在民生銀行核心系統(tǒng)中實(shí)施應(yīng)用。
2014年在發(fā)改委、財(cái)政部、工信部和科技部組織實(shí)施的云計(jì)算工程中,中國民生銀行科技部申報(bào)的《金融云通用解決方案與分布式核心業(yè)務(wù)系統(tǒng)研發(fā)及推廣》項(xiàng)目通過了立項(xiàng)評審,并被列入國家戰(zhàn)略性新興產(chǎn)業(yè)專項(xiàng)資金補(bǔ)助計(jì)劃。分布式核心系統(tǒng)建設(shè)的目標(biāo)是應(yīng)對“互聯(lián)網(wǎng)+金融”以及利率市場化沖擊,快速響應(yīng)海量客戶需求,提供全面的金融產(chǎn)品和服務(wù),降低IT成本,提高市場競爭力,實(shí)現(xiàn)核心技術(shù)的信息安全可控,滿足監(jiān)管部門對銀行信息科技的發(fā)展規(guī)劃與監(jiān)管要求。
基于新技術(shù)的核心系統(tǒng)架構(gòu)轉(zhuǎn)型項(xiàng)目建設(shè)規(guī)模龐大,結(jié)合中國民生銀行的實(shí)際情況,分布式核心系統(tǒng)建設(shè)采取“分步實(shí)施、小步快走”的建設(shè)策略。
第一階段:分布式架構(gòu)技術(shù)預(yù)研及技術(shù)平臺(tái)建設(shè)
2014年下半年啟動(dòng)了項(xiàng)目技術(shù)可行性分析和總體方案設(shè)計(jì)工作,調(diào)研分析了多家互聯(lián)網(wǎng)公司的分布式架構(gòu),結(jié)合中國民生銀行核心系統(tǒng)的需求,考察商業(yè)與開源方案和軟件,完成關(guān)鍵技術(shù)點(diǎn)的驗(yàn)證,最終形成了分布式核心系統(tǒng)的技術(shù)方案和實(shí)施方案。由于整個(gè)項(xiàng)目屬于技術(shù)前沿領(lǐng)域(“互聯(lián)網(wǎng)技術(shù)架構(gòu)+銀行核心交易”),缺少可借鑒的成功案例和成熟商用產(chǎn)品,最終確定項(xiàng)目實(shí)施采用自主研發(fā)的方式。2015年項(xiàng)目實(shí)施正式啟動(dòng),并于年底完成了分布式技術(shù)平臺(tái)建設(shè)和性能驗(yàn)證;同時(shí)作為技術(shù)驗(yàn)證,完成了基于分布式技術(shù)平臺(tái)的客戶信息和活期存款應(yīng)用,首先上線和遷入了全量客戶信息,完成分布式技術(shù)平臺(tái)實(shí)踐檢驗(yàn),為分布式核心系統(tǒng)的上線推廣奠定了堅(jiān)實(shí)基礎(chǔ)。
第二階段:中國民生銀行直銷銀行電子賬戶遷入分布式核心系統(tǒng)
2016年下半年,結(jié)合直銷銀行快速發(fā)展的業(yè)務(wù)需要,分布式核心系統(tǒng)接入直銷銀行業(yè)務(wù)產(chǎn)品,經(jīng)過一年的時(shí)間不斷完善、反復(fù)論證和全面驗(yàn)證,分布式核心系統(tǒng)于2018年1月成功遷入超過2000萬直銷銀行電子賬戶,賬戶遷入后分布式核心系統(tǒng)運(yùn)行平穩(wěn),日均交易量和響應(yīng)時(shí)間滿足設(shè)計(jì)的預(yù)期,業(yè)務(wù)處理性能較SAP核心系統(tǒng)提升3倍以上。
第三階段:SAP核心系統(tǒng)的賬戶遷入分布式核心系統(tǒng)
在夯實(shí)第二階段工作的基礎(chǔ)上,采取分步驟、分批次的方案,逐步將核心業(yè)務(wù)從SAP系統(tǒng)全部遷移至分布式核心系統(tǒng),實(shí)現(xiàn)統(tǒng)一的中國民生銀行分布式核心系統(tǒng),替代現(xiàn)有的SAP核心產(chǎn)品,最終完成中國民生銀行核心系統(tǒng)技術(shù)架構(gòu)的轉(zhuǎn)型升級。
三、中國民生銀行分布式核心系統(tǒng)
關(guān)鍵設(shè)計(jì)
中國民生銀行分布式核心系統(tǒng)建設(shè)的關(guān)鍵在于如何設(shè)計(jì)滿足要求的基于分布式架構(gòu)的技術(shù)平臺(tái),以自主可控、“去IOE”為總指導(dǎo)思想,以基于互聯(lián)網(wǎng)主流的開源技術(shù)和國產(chǎn)X86服務(wù)器為技術(shù)選型策略,技術(shù)上“先難后易”、業(yè)務(wù)上“先簡后繁”是建設(shè)實(shí)施的總路線。
分布式技術(shù)平臺(tái)遵循分布式架構(gòu)設(shè)計(jì)原則,基于成熟開源技術(shù)加自主創(chuàng)新擴(kuò)展設(shè)計(jì),滿足核心系統(tǒng)功能和非功能需求,為核心系統(tǒng)應(yīng)用提供平臺(tái)級的設(shè)計(jì)、開發(fā)、測試和運(yùn)行支撐,主要包括分布式中間件平臺(tái)和開發(fā)運(yùn)維一體化(DevOps)平臺(tái)兩大部分。分布式中間件平臺(tái)是應(yīng)用開發(fā)和運(yùn)行的平臺(tái),提供對核心系統(tǒng)聯(lián)機(jī)交易和批量作業(yè)的支持;在設(shè)計(jì)過程中采用分層設(shè)計(jì),解耦各層的關(guān)注點(diǎn),分為服務(wù)接入層、應(yīng)用層和數(shù)據(jù)層,各層可以獨(dú)立進(jìn)行彈性擴(kuò)展,從而整體上提升系統(tǒng)的處理能力。開發(fā)運(yùn)維一體化平臺(tái)實(shí)現(xiàn)從應(yīng)用代碼編譯、單元測試、打包、部署和運(yùn)維的全流程管理,包含對日志處理、服務(wù)跟蹤、健康檢查、實(shí)時(shí)監(jiān)控的支持,以及運(yùn)維需要的管理控制臺(tái)。
分布式核心應(yīng)用所實(shí)現(xiàn)的民生銀行核心業(yè)務(wù)功能,包括客戶管理、賬戶管理、卡管理以及支付、結(jié)算等功能。得益于分布式技術(shù)平臺(tái)技術(shù)支撐,分布式核心應(yīng)用采用微服務(wù)架構(gòu)設(shè)計(jì),在應(yīng)用和數(shù)據(jù)層面實(shí)現(xiàn)分布式部署,可彈性擴(kuò)展。
中國民生銀行分布式核心系統(tǒng)的主要特點(diǎn)與關(guān)鍵設(shè)計(jì)點(diǎn)包括以下四個(gè)方面:
(1)基于開源技術(shù)實(shí)現(xiàn)分布式技術(shù)平臺(tái),支持微服務(wù)架構(gòu)與云計(jì)算平臺(tái)。分布式技術(shù)平臺(tái)包含微服務(wù)框架、配置中心、消息中心、分布式批處理框架、分布式緩存和分布式數(shù)據(jù)訪問等技術(shù)組件(如圖2所示)?;谠撈脚_(tái)應(yīng)用開發(fā)人員無需關(guān)注分布式技術(shù)底層細(xì)節(jié),開發(fā)的應(yīng)用能夠在分布式環(huán)境下部署、運(yùn)行,支持彈性擴(kuò)容;支持微服務(wù)架構(gòu);支持核心系統(tǒng)聯(lián)機(jī)交易和批量作業(yè);支持X86服務(wù)器、虛擬機(jī)、Docker容器等多種不同的基礎(chǔ)設(shè)施部署環(huán)境。
(2)基于分布式架構(gòu)設(shè)計(jì)并實(shí)現(xiàn)核心業(yè)務(wù)系統(tǒng),實(shí)現(xiàn)核心數(shù)據(jù)的分布式存儲(chǔ)與水平擴(kuò)展。分布式核心系統(tǒng)采用分布式技術(shù)架構(gòu)和基于客戶ID分區(qū)技術(shù),解決了銀行核心數(shù)據(jù)水平擴(kuò)展問題;采用讀寫分離和分庫分表等方式的數(shù)據(jù)分布式處理,結(jié)合使用分布式緩存和支撐異步處理的消息中心,有效提升系統(tǒng)響應(yīng)速度和吞吐量;通過采用分布式批處理框架,大幅提升批處理效率,支持海量賬戶的日終批量處理,分布式核心應(yīng)用架構(gòu)如圖3所示。
(3)基于DevOps實(shí)現(xiàn)面向大規(guī)模分布式應(yīng)用的開發(fā)運(yùn)維一體化管理平臺(tái),實(shí)現(xiàn)數(shù)據(jù)化運(yùn)營。引入面向大規(guī)模分布式應(yīng)用的開發(fā)運(yùn)維一體化管理平臺(tái)(如圖4所示),主要解決應(yīng)用的自動(dòng)構(gòu)建、持續(xù)集成、自動(dòng)化部署、運(yùn)行和維護(hù)管理等問題,用以填補(bǔ)基礎(chǔ)資源與應(yīng)用系統(tǒng)間的技術(shù)鴻溝,提升分布式架構(gòu)下應(yīng)用開發(fā)生命周期效率與質(zhì)量。
應(yīng)用發(fā)布平臺(tái)具有并行可視化應(yīng)用部署、負(fù)載集群均衡等能力,可以一鍵化構(gòu)建應(yīng)用及其相關(guān)運(yùn)行環(huán)境與基礎(chǔ)設(shè)施的映射關(guān)系;能夠與監(jiān)控平臺(tái)協(xié)同工作,及時(shí)發(fā)現(xiàn)基礎(chǔ)設(shè)施、應(yīng)用的失效,并采用補(bǔ)償?shù)葯C(jī)制進(jìn)行修復(fù),保障銀行業(yè)務(wù)系統(tǒng)的高可靠運(yùn)行。
監(jiān)控平臺(tái)采用分布式采集、集中處理和展示的方式對分布式核心系統(tǒng)進(jìn)行實(shí)時(shí)監(jiān)測、預(yù)警和告警,具備事前預(yù)警和事后告警功能,結(jié)合大數(shù)據(jù)技術(shù)實(shí)現(xiàn)監(jiān)控信息收集和日志收集,根據(jù)集群的配置信息,對分布式核心架構(gòu)組件進(jìn)行集群監(jiān)控關(guān)聯(lián)分析;底層平臺(tái)實(shí)現(xiàn)鏈路訪問的全程跟蹤,訪問日志統(tǒng)一收集,隨時(shí)隨地展現(xiàn)應(yīng)用全程訪問關(guān)系,及時(shí)發(fā)現(xiàn)基礎(chǔ)設(shè)施、應(yīng)用的失效,實(shí)現(xiàn)系統(tǒng)故障一目了然。
(4)基于邏輯分區(qū)的理念,實(shí)現(xiàn)雙活和災(zāi)備的多機(jī)房部署體系,保障業(yè)務(wù)連續(xù)性。核心系統(tǒng)采用兩地多機(jī)房的部署架構(gòu),同城兩個(gè)機(jī)房同時(shí)對外提供服務(wù),核心賬務(wù)數(shù)據(jù)按照客戶號進(jìn)行邏輯分區(qū),每個(gè)機(jī)房包含多個(gè)邏輯分區(qū),邏輯分區(qū)之間相互隔離,外部交易請求通過全局路由技術(shù)組件,根據(jù)路由規(guī)則路由到相應(yīng)的機(jī)房和相應(yīng)的邏輯分區(qū)。
這種方式改變了同城機(jī)房傳統(tǒng)上只作為熱備而不對外提供服務(wù)的使用方式,有效提升了機(jī)房資源利用率;同時(shí)可以在同城兩個(gè)機(jī)房分別服務(wù)于不同的客戶,在機(jī)房出現(xiàn)故障時(shí)能夠降低客戶影響范圍,同城機(jī)房實(shí)現(xiàn)秒級切換,更有效地保障業(yè)務(wù)連續(xù)性,分布式核心系統(tǒng)雙活部署架構(gòu)如圖5所示。
實(shí)踐證明在自主可控、“去IOE”思想的指導(dǎo)下,基于互聯(lián)網(wǎng)主流的開源技術(shù)和國產(chǎn)x86服務(wù)器,商業(yè)銀行分布式核心系統(tǒng)建設(shè)是可行的,中國民生銀行通過開源軟件和分布式技術(shù)在銀行核心系統(tǒng)的成功應(yīng)用,為傳統(tǒng)商業(yè)銀行在核心系統(tǒng)領(lǐng)域使用分布式架構(gòu)相關(guān)技術(shù)進(jìn)行了探索實(shí)踐。
分布式架構(gòu)技術(shù)在自主安全可控、可擴(kuò)展性、敏捷開發(fā)、灰度發(fā)布和總擁有成本等方面,相對傳統(tǒng)基于IOE的集中式架構(gòu)具有明顯的優(yōu)勢,核心系統(tǒng)未來發(fā)展必然是朝著分布式架構(gòu)、云計(jì)算方向演進(jìn)。集中式架構(gòu)目前仍然是各家商業(yè)銀行核心系統(tǒng)的主流架構(gòu)形式,分布式架構(gòu)作為一種新興的技術(shù)架構(gòu),受限于CAP理論,還需要攻克在事務(wù)一致性、數(shù)據(jù)實(shí)時(shí)性、高可靠性等方面的技術(shù)難關(guān),以滿足銀行核心系統(tǒng)極高的標(biāo)準(zhǔn)與要求,集中式架構(gòu)與分布式架構(gòu)在未來一段時(shí)間內(nèi)將在各家商業(yè)銀行中并存發(fā)展。
第三十四屆CIO班招生
國際CIO認(rèn)證培訓(xùn)
首席數(shù)據(jù)官(CDO)認(rèn)證培訓(xùn)
責(zé)編:content
免責(zé)聲明:本網(wǎng)站(http://www.www.gypb.net/)內(nèi)容主要來自原創(chuàng)、合作媒體供稿和第三方投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
本網(wǎng)站刊載的所有內(nèi)容(包括但不僅限文字、圖片、LOGO、音頻、視頻、軟件、程序等)版權(quán)歸原作者所有。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),請及時(shí)通知本站,予以刪除。