使用金融時序數(shù)據(jù)庫 TDengine 構(gòu)建行情中心,用于存儲金融行業(yè)領(lǐng)域海量的股、基、債、期資產(chǎn)的行情時序數(shù)據(jù),結(jié)合 TDengine 的高性能計算方案構(gòu)建行情中心數(shù)據(jù)應(yīng)用方案。
詳細(xì)方案
場景介紹
金融行情數(shù)據(jù)常常具備如下特征:
- 數(shù)據(jù)總量:總數(shù)據(jù)量常常是 TB 的數(shù)據(jù),存儲管理復(fù)雜
- 數(shù)據(jù)特征:行情數(shù)據(jù)相對格式固定,自帶時間戳
- 子表總數(shù):因資產(chǎn)的多樣性,行情中心經(jīng)常會有幾十萬的子表,像因子信號表甚至?xí)薪f表
- 保留時限:行情數(shù)據(jù)保留期限經(jīng)常是 5-10 年,甚至 30 年以上
子表多、數(shù)據(jù)量大、數(shù)據(jù)格式固定和保留時限長的金融行情數(shù)據(jù)的存儲計算需要十分適合使用 TDengine 時序數(shù)據(jù)庫(Time Series Database,TSDB)來進(jìn)行處理。因此,在 TDengine 中使用“一個金融品類一個超級表,一個具體金融標(biāo)的一個子表”建模方式,可以有效的管理海量的行情數(shù)據(jù),進(jìn)而基于 TDengine 高效的計算能力,提供基于行情中心的資產(chǎn)管理、實時監(jiān)控、績效分析、風(fēng)險分析、輿情分控、股票回測、信號模擬(合約、策略等)、報表輸出等應(yīng)用投研服務(wù)。
場景需求與痛點
- 每時每刻產(chǎn)生的海量行情數(shù)據(jù)要求在高效寫入的同時做到準(zhǔn)確入庫。
- 海量行情數(shù)據(jù)的應(yīng)用場景非常多樣,各種數(shù)據(jù)計算依賴,要求任意時間的數(shù)據(jù)高速讀取
- 海量金融資產(chǎn)及金融衍生品的監(jiān)控性,對高性能的計算標(biāo)準(zhǔn)。
- 基于海量行情數(shù)據(jù)及其產(chǎn)生大量的加工、模擬數(shù)據(jù),進(jìn)行回測、因子、深度學(xué)習(xí)模型等量化應(yīng)用
架構(gòu)圖
隨著 TDengine 的引入,減少了組件數(shù)量,降低架構(gòu)的復(fù)雜度,同時降低了存儲成本,提升業(yè)務(wù)響應(yīng)實時性,降低了人員要求,釋放了業(yè)務(wù)創(chuàng)新通過 TDengine 多樣的數(shù)據(jù)寫入和導(dǎo)入方式,將來自行情數(shù)據(jù)文件和實時數(shù)據(jù)流的數(shù)據(jù),寫入到 TDengine 中,進(jìn)而通過 SDK 或者 http 的方式構(gòu)建多樣化的金融服務(wù)。

收益與價值
平臺的收益總結(jié)如下:
- 極高的數(shù)據(jù)壓縮率,二段式無損壓縮以及浮點數(shù)的有損壓縮,1/10 的存儲成本
- 高速行情數(shù)據(jù)寫入,集群提供 1 億點/s 的寫入速度(點數(shù) = 行數(shù) * 列數(shù))
- 集群系統(tǒng)高可用性:針對數(shù)據(jù)的高一致性和高可用性,進(jìn)行多副本的驗證、多節(jié)點同步寫入、數(shù)據(jù)落盤確認(rèn)等參數(shù)的測試
- 讀取速度線性擴(kuò)展,單資產(chǎn)表查詢業(yè)務(wù)都在 1ms 以內(nèi)
- 大跨度時間段訓(xùn)練數(shù)據(jù)讀取,全時間軸數(shù)據(jù)無差異特性,滿足選擇不同時間段進(jìn)行模型訓(xùn)練和驗證
- 適配了國產(chǎn)化 CPU 與操作系統(tǒng)
客戶案例
其他行業(yè)解決方案



互聯(lián)網(wǎng).png)



-1.png)







證.png)


伙伴.png)
伙伴.png)
伙伴.png)






