六月婷婷AV,国产偷窥猎奇福利二区,日韩三级片。,好吊色网站,日韩成人中文在线视频,国产亚洲午夜啪啪,亚洲欧美另类国产精品,国产成人av1,任你艹在线观看

物聯(lián)網(wǎng)IoT平臺(tái)

物聯(lián)網(wǎng)IoT平臺(tái)是什么?物聯(lián)網(wǎng)(Internet of Things,簡(jiǎn)稱IoT)平臺(tái)是通過(guò)互聯(lián)網(wǎng)將各種物理設(shè)備、傳感器、軟件和網(wǎng)絡(luò)連接起來(lái)的網(wǎng)絡(luò)系統(tǒng)。它實(shí)現(xiàn)了設(shè)備之間的通信和數(shù)據(jù)交換,通過(guò)智能化和自動(dòng)化的方式,提供了智能化管理和控制的能力。物聯(lián)網(wǎng)的應(yīng)用范圍廣泛,涵蓋智能家居、智能城市、工業(yè)物聯(lián)網(wǎng)等領(lǐng)域。通過(guò)數(shù)據(jù)的收集、傳輸和分析,物聯(lián)網(wǎng)能夠?qū)崿F(xiàn)更高效、智能和便捷的生活和工作方式。
物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)

物聯(lián)網(wǎng)IoT平臺(tái)的定義

物聯(lián)網(wǎng)IoT平臺(tái)是什么?物聯(lián)網(wǎng)(Internet of Things,簡(jiǎn)稱IoT)是指通過(guò)互聯(lián)網(wǎng)將各種物理設(shè)備、傳感器、軟件和網(wǎng)絡(luò)連接起來(lái),實(shí)現(xiàn)彼此之間的通信和數(shù)據(jù)交換的網(wǎng)絡(luò)系統(tǒng)。物聯(lián)網(wǎng)IoT平臺(tái)的核心理念是將物理世界與數(shù)字世界相連接,通過(guò)智能化和自動(dòng)化的方式,實(shí)現(xiàn)設(shè)備之間的互操作性和智能化管理。[1]

物聯(lián)網(wǎng)IoT平臺(tái)的基本原理是通過(guò)傳感器、標(biāo)簽、RFID等技術(shù)將物理設(shè)備與互聯(lián)網(wǎng)連接起來(lái),使其能夠?qū)崟r(shí)收集、傳輸和分析數(shù)據(jù)。這些數(shù)據(jù)可以包括設(shè)備的狀態(tài)、位置、溫度、濕度等各種信息。通過(guò)云計(jì)算和大數(shù)據(jù)分析,這些數(shù)據(jù)可以被處理和利用,以實(shí)現(xiàn)更高效、智能和自動(dòng)化的應(yīng)用。

物聯(lián)網(wǎng)IoT平臺(tái)的應(yīng)用范圍廣泛,涵蓋了各個(gè)行業(yè)和領(lǐng)域。例如,智能家居可以通過(guò)物聯(lián)網(wǎng)技術(shù)將家庭中的各種設(shè)備和系統(tǒng)連接起來(lái),實(shí)現(xiàn)智能化控制和管理;智能城市可以通過(guò)物聯(lián)網(wǎng)技術(shù)實(shí)現(xiàn)交通、能源、環(huán)境等各個(gè)方面的智能化管理;工業(yè)物聯(lián)網(wǎng)則可以實(shí)現(xiàn)工廠設(shè)備的遠(yuǎn)程監(jiān)控和管理,提高生產(chǎn)效率和質(zhì)量。

物聯(lián)網(wǎng)IoT平臺(tái)的發(fā)展帶來(lái)了許多機(jī)遇和挑戰(zhàn)。一方面,物聯(lián)網(wǎng)IoT平臺(tái)可以帶來(lái)更高效、智能和便捷的生活和工作方式,改善人們的生活品質(zhì)和提高生產(chǎn)效率。另一方面,物聯(lián)網(wǎng)也面臨著數(shù)據(jù)安全、隱私保護(hù)、設(shè)備兼容性等方面的挑戰(zhàn),需要制定合適的政策和標(biāo)準(zhǔn)來(lái)解決這些問(wèn)題。

總的來(lái)說(shuō),物聯(lián)網(wǎng)IoT平臺(tái)是一個(gè)連接和互聯(lián)各種物理設(shè)備和系統(tǒng)的網(wǎng)絡(luò)系統(tǒng),通過(guò)收集、傳輸和分析數(shù)據(jù),實(shí)現(xiàn)智能化和自動(dòng)化的應(yīng)用。它具有廣泛的應(yīng)用前景,將對(duì)社會(huì)、經(jīng)濟(jì)和生活帶來(lái)深遠(yuǎn)的影響。

物聯(lián)網(wǎng)IoT平臺(tái)發(fā)展歷程

早期發(fā)展(1990年代-2000年代初):物聯(lián)網(wǎng)IoT平臺(tái)的概念最早于1999年被提出,但在這一階段,技術(shù)和基礎(chǔ)設(shè)施仍然相對(duì)薄弱。主要是一些技術(shù)先驅(qū)和研究機(jī)構(gòu)開(kāi)始探索和研究物聯(lián)網(wǎng)的概念和技術(shù)。

技術(shù)推動(dòng)(2000年代中期-2010年代初):這一階段,物聯(lián)網(wǎng)IoT平臺(tái)的發(fā)展受益于無(wú)線通信技術(shù)的進(jìn)步,特別是無(wú)線傳感器網(wǎng)絡(luò)和RFID技術(shù)的發(fā)展。這些技術(shù)的成熟使得物聯(lián)網(wǎng)的應(yīng)用開(kāi)始擴(kuò)大,包括智能家居、智能城市、智能交通等領(lǐng)域。

大規(guī)模應(yīng)用(2010年代中期至今):隨著移動(dòng)互聯(lián)網(wǎng)技術(shù)的普及和云計(jì)算技術(shù)的成熟,物聯(lián)網(wǎng)IoT平臺(tái)的發(fā)展進(jìn)入了一個(gè)新的階段。越來(lái)越多的物理設(shè)備和傳感器被連接到互聯(lián)網(wǎng)上,數(shù)據(jù)的收集和分析能力大大增強(qiáng)。物聯(lián)網(wǎng)的應(yīng)用場(chǎng)景也更加多樣化,包括智能健康、智能農(nóng)業(yè)、智能工業(yè)等領(lǐng)域。

未來(lái)發(fā)展(未來(lái)):物聯(lián)網(wǎng)的發(fā)展仍在不斷演進(jìn)和創(chuàng)新。隨著5G技術(shù)的普及和邊緣計(jì)算技術(shù)的發(fā)展,物聯(lián)網(wǎng)IoT平臺(tái)將更加強(qiáng)大和智能化。預(yù)計(jì)物聯(lián)網(wǎng)將與人工智能、大數(shù)據(jù)、區(qū)塊鏈等技術(shù)相結(jié)合,進(jìn)一步推動(dòng)物聯(lián)網(wǎng)的發(fā)展,并為社會(huì)、經(jīng)濟(jì)和生活帶來(lái)更廣泛的影響。

2021年7月13日,中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布了《中國(guó)互聯(lián)網(wǎng)發(fā)展報(bào)告(2021)》,物聯(lián)網(wǎng)市場(chǎng)規(guī)模達(dá)1.7萬(wàn)億元,人工智能市場(chǎng)規(guī)模達(dá)3031億元[2]

2021年9月,工信部等八部門印發(fā)《物聯(lián)網(wǎng)新型基礎(chǔ)設(shè)施建設(shè)三年行動(dòng)計(jì)劃(2021-2023年)》,明確到2023年底,在國(guó)內(nèi)主要城市初步建成物聯(lián)網(wǎng)新型基礎(chǔ)設(shè)施,社會(huì)現(xiàn)代化治理、產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型和民生消費(fèi)升級(jí)的基礎(chǔ)更加穩(wěn)固。[3]

物聯(lián)網(wǎng)IoT平臺(tái)數(shù)據(jù)的特征

物聯(lián)網(wǎng)IoT平臺(tái)領(lǐng)域各種類型的設(shè)備和傳感器都會(huì)產(chǎn)生海量的時(shí)序數(shù)據(jù),這些數(shù)據(jù)將占世界數(shù)據(jù)總量的 90% 以上。

時(shí)序數(shù)據(jù)的特點(diǎn)[4]

  1. 時(shí)間戳:每個(gè)數(shù)據(jù)點(diǎn)都帶有時(shí)間戳,這個(gè)時(shí)間戳對(duì)于數(shù)據(jù)的計(jì)算和分析十分重要。
  2. 結(jié)構(gòu)化:與來(lái)自網(wǎng)絡(luò)爬蟲(chóng)、微博、微信的海量數(shù)據(jù)不同,聯(lián)網(wǎng)設(shè)備或監(jiān)控系統(tǒng)生成的數(shù)據(jù)都是結(jié)構(gòu)化的。這些數(shù)據(jù)都具有預(yù)定義的數(shù)據(jù)類型或固定長(zhǎng)度,比如智能電表采集的電流、電壓就可以用 4 字節(jié)的標(biāo)準(zhǔn)的浮點(diǎn)數(shù)來(lái)表示。
  3. 流式:數(shù)據(jù)源以近似恒定速率生成數(shù)據(jù),如音頻或視頻流。這些數(shù)據(jù)流彼此獨(dú)立。
  4. 流量平穩(wěn)可預(yù)測(cè):與電商平臺(tái)或社交媒體網(wǎng)站的數(shù)據(jù)不同,時(shí)序數(shù)據(jù)的流量在一段時(shí)間內(nèi)是穩(wěn)定的,并且可以根據(jù)數(shù)據(jù)源的數(shù)量和采樣周期來(lái)進(jìn)行計(jì)算和預(yù)測(cè)。
  5. 不變性:時(shí)序數(shù)據(jù)一般都是 append-only,類似于日志數(shù)據(jù),一般不容許而且也沒(méi)有修改的必要。很少有場(chǎng)景,需要對(duì)采集的原始數(shù)據(jù)進(jìn)行修改。

時(shí)序數(shù)據(jù)通常用于比較當(dāng)前數(shù)據(jù)與歷史數(shù)據(jù)、檢測(cè)異常、生成實(shí)時(shí)警報(bào)以及預(yù)測(cè)未來(lái)趨勢(shì)。時(shí)序數(shù)據(jù)解決方案一般考慮以下問(wèn)題:

  • 時(shí)序數(shù)據(jù)量通常很大,因此在執(zhí)行存儲(chǔ)、索引、查詢、分析等操作時(shí)變得更加困難。
  • 時(shí)序數(shù)據(jù)需要實(shí)時(shí)計(jì)算和分析,以便于實(shí)時(shí)檢測(cè)異常并告警。 延遲可能會(huì)導(dǎo)致故障和業(yè)務(wù)影響。
  • 通常需要關(guān)聯(lián)來(lái)自不同傳感器和其他源的數(shù)據(jù),這使情況變得更復(fù)雜。
  • 不管是原始數(shù)據(jù)查詢、還是聚合數(shù)據(jù)查詢,時(shí)序數(shù)據(jù)的查詢一般都會(huì)帶上查詢時(shí)間范圍,一方面是根據(jù)時(shí)間范圍計(jì)算聚合時(shí)間窗口,另一方面是為了更高效的檢索數(shù)據(jù),提高查詢效率,避免大量無(wú)效數(shù)據(jù)的掃描。
  • 數(shù)據(jù)在一段時(shí)間內(nèi)的變化趨勢(shì)比單個(gè)數(shù)據(jù)點(diǎn)重要得多。例如,考慮到網(wǎng)絡(luò)不可靠性或傳感器讀數(shù)異常,我們可能會(huì)在一段時(shí)間內(nèi)的某個(gè)平均值超過(guò)閾值時(shí)設(shè)置警報(bào),而不是在單個(gè)數(shù)據(jù)點(diǎn)上這樣做。

TDengine 這類時(shí)序數(shù)據(jù)庫(kù),是基于時(shí)序數(shù)據(jù)的特點(diǎn)以及應(yīng)用的特點(diǎn)進(jìn)行優(yōu)化和設(shè)計(jì)的,專為解決上述問(wèn)題而生。這類專業(yè)的數(shù)據(jù)庫(kù)使時(shí)序數(shù)據(jù)的處理變得更加高效,性能也比通用數(shù)據(jù)庫(kù)更好。

物聯(lián)網(wǎng)IoT平臺(tái)的處理流程

數(shù)據(jù)采集

數(shù)據(jù)采集是物聯(lián)網(wǎng)應(yīng)用的基礎(chǔ)層,一般是由各種傳感器,識(shí)讀器,讀寫(xiě)器,攝像頭,終端,GPS等智能模塊和設(shè)備構(gòu)成。而采集就是通過(guò)這些模塊和設(shè)備來(lái)識(shí)別,讀取和采集來(lái)完成信息獲取,例如溫度、濕度、壓力、位置等信息。其中所運(yùn)用的技術(shù)主要包括RFID技術(shù)、傳感控制技術(shù)、短距離無(wú)線通信技術(shù)等。

數(shù)據(jù)傳輸

傳輸層是物聯(lián)網(wǎng)IoT平臺(tái)設(shè)備實(shí)現(xiàn)連接的通道,承擔(dān)連接終端設(shè)備、邊緣、云端的職責(zé),負(fù)責(zé)將感知層識(shí)別和采集的信息進(jìn)一步傳遞,其中涉及到多種網(wǎng)絡(luò)通信技術(shù),通信技術(shù)可分為無(wú)線傳輸技術(shù)和有線傳輸技術(shù),而根據(jù)實(shí)際應(yīng)用發(fā)展情況,無(wú)線傳輸是主要發(fā)展趨勢(shì),因此物聯(lián)網(wǎng)傳輸層主要關(guān)注點(diǎn)在無(wú)線傳輸技術(shù)。

數(shù)據(jù)存儲(chǔ)

數(shù)據(jù)存儲(chǔ)是將采集到的數(shù)據(jù)保存在云端或本地服務(wù)器中,以備后續(xù)的數(shù)據(jù)分析和應(yīng)用。存儲(chǔ)可以采用關(guān)系型數(shù)據(jù)庫(kù)、分布式數(shù)據(jù)庫(kù)、對(duì)象存儲(chǔ)等不同的技術(shù)方案。

數(shù)據(jù)處理

當(dāng)數(shù)據(jù)傳輸至服務(wù)器端或云計(jì)算平臺(tái)后,接下來(lái)服務(wù)器或云計(jì)算平臺(tái)就會(huì)對(duì)數(shù)據(jù)進(jìn)行收集、記錄、分析、處理、提取、再處理,存儲(chǔ)、管理等,然后再將得出的結(jié)論數(shù)據(jù),反饋給各個(gè)終端應(yīng)用設(shè)備的過(guò)程。

數(shù)據(jù)分析

在數(shù)據(jù)處理后,對(duì)數(shù)據(jù)進(jìn)行分析和挖掘,探索數(shù)據(jù)中的模式、關(guān)聯(lián)和趨勢(shì)。這可以通過(guò)統(tǒng)計(jì)分析、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)實(shí)現(xiàn),從而提取有價(jià)值的信息和洞察。

數(shù)據(jù)應(yīng)用

等到服務(wù)器或云計(jì)算平臺(tái)得出數(shù)據(jù)結(jié)論后,就會(huì)將結(jié)論數(shù)據(jù)下傳至各個(gè)終端應(yīng)用設(shè)備,而終端應(yīng)用設(shè)備則根據(jù)這些數(shù)據(jù),來(lái)自動(dòng)執(zhí)行相應(yīng)的指令和操作。最終以更快的速度,來(lái)智能和自動(dòng)解決人們的需求,或?qū)崿F(xiàn)其目的。

專為物聯(lián)網(wǎng)IoT平臺(tái)處理而生的時(shí)序數(shù)據(jù)庫(kù)

隨著物聯(lián)網(wǎng)IoT平臺(tái)和云的出現(xiàn),時(shí)序數(shù)據(jù)的量開(kāi)始以前所未有的方式呈指數(shù)級(jí)增長(zhǎng):1. 連接設(shè)備和物聯(lián)網(wǎng)的興起,儀表、汽車、電梯、甚至自行車等設(shè)備都在源源不斷地生成數(shù)據(jù);2. IT 基礎(chǔ)設(shè)施在高速增長(zhǎng),物理服務(wù)器、虛擬機(jī)、容器、微服務(wù)等等都會(huì)生成海量時(shí)序數(shù)據(jù)。龐大的時(shí)序數(shù)據(jù)集是關(guān)系數(shù)據(jù)庫(kù)和 NoSQL 數(shù)據(jù)庫(kù)面臨的主要挑戰(zhàn),大體分為以下幾個(gè)方面:

  1. 時(shí)序數(shù)據(jù)積累得非???,每秒產(chǎn)生數(shù)百萬(wàn)條數(shù)據(jù),通用數(shù)據(jù)庫(kù)并不是為處理這種規(guī)模的數(shù)據(jù)而設(shè)計(jì)的。關(guān)系數(shù)據(jù)庫(kù)在非常大的數(shù)據(jù)集上表現(xiàn)很差,NoSQL 數(shù)據(jù)庫(kù)雖然解決了擴(kuò)展能力,但是其通用的數(shù)據(jù)組織方式并不完全適用于對(duì)時(shí)序數(shù)據(jù)存儲(chǔ)和查詢需求,用戶必須根據(jù)實(shí)際應(yīng)用場(chǎng)景,進(jìn)行特殊設(shè)計(jì)甚至大量數(shù)據(jù)冗余存儲(chǔ)才能較好的利用資源處理請(qǐng)求。
  2. 隨著數(shù)據(jù)量的增加,訪問(wèn)速度越來(lái)越慢。同時(shí),大多數(shù)通用數(shù)據(jù)庫(kù)為了提升查詢性能,針對(duì)大量數(shù)據(jù)建立索引,由此消耗大量的系統(tǒng)資源。對(duì)于海量的時(shí)序數(shù)據(jù),通用數(shù)據(jù)庫(kù)無(wú)法高速加載并滿足實(shí)時(shí)處理需求。
  3. 設(shè)備和應(yīng)用在 7*24 小時(shí)不間斷地生成數(shù)據(jù)——有時(shí)一天的數(shù)據(jù)量就超過(guò) 1 TB。關(guān)系數(shù)據(jù)庫(kù)和 NoSQL 數(shù)據(jù)庫(kù)沒(méi)有針對(duì)時(shí)序數(shù)據(jù)的特點(diǎn)來(lái)壓縮這些數(shù)據(jù),因此,存儲(chǔ)成本會(huì)變得很高。

上述問(wèn)題主要是處理大數(shù)據(jù)集的效率問(wèn)題,但通用數(shù)據(jù)庫(kù)往往連時(shí)序數(shù)據(jù)應(yīng)用的一些基本需求都無(wú)法支持:

  1. 數(shù)據(jù)生命周期管理:時(shí)序數(shù)據(jù)具有時(shí)效性,超過(guò)一定時(shí)長(zhǎng)的數(shù)據(jù)通常不再具有價(jià)值,時(shí)序數(shù)據(jù)一旦老化,就需要對(duì)超過(guò)保存時(shí)長(zhǎng)的數(shù)據(jù)進(jìn)行批量刪除處理,而不是針對(duì)單條數(shù)據(jù)的刪除。
  2. Roll-up:用戶定時(shí)聚合歷史數(shù)據(jù)保存至新的數(shù)據(jù)表。原始數(shù)據(jù)和 rolled-up 的數(shù)據(jù)可能具有不同的生命周期和保留策略。
  3. 特殊的分析功能:除了一般數(shù)據(jù)庫(kù)提供的功能外,數(shù)據(jù)庫(kù)還要針對(duì)時(shí)序數(shù)據(jù)的處理進(jìn)行擴(kuò)展,提供累計(jì)求和、時(shí)間加權(quán)平均、移動(dòng)平均、變化率等眾多時(shí)序數(shù)據(jù)分析功能。
  4. 插值:時(shí)間序列分布會(huì)在一些時(shí)間線上,且序列會(huì)隨著時(shí)間的增長(zhǎng)往后發(fā)展。本質(zhì)上是在一個(gè)固定的時(shí)間點(diǎn)記錄數(shù)據(jù),但如果要檢查某個(gè)具體時(shí)間的設(shè)備采集的某個(gè)量,而傳感器實(shí)際采集的時(shí)間不是這個(gè)時(shí)間點(diǎn),這就要求數(shù)據(jù)庫(kù)能夠根據(jù)相鄰的數(shù)據(jù)點(diǎn)和規(guī)則對(duì)數(shù)據(jù)進(jìn)行插值。
  5. 連續(xù)查詢:在時(shí)序應(yīng)用的場(chǎng)景下,對(duì)于依照時(shí)間推進(jìn)順序?qū)懭氲膶?shí)時(shí)數(shù)據(jù),用戶有時(shí)會(huì)希望每隔一段固定時(shí)間,就能夠按照一定的查詢條件對(duì)該時(shí)間范圍內(nèi)的時(shí)序數(shù)據(jù)做一次計(jì)算(例如:對(duì)該時(shí)間范圍內(nèi)的數(shù)據(jù)求一次聚合計(jì)算),并將計(jì)算結(jié)果另行保存下來(lái)。因此,數(shù)據(jù)庫(kù)需要提供連續(xù)查詢(即一種簡(jiǎn)化的流計(jì)算能力),能夠在時(shí)間窗口結(jié)束后對(duì)窗口內(nèi)的數(shù)據(jù)進(jìn)行計(jì)算。
  6. 窗口查詢:時(shí)序數(shù)據(jù)常常需要根據(jù)采集時(shí)間對(duì)數(shù)據(jù)進(jìn)行查詢,本質(zhì)上是在時(shí)間軸上劃分出時(shí)間窗口,并對(duì)窗口內(nèi)的數(shù)據(jù)進(jìn)行聚合和查詢計(jì)算。在實(shí)際生產(chǎn)應(yīng)用中,業(yè)務(wù)場(chǎng)景要求的查詢條件往往比這個(gè)更復(fù)雜,需要數(shù)據(jù)庫(kù)能夠按照不同規(guī)則、沿時(shí)間軸進(jìn)行窗口劃分,并對(duì)各個(gè)窗口內(nèi)的時(shí)序數(shù)據(jù)分別進(jìn)行聚合、選擇計(jì)算等操作。

對(duì)于通用數(shù)據(jù)庫(kù),研發(fā)人員需要投入精力通過(guò)編寫(xiě)代碼來(lái)實(shí)現(xiàn)這些功能。不同場(chǎng)景,不同數(shù)據(jù)量都需要不同的解決方案,極大增加了研發(fā)成本。因此,無(wú)論數(shù)據(jù)集的大小如何,使用專門構(gòu)建的時(shí)序數(shù)據(jù)庫(kù)都是最好的選擇。

物聯(lián)網(wǎng)IoT平臺(tái)時(shí)序數(shù)據(jù)處理面臨的挑戰(zhàn)及解決方案

物聯(lián)網(wǎng)存在海量的設(shè)備、傳感器,時(shí)序數(shù)據(jù)處理的傳統(tǒng)方案有如下問(wèn)題:

  1. 數(shù)據(jù)入庫(kù)慢:?jiǎn)螜C(jī)寫(xiě)入吞吐量低,很難滿足時(shí)序數(shù)據(jù)上千萬(wàn)級(jí)的寫(xiě)入壓力;
  2. 存儲(chǔ)成本大:在對(duì)時(shí)序數(shù)據(jù)進(jìn)行壓縮時(shí)性能不佳,需占用大量機(jī)器資源;
  3. 維護(hù)成本高:?jiǎn)螜C(jī)系統(tǒng),需要在上層人工進(jìn)行分庫(kù)分表,維護(hù)成本高;使用 Pi 等組件則對(duì)點(diǎn)位數(shù)有限制,隨著點(diǎn)位增多需要更多的開(kāi)銷;
  4. 非云原生:不支持分布式,對(duì)部署的平臺(tái)有限制,沒(méi)有好的擴(kuò)展性、韌性、可觀測(cè)性,部分產(chǎn)品比如 Pi 有一定的;
  5. 查詢性能差:海量實(shí)時(shí)數(shù)據(jù)的聚合分析性能差。
  6. 數(shù)據(jù)孤島:邊云協(xié)同能力差。

TDengine 作為一款開(kāi)源、高性能、云原生的時(shí)序數(shù)據(jù)庫(kù)(Time Series Database, TSDB),針對(duì)物聯(lián)網(wǎng)的數(shù)據(jù)特點(diǎn)及讀寫(xiě)需求做了特定的優(yōu)化,廣泛運(yùn)用于物聯(lián)網(wǎng)各類場(chǎng)景中,并且提供基于數(shù)據(jù)訂閱的數(shù)據(jù)同步工具 taosx 來(lái)支撐異地多活、邊云協(xié)同。

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)

收益與價(jià)值

高性能:可以支持百萬(wàn)級(jí)別的并發(fā)寫(xiě)入、萬(wàn)級(jí)的并發(fā)讀取,大量聚合查詢時(shí)依然有高性能表現(xiàn)

高可用:可支持集群部署,可橫向擴(kuò)展,不存在單點(diǎn)故障,為生產(chǎn)環(huán)境穩(wěn)定運(yùn)行提供基礎(chǔ)

低成本:數(shù)據(jù)庫(kù)對(duì)硬件資源要求低,數(shù)據(jù)壓縮率高,平均至少節(jié)省70%的硬件資源

高度一體化:具備消息隊(duì)列、流式計(jì)算和緩存的功能,大幅簡(jiǎn)化架構(gòu)

易上手:使用 SQL 進(jìn)行數(shù)據(jù)庫(kù)操作,簡(jiǎn)單易學(xué),支持復(fù)雜查詢,減少開(kāi)發(fā)難度和運(yùn)維壓力

自帶邊云協(xié)同組件:輕松跨隔離同步數(shù)據(jù)

物聯(lián)網(wǎng)IoT平臺(tái)企業(yè)案例

至數(shù)搖光 x TDengine

目前改造工作已經(jīng)全部完成,改造后有大約 80% 左右的指標(biāo)模型放到了 TDengine 中,20% 左右的主數(shù)據(jù)或維表數(shù)據(jù)存放在 MySQL 數(shù)據(jù)庫(kù)中。相較于改造前的 80% 指標(biāo)模型存放在 MySQL 中,20% 指標(biāo)數(shù)據(jù)存放在 OpenTSDB 數(shù)據(jù)庫(kù)中,結(jié)果剛好進(jìn)行了顛倒,服務(wù)器資源使用情況也有所下降。應(yīng)用整體的頁(yè)面影響速度顯著提高,數(shù)據(jù)模型及數(shù)據(jù)指標(biāo)上也可以更加地靈活多變。[5]

業(yè)務(wù)背景

至數(shù)物聯(lián)網(wǎng)平臺(tái)場(chǎng)景多、數(shù)據(jù)模型復(fù)雜,改造前數(shù)據(jù)庫(kù)采用 OpenTSDB+MySQL 結(jié)合的方式實(shí)現(xiàn),由于 OpenTSDB 無(wú)法滿足復(fù)雜查詢場(chǎng)景,因此 80% 的場(chǎng)景指標(biāo)只能基于 MySQL 數(shù)據(jù)庫(kù)來(lái)實(shí)現(xiàn),這樣帶來(lái)的問(wèn)題就是 MySQL 數(shù)據(jù)庫(kù)的數(shù)據(jù)增長(zhǎng)迅速,需要定時(shí)做冷熱數(shù)據(jù)分離及數(shù)據(jù)庫(kù)表維護(hù)動(dòng)作。在對(duì) TDengine 進(jìn)行充分調(diào)研后,至數(shù)搖光決定從時(shí)序數(shù)據(jù)庫(kù) OpenTSDB 遷移到 TDengine,并基于 TDengine 的特性對(duì)系統(tǒng)進(jìn)行徹底性的改造。

架構(gòu)圖

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)
查看案例詳情

華自科技 x TDengine

當(dāng)前項(xiàng)目數(shù)據(jù)測(cè)點(diǎn)大概在 18 萬(wàn)左右,改造后數(shù)據(jù)存儲(chǔ)周期由原來(lái)的 5 分鐘減少到 1 秒鐘,存儲(chǔ)的數(shù)據(jù)維度更精細(xì)了,能為平臺(tái)的智能診斷、智能分析服務(wù)提供更準(zhǔn)確的數(shù)據(jù)支持,同時(shí)各業(yè)務(wù)場(chǎng)景下的計(jì)算查詢性能也提升了不少,數(shù)據(jù)庫(kù)服務(wù)器由原來(lái)的 6 臺(tái)減少到目前的 3 個(gè)節(jié)點(diǎn)集群。[6]

業(yè)務(wù)背景

華自科技旗下的物聯(lián)網(wǎng)數(shù)據(jù)平臺(tái)是電站及泵站智慧運(yùn)維平臺(tái)的核心組成。在數(shù)據(jù)存儲(chǔ)上,此前其采用 MySQL 分庫(kù)分表方案來(lái)存儲(chǔ)歷史數(shù)據(jù),使用 Redis 來(lái)存儲(chǔ)實(shí)時(shí)數(shù)據(jù),在測(cè)點(diǎn)數(shù)較少或者集控需求不是很多的場(chǎng)景下,基本滿足需求,但隨著平臺(tái)業(yè)務(wù)的發(fā)展,接入的站點(diǎn)越來(lái)越多,運(yùn)維難、開(kāi)發(fā)難、成本高等問(wèn)題逐漸凸顯。為了解決這些問(wèn)題,華自科技決定重新進(jìn)行技術(shù)選型,尋找替代方案,升級(jí)目前數(shù)據(jù)庫(kù)存儲(chǔ)方案。結(jié)合平臺(tái)實(shí)際需要,其調(diào)研了 InfluxDB、庚頓、麥杰、TimescaleDB、TDengine 這幾款數(shù)據(jù)庫(kù)產(chǎn)品,最終選擇了 TDengine。

改造遷移

由于 TDengine 采用了類 SQL 的語(yǔ)法,支持 MyBatis 等 ORM 框架,因此老業(yè)務(wù)在代碼層面的改動(dòng)非常少,改動(dòng)最多的就是將原來(lái)的 MySQL 函數(shù)結(jié)合應(yīng)用代碼的一些計(jì)算邏輯直接用 TDengine 的函數(shù)替換掉。在通過(guò)業(yè)務(wù)系統(tǒng)觀察和驗(yàn)證各項(xiàng)功能正常之后,就可以進(jìn)行歷史數(shù)據(jù)的遷移了。由于 TDengine 的表結(jié)構(gòu)與原來(lái)的 MySQL 存儲(chǔ)結(jié)構(gòu)基本類似,因此物聯(lián)網(wǎng)數(shù)據(jù)平臺(tái)開(kāi)發(fā)人員直接采用 DataX 的 TDengine 插件,歷史數(shù)據(jù)就很輕松地遷移過(guò)來(lái)了。

查看案例詳情

睿信物聯(lián)網(wǎng)平臺(tái) x TDengine

TDengine 的安裝部署非常簡(jiǎn)單,配合 Docker 容器,在幾分鐘內(nèi)就能完成。遷移到 TDengine 之后,我們的運(yùn)營(yíng)監(jiān)控工作也變簡(jiǎn)單了,只需要對(duì) TDengine 的幾個(gè)進(jìn)程進(jìn)行監(jiān)控,占用的磁盤空間減少到了原來(lái)的 1/5,使用的主機(jī)也減少到原來(lái)的 1/5,極大節(jié)省了資源開(kāi)銷。遇到技術(shù)難題,不僅可以直接在官方渠道 https://github.com/taosdata/TDengine 提 issue,也可以在 TDengine 的技術(shù)社區(qū)提問(wèn),TDengine 的技術(shù)專家響應(yīng)非???。[7]

業(yè)務(wù)背景

睿信物聯(lián)網(wǎng)平臺(tái)此前采用 OpenTSDB 進(jìn)行時(shí)序數(shù)據(jù)的存儲(chǔ),功能上基本滿足現(xiàn)有需求,但是由于 OpenTSDB 架構(gòu)復(fù)雜,體量過(guò)重,給開(kāi)發(fā)測(cè)試、安裝部署以及運(yùn)維管理等工作帶來(lái)了不小的麻煩。隨著業(yè)務(wù)的發(fā)展,問(wèn)題逐漸凸顯,開(kāi)始影響工作效率,具體可以歸納為安裝難、調(diào)試難、運(yùn)維難、成本高四大問(wèn)題。從業(yè)務(wù)發(fā)展的角度出發(fā),睿信開(kāi)發(fā)人員決定重新進(jìn)行技術(shù)選型,尋找 OpenTSDB 的替代方案,分別對(duì) InfluxDB、TimescaleDB 和 TDengine 三款時(shí)序數(shù)據(jù)庫(kù)進(jìn)行調(diào)研。

架構(gòu)圖

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)
查看案例詳情

蒼穹數(shù)碼 x TDengine

我們以近 10 年全省的雨量站小時(shí)雨量數(shù)據(jù)為測(cè)試數(shù)據(jù),從常用的應(yīng)用場(chǎng)景對(duì) TimescaleDB 和 TDengine 兩款數(shù)據(jù)庫(kù)進(jìn)行對(duì)比分析,歷史數(shù)據(jù)批量入庫(kù)場(chǎng)景中 TimescaleDB 用時(shí) 24 小時(shí),TDengine 用時(shí)僅僅 2 小時(shí);入庫(kù)后數(shù)據(jù)文件大小對(duì)比結(jié)果中 TimescaleDB 是 38GB,TDengine 是 698MB;常見(jiàn)查詢場(chǎng)景比對(duì)中 TDengine 也均優(yōu)于 TimescaleDB。從入庫(kù)、壓縮比及查詢 3 個(gè)維度來(lái)看,TDengine 都是完勝。[8]

業(yè)務(wù)背景

在地災(zāi)專業(yè)監(jiān)測(cè)物聯(lián)網(wǎng)平臺(tái)項(xiàng)目中,首先需要解決的就是海量時(shí)序數(shù)據(jù)的存儲(chǔ)和計(jì)算問(wèn)題,其有著體量大、時(shí)間長(zhǎng),寫(xiě)入、查詢要求高等特點(diǎn),傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)已經(jīng)無(wú)法滿足實(shí)時(shí)寫(xiě)入與高性能查詢要求。該項(xiàng)目在 2018 年創(chuàng)建之初采用的是大型企業(yè)級(jí)數(shù)據(jù)庫(kù) Oracle,目前已經(jīng)無(wú)法滿足實(shí)時(shí)寫(xiě)入與高性能查詢要求,特別是當(dāng)雨季來(lái)臨,傳感器數(shù)據(jù)采集頻率提高到秒級(jí)、毫秒級(jí)別,數(shù)據(jù)入庫(kù)就會(huì)阻塞,效率非常低下。蒼穹數(shù)碼選擇接入 TDengine 以解決海量時(shí)序數(shù)據(jù)的存儲(chǔ)和計(jì)算問(wèn)題。

架構(gòu)圖

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)
查看案例詳情

通過(guò)上面幾個(gè)實(shí)踐我們也能看到,時(shí)序數(shù)據(jù)積累得非???,每秒產(chǎn)生數(shù)百萬(wàn)條數(shù)據(jù),通用數(shù)據(jù)庫(kù)并不是為處理這種規(guī)模的數(shù)據(jù)而設(shè)計(jì)的——關(guān)系數(shù)據(jù)庫(kù)在非常大的數(shù)據(jù)集上表現(xiàn)很差,NoSQL 數(shù)據(jù)庫(kù)雖然解決了擴(kuò)展能力,但是其通用的數(shù)據(jù)組織方式并不完全適用于對(duì)時(shí)序數(shù)據(jù)存儲(chǔ)和查詢需求,用戶必須根據(jù)實(shí)際應(yīng)用場(chǎng)景,進(jìn)行特殊設(shè)計(jì)甚至大量數(shù)據(jù)冗余存儲(chǔ)才能較好的利用資源處理請(qǐng)求。

而在時(shí)序數(shù)據(jù)庫(kù)(Time Series Database)的選擇上,企業(yè)也要擦亮雙眼,進(jìn)行充分的調(diào)研測(cè)試,選擇性能最好資源使用率最高的產(chǎn)品,此前我們基于第三方性能基準(zhǔn)測(cè)試平臺(tái) TSBS 測(cè)試發(fā)布的 IoT 場(chǎng)景下 TDengine 3.0 性能對(duì)比分析報(bào)告,大家也可做參考。如果你正面臨數(shù)據(jù)處理難題,歡迎添加小T微信(tdengine)尋求幫助。

參考文獻(xiàn)

[1] 《物聯(lián)網(wǎng):概念,架構(gòu)與關(guān)鍵技術(shù)研究綜述》.嚴(yán)晨晨-《數(shù)碼設(shè)計(jì)》

[2] 《中國(guó)互聯(lián)網(wǎng)發(fā)展報(bào)告(2021)》.中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)

[3]《物聯(lián)網(wǎng)新型基礎(chǔ)設(shè)施建設(shè)三年行動(dòng)計(jì)劃(2021-2023年)》.工業(yè)和信息化部等部門印發(fā)

[4]《物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)大數(shù)據(jù)的特點(diǎn)》.陶建輝-http://m.fjzmyy.cn/tdengine-engineering/105.html

[5]《從 OpenTSDB 到 TDengine,至數(shù)物聯(lián)網(wǎng)平臺(tái)技術(shù)改造之路》.李友龍-http://m.fjzmyy.cn/tdengine-user-cases/5007.html

[6]《服務(wù)器減少一半,TDengine 在華自科技的落地實(shí)踐》.寧龍-http://m.fjzmyy.cn/tdengine-user-cases/3358.html

[7]《基于 TDengine 進(jìn)行睿信物聯(lián)網(wǎng)平臺(tái)的遷移改造》.RisingStar-http://m.fjzmyy.cn/tdengine-user-cases/2455.html

[8]《助力地質(zhì)災(zāi)害專業(yè)監(jiān)測(cè),他們選擇將 Oracle 替換為 TDengine》.小牛-http://m.fjzmyy.cn/tdengine-user-cases/6550.html

推薦詞條

物聯(lián)網(wǎng)IoT平臺(tái)

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)

物聯(lián)網(wǎng)IoT平臺(tái)是什么?物聯(lián)網(wǎng)平臺(tái)是通過(guò)互聯(lián)網(wǎng)將各種物理設(shè)備、傳感器、軟件和網(wǎng)絡(luò)連接起來(lái)的網(wǎng)絡(luò)系統(tǒng)……

智能制造

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)

智能制造是一種基于現(xiàn)代信息技術(shù)和先進(jìn)制造技術(shù)的制造方法,它的核心目標(biāo)是提高生產(chǎn)效率、降低成本……

能源數(shù)據(jù)

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)

能源數(shù)據(jù)是指對(duì)能源相關(guān)信息進(jìn)行大規(guī)模存儲(chǔ)、處理和分析的數(shù)據(jù)集合。它能為能源的發(fā)展提供決策支持……

工業(yè)大數(shù)據(jù)

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)

工業(yè)大數(shù)據(jù)是指在工業(yè)領(lǐng)域中產(chǎn)生的大量數(shù)據(jù),通過(guò)采集、存儲(chǔ)、處理和分析這些數(shù)據(jù)……

相關(guān)文章

破解物聯(lián)網(wǎng)平臺(tái)性能瓶頸:TDengine 在聯(lián)犀的應(yīng)用與優(yōu)化

作者:

聯(lián)犀物聯(lián)網(wǎng)平臺(tái), 楊磊

物聯(lián)網(wǎng)IoT - TDengine Database 時(shí)序數(shù)據(jù)庫(kù)
文章從一個(gè)具體的業(yè)務(wù)場(chǎng)景出發(fā),分析了企業(yè)在面對(duì)海量時(shí)序數(shù)據(jù)時(shí)的挑戰(zhàn),并提出了利用 TDengine 高效處理和存儲(chǔ)數(shù)據(jù)的方法
在本文中,我們將深入探討蘑菇物聯(lián)選擇 TDengine 的原因、項(xiàng)目實(shí)施中的挑戰(zhàn)與解決方案,以及合作視角下雙方的未來(lái)愿景。
SagooIoT 作為一款開(kāi)源的企業(yè)級(jí)物聯(lián)網(wǎng)基礎(chǔ)開(kāi)發(fā)平臺(tái),結(jié)合高性能時(shí)序數(shù)據(jù)庫(kù) TDengine,為我們提供了一套完整的解決方案。
為進(jìn)一步提升能源數(shù)據(jù)平臺(tái)的數(shù)據(jù)處理能力與系統(tǒng)穩(wěn)定性,推動(dòng)智能設(shè)備數(shù)據(jù)管理和能效優(yōu)化到新的高度, 德中恒越物聯(lián)網(wǎng)數(shù)據(jù)平臺(tái)選擇應(yīng)用 TDengine Cloud 。
近日,濤思數(shù)據(jù)旗下物聯(lián)網(wǎng)、工業(yè)大數(shù)據(jù)平臺(tái) TDengine V3.0 與蒼穹數(shù)碼旗下大型 GIS 基礎(chǔ)平臺(tái)-蒼穹地理信息平臺(tái)(KQGIS)V8.5 完成產(chǎn)品兼容性驗(yàn)證,為企業(yè)進(jìn)行數(shù)字化轉(zhuǎn)型提供更全面的技術(shù)保障。
在 2021 樓宇科技 TRUE 大會(huì)上,美的暖通與樓宇事業(yè)部首次發(fā)布了數(shù)字化平臺(tái) iBuilding,以“軟驅(qū)硬核”方式賦能建筑行業(yè)。作為一個(gè)全新的項(xiàng)目,iBuilding 在數(shù)據(jù)庫(kù)選型上比較謹(jǐn)慎,分別對(duì)比了多款 Database 產(chǎn)品之后,才做出了自己的選擇。本文分享了他們的數(shù)據(jù)庫(kù)選型思考和落地經(jīng)驗(yàn)。
作為華為云緊密合作伙伴,濤思數(shù)據(jù)將與華為云攜手共同開(kāi)展行業(yè)深度合作,持續(xù)打造互利共贏的生態(tài)合作伙伴關(guān)系,共同布局全球市場(chǎng),強(qiáng)強(qiáng)聯(lián)合為用戶提供更便捷、更高效、更安全的產(chǎn)品及服務(wù)。
本主題下分享嘉賓為飛思捷躍總經(jīng)理?xiàng)罱荨?/div>
至數(shù)物聯(lián)網(wǎng)平臺(tái)場(chǎng)景多、數(shù)據(jù)模型復(fù)雜,伴隨著業(yè)務(wù)需求的不斷迭代及數(shù)據(jù)量的不斷上漲,原有的 OpenTSDB+MySQL 的組合逐漸力不從心,局限性日益凸顯。在對(duì)?TDengine Database 進(jìn)行充分了解與調(diào)研后,基于 TDengine 對(duì)至數(shù)搖光進(jìn)行了徹底性的改造。
存儲(chǔ)上節(jié)省了將近40G的容量,總接入量每秒基本是20萬(wàn)個(gè)點(diǎn)左右。TDengine Database 不僅在分析業(yè)務(wù)模塊上帶來(lái)了性能上的巨大提升,更是在成本上達(dá)到了幾乎對(duì)半的下調(diào),極大地節(jié)省了中科云創(chuàng)在基礎(chǔ)數(shù)據(jù)庫(kù)建設(shè)上的投入。