0
在與騰訊云大數(shù)據(jù)團(tuán)隊(duì)見面前五分鐘,我們來到團(tuán)隊(duì)所在的辦公室,這里有一扇朝南的落地窗,正好將騰訊大廈的全貌和周邊的車水馬龍盡收眼底。
這副畫面,某種程度上暗合了我們對(duì)騰訊云大數(shù)據(jù)的定位:一個(gè)巧妙的觀察窗。
從這個(gè)窗口望出去,我們可以覺察到,騰訊云大數(shù)據(jù)的“三級(jí)跳”式發(fā)展:
第一級(jí),是騰訊十余年海量業(yè)務(wù)的錘煉下,騰訊云大數(shù)據(jù)不斷自我進(jìn)化,成為保障集團(tuán)在大江大河中穩(wěn)步前行的“大心臟”。
第二級(jí),是騰訊開源協(xié)同戰(zhàn)略過程中,通過Oteam等組織和流程的設(shè)計(jì),大數(shù)據(jù)完成技術(shù)層的穿透對(duì)齊。散落在集團(tuán)內(nèi)部的各種大數(shù)據(jù)相關(guān)的工作,自此歸整合一,成功轉(zhuǎn)化為對(duì)外賦能的底氣和實(shí)力。
第三級(jí),是騰訊云大數(shù)據(jù)在前兩級(jí)的基礎(chǔ)上,逐漸打磨出了自己的完善產(chǎn)品矩陣和成熟標(biāo)桿案例,一定程度上將騰訊助力數(shù)實(shí)融合的能力具象化,更清晰呈現(xiàn)于世人面前。
騰訊云大數(shù)據(jù)這個(gè)觀察窗,可以觀照騰訊內(nèi)部技術(shù)和組織層面的革新,更能清晰看到騰訊如何由內(nèi)向外地延伸自己的能力邊界,幫助企業(yè)在數(shù)據(jù)的無邊之海中,建起一座通往創(chuàng)新彼岸的橋。
它也由此成為了一個(gè)樣本,在討論企業(yè)數(shù)字化和賦能產(chǎn)業(yè)互聯(lián)網(wǎng)的當(dāng)下,頗具參考意義。
事實(shí)上,騰訊大數(shù)據(jù)的十五年演進(jìn)道路,沒有刻意的提前規(guī)劃、頂層設(shè)計(jì)。始終遵循的原則,就是貼著業(yè)務(wù)而行。
大數(shù)據(jù)雛形漸顯的時(shí)間點(diǎn),可以追溯到2006-2007年間的騰訊。
“當(dāng)時(shí)已經(jīng)有數(shù)據(jù)分析報(bào)表給到Pony(馬化騰)、Martin(劉熾平)這一層,每天都會(huì)發(fā)封郵件告訴他們業(yè)務(wù)關(guān)鍵指標(biāo)如何。”騰訊云副總裁劉煜宏回憶道。
第一階段:離線計(jì)算時(shí)代
劉煜宏2005年加盟騰訊,是現(xiàn)在的騰訊大數(shù)據(jù)平臺(tái)負(fù)責(zé)人,親歷了騰訊的大數(shù)據(jù)成長全過程。他回憶稱,騰訊的大數(shù)據(jù)在2008年左右,突然遭遇了業(yè)務(wù)膨脹的巨大挑戰(zhàn),QQ、游戲、財(cái)付通等業(yè)務(wù)多頭并進(jìn)。
特別是QQ農(nóng)場異軍突起,業(yè)務(wù)爆發(fā)式增長,把傳統(tǒng)的數(shù)倉體系壓垮,“經(jīng)常要做交叉分析,業(yè)務(wù)量一大,系統(tǒng)就出現(xiàn)瓶頸了?!?/p>
自建大數(shù)據(jù)平臺(tái),并且把業(yè)務(wù)從Oracle平滑遷移到新平臺(tái)上,成為當(dāng)時(shí)大數(shù)據(jù)團(tuán)隊(duì)的頭號(hào)任務(wù)。
盡管當(dāng)時(shí)還是PC互聯(lián)網(wǎng),各種數(shù)據(jù)指標(biāo)和維度不如現(xiàn)在精細(xì),但要知道,那時(shí)候騰訊已經(jīng)有好些上十億、上百億量級(jí)的業(yè)務(wù)了,例如大家所熟知的QZone(QQ空間),遷移難度可想而知。
劉煜宏還記得,QQ藍(lán)鉆是第一個(gè)遷移到新平臺(tái)上的重量級(jí)業(yè)務(wù),大數(shù)據(jù)團(tuán)隊(duì)心理壓力不小,派了不少人陪著藍(lán)鉆業(yè)務(wù)的數(shù)據(jù)分析師,兩撥人排排坐,一起目睹業(yè)務(wù)腳本一個(gè)個(gè)遷到“新家”——所幸一切順利,任務(wù)順利完成。
可以說,2009-2011年是騰訊大數(shù)據(jù)的起步期。在這一階段,騰訊開始轉(zhuǎn)向構(gòu)建以Hadoop為核心的離線計(jì)算體系,第一代大數(shù)據(jù)平臺(tái)由此誕生,完成了從關(guān)系型數(shù)據(jù)庫到自建大數(shù)據(jù)平臺(tái)的全面遷移。
第二階段:實(shí)時(shí)計(jì)算時(shí)代
但團(tuán)隊(duì)很快發(fā)現(xiàn),剛降生不久的第一代平臺(tái),又趕不上騰訊高歌猛進(jìn)的業(yè)務(wù)增速了。
管理層已經(jīng)不再滿足于之前按天匯報(bào)經(jīng)營數(shù)據(jù)的模式:“比如一個(gè)游戲上線新版本,才發(fā)布一個(gè)小時(shí),老板們就會(huì)問到最新的運(yùn)營數(shù)據(jù)?!?/p>
但那時(shí)候的騰訊,數(shù)據(jù)統(tǒng)計(jì)基本都是T+1的,得等到晚上12點(diǎn)自動(dòng)生成文件,再從業(yè)務(wù)組、業(yè)務(wù)部門、事業(yè)群一層層向上匯總,再規(guī)整到TEG的數(shù)據(jù)平臺(tái)部。這種按天的集中式數(shù)據(jù)傳輸,占用了不少帶寬資源,成本和時(shí)效性都成問題。
與此同時(shí),移動(dòng)互聯(lián)網(wǎng)逐漸接棒PC互聯(lián)網(wǎng),騰訊面臨的內(nèi)部需求和外部趨勢,都說明了這一階段的大數(shù)據(jù)任務(wù)關(guān)鍵詞已經(jīng)變成了“實(shí)時(shí)”。
因此,在2011-2012年左右,騰訊的大數(shù)據(jù)從離線計(jì)算逐漸切換至實(shí)時(shí)計(jì)算階段,從Hadoop轉(zhuǎn)向以Spark、Storm為核心進(jìn)行流式計(jì)算,從之前的天、小時(shí)、分鐘邁進(jìn)到秒級(jí)、毫秒級(jí)的時(shí)代,開始支持在線分析和實(shí)時(shí)計(jì)算場景。
第三階段:智能化時(shí)代
騰訊的發(fā)展之快,很快讓業(yè)務(wù)部門在統(tǒng)計(jì)、監(jiān)控和簡單的模型計(jì)算之外,又有了新的想法:看數(shù)據(jù)不僅要“快速”,還得“非常聰明”。
“各個(gè)業(yè)務(wù)對(duì)數(shù)據(jù)的挖掘越來越深入,比如內(nèi)部的廣告、推薦業(yè)務(wù),做用戶畫像、特征分析的需求,已經(jīng)得不到滿足了。”
因此這一階段的騰訊大數(shù)據(jù),主要完成了從數(shù)據(jù)分析到數(shù)據(jù)挖掘的轉(zhuǎn)變,也就是「智能化」。
分布式機(jī)器學(xué)習(xí)引擎 Angel 和一站式 AI 開發(fā)平臺(tái)智能鈦 TI,都是在這一階段被自主研發(fā)出來,專攻復(fù)雜計(jì)算場景,可進(jìn)行大規(guī)模的數(shù)據(jù)訓(xùn)練,支撐內(nèi)容推薦、廣告推薦等 AI 應(yīng)用場景。
劉煜宏透露,事實(shí)上他們并沒有刻意設(shè)計(jì)過每一代的目標(biāo)和路徑,但他們回顧總結(jié)后注意到,離線計(jì)算、實(shí)時(shí)計(jì)算、機(jī)器學(xué)習(xí)+深度學(xué)習(xí),可以看做是騰訊云大數(shù)據(jù)的三個(gè)階段性特征,而第四代大數(shù)據(jù)平臺(tái),已經(jīng)在向一體化、智能、安全、云原生的方向演進(jìn)。
這時(shí),命運(yùn)的時(shí)針正好來到2018年。
2018這一年,在不同層面上來說,都是騰訊的分水嶺。
這一年,第四代大數(shù)據(jù)平臺(tái)逐漸成形,新的發(fā)展方向已經(jīng)呈現(xiàn)在大數(shù)據(jù)團(tuán)隊(duì)眼前。
也是在這一年,930變革橫空出世,開源協(xié)同和自研上云兩大戰(zhàn)略,吹響推進(jìn)的號(hào)角。一場集騰訊全公司之力的世紀(jì)工程就此開始。
開源協(xié)同很多時(shí)候被描述為代碼協(xié)同,但其實(shí)遠(yuǎn)不至于此。據(jù)騰訊云CTO王慧星回憶,TEG(技術(shù)工程事業(yè)群)總裁盧山建議,大數(shù)據(jù)、存儲(chǔ)、計(jì)算等方面的PaaS服務(wù)也應(yīng)當(dāng)以統(tǒng)一的公有云形式建設(shè),而非業(yè)務(wù)團(tuán)隊(duì)自行建設(shè)和管理。盧山認(rèn)為,這樣的技術(shù)能力應(yīng)該以產(chǎn)品化形式在云上對(duì)所有事業(yè)群提供服務(wù)。
PaaS協(xié)同工作里,大數(shù)據(jù)是非常重要的一個(gè)賽道。劉煜宏告訴我們,在推進(jìn)大數(shù)據(jù)協(xié)同過程中,有十幾個(gè)相關(guān)Oteam(騰訊內(nèi)部公司級(jí)跨團(tuán)隊(duì)協(xié)同小組)在齊頭并進(jìn)。
這十幾個(gè)Oteam做的事情,跟騰訊云大數(shù)據(jù)后來的日子有何關(guān)系?
我們都知道,互聯(lián)網(wǎng)巨頭的To B路徑通常是這樣的:早年間自身業(yè)務(wù)錘煉,沉淀眾多經(jīng)驗(yàn),隨后對(duì)外賦能。
騰訊云大數(shù)據(jù)確實(shí)也是如此,但其特別之處就在于這一步協(xié)同工作,對(duì)“沉淀”這個(gè)步驟意義非凡:散落在騰訊內(nèi)部的各種大數(shù)據(jù)相關(guān)工作,順利通過PaaS協(xié)同工程而歸整起來。
這意味著,大數(shù)據(jù)團(tuán)隊(duì)可以最大程度地“利用”好騰訊自身的條件,穿透式體會(huì)到自家業(yè)務(wù)場景之復(fù)雜,需求之艱難,因此積攢下來的解決方案和服務(wù)經(jīng)驗(yàn),是相當(dāng)豐富的。
一般企業(yè)構(gòu)建大數(shù)據(jù)體系時(shí),會(huì)遭遇眾多問題,例如組件繁多、選型困難,或者自建大數(shù)據(jù)后運(yùn)維成本巨大,又或者是有安全方面的考慮——但這些問題,很多已經(jīng)在Oteam里被集中討論和解決過了。
換言之,騰訊云大數(shù)據(jù)對(duì)外提供的不少能力,是真正在騰訊內(nèi)部,被各式各樣業(yè)務(wù)反復(fù)“敲打”過的。
究竟Oteam是怎么幫忙,將散落集團(tuán)各個(gè)角落的大數(shù)據(jù)工作給規(guī)整起來的?
例如在集團(tuán)內(nèi)部,不同事業(yè)群的各個(gè)部門都有使用Spark的需求,他們就會(huì)各自派出一名代表,組建Oteam。Oteam內(nèi)部運(yùn)作類似開源社區(qū),公司內(nèi)部所有開發(fā)同學(xué)都可自愿加入,各部門會(huì)提出自己需要的特性,匯總在一起,再循序漸進(jìn)地整合開發(fā)。
參與者可主動(dòng)擔(dān)任Oteam的leader,但這里的leader不光是字面意義上的領(lǐng)導(dǎo),更是這一項(xiàng)目的牽頭者和兜底者,要負(fù)責(zé)把集團(tuán)內(nèi)部有關(guān)Spark的需求全都實(shí)現(xiàn),也要做到競賽中業(yè)內(nèi)數(shù)一數(shù)二的水平。
騰訊云大數(shù)據(jù)基礎(chǔ)中心副總經(jīng)理張昆也告訴我們,公有云上不少成熟的大數(shù)據(jù)產(chǎn)品,就是開源協(xié)同的直接受益者,例如數(shù)據(jù)治理開發(fā)平臺(tái)WeData,數(shù)據(jù)集成服務(wù)InLong等等。
從大數(shù)據(jù)身上,我們可以看到騰訊To B產(chǎn)品的一種輸出范式:內(nèi)部較成熟的代碼通過Oteam沉淀,或者服務(wù)也通過協(xié)同工作沉淀下來,做到產(chǎn)品化,內(nèi)部業(yè)務(wù)先上線使用,錘煉好產(chǎn)品再給到外部客戶。
互聯(lián)網(wǎng)大廠在服務(wù)B端客戶時(shí),通常會(huì)被問到自家的核心業(yè)務(wù)是否已經(jīng)采用相關(guān)產(chǎn)品,倘若不能給出肯定的答案,產(chǎn)品的說服力立馬就會(huì)大打折扣。而新產(chǎn)品讓內(nèi)部業(yè)務(wù)先試用,這一步在騰訊內(nèi)部,被稱為“吃自己狗糧”。
在“吃狗糧”的過程中,往往會(huì)遇到各種各樣的bug,有一些甚至對(duì)業(yè)務(wù)的收入和用戶體驗(yàn)有影響,但是業(yè)務(wù)同事在這個(gè)過程中,對(duì)底層平臺(tái)給出的不僅有高要求、高標(biāo)準(zhǔn),也有高度的善意和信任。
劉煜宏回憶道,此前一次項(xiàng)目中,騰訊內(nèi)部支付要選用騰訊云大數(shù)據(jù)的數(shù)據(jù)倉庫,但他和團(tuán)隊(duì)都心里打鼓:支付這類業(yè)務(wù)屬于金融級(jí),要求之高不言而喻?!疤拱字v,當(dāng)時(shí)做了一段時(shí)間,壓力實(shí)在很大,我們都不太敢保證能一定做好?!?/p>
但支付的兄弟們卻反過來寬慰他們:“沒關(guān)系,可以用,我們?cè)跇I(yè)務(wù)層給你們打配合?!?/p>
甚至還有一次,在騰訊云大數(shù)據(jù)還沒有開發(fā)出成形產(chǎn)品的時(shí)候,支付部門主動(dòng)拉著劉煜宏不撒手:“Ehome(劉的英文名),你們一定要支持我們這個(gè)需求,要多少人手一起開發(fā)、需要業(yè)務(wù)怎么配合,盡管說,我們一起來做到五個(gè)九的標(biāo)準(zhǔn)?!?/p>
類似這樣的,來自業(yè)務(wù)部門身體力行的支持,不止一次地出現(xiàn)在大數(shù)據(jù)團(tuán)隊(duì)的周圍。他感慨,這與騰訊歷來的開放、創(chuàng)新文化有關(guān),“做互聯(lián)網(wǎng)業(yè)務(wù)出身的,都是久經(jīng)考驗(yàn),從一次次不穩(wěn)定的年代走過來,身經(jīng)百戰(zhàn)之后,也自然對(duì)新事物有著更高的包容和更踴躍的嘗試?!?/p>
在騰訊內(nèi)部,由此逐漸形成有關(guān)大數(shù)據(jù)的成熟案例和最佳實(shí)踐。
那么,對(duì)于騰訊云大數(shù)據(jù)而言,究竟什么時(shí)候這些經(jīng)驗(yàn)才適合正式開放,才算是迎來商業(yè)化輸出的黎明?
一款產(chǎn)品什么時(shí)候會(huì)推出市場,喊出那聲“Ready——Go”?
騰訊云大數(shù)據(jù)告訴我們,這些產(chǎn)品正式面世的唯一標(biāo)準(zhǔn),始終是:在騰訊內(nèi)部已經(jīng)投入使用,受過騰訊自身海量業(yè)務(wù)驗(yàn)證,有過成熟案例或最佳實(shí)踐。
張昆補(bǔ)充道,有時(shí)他們?cè)诟偲贩治?,或者外部簽單調(diào)研的過程中,會(huì)察覺到市場有相關(guān)訴求,又或者會(huì)收到客戶的主動(dòng)聯(lián)系和問詢,這也會(huì)推動(dòng)他們考慮產(chǎn)品商業(yè)化的進(jìn)度。
值得一提的是,眼下千行百業(yè)的數(shù)字化轉(zhuǎn)型需求,和對(duì)大數(shù)據(jù)的理解,早已不是從前那樣一片荒蕪一字不識(shí)、還需要從零開始市場教育的階段了。
不少客戶已經(jīng)有了一定的判斷和選型能力,主動(dòng)選擇與優(yōu)秀的大數(shù)據(jù)廠商合作。騰訊云大數(shù)據(jù)也因此與不少行業(yè)頭部企業(yè)形成了一場場“雙向奔赴”。
百果園,便是其中的一個(gè)典型例子。
“那時(shí)候我們也比較主動(dòng),直接就選擇了騰訊云開展合作?!卑俟麍@集團(tuán)副總裁、負(fù)責(zé)科技版塊的徐永劍回憶道。
而騰訊云大數(shù)據(jù)在當(dāng)時(shí),也同步注意到了百果園在數(shù)字化轉(zhuǎn)型中,對(duì)大數(shù)據(jù)的場景需求,兩家同樣誕生于深圳這座城市的企業(yè),一拍即合。
2016年正式推出電商平臺(tái)的百果園,其實(shí)不只是一家連鎖生鮮零售企業(yè),在五千多家門店背后,百果園走的是一條“全產(chǎn)業(yè)鏈經(jīng)營”的道路,即從種植前端一直覆蓋到零售終端。
雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))從徐永劍處了解到,百果園為此陸陸續(xù)續(xù)上線了一百多個(gè)系統(tǒng),完成了初步的信息化覆蓋之后,從2018年開始做數(shù)字化升級(jí),著重于數(shù)據(jù)資產(chǎn)的實(shí)際應(yīng)用和價(jià)值挖掘。
也是在這一階段,百果園進(jìn)入到自己的數(shù)據(jù)中臺(tái)綜合化改造,騰訊云大數(shù)據(jù)也在此時(shí)正式切入,在經(jīng)歷兩三個(gè)月的前期調(diào)研需求、討論方案以及任務(wù)拆解之后,啟動(dòng)建設(shè)百果園的全域數(shù)據(jù)中心。
一顆果子,從發(fā)芽開花,到成熟摘下,一路顛簸登上門店的貨架,再踏進(jìn)萬戶千家,這當(dāng)中要?dú)v經(jīng)多少顛沛流離,這個(gè)數(shù)據(jù)中心的“全域”二字就有多少廣闊和復(fù)雜。
騰訊云架構(gòu)師楊志偉分析稱,將這個(gè)全域數(shù)據(jù)中心的需求進(jìn)一步拆解、落到實(shí)處,可以理解為多業(yè)務(wù)、多形態(tài)、多場景的數(shù)據(jù)整合,并同時(shí)服務(wù)差異化較大的各條業(yè)務(wù)線。
基于此,他們?yōu)榘俟麍@搭建了一套包含彈性計(jì)算MapReduce(EMR)、云數(shù)據(jù)倉庫CDW、數(shù)據(jù)治理平臺(tái)WeData和可視化BI(商業(yè)智能)在內(nèi)的體系化解決方案,覆蓋了從數(shù)據(jù)采集、存儲(chǔ)、計(jì)算、分析、可視化等數(shù)據(jù)處理全鏈路解決方案,在經(jīng)營決策、門店管理、店鋪選址和供應(yīng)鏈管理4個(gè)重點(diǎn)環(huán)節(jié),幫助百果園實(shí)現(xiàn)了全鏈路數(shù)據(jù)化運(yùn)營與決策。
百果園集團(tuán)旗下數(shù)聯(lián)科技的技術(shù)專家付春告訴我們,“零售企業(yè)的特點(diǎn)之一就是規(guī)模大,意味著人流量大、交易頻繁,這個(gè)時(shí)候的數(shù)據(jù)處理能力,要能應(yīng)對(duì)海量和強(qiáng)時(shí)效兩大要求。EMR和流計(jì)算服務(wù)Oceanus,可以說是相當(dāng)鋒利的工具,與我們的業(yè)務(wù)經(jīng)驗(yàn)相結(jié)合后,能減輕我們?cè)跀?shù)據(jù)成本方面的負(fù)擔(dān)?!?/p>
這兩把“鋒利的工具”是怎么解決百果園的問題的?這里做個(gè)簡單解釋:
我們可以把數(shù)據(jù)看成水果,如果按“批處理”的邏輯做數(shù)據(jù)的加工分析,就相當(dāng)于水果裝貨車被運(yùn)走,每天一次,今天沒趕上就等明天的車。但水果求的就是一個(gè)新鮮,數(shù)據(jù)也一樣,EMR和Oceanus的辦法,就相當(dāng)于安排許多載著箱子的騎手,讓水果剛摘下來就可以被運(yùn)走。
EMR還提供了豐富的計(jì)算組件,和分鐘級(jí)集群構(gòu)建與平行擴(kuò)展能力,提高業(yè)務(wù)響應(yīng)效率,也同時(shí)搭建了批、流處理系統(tǒng),實(shí)現(xiàn)批流一體,降低資源投入,這就好比是將騎手們靈活調(diào)度,既能迅速接單執(zhí)行,又能保證沒有太多閑置人手。
除此以外,騰訊云大數(shù)據(jù)基于自身的技術(shù)積累,開放了一批高并發(fā)、高流量的中間件,幫助百果園在一些全民消費(fèi)、零售大促的特殊節(jié)點(diǎn),保護(hù)系統(tǒng)運(yùn)行質(zhì)量、建立個(gè)性化營銷訴求。
數(shù)聯(lián)科技的研發(fā)部總監(jiān)李俐學(xué)透露,目前雙方的合作中,EMR和CDW已經(jīng)全面介入;整個(gè)數(shù)據(jù)底座的第一層已經(jīng)更換完成,上游的數(shù)據(jù)資產(chǎn)管理體系和數(shù)字化展現(xiàn)體系也逐步切換應(yīng)用當(dāng)中。未來,希望借助騰訊云大數(shù)據(jù)的數(shù)據(jù)算法能力,向精準(zhǔn)營銷和經(jīng)營繼續(xù)邁進(jìn)。
雷峰網(wǎng)了解到,在許多企業(yè)內(nèi)部,其數(shù)據(jù)處理能力仍然很難支持實(shí)時(shí)查詢,一些App會(huì)標(biāo)注稱“該統(tǒng)計(jì)數(shù)據(jù)截至某日某時(shí)”,這背后就是數(shù)據(jù)處理能力的缺失。而百果園在采用CDW之后,就能將億級(jí)數(shù)據(jù)做到實(shí)時(shí)累計(jì)查詢、與歷史數(shù)據(jù)同步對(duì)比。
在零售電商領(lǐng)域與百果園的合作,只是騰訊云大數(shù)據(jù)對(duì)外輸出的冰山一角,其技術(shù)觸角已經(jīng)伸向金融、政務(wù)、文娛、游戲、教育等多個(gè)領(lǐng)域,騰訊內(nèi)部關(guān)于大數(shù)據(jù)的最佳實(shí)踐,正源源不斷地輸送至各行各業(yè)。
這個(gè)過程也說明了另一個(gè)事實(shí):中國的實(shí)體經(jīng)濟(jì)正在自發(fā)地、主動(dòng)地走向數(shù)字化,其轉(zhuǎn)型升級(jí)的需求是由內(nèi)而外地成長出來的,所謂的互聯(lián)網(wǎng)行業(yè)的邊界,已經(jīng)日漸模糊了。
“互聯(lián)網(wǎng)+”“+互聯(lián)網(wǎng)”的說辭,已經(jīng)不再新鮮?;ヂ?lián)網(wǎng)如今更傾向于一種渠道,一種實(shí)現(xiàn)手段,應(yīng)該貼著業(yè)務(wù)而生、朝著企業(yè)的核心產(chǎn)品競爭力而行,而不是借著前沿技術(shù)的虛名,淪為企業(yè)周身一圈虛無的光環(huán)。
而騰訊云大數(shù)據(jù)正是將這套貼著業(yè)務(wù)而進(jìn)化的打法,從集團(tuán)內(nèi)部延伸到了外部的廣闊天地??梢哉f,大數(shù)據(jù)與千行百業(yè)的聯(lián)結(jié),某種程度上也讓騰訊助力數(shù)實(shí)融合的路途,有了更具象化的路徑。
不過,騰訊云大數(shù)據(jù)的演進(jìn)之路,還遠(yuǎn)沒有到可以放慢腳步的時(shí)候。
騰訊云副總裁黃世飛透露,未來他們會(huì)進(jìn)一步打磨基礎(chǔ)產(chǎn)品的性能、穩(wěn)定性、可靠性、易用性和使用體驗(yàn)等方面,做好共性部分,結(jié)合騰訊云的行業(yè)know-how,以及合作伙伴生態(tài),共同適配更多行業(yè)。
在前不久的騰訊全球生態(tài)大會(huì)上,騰訊云大數(shù)據(jù)也推出了智能推薦平臺(tái)、商業(yè)智能兩大產(chǎn)品體系,進(jìn)一步幫助企業(yè)釋放數(shù)據(jù)價(jià)值,實(shí)現(xiàn)業(yè)務(wù)的增長轉(zhuǎn)型、精細(xì)化運(yùn)營與快速商業(yè)決策。
2023年剛剛開始,他們對(duì)新一年的工作也已經(jīng)有了頗為明確的規(guī)劃,例如全托管方案中的產(chǎn)品聯(lián)動(dòng),一站式產(chǎn)品體驗(yàn)的優(yōu)化,半托管產(chǎn)品的云原生容器化和共同部署等能力的深化。
同時(shí),云端全托管服務(wù)Elasticsesarch Service(ES)的存算分離版本,數(shù)據(jù)治理開發(fā)平臺(tái)WeData聯(lián)動(dòng)其他引擎的一站式解決方案,以及成熟形態(tài)的隱私計(jì)算方案,都已提上日程。
他們告訴雷峰網(wǎng),一體化、智能、安全、云原生,是騰訊眼中的下一代大數(shù)據(jù)核心關(guān)鍵詞。
智能和安全,不難理解。前者注意著眼于提升大數(shù)據(jù)平臺(tái)的智能化運(yùn)營支撐水平,后者則是通過隱私計(jì)算,保證大數(shù)據(jù)開源項(xiàng)目之間形成安全的聯(lián)動(dòng),讓數(shù)據(jù)收集、計(jì)算過程存儲(chǔ)和合作都符合更高的合規(guī)要求。
大數(shù)據(jù)與云原生的擁抱,則體現(xiàn)在了純?nèi)萜骰痛嫠惴蛛x兩個(gè)特性上,讓大數(shù)據(jù)更易于部署,通過云計(jì)算快速可彈性的計(jì)算資源來處理數(shù)據(jù);同時(shí),底層存儲(chǔ)資源打通,上層計(jì)算引擎可以針對(duì)客戶內(nèi)部不同業(yè)務(wù)做針對(duì)性計(jì)算。
傳統(tǒng)的馮諾依曼架構(gòu)下,計(jì)算和存儲(chǔ)是緊密耦合的。早期騰訊自身采用的,也是存算一體的架構(gòu),這種架構(gòu)可以實(shí)現(xiàn)就近計(jì)算,優(yōu)化數(shù)據(jù)的親和性,簡單來說計(jì)算不必“舍近求遠(yuǎn)”,性能自然有所提高。
但隨著技術(shù)發(fā)展,存儲(chǔ)與計(jì)算各自的增長并不會(huì)按比例同步增加,這時(shí)必然造成資源的浪費(fèi),因此存算分離正式面世,計(jì)算資源可以彈性伸縮,這種架構(gòu)的使用也被認(rèn)為是云原生的特性之一。
眼下,騰訊的大數(shù)據(jù)最佳實(shí)踐采用了混合架構(gòu),既兼容以往的存算一體、高性能優(yōu)先的架構(gòu),也兼顧存算分離、方便資源擴(kuò)展的架構(gòu)。當(dāng)中會(huì)有統(tǒng)一的元數(shù)據(jù)管控與調(diào)度,也會(huì)在計(jì)算引擎和語法上使用自適應(yīng)的部署方式,形成整體大數(shù)據(jù)平臺(tái)的云原生化。
這是一個(gè)有著頂層設(shè)計(jì)的云原生大數(shù)據(jù)平臺(tái),有自適配的SQL語法,有智能選擇計(jì)算引擎的自適應(yīng)計(jì)算架構(gòu),有統(tǒng)一的數(shù)據(jù)編排與存儲(chǔ)加速并能適配不同的存儲(chǔ)引擎。
同時(shí)底層的云原生大數(shù)據(jù)底座統(tǒng)一調(diào)度及適配各種底層算力資源,另外還有統(tǒng)一的調(diào)度系統(tǒng)和元數(shù)據(jù)管理系統(tǒng),以及統(tǒng)一的開放接口,最后還有像自動(dòng)駕駛系統(tǒng)一樣的智能運(yùn)維系統(tǒng)。
從另一個(gè)維度來看,騰訊也同時(shí)在進(jìn)行人工智能(A)、大數(shù)據(jù)(B)、云計(jì)算(C)三者的一體化。
事實(shí)上A、B、C三個(gè)概念都已提出多時(shí),并各自有著長期發(fā)展,如今行業(yè)的關(guān)注點(diǎn)已經(jīng)來到了三者的融合應(yīng)用。外界在關(guān)注科技巨頭們的最佳技術(shù)實(shí)踐時(shí),也會(huì)將目光放在巨頭們對(duì)A、B、C三者合流的解讀和實(shí)現(xiàn)上。
騰訊云大數(shù)據(jù)的發(fā)展,在技術(shù)實(shí)力和組織保障之下,不斷攀上更高的山峰。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。