0
| 本文作者： 老王 | 2017-04-05 22:54 |
2012 年，正在哈佛大學(xué)寫(xiě)碩士論文的 Todd Mostak 需要查詢(xún)大量的論文參考資料，他發(fā)現(xiàn)使用以 CPU 為處理核心的數(shù)據(jù)庫(kù)系統(tǒng)做資料查詢(xún)速度非常緩慢。而且很多時(shí)候，Todd Mostak 在睡覺(jué)之前輸入一個(gè)查詢(xún)命令，第二天醒來(lái)發(fā)現(xiàn)系統(tǒng)提示參數(shù)輸入錯(cuò)誤。
當(dāng)時(shí) Todd Mostak 選修了由 MIT 數(shù)據(jù)庫(kù)研發(fā)組教授的 CSAIL 數(shù)據(jù)庫(kù)課程，為了加快論文進(jìn)度，Todd Mostak 通過(guò)自己在 CSAIL 數(shù)據(jù)庫(kù)課程中學(xué)到的知識(shí)開(kāi)發(fā)了一個(gè)簡(jiǎn)易的數(shù)據(jù)庫(kù)系統(tǒng)，該數(shù)據(jù)庫(kù)是通過(guò)使用廉價(jià)的、為游戲玩家使用的 GPU 來(lái)建立的，然而這一數(shù)據(jù)庫(kù)卻大大加快了 Todd Mostak 的資料查詢(xún)速度。
與 Todd Mostak 在哈佛查詢(xún)資料時(shí)一樣，金融行業(yè)的很多老數(shù)據(jù)庫(kù)系統(tǒng)在當(dāng)今也遇到了查詢(xún)速度慢等問(wèn)題，特別是在高并發(fā)狀態(tài)的查詢(xún)環(huán)境下。
這時(shí)候，越來(lái)越多的金融企業(yè)對(duì)數(shù)據(jù)的高速查詢(xún)和快速加工有了更高的要求。
業(yè)內(nèi)人士透露，一個(gè)省級(jí)銀行的客戶(hù)經(jīng)理就高達(dá)三萬(wàn)多人，如果這三萬(wàn)多人每天同時(shí)去做了解客戶(hù)信息這件事，任何數(shù)據(jù)庫(kù)都難以承載，而過(guò)去被廣泛使用的 IBM 小型機(jī)根本無(wú)法解決。與此同時(shí)，成本也是非常大的問(wèn)題。雖然目前市場(chǎng)上 Teradata 的產(chǎn)品在數(shù)據(jù)查詢(xún)和數(shù)據(jù)加工效果方面表現(xiàn)優(yōu)秀，但價(jià)格相對(duì)較為昂貴。
除此之外，及時(shí)掌握風(fēng)險(xiǎn)的能力也非常重要。銀行本身對(duì)風(fēng)控要求極高，過(guò)去在風(fēng)控方面均為事后監(jiān)督，也就是T＋1：今天交易完成，第二天再檢查前一天的問(wèn)題。而當(dāng)下的交易必須要求做到 T＋0，交易的同時(shí)也可檢查風(fēng)險(xiǎn)。
這時(shí)候如果沒(méi)有一個(gè)高效的數(shù)據(jù)庫(kù)，很難解決上述問(wèn)題。
在面對(duì)這一痛點(diǎn)，雷鋒網(wǎng)采訪(fǎng)了雅捷信息董事長(zhǎng)鄭學(xué)強(qiáng)、首席數(shù)據(jù)科學(xué)家謝軍、NVIDIA 全球副總裁沈威以及 IBM 大中華區(qū)硬件系統(tǒng)部服務(wù)器解決方案副總裁施東峰，詢(xún)問(wèn)相關(guān)問(wèn)題。
雅捷信息是國(guó)內(nèi)少有采用上文中提到的哈佛學(xué)生 Todd Mostak 在 GPU 上做數(shù)據(jù)庫(kù)的公司，其主要產(chǎn)品是性能并行計(jì)算數(shù)據(jù)庫(kù)產(chǎn)品和銀行信息化系統(tǒng)及智能服務(wù)。
一般來(lái)說(shuō)，GPU 是專(zhuān)為并行計(jì)算而設(shè)計(jì)的專(zhuān)用協(xié)處理器，通常其內(nèi)部都集成了數(shù)千個(gè)高速運(yùn)算核心。由于 GPU 通常都可以直接搭配高帶寬存儲(chǔ)器協(xié)同工作，因此比使用一般 RAM 的 CPU 運(yùn)算速度快出一個(gè)數(shù)量級(jí)。
目前雖然一些企業(yè)和機(jī)構(gòu)的數(shù)據(jù)庫(kù)已經(jīng)使用了 GPU，但普遍存在一個(gè)設(shè)計(jì)缺陷：其數(shù)據(jù)庫(kù)管理方案都是將數(shù)據(jù)庫(kù)存儲(chǔ)在 CPU 一側(cè)，當(dāng)接到用戶(hù)的數(shù)據(jù)請(qǐng)求時(shí)，將數(shù)據(jù)搬移到 GPU 一側(cè)進(jìn)行處理，然后再把處理結(jié)果移回至 CPU 進(jìn)行存儲(chǔ)。也就是說(shuō)，GPU 并非真正的系統(tǒng)核心。這種機(jī)制決定了即使通過(guò) GPU 加快數(shù)據(jù)處理速度，但把處理結(jié)果搬回 CPU 的過(guò)程仍然浪費(fèi)了大量時(shí)間。
如果沒(méi)有像傳統(tǒng)系統(tǒng)那樣將數(shù)據(jù)全部存儲(chǔ)在 CPU 一側(cè)，而是將 GPU 作為真正的核心，利用高速緩存機(jī)制將盡量多的數(shù)據(jù)直接存儲(chǔ)在多內(nèi)核協(xié)同工作的 GPU 一側(cè)，這樣做的結(jié)果就可避免數(shù)據(jù)搬移過(guò)程中耗費(fèi)的時(shí)間，提升了運(yùn)算效率。
雖然已有相應(yīng)的解決方案去加快 GPU 與 CPU 之間的信息流通，但仍舊存在延時(shí)等問(wèn)題。
目前比較前沿的加速 CPU 與 GPU 信息交方案是 IBM 與 NVIDIA 聯(lián)合研制的 NVlink 信息交換通道。我們知道，GPU 和 CPU 間的數(shù)據(jù)傳輸速度都是一項(xiàng)技術(shù)瓶頸，因?yàn)?GPU 的顯存能夠快速而少量的讀寫(xiě)數(shù)據(jù)，而 CPU 使用內(nèi)存讀寫(xiě)則大量而慢速，因此，CPU 的傳輸帶寬大于 GPU。NVlink 通過(guò)調(diào)整相應(yīng)架構(gòu)，使得 GPU 和 CPU 間的傳輸速度獲得巨大的提升。
其實(shí) IBM 早在幾年前便注意到了這種趨勢(shì)，隨后它們與 NVIDIA 合作，去加快新數(shù)據(jù)中心工作負(fù)載的處理速度。經(jīng)過(guò)四年的研發(fā)，POWER8 服務(wù)器聯(lián)合了 NVIDIA 的 Tesla P100 GPU 和 NVlink 互聯(lián)技術(shù)，實(shí)現(xiàn)了更高的數(shù)據(jù)性能分析和深度學(xué)習(xí)能力提升。據(jù)測(cè)試資料顯示：IBM 和 NVIDIA 技術(shù)如此緊密的結(jié)合使得數(shù)據(jù)流動(dòng)速度比使用 PCIE 快了 5 倍。
NVlink 除了可實(shí)現(xiàn) GPU-CPU 節(jié)點(diǎn)內(nèi)部的高速互聯(lián)，同時(shí)還能在 GPU-GPU 甚至 CPU-CPU 之間形成高速互聯(lián)。
雅捷信息首席數(shù)據(jù)官謝軍向雷鋒網(wǎng)透露，由于他們服務(wù)的客戶(hù)通常是大中型銀行，對(duì)計(jì)算量要求巨大，因此雅捷信息的新品 DataTurbines 背后采用的是 GPU 集群，這個(gè)時(shí)候集群中 GPU 與 GPU 之間的高速互聯(lián)就非常關(guān)鍵。當(dāng)然，雅捷信息的數(shù)據(jù)庫(kù)也并非完全在 GPU 中處理，也有一小部分會(huì)放在 CPU 中，具體會(huì)根據(jù)客戶(hù)的成本以及數(shù)據(jù)量等問(wèn)題來(lái)靈活安排。
為了讓 GPU 集群以及 CPU-GPU 之間通信順暢，雅捷信息選擇與 IBM 進(jìn)行深入合作。IBM 大中華區(qū)硬件系統(tǒng)部服務(wù)器解決方案副總裁施東峰向雷鋒網(wǎng)介紹到，與雅捷信息的合作主要體現(xiàn)在兩方面，在技術(shù)層面 IBM 為雅捷信息的 GPU 數(shù)據(jù)庫(kù)提供 GPU-GPU 以及 GPU-CPU 的 NVlink 通道機(jī)器 Minsky。在市場(chǎng)方面，IBM 借助雅捷信息的銀行客戶(hù)，向銀行推廣包含 GPU 數(shù)據(jù)庫(kù)的一體機(jī)。
這個(gè)一體機(jī)本質(zhì)上是 IBM 提供的認(rèn)知計(jì)算平臺(tái)，其中 GPU 數(shù)據(jù)庫(kù)也歸類(lèi)在認(rèn)知計(jì)算平臺(tái)中。施東峰繼續(xù)講到：IBM 接觸的銀行客戶(hù)有兩種，一種是對(duì)方只要打包好的、直接能夠使用的產(chǎn)品，他們只需知道這個(gè)引擎如何使用即可，另外一種客戶(hù)則要是想要自己買(mǎi)機(jī)器、做數(shù)據(jù)庫(kù)、做算法，自己搭建人工智能引擎。
IBM 主要服務(wù)于前者，以一體機(jī)的形態(tài)把相關(guān)的人工智能技術(shù)以及 GPU 數(shù)據(jù)庫(kù)進(jìn)行整合，從而做成企業(yè)級(jí)直接使用的、沒(méi)有很多指令集、直接連接的產(chǎn)品。
目前從公開(kāi)資料顯示，已有 GPU 數(shù)據(jù)庫(kù)產(chǎn)品在海外市場(chǎng)使用，如 Kinetica、BlazingDB 等。其中最具代表性的就是文章開(kāi)頭提到的哈佛學(xué)生 Todd Mostak，他已成立了公司運(yùn)營(yíng)相關(guān)商業(yè)化產(chǎn)品 MapD。在 MapD 系統(tǒng)中，每個(gè) GPU 都有自己的緩沖池，利用高速緩存機(jī)制將最常訪(fǎng)問(wèn)的數(shù)據(jù)直接存儲(chǔ)在 GPU 一側(cè)，在數(shù)據(jù)庫(kù)需要反復(fù)查詢(xún)同一個(gè)數(shù)據(jù)點(diǎn)時(shí)，MapD 就可以直接從 GPU 一側(cè)的高帶寬存儲(chǔ)器中直接訪(fǎng)問(wèn)數(shù)據(jù)，而不是從 CPU 或硬盤(pán)。
通過(guò)這種機(jī)制，MapD 可以提供相比傳統(tǒng)數(shù)據(jù)庫(kù)管理系統(tǒng)快兩到三個(gè)數(shù)量級(jí)的性能。
總體上說(shuō)，不同行業(yè)的客戶(hù)對(duì) MapD 系統(tǒng)的具體需求也不同，但本質(zhì)都是通過(guò)其高速的數(shù)據(jù)處理能力協(xié)助他們做出合理的商業(yè)決策。如金融服務(wù)機(jī)構(gòu)和對(duì)沖基金可以通過(guò)該系統(tǒng)來(lái)監(jiān)控欺詐行為和做出投資決策；廣告代理商們可以通過(guò)該系統(tǒng)來(lái)評(píng)估客戶(hù)們對(duì)各種廣告的不同反饋; 社交媒體公司則可以通過(guò)該系統(tǒng)追蹤全球用戶(hù)的使用情況。
美國(guó)電信巨頭 Verizon 也是 MapD 的客戶(hù)之一，他們每周都會(huì)利用 MapD 系統(tǒng)對(duì) 8500 萬(wàn)用戶(hù)更換 SIM 卡的行為展開(kāi)分析。
此前在使用傳統(tǒng)的數(shù)據(jù)庫(kù)管理系統(tǒng)時(shí)，這種分析通常要耗費(fèi)好幾個(gè)小時(shí)，因?yàn)樾侍?，因此只能好幾個(gè)月分析一次。近期，Verizon 通過(guò) MapD 系統(tǒng)的每周分析報(bào)告發(fā)現(xiàn)了一個(gè)隱藏多年的 Bug，這一 Bug 每年導(dǎo)致上百萬(wàn)次無(wú)意義的 SIM 卡更換，不但浪費(fèi)了服務(wù)資源，而且對(duì)用戶(hù)體驗(yàn)影像極大。
相比于 MapD 而言，國(guó)內(nèi)的雅捷信息在可視化數(shù)據(jù)庫(kù)方面沒(méi)有前者出色，覆蓋的業(yè)務(wù)范圍也沒(méi)有前者廣，但后者業(yè)務(wù)更加集中在銀行領(lǐng)域。雖然當(dāng)下銀行逐漸變得愈加開(kāi)放，不會(huì)拒絕新產(chǎn)品和新技術(shù)，但有個(gè)前提是他們對(duì)第三方的產(chǎn)品要求極其嚴(yán)格，銀行如果想要采購(gòu)方案會(huì)經(jīng)過(guò)以下幾個(gè)流程：溝通、PUC 測(cè)試，最后招投標(biāo)，然后讓供應(yīng)商的產(chǎn)品進(jìn)入它的銀行體系。
銀行的信息安全是最高等級(jí)的，如果沒(méi)有一把手簽字，信息完全拿不出去。一般情況下，產(chǎn)品先到銀行進(jìn)行測(cè)試，然后供應(yīng)商需要經(jīng)過(guò)五道審批手續(xù)才能把系統(tǒng)送進(jìn)去，入庫(kù)上架后銀行方把數(shù)據(jù)脫敏以后才讓供應(yīng)商使用。
因此與銀行合作，相比于絕大多數(shù)行業(yè)來(lái)說(shuō)，難度大不少。
雅捷信息董事長(zhǎng)鄭學(xué)強(qiáng)向雷鋒網(wǎng)透露：銀行的夜間加工只有八個(gè)小時(shí)，超過(guò)八個(gè)小時(shí)就面臨第二天無(wú)法開(kāi)門(mén)的情況，如果第二天開(kāi)不了門(mén)，銀監(jiān)會(huì)對(duì)其的處罰非常嚴(yán)重。
鄭學(xué)強(qiáng)跟 IBM 的相關(guān)負(fù)責(zé)人交流時(shí)產(chǎn)生了一個(gè)觀(guān)點(diǎn)，在 GPU 上并不能放到上千 T，甚至 PB 級(jí)的數(shù)據(jù)。在 GPU 上真正需要解決的是客戶(hù)所要用的數(shù)據(jù)和熱點(diǎn)數(shù)據(jù)，而非在千T、PB級(jí)的數(shù)據(jù)里進(jìn)行數(shù)據(jù)查詢(xún)。方案商應(yīng)該去形成一個(gè)個(gè)的小數(shù)據(jù)倉(cāng)庫(kù)（Data mart），這時(shí)分布式的 GPU 數(shù)據(jù)庫(kù)應(yīng)該為熱點(diǎn)數(shù)據(jù)服務(wù)，而不簡(jiǎn)單地提供儲(chǔ)存功能。
MemSQL 的首席技術(shù)官兼聯(lián)合創(chuàng)始人尼基塔·沙姆古諾夫(Nikita Shamgunov)也曾指出 GPU 為某些工作負(fù)載提供了優(yōu)勢(shì)，它可以分解成許多小的操作單位，每一個(gè)小小的操作單位可以同時(shí)在大批核心上加以執(zhí)行。
關(guān)于產(chǎn)品的適用性問(wèn)題上，鄭學(xué)強(qiáng)舉了一個(gè)省級(jí)農(nóng)商行的商業(yè)化案例。省級(jí)農(nóng)商行的規(guī)模相當(dāng)于一個(gè)股份制銀行，存貸款規(guī)模過(guò)萬(wàn)億，每天的日交易比數(shù)可以達(dá)到兩千萬(wàn)筆。在一個(gè) 6000 萬(wàn)客戶(hù)的銀行，以往 2 小時(shí)的跑批任務(wù)，如今采用 GPU 數(shù)據(jù)庫(kù)產(chǎn)品可在 1 分鐘內(nèi)完成，原先 5 分鐘的查詢(xún)，現(xiàn)在不到一秒。在幾萬(wàn)名客戶(hù)經(jīng)理天天使用的場(chǎng)景下，一千個(gè)并發(fā)可以達(dá)到毫秒級(jí)的響應(yīng)，絕大部分的復(fù)雜查詢(xún)實(shí)測(cè)效果平均響應(yīng)時(shí)間 200 毫秒，其中 DB2 提速 400 倍左右，Hadoop 提升 200 倍，在 Hadoop 上對(duì)比的節(jié)點(diǎn)是 46 個(gè)節(jié)點(diǎn)。
除此之外，雅捷在與招商銀行、中興銀行合作期間解決了信用卡業(yè)務(wù)的一些問(wèn)題，如雙十一期間用戶(hù)用信用卡在網(wǎng)購(gòu)上同時(shí)支付，這對(duì)系統(tǒng)的壓力非常大，所以說(shuō)它需要有一個(gè)高速的平臺(tái)，來(lái)給它做分解。
GPU 之后，F(xiàn)PGA 數(shù)據(jù)庫(kù)是否會(huì)成為未來(lái)？
通過(guò)案例了解到，目前已有不少公司把數(shù)據(jù)庫(kù)從 CPU 轉(zhuǎn)換到 GPU 中，那么未來(lái)是否會(huì)從 GPU 轉(zhuǎn)向 FPGA 中？雷鋒網(wǎng)提出這樣一個(gè)疑問(wèn)，既然銀行要求高速度、低延遲，這時(shí)候速度快、低延遲、低功耗的 FPGA 似乎比 GPU 更加匹配，而且 FPGA 正逐漸開(kāi)始被各大公司廣泛使用。
針對(duì)這一問(wèn)題，雅捷信息董事長(zhǎng)鄭學(xué)強(qiáng)說(shuō)到雖然 FPGA 低能耗、體積小、效率高的特性使得它確實(shí)有一定的優(yōu)勢(shì)，但 FPGA 的一大局限性就在于內(nèi)存較小，因?yàn)閿?shù)據(jù)需要一定的物理空間進(jìn)行存儲(chǔ)。另外，雅捷信息也一直準(zhǔn)備嘗試 FPGA，但最終沒(méi)做的原因是現(xiàn)在高性能計(jì)算芯片中，GPU 代表新一代主流的技術(shù)，拋棄主流技術(shù)和產(chǎn)品去嘗試另外一種技術(shù)，相對(duì)的試錯(cuò)成本會(huì)比較高。
隨后，雅捷信息首席數(shù)據(jù)科學(xué)家謝軍補(bǔ)充道：并行計(jì)算有很多種架構(gòu)，如 GPU、FPGA 等等，一個(gè)公司選擇某個(gè)方向有它的深思熟慮。雅捷信息之所以選 NVIDIA 的 GPU，非常核心的價(jià)值在于 GPU 擁有運(yùn)算平臺(tái) CUDA。開(kāi)發(fā)一個(gè)方案僅僅靠硬件是不夠的，要有好的架構(gòu)才能做到。正如很多公司當(dāng)年選 Windows 系統(tǒng)一樣，如果沒(méi)有易用的、通用的操作系統(tǒng)，所進(jìn)展的每一步都很難。所以 NVIDIA 的價(jià)值并不僅僅在于它的晶體管集成技術(shù)，還有 CUDA 這樣的運(yùn)算系統(tǒng)。
針對(duì) GPU 和 FPGA 這一問(wèn)題，雷鋒網(wǎng)也采訪(fǎng)了 NVIDIA 全球副總裁沈威，沈威說(shuō)道：以谷歌為例，谷歌的 Alphago 最開(kāi)始用 TPU 部署，當(dāng)時(shí)的 TPU 也就是 FPGA，而現(xiàn)在谷歌的 TPU 用的是 ASIC。這里可以看出谷歌當(dāng)時(shí)采用 FPGA 更多是為了嘗試，當(dāng)他確定要增加數(shù)量時(shí)則把 TPU 的核心變成了 ASIC，這背后就能說(shuō)明一些問(wèn)題。06 年很多人開(kāi)始考慮 GPU 游戲的計(jì)算能力，但是人們沒(méi)辦法使用它，于是 NVIDIA 開(kāi)發(fā)了 CUDA，從而解放了 GPU 的運(yùn)算能力。在 CUDA 的架構(gòu)上可以用比較常見(jiàn)的 Java 或 C++ 進(jìn)行編程，而在 FPGA 上則是用 Verilog 或 VHDL語(yǔ)言，所以 GPU 在普及性上會(huì)有非常大的優(yōu)勢(shì)。與此同時(shí)，NVIDIA 有共通的平臺(tái)使得其于通用的服務(wù)器或者 CPU 服務(wù)器連接在一起，而 NVIDIA 當(dāng)下的一大任務(wù)是讓 CUDA 的架構(gòu)不斷去與傳統(tǒng)行業(yè)的 IT 業(yè)務(wù)接軌。
關(guān)于使用 GPU 相比 CPU 的數(shù)據(jù)庫(kù)總體成本/效益仍的爭(zhēng)論一直存在，由于大多數(shù)軟件無(wú)需用到 GPU 所達(dá)到那種并行化程度，也無(wú)法用 GPU 有限的指令集來(lái)處理，使得 GPU 在很多方面不適合工作負(fù)載。而在跨集群根據(jù)不同的鍵對(duì)數(shù)據(jù)重新分區(qū)，這些操作在 CPU 上卻來(lái)得非常高效。
與此同時(shí)，英特爾等公司在以低成本封裝 CPU 能力方面非常高效，相比 GPU 而言，CPU 往往成本更低。
但對(duì)于銀行、政府等這種速度第一、價(jià)格第二的機(jī)構(gòu)來(lái)講，價(jià)格高昂但效果顯著的 GPU 數(shù)據(jù)庫(kù)在未來(lái)或許會(huì)成為一大趨勢(shì)。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
