丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
醫(yī)療科技 正文
發(fā)私信給李雨晨
發(fā)送

0

醫(yī)療AI公司繞不開的選擇難題:開源框架與專用芯片

本文作者: 李雨晨 2020-05-14 09:54
導(dǎo)語:有些問題的答案已經(jīng)非常明顯。

就像程序員討論“什么才是世界上最好的語言?”這一終極命題一樣。在醫(yī)療AI領(lǐng)域,圍繞芯片和AI開源框架的討論也一直熱度不減。

《后浪》視頻一夜刷屏。

其實(shí)在AI時(shí)代,芯片和開源框架也有諸多不斷趕超“前浪”的攪局者和顛覆者。

為了搶占市場(chǎng)、營造生態(tài),科技巨頭也都推出了自己的開源深度學(xué)習(xí)框架,如Google的TensorFlow、Amazon的MXNet、Facebook的Pytorch和Microsoft的CNTK等。

而在國內(nèi),也有百度飛獎(jiǎng)、曠視MegEngine等框架進(jìn)入越來越多開發(fā)者的視野。

但這個(gè)行業(yè)無時(shí)不刻都在洗牌中。

有開發(fā)者向雷鋒網(wǎng)表示,大名鼎鼎的Caffe因其靈活性等相對(duì)較差,導(dǎo)致用戶逐年流失。雖然Caffe2在一定程度上進(jìn)行了改善,但是已經(jīng)錯(cuò)過了重要的框架發(fā)展窗口期。

新勢(shì)力也逐漸崛起。

今年4月底,英偉達(dá)也與倫敦國王學(xué)院共同宣布了Project MONAI的開源alpha版本。MONAI是AI Medical Open Network的縮寫。這個(gè)框架針對(duì)醫(yī)療保健研究人員的需求進(jìn)行了優(yōu)化,并且可以與PyTorch和Ignite等深度學(xué)習(xí)框架一起運(yùn)行。

這個(gè)框架推出之時(shí),國內(nèi)就有學(xué)者評(píng)價(jià)到,“為醫(yī)學(xué)影像研究者量身打造,是真正的良心之作?!?/p>

當(dāng)然,除了開源框架,AI芯片也一直都是行業(yè)巨頭酣戰(zhàn)的領(lǐng)域,英特爾、英偉達(dá)以及眾多AI專用芯片公司的醫(yī)療AI相關(guān)產(chǎn)品層出不窮。

作為開源框架和芯片的“首席體驗(yàn)官”,算法工程師們?nèi)绾慰创酒㈤_源框架等領(lǐng)域的諸多選擇,我們采訪了四家主流醫(yī)療AI公司的技術(shù)人員。

雷鋒網(wǎng):你們會(huì)選擇哪種深度學(xué)習(xí)開源框架?Pytorch還是Caffe、TensorFlow?各家的優(yōu)缺點(diǎn)都有哪些?

柏視醫(yī)療董事長陸遙:快速驗(yàn)證模型效果使用Pytorch,工業(yè)化部署使用TensorFlow。

TensorFlow: TensorFlow提供全面的服務(wù),無論是Python,C++,JAVA,Go,甚至是JavaScript,Julia,C#;TensorFlow良好的文檔和社區(qū)支持,大大降低了學(xué)習(xí)成本;提供直觀的可視化計(jì)算圖;模型能夠快速的部署在各種硬件機(jī)器上,從高性能的計(jì)算機(jī)到移動(dòng)設(shè)備,再到更小的更輕量的智能終端。但構(gòu)建TensorFlow深度學(xué)習(xí)框架需要更復(fù)雜的代碼,還要重復(fù)地多次構(gòu)建靜態(tài)圖。不過到2.0以后,tensorflow將keras融合進(jìn)來,很多操作都簡化了。

Pytorch:Pytorch的風(fēng)格和python很像,使用的是動(dòng)態(tài)圖,搭建模型比較快,方便調(diào)試,能夠很快驗(yàn)證方法的有效性,新手上手快,而且?guī)熳銐蚝唵?,跟NumPy、SciPy等可以無縫連接;設(shè)計(jì)簡單,動(dòng)態(tài)地設(shè)計(jì)網(wǎng)絡(luò),而無需定義靜態(tài)網(wǎng)絡(luò)圖,非常靈活。但pytorch在生產(chǎn)環(huán)境部署還不成熟。

Caffe:Caffe 是一個(gè)優(yōu)先考慮表達(dá)、速度和模塊化來設(shè)計(jì)的框架。支持 C、C++、Python等接口以及命令行接口。但是,Caffe 不支持精細(xì)粒度網(wǎng)絡(luò)層,給定體系結(jié)構(gòu),對(duì)循環(huán)網(wǎng)絡(luò)和語言建模的總體支持相當(dāng)差,必須用低級(jí)語言建立復(fù)雜的層類型,使用門檻很高。雖然開源比Pytorch和Tensorflow要早一點(diǎn),早期的很多機(jī)器視覺的算法是基于Caffe框架,但是Caffe社區(qū)比較前兩個(gè)框架要小很多,更新迭代的也比較慢。

連心醫(yī)療算法經(jīng)理Fisher:我們目前用的主要是Tensorflow以及依據(jù)Tensorflow的Keras框架,選擇Tensorflow的主要原因是市場(chǎng)占有率大、社區(qū)支持好,而且最主要的是工業(yè)部署非常成熟。

Pytorch現(xiàn)在研究人員用的比較多,最主要的優(yōu)點(diǎn)是其動(dòng)態(tài)圖的實(shí)現(xiàn)方案,對(duì)于測(cè)試等非常友好。但是,在工業(yè)部署上,和Tensorflow還是有一定差距。目前,這兩個(gè)框架選擇的人比較多。

Caffe用的人已經(jīng)在逐漸減少,主要還是其靈活性等相對(duì)較差,雖然Caffe2在一定程度上進(jìn)行了改善,但是已經(jīng)錯(cuò)過了重要的框架發(fā)展窗口期。

聯(lián)影智能研發(fā)科學(xué)家:相比其他兩個(gè),Pytorch在算法實(shí)現(xiàn)靈活度更強(qiáng),比較貼近機(jī)器學(xué)習(xí)研發(fā)工程師。同時(shí)學(xué)術(shù)界對(duì)Pytorch的支持也較為強(qiáng)大,整個(gè)圈子比較活躍。因?yàn)槲覀儾渴疬@塊都是采用內(nèi)部開發(fā)的部署框架,所以我們更為看中訓(xùn)練研發(fā)階段框架的靈活性和高效性。

匯醫(yī)慧影算法總監(jiān)劉鵬飛:Pytorch上手難度低,調(diào)試方便,代碼寫起來比較pythonic,但目前對(duì)部署的支持相對(duì)較弱,TensorFlow對(duì)部署支持比較好,但相對(duì)上手難度高,調(diào)試?yán)щy。Caffe是第一代深度學(xué)習(xí)框架,雖然仍然用于成熟模型部署,但基于Caffe的模型研發(fā)成本比較高,比如,很多情況下用戶需要自己實(shí)現(xiàn)反向傳播代碼,不適用于快速模型開發(fā)和迭代。

雷鋒網(wǎng):如何評(píng)價(jià)國內(nèi)的開源框架,如百度飛槳、曠視MegEngine等?

柏視醫(yī)療董事長陸遙:國內(nèi)的開源框架,比如百度的飛槳和最近推出的清華大學(xué)Jittor、曠視的MegEngine和華為的MindSpore,這都是很好的嘗試,但是國內(nèi)開源框架都面臨和Caffe一樣的問題,使用者較少,資源比Pytorch、Tensorflow少很多,和Pytorch和Tensorflow框架的兼容性不好,在這些框架上做開發(fā)的難度相對(duì)比較大。因此,國內(nèi)這些框架的社區(qū)還是比較小。

百度在飛槳的推廣上做了很多的工作,可能也發(fā)現(xiàn)在通用框架上,和這些國外成熟框架競爭所面臨的困境。近期推出的影像AI專用框架,是一個(gè)不錯(cuò)的想法,因?yàn)镻ytorch和Tensorflow這類框架是針對(duì)通用性設(shè)計(jì)的,在細(xì)分領(lǐng)域并不算非常好。如果影像AI這一塊,飛槳能做的足夠出色,吸引更多的研發(fā)者進(jìn)來,做好生態(tài),也能形成自己的社區(qū),希望國內(nèi)開源框架的生態(tài)越做越好。

連心醫(yī)療算法經(jīng)理Fisher:我們一直和飛槳有合作,在春節(jié)期間還一起推出了新冠肺炎的檢測(cè)模型。

最近除了百度,華為以及曠視等也都推出了自己的框架,百度應(yīng)該是國內(nèi)開發(fā)最早、發(fā)展最成熟的框架。

國內(nèi)框架的優(yōu)點(diǎn)是中文的支持友好,和企業(yè)直接合作較多以及硬件的直接融合開發(fā)等,但是致命的缺點(diǎn)在于其學(xué)術(shù)界的缺位。

放眼最新的論文,其開源的代碼基本都是Tensorflow以及PyTorch的實(shí)現(xiàn)。當(dāng)然如果是比較火熱的論文,框架一般也都會(huì)及時(shí)把相應(yīng)的代碼跟上,但是如果不是大熱的論文,都需要自己再復(fù)現(xiàn)一下論文。

在目前工程師基本都要掌握Tensorflow和Pytorch兩種框架的情景下,讓他們?cè)偃フ莆盏谌N框架是缺乏動(dòng)力的。

聯(lián)影智能研發(fā)科學(xué)家:基本沒有太多接觸,主要還是基于飛槳的應(yīng)用以及開源代碼,資料這方面比較少,暫時(shí)沒有Pytorch和Tensorflow生態(tài)圈龐大。所以無論上手,學(xué)習(xí),成本都會(huì)相應(yīng)增高。

雷鋒網(wǎng):如何評(píng)價(jià)英偉達(dá)剛剛開源的醫(yī)療AI專用框架MONAI?是否會(huì)取代Pytorch在醫(yī)療界的位置?

柏視醫(yī)療董事長陸遙:MONAI使用PyTorch深度學(xué)習(xí)框架,旨在提供一種開源、標(biāo)準(zhǔn)化程度高、用戶友好、可復(fù)現(xiàn)性好、易于集成、高質(zhì)量的、針對(duì)醫(yī)療領(lǐng)域特定優(yōu)化的深度學(xué)習(xí)框架。

從長期來看,這是趨勢(shì),但需要吸引更加多的開發(fā)者加入,壯大社區(qū)的力量。

它和飛槳影像AI是一個(gè)思路,走的是細(xì)分領(lǐng)域,依托于英偉達(dá)自身的硬件基礎(chǔ),在醫(yī)療AI影像上,可以做出更出色的性能。在醫(yī)療AI領(lǐng)域,和Pytorch兼容,減少Pytorch用戶遷移到MONAI的難度,提高用戶對(duì)MONAI的使用率,可以實(shí)現(xiàn)和Pytorch共同發(fā)展。

MONAI在計(jì)算效率、并行化訓(xùn)練和部署,以及醫(yī)療特定任務(wù)的支持上應(yīng)該會(huì)有更好的效果,而Pytorch是一個(gè)更基礎(chǔ)通用的框架。二者各有所長,未來應(yīng)該是相互促進(jìn)的關(guān)系。

連心醫(yī)療算法經(jīng)理Fisher:簡單的總結(jié)就是,不會(huì)。

首先,我們要搞清楚MONAI是什么,它在Github上的解釋是:MONAI is a PyTorch-based, open-source framework for deep learning in healthcare imaging。

也就是說,首先它和Pytorch并不是排他的關(guān)系,MONAI就是基于Pytorch構(gòu)建的,包括官方的一些例子,都是會(huì)引入Torch,也就沒有了什么取代。

在我看來,MONAI更像是一個(gè)基于Pytorch的醫(yī)療圖像數(shù)據(jù)處理庫,針對(duì)醫(yī)療圖像增添了許多圖像處理的方法,彌補(bǔ)了Pytorch對(duì)于醫(yī)療圖像的支持不足。

雷鋒網(wǎng):你們購買哪個(gè)廠商的服務(wù)器?為什么?

柏視醫(yī)療董事長陸遙:服務(wù)器的選購主要是考慮成本以及售后服務(wù),在滿足基本配置要求的前提下,選用價(jià)格成本較低,售后服務(wù)較為完善的服務(wù)器供應(yīng)商。NVIDIA提供一站式解決方案,且計(jì)算性能優(yōu)秀,是很好的選擇。

連心醫(yī)療算法經(jīng)理Fisher:目前,我們服務(wù)器供應(yīng)商有多家,其中DELL的機(jī)器較多,主要的原因還是DELL在端機(jī)上成熟的解決方案、穩(wěn)定的品質(zhì)。

聯(lián)影智能研發(fā)科學(xué)家:目前購買過AMAX、NVIDIA DGX系列,前者用于部署、后者用于訓(xùn)練,各有好處。NVIDIA DGX在整體解決方案上更為成熟,技術(shù)支持也會(huì)好些。

匯醫(yī)慧影算法總監(jiān)劉鵬飛:服務(wù)器基本就是NVIDIA GPU + Intel CPU。用戶基數(shù)大,社區(qū)比較成熟,遇到問題可以很容易找到解決方案。

雷鋒網(wǎng):主要用哪家廠商的AI芯片?

柏視醫(yī)療董事長陸遙英偉達(dá)。

連心醫(yī)療算法經(jīng)理Fisher據(jù)我所知,在端側(cè)基本只能用英偉達(dá)的芯片,因?yàn)楦骷业目蚣芏际菢?gòu)建于CUDA之上,而只有英偉達(dá)的卡才可以使用CUDA。

聯(lián)影智能研發(fā)科學(xué)家:現(xiàn)在市面主流還是NVIDIA,無論是CUDA還是深度學(xué)習(xí),NVIDIA的顯卡對(duì)各個(gè)框架的支持都很好,而且可以兼容三維渲染、并行編程,這方面較其他芯片來說優(yōu)勢(shì)目前還是很大的。

匯醫(yī)慧影算法總監(jiān)劉鵬飛:這兩家的AI芯片我們都在用,目前實(shí)時(shí)性要求比較高應(yīng)用主要還是基于NVIDIA芯片,計(jì)算量相對(duì)少的應(yīng)用一般基于英特爾的芯片。

雷鋒網(wǎng):英偉達(dá)的硬件和軟件包,有哪些優(yōu)勢(shì)?尤其是CUDA

柏視醫(yī)療董事長陸遙:英偉達(dá)系列顯卡最早能夠支持諸如Tensorflow 、Pytorch一類的深度學(xué)習(xí)框架的部署,技術(shù)起步早,國內(nèi)外相關(guān)的研究者比較多,技術(shù)生態(tài)比較成熟。

英偉達(dá)還有專門針對(duì)深度學(xué)習(xí)優(yōu)化的工具tensorRT,能夠更好地結(jié)合深度學(xué)習(xí)框架與顯卡硬件資源之間的優(yōu)勢(shì),充分發(fā)揮顯卡的計(jì)算性能。CUDA很好地封裝了一些對(duì)顯卡硬件資源調(diào)度和使用的API接口,能夠讓研發(fā)人員方便高效地對(duì)顯卡的計(jì)算資源進(jìn)行利用,上手難度較低。

連心醫(yī)療算法經(jīng)理Fisher:正如上邊所說,雖然有一些解決方案也可以不用CUDA而使用OpenCL,但是基本工業(yè)界只有CUDA這一個(gè)選項(xiàng),這主要是其統(tǒng)一的開發(fā)套件、非常豐富的庫以及NVCC所具備的PTX代碼生成以及離線編譯等更成熟的編譯器特性。另外,眾多的開源框架也都是建立在CUDA之上。

聯(lián)影智能研發(fā)科學(xué)家:CUDA有很長的一段發(fā)展歷史,沉淀比較多,資料也比較多,優(yōu)勢(shì)很大。特別是現(xiàn)在除了CUDA C,還有Thrust這種C++庫,選擇余地大。另外,CUDNN也可以和CUDA一起兼容,所以除了深度學(xué)習(xí),還可以做其他GPGPU并行編程,整體就非常方便。

匯醫(yī)慧影算法總監(jiān)劉鵬飛:對(duì)于性能要求比較高的場(chǎng)景,英偉達(dá)硬件軟件包是比較有優(yōu)勢(shì)的。CUDA、TensorRT等工具都是經(jīng)過高度優(yōu)化,執(zhí)行速度上有比較明顯的優(yōu)勢(shì)。

雷鋒網(wǎng):英特爾Xeon系列AI芯片在醫(yī)療領(lǐng)域應(yīng)用頗多,其明顯大于GPU的顯存,是否在CT、MRI和病理這類比較大的圖像處理上更有優(yōu)勢(shì)?

柏視醫(yī)療董事長陸遙:醫(yī)療AI專用芯片,具有非常巨大的市場(chǎng)空間,人工智能技術(shù)的快速發(fā)展,讓AI算法在醫(yī)療領(lǐng)域已經(jīng)得到了行業(yè)認(rèn)可,但醫(yī)療行業(yè)有其行業(yè)特點(diǎn):數(shù)據(jù)量大、高維度、多模態(tài),顯存更大的芯片能夠加速AI算法落地復(fù)雜的醫(yī)療環(huán)境。

對(duì)醫(yī)療AI專用芯片的選擇,內(nèi)存是考慮因素之一,同時(shí)計(jì)算力也是一個(gè)考量的因素,在這點(diǎn)上英偉達(dá)更有優(yōu)勢(shì)。所以選擇上,看個(gè)人更看重哪個(gè)因素。

英特爾的醫(yī)療AI專用芯片技術(shù)起步比較晚,在技術(shù)生態(tài)環(huán)境上暫時(shí)比不上英偉達(dá),研發(fā)人員對(duì)英特爾系列的AI芯片的應(yīng)用有一定的上手難度。對(duì)英特爾芯片的應(yīng)用,很多技術(shù)人員還處于摸索階段。從研發(fā)效率和穩(wěn)定性來考慮。目前,選擇英偉達(dá)的芯片是大多數(shù)的選擇。

更大顯存對(duì)醫(yī)療AI領(lǐng)域確實(shí)有著一定的優(yōu)勢(shì)。隨著技術(shù)的發(fā)展,使用英特爾的醫(yī)療AI專用芯片做部署環(huán)境也是可以考慮的技術(shù)路線之一。

連心醫(yī)療算法經(jīng)理Fisher:從我個(gè)人角度來看,硬件是服務(wù)于項(xiàng)目的,而項(xiàng)目中硬件只是制約的一部分因素,更重要的是開發(fā)效率。誠然,顯存是會(huì)讓算法有更多的可能性,但是開發(fā)效率會(huì)是工程上更關(guān)注的部分。

如果沒有良好的社區(qū)支持以及市場(chǎng)支持,再好的硬件也只能是和一些特定廠商的定制硬件選項(xiàng)而不是廣泛的工程選擇。就像顯卡上NVIDIA和AMD的競爭,由于CUDA的存在以及已經(jīng)發(fā)展起來的良好社區(qū),如果想要進(jìn)行科學(xué)計(jì)算,那么可以說,英偉達(dá)是唯一的選項(xiàng)。

匯醫(yī)慧影算法總監(jiān)劉鵬飛:據(jù)我所知,目前英特爾的AI芯片主要應(yīng)用在推理階段。在訓(xùn)練階段,大家基本還是使用NVIDIA GPU。另外,對(duì)3D醫(yī)療圖像來說,Intel OpenVino目前還有一些常用算子沒有完全支持。

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

分享:
相關(guān)文章
最新文章
請(qǐng)?zhí)顚懮暾?qǐng)人資料
姓名
電話
郵箱
微信號(hào)
作品鏈接
個(gè)人簡介
為了您的賬戶安全,請(qǐng)驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請(qǐng)驗(yàn)證您的郵箱
立即驗(yàn)證
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說