丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
人工智能 正文
發(fā)私信給胡敏
發(fā)送

0

大模型的AB面:廠商講算力,企業(yè)要落地

本文作者: 胡敏 2023-05-12 10:24
導(dǎo)語:“算力是可以買到的,但創(chuàng)新的能力是買不到的?!?

ChatGPT發(fā)布不過半年,全球性AI再造已經(jīng)拉開序幕,甚至一開場直接進(jìn)入白熱化競爭狀態(tài)。據(jù)不完全統(tǒng)計,國內(nèi)類似ChatGPT的產(chǎn)品已經(jīng)有接近40個。

面對這一波浪潮,不少企業(yè)已經(jīng)率先開展行動,將大模型應(yīng)用到自身業(yè)務(wù)中。不過,緊接著難題也隨之而來,不同廠商之間的大模型,到底應(yīng)該如何選?怎么評判各家做大模型的實力?

市場風(fēng)向:從「迷算力」到關(guān)注「綜合體驗」

當(dāng)前,國內(nèi)市場以“大模型”為名推出的產(chǎn)品雖有約四十款,但大模型領(lǐng)域仍未形成公認(rèn)的行業(yè)標(biāo)準(zhǔn),供使用者參考研判。

對于企業(yè)而言,缺乏評判標(biāo)準(zhǔn)的現(xiàn)狀,加劇了他們在面對大模型時的矛盾心理。

雷峰網(wǎng)(公眾號:雷峰網(wǎng))在與企業(yè)交流時了解到,不少企業(yè)雖然秉持擁抱新技術(shù)的開放心態(tài),但行業(yè)魚龍混雜,市場噪聲太大,又讓他們不得不更加謹(jǐn)慎對上。而“得算力者得大模型”的觀點甚囂塵上,更是影響了他們進(jìn)一步接觸和使用大模型。

的確,算力焦慮,從大模型走紅的第一天起,就伴隨著各大廠商甚至整個科技行業(yè),“互聯(lián)網(wǎng)大廠緊急備貨GPU為大模型開路”的傳聞一直沒有斷過。而在上個月,ChatGPT也因需求量太大,一度暫停升級服務(wù),并停止 Plus 付費(fèi)項目的銷售。

但事實上,“得算力者得大模型”這個觀點,存在一定片面性。GPU卡數(shù)量越多,并不意味著大模型的表現(xiàn)就越優(yōu)秀、企業(yè)使用大模型的效果就越好。

廠商擁有上千、上萬張GPU卡,除了“買不起”,還會有“用不好”的問題,如此大規(guī)模的集群去做訓(xùn)練,一旦出現(xiàn)bug就很難調(diào)整,這對廠商的整體調(diào)優(yōu)服務(wù)能力、端到端成本的控制能力,都是一種考驗。

在大模型風(fēng)起之初,企業(yè)判斷和選擇大模型廠商時,算力因素很多時候會被排在第一位,但大模型真正的使用效果和綜合體驗,是來自于算力、框架、模型、應(yīng)用構(gòu)筑的四層架構(gòu),相互配合所產(chǎn)生的“化學(xué)反應(yīng)”。

大模型的AB面:廠商講算力,企業(yè)要落地

打個比方,如果某個應(yīng)用上經(jīng)過調(diào)優(yōu),在同等算力情況下,性能提高50%,那就意味著算力需求可以降低50%。

企業(yè)如果想借助大模型,在業(yè)務(wù)發(fā)展踏上新臺階,需要的不止是智能算力,還需要靈活的框架平臺,豐富的大模型體系,以及對于業(yè)務(wù)來說更加優(yōu)質(zhì)的方案。更重要的一點,在四者之間,端到端的適配和優(yōu)化,這是“既要、也要、還要”的端到端優(yōu)化的過程。

就好比選擇智能手機(jī),一開始人們買手機(jī)關(guān)心跑分,后來人們發(fā)現(xiàn)跑分并不等同于使用體驗。大模型也同樣如此,算力充足不代表使用體驗。

對很多企業(yè)而言,目前再接觸大模型,已經(jīng)不再是“了解一下”“嘗嘗新鮮”的階段了,不少企業(yè)已經(jīng)意識到,大模型對每個人、每個行業(yè)都有結(jié)構(gòu)性影響。

陸奇在前不久的演講中談到,未來在大模型之上,將有更多大模型會更多的模型被建立,展開來說有兩類:一類是事情的模型,人類每一類需求都有領(lǐng)域/工作模型,其中有結(jié)構(gòu)模型、流程模型、需求模型和任務(wù)模型,尤其是記憶和先驗;另一類是人的模型,包括認(rèn)知/任務(wù)模型,它是個體的,其中有專業(yè)模型,有認(rèn)知模型、運(yùn)動模型和人的記憶先驗。人基本是這幾類模型的組合,律師也好,醫(yī)生也好,大量領(lǐng)域會有大量模型往前走。

百度等多家大模型廠商都向雷峰網(wǎng)透露,前來接觸的客戶已經(jīng)從最開始的CEO層級,變成具體的技術(shù)和業(yè)務(wù)團(tuán)隊,討論的內(nèi)容也從天馬行空的想象,變成“大模型如何用好”這類更接地氣的主題。

他們談到,企業(yè)對大模型調(diào)度實際落地需求十分迫切,關(guān)心如何才能產(chǎn)生真正有成效的轉(zhuǎn)化,也逐漸開始更關(guān)注易用性、安全性、可擴(kuò)展性等一系列具體的指標(biāo)。

需求解碼:低門檻、高效率、強(qiáng)安全

百度大模型落地企業(yè)是比較迅速的。

3月27日,也是文心一言發(fā)布后的11天,百度云低調(diào)舉行閉門溝通會,向首批企業(yè)客戶開啟內(nèi)測,并推出全球首個一站式企業(yè)級大模型平臺——“文心千帆”,為企業(yè)提供包括數(shù)據(jù)標(biāo)注處理、再訓(xùn)練微調(diào)、大模型壓縮、指令(Prompt)自動化、編排功能等大模型推理、微調(diào)、托管等服務(wù)。

時隔兩月,內(nèi)測進(jìn)展究竟如何?5月9日,在百度云舉行的文心大模型技術(shù)交流會上,百度云對外展示了“文心千帆”在企業(yè)端落地情況。

據(jù)雷峰網(wǎng)了解,“文心千帆”結(jié)合不同企業(yè)需求,提供公有云和私有云兩種部署方式,公有云部署提供推理、微調(diào)和托管三類交付模式,而私有云部署提供軟件授權(quán)、軟硬一體、租賃服務(wù)三種交付模式。

這些不同的交付模式,可滿足不同企業(yè)的需求。

于許多企業(yè)而言,當(dāng)前公司內(nèi)部資深A(yù)I人才儲備并沒有那么充足,再加上近期通用人工智能的火爆,AI人才更是難招,許多大廠是直接重金開卷,招兵買馬。

在這種背景下,這些企業(yè)在選擇大模型開發(fā)平臺上,會重點關(guān)注大模型開發(fā)是否低門檻、高效率。

為給有專屬模型需求的企業(yè)降低模型訓(xùn)練難度,“文心千帆”主打開箱即用,企業(yè)無需找大量資深A(yù)I人才進(jìn)行繁瑣的環(huán)境配置工作,同時從數(shù)據(jù)處理、模型訓(xùn)練、 到部署服務(wù)、 應(yīng)用集成,每個環(huán)節(jié)都可以通過簡單的界面操作來實施,大幅降低企業(yè)使用門檻,提升了模型打磨效率,降低了成本。

此外,對于無需定制專屬模型的企業(yè),“文心千帆”提供直接推理的交付方式,企業(yè)可直接調(diào)用文心一言,一鍵讓業(yè)務(wù)變得智能化。

除低門檻、高效率外,能否兼容各類大模型的開發(fā)與應(yīng)用也是企業(yè)非常關(guān)心的問題。

當(dāng)前大模型賽道并未發(fā)展到一家獨(dú)大的階段,開源社區(qū)也十分活躍,再加上在To B領(lǐng)域,客戶的選型決策有時候不只是看技術(shù)指標(biāo),而是要考慮客情、服務(wù)等等,企業(yè)往往有多樣化的選型需求。

因此,大模型開發(fā)平臺最好要能適應(yīng)不同的模型。

據(jù)了解,“文心千帆”一方面支持文心一言模型的開發(fā),企業(yè)可以直接調(diào)用文心一言的核心推理能力,輸出推理結(jié)果,也可以在其基礎(chǔ)上進(jìn)行微調(diào),得到專屬模型。另一方面,對于其他開源、閉源模型,“文心千帆”也提供了同樣提供數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)安全、微調(diào)等全套工具鏈。

當(dāng)然,安全也是當(dāng)下企業(yè)在選擇大模型平臺的重要因素。

2022年被稱為是“數(shù)據(jù)安全元年”,包括《數(shù)據(jù)安全法》在內(nèi),國家陸續(xù)出臺了一系列與數(shù)據(jù)及其安全保護(hù)相關(guān)的政策法規(guī)和標(biāo)準(zhǔn)規(guī)范,要求做好企業(yè)數(shù)據(jù)安全,尤其是黨政、金融、教育、電力等重點行業(yè)。

為確保數(shù)據(jù)安全、以及自主可控,“文心千帆”配備了完備的安全機(jī)制,來確保模型輸入輸出穩(wěn)定,保障數(shù)據(jù)安全,此外,上文提到了百度云支持私有云部署方式,在私有云交付產(chǎn)品形態(tài)里面,企業(yè)可以選擇軟件授權(quán)、軟硬一體的一攬子方案、以及租賃方案。

“文心千帆”之所以能夠具備這么低門檻、高效率、安全等多種能力,離不開百度AI大底座技術(shù)支持。

這個大底座將百度多年產(chǎn)業(yè)深度實踐積累的全要素智算基礎(chǔ)設(shè)施,芯片、框架、模型、應(yīng)用核心組件整合到一起,同時通過每一層之間的相互協(xié)同優(yōu)化和適配,能夠為企業(yè)帶來更具性價比的智能算力、自主研發(fā)的深度學(xué)習(xí)框架,端到端的整體支持。

基于四層架構(gòu)的優(yōu)勢,大模型訓(xùn)練的計算速度、管理和利用計算資源效率、開發(fā)效率極大提升。

據(jù)百度提供的數(shù)據(jù)顯示,與其他未經(jīng)優(yōu)化的架構(gòu)相比,百度AI大底座在相同的時間內(nèi)完成的計算量提升了90%以上,資源利率效率提升70%以上,開發(fā)人員的開發(fā)效率提升100%。

文心一言的迭代也可佐證百度AI底座的能力。在一個月內(nèi),文心一言完成4次大技術(shù)升級,大模型推理成本降到原來的十分之一或者說性能提升近10倍。

"AI大底座就是要幫助客戶從上云,進(jìn)入到用數(shù)、賦智的快車道,極大降低AI產(chǎn)業(yè)應(yīng)用的門檻,提升效率,企業(yè)只需要把精力聚焦在場景業(yè)務(wù)上。"百度集團(tuán)執(zhí)行副總裁沈抖說道。

產(chǎn)品落地:初結(jié)果實,想象空間還在未來

“文心千帆”的首批內(nèi)測企業(yè)涵蓋了智能辦公、旅行服務(wù)、電商直播、政務(wù)服務(wù)、金融服務(wù)五大領(lǐng)域。百度云也旨在從這五大領(lǐng)域入手,先打造出一些行業(yè)的樣板間。

時隔兩個月后的,本次文心大模型技術(shù)交流會上,我們已經(jīng)可以看到許多成果。

比如說金融業(yè),AI已經(jīng)優(yōu)化了不少從業(yè)者如投研工作者的工作流。過去研究人員寫一份投研報告,需要在數(shù)據(jù)終端查詢研報,搜索引擎了解新聞資訊,再利用辦公軟件處理分析、撰寫,整個流程復(fù)雜且分散。

但升級后的投研助手產(chǎn)品可直接以對話形式,完成信息歸集、觀點輔助生成、觀點寫作、投資決策管理全流程,讓研究員的工作重心轉(zhuǎn)移到附加值更高的研究邏輯優(yōu)化上,顯著提升投研工作效率,實現(xiàn)專家經(jīng)驗資產(chǎn)化沉淀。

百度智能云應(yīng)用產(chǎn)品中心架構(gòu)師孫珂透露,由于百度擁有整體的科技底座,包含算力、大模型、開發(fā)框架和少量的標(biāo)注數(shù)據(jù),在這之上,百度可以實現(xiàn)對資產(chǎn)、對財富、對營銷、還有包括對內(nèi)控合規(guī)一系列資源的管控。在這個過程中,能夠在零售業(yè)務(wù)和對公業(yè)務(wù)上,提供各種各樣的創(chuàng)新服務(wù),讓金融機(jī)構(gòu)有對客界面更高效的提升,更集約化的框架。

另一個更容易被感知到的場景是旅游業(yè),一般人們選擇外出旅游時,都要提前很久做攻略,包括定酒店、定機(jī)票,做路線攻略等等。

但現(xiàn)在只需要通過簡單的對話界面,輸入出行城市,目的地,出行方式,旅游時間等信息,幾句話溝通就可以按要求生成一個旅游規(guī)劃,同時完成機(jī)票、酒店的預(yù)訂。

而在電商行業(yè),直播是當(dāng)前每家企業(yè)不想也不敢錯過的風(fēng)口,但對于一些中小企業(yè)來說,隨著直播團(tuán)隊人員薪水、設(shè)備的價格水漲船高,許多商家養(yǎng)不起專業(yè)直播團(tuán)隊。

而現(xiàn)在,企業(yè)只需要把商品的信息告訴AI,讓AI自動生成多種風(fēng)格的商品帶貨腳本,再配合數(shù)字人主播,就可以幫企業(yè)把貨給賣出去。不需要花錢雇主播、撰寫話術(shù)、花時間培訓(xùn),有了專業(yè)AI直播加持,每個品牌都能7*24小時直播,提升電商銷售效果。

“經(jīng)過度量,它的轉(zhuǎn)化率是無人直播的兩倍,有一個人總是比沒有一個人去直播它的轉(zhuǎn)化率要更高?!睂O珂表示。

雷峰網(wǎng)進(jìn)一步了解到,已經(jīng)有超過300家產(chǎn)業(yè)里的生態(tài)伙伴,在和百度智能云探索大模型在真實場景里的落地,涵蓋了工業(yè)、金融、政務(wù)、運(yùn)營商、教育等行業(yè)。

例如用友,將自身能力與文心一言相結(jié)合,形成B端企業(yè)管理軟件系統(tǒng)智能助手,服務(wù)于智能知識分析,財報分析,數(shù)據(jù)報表分析實踐等企業(yè)高頻的需求和場景。在電信行業(yè)國產(chǎn)中間件市場占有率最高的寶蘭德,也在測試中將自身的智能運(yùn)維機(jī)器人與文心一言融合,提高了運(yùn)維效率和自動化智能化程度,可以實現(xiàn)智能化故障診斷,以及智能解決方案推薦。

百度集團(tuán)副總裁袁佛玉透露,在過去不到兩個月時間,百度智能云已經(jīng)聯(lián)合產(chǎn)業(yè)伙伴深入超過400個具體的場景研發(fā)測試,“在其中看到了非常有價值的測試效果,也有一些測試效果還不夠理想,但我們正在雙向的去努力,去尋找在這個方向最先落地的機(jī)會。”

大模型與產(chǎn)業(yè)相結(jié)合,所迸發(fā)的想象力遠(yuǎn)遠(yuǎn)不止于此。隨著時間推移,毫無疑問將會有更多的企業(yè)迎接大模型,為業(yè)務(wù)帶來新的生產(chǎn)力。由此,一場產(chǎn)業(yè)升級的風(fēng)暴即將來臨,而百度也已經(jīng)做好準(zhǔn)備。

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

大模型的AB面:廠商講算力,企業(yè)要落地

分享:
相關(guān)文章

主筆

關(guān)注云計算、企服,歡迎找我爆料。微信:mindy1857,加好友請備注公司、姓名及來意
當(dāng)月熱門文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說