丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
人工智能 正文
發(fā)私信給何思思
發(fā)送

0

對話優(yōu)刻得季昕華:競爭大模型不是有卡就能躺贏

本文作者: 何思思 2023-08-10 18:11
導語:決戰(zhàn)大模型勝負的關(guān)鍵,到底是什么?

對話優(yōu)刻得季昕華:競爭大模型不是有卡就能躺贏

作者丨何思思

編輯丨林覺民

“一定程度上,美國的算力禁用會造成國內(nèi)大模型發(fā)展的限制,因為沒有核心算力就沒辦法訓練模型。”之于算力對于大模型的重要性,優(yōu)刻得董事長兼CEO季昕華如是說。

自今年2月份大模型在國內(nèi)火出圈后,算力瞬間成了業(yè)界最關(guān)注的話題,也成了國內(nèi)大模型訓練很難攻克的關(guān)卡。其實從另一個角度分析,算力的爆發(fā)式增長也給國內(nèi)的云計算廠商帶來了空前的發(fā)展機遇。

對此,季昕華也表示認同。他表示,算力禁用是壞事也是好事,一方面,如果想在一兩年內(nèi)解決卡脖子的問題,需要加快國產(chǎn)芯片的研發(fā)速度,這并非一件易事;另一方面,企業(yè)越來越重視算力,這樣反而會推動國產(chǎn)芯片的發(fā)展。

作為中立的云計算廠商,優(yōu)刻得其實很早就感受到了大模型競爭的背后,算力市場將會迎來巨大的變化。

“去年11月份第一次接觸到Stable Diffusion,當時就覺得它的效果非常驚艷,所以就開始關(guān)注大模型了?!奔娟咳A向雷峰網(wǎng)表明了關(guān)注大模型的緣由,同時他還透露道,由于當時中國企業(yè)還沒開始關(guān)注大模型,也不知道它到底能創(chuàng)造多大的價值,所以當時并沒有下定決心做大模型相關(guān)的業(yè)務(wù)。

而真正讓優(yōu)刻得應(yīng)用大模型和服務(wù)大模型企業(yè)要從今年2月份說起,這也是大模型在國內(nèi)出圈的時間節(jié)點。

雷峰網(wǎng)了解到,優(yōu)刻得首先基于大模型研發(fā)了知識問答平臺“識問”、UCoder代碼助手平臺,AI繪畫助手平臺、大模型安全管理平臺四款供內(nèi)部使用的AI產(chǎn)品,其次,基于低成本、高附加值的自建數(shù)據(jù)中心,優(yōu)刻得打造了AIGC算力底座,為大模型的訓練、推理、數(shù)據(jù)處理等靈活提供多款GPU算力資源。

緊接著,優(yōu)刻得推出了私有化大模型一體機,內(nèi)置優(yōu)刻得自主研發(fā)的UCloudStack全棧私有云平臺,提供虛擬化、存儲、網(wǎng)絡(luò)及MaaS模型的私有化方案,結(jié)合行業(yè)垂直大模型一體化交付給客戶,企業(yè)可一鍵部署大模型應(yīng)用。

之于優(yōu)刻得在大模型時代的定位,季昕華再次強調(diào)了“中立”的原則。他解釋道,中立代表優(yōu)刻得不僅和客戶之間沒有競爭,而且要幫助大模型公司找客戶。對此,季昕華還曾公開調(diào)侃道,大模型時代,優(yōu)刻得要做的是“紅娘”。

從季昕華的回答中,我們也能間接得出優(yōu)刻得內(nèi)部研發(fā)、應(yīng)用大模型產(chǎn)品的原因,一是為了公司員工了解大模型、學會使用大模型,在這基礎(chǔ)上,才能深入地了解大模型的痛點是什么,具體能在哪些場景落地,這樣才能更好地為客戶提供服務(wù)。

談到大模型的未來,季昕華表示,未來具有太多不確定性,但不管怎樣,互聯(lián)網(wǎng)行業(yè)或者人工智能行業(yè)都是需要算力的,目前國內(nèi)無論是單卡的訓練能力,還是卡之間的互聯(lián)能力都是有限的,所以優(yōu)刻得未來的工作重點是把大模型算力底座搭建好。

以下是雷峰網(wǎng)和季昕華的對話:

競爭大模型不是有卡就能躺贏,工程能力對模型訓練至關(guān)重要

雷峰網(wǎng):很多人都在說最終能參與到大模型這場競爭的只有少數(shù)幾家云廠商,像高速網(wǎng)絡(luò)就不是每家都有,您認為競爭的壁壘到底是什么?

季昕華:是這樣的,像高速網(wǎng)絡(luò)這樣的技術(shù)并不是競爭大模型的主要門檻。包括優(yōu)刻得及大多數(shù)云廠商都有能力做?,F(xiàn)在網(wǎng)絡(luò)有兩種結(jié)構(gòu):第一種是RoCE的網(wǎng)絡(luò),這方面優(yōu)刻得在 2019 年就已經(jīng)有這個能力了。

第二種是IB網(wǎng)絡(luò)的方案,這是英偉達推薦的方案,這個方案相對來說更簡單,只需要部署和維護。所以對云廠商或者體量特別大的公司來說,技術(shù)不是主要的門檻。

雷峰網(wǎng):其實現(xiàn)在有說法說很多大模型企業(yè)都開始囤卡了?

季昕華:是的,尤其是一些大廠都在囤卡,包括A800、H800等。一方面自身的AI業(yè)務(wù)需要用到卡,加上有更多的資金投入,在此前就會購入大量的卡;另一方面,國內(nèi)大范圍關(guān)注大模型是在今年的2月份開始,各個廠商因為重視,也會加快囤卡的速度。

雷峰網(wǎng):那是不是擁有的卡越多就能躺贏?其他云廠商怎么和大廠競爭?

季昕華:也沒有躺贏,很多AI大模型公司現(xiàn)在也在用我們的卡,這種現(xiàn)象很普遍。

原因有幾個:第一,只用一家的卡是不夠的,第二,大模型公司為什么愿意和優(yōu)刻得合作?是他們覺得大廠既有算力、算法,還有數(shù)據(jù)和場景,與大廠合作最終還是擔心會存在業(yè)務(wù)競爭。而優(yōu)刻得作為中立安全的云廠商,與大模型企業(yè)沒有競爭。同時優(yōu)刻得能夠從數(shù)據(jù)中心、底層架構(gòu)做到算力平臺、模型庫等,具有深厚的技術(shù)積累和一站式系統(tǒng)工程服務(wù)能力。

做好算力服務(wù),做好大模型“紅娘”這個角色

雷峰網(wǎng):優(yōu)刻得是什么時候開始關(guān)注大模型的?

季昕華:最早接觸是去年國慶的時候,首先看到的是Stable Diffusion,當時覺得它的效果非常驚艷,就開始關(guān)注了大模型了,所以ChatGPT的話我們跟進的比較早。

雷峰網(wǎng):所以去年國慶的時候就下定決心要做這件事了?

季昕華:去年國慶之后,優(yōu)刻得就把AIGC定為了今年的目標,去年11 月份還發(fā)布了AI繪畫平臺鏡像。今年2月份和國內(nèi)頭部的大模型公司交流之后察覺到國內(nèi)算力市場將有一個爆發(fā)性的發(fā)展,所以在3月底下定決心要做這件事兒。

雷峰網(wǎng):在這些做大模型的企業(yè)中,有多少潛在客戶?

季昕華:我們總結(jié)了中國做大模型的公司有130家了,通用的有78家,垂直的有52家。而且還在持續(xù)增加,其中有30多家已經(jīng)是我們的客戶了。

雷峰網(wǎng):具體以什么樣的形式輸出服務(wù)?

季昕華:一是我們的算力,二是機房服務(wù),因為有些公司是自己買設(shè)備然后放到我們的機房。

雷峰網(wǎng):機房服務(wù)怎么理解?是客戶本身沒有運營能力嗎?

季昕華:企業(yè)本身不管在哪都需要機房,大模型所需的機房有兩個特點:一是它的電量消耗大,二是比如一臺 H100 的機器所需功耗超過10kW,一般機房是滿足不了這種需求的,優(yōu)刻得的烏蘭察布數(shù)據(jù)中心就特別合適。另外,現(xiàn)在很多公司都存在有了服務(wù)器但用不起來的問題,那優(yōu)刻得就可以幫助他們搭建一個算力平臺并進行后續(xù)的維護工作。

雷峰網(wǎng):除了提供算力外,優(yōu)刻得前段時間還發(fā)布了“識問”?

季昕華:優(yōu)刻得內(nèi)部做了四個平臺:知識問答平臺“識問”、UCoder代碼助手平臺,AI繪畫助手平臺、大模型安全管理平臺。其實在“識問”之前,最早我們首先做的是大模型應(yīng)用管理系統(tǒng),這是我們的第一款產(chǎn)品,希望未來所有人都能夠用上大模型;

第二為了解決商業(yè)安全問題,我們做了一些限制,包括你的提問、上傳的文件,我們都會記錄和過濾,防止公司機密信息在網(wǎng)絡(luò)上泄露;

第三針對用戶的問題,包括員工內(nèi)部的問題和外部的溝通和返回,系統(tǒng)會做自動記錄,方便后期公司持續(xù)進行自己的模型訓練。

雷峰網(wǎng):為什么做這四款產(chǎn)品?能對外嗎?

季昕華:一是為了公司員工都能了解大模型、使用大模型,在這基礎(chǔ)上,才能深入明白大模型公司的痛點是什么、具體在哪些場景落地,這樣才能更好地為客戶提供服務(wù)。

這四款產(chǎn)品目前是公司內(nèi)部使用的,但是如果客戶有需要的話,我們也可以進行更多交流。

雷峰網(wǎng):那這幾個平臺是基于哪個模型做訓練的?

季昕華:先用 GPT 4 訓練,進行模型驗證,走通后逐步再用國內(nèi)的大模型或者開源大模型去優(yōu)化。對此我還提了一個概念叫“國外磨槍、國內(nèi)戰(zhàn)斗”。

雷峰網(wǎng):未來還有哪些場景是您比較看好的?

季昕華:如果按照對ChatGPT輸出內(nèi)容不準確定性的容忍度來區(qū)分的話,我們劃分了10個場景。

第一是翻譯和配音,在這方面的能力已經(jīng)非常高了,完全可以取代人類;第二是游戲的NPC;第三是社交;第四是電商的內(nèi)容輸出;第五是游戲設(shè)計;第六是客服;第七是公文和編程的輔助;第八是企業(yè)內(nèi)部的知識管理,第九是教育場景和保險場景,最后是輔助律師和醫(yī)生的工作。

雷峰網(wǎng):這10個場景會同時做嗎?還是逐步推進?

季昕華:優(yōu)刻得不做大模型,我們只是把客戶和合作方對接起來,可以理解為“紅娘”的角色。比如把游戲客戶對接給MiniMax、把電商、教育行業(yè)的客戶對接給智譜華章。

國內(nèi)大模型水平趕超GPT4很難,創(chuàng)業(yè)公司機會更多

雷峰網(wǎng):您認為國內(nèi)大模型公司可以分為幾類?哪些是優(yōu)刻得的重點客戶?

季昕華:我們分為五大類。第一類是巨頭,包括阿里、百度、頭條,華為、京東等。第二類是科學家創(chuàng)業(yè)的,像智譜華章這類公司;第三類是原來的AI公司、AI 四小龍、達觀、云知聲、第四范式等;第四類是創(chuàng)業(yè)公司,像MiniMax;第五類是原來的上市企業(yè)轉(zhuǎn)行做大模型的,像昆侖、360,也包括王小川、李開復這些創(chuàng)業(yè)大佬等。

第一類大廠不是優(yōu)刻得的目標客戶,后面幾類才是我們的重點客戶。

雷峰網(wǎng):也就是說大廠有自建能力,其他企業(yè)是沒有自建能力的?

季昕華:因為涉及到人工智能領(lǐng)域,所以不僅是網(wǎng)絡(luò)問題,還有存儲、機房等一系列問題,例如創(chuàng)業(yè)公司也可以自建算力,但周期會很長,等他自建好之后,競爭就結(jié)束了。大模型比拼的就是速度,誰速度快,誰就有可能占領(lǐng)制高點。

雷峰網(wǎng):對于大廠說,大模型分為幾個階段,幾個節(jié)點?

季昕華:第一是大模型上線,第二是上線后效果的驗證。目前了解到上線的有MiniMax、智譜、百度、阿里、科大訊飛等公司。

雷峰網(wǎng):哪家的效果好,主要看算力用的多少嗎?

季昕華:我不這么認為,訓練用的算力多不一定能訓練出好的模型,但如果推理環(huán)節(jié)卡用的多的話,說明用戶量大,得到的反饋也就更多,更有利于訓練出好的模型。

雷峰網(wǎng):不管訓練還是推理,做大模型首先還要有算力的?

季昕華:對,第一要有卡,如果沒卡的話肯定是落后的;第二要具備很強的工程能力,有了卡用不起來也不行,目前各家的工程能力發(fā)揮都在40-50%左右。以上兩個問題都解決了,就是安全問題了,另外流量問題也很重要。

雷峰網(wǎng):國內(nèi)模型到什么水平了?很多人說今年年底能追上GPT4。

季昕華:目前國內(nèi)還沒有出現(xiàn)超過GPT3.5的模型,當然在某個方面超過其實很容易。超越GPT4的話很難,關(guān)鍵在于GPT3.5之前的論文是公開的,但是GPT4還沒有公開,所以大家都不知道該怎么做。

雷峰網(wǎng)(公眾號:雷峰網(wǎng)):國內(nèi)這些大廠也沒有機會趕超嗎?

季昕華:我覺得現(xiàn)在大廠的效果都不如創(chuàng)業(yè)公司。因為有些有信念、有理想的創(chuàng)業(yè)公司早就開始做了,大廠實際上是看到ChatGPT火了之后才做的。

雷峰網(wǎng):按理來說大廠有技術(shù)積累,不更有機會嗎?

季昕華:AI有很多方向,以前大部分企業(yè)都認為垂直大模型有機會,不認為通用大模型有機會,所以過去幾年真正做通用大模型的反而是一些有信念的創(chuàng)業(yè)團隊和科研團隊,比如智譜華章、MiniMax,中科院等。

那對大廠來說,更多的是看到國外在做這件事后進行跟進,并沒有上升到公司戰(zhàn)略,因此他們在通用大模型方面并沒有特別多的積累。

雷峰網(wǎng):算力問題遲早會解決,那優(yōu)刻得在大模型方面的優(yōu)勢是什么?

季昕華:總結(jié)為三點:第一保持中立性,和用戶是沒有競爭關(guān)系的。第二具備數(shù)據(jù)中心、網(wǎng)絡(luò)以及數(shù)據(jù)存儲的一整套AIGC解決方案構(gòu)建能力,能幫助中小型公司快速搭建平臺,解決使用大模型的效率問題;第三能更好地幫助大模型公司拓展客戶。

8月14日一次與季昕華面對面交流的機會

今年2月份到現(xiàn)在,大模型在國內(nèi)火了已經(jīng)將近半年的時間,這段時間國內(nèi)涌現(xiàn)出了各種各樣的通用大模型和垂直大模型,參數(shù)量也是千差萬別,可以說國內(nèi)大模型已經(jīng)進入到了白熱化階段,相對應(yīng)的算力競爭也愈演愈烈,但是伴隨著國內(nèi)對算力的重視程度越來越高,被卡脖子的陰謀論終將被粉碎。

接下來的一周,在8月14-15日,一群人工智能開拓者將齊聚新加坡烏節(jié)酒店,為第七屆GAIR全球人工智能與機器人大會,帶來最為激蕩的思想碰撞。這是國內(nèi)首個出海的AI頂級論壇,也是中國人工智能影響力的一次溢出。

算力、數(shù)據(jù)、infra作為大模型時代的超級基建的組成部分,在這次AI頂級論壇上,季昕華與一眾業(yè)界大牛也將一同出席,圍繞《大模型時代的超級基建》主題來進行一次深刻探討。論壇邀請了重磅嘉賓包括UCloud董事長季昕華,新加坡國立大學校長青年教授尤洋、匯智智能聯(lián)合創(chuàng)始人劉黃驍烈,Zilliz創(chuàng)始人星爵,云啟資本合伙人陳昱。

他們將會共同探討大模型時代的超級基建的雛形,如何在大模型時代做好超級基建這一底座等話題。

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

對話優(yōu)刻得季昕華:競爭大模型不是有卡就能躺贏

分享:
相關(guān)文章

工業(yè)口編輯

關(guān)注新基建,聚焦工業(yè)互聯(lián)網(wǎng)領(lǐng)域 網(wǎng)絡(luò)安全丨微信:15230152798
當月熱門文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說