丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
業(yè)界 正文
發(fā)私信給包永剛
發(fā)送

0

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

本文作者: 包永剛 2024-01-09 15:29
導(dǎo)語:如果不懂芯片,手機(jī)性能的優(yōu)化只能停留在水上漂不能進(jìn)入到底層

手機(jī)除了卷影像能力,還能卷什么?

2024年度發(fā)布的首款旗艦智能手機(jī)OPPO Find X7系列給出了答案——端側(cè)生成式AI。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

Find X7的4種配色:煙云紫、海闊天空、大漠銀月、星空黑

2024年1月8日OPPO發(fā)布的全新旗艦Find X7,以全新一代同心寰宇設(shè)計,全新超光影三主攝實現(xiàn)的哈蘇全焦段大師影像,OPPO自研潮汐架構(gòu)所釋放的超強(qiáng)性能,以及超明亮超護(hù)眼的新一代鉆石屏,再度革新行業(yè)的旗艦標(biāo)準(zhǔn)。

OPPO Find X7 Uluta更是首創(chuàng)了雙潛望四主攝構(gòu)成哈蘇大師鏡頭群,再次刷新移動影像天花板。OPPO首席產(chǎn)品官劉作虎稱Ultra這個詞代表的就是——極致,沒有中間態(tài)。

影像能力已經(jīng)領(lǐng)先,OPPO還率先為消費者展示了生成式AI手機(jī)的樣子,全球首個端側(cè)應(yīng)用 70 億參數(shù)大語言模型的手機(jī)有何不同?

手機(jī)的AI功能并不新鮮,AI美顏,AI助手已經(jīng)被廣泛應(yīng)用,但是和生成式AI實現(xiàn)的功能還有兩個明顯的差異,更智能和更多樣的玩法。

手機(jī)端大模型如何升級AI體驗? 

以AI圖片消除來說,傳統(tǒng)的AI修圖,不夠智能且效果不夠理想。

比如在擁擠的景點拍了一張風(fēng)景照,想要消除照片里的路人,傳統(tǒng)AI的做法要手動精細(xì)選擇范圍,等待許久之后獲得單純被模糊掉路人的照片,觀感很差。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

如果是借助手機(jī)端的大模型能力,大致框定需要消除的范圍,就可以輕松消除風(fēng)景照里的路人,并且AI還會“生成”出路面,得到一張沒有人潮的風(fēng)景照。

這就是Find X7的AIGC消除功能,區(qū)別于傳統(tǒng)的AI模型只支持人體識別,Find X7的大模型能力不僅支持超過120類主體的識別與分割,還可以實現(xiàn)發(fā)絲級的分割、高達(dá)6個的多主體分離,與此同時,還能實現(xiàn)超大面積圖像的填充與自然生成,這是手機(jī)端生成式AI時代圖像編輯的體驗。

和AI編輯圖片一樣普及的還有AI語音助手。

現(xiàn)有的語音助手,大部分人用起來還是覺得不夠智能,新鮮勁一過就會被遺忘。但有了手機(jī)端的AI大模型,體驗也實現(xiàn)了跨越式的提升,AI助手能夠更好地理解自然語言,對話起來更像人和人之間的聊天。

在AI大模型加持下,OPPO全新的小布不僅可以聊天,還可以回答各種問題,總共超過100種能力,包括文字生成圖片、圖片生成文字、AI 文章摘要等功能,能夠在辦公效率,生活服務(wù),學(xué)習(xí)教育等不同維度為用戶提供幫助。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

比如你可以問小布為什么餅干上有很多小孔?并讓小布以四歲孩子能理解的方式回答。

除了升級已有的手機(jī)端AI體驗,生成式AI模型還給手機(jī)帶來了全新的AI功能。

比如通話摘要,在Find X7系列的發(fā)布會現(xiàn)場,劉作虎展示了一段和理想汽車CEO李想電話交流結(jié)束后,AI大模型語音摘要功能,重點清晰的呈現(xiàn)出了通話的要點,并生成待辦,極大提升了效率。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

這得益于Find X7的端側(cè)70億參數(shù)大模型,相比其他的10億參數(shù)模型,以更高“智商”的理解能力,可以更準(zhǔn)確地理解對話內(nèi)容并生成重點明確、細(xì)節(jié)不遺漏的摘要內(nèi)容。

同時,借助OPPO安第斯大模型端云協(xié)同的智能調(diào)度,OPPO大模型語音摘要的處理全程經(jīng)過加密處理,生成的摘要內(nèi)容完全存儲于終端本地,能夠很好保護(hù)用戶隱私。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

隱私保護(hù),更快速度都是端側(cè)大模型帶來的優(yōu)勢。

相比于同平臺其他模型,F(xiàn)ind X7 搭載的端側(cè) 70億參數(shù)大語言模型可以在200字首字生成帶來20倍的更快響應(yīng),面向2000字首字生成也可以實現(xiàn)2.5倍的更快速度。

并且,F(xiàn)ind X7 的端側(cè)70億大模型還可以實現(xiàn)最高14,000的摘要字?jǐn)?shù)上限,達(dá)到了同平臺其他模型的3.5倍,大模型的對話體驗更接近人類對話的速度與容量。

全球首個端側(cè)應(yīng)用70億參數(shù)大語言模型的手機(jī)如何煉成?

Find X7是全球首個端側(cè)應(yīng)用 70 億參數(shù)大語言模型的手機(jī),并通過端云協(xié)同的部署,實現(xiàn)了領(lǐng)先不止一代的AI體驗。

“為什么我們能夠第一個把70億大模型真正在端側(cè)運用起來?模型、算法與GPU、NPU如何適配和部署,不是簡單的事情?!眲⒆骰⑦M(jìn)一步解釋,“這個過程需要與平臺廠緊密溝通,基于我們對芯片的理解和對用戶的洞察,根據(jù)大模型和算法來定制芯片,用芯片的語言給芯片廠商提需求,這是我們的核心競爭力。

劉作虎透露,“我們保留了一些核心的架構(gòu)師,目的就是跟平臺廠商,比如說高通和聯(lián)發(fā)科的深度定制芯片。我們自己不做芯片,芯片平臺廠非常愿意和我們深度探討,實現(xiàn)強(qiáng)強(qiáng)聯(lián)合。如果不懂芯片,沒有做過芯片,只能停留在‘水上漂’不能進(jìn)入到底層,比如我們自研的潮汐架構(gòu),比重新做的價值更大。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

潮汐架構(gòu)是OPPO自研的芯片軟硬融合技術(shù)的集合,是一群懂芯片的人打造的芯片優(yōu)化技術(shù)。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

潮汐結(jié)構(gòu)深度觸及了SoC的L3緩存和SLC(系統(tǒng)級緩存),傳統(tǒng)SoC的SLC往往針對CPU和GPU等計算核心采用固定的分配方案,這種死板的分配方式會造成一定的資源浪費和擁堵。

潮汐架構(gòu)可以根據(jù)應(yīng)用場景的不同,靈活調(diào)整緩存配比。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

比如當(dāng)運行大型游戲需要圖像渲染時,GPU分配更多的,降低對DDR和UFS的訪存頻率,提高應(yīng)用運行速度,還能降低計算鏈路的整體能效。經(jīng)測算,對于SLC的調(diào)度優(yōu)化,能帶來平均 8%的能效節(jié)約。

生成式AI手機(jī)怎么樣?首款70億參數(shù)大模型手機(jī)OPPO Find X7有答案

端側(cè)大模型的部署,少不了潮汐架構(gòu),但端側(cè)大模型面臨著更極致的計算和存儲挑戰(zhàn)。

OPPO軟件創(chuàng)新中心總經(jīng)理張峻解釋,70億大模型正常的模型大小是28GB,為了真正在端側(cè)部署,OPPO用高精度4比特對模型進(jìn)行壓縮和輕量化,模型從28GB壓縮到最小的3.9GB左右。

即便如此,依舊對手機(jī)的性能、內(nèi)存和功耗都是很大的考驗。

“大模型在端側(cè)性能消耗比較大,要通過并行計算的算子優(yōu)化、對內(nèi)存管理的優(yōu)化等來降低損耗和系統(tǒng)資源占用。續(xù)航方面要根據(jù)用機(jī)的情況來看,我們端側(cè)大模型的功耗控制在用戶可以接受的范圍內(nèi)。”張峻表示。

OPPO Find X7系列端側(cè)化部署70億參數(shù)的大語言模型,視覺模型也會端側(cè)化部署,它會跟著我們的OTA隨后上線。”張峻強(qiáng)調(diào),“我們真正把70億參數(shù)大模型同時在高通和聯(lián)發(fā)科兩個芯片平臺上端側(cè)化部署,OPPO是第一家?!?/p>

至于為什么會選擇70億參數(shù)的模型,張峻也給出了解釋,“為什么選擇70億參數(shù)的模型,而不是10億參數(shù)?我們在每一個場景都會選擇最恰到好處的參數(shù)規(guī)模,它代表了這個模型在這個場景的聰明程度?!?/p>

技術(shù)能力之外,在手機(jī)端AI領(lǐng)域成功的關(guān)鍵是策略。

“我認(rèn)為未來幾年的實核心是用產(chǎn)品驅(qū)動。基于要做什么產(chǎn)品,確定大模型的訓(xùn)練,以及底層的算力,整體路線還是以產(chǎn)品驅(qū)動技術(shù)?!眲⒆骰⒄J(rèn)為,“通過用戶洞察的方式來做產(chǎn)品最重要。誰對用戶最理解,誰真正地懂產(chǎn)品,誰就能在競爭中保持差異化,始終擁有核心競爭力。

雷峰網(wǎng)(公眾號:雷峰網(wǎng))了解到,OPPO在上周五成立了AI中心,聚集了公司所有AI相關(guān)的員工,目標(biāo)是集中所有資源把AI做好。

OPPO已經(jīng)拉開了手機(jī)生成式AI時代的序幕,未來端側(cè)大模型還能給手機(jī)帶來怎樣意想不到的應(yīng)用?

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

分享:
相關(guān)文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說