0
| 本文作者： 馬廣宇 | 2023-11-16 22:19 |
“大模型”是2023年互聯(lián)網(wǎng)發(fā)展技術(shù)趨勢(shì)的關(guān)鍵詞，此刻OPPO也邁入大模型競(jìng)逐的下半場(chǎng)。
2023年初，國(guó)內(nèi)大模型領(lǐng)域受到ChatGPT的影響，“百模大戰(zhàn)”迅速進(jìn)入白熱化。今年8月，隨著《生成式人工智能服務(wù)管理暫行辦法》的正式施行，文心一言、百川大模型、智譜清言等大模型應(yīng)用正式向全社會(huì)開(kāi)放。
當(dāng)下大模型逐漸“面向全社會(huì)”，意味著大模型之間的競(jìng)爭(zhēng)已經(jīng)跨過(guò)前期積累，進(jìn)入到技術(shù)應(yīng)用落實(shí)階段。行業(yè)重心的傾斜，讓模型與參數(shù)的比拼不再是重點(diǎn)，對(duì)大模型存在價(jià)值的思考才是關(guān)乎企業(yè)存亡的核心所在。
今年8月份開(kāi)始，OPPO、vivo、華為、小米等Top級(jí)手機(jī)廠商圍繞著海量的硬件和富有創(chuàng)造力的落地方案，宣布正式進(jìn)軍大模型領(lǐng)域，通過(guò)聚焦手機(jī)和生態(tài)體驗(yàn)的差異化，瞬間成為整個(gè)行業(yè)關(guān)注的焦點(diǎn)。
這里的原因有三點(diǎn)：
第一，手機(jī)廠商作為最接近消費(fèi)者的硬件廠商，多年的深耕可以幫助其更準(zhǔn)確、直接地抓住用戶需求，甚至更深入地參與到手機(jī)系統(tǒng)的定制當(dāng)中，實(shí)現(xiàn)更有價(jià)值的落地方案。
第二，海量的用戶群。根據(jù)數(shù)據(jù)統(tǒng)計(jì)，整個(gè)2022年國(guó)內(nèi)智能手機(jī)的出貨量已經(jīng)達(dá)到2.64億部，手機(jī)廠商通過(guò)OTA能夠迅速將大模型部署到原有設(shè)備上，通過(guò)用戶的使用數(shù)據(jù)為大模型的成長(zhǎng)提供最好的養(yǎng)料。
第三，單一的硬件和完全依靠云側(cè)的方案難以推動(dòng)AI進(jìn)一步發(fā)展，軟硬件的高度協(xié)同是拓寬大模型邊界的關(guān)鍵所在，想要實(shí)現(xiàn)場(chǎng)景體驗(yàn)的新突破，打通上下游無(wú)疑是AI發(fā)展的未來(lái)趨勢(shì)。
這場(chǎng)蓄謀已久的競(jìng)賽，讓手機(jī)廠商間的競(jìng)爭(zhēng)焦點(diǎn)從技術(shù)轉(zhuǎn)變?yōu)槭袌?chǎng)。誰(shuí)能獲得用戶的青睞，誰(shuí)就獲得了“下個(gè)十年”。
讓用戶感知到技術(shù)突破的真實(shí)價(jià)值與更優(yōu)質(zhì)的體驗(yàn)，是對(duì)大模型來(lái)說(shuō)是既簡(jiǎn)單又困難的一件事。
大模型在三大要素：算力、模型、數(shù)據(jù)的不斷影響下，早已超過(guò)行業(yè)內(nèi)最初的預(yù)期，它不再是一種工具，而是成為一種創(chuàng)造力的源泉。
但技術(shù)突破是一回事，用戶的感知與體驗(yàn)卻是另一回事。
在11月16日OPPO的開(kāi)發(fā)者大會(huì)上，OPPO正式推出了自主訓(xùn)練的大模型AndesGPT。據(jù)介紹， AndesGPT有三大類規(guī)格：AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan，可涵蓋十億至千億以上多種不同參數(shù)規(guī)模的模型規(guī)格，根據(jù)不同場(chǎng)景智能調(diào)度。
其中最值得注意的是AndesGPT對(duì)To C領(lǐng)域的支撐。OPPO多年來(lái)的「用戶導(dǎo)向」決定了大模型業(yè)務(wù)會(huì)向著產(chǎn)品體驗(yàn)傾斜。而這恰恰是“百模大戰(zhàn)”中所缺少的：讓用戶感知到技術(shù)突破的真實(shí)價(jià)值與對(duì)體驗(yàn)優(yōu)先的堅(jiān)持。
近年來(lái)OPPO在中國(guó)市場(chǎng)成績(jī)斐然，僅2023年上半年出貨量就達(dá)到了2400萬(wàn)臺(tái)，成為國(guó)內(nèi)手機(jī)市場(chǎng)第一名，另外，ColorOS存量用戶群體也愈加龐大，目前已經(jīng)達(dá)到了6億。龐大的用戶基數(shù)早已讓AndesGPT沒(méi)有落地場(chǎng)景之憂，有充足的時(shí)間和精力去提高技術(shù)力、解構(gòu)用戶需求。
但想要在高頻用機(jī)場(chǎng)景中將AndesGPT滲入到用戶的日常生活，這并不是一件容易事。OPPO內(nèi)部通過(guò)不斷地推演與論證，最終選擇將“對(duì)話增強(qiáng)”、“個(gè)性專屬”，以及“端云協(xié)同”作為突破點(diǎn)，來(lái)作為AndesGPT的差異化特征，成為ColorOS底層架構(gòu)的一部分。
通過(guò)以上三點(diǎn)再結(jié)合AndesGPT所提供的能力，我們可以更好理解OPPO大模型的差異化打法：
在AndesGPT的定義中，“對(duì)話”是GPT記憶能力、邏輯推理能力、模糊意圖理解能力、生成能力等等的一個(gè)集合，作為大模型與用戶溝通的橋梁，“對(duì)話”的重要性不言而喻。面對(duì)這座大山，堅(jiān)持長(zhǎng)期主義的OPPO做出了與“愚公”相同的選擇。
在2020年，OPPO 就已啟動(dòng)預(yù)訓(xùn)練語(yǔ)言模型的探索與實(shí)踐，自研了一億、三億和十億參數(shù)量的大模型 OBERT，通過(guò)不斷地技術(shù)積累，OBERT 曾一度躍居中文語(yǔ)言理解測(cè)評(píng)基準(zhǔn)CLUE1.1 總榜第一梯隊(duì)，還獲得了大規(guī)模知識(shí)圖譜問(wèn)答 KgCLUE1.0 排行榜第一的成績(jī)。
在沉淀了OBERT的技術(shù)經(jīng)驗(yàn)之后，AndesGPT融合海量中文對(duì)話數(shù)據(jù)、精品知識(shí)圖譜，以及高質(zhì)量 QA 問(wèn)答數(shù)據(jù)，結(jié)合對(duì)預(yù)訓(xùn)練、指令微調(diào)、人類反饋強(qiáng)化學(xué)習(xí)等技術(shù)的定制優(yōu)化，顯著提升了模型知識(shí)與百科能力的覆蓋面和準(zhǔn)確性。
此外，為保證連貫持續(xù)對(duì)話中的優(yōu)質(zhì)體驗(yàn)，OPPO還提出了一些技術(shù)上的變革思路：
首先，OPPO為AndesGPT引入了長(zhǎng)時(shí)記憶機(jī)制，支持無(wú)限長(zhǎng)度的上下文記憶，其中包括用戶交互過(guò)程中產(chǎn)生的交互歷史、個(gè)人數(shù)據(jù)，以及從中提取的結(jié)構(gòu)化信息等。這意味著AndesGPT能夠憑借記憶，成為一個(gè)只屬于用戶自己的超級(jí)助理。
而想要保證長(zhǎng)時(shí)記憶流暢的使用體驗(yàn)，AndesGPT要擁有足夠的吞吐速度和檢索能力。針對(duì)這一技術(shù)難題，OPPO選擇了獨(dú)創(chuàng)新技術(shù)：SwappedAttention 來(lái)攻克推理時(shí)長(zhǎng)的難題。SwappedAttention 通過(guò)外部存儲(chǔ)和KV壓縮的方式，能夠?qū)崿F(xiàn)會(huì)話級(jí)KV緩存，在多輪長(zhǎng)上下文對(duì)話中能有效降低每個(gè)query的首字推理時(shí)長(zhǎng)，結(jié)合原有 PagedAttention 算法，能夠帶來(lái)50%的首字延遲降低和30%的推理吞吐提升。
技術(shù)上的支撐保證了AndesGPT「千人千面」的個(gè)性化使用體驗(yàn)。在沒(méi)有引入大模型前，用戶的語(yǔ)音交互只能得到一個(gè)成型的固定答案；而在引入大模型后，帶有專屬記憶數(shù)據(jù)的語(yǔ)音交互可以依托廣泛的知識(shí)體系，實(shí)現(xiàn)更具價(jià)值的互動(dòng)。
今年9月，AndesGPT參與了 SuperCLUE 的能力測(cè)評(píng)，在知識(shí)與百科方面獲得了 98.33 的高分，位列 SuperCLUE 知識(shí)與百科能力排行榜中的全球第二、國(guó)內(nèi)第一，尤其是通用問(wèn)答與對(duì)話能力，極為出色。
AndesGPT的肌肉已經(jīng)足夠健碩，但OPPO對(duì)其的期望卻不止于此。
去年，智慧跨端系統(tǒng)潘塔納爾隨著技術(shù)的升級(jí)應(yīng)運(yùn)而生，打破了不同設(shè)備、系統(tǒng)、服務(wù)之間的壁壘，如今新的行業(yè)新的大勢(shì)出現(xiàn)，「體驗(yàn)為先」的OPPO決定用AndesGPT，與潘塔納爾系統(tǒng)深度協(xié)同，賦能ColorOS整體生態(tài)。
大模型怎么在端云之間協(xié)作，給用戶提供最佳的體驗(yàn)，一直是OPPO非常看重的命題。端側(cè)有著更低時(shí)延、更低功耗、更好的用戶隱私安全保障，但在弱網(wǎng)、無(wú)網(wǎng)、復(fù)雜計(jì)算等場(chǎng)景下仍舊存在局限性。以內(nèi)容創(chuàng)作為例，簡(jiǎn)單的短文本內(nèi)容創(chuàng)作在端側(cè)就能提供支持，而在復(fù)雜的長(zhǎng)文本內(nèi)容創(chuàng)作中，純粹的端側(cè)可能會(huì)無(wú)法生成令人滿意的結(jié)果，所以O(shè)PPO認(rèn)為結(jié)合端側(cè)與云側(cè)的優(yōu)勢(shì)才是手機(jī)行業(yè)大模型的必然演進(jìn)方向。
作為OPPO端與云之間連接的紐帶，AndesGPT更像是一個(gè)啟動(dòng)按鈕，聯(lián)動(dòng)上下游激活了OPPO所有的布局，通過(guò)協(xié)同、互補(bǔ)、協(xié)作三方面，讓AndesGPT徹底成為OPPO底層架構(gòu)的一部分。
在大模型發(fā)展的第一階段，“快魚吃慢魚”是業(yè)內(nèi)的共識(shí)；而如今到了第二步，誰(shuí)能將能力落到實(shí)處，誰(shuí)才掌握了主動(dòng)權(quán)。
OPPO早在今年3月份就把大模型作為內(nèi)部重要的戰(zhàn)略級(jí)投入賽道，將“一切以用戶需求為中心”的思想貫徹整個(gè)大模型研發(fā)周期。多年的“長(zhǎng)期主義”使得OPPO在面對(duì)新領(lǐng)域、新技術(shù)時(shí)，仍能保持冷靜的心態(tài)洞察用戶需求，堅(jiān)持技術(shù)積累，靜靜等待爆發(fā)的關(guān)鍵節(jié)點(diǎn)。也讓安第斯大模型，不止大模型。
（雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))）
生態(tài)是大模型最重要的一環(huán)。
今年11月初，OpenAI舉辦了歷史上首屆開(kāi)發(fā)者大會(huì)，并在大會(huì)上宣布了一個(gè)令所有AI開(kāi)發(fā)者都無(wú)比激動(dòng)的新項(xiàng)目：GPTs。
GPTs最大的意義在于，無(wú)需任何編碼知識(shí)，僅通過(guò)互動(dòng)的形式，使用者就能擁有一個(gè)專屬的GPT。另外，使用者也可以將其上架到GPT Store中，提供給其他用戶使用。
GPTs引起行業(yè)轟動(dòng)，無(wú)非就是做到了兩件事：第一是無(wú)門檻化，任何人都能生成更符合自己的GPT；第二個(gè)就是生態(tài)的雛形，當(dāng)有足夠多的GPTs豐富應(yīng)用商店時(shí)，量變引發(fā)質(zhì)變，ChatGPT會(huì)擁有屬于自己的生態(tài)，甚至屬于大模型的操作系統(tǒng)。
有這種想法的不止OpenAI，在遙遠(yuǎn)的大洋彼岸，OPPO也有著同樣的思考。
在OPPO開(kāi)發(fā)者大會(huì)當(dāng)天，OPPO宣布了一個(gè)新的計(jì)劃：開(kāi)源智能體框架。B端和C端的用戶可以通過(guò)低代碼，甚至零代碼去構(gòu)建自己的AI應(yīng)用，讓所有人都能參與到OPPO大模型應(yīng)用生態(tài)的共創(chuàng)與建設(shè)中來(lái)。
在對(duì)智能體框架開(kāi)源的思考中，OPPO保持了「體驗(yàn)為先」的核心策略，使AndesGPT能一直前行在正確的道路上。
OPPO的策略側(cè)重于豐富它的工具屬性，智能體框架將提供能夠完全適配和充分挖掘AndesGPT能力的prompt。這樣，不懂代碼的普通用戶，也能輕松定義和分享AI原生應(yīng)用，一起構(gòu)建更完善的大模型生態(tài)。
在開(kāi)發(fā)者大會(huì)上，OPPO也宣布搭載安第斯大模型能力的全新小布跟隨ColorOS14正式發(fā)布，除了大模型必備的超級(jí)問(wèn)答、內(nèi)容創(chuàng)作和圖片創(chuàng)作等能力，全新小布還化為用機(jī)助手和日程助理，此外，智能體也在全新小布上浮出水面，體驗(yàn)令人期待。
在“投資未來(lái)”的長(zhǎng)期主義驅(qū)動(dòng)下，完善的生態(tài)是一切是OPPO大模型的關(guān)鍵，大模型構(gòu)建了生態(tài)，但大模型也僅僅是生態(tài)的一部分。AndesGPT多年的技術(shù)積累正逐漸成為OPPO底層架構(gòu)的一環(huán)，模型能力不斷進(jìn)化，為ColorOS提供堅(jiān)實(shí)的智能化技術(shù)底座。
安第斯山脈是陸地上最長(zhǎng)的山脈，位于南美洲的西岸，在狹長(zhǎng)的山脈兩側(cè)，一側(cè)氣候干旱，一側(cè)茂盛，天然的屏障構(gòu)成了無(wú)法逾越的生態(tài)壁壘。
大模型生態(tài)的構(gòu)建不是一件容易的事，這需要長(zhǎng)久的耐心和“不爭(zhēng)先”的核心決策。回顧過(guò)去，區(qū)塊鏈、元宇宙、AR等技術(shù)的發(fā)展離不開(kāi)“噱頭”二字，“快魚”吃掉了“慢魚”，卻也讓快魚消失在時(shí)代的浪潮之中。
“對(duì)的路不怕遠(yuǎn)”是OPPO發(fā)展的精神內(nèi)核。回顧手機(jī)發(fā)展歷史的多個(gè)節(jié)點(diǎn)，無(wú)論是OPPO所堅(jiān)持的超級(jí)閃充與電池健康，還是依托潘塔納爾系統(tǒng)所帶來(lái)的萬(wàn)物互融，OPPO都選擇了“難而正確”的決定。同時(shí)也正是這種極致的細(xì)節(jié)打磨，讓OPPO在混亂的“百模大戰(zhàn)”中保持了難得的清醒。
在OPPO大模型立項(xiàng)之初，行業(yè)內(nèi)就已經(jīng)存在非常多的開(kāi)源與閉源大模型，當(dāng)時(shí)擺在OPPO面前有兩條路線：與其他企業(yè)進(jìn)行合作還是從零開(kāi)始研發(fā)？
OPPO選了一條最難也是最遠(yuǎn)的路。
經(jīng)過(guò)內(nèi)部反復(fù)的推演與論證，OPPO發(fā)現(xiàn)使用現(xiàn)有的大模型產(chǎn)品并不會(huì)對(duì)產(chǎn)品提供更好的體驗(yàn)。以信息獲取為例，用戶最核心的訴求是獲得專業(yè)、可信、安全的內(nèi)容，而目前多數(shù)大模型都存在“幻覺(jué)”的問(wèn)題，這也使得用戶難以判斷什么時(shí)候可以采信大模型的結(jié)果。
相反，OPPO小布助手在2021年月活量就已經(jīng)過(guò)億，有著大量真實(shí)的用戶互動(dòng)場(chǎng)景和高質(zhì)量語(yǔ)料數(shù)據(jù)積累。在愈演愈烈的行業(yè)風(fēng)口面前，求真、務(wù)實(shí)的OPPO在明確方向和需求之后，開(kāi)始全面加大研發(fā)投入，確定構(gòu)建“最核心的底層技術(shù)”以及“軟件工程和系統(tǒng)能力”，并積極與頭部芯片廠商進(jìn)行深度合作，率先在行業(yè)采用 4 位量化技術(shù)，實(shí)現(xiàn)精度不掉點(diǎn)效果下更優(yōu)的端側(cè)化性能，同時(shí)這也是目前業(yè)內(nèi)效果較為領(lǐng)先的端側(cè)大模型部署方案。
身為一家將“長(zhǎng)期主義”刻在骨子里的企業(yè)，OPPO的每一步都走在「用戶體驗(yàn)為先」的道路上，也正是這種將產(chǎn)品體驗(yàn)做到極致的追求，讓OPPO一步一步地成為行業(yè)中的領(lǐng)頭羊。
隨著安第斯大模型成為ColorOS的“關(guān)鍵按鈕”，OPPO終于要迎來(lái)未來(lái)的“新十年”。
（雷峰網(wǎng)）
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
