0
| 本文作者： 郭思 | 2023-11-01 18:50 | 專題：全面突破 vivo NEX |
11月1日vivo開發(fā)者大會上，vivo發(fā)布自研AI"藍心"大模型，并發(fā)布大模型矩陣，包括1750億、1300億、700億、70億、10億五款不同參數(shù)規(guī)模的大模型，并宣布130億藍心大模型實現(xiàn)端側(cè)跑通，開源7B大模型。
其中1750億參數(shù)已達到GPT-3參數(shù)水平，同時vivo也是國內(nèi)首家開源7B大模型的手機廠商。
可以說vivo 這次開發(fā)者大會，給手機行業(yè)丟了一枚重磅炸彈。
早在2017年，vivo就成立了人工智能全球研究院。
而且vivo一直關注通用人工智能的進展，對于ChatGPT引發(fā)的大模型熱潮，vivo高級副總裁施玉堅的判斷是：真正好的自研大模型應該是大而全、算法強、真安全、自進化、廣開源五個特征兼具。
在此vivo開發(fā)者大會，vivo發(fā)布的藍心的大模型第一大亮點便是便是參數(shù)高達1750億，一舉達到了GPT-3的參數(shù)規(guī)模。
早在8月份小米的大模型MiLM-6B就已經(jīng)公布在了GitHub上，從GitHub上的信息可以得知，MiLM-6B的參數(shù)規(guī)模達64億。華為此前盤古3.0為客戶提供100億參數(shù)、380億參數(shù)、710參數(shù)和1000億參數(shù)的系列化基礎大模型。
相比起來，vivo發(fā)布的藍心大模型1750億的參數(shù)規(guī)模，在一眾手機廠商中一騎絕塵。
根據(jù)發(fā)布會資料現(xiàn)在，除了超大規(guī)模的1750億參數(shù)和1300億參數(shù)模型外， 700億參數(shù)模型的vivo云端主力模型， 70億藍心大模型7B則是是面向手機打造的端云兩用模型，在語言理解、文本創(chuàng)作等場景下表現(xiàn)非常優(yōu)秀。綜合表現(xiàn)行業(yè)領先，在各大中文榜單持續(xù)名列前茅。而10億藍心大模型1B則是面向端側(cè)場景打造的專業(yè)文本大模型，具備本地化的文本總結(jié)、摘要等能力，處理過程準確又安全。
值得一提的是，vivo此次也開源了70億藍心大模型7B，成為了首個開源自研大模型的手機廠商。
大模型浪潮之下，開源和閉源成為商業(yè)模式上的交鋒之戰(zhàn)。
自Llama 2后，開源逐漸成為主流趨勢，行業(yè)內(nèi)甚至有聲音表示未來開源大模型將殺死閉源。
vivo自研大模型的開源意味著，vivo正式加入了這場大模型開源之戰(zhàn)，赤裸裸的接受行業(yè)人士的檢驗和批判。而另一方面，施玉堅在開發(fā)者大會上也表示，vivo還推出了藍心大模型開發(fā)套件BlueKit，讓其他手機廠商和開發(fā)者可以基于這款模型進行二次開發(fā)和創(chuàng)新。
關于華米OV的競爭，從智能手機時代的各項功能的角逐，發(fā)展到如今大模型時代各家的布局。如何實現(xiàn)輕量化、本地化的端側(cè)部署是一個競爭關鍵。
某手機廠商內(nèi)部員工告訴AI科技評論，大模型在端側(cè)跑起來這個事兒和跑的好用起來是完全兩個概念，只要內(nèi)存夠大，別說13B、130B都能跑起來。
端側(cè)大模型本身就不容易，相比起在云端運行，走端側(cè)這條路徑意味著廠商需要在很小的算力空間，做出媲美超級大模型的效果。
大模型的特點是參數(shù)夠大，在運行時需要大量的內(nèi)存來存儲模型參數(shù)和臨時數(shù)據(jù)，而手機芯片通常具有有限的內(nèi)存資源。能跑起來可能只是意味著手機上裝有這個大模型，但是一旦使用，手機就會過熱、卡頓。離理想的使用體驗距離相差較遠。
將一個大模型部署在端側(cè)，行業(yè)采用的做法是GPU與NPU結(jié)合的方式。GPU自不用多說，負責端側(cè)的圖形渲染處理和并行計算。
NPU（Neural-network Processing Unit，神經(jīng)網(wǎng)絡處理器）則是一類基于DSA (Domain Specific Architecture) 領域?qū)Ｓ眉軜?gòu)技術(shù)的專用于人工智能（特別是人工神經(jīng)網(wǎng)絡、機器視覺、機器學習等）硬件加速的微處理器。
可以簡單理解成NPU是去掉圖形光柵這些的GPU。大模型參數(shù)太大，也就是說相比起在云端運行，大模型要想在端側(cè)運行就必須借用NPU這個助手。
這一點也可以從各家芯片廠商的動態(tài)看出端倪，在剛剛過去的高通驍龍發(fā)布會上，高通對驍龍8 Gen3的 Adreno GPU 和 Hexagon NPU 進行了大幅升級。
一位行業(yè)人士告訴AI科技評論，自從生成式A浪潮掀起之后，高通也在不停地考察，怎么樣改變現(xiàn)在大模型與英偉達 GPU 綁定的趨勢，高通自己做了一個NPU框架，但內(nèi)部客戶用起來，并不是很好用，好多算法在NPU的框架上都沒有跑起來。
而作為全球移動芯片無冕之王的架構(gòu)大廠Arm而言，對于NPU的部署也一直在進行，Arm很早之前就推出Arm智能視覺參考設計，集成了安謀科技開發(fā)的玲瓏VPU和周易NPU。
此次vivo開發(fā)者大會，vivo高級副總裁施玉堅表示，vivo藍心大模型在端側(cè)的運行可以直接跳過NPU，只需要在GPU上運行。這句話被一語帶過，到底是一句噱頭還是行業(yè)重大突破，我們暫時還不得而知。但是可以肯定的是，如果vivo真的能實現(xiàn)在端側(cè)部署大模型不需要用到NPU，那將會成為行業(yè)的重大突破。
不過從效果上來看，vivo10億參數(shù)藍心大模型1B確實驚艷。
在此次開發(fā)者大會上，vivo10億參數(shù)藍心大模型1B的運行效果可達到最快64字/秒（3840/分）的出詞速度。而資料顯示，根據(jù)輸入的關鍵詞或文章大綱，自動生成相應的文章段落或初稿，ChatGPT平均速度約為2000-3000字每分鐘。如果真如宣傳所說，那么vivo10大模型端側(cè)的運行效果能超過ChatGPT。
不過值得注意的是，雖然行業(yè)一直在談終端運行大模型，但是我們還是得區(qū)分瘦終端與標準終端的區(qū)別。
標準終端設備具備自己的硬盤、RAM、控制計算單元，通過安裝full-fledged OS可以跑計算和存儲程序，乃至于具備近場的AI算力，具有完整的運算能力。
而瘦終端則是指一個終端只具備最基礎的硬件設施和輕量級的light OS，其所有的功能都必須通過聯(lián)網(wǎng)/云端實現(xiàn)，終端本身通常只具備基礎的顯示或者初級的計算存儲功能。
簡而言之，就是市面很多廠商宣傳的終端運算其實模型存儲在云，計算也還是在云，終端只負責基礎的展示和實現(xiàn)。
這兩者概念的混淆也可能會成為大眾對于終端運行效果的誤解。（大模型在端側(cè)的部署和運行或許不止存在概念上的誤會，更有各種落地上的難點和困難，對于這個趨勢，歡迎添加本文作者：郭思 微信號lionceau2046，暢聊你的看法）
在此次vivo開發(fā)者大會上，vivo表示，藍心大模型在SuperCLUE-Sagety安全總榜上超過了訊飛星火與文心一言，以總分85.17的分數(shù)霸榜第一。榜單當然只是一個輔助標準，但是主打安全這一點確定是vivo與現(xiàn)在市面上其他手機大模型廠商的一個顯著競爭點。
在大模型布局上，小米注重“輕量化、本地部署”同時也發(fā)力了諸如機器人、智能家居等多種產(chǎn)品形態(tài)，而和vivo同出一脈的OPPP近期也有新動作，注重大模型在語音助手上帶來的巨大改變。
vivo的側(cè)重點則回到了手機廠商做大模型最本源的優(yōu)勢，數(shù)據(jù)與安全。
手機作為每個人日常生活的必備終端，存儲著非常多個性化和隱私化的數(shù)據(jù)，如果全部在云端運行，隱私泄露等事情比比皆是。
另一方面，在ChatGPT浪潮掀起之前，可信AI本來就是行業(yè)關注的重點，如果避免大模型的幻覺、偏見、毒性等問題也是各方在進行技術(shù)研發(fā)時所關注的重點。
在安全方面，除了模型的可信性得到了保證，vivo此次還推出了藍河操作系統(tǒng)，主打智慧、流暢、安全。值得一提是是藍河操作系統(tǒng)是行業(yè)首個系統(tǒng)框架由Rust語言編寫的操作系統(tǒng)，用Rust語音編寫也是保障安全的一個重中之重。
目前常見的操作系統(tǒng)內(nèi)核都是基于 C 語言，因為 C 語言簡單獨立十分好用，但也有它的缺點缺少有效的并發(fā)支持，導致內(nèi)存和并發(fā)漏洞成為當前操作系統(tǒng)的噩夢，也就是不夠安全。
而 Rust 語言具有與 C 一樣的硬件控制能力，且大大強化了安全編程。從某種角度上看，新出現(xiàn)的 Rust 語言的核心目標是解決 C 的短板，取代 C。所以用 Rust 寫 OS 具有很好的開發(fā)和運行的體驗。
藍河OS有幾個亮點，比如說：和AI大模型深度捆綁，能夠自動生成桌面，沒有虛擬機，直接內(nèi)核運行，還按PC的設計理念做OS。
可以說對于安全，vivo打出了一套組合拳，這也是為什么開發(fā)者大會上，vivo一直強調(diào)自研大模型必須真安全的原因。
環(huán)顧整個手機賽道， 目前競爭已經(jīng)進入存量博弈階段，手機廠商需要在新技術(shù)上建立競爭優(yōu)勢，也需要通過新的賣點角逐高端市場。
這次vivo開發(fā)者大會給人明顯感覺就是vivo在多條腿走路。
而從單一的手機布局到如今的多矩陣走路，這一點，與其說是vivo沖向AI時代的技術(shù)高歌，不如說，是vivo面向現(xiàn)今手機行業(yè)困境的一次反擊。
在這場反擊過程，vivo對于大模型的布局讓人眼前一亮，也讓人不得不期待后續(xù)vivo大模型故事的走向。（其它手機廠商在大模型領域又有哪些動態(tài)和故事，歡迎添加本文作者郭思，微信號：lionceau2046，互通有無。）
雷峰網(wǎng) 雷峰網(wǎng)(公眾號：雷峰網(wǎng)) 雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
專題
