「雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))消息」9月26日，RockAI“真端側(cè)·智無(wú)界”開(kāi)放日活動(dòng)在上海舉行，正式推出了全新升級(jí)的Yan1.3大模型，并展示了其在無(wú)人機(jī)、機(jī)器人、PC、手機(jī)等各類終端設(shè)備上的超強(qiáng)模力。

相較于1月份首發(fā)的Yan1.0，Yan1.3具備了強(qiáng)大的多模態(tài)能力，可高效處理圖文及語(yǔ)音等多模態(tài)信息，并實(shí)現(xiàn)了模型在更廣泛設(shè)備端上的離線無(wú)損部署，普通電腦CPU上也能夠流暢運(yùn)行。

CEO劉凡平表示：“在AGI這個(gè)終極命題下，無(wú)論是云端還是端側(cè)，都只是實(shí)現(xiàn)智能普惠及躍遷的一個(gè)載體。RockAI始終堅(jiān)信，只有真正提升每一臺(tái)設(shè)備的自我學(xué)習(xí)能力，才能激發(fā)更高級(jí)別智能形態(tài)即群體智能的涌現(xiàn)?！?/p>

端側(cè)智能“全家桶”：多模加成，各顯神通

活動(dòng)現(xiàn)場(chǎng)，RockAI團(tuán)隊(duì)展示了一款部署了Yan1.3大模型的“飛龍”無(wú)人機(jī)。區(qū)別于大多數(shù)云、邊、端協(xié)同控制的無(wú)人機(jī)，飛龍的智能大腦Yan1.3直接部署于設(shè)備端，對(duì)突發(fā)狀況能做出即時(shí)判斷和處理，無(wú)需先傳回云端判定再回到設(shè)備端執(zhí)行，大大提升無(wú)人機(jī)在復(fù)雜環(huán)境中的適應(yīng)性和自主性，實(shí)現(xiàn)高度的自動(dòng)化水平和快速反應(yīng)能力。如與某廠商合作的無(wú)人機(jī)項(xiàng)目，便能解決設(shè)備將高清畫(huà)面?zhèn)骰卦贫?，所產(chǎn)生的5G-A流量成本高的痛點(diǎn)。

在實(shí)際應(yīng)用方面，部署了Yan1.3的飛龍無(wú)人機(jī)，可全面感知復(fù)雜環(huán)境并在設(shè)備端實(shí)時(shí)處理，支持各類環(huán)境下的智能巡檢，不僅高效適配電力巡檢、安全監(jiān)控、環(huán)境監(jiān)測(cè)等城市治理及工業(yè)場(chǎng)景；更可面向個(gè)人用戶，廣泛運(yùn)用于AI拍攝、外出旅游、山地越野等日常生活情景，貼心勘探環(huán)境、規(guī)劃行程的同時(shí)，還能夠解放雙手，自動(dòng)捕捉最佳角度并挑選出最佳照片。

此外，研發(fā)團(tuán)隊(duì)還演示了Yan1.3在更多端側(cè)設(shè)備的廣泛應(yīng)用，比如此前驚艷亮相世界人工智能大會(huì)的 “胖虎”智能機(jī)器人，能夠基于Yan1.3的多模態(tài)處理能力，在離線狀態(tài)下識(shí)別復(fù)雜環(huán)境、準(zhǔn)確理解用戶意圖，并據(jù)此控制其機(jī)械軀體高效完成各類復(fù)雜任務(wù)，如展現(xiàn)“七步成詩(shī)”“詠春拳法”等。

又比如內(nèi)嵌在PC端的迅兔智能助手，可以在離線模式下聽(tīng)懂“人話”、看懂圖片并快速搜圖，精準(zhǔn)完成“幫我錄音并整理會(huì)議記錄”、“把所有橘貓圖片都刪掉”等模糊指令，保護(hù)用戶隱私安全的同時(shí)，真正讓每個(gè)人享受到AI帶來(lái)的便利。

RockAI認(rèn)為，真正的智能是不應(yīng)受限的，因此，他們始終堅(jiān)定地走在非Transformer架構(gòu)、無(wú)損部署這條少有人走的路上。如今，未經(jīng)壓縮、裁剪的Yan1.3大模型在越來(lái)越多設(shè)備端展現(xiàn)出的絲滑適配和超強(qiáng)模力，正向行業(yè)證實(shí)RockAI技術(shù)路線的合理性，及其最終激發(fā)群體智能的充分可能。

多元化適配：打通商業(yè)化路徑

在RockAI的規(guī)劃中，群體智能的實(shí)現(xiàn)包括四個(gè)階段：創(chuàng)新型基礎(chǔ)架構(gòu)、多元化硬件生態(tài)、自適應(yīng)智能進(jìn)化、協(xié)同化群體智能。如果說(shuō)自主架構(gòu)的Yan模型是走向群體智能的開(kāi)端，那么此次發(fā)布的Yan1.3群體智能單元大模型，顯然已經(jīng)快速實(shí)現(xiàn)了在多元化硬件設(shè)備上的適配。其在端側(cè)的無(wú)損推理基于兩大核心技術(shù)創(chuàng)新，一是以底層神經(jīng)網(wǎng)絡(luò)架構(gòu)MCSD替代Transformer的Attention機(jī)制，二是基于仿生神經(jīng)元驅(qū)動(dòng)的選擇算法實(shí)現(xiàn)類腦分區(qū)激活，大大減少計(jì)算復(fù)雜度及算力消耗。

眾所周知，Attention機(jī)制是Transformer架構(gòu)的核心，其加權(quán)算法決定了計(jì)算量會(huì)隨著序列長(zhǎng)度的增加呈O(n^2 )增長(zhǎng)，對(duì)計(jì)算的算力要求也會(huì)越來(lái)越高。而RockAI通過(guò)MCSD機(jī)制替換掉Attention，只把最有效的信息、特征往后傳，以線性的方式降低計(jì)算的復(fù)雜度，提升訓(xùn)練和推理效率。

同時(shí)，RockAI借鑒了大腦分區(qū)激活的原理，由選擇神經(jīng)網(wǎng)絡(luò)自己決定處理某個(gè)任務(wù)時(shí)參與運(yùn)算的神經(jīng)元，初始具有隨機(jī)性，但通過(guò)大量數(shù)據(jù)學(xué)習(xí)、訓(xùn)練后會(huì)變得有跡可循。就像人類一樣，隨著一件事情做的越多，被激活的那部分神經(jīng)元就會(huì)越確定，反應(yīng)也就越快?；谠撍惴▽?shí)現(xiàn)的模型分區(qū)激活，不僅節(jié)省了算力成本，還可以通過(guò)共享神經(jīng)元實(shí)現(xiàn)多模態(tài)的對(duì)齊。

經(jīng)過(guò)對(duì)不同硬件的研究和大量調(diào)試，目前RockAI已經(jīng)適配了英偉達(dá)、高通、聯(lián)發(fā)科、英特爾、瑞芯微等平臺(tái)，商業(yè)化進(jìn)程也在不斷加速。隨著自主學(xué)習(xí)機(jī)制進(jìn)入實(shí)驗(yàn)室測(cè)試階段，RockAI也與芯片廠商及終端廠商達(dá)成初步合作意向，突破硬件限制，打造越來(lái)越多基于Yan架構(gòu)的智能單元，讓世界上每一臺(tái)設(shè)備擁有自己的智能。

未來(lái)，期待這些擁有不同能力、不同個(gè)性的智能單元得以協(xié)同，涌現(xiàn)更為宏大、多元的群體智能，最終實(shí)現(xiàn)個(gè)性化與群體智能的共融共生，開(kāi)啟人與機(jī)器的智能新時(shí)代。

雷峰網(wǎng)特約稿件，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。