“創(chuàng)新落地，生態(tài)共贏”，瀾舟科技提出大模型落地應(yīng)用“九字訣”

本文作者：曉楠

2024-03-19 10:06

導(dǎo)語(yǔ)：專(zhuān)注、極致、口碑、快、成本！

歷經(jīng)持續(xù)一年多的百模大戰(zhàn)后，市場(chǎng)競(jìng)爭(zhēng)逐漸深化，如何更快、更好地推進(jìn)大模型的落地應(yīng)用，開(kāi)始成為各大大模型公司思考的焦點(diǎn)所在。

3月18日，瀾舟科技在中關(guān)村國(guó)家自主創(chuàng)新示范區(qū)展示中心隆重舉行了“創(chuàng)新落地，生態(tài)共贏”大模型技術(shù)和產(chǎn)品發(fā)布會(huì)。

會(huì)上，瀾舟科技展示了瀾舟科技的大模型的最新進(jìn)展和大模型技術(shù)的實(shí)際應(yīng)用落地、生態(tài)構(gòu)建的成果，更體現(xiàn)了其對(duì)未來(lái)發(fā)展的深度思考和戰(zhàn)略布局。

現(xiàn)場(chǎng)，創(chuàng)新工場(chǎng)董事長(zhǎng)、零一萬(wàn)物CEO李開(kāi)復(fù)博士分享了對(duì)于AI 2.0 平臺(tái)變革進(jìn)行式的見(jiàn)解。

“創(chuàng)新落地，生態(tài)共贏”，瀾舟科技提出大模型落地應(yīng)用“九字訣” 創(chuàng)新工場(chǎng)董事長(zhǎng)、零一萬(wàn)物CEO李開(kāi)復(fù)博士正在演講

他認(rèn)為， AI 2.0 模型能力突飛猛進(jìn)，通識(shí)理解已經(jīng)超越人類(lèi)專(zhuān)家。AI 2.0 通過(guò)圖靈測(cè)試并趨于成熟，揭示下一個(gè)平臺(tái)級(jí)變革。新一代創(chuàng)新應(yīng)用需要新的技術(shù)平臺(tái)，基于強(qiáng)大的底層技術(shù)搭建出高效的開(kāi)發(fā)工具, 從而節(jié)約開(kāi)發(fā)生態(tài)做創(chuàng)新產(chǎn)品的成本，促進(jìn)包括新產(chǎn)品、新業(yè)態(tài)、新的商業(yè)模式的全新應(yīng)用生態(tài)。

周明博士提出大模型落地九字法則

發(fā)布會(huì)上，瀾舟科技創(chuàng)始人&CEO周明博士回顧了瀾舟科技的發(fā)展歷程，他強(qiáng)調(diào)在數(shù)字化浪潮中，以大模型為代表的人工智能正在重塑人類(lèi)的未來(lái)。2024年將是大模型落地元年，如何利用大模型技術(shù)助力企業(yè)成長(zhǎng)已成為業(yè)界關(guān)注的焦點(diǎn)。

“創(chuàng)新落地，生態(tài)共贏”，瀾舟科技提出大模型落地應(yīng)用“九字訣” 瀾舟科技科技創(chuàng)始人&CEO周明博士在演講

去年年初，ChatGPT橫空出世，引爆了AI大模型創(chuàng)業(yè)熱潮。但與大多數(shù)初創(chuàng)企業(yè)不同的是，瀾舟科技成立于2021年6月，彼時(shí)大模型的浪潮還沒(méi)有來(lái)臨。

據(jù)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))了解，其實(shí)早在2020年年底，周明博士就隱約感知到大模型的未來(lái)發(fā)展趨勢(shì)，彼時(shí)他正在微軟就職，意識(shí)到這一點(diǎn)后，便離職創(chuàng)業(yè)，成立了瀾舟科技，致力于自主研發(fā)大模型技術(shù)和行業(yè)應(yīng)用。

2023年3月，瀾舟科技發(fā)布了孟子GPT V1（MChat），今年1月孟子大模型GPT V2（含孟子大模型-標(biāo)準(zhǔn)、孟子大模型-輕量、孟子大模型-金融、孟子大模型-編碼）正式對(duì)公眾開(kāi)放。

“創(chuàng)新落地，生態(tài)共贏”，瀾舟科技提出大模型落地應(yīng)用“九字訣”

當(dāng)前，關(guān)于大模型的發(fā)展，技術(shù)信仰和市場(chǎng)信仰派爭(zhēng)論不休，而周明博士強(qiáng)調(diào)，瀾舟科技注重技術(shù)和應(yīng)用雙輪驅(qū)動(dòng)，即在積極研究和掌握前沿技術(shù)的同時(shí)，公司也致力于確保這些技術(shù)的有效應(yīng)用。在每一個(gè)關(guān)鍵技術(shù)發(fā)展的時(shí)期，瀾舟科技都會(huì)攜手客戶及合作伙伴，如傳神、數(shù)說(shuō)故事、華為云、華夏基金、同花順、中金公司等，共同開(kāi)展深入合作。

通過(guò)深入應(yīng)用場(chǎng)景、精準(zhǔn)把握用戶需求，瀾舟科技不斷推動(dòng)技術(shù)和產(chǎn)品的迭代升級(jí)，力求在激烈的市場(chǎng)競(jìng)爭(zhēng)中保持領(lǐng)先地位。

周明博士表示，過(guò)去一年大模型得到了迅速發(fā)展，而2024年將是大模型落地元年，各界熱切期盼大模型能結(jié)合不同行業(yè)的場(chǎng)景應(yīng)用，實(shí)現(xiàn)規(guī)?；в谩Ｕぷ鲌?bào)告新鮮出爐，特別強(qiáng)調(diào)以人工智能+，驅(qū)動(dòng)各行各業(yè)的轉(zhuǎn)型升級(jí)。他認(rèn)為要把握好這個(gè)歷史契機(jī)，通過(guò)落地，創(chuàng)造價(jià)值，拉動(dòng)創(chuàng)新。

而要做好大模型落地，周明博士認(rèn)為互聯(lián)網(wǎng)的七字法則仍然適用：專(zhuān)注、極致、口碑和快，還要再加上成本，形成大模型落地九字法則。

周明博士強(qiáng)調(diào)，大模型ToB應(yīng)用要解決四個(gè)大問(wèn)題：訓(xùn)練和部署成本、行業(yè)適配性、幻象、數(shù)據(jù)安全，并解釋了瀾舟科技在這四個(gè)方面所作的努力。

“一橫N縱”孟子大模型系列及產(chǎn)品發(fā)布

此次發(fā)布會(huì)的核心為”一橫N縱"體系，其中的“一橫”即為孟子大模型技術(shù)，而“N縱”是基于孟子大模型的面向ToB應(yīng)用最重要的技術(shù)和產(chǎn)品。

瀾舟科技希望通過(guò)“一橫N縱”，徹底貫徹大模型落地九字法則：專(zhuān)注、極致、口碑、快、成本。

周明博士首先介紹了從預(yù)訓(xùn)練，到SFT，到強(qiáng)化學(xué)習(xí)，安全，降低幻覺(jué)的完備的孟子大模型訓(xùn)練體系。孟子大模型離不開(kāi)背后的高質(zhì)量的數(shù)據(jù)集—Mengzi-3數(shù)據(jù)集，總規(guī)模為3T tokens，包含了網(wǎng)頁(yè)、代碼、書(shū)籍、論文等高質(zhì)量數(shù)據(jù)來(lái)源。

最后，在Mengzi-3語(yǔ)料數(shù)據(jù)的加持下，瀾舟團(tuán)隊(duì)在近期完成了Mengzi3-13B的大模型訓(xùn)練，在常見(jiàn)公開(kāi)數(shù)據(jù)集，如MMLU，Chinese-MMLU，GSM8K，HUMAN-EVAL等評(píng)估模型效果來(lái)看，該模型在各項(xiàng)基準(zhǔn)測(cè)試中與相仿參數(shù)量大模型相比，中英文語(yǔ)言能力成績(jī)領(lǐng)先。

針對(duì)大模型訓(xùn)練和部署的成本高的問(wèn)題，瀾舟科技專(zhuān)注把ToB場(chǎng)景使用最多的LLM模型（參數(shù)量7B、13B、40B最高到100B）做到最佳并大幅度提升大模型的推理效率。

“創(chuàng)新落地，生態(tài)共贏”，瀾舟科技提出大模型落地應(yīng)用“九字訣”

3月30日Mengzi3-13B的模型將在GitHub、HuggingFace、魔搭和始智AI社區(qū)開(kāi)源。

針對(duì)大模型的行業(yè)落地適配問(wèn)題，周明博士再次重申了L1-L2-L3-L4的層次化分級(jí)服務(wù)體系，基于L1-通用大模型，在此基礎(chǔ)上加入行業(yè)數(shù)據(jù)訓(xùn)練出L2-行業(yè)/垂直大模型，如金融、編程大模型。針對(duì)重要場(chǎng)景，在L1或者L2模型基礎(chǔ)上finetune，實(shí)現(xiàn)L3大模型。最后Agents可以調(diào)用L1-L2-L3任何一層的模型形成完整的一個(gè)特定任務(wù)。

針對(duì)大模型的幻象問(wèn)題和用戶數(shù)據(jù)安全問(wèn)題，孟子大模型提出了改進(jìn)的RAG能力。通過(guò)孟子大模型理解用戶意圖，可分別經(jīng)過(guò)大模型自身，或者通過(guò)RAG查找用戶知識(shí)庫(kù)，甚至通過(guò)Web搜索，最后多路召回搜索結(jié)果，經(jīng)過(guò)排序輸出最可信結(jié)果。

在總結(jié)階段，周明博士強(qiáng)調(diào)大模型創(chuàng)業(yè)所需要的生態(tài)環(huán)境非常重要，瀾舟一方面聚焦自己擅長(zhǎng)的能力和場(chǎng)景，另外一方面會(huì)注重與開(kāi)源社區(qū)、與客戶和合作伙伴攜手共進(jìn)，共同拓展更廣闊的市場(chǎng)空間，實(shí)現(xiàn)互惠共贏的局面。

“創(chuàng)新落地，生態(tài)共贏”，瀾舟科技提出大模型落地應(yīng)用“九字訣”