0
本文作者: 曉楠 | 2023-12-28 17:50 |
12月28日,由信通院主辦的“虹橋之源”大模型驅(qū)動數(shù)字經(jīng)濟(jì)新生態(tài)峰會在上海召開。會上,螞蟻集團(tuán)商業(yè)機器智能部總經(jīng)理顧進(jìn)杰介紹螞蟻正式開源國內(nèi)首個醫(yī)療??仆评頂?shù)據(jù)集,這將有助于提升大模型在醫(yī)療領(lǐng)域的專業(yè)性。 螞蟻集團(tuán)商業(yè)機器智能部總經(jīng)理顧進(jìn)杰介紹國內(nèi)首個醫(yī)療??仆评頂?shù)據(jù)集
在醫(yī)療行業(yè),通用型語言模型在應(yīng)對醫(yī)療問診時,會直接給出答案,而醫(yī)生則會根據(jù)專業(yè)知識進(jìn)行反復(fù)的癥狀探討,才能給出答案。另外,大模型的幻覺問題和推理能力不足,當(dāng)前高質(zhì)量的中文醫(yī)學(xué)??茢?shù)據(jù)集又較為稀缺,這對訓(xùn)練出色的醫(yī)療領(lǐng)域大模型提出了挑戰(zhàn)。
為克服這些難題,螞蟻集團(tuán)與上海仁濟(jì)醫(yī)院泌尿科專家團(tuán)隊聯(lián)合研發(fā),基于醫(yī)生團(tuán)隊臨床經(jīng)驗,通過構(gòu)造模擬病例數(shù)據(jù)的方式,推出了首個中文醫(yī)療??茊柎鹜评頂?shù)據(jù)集RJUA-QA,這也是業(yè)內(nèi)首個臨床??茢?shù)據(jù)集。
數(shù)據(jù)集由訓(xùn)練、驗證、測試三部分組成,包含2132個問答對,每個問答對由醫(yī)生根據(jù)臨床經(jīng)驗編寫的問題、專家提供的回答以及用于幫助推理的上下文構(gòu)成,病種覆蓋了97.6%以上的泌尿科就醫(yī)人群,能真實復(fù)刻診療場景。數(shù)據(jù)集能提高大模型在醫(yī)療診斷推理方面的能力,并作為在嚴(yán)肅可控場景下應(yīng)用的評測基準(zhǔn)。
顧進(jìn)杰進(jìn)一步介紹了螞蟻百靈大模型在醫(yī)療領(lǐng)域的技術(shù)進(jìn)展?!皩I(yè)性、可控性、輕量化是大模型技術(shù)在醫(yī)療行業(yè)落地的三個重要挑戰(zhàn)和機會?!鳖欉M(jìn)杰說道。
專業(yè)性上,由于醫(yī)療行業(yè)有超百個科室,每個專科和疾病,都需要專業(yè)的調(diào)試。螞蟻集團(tuán)聯(lián)合醫(yī)療專家共同研發(fā)了多模態(tài)醫(yī)療知識引擎,進(jìn)一步推動中國專業(yè)醫(yī)療數(shù)據(jù)集的構(gòu)建與開放。
在可控性方面,百靈大模型結(jié)合知識圖譜技術(shù),讓大模型的每一個回答都有據(jù)可依?!吧蓛?nèi)容可以滿足不同醫(yī)院、不同科目的定制需求,包括風(fēng)格與調(diào)性等”,顧進(jìn)杰說。螞蟻集團(tuán)在超大規(guī)模圖學(xué)習(xí)和知識圖譜技術(shù)長期積累,今年聯(lián)合OpenKG發(fā)布的OpenSPG開源項目,重新定義了工業(yè)界的知識圖譜語義架構(gòu),知識檢索增強技術(shù)也是大幅提升大模型正確性與可控性的重要課題。
醫(yī)療行業(yè)有數(shù)據(jù)隱私、專業(yè)知識和系統(tǒng)自主性的需求,考慮到機構(gòu)的算力成本與便捷部署,百靈大模型還攻堅了輕量化技術(shù)。在12月份開源的模型輕量化框架(PIA)中,集成了模型剪枝、壓縮、量化、推理加速等全鏈路環(huán)節(jié)的優(yōu)化,具備開箱即用、功能無損、低代碼接入等優(yōu)點,可在天級別完成10倍以上壓縮比。
據(jù)雷峰網(wǎng)(公眾號:雷峰網(wǎng))了解,目前,螞蟻百靈大模型在中英文的醫(yī)療考試以及基準(zhǔn)測試達(dá)到或超過了GPT4水準(zhǔn),例如,在中文醫(yī)療LLM評測榜單promptCBLUE上,取得A榜第一,B榜第二的成績;在國際醫(yī)療問答榜單PubMedQA中,以80.6%的準(zhǔn)確率取得了前五的成績,而且是前十中參數(shù)量最小的模型,更適合被機構(gòu)部署和使用。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。