ChatGPT的橫空出世讓人震撼，AI對(duì)話機(jī)器人已經(jīng)可以回答各式各樣的問(wèn)題、寫(xiě)論文、總結(jié)冗長(zhǎng)的文件，甚至編寫(xiě)軟件和加速藥物研發(fā)。

以ChatGPT為代表的生成式AI的發(fā)展已經(jīng)步入了高速公路，但隨之也引發(fā)了對(duì)生成式AI可能帶來(lái)的道德以及安全問(wèn)題的擔(dān)憂。

對(duì)于AI發(fā)展的擔(dān)憂不無(wú)道理，但也并非無(wú)計(jì)可施。就像在高速公路邊上修建護(hù)欄明確道路的寬度并防止車(chē)輛駛?cè)氩恍枰膮^(qū)域一樣，也可以給生成式AI也可以加上護(hù)欄，以保證其在正軌上運(yùn)行，避免潛在的道德以及安全問(wèn)題。

英偉達(dá)本周推出了一個(gè)幫助企業(yè)確保建立在大型語(yǔ)言模型（LLM）上的應(yīng)用符合其功能安全和信息安全要求的軟件NeMo Guardrails，這一開(kāi)源軟件有助于將AI保持在正軌。

作為AI領(lǐng)域的領(lǐng)導(dǎo)者，英偉達(dá)這一舉措對(duì)于推動(dòng)AI朝正確可控的方向發(fā)展發(fā)揮了引導(dǎo)作用。當(dāng)然，為生成式AI構(gòu)建有效的護(hù)欄是一項(xiàng)難題，需要更多開(kāi)發(fā)者的共同努力，才有可能保證AI的創(chuàng)新保持在正軌。

用戶(hù)與 NeMo Guardrails 交互的流程

NeMo Guardrails是一個(gè)適用于所有大語(yǔ)言模型的軟件，開(kāi)發(fā)者能夠構(gòu)建三個(gè)護(hù)欄，這里的護(hù)欄指的是一組位于用戶(hù)和大型語(yǔ)言模型之間的可編程約束或規(guī)則，具體包括：

• 主題護(hù)欄，可以防止應(yīng)用偏離進(jìn)非目標(biāo)領(lǐng)域，例如防止客服助理回答關(guān)于天氣的問(wèn)題。

• 功能安全護(hù)欄，確保應(yīng)用能夠以準(zhǔn)確、恰當(dāng)?shù)男畔⒆鞒龌貜?fù)。它們能過(guò)濾掉不希望使用的語(yǔ)言，并強(qiáng)制要求模型只引用可靠的來(lái)源。

• 信息安全護(hù)欄，能夠限制應(yīng)用只與已確認(rèn)安全的外部第三方應(yīng)用建立連接。

值得關(guān)注的是，NeMo Guardrails 完全可編程，隨著時(shí)間的推移，應(yīng)用護(hù)欄和護(hù)欄觸發(fā)的一組操作很容易定制和改進(jìn)。這也就意味著，針對(duì)不同的應(yīng)用，不同地區(qū)、國(guó)家的法規(guī)，都可以定制所需的護(hù)欄。

并且，對(duì)于軟件開(kāi)發(fā)人員來(lái)說(shuō)，NeMo Guardrails是一個(gè)易于使用的工具，不需要成為機(jī)器學(xué)習(xí)專(zhuān)家或數(shù)據(jù)科學(xué)家，幾行代碼就可以快速創(chuàng)建新的規(guī)則。

英偉達(dá)工程師展示了NeMo Guardrails的使用方法，簡(jiǎn)單幾行代碼，就可以讓AI對(duì)話機(jī)器人在回答問(wèn)題時(shí)在護(hù)欄之內(nèi)。

這個(gè)易用性還體現(xiàn)在是與軟件工程師熟悉的工具集成。

因?yàn)镹eMo Guardrails開(kāi)源，NeMo框架的大部分內(nèi)容已在GitHub上作為開(kāi)放源碼提供，所以它可以與企業(yè)應(yīng)用開(kāi)發(fā)人員使用的所有工具搭配使用。

比如，NeMo Guardrails可以在開(kāi)源工具包LangChain上運(yùn)行，越來(lái)越多的開(kāi)發(fā)者用LangChain將第三方應(yīng)用嵌入到LLM中。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))了解到，LangChain在短短幾個(gè)月內(nèi)就在GitHub上收集了約3萬(wàn)顆星。

NeMo Guardrails同樣是專(zhuān)為適用于廣泛的基于LLM的應(yīng)用而設(shè)計(jì)，例如Zapier。

Zapier是一個(gè)被超過(guò)200萬(wàn)家企業(yè)使用的自動(dòng)化平臺(tái)，它見(jiàn)證了用戶(hù)如何將AI集成到他們的工作中。

當(dāng)然，作為英偉達(dá)推出的一個(gè)軟件，英偉達(dá)也正將NeMo Guardrails整合到NVIDIA NeMo框架中，這一框架包含用戶(hù)使用公司的專(zhuān)有數(shù)據(jù)來(lái)訓(xùn)練和調(diào)整語(yǔ)言模型所需的一切。

NeMo還可作為一項(xiàng)服務(wù)使用。作為NVIDIA AI Foundations的一部分，這套云服務(wù)面向希望基于自己的數(shù)據(jù)集和領(lǐng)域知識(shí)創(chuàng)建、運(yùn)行自定義生成式AI模型的企業(yè)。

目前，已經(jīng)有企業(yè)使用NeMo提供服務(wù)，比如韓國(guó)一家移動(dòng)運(yùn)營(yíng)商構(gòu)建了一個(gè)智能助手，這一已經(jīng)與客戶(hù)進(jìn)行了800萬(wàn)次對(duì)話；瑞典的一個(gè)研究團(tuán)隊(duì)使用NeMo創(chuàng)建了LLM，為本國(guó)醫(yī)院、政府和商業(yè)機(jī)構(gòu)自動(dòng)生成文本。

科技的進(jìn)步總會(huì)帶來(lái)技術(shù)之外的許多問(wèn)題，面對(duì)潛在的風(fēng)險(xiǎn)，更恰當(dāng)?shù)姆椒ㄊ墙鉀Q問(wèn)題而非逃避。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。