ChatGPT的橫空出世讓人震撼，AI對話機(jī)器人已經(jīng)可以回答各式各樣的問題、寫論文、總結(jié)冗長的文件，甚至編寫軟件和加速藥物研發(fā)。

以ChatGPT為代表的生成式AI的發(fā)展已經(jīng)步入了高速公路，但隨之也引發(fā)了對生成式AI可能帶來的道德以及安全問題的擔(dān)憂。

對于AI發(fā)展的擔(dān)憂不無道理，但也并非無計(jì)可施。就像在高速公路邊上修建護(hù)欄明確道路的寬度并防止車輛駛?cè)氩恍枰膮^(qū)域一樣，也可以給生成式AI也可以加上護(hù)欄，以保證其在正軌上運(yùn)行，避免潛在的道德以及安全問題。

英偉達(dá)本周推出了一個(gè)幫助企業(yè)確保建立在大型語言模型（LLM）上的應(yīng)用符合其功能安全和信息安全要求的軟件NeMo Guardrails，這一開源軟件有助于將AI保持在正軌。

作為AI領(lǐng)域的領(lǐng)導(dǎo)者，英偉達(dá)這一舉措對于推動AI朝正確可控的方向發(fā)展發(fā)揮了引導(dǎo)作用。當(dāng)然，為生成式AI構(gòu)建有效的護(hù)欄是一項(xiàng)難題，需要更多開發(fā)者的共同努力，才有可能保證AI的創(chuàng)新保持在正軌。

用戶與 NeMo Guardrails 交互的流程

NeMo Guardrails是一個(gè)適用于所有大語言模型的軟件，開發(fā)者能夠構(gòu)建三個(gè)護(hù)欄，這里的護(hù)欄指的是一組位于用戶和大型語言模型之間的可編程約束或規(guī)則，具體包括：

• 主題護(hù)欄，可以防止應(yīng)用偏離進(jìn)非目標(biāo)領(lǐng)域，例如防止客服助理回答關(guān)于天氣的問題。

• 功能安全護(hù)欄，確保應(yīng)用能夠以準(zhǔn)確、恰當(dāng)?shù)男畔⒆鞒龌貜?fù)。它們能過濾掉不希望使用的語言，并強(qiáng)制要求模型只引用可靠的來源。

• 信息安全護(hù)欄，能夠限制應(yīng)用只與已確認(rèn)安全的外部第三方應(yīng)用建立連接。

值得關(guān)注的是，NeMo Guardrails 完全可編程，隨著時(shí)間的推移，應(yīng)用護(hù)欄和護(hù)欄觸發(fā)的一組操作很容易定制和改進(jìn)。這也就意味著，針對不同的應(yīng)用，不同地區(qū)、國家的法規(guī)，都可以定制所需的護(hù)欄。

并且，對于軟件開發(fā)人員來說，NeMo Guardrails是一個(gè)易于使用的工具，不需要成為機(jī)器學(xué)習(xí)專家或數(shù)據(jù)科學(xué)家，幾行代碼就可以快速創(chuàng)建新的規(guī)則。

英偉達(dá)工程師展示了NeMo Guardrails的使用方法，簡單幾行代碼，就可以讓AI對話機(jī)器人在回答問題時(shí)在護(hù)欄之內(nèi)。

這個(gè)易用性還體現(xiàn)在是與軟件工程師熟悉的工具集成。

因?yàn)镹eMo Guardrails開源，NeMo框架的大部分內(nèi)容已在GitHub上作為開放源碼提供，所以它可以與企業(yè)應(yīng)用開發(fā)人員使用的所有工具搭配使用。

比如，NeMo Guardrails可以在開源工具包LangChain上運(yùn)行，越來越多的開發(fā)者用LangChain將第三方應(yīng)用嵌入到LLM中。

雷峰網(wǎng)(公眾號：雷峰網(wǎng))了解到，LangChain在短短幾個(gè)月內(nèi)就在GitHub上收集了約3萬顆星。

NeMo Guardrails同樣是專為適用于廣泛的基于LLM的應(yīng)用而設(shè)計(jì)，例如Zapier。

Zapier是一個(gè)被超過200萬家企業(yè)使用的自動化平臺，它見證了用戶如何將AI集成到他們的工作中。

當(dāng)然，作為英偉達(dá)推出的一個(gè)軟件，英偉達(dá)也正將NeMo Guardrails整合到NVIDIA NeMo框架中，這一框架包含用戶使用公司的專有數(shù)據(jù)來訓(xùn)練和調(diào)整語言模型所需的一切。

NeMo還可作為一項(xiàng)服務(wù)使用。作為NVIDIA AI Foundations的一部分，這套云服務(wù)面向希望基于自己的數(shù)據(jù)集和領(lǐng)域知識創(chuàng)建、運(yùn)行自定義生成式AI模型的企業(yè)。

目前，已經(jīng)有企業(yè)使用NeMo提供服務(wù)，比如韓國一家移動運(yùn)營商構(gòu)建了一個(gè)智能助手，這一已經(jīng)與客戶進(jìn)行了800萬次對話；瑞典的一個(gè)研究團(tuán)隊(duì)使用NeMo創(chuàng)建了LLM，為本國醫(yī)院、政府和商業(yè)機(jī)構(gòu)自動生成文本。

科技的進(jìn)步總會帶來技術(shù)之外的許多問題，面對潛在的風(fēng)險(xiǎn)，更恰當(dāng)?shù)姆椒ㄊ墙鉀Q問題而非逃避。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。