人們對(duì)新事物總是充滿恐懼。就在大家擔(dān)心無(wú)人駕駛汽車是否弊大于利的時(shí)候，AI重塑金融規(guī)律的創(chuàng)新也引起許多人對(duì)其中的法律和道德問題的顧慮。

讓一個(gè)軟件程序來決定，誰(shuí)擁有投資開戶的資格，誰(shuí)能夠獲得貸款（征信），應(yīng)該收取多少的費(fèi)率，甚至在主流金融體系之外的金融服務(wù)客戶都可能收獲意想不到的后果。

但也有些人認(rèn)為，沒有什么能夠比算法更公平公正了——純粹數(shù)學(xué)，畢竟，不會(huì)有偏見，對(duì)吧?

“一臺(tái)機(jī)器或一個(gè)機(jī)器人將基于事實(shí)和標(biāo)準(zhǔn)來計(jì)算出決策，”紅杉軟件財(cái)政性轉(zhuǎn)型主管Steve Palomino表示，“去除人為因素意味著，人們可以基于事實(shí)和具體情況來應(yīng)用標(biāo)準(zhǔn)，而不是根據(jù)偏好或個(gè)人偏見和經(jīng)驗(yàn)?！?/p>

偏見問題

這個(gè)論點(diǎn)的缺陷之一是，算法也是人為創(chuàng)建的，通常會(huì)在連他們都意識(shí)不到的細(xì)微處隱含了偏見。這些偏見也許會(huì)被嵌入到算法當(dāng)中。比如，去年卡耐基梅隆大學(xué) 的研究者測(cè)試谷歌的算法是如何向用戶推送廣告時(shí)發(fā)現(xiàn)，廣告設(shè)置中的“男性”和“女性”標(biāo)簽中，谷歌會(huì)給“男性”用戶推薦薪酬更高的招聘廣告。

更極端地說，一個(gè)人工智能引擎做出信貸決策時(shí)，也許會(huì)傾向于只認(rèn)可常春藤盟校畢業(yè)的，或者家庭收入超過30萬(wàn)美元的群體。

人工智能，究其本質(zhì)而言，還不能完全控制今天的以規(guī)則為基礎(chǔ)的系統(tǒng)。在AI里面，電腦可以隨著時(shí)間的推移來學(xué)習(xí)人們通常是如何做的：通過接收信息，然后決策基于這些數(shù)據(jù)進(jìn)行征信決策，并不斷觀察結(jié)果進(jìn)行風(fēng)控。隨著它們?cè)阱e(cuò)誤和正確的信息中不斷學(xué)習(xí)，它們會(huì)不斷修正自己的規(guī)則和算法，然后開始作出它們自己的結(jié)論。

喬治華盛頓大學(xué)社群主義政策研究所國(guó)際事務(wù)教授兼主任Amitai Etzioni指出，無(wú)人駕駛汽車被指示不要超速，但它們也被設(shè)計(jì)了學(xué)習(xí)程序。當(dāng)周圍的汽車加速時(shí)，它也會(huì)加速。它們所謂的標(biāo)準(zhǔn)是根據(jù)周圍的參照而對(duì)結(jié)果做出調(diào)整。

同樣的原則也適用于AI交付的抵押貸款決策?！般y行告訴程序：在任何情況下都不應(yīng)該將種族作為一個(gè)標(biāo)準(zhǔn)，”他說，“但程序會(huì)發(fā)現(xiàn)風(fēng)險(xiǎn)與收入、受教育程度和郵政編碼有關(guān)——它會(huì)說‘種族也是因素之一’，因?yàn)榻逃c郵政編碼都有種族標(biāo)簽有聯(lián)系，那為什么我不可以把種族也作為規(guī)則標(biāo)準(zhǔn)之一？”

人工智能程序缺乏良知。咨詢公司Spitzberg Partners首席分析師Steve Ehrlich表示，“你很難將道德編碼到機(jī)器里面去——它唯一的目的是為企業(yè)尋找解決方案?！?/p>

如何制衡？

Etzioni表示，我們需要的是AI監(jiān)護(hù)者——AI系統(tǒng)伴侶，它可以確保人工智能引擎不會(huì)偏離特定值。

那AI監(jiān)護(hù)者最后就不會(huì)學(xué)壞了嗎？

“這個(gè)問題從柏拉圖一來就是個(gè)未解的難題。在柏拉圖理想的國(guó)度里，最高統(tǒng)治者是監(jiān)護(hù)者”Etzioni說道，“但是，誰(shuí)來監(jiān)護(hù)監(jiān)護(hù)者？最后，人類必須有一個(gè)彼此制衡的閉環(huán)。”

這就引出了第三個(gè)問題——人工智能程序的內(nèi)部運(yùn)作往往比較隱蔽，甚至他們的創(chuàng)造者也不知道其原理。換句話說，AI如同一黑盒。通過AI系統(tǒng)，金融機(jī)構(gòu)做出的誰(shuí)能成為他們的客戶，他們將對(duì)誰(shuí)放貸，收取多少的費(fèi)率等等決定時(shí)，都將成為不可知的。

這些問題不僅僅是針對(duì)于傳統(tǒng)金融機(jī)構(gòu)的考慮。許多Fintech公司都采取了黑盒自動(dòng)化決策，并嚴(yán)重依賴算法。Social Finance （SoFi）已經(jīng)宣布自己是“FICO-Free Zone（FICO自由區(qū)）”，即公司在進(jìn)行貸款資格審查的過程中已經(jīng)不再需要FICO的模型進(jìn)行評(píng)分。

但沒有人知道，他們?cè)谒惴耸褂昧耸裁磾?shù)據(jù)。美國(guó)P2P公司Prosper的CEO Ron Suber曾表示，該公司對(duì)每個(gè)借款人分析的數(shù)據(jù)樣本達(dá)到500個(gè)，但具體的數(shù)據(jù)點(diǎn)又是什么呢？他們從不會(huì)說。

Ehrlich表示，讓人工智能引擎做出金融決策還引發(fā)隱私問題——這些數(shù)據(jù)的獲取或會(huì)涉及侵犯用戶的隱私。

“如果說征信公司想要看看你的社交媒體或搜索歷史來確定你的信用評(píng)分，那么銀行至少應(yīng)該告知客戶其計(jì)劃使用這些信息。”

當(dāng)然，不管有沒有人工智能，數(shù)據(jù)隱私問題都同樣存在。但人工智能程序的成功取決于它分析海量數(shù)據(jù)的能力。但與IBM的沃森和谷歌的AlphaGo不同，銀行不能將所有東西都扔進(jìn)它們的AI引擎里面。

“銀行應(yīng)該在前期公示他們將要搜集哪些信息，如何收集并用于什么地方?！?/p>

可依賴否？

使用人工智能自動(dòng)化決策的另一個(gè)問題是，它們是否會(huì)使用智能合約技術(shù)自動(dòng)執(zhí)行，謂之可依賴性。

“如果我們不小心，我們可能無(wú)法實(shí)現(xiàn)我們認(rèn)為通過自動(dòng)化能夠做好的一切，”多倫多一名專門研究反洗黑錢規(guī)則、反恐怖主義集資、跨國(guó)資產(chǎn)追回的律師，Digital Finance Institute聯(lián)合創(chuàng)始人Christine Duhaime表示，“原因是，我們實(shí)現(xiàn)越高水平的自動(dòng)化后，就越難與人類溝通問題?！?/p>

Ehrlich還指出，如果一個(gè)自動(dòng)生成的決策將對(duì)客戶造成消極后果，那么這需要對(duì)其有一個(gè)保護(hù)的機(jī)制。

確保決策過程中所有被用到的數(shù)據(jù)都是精確且最新的，這對(duì)企業(yè)來說是一個(gè)特別的責(zé)任，除非用戶明確表示授權(quán)，同時(shí)企業(yè)在適當(dāng)?shù)臅r(shí)候具備恰當(dāng)?shù)募夹g(shù)安保措施和隱私保護(hù)政策，并且只訪問特許儲(chǔ)存的數(shù)據(jù)。

Duhaime指出，在AI中還有一個(gè)危險(xiǎn)隱患是，該技術(shù)實(shí)則將那些無(wú)法使用計(jì)算機(jī)或移動(dòng)設(shè)備的殘疾人和老者排除在外了?！霸谶@樣的情況下，我們打著普惠金融的旗號(hào)，最后卻將大部分客戶拒之門外，我們實(shí)即也沒有解決銀行現(xiàn)存問題的能力。這只不過是制造了新的永遠(yuǎn)無(wú)法解決的銀行問題罷了。”

AI系統(tǒng)也許也能夠被應(yīng)用于創(chuàng)造為殘疾人服務(wù)的技術(shù)，“如果我們無(wú)法服務(wù)殘疾市場(chǎng)，那么該技術(shù)在未來創(chuàng)造出的也許是弊大于利?！?/p>

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。