0
| 本文作者： 周蕾 | 2020-07-15 21:19 |
“在這普通的一天，我用普通的釘釘，很普通地和同事視頻連線；打開(kāi)普通的軟件，普通地購(gòu)買生鮮；普通的AI在普通地檢測(cè)誰(shuí)在發(fā)燒……”如果把紅遍全網(wǎng)的B站名曲《普通Disco》改編成2020版，或許就是這樣。
這種的日子放在十年前還很新鮮，現(xiàn)在確實(shí)只是“普通的一天”。
科技已經(jīng)進(jìn)入到我們生活的方方面面，正如支付寶首席AI科學(xué)家漆遠(yuǎn)在好奇心圓桌派上說(shuō)的那樣，人工智能正在變成數(shù)字經(jīng)濟(jì)生活的基礎(chǔ)設(shè)施之一，智能化服務(wù)對(duì)社會(huì)的助力真實(shí)可見(jiàn)，更多變化在未來(lái)的五到十年時(shí)間里會(huì)大規(guī)模地發(fā)生。
AI該是什么樣子？在頂尖AI科學(xué)家漆遠(yuǎn)和雨果獎(jiǎng)知名科幻家郝景芳眼中，AI更像是一個(gè)在努力成長(zhǎng)卻不夠成熟的孩子，它前進(jìn)的步伐，取決于“原生家庭”指引的方向，也有無(wú)數(shù)的人在為AI的向陽(yáng)而生而奮斗著。
昨天，各大直播網(wǎng)站發(fā)布了一場(chǎng)名為“好奇心科技”的圓桌對(duì)談。當(dāng)一位科學(xué)家，一位科幻家，和一位B站人文類UP主，為人類與AI的將來(lái)聚到一起，他們?cè)谡勑┦裁矗?/p>
人們提起AI，會(huì)想到科幻電影里冰冷的機(jī)器人，會(huì)想到藏在手機(jī)里的Siri，也會(huì)想到在抗疫過(guò)程中的一系列AI應(yīng)用。它進(jìn)化飛快，時(shí)時(shí)帶給人驚喜，有時(shí)也帶去意外。
那在中國(guó)一流的科幻作家眼中，現(xiàn)在的AI是怎樣的？
《北京折疊》拿下雨果獎(jiǎng)之后，郝景芳出版了以人與AI為主題的《人之彼岸》，把目光更多地投向AI的發(fā)展。她在圓桌現(xiàn)場(chǎng)強(qiáng)調(diào)，目前的AI在某一方面異常優(yōu)秀，在其他方面卻不如小孩子，是一個(gè)“偏門(mén)的天才”。
正如她在《我們離超級(jí)人工智能到來(lái)還有多遠(yuǎn)》一文中提到的那樣：
從某種程度上來(lái)說(shuō)，人工智能目前就像電影《雨人》中那類自閉的孩子，一眼就數(shù)得清地上的牙簽，能心算極大數(shù)字的乘法，背得下來(lái)全世界的地圖，卻答不出有關(guān)自己的問(wèn)題。它只懂研究每秒300盤(pán)的棋路，卻不知道“我正在下棋”這件事。
深耕人工智能領(lǐng)域數(shù)十年的漆遠(yuǎn)有著類似的感受，他認(rèn)為，現(xiàn)階段的AI更像是“一個(gè)嚴(yán)重偏科的孩子”。
支付寶首席AI科學(xué)家 達(dá)摩院金融智能負(fù)責(zé)人 漆遠(yuǎn)
這種偏科首先表現(xiàn)在了跨領(lǐng)域、跨專業(yè)的學(xué)習(xí)上，它在某一知識(shí)領(lǐng)域會(huì)非常精通，但跳出這個(gè)領(lǐng)域就可能會(huì)有些傻。學(xué)圍棋和學(xué)英語(yǔ)，人可以同時(shí)學(xué)會(huì)，但一個(gè)已經(jīng)學(xué)會(huì)下棋的神經(jīng)網(wǎng)絡(luò)再去學(xué)英語(yǔ)，可能就丟失了原來(lái)的技能。
因此，多任務(wù)學(xué)習(xí)技術(shù)成為現(xiàn)在人工智能的方向之一，漆遠(yuǎn)解釋稱，這就像是學(xué)過(guò)圍棋之后去學(xué)五子棋，二者背后有很多可以相互借鑒的地方，這種類似的任務(wù)就可以讓AI通過(guò)算法把不同任務(wù)間共通的和不同的自動(dòng)學(xué)習(xí)出來(lái)，提升完成每個(gè)任務(wù)的能力。
郝景芳的另一個(gè)身份是童行學(xué)院的創(chuàng)始人，兒童教育經(jīng)驗(yàn)豐富的她笑稱這種“把相近學(xué)科之間共通的思維能力拎出來(lái)教給AI”的做法，像是人工智能界的“通識(shí)教育”。
AI的“偏科”，更體現(xiàn)在了“重?cái)?shù)據(jù)學(xué)習(xí)、輕推理能力”上。
在郝景芳看來(lái)，AI通過(guò)大數(shù)據(jù)學(xué)會(huì)了如何找相關(guān)性，學(xué)會(huì)數(shù)學(xué)層面上的推理，但恰恰就不擅長(zhǎng)與人類社會(huì)有關(guān)的推理。
假設(shè)現(xiàn)在有一個(gè)人被扇耳光了，在場(chǎng)其他人都會(huì)猜事發(fā)的原因，可能經(jīng)常猜得八九不離，但AI未必猜得出來(lái)。因?yàn)橄裆榷獾膭?dòng)作含義、雙方可能的關(guān)系，都屬于生活中積累下來(lái)的經(jīng)驗(yàn)，AI很難在這種生活情境中對(duì)日常的因果關(guān)系做出準(zhǔn)確判斷。
漆遠(yuǎn)也有同感。在他看來(lái)人工智能如今最突出的表現(xiàn)之一，其實(shí)是用海量數(shù)據(jù)“堆出來(lái)”的強(qiáng)大記憶力，達(dá)到某種程度上的“見(jiàn)多識(shí)廣、學(xué)識(shí)淵博”。它能在“見(jiàn)過(guò)”一萬(wàn)張貓臉圖片之后，順利識(shí)別出新的貓臉，就是記憶力的體現(xiàn)；但在邏輯推理能力上有所欠缺。
“就像那種被高考機(jī)器慣出來(lái)的孩子，學(xué)習(xí)了大量知識(shí)點(diǎn)之后，做題很快，但缺乏常識(shí)和基礎(chǔ)的情商?！逼徇h(yuǎn)說(shuō)。
電影《Her》的“女主角”被設(shè)定成AI，她在男主角身上習(xí)得了更多知識(shí)，進(jìn)化迅速，最后離他而去。
AI誕生以來(lái)，這樣的焦慮被呈現(xiàn)在各種科幻作品里。本場(chǎng)圓桌的主持人，UP主“閃光少女斯斯”也由此拋出了一個(gè)“靈魂拷問(wèn)”：
如果AI的發(fā)展速度超過(guò)人類了，它會(huì)拋棄我們嗎？
“（人與AI）應(yīng)該是互惠共生的一種關(guān)系?！痹诤戮胺伎磥?lái)，這類似于動(dòng)物與植物的關(guān)系，各自吐出二氧化碳和氧氣，實(shí)現(xiàn)碳循環(huán)；雙方在交互中可能會(huì)有一些小型沖突，但不會(huì)發(fā)生人類智能和人工智能的整體性沖突。
她接著開(kāi)出了“新腦洞”：隨著腦機(jī)接口等技術(shù)的發(fā)展，人類將會(huì)看到自己的數(shù)字大腦不斷地與AI發(fā)生數(shù)據(jù)交換；比起AI實(shí)體化“沖入”現(xiàn)實(shí)世界，虛擬人格與AI在虛擬世界中頻繁交互，共生于數(shù)字世界，這是未來(lái)的50-100年間必然會(huì)發(fā)生的一件事情。
左：第74屆科幻雨果獎(jiǎng)得主 童行學(xué)院創(chuàng)始人 郝景芳 右：女性人物紀(jì)實(shí)節(jié)目《閃光少女》創(chuàng)始人 斯斯
漆遠(yuǎn)給出了更確定的答案：“這種（人工智能）俯視人類的感覺(jué)，在可見(jiàn)的未來(lái)里，我認(rèn)為不會(huì)發(fā)生——人和機(jī)器會(huì)在一起，定義一個(gè)共同的未來(lái)?！?/p>
當(dāng)我們必將進(jìn)入人與AI共生的時(shí)代，AI會(huì)從那個(gè)“偏科”的孩子長(zhǎng)成什么模樣？
在這兩位科學(xué)家和科幻家看來(lái)，人工智能正在成為數(shù)字化生活的基礎(chǔ)設(shè)施，挖掘數(shù)據(jù)背后的規(guī)律，產(chǎn)生價(jià)值，通過(guò)不同場(chǎng)景服務(wù)于，對(duì)社會(huì)的智能化改造也會(huì)在不遠(yuǎn)的將來(lái)里大規(guī)模地發(fā)生，很多技術(shù)也在處在研發(fā)進(jìn)行時(shí)。
郝景芳這樣描繪她心目中的未來(lái)人工智能服務(wù)：像是每天早上你走進(jìn)辦公樓，大門(mén)識(shí)別到你了，通知三樓的咖啡機(jī)，等你到了三樓就有一杯咖啡可喝，也準(zhǔn)備好了一系列服務(wù)，并不見(jiàn)得一定要有一個(gè)兩條腿的機(jī)器人在門(mén)口迎接你。
漆遠(yuǎn)對(duì)AI成長(zhǎng)趨勢(shì)的研判就更“技術(shù)宅”一些，他首先提到AI會(huì)從純數(shù)據(jù)驅(qū)動(dòng)，變成數(shù)據(jù)和知識(shí)推理的“雙輪驅(qū)動(dòng)”。
正如前文提到的那樣，AI的邏輯推斷“短板”會(huì)被補(bǔ)上，能力更加平衡，人類的知識(shí)經(jīng)驗(yàn)沉淀為大量規(guī)則，將與算法一起讓AI變得更有“常識(shí)”和“情商”，會(huì)成為接下來(lái)的主要發(fā)展方向之一。
其次，是從隱私保護(hù)出發(fā)，試圖在確保數(shù)據(jù)安全的同時(shí)產(chǎn)生數(shù)據(jù)價(jià)值。
用人的身體打個(gè)比方，DNA是一個(gè)人最隱私的數(shù)據(jù)，這甚至比長(zhǎng)相（人臉數(shù)據(jù)）更隱私。如果要解決很多重大疾病，繞不開(kāi)理解和研究DNA——但矛盾也同時(shí)出現(xiàn)：如何在保護(hù)隱私的情況下，能夠產(chǎn)生和分析這種基因和RNA的數(shù)據(jù)，來(lái)開(kāi)發(fā)更好的藥品和疫苗？
如何平衡隱私保護(hù)和數(shù)據(jù)使用，人工智能學(xué)術(shù)界和工業(yè)界其實(shí)已經(jīng)獲得了一些技術(shù)成果，隱私保護(hù)機(jī)器學(xué)習(xí)、共享智能、聯(lián)邦學(xué)習(xí)、安全多方計(jì)算等都與這一議題緊密相關(guān)。
支付寶AI就將共享智能技術(shù)，率先落地在業(yè)務(wù)敏感度頗高的金融風(fēng)控場(chǎng)景。中和農(nóng)信借此大幅度提高了風(fēng)控性能，把原來(lái)傳統(tǒng)的線下模式轉(zhuǎn)為線上自動(dòng)過(guò)審，大規(guī)模提升了風(fēng)控能力，8個(gè)月累計(jì)放款31.9億，授信成功人數(shù)44萬(wàn)。
這類技術(shù)的思路，就是在保證各方隱私的情況下，將他們的數(shù)據(jù)價(jià)值提取出來(lái)，打破數(shù)據(jù)孤島，產(chǎn)生數(shù)據(jù)融合的大價(jià)值。
它的運(yùn)行原理可以用羊吃草來(lái)類比：機(jī)器學(xué)習(xí)模型是羊，數(shù)據(jù)是草。過(guò)去某種做法是，羊不動(dòng)，草被購(gòu)買到中心；更安全的做法是讓草不動(dòng)，讓羊動(dòng)，也就是說(shuō)模型去不同的草場(chǎng)去訪問(wèn)，草不出草場(chǎng)，也沒(méi)有人知道羊吃了哪些草，羊仍然能夠順利長(zhǎng)大。
第三大發(fā)展方向，是AI需要更“皮實(shí)”，必須成長(zhǎng)為經(jīng)得起攻擊的博弈智能體。
2020年是黑天鵝的一年，在數(shù)字經(jīng)濟(jì)進(jìn)一步推進(jìn)的同時(shí)，黑產(chǎn)猖獗，造假升級(jí)，deepfake和內(nèi)容風(fēng)險(xiǎn)……抵御不同方向的風(fēng)險(xiǎn)，是AI大有作為的方向。在漆遠(yuǎn)看來(lái)，不確定性正是這些風(fēng)險(xiǎn)爆發(fā)的關(guān)鍵之一，也是如今機(jī)器學(xué)習(xí)面臨的挑戰(zhàn)，
正如孩童長(zhǎng)大成人，進(jìn)入社會(huì)，要變得不再脆弱，任何一項(xiàng)技術(shù)在真正走向使用時(shí)也必須更可靠、更廣泛適用、更經(jīng)得起打擊。而貝葉斯機(jī)器學(xué)習(xí)就是將不確定性和小概率事件的研究，和推理能力、理解能力結(jié)合到一起，實(shí)現(xiàn)對(duì)AI對(duì)抗攻防能力的提升。
漆遠(yuǎn)所在的支付寶安全實(shí)驗(yàn)室，開(kāi)發(fā)了把博弈論和深度學(xué)習(xí)結(jié)合的智能攻防算法——這是世界上首次把深度學(xué)習(xí)引入博弈論，他們也借此在德州撲克小實(shí)驗(yàn)達(dá)成世界領(lǐng)先的水平。
同時(shí)，紅藍(lán)攻防這種“左右手互搏”的形式也納入了支付寶安全實(shí)驗(yàn)室的日常AI演練，讓系統(tǒng)在對(duì)抗和錯(cuò)誤中學(xué)習(xí)成長(zhǎng)，做到在對(duì)手“魔高一尺”的時(shí)候，讓自己的AI“道高一丈”。
這些正在發(fā)生的技術(shù)變革，又對(duì)“人機(jī)共生時(shí)代”意味著什么？
“AI就像是我們的朋友一樣，在幫助我們做判斷和輔助，成為了一個(gè)智能伙伴?！焙戮胺继岬?，AI幫助大眾加固最基礎(chǔ)的“安全工事”，人機(jī)共生的前景會(huì)更開(kāi)闊明亮。
對(duì)談的最后，漆遠(yuǎn)與郝景芳談起了本場(chǎng)圓桌的名字：好奇心。
在他們眼中，好奇心是探索世界的初心，好奇心是探索過(guò)程中瘋狂運(yùn)轉(zhuǎn)的大腦和釋放的多巴胺，它推著原始人向前進(jìn)化，推著孩子去思考和學(xué)習(xí)，人類對(duì)自身和對(duì)所有外部世界的好奇都在推動(dòng)所有領(lǐng)域的科學(xué)探索。
但只有好奇心，讓AI這些先進(jìn)技術(shù)只會(huì)“向前沖”，可以嗎？
“沒(méi)有敬畏之心做底線，其實(shí)就沒(méi)有未來(lái)?！逼徇h(yuǎn)談到，一個(gè)科研者應(yīng)有的價(jià)值取向，就是好奇心、敬畏心和普惠。
就像汽車有引擎，也會(huì)有剎車，路上會(huì)有紅綠燈，如果AI像引擎一樣在推動(dòng)社會(huì)的發(fā)展，就必須有這些安全系統(tǒng)，否則就有失控的可能。
另一方面，AI本身又能夠提升安全技術(shù)，可以使安全“剎車”更智能——AI和安全，其實(shí)是相輔相成的關(guān)系。若沒(méi)有安全性和穩(wěn)定性的保護(hù)機(jī)制，再迅猛先進(jìn)的科技也不過(guò)是空中樓閣。
讓AI變得更有“常識(shí)”和“情商”，變得更尊重?cái)?shù)據(jù)隱私，變得更平衡、更穩(wěn)定、更抗打擊，其實(shí)也都是為了安全這同一個(gè)目標(biāo)。
當(dāng)假新聞層出不窮，當(dāng)眼見(jiàn)為實(shí)不再有意義，技術(shù)能給人多少安全感，研發(fā)者的價(jià)值取向顯得尤為重要。
郝景芳感慨道，技術(shù)本身并沒(méi)有善惡之分，但技術(shù)能放大人性的惡，也能放大人性的善——就像一把菜刀，成為廚房好物還是成為殺人兇器，選擇權(quán)在人類手中。
人的成長(zhǎng)有欲望的驅(qū)使，而人工智能只有人類給它設(shè)置的“目標(biāo)函數(shù)”。把“幫助更多人、服務(wù)更多、永遠(yuǎn)不傷害更多人”都寫(xiě)在目標(biāo)函數(shù)里，其實(shí)才是真正的共生。
漆遠(yuǎn)認(rèn)為給人工智能設(shè)定好的目標(biāo)函數(shù)至關(guān)重要，長(zhǎng)遠(yuǎn)而言，要把對(duì)人的善意和公正寫(xiě)進(jìn)去—而人工智能的公平性研究也日益重要。這給目標(biāo)函數(shù)就相當(dāng)于一個(gè)公司的使命和愿景，是他們馬不停蹄想要前往的目的地。
對(duì)漆遠(yuǎn)和他所在的支付寶而言，這個(gè)目的地就寫(xiě)著“普惠”二字。好奇心帶來(lái)探索，敬畏心帶來(lái)克制，兩方的平衡讓技術(shù)像自行車一樣平穩(wěn)地向普惠駛?cè)ァ萍及l(fā)展至今，其實(shí)也沿著這條清晰可見(jiàn)的脈絡(luò)在行進(jìn)。
他在圓桌中分享的一個(gè)案例，令我們印象深刻。
一位農(nóng)民在自己50歲那年，迎來(lái)了生命中的第二個(gè)「大件」物品——一臺(tái)三輪車，第一件是家里的19 寸老式電視機(jī)。
這輛價(jià)值一萬(wàn)七千元的三輪車，花去了他信用貸款3萬(wàn)元中的一大半，但他靠三輪車跑運(yùn)輸，不僅把錢(qián)按時(shí)還上了，還改善了自己和80歲母親的生活。
這也只是中國(guó)絕大多數(shù)農(nóng)戶的一個(gè)縮影。由于缺乏信用數(shù)據(jù)積累，沒(méi)有銀行流水、資產(chǎn)證明、抵押物等，他們被傳統(tǒng)的金融服務(wù)拒之門(mén)外，而支付寶一直在借助科技的力量服務(wù)這些人群和小微企業(yè)們，踐行普惠金融的目標(biāo)。
科技的善惡，其實(shí)并不由那些復(fù)雜的數(shù)據(jù)和計(jì)算，而是取決于它是否放大了人的善念，是否讓普羅大眾享受到了科技進(jìn)步的價(jià)值，是否有科技力量落到實(shí)處，化作普惠這一盞燈，照亮他們的生活。
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
