0
本文作者: 黃楠 | 2022-07-29 14:20 |
當(dāng)科學(xué)家把一些菟絲子移植到幾株營養(yǎng)狀態(tài)不同的山楂樹上時,那些營養(yǎng)狀況更好的山楂樹會更容易獲得菟絲子的「青睞」。這在以往被看作是植物內(nèi)「被動」存在的東西,但據(jù)研究人員發(fā)現(xiàn),植物也具備從過去的經(jīng)驗中學(xué)習(xí)區(qū)分正負(fù)面的經(jīng)驗及教訓(xùn)、進行交流、計算自身處境等等人類所具備的能力。
在其最近新出的《智能簡史——從大爆炸到元宇宙》(以下簡稱「智能簡史」)一書中,加拿大工程院院士于非將上述示例視為植物的「智能」。
去年12月在雷峰網(wǎng)舉辦的 CCF-GAIR 大會上,AI 科技評論曾有幸與于非院士進行了一場深入討論,不一味強調(diào)從「感知」到「認(rèn)知」的階段進化,而聚焦當(dāng)下人工智能的局限性以及智能的科學(xué)定義,彼時的于非,仍在為人工智能重新定義尋求可計量的「香農(nóng)定理」。
定義「智能」科學(xué)范式,對人工智能的發(fā)展具有重要意義。當(dāng)時,于非就表示:「科學(xué)里面最重要的就是定義。這個東西到底是什么?如果只是文字上的描述,在數(shù)學(xué)上不是可定義、可量化的話,這個問題就解決不了?!?/p>
而在《智能簡史》中,于非對理性的數(shù)學(xué)公式下「智能」定義進行了探索,并指出一條量化智能清晰的新路線。
在很長時間里,「智能」都被視作人類獨有的產(chǎn)權(quán),但在于非看來,智能實則是存在宇宙中的一種自然現(xiàn)象,與其他自然現(xiàn)象類似。由于宇宙大爆炸下分布不均的成分帶來了各種各樣的差異,智能旨在通過調(diào)節(jié)梯度實現(xiàn)宇宙穩(wěn)定,從物理、化學(xué)、生物到人類、機器甚至元宇宙,智能普遍存在,鏈接形成了一部發(fā)展史。
《智能簡史》:定義「智能」
當(dāng)智能應(yīng)用的空間擴大,如智慧城市與智能網(wǎng)絡(luò)形成,單體智能的局限性漸顯,科學(xué)家們開始求變,從更大的視角思考:什么才是真正的智能?
于非也是這求索隊伍中的一員。
于非(F. Richard Yu),加拿大工程院院士、IEEE Fellow、是國際信息和人工智能領(lǐng)域?qū)<遥祁Nò灿嬎銠C科學(xué)領(lǐng)域 “全球高倍引科學(xué)家”, 谷歌學(xué)術(shù)引用量超過 3.3 萬。
長期以來,關(guān)于「智能的定義」問題一直困擾著于非。
智能的定義未明晰,因此人工智能也還沒有成為一門科學(xué),處于工程學(xué)階段,無論是預(yù)訓(xùn)練模型、知識圖譜還是CNN等概念,都是基于認(rèn)知科學(xué)的啟發(fā)而提出的。「可以說,人工智能還處于仿生學(xué)的階段。就像在空氣動力學(xué)發(fā)明之前,人們只能仿照蜻蜓和鳥來研發(fā)飛行器。」
對此,于非著手進行了大量的研究,意圖通過其他學(xué)科了解以往對智能的描述,直至「越查越久遠,一直查到宇宙從哪里來的大爆炸時期。從大爆炸開始產(chǎn)生了物理世界,就有很多的智能現(xiàn)象。」
1969年,比利時物理化學(xué)家和理論物理學(xué)家伊利亞·普里高津(Ilya. Prigogine)提出「耗散結(jié)構(gòu)」理論。該理論表明:當(dāng)包含非線性的多基元多組分多層次的開放系統(tǒng)處于一個遠離平衡態(tài)的情況下時,系統(tǒng)不斷同外界交換物質(zhì)和能量,系統(tǒng)內(nèi)某個參量變化達到一定閾值后,就會觸發(fā)從無序突變?yōu)橛行驙顟B(tài)而形成的一種時間,空間或功能的特殊結(jié)構(gòu)。
經(jīng)由大規(guī)模物質(zhì)和能量的交換沖擊形成新結(jié)構(gòu),這也印證了化學(xué)世界中「智能」「秩序始于混亂」的法則。
當(dāng)范式踏進生物系統(tǒng),麻省理工學(xué)院的杰里米·英格蘭(Jeremy England)教授和團隊在「耗散適應(yīng)」理論中展示了系統(tǒng)通過耗散能量以緩解能量不平衡,在一定條件下,無分子系統(tǒng)自然而然充足,通過化學(xué)反應(yīng)代謝消耗更多的能量,從而促進能量的持續(xù)耗散以及「熵」(即宇宙無序狀態(tài))的增加。
能量堆積下,結(jié)構(gòu)以最快、最省力的過程迅速緩解不平衡,繼而穩(wěn)定形成了生命,這是過往人們對物理世界、化學(xué)世界和生物世界中智能起源的認(rèn)知學(xué)說之一。在其發(fā)展歷史進程中,「智能」也誕生過無數(shù)令人為之感嘆的「神秘」現(xiàn)象。
而隨著人類科技發(fā)展邁進新的社會階段,需要人們在更大的時間和空間范疇里來思考「智能」的更高級別的表現(xiàn),但能被稱之為科學(xué)的「智能」,仍然缺少一個理性的數(shù)學(xué)公式的定義。
為了尋找一種量化信息的方法,1948年,香農(nóng)在論文“A Mathematical Theory of Communication”中借鑒熱力學(xué)概念提出「信息熵」,第一次用數(shù)學(xué)公式,闡明概率與信息冗余度的關(guān)系,使用「熵」來量化信息,對信息時代的成功起了至關(guān)重要的作用。
邁進智能時代,以符號主義、聯(lián)結(jié)主義、行為主義為代表的三大學(xué)派對「智能」的描述爭論不休,即使對質(zhì)量、能源、信息等重要因素的獲取難度降低,但「智能」是對信息的更高層次的抽象,其定義尚未明晰。
于非在《智能簡史》一書中指出:智能并非人類的專屬,而是同巖石滾落、冰雪融化般普遍存在于物理、化學(xué)、生物以及人類、機器(人工智能)乃至元宇宙中的自然現(xiàn)象。智能并不神秘,它是緩解不平衡過程中形成的一種自然現(xiàn)象,使人得以用同樣一個邏輯來理解世界如何運轉(zhuǎn)。
與此同時,如何量化智能,對于科學(xué)的「智能」至關(guān)重要。
1950年,圖靈首次提出一個判斷機器是否能思考,測試機器是否能表現(xiàn)出與人類相同、或無法區(qū)分的智能行為能力的測試,給「可計算性」下了一個嚴(yán)格的數(shù)學(xué)定義。然而,圖靈測試中沒有量化的智能度量。
對于如何來衡量智能度量,不少研究人員曾進行過粗略的討論。但是這些工作都是從心理學(xué)、哲學(xué)或者工程技術(shù)角度出發(fā)的,對智能的定義僅限于文字性的描述和探討,并沒有從科學(xué)的角度深入探討智能的本質(zhì),更沒有從數(shù)學(xué)上量化智能。
針對這個問題,于非在《智能簡史》中探索智能的本質(zhì),借鑒了能量和信息的量化思想,開創(chuàng)性給出智能的定義,并首創(chuàng)性地提出了一個可衡量相對智能程度的公式:dL = ?S/?R;其中, dL 指智能的變化,S是當(dāng)前的秩序(order)和預(yù)期的秩序的相似,R是一般意義的參數(shù)(例如,時間、數(shù)據(jù)量等),因為智能的變化與多個參數(shù)有關(guān),所以在數(shù)學(xué)上表示是一個多元函數(shù)??紤]到多元函數(shù)關(guān)于其中一個自變量的變化率時 ,一般用偏導(dǎo)來表示。
和熱力學(xué)熵相似,智能不是一個絕對量,只是一個相對量,描述的是變化多少。智能定義為一種「前后」過程的尺度標(biāo)準(zhǔn):在一個學(xué)習(xí)過程中,衡量隨著時間的推移耗散了多少信息。熱力學(xué)熵測量能量的擴散:在特定溫度下,在一個過程中擴散了多少能量,或者擴散得有多廣。
其中dS是熵的變化,是傳遞的能量,T是溫度。
圖注:于非提出的量度智能數(shù)學(xué)公式
回顧一下人類科技歷史中涉及的幾個重要因素:質(zhì)量、能源、信息和智能,可能會給我們一些認(rèn)識智能的未來方向的提示。在認(rèn)知革命之后,人類獲得了發(fā)明技術(shù)的能力,以比以往任何時候都更有效地為穩(wěn)定宇宙這一過程做出貢獻。
人類的合作,從本質(zhì)上說,其實是形成了有序的特殊社會經(jīng)濟結(jié)構(gòu),使得物質(zhì)、能量、信息和智能迅速的流動,從而促進我們的宇宙穩(wěn)定。為了促進社會經(jīng)濟系統(tǒng)中的人類合作,人類發(fā)明了使質(zhì)量(運輸網(wǎng)絡(luò))、能源(能源網(wǎng)絡(luò))和信息(互聯(lián)網(wǎng))互聯(lián)的技術(shù)。
從網(wǎng)聯(lián)范式演化的歷史中,我們可以觀察到更高級別的網(wǎng)聯(lián)范式提供了更高的層次抽象。
當(dāng)人們很方便的得到有質(zhì)量的東西后,大家會關(guān)心拿到有質(zhì)量的東西的速度有多快。所以,能量的概念被提出。能量被量化為物質(zhì)移動的速度有多快。
當(dāng)人們很方便的得到能量后,大家會關(guān)心能量擴散的量有多少。所以,熱力學(xué)熵的概念被提出。熵是一個能夠能定量的測量能量的擴散程度的抽象概念。熵表示一個能量擴散的過程中,在某個特定溫度下,能量擴散了多少能量。另外,信息熵和熱力學(xué)熵等價。所以,信息也可以說是對能量擴散的量有多少的量化。
如今,由于互聯(lián)網(wǎng)和手機的普及,信息無處不在,信息如同洪水猛獸一樣推送到我們的面前。當(dāng)人們很方便的得到信息后,大家會關(guān)心信息耗散的量有多少。所以,智能在本質(zhì)上可以說是對信息耗散多少的量化。
目前,于非已初步完成對理性的數(shù)學(xué)公式下「智能」定義的探索,為量化智能提出了一條清晰的新路線。
「智能」之上:集體學(xué)習(xí)與區(qū)塊鏈
去年12月,在雷峰網(wǎng)(公眾號:雷峰網(wǎng))舉辦的 CCF-GAIR 大會上,AI 科技評論有幸與于非院士進行了一場關(guān)于單體智能與集體智能的對話。當(dāng)時,于非就指出,從多體協(xié)同場景(如智能駕駛)中觀察可知,要實現(xiàn)智能網(wǎng)絡(luò),集體學(xué)習(xí)將是非常關(guān)鍵的學(xué)習(xí)范式,「然而,集體學(xué)習(xí)目前還沒有真正開始?!?/p>
在文明發(fā)展的過程中,人類之間傳遞的、書本中記載的,不僅僅是信息,還有智能。對應(yīng)到人工智能領(lǐng)域的專業(yè)術(shù)語,那便是數(shù)據(jù)和知識的區(qū)別。智能定義為多個體間達成「智能交換」提供了知識基礎(chǔ),可以進一步實現(xiàn)集體學(xué)習(xí)。
未來智能的發(fā)展也離不開集體學(xué)習(xí)和網(wǎng)絡(luò)。
當(dāng)前大多數(shù)AI工作都聚焦單智能體的訓(xùn)練,需要依賴大量預(yù)定義的本地環(huán)境數(shù)據(jù)集。隨著互聯(lián)網(wǎng)數(shù)據(jù)的爆炸性增長,這種中心化的AI架構(gòu)受限于本地計算能力和存儲能力,訓(xùn)練的模型的泛化能力有待提高。此外,實際場景中的許多系統(tǒng)要么過于復(fù)雜無法在固定的預(yù)定義環(huán)境中正確建模,要么動態(tài)變化。
當(dāng)前,AI與人類學(xué)習(xí)仍然相去甚遠。人類學(xué)習(xí)需要更少的數(shù)據(jù)集,并且在適應(yīng)新環(huán)境方面更加靈活。集體學(xué)習(xí)是人類能夠在生物圈中發(fā)揮主導(dǎo)作用的決定性特征,而在當(dāng)前的AI系統(tǒng)中很難做到這一點。通過互聯(lián)智能,可以實現(xiàn)分布式智能、智能存儲、智能共享,進一步拉近AI與人類智能的界限,顯著提高智能訓(xùn)練效率,更有效地模仿現(xiàn)實世界環(huán)境。
就自動駕駛來說,聯(lián)網(wǎng)自動駕駛汽車(CAV)涉及到車間通訊和車路協(xié)同,正是集體學(xué)習(xí)的具體實現(xiàn)。
在于非看來,車間通信和車路協(xié)同是保證交通安全的重要手段?!复蠖鄶?shù)車禍?zhǔn)且驗椴恢榔渌囕v正在做什么或?qū)⒁鍪裁础?,但通過開發(fā)讓車輛了解環(huán)境和其他車輛發(fā)生的情況的通信技術(shù),或能有效預(yù)防事故。
單車智能研發(fā)的困難在于場景適應(yīng)性。目前,自動駕駛汽車在規(guī)范環(huán)境下表現(xiàn)較好,如沒有陰雨天、道路施工或行人無規(guī)則穿行等情況,但實際應(yīng)用中,單一模型難以覆蓋由數(shù)千條道路、不同的天氣、駕駛習(xí)慣、行人變動等構(gòu)成的復(fù)雜路況。
「在這種情況下,車與車之間的通訊就變得很重要,但這種通訊交換并不限于信息或數(shù)據(jù),更理想的情況下應(yīng)該是——智能。」于非告訴AI 科技評論。
而集體學(xué)習(xí)的另一層權(quán)衡要素,則是個體性的保持。于非說到,「保證通訊的信息可靠性也是非常重要的一環(huán),安全和效率通常需要進行權(quán)衡?!?/p>
隨著連接性和自動化水平的提高,惡意用戶能輕松實施不同類型的攻擊,威脅到單體車輛安全性,進而威脅到 CAV 的安全性。
CAV 是一個非常復(fù)雜的系統(tǒng),容易遭受的攻擊點更是不計其數(shù)。僅相關(guān)無線接入技術(shù)就包括專用短程通信、蜂窩網(wǎng)絡(luò)、WLAN、藍牙和衛(wèi)星通信等;通訊框架實體則包括 OBU、應(yīng)用程序單元、路邊單元(RSU)和傳感器等;傳感器、全球定位系統(tǒng) (GPS) 和攝像頭等是實現(xiàn)自動駕駛的關(guān)鍵部件。無論哪一個部件遭受攻擊,都可以影響單車乃至整個 CAV 的正常運行。
對此,于非另一個主要研究方向「區(qū)塊鏈」,可在 CAV 的環(huán)境中通過區(qū)塊鏈(DLT)技術(shù),實現(xiàn)對車輛隱私數(shù)據(jù)——即「智能交換」的內(nèi)容進行保護。
智能交通中,車輛通常具有多個網(wǎng)絡(luò)接口來與路邊單元 (RSU) 和環(huán)境車輛進行通信。區(qū)塊鏈技術(shù)的分布式特性可增強智能交通的魯棒性,改善車輛通信管理和信息共享,從而建立起去中心化、可信、安全的智能交通系統(tǒng)。
自動駕駛汽車無疑是人工智能改變?nèi)祟惿畹囊粋€備受矚目的話題。以集體學(xué)習(xí)為關(guān)鍵的學(xué)習(xí)范式,在保證區(qū)塊鏈的性能后,智能互聯(lián)得到進一步的應(yīng)用和實現(xiàn)。
對話于非:「明白了就獲得了自由」
圍繞《智能簡史》,AI 科技評論與于非教授進行了一次對話,以下是部分對話內(nèi)容對前述文章的進一步補充:
AI 科技評論:為什么單車智能仍然是非常困難的事情?
于非:2014年,Elon Musk(特斯拉CEO 埃隆·馬斯克)就開始把特斯拉的系統(tǒng)叫 FSD,F(xiàn)ull Self-Drive,當(dāng)時就開始許諾說「FSD will be arriving next year」,但到現(xiàn)在都沒有實現(xiàn),結(jié)論是這個東西太難實現(xiàn)了。我在加拿大期間也做過類似的研究,發(fā)現(xiàn)簡單有限的情況下比較容易(實現(xiàn)),但真正實現(xiàn)起來非常困難。
由于這個事情,我就一直在思考到底是什么問題,運用一些人工智能的算法為什么無法解決,帶著學(xué)生也在做這方面的研究,這跟我這本書(《智能簡史——從大爆炸到元宇宙》)的成型也很有關(guān)系。
Elon Musk 說過一句話,他說自己是個 engineer ,但自動駕駛并不是一個 engineer problem,而是 science problem,science 根本沒有解決到底什么叫人工智能,engineer 是做不出來的。
AI 科技評論:這個 science problem 如何解決?
于非:人工智能經(jīng)過了幾起幾落,有很多關(guān)于人工智能的驚人消息,它成功地完成了人類所做的事情,甚至做得更好。隨著人工智能的最新進展,人類智能與人工智能之間的差距似乎正在迅速縮小。諸如此類的新聞和科幻電影讓我們相信,通用人工智能(Artificial General Intelligence)或超級人工智能的發(fā)展在未來可能不會太遠。
但后來總是一次又一次的被潑一盆冷水。
science problem 怎么解決,科學(xué)里面最重要的就是定義。這個東西到底是什么?如果只是文字上的描述,在數(shù)學(xué)上不是可定義、可量化的話,這個問題就解決不了。所以我一直在思考怎么定義,怎么把它變成科學(xué)。我查了大量的書,看看其他的科學(xué)是怎么產(chǎn)生的,這就是這本書(《智能簡史》)的一整個思維過程。
AI 科技評論:最后的結(jié)論是從宇宙大爆炸開始。
于非:對,這本書的副名——從大爆炸到元宇宙,將來可能實現(xiàn)元宇宙,那最開始的時候,我們相信 science 就是從大爆炸開始的,從大爆炸開始,「智能」到底是怎么一回事?
研究過程中我發(fā)現(xiàn)很有意思,從大爆炸開始一直到物理學(xué)的產(chǎn)生,爆炸之后產(chǎn)生了一個物理世界,出現(xiàn)了很多的「智能」現(xiàn)象。最大的一個智能現(xiàn)象,就是天體運行,多個星球能夠有序地運轉(zhuǎn),這并不止我們現(xiàn)在覺得奇妙,牛頓也曾覺得很奇妙。
牛頓有一句名言是,「我不知道為什么,我只知道這個東西可能符合萬有引力定律」,跟質(zhì)量成正比,跟距離的平方成反比,再加上一個系數(shù)。這是來自于一個「智能的上帝」,他用了一個詞是「intelligent being」。只能說物理世界本身就有智能現(xiàn)象的存在,這是物理學(xué)里比較著名的一個例,由于引力造成的這種「智能」一直存在。
1744年,法國科學(xué)家皮埃爾-路易斯·莫羅·德·莫佩爾圖伊(Pierre-Louis Moreau de Maupertuis)發(fā)現(xiàn)了最小作用原理,他發(fā)現(xiàn),一件物體在扔出去后,是沿著一個最小作用量、交給上帝由一個點挪動至另一個點,上帝會選擇一條最短、最省力的路徑。包括光。假設(shè)我們有一杯水,將筷子放進去后呈彎曲狀,這是光最省力的一條路。莫佩爾圖伊將其視為一個重大發(fā)現(xiàn),作為上帝存在的證明,但在當(dāng)時受到大家的嘲弄。
此后,最小作用量原理成為物理學(xué)中最基本的一個原理,對后來一些科學(xué)的發(fā)展起到了重要影響。包括我寫《智能簡史》期間看到時,也覺得很震撼。
緊接著是物理學(xué)到化學(xué),也都有類似的一個個階段進化的例子。
AI 科技評論:那像您所說的,從物理、化學(xué)到生物,甚至未來虛擬世界,人工智能,都可以用一個邏輯來理解「智能」?
于非:可以用同樣一個邏輯,這也是我思考的初衷,我想要用同一個邏輯來理解這個世界是怎么運轉(zhuǎn)的。所以《智能簡史》我選擇的第一條名人名言,就是斯賓諾莎的「人類所能企及的最高活動就是為明白而學(xué)習(xí),因為明白了就獲得了自由」。能否用一個簡單的道理來解釋整個運轉(zhuǎn)過程,這也是科學(xué)探索最高的境界。
science 和 engineer 不一樣,engineer 是「我想解決一個問題」,science 是「我想明白這個事情」,這二者最基本的一個區(qū)別。但在明白這個世界之后,它會告訴你怎么去解決這個問題。
因此我將《智能簡史》里的「智能」定義叫做一種假說,這個假說從大爆炸開始到目前這個世界,從物理學(xué)、化學(xué)到生物,都是為了推動宇宙平衡穩(wěn)定而造成的一種一一各種各樣的自然現(xiàn)象。舉個例子,我將水杯放在桌子上,往旁邊挪它就會掉下來,掉下來可能是因為萬有引力,那為什么跟萬有引力相關(guān)?這是因為如果它不掉下來,那么系統(tǒng)就不穩(wěn)定,而當(dāng)它掉下來之后,這個系統(tǒng)就變成穩(wěn)定了。
再例如燒開的熱水,熱水的熱量在房間里不擴散時,它是一個不穩(wěn)定的系統(tǒng),因為杯內(nèi)很燙、而外部很冷,這就造成了兩者間存在一種梯度。當(dāng)熱量擴散時,兩者趨于溫度相同,系統(tǒng)也就變得穩(wěn)定了。與此同時,作為一個穩(wěn)定的過程,擴散并不是緩慢進行的,而是以一個最快的、最省力的情況來達成穩(wěn)定。
AI 科技評論:這種對智能的認(rèn)識對您的研究有什么指導(dǎo)意義?例如說,在您自動駕駛相關(guān)研究里,這種最快、最省力達到穩(wěn)定的原則是怎么得以應(yīng)用的?
于非:非常好的問題。這有一個基本原則,就是關(guān)于「智能」的定義。智能的本質(zhì)是什么?就是對信息耗散多少的量化。信息在不同的個體中存在差值,出現(xiàn)了梯度,造成系統(tǒng)不穩(wěn)定。
自動駕駛也是如此,一個熟練的老司機和自動駕駛機器系統(tǒng)存在梯度,即使機器可以通過各種各樣的算法去學(xué)習(xí),但為什么還是學(xué)不好?究其原因,就是因為車和人的大腦存在梯度、「智能」沒有量化,如果將智能度量出來,量化差值,有了科學(xué)的指導(dǎo)后,就可以很清晰地知道(自動駕駛)還需要在哪一些方面來提高。
在智能時代,「智能」沒有一個清晰的定義是不可想象的。雖然我們也能實現(xiàn)一定的智能,但因為沒有數(shù)學(xué)定義,大家往往通過各種各樣的途徑想要達到。
比如,通過強大的算力和超大的數(shù)據(jù),把現(xiàn)有的算法模型發(fā)揮到及至。這種「大力出奇跡」的「暴力美學(xué)」,已經(jīng)產(chǎn)生超大的模型:1750億個參數(shù)的GPT3, 1.6萬億個參數(shù)的Switch Transformer。訓(xùn)練這些超大模型消耗的電量需要幾萬度,產(chǎn)生的二氧化碳當(dāng)量,相當(dāng)于一輛汽車行駛地球與月球之間距離的排放量。相比之下,人腦的工作功率約為20W,這足以覆蓋整個人思維能力。
對智能本質(zhì)理解的缺乏限制了人工智能的發(fā)展,以至于我們只能通過「暴力美學(xué)」,「調(diào)整參數(shù)」等「體力勞動」來換取微弱的性能提升。
「你無法在造成問題的同一思維層次上解決這個問題。」愛因斯坦說:「你必須超越它并達到一個新的層次,才能解決這個問題?!乖谘芯恐悄艿倪^程中,研究的對象不能僅局限于人類,而是應(yīng)該超越人類的層次,考慮宇宙中不同的事物,在更高的層次上研究智能。
當(dāng)我們在更高的層次上研究智能,考慮到宇宙中不同的事物,將會發(fā)現(xiàn)智能是一種自然現(xiàn)象,和其他自然現(xiàn)象(如巖石滾動和冰雪融化)類似。這些現(xiàn)象都是為了促進宇宙的穩(wěn)定性而出現(xiàn)。
雷峰網(wǎng)雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。