0
| 本文作者： 高秀松 | 2022-05-30 14:13 |
自然界中，「螞蟻覓食」是一種尋常但奇特的現(xiàn)象。
成群結(jié)隊的螞蟻，總是能夠在食物與蟻巢之間尋找到最佳路徑，快速地將食物搬運至蟻巢中。這引起了生物學家的廣泛注意，在經(jīng)過多次研究實驗之后，他們發(fā)現(xiàn)：
螞蟻在尋找食物過程時具備隨機性，沒有固定的方向和目標，但只要有一只螞蟻發(fā)現(xiàn)食物，這只螞蟻在搬運食物回巢時，就會留下一種微弱的氣味，即一種叫做「信息素」的物質(zhì)。其它螞蟻會沿著該氣味尋找到食物，然后再次留下氣味蹤跡。最終，越來越多的螞蟻加入其中，形成了一條最優(yōu)化的路徑。
這種特性讓螞蟻在覓食行動中，群體的效率遠高于個體，不需要浪費更多的時間與精力。換句話說，單只螞蟻覓食低效而低智，而當螞蟻成群，就能爆發(fā)出一種隱形的群體智能，通過協(xié)作達到「整體最優(yōu)」。
類似的現(xiàn)象在自然界中比比皆是：大雁在遷徙時會排成陣列，在「人」和「一」中來回切換；鯡魚在面臨捕獵者時會相互「預警」；蜜蜂則擁有高效的「決策系統(tǒng)」。
就連人類本身，也存在類似的「群體智能」：「世上本是沒有路的，走的人多了，也便有了路?！?/p>
人們從A點走到B點，起初會有無數(shù)條路徑，但最終會出現(xiàn)一條最優(yōu)的路徑，這正是人們在實踐中進行無數(shù)次「探索」和不知覺中協(xié)作的結(jié)果。
因此，不論是處于食物鏈頂端的人，還是諸如螞蟻、蜜蜂等低等動物，在形成群體之后，都能爆發(fā)出一種群體智慧。這種智慧來源于群體各成員之間的「默契」與「配合」，進而給群體帶來整體利益的「最優(yōu)解」。
當這些現(xiàn)象被觀察、解析之后，其內(nèi)在的群體智慧邏輯被借鑒至多個學科，例如社會學、組織行為學、經(jīng)濟學等等。
也有不少學者將其應用到人工智能領域，做了一系列研究，成果涵蓋從最初的「蟻群優(yōu)化算法」、「粒子群優(yōu)化算法」到后來的群體智能、眾包、群體計算等概念，并產(chǎn)生了比較多的應用，如無人機協(xié)作、智能電網(wǎng)等等。
其中，「群體智能」作為未來人工智能的5個重大方向之一（《新一代人工智能發(fā)展規(guī)劃》，國務院，2017），在學術(shù)界已經(jīng)引起廣泛關注，不少學者紛紛將「群體智能」與自身研究方向相結(jié)合，試圖以「群體智能」的視角來重新探索各種涉及到組織協(xié)作、參與者人數(shù)較多的問題的解決之道。
黃建偉正是其中之一。
作為IEEE通信學會杰出講師，他于2016年當選IEEE Fellow，當選時年僅37歲，是當年全球最年輕的幾個Fellow之一。官方給出的原因是，表彰其「在無線通訊網(wǎng)絡的資源管理及分配機制上的重大貢獻」。
在具體研究方向上，黃建偉長期專注于網(wǎng)絡優(yōu)化、群體智能和經(jīng)濟學交叉領域的開創(chuàng)性研究，總共發(fā)表了7本英文學術(shù)專著，300多篇國際一流期刊和會議論文，谷歌學術(shù)總引用超過14400次。
他的論文九次獲得國際會議和期刊的最佳論文獎，包含2011年「IEEE馬可尼無線通信論文獎」（無線通信領域最重要的獎項之一）。此外，他還曾獲得2009年IEEE通信協(xié)會亞太杰出青年研究學者獎、2014年香港中文大學青年研究學者獎。
過去5到6年的時間里，黃建偉在「網(wǎng)絡+經(jīng)濟」的基礎上，拓展出群體智能的方向，著重探索解決群體智能領域一個長期的公開問題：群智決策中如何驗證事實正誤。
而在群體智能這個領域，他的研究也深入到了聯(lián)邦學習、群智決策等細分方向，并且將成果應用到了碳中和、交通、智慧城市等多個場景之中。
近日，雷峰網(wǎng)-AI科技評論與黃建偉博士就「群體智能」這一話題進行了對話，后者從「群體智能」的定義、研究內(nèi)容、應用、未來研究方向等多個方面進行了深入淺出的講解。雷峰網(wǎng)-AI科技評論將其整理成文，以饗讀者。
讓我們先來看看，什么是「群體智能」。
1992年，意大利學者Marco Dorigo 受螞蟻覓食的靈感，在其博士論文里提出了「一種用來在圖中尋找優(yōu)化路徑的概率型算法」，即「螞蟻優(yōu)化算法」（ACO）；三年后，社會心理學家James Kennedy和電氣工程師 Russell Eberhart 通過模擬鳥群覓食行為，提出了「粒子群優(yōu)化算法」（PSO）。
這兩種算法出現(xiàn)之后，關于「群體智能」的研究開始涌現(xiàn)，相關論文逐年增加。
由于這兩種算法都是受動物覓食啟發(fā)，研究的是幾乎沒有智能的昆蟲（螞蟻、蜜蜂等）在形成整體之后，涌現(xiàn)出很強的智能性。因此，群體智能最早的含義，在英語語境下，被稱為“Swarm Intelligence”。
根據(jù)Marco Dorigo的闡述，從廣義的角度看，「群體智能」指的是群居性生物通過協(xié)作而表現(xiàn)出的集體智能行為；而從學科研究的角度看，「群體智能」則指受自然界中群體協(xié)作行為啟發(fā)，研究問題求解算法或分布式系統(tǒng)理論與方法的學科。
后來，不少學者將「群體智能」與各類學科融合在一起，如社會學、組織行為學、人工智能等，來研究社區(qū)、團體內(nèi)，成員之間進行互動，來實現(xiàn)整體收益的最優(yōu)。從這個角度看，群體智能又被稱為「Collective Intelligence」。
「兩種說法很多時候沒什么區(qū)別，大家也都是混用，只是從不同的角度出發(fā)而已?！?/p>
黃建偉告訴雷峰網(wǎng)-AI科技評論，實際上，如果按照研究對象分，「群體智能」在業(yè)內(nèi)還有另一種叫法——Crowd Intelligence。與前兩種相比，Crowd Intelligence 以人為主，旨在研究大量的人如何實現(xiàn)智能決策的問題。因而，Crowd Intelligence主要關注兩方面：
組織問題的計算化；
計算問題的組織化。
所謂組織問題的計算化，即將某個整體組織協(xié)調(diào)的問題的計算變成分布式計算。
比如，在一些網(wǎng)約車平臺上，每個司機都是獨立的個體，如何把這些司機有效地組織起來，來實現(xiàn)整體資源的最優(yōu)分配，就需要將整個問題通過去中心化的分布式計算來實現(xiàn)供需平衡。
計算問題的組織化，即將復雜問題拆解為多個模塊，每個模塊由不同的單元負責，最終將問題消解掉。用比較通俗的話講，就是「大事化小、小事化了」。
引用國內(nèi)北航的兩位學者，李偉和吳文峻對于 Crowd Intelligence 的相關研究，其與 Collective Intelligence 的關系如圖所示：
從圖1不難看出， Crowd Intelligence 在數(shù)學意義上屬于Collective Intelligence 的子集，Crowd sourcing（眾包，一種分解任務的方法）和 Human computation（人類計算，一種計算方式） 的交集。
因此，Crowd Intelligence 屬于群體智能（Collective Intelligence） 的一種，這也是黃建偉的研究方向之一，后續(xù)文章提到的「群體智能」，如無特別指出，皆指代Crowd Intelligence。
Crowd Intelligence 的研究對象以 Crowd（人群）為主，旨在通過借鑒簡單類群居生物表現(xiàn)出的群體智能，來解決人類生活中面臨的實際問題，其與各學科的交融，尤其是與AI的融合，可在多個領域應用。
以聯(lián)邦學習為例：
傳統(tǒng)生產(chǎn)人工智能模型依賴大量數(shù)據(jù)，在進行數(shù)據(jù)預處理、標注等環(huán)節(jié)之后，在大算力的服務器上進行訓練，然后調(diào)參、優(yōu)化等，最終產(chǎn)生模型。
然而在實際應用中，數(shù)據(jù)量并不一定足夠，因為許多用戶出于隱私的考慮，不愿貢獻數(shù)據(jù)。那么該怎樣去生產(chǎn)一個復雜有效的模型呢？
聯(lián)邦學習就是一個「群體智能」的應用案例：用戶通過本地數(shù)據(jù)做計算，然后將計算模型貢獻給中央服務器，進行相互交流、調(diào)優(yōu)；通過這種不接觸本地數(shù)據(jù)的方法，也可以產(chǎn)生有效的人工智能模型，且規(guī)避了數(shù)據(jù)泄露的風險。
在具體應用方面，「群體智能」已經(jīng)被廣泛運用到智慧城市的各個場景，例如智慧交通、智慧物流、智能電網(wǎng)、碳中和等等。
2015年年底，黃建偉當選IEEE Fellow，年僅37歲，當年全球40歲以下獲此殊榮的人只有6人。
前面已經(jīng)提及，其當選理由是：對無線系統(tǒng)資源分配的貢獻。但更為具體的表述，應是「從經(jīng)濟學和博弈論的角度去分配無線網(wǎng)絡資源」。
很難想象，本科學習無線通訊的黃建偉，后來會與經(jīng)濟學、博弈論產(chǎn)生聯(lián)系，并因此而獲獎。
據(jù)黃建偉介紹，他與經(jīng)濟學、博弈論的「相遇」是從東南大學無線電工程系本科畢業(yè)之后，本世紀初在美國西北大學攻讀碩博的時候。當時他師從 Michael Honig 教授和 Randall Berry 教授，在兩位導師的指導下開始搞跨學科研究。
Michael Honig 是最早研究無線網(wǎng)絡經(jīng)濟學的學者之一，曾在貝爾實驗室工作過很長時間，后于1994年前往西北大學擔任講席教授，開創(chuàng)了在網(wǎng)絡中引入經(jīng)濟學的先河，黃建偉后來做網(wǎng)絡經(jīng)濟學，尤其是無線網(wǎng)絡經(jīng)濟學，就是受其影響。
Randall Berry與黃建偉則更接近于「亦師亦友」的關系：黃建偉攻讀博士學位時，Randall Berry剛從麻省理工畢業(yè)滿一年，兩個人同樣沒有經(jīng)濟學基礎，便一起去西北大學經(jīng)濟系上博弈論的課程，討論博弈論與無線頻譜之間的關系。時至今日，Randall Berry已經(jīng)是西北大學 ECE 系主任。
從兩位導師那里，黃建偉除了在無線通訊領域獲得指導以外，還跨學科學習了經(jīng)濟學，以及博弈論的相關課程。并且，這種跨學科研究給他后來的執(zhí)教也帶來了深刻影響。
在帶學生時，他總會強調(diào)一點：要有open mind（開放的思維），一定要對很多學科的知識感興趣，并且善于學習，「如果遇到不懂的知識，大家可以一起學習，學生反過來教他，也是很正常的」。
2005年，黃建偉獲西北大學電子與計算機工程系博士學位，旋即進入普林斯頓大學從事博士后研究，研究方向為網(wǎng)絡優(yōu)化。2007年，黃建偉從海外歸國，在香港中文大學信息工程系擔任助理教授，創(chuàng)立了網(wǎng)絡通訊與經(jīng)濟學實驗室（Network Communications & Economics Lab，NCEL），歷任副教授，教授，現(xiàn)任香港中文大學（深圳）校長講座教授、理工學院副院長，深圳市人工智能與機器人研究院（AIRS）副院長，培養(yǎng)出了多位優(yōu)秀學者。
他與「群體智能」的第一次直接接觸是在2011-2012年。當時，黃建偉率領團隊研究的一個如何在電動車充電高峰期調(diào)節(jié)電網(wǎng)負載的課題，目的是使電網(wǎng)在滿足電動車大規(guī)模充電需求的同時，能夠進行有效調(diào)節(jié)。在該項目中，采用了「群體智能」相關的激勵機制，但在那時「并沒有想到『群體智能』這個概念」。
2015-2016年，黃建偉開始系統(tǒng)研究「群體智能」，主要做了兩方面的工作：群體決策；數(shù)據(jù)的隱私保護。而在具體研究方向上，則涵蓋分布式機器學習、聯(lián)邦學習、小樣本學習等。
2017年，黃建偉團隊在研究網(wǎng)絡定價方面的工作獲當年IEEE 通訊協(xié)會最佳青年論文獎，論文的內(nèi)容便是「通過經(jīng)濟學的方法去研究如何進行最佳數(shù)據(jù)采集，同時保護用戶的隱私」。
同年，國家發(fā)布了《規(guī)劃》，將「群體智能」列為人工智能的5大方向之一。當時，人工智能浪潮正激流勇進，但與「群體智能」的聯(lián)系并不緊密，許多用到「群體智能」的場景，并沒有用到人工智能，而利用人工智能來解決問題已成大勢所趨。
因而，在國家政策引導與AI的發(fā)展趨勢下，黃建偉開始把研究重心放在「群體智能」上。
學術(shù)界研究「群體智能」已不是新鮮事，但在2010年，《Science》的一篇文章引起了廣泛注意，這篇文章提出一個命題：假設一群人聚在一起，那么這群人體現(xiàn)出來的智力水平，受哪些因素影響？
該研究發(fā)現(xiàn)，影響群智力水平最主要有三個因素：
人群的社會敏感度，即群體成員之間能否進行有效互動；
群體中個體平等發(fā)言的機會；
女性占比。
也就是說，在人群之間能夠有效互動，并且每個個體都能具備平等發(fā)言機會，而女性處于合適占比的情況下，這群人體現(xiàn)出來的智力水平將高于其它情況。其中，群體成員之間的有效互動，是最主要的因素。
該研究進一步發(fā)現(xiàn)，要實現(xiàn)群體成員之間的有效互動，必須設立相應的「激勵機制」，來保證成員的積極性。這恰是黃建偉的研究內(nèi)容之一。
前面曾有提及，在「群體智能」方面，黃建偉做了兩方面的工作，群智決策和數(shù)據(jù)隱私保護。而在群智決策方面，黃建偉率團隊解決了一個問題：群智決策中如何驗證事實正誤。
「過去五六年時間里，我們想要解決群智決策的問題，這實際上是一個很難的問題，因為當一個復雜問題通過眾包的方式分發(fā)給個體，個體在解決問題之后，無法驗證其解決問題答案的對錯，也就是事實無法驗證情況下的群體決策?！?/p>
舉個例子：美國大選前有調(diào)查機構(gòu)做預測，但預測結(jié)果會因各種條件發(fā)生變化，結(jié)果各不相同，但當大選結(jié)束，會有一個正確答案，該問題的結(jié)果是可以驗證的。而如果要鑒定達芬奇畫的一幅圖，不同的專家、學生、畫家等人都可以通過自身的認知來進行判斷，把大家的結(jié)果綜合在一起，最后可以產(chǎn)生一個群體結(jié)果，但這個結(jié)果的答案是不可驗證的，除非達芬奇死而復生，指明這幅圖是他的真跡，否則這幅圖的真假將永遠成謎。
黃建偉對此問題的解法是，通過設計合理有效的激勵機制，一方面鼓勵參與者努力投入，使得整體答案接近于事實；另一方面，通過多數(shù)人投票機制，根據(jù)多數(shù)人的答案來決定事實的正誤。
具體來看，在群體決策中，由于個體之間的能力差異，以及利益動機，要實現(xiàn)決策最優(yōu)是非常困難的。因此，通過激勵機制來鼓勵有能力的個體投入更多的時間和精力來做決策，配合以多數(shù)投票規(guī)則來篩選出高質(zhì)量的眾包工人，以此提高整體決策力量，是一種可行的方法。
引用判定達芬奇畫的真假這一案例，通過設置對應的激勵，激發(fā)所有參與者的投入，將所有答案綜合起來，那么這個答案接近真實結(jié)果的概率，理論上在提高；而最終結(jié)果遵從多人投票機制，即該答案的真假根據(jù)多數(shù)人的答案決定，比如在10個人中，有7個及以上的人，認為此畫是達芬奇的真跡，那么該結(jié)果就遵從多數(shù)人的判斷，認為這幅畫的確出自達芬奇的手筆。
在「群智決策」之外，類似的激勵機制還被應用在「聯(lián)邦學習」中。
聯(lián)邦學習的原理是，用戶在本地數(shù)據(jù)進行訓練之后，將訓練結(jié)果傳送到中央服務器，再次進行訓練。但這個本地學習過程，對于中央服務器是不透明的，用戶有無認真進行模型訓練，對中央服務器而言是一個黑匣子。
這個問題可以通過挺入激勵機制來解決：設計有效的激勵機制，鼓勵那些學習成本較低、數(shù)據(jù)較多的用戶，積極參與聯(lián)邦學習，從而提高聯(lián)邦學習的整體效果。
黃建偉團隊發(fā)現(xiàn)，聯(lián)邦學習產(chǎn)生的模型可以作為商品交易，其稱之為「機器學習模型的交易」。
所謂「機器學習模型的交易」，指的是在聯(lián)邦學習過程中，一些擁有數(shù)據(jù)、能做聯(lián)邦學習的參與者，訓練出來的模型，可以作為商品，與那些沒有數(shù)據(jù)、無法做訓練，但又需要用到模型的參與者進行「價值交換」。
舉個例子：出租車司機基于其日積月累的經(jīng)驗，對路況的了解比普通人更多，不過出于隱私原因，司機并不打算把自己掌握的數(shù)據(jù)告訴別人。但是這些數(shù)據(jù)在本地訓練之后，可以將訓練結(jié)果傳送至中央服務器，從而訓練出對應的模型，而這個模型可以作為商品進行交易 。因此，對應的平臺需要設立對應的「激勵機制」，來鼓勵這些有數(shù)據(jù)的司機，參與到聯(lián)邦學習過程中，以提高模型精度。
「機器學習模型的交易，是一個非常新的方向，目前做的人比較少，但非常有意思?！?/p>
總而言之，不論是群智決策，還是聯(lián)邦學習，都不可避免需要用到「激勵機制」，才能使決策、模型達到更好的效果。這正如黃建偉所言：
「把激勵機制的問題解決好，才實現(xiàn)『群體智能』的效率最優(yōu)?！?/span>
如今，提起「智能」二字，必然離不開人工智能（AI），「群體智能」似乎也離不開AI。
實際上，「群體智能」最早與人工智能沒有聯(lián)系，其研究的是螞蟻蜜蜂等簡單生命體在群體中涌現(xiàn)的智能；而AI則是讓機器像人一樣思考，研究對象并不相同。
但現(xiàn)在「群體智能」已經(jīng)成為人工智能的5個重點方向之一，該如何理解群體智能與AI的關系？
在黃建偉看來，過去幾十年關于AI的研究，主要集中在數(shù)據(jù)、算力、算法三個方面，讓機器形成類人智慧的能力。但人們發(fā)現(xiàn)，這條路不一定走得通。
數(shù)據(jù)方面，數(shù)據(jù)在不斷增加，但許多都是分布式數(shù)據(jù)，而非集中式數(shù)據(jù)，并且出于隱私原因，人們不愿意進行數(shù)據(jù)共享。
算力方面，過去十幾年，算力飛速增長，但算力本身不能無限擴張，而在很多普通場景，并不能獲得大量算力。因此，對高算力的依賴，已經(jīng)成為許多深度學習算法在實際應用中的瓶頸，在此趨勢下，分布式算力成為主流。
也就是說，人工智能本身要進一步發(fā)展，必然要利用好這些分布式算力和分布式數(shù)據(jù)，而這與群體智能的關系非常緊密。因為「群體智能」本身，就是依托群內(nèi)「個體」之間的協(xié)作配合，來解決問題。
這也是為何「群體智能」在人工智能的討論中越來越重要的原因：如果不能有效聚合、調(diào)動成千上萬的智能體來解決問題，那么人工智能就喪失了形成巨大智能的途徑。
以無人機群體作業(yè)為例，每一架無人機能夠存儲的數(shù)據(jù)量并不大，計算處理能力很弱，靠單架無人機很難做一些計算較為復雜的問題，如火災預警、道路檢測等。然而一旦實現(xiàn)群體作業(yè)，無人機之間能夠?qū)崿F(xiàn)數(shù)據(jù)傳輸，只要有一臺無人機做過對應的模式識別，那么就能檢測出問題，把信息傳輸出去。
「多個智能體在有限的數(shù)據(jù)、計算條件下，實現(xiàn)互相協(xié)作，來解決問題，在現(xiàn)實生活中，遠比大數(shù)據(jù)計算的應用面更廣。」
所以，從人工智能本身發(fā)展的角度，借鑒「群體智能」的邏輯，也自然而然在情理之中。而當政府出臺《規(guī)劃》之后，「群體智能與人工智能的聯(lián)系就更為緊密了」。
在「群體智能」方面，國內(nèi)已有不少學者展開了深入研究。
中科院梅宏院士提出了「探索融合反饋模型」，該模型把個體搜索融合起來，將結(jié)果反饋給群體，使其能夠更好地決策；鵬程實驗室的于全院士，做了基于蜂群的群體決策；清華大學劉云浩教授則發(fā)力群體感知......
與上述學者不同的是，黃建偉擅長通過「網(wǎng)絡博弈」來研究「群體智能」。具體來看，就是用「網(wǎng)絡博弈」來連接其「網(wǎng)絡經(jīng)濟學」，即用經(jīng)濟學的方法研究了大量的網(wǎng)絡資源分配的優(yōu)化問題。這也是黃建偉團隊的鮮明研究特色之一。
「如果把網(wǎng)絡看作市場，那么網(wǎng)絡資源本身是有限的，用戶會在線性約束條件下爭奪資源，這實際上是一種非合作博弈 ，那么該如何滿足用戶對網(wǎng)絡的增長需求？」
國內(nèi)做的比較多的研究，多以技術(shù)為導向，即把網(wǎng)絡做得更快、傳輸速度更高、延遲更短；但除了技術(shù)之外，網(wǎng)絡資源也可以通過分配來滿足市場需求、實現(xiàn)社會效益的最大化。
比如，不同用戶對于網(wǎng)絡資源的需求差異（時間、延遲）較大，容易造成資源的閑置、浪費，那么就可以通過設計對應的市場機制，實現(xiàn)有效分配。
「在『群體智能』里面，個體的決策與他人決策密切相關，每一個決策者的收益將取決于個體行為與他人之間的交互，才能達到整體最優(yōu) ，這實際上就是一種網(wǎng)絡博弈?！?/p>
目前，國內(nèi)做技術(shù)研究的更多，而研究分配、激勵用戶參與，通過分配機制來解決問題的學者相對較少。因而，在黃建偉看來，分配與激勵，應該是未來「群體智能」的發(fā)展發(fā)向之一，能推動「群體智能」算法實現(xiàn)廣泛應用。
除此之外，對于「群體智能」，黃建偉認為，還有三個方向值得關注：
一是多智能體的強化學習。
一般的人工智能算法嚴重依賴數(shù)據(jù)，但強化學習的出發(fā)點是「數(shù)據(jù)很少甚至沒有」，是通過與環(huán)境的不斷交互，獲得反饋之后進行學習，目前對于強化學習的研究也主要集中在單智能體上。
「群體智能」本身依賴多個智能體的協(xié)作配合，因而多智能體的強化學習變得很重要。即多個智能體之間實現(xiàn)交互，通過分布式個體與環(huán)境之間的交互學習來解決問題，比如車路協(xié)同。
二是模型交易。
「群體智能」的最終結(jié)果，可能體現(xiàn)在一個具體的機器學習模型上，而這些模型實際上可以通過交易，來惠及他人。目前，業(yè)界模型交易市場已初具雛形，但非常有限，相關的理論分析幾乎沒有。
三是隱私保護。
在實現(xiàn)「群體智能」的過程中，不可避免要涉及數(shù)據(jù)隱私問題，參與者越多，數(shù)據(jù)泄露的風險也就越大，因此必然要有一系列的算法設計，把隱私保護融入進去。
「『群體智能』里面有很多問題，我們研究的是通過網(wǎng)絡博弈，通過經(jīng)濟學設計好的激勵機制，然后與算法相結(jié)合，來解決問題，這是一個研究相對較少但重要的方向。我們希望通過長期積累的核心理論基礎與實踐結(jié)合，來實現(xiàn)突破。」黃建偉說道。雷峰網(wǎng)雷峰網(wǎng)(公眾號：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
