0
| 本文作者： 郭思 | 2023-11-30 18:42 |
自去年年底ChatGPT問(wèn)世以來(lái)，大模型火爆的浪潮已經(jīng)持續(xù)了大半年，數(shù)據(jù)顯示截止10月份國(guó)內(nèi)已經(jīng)發(fā)布了238個(gè)大模型。與眾多基礎(chǔ)大模型形成顯著對(duì)比的是國(guó)內(nèi)AI應(yīng)用的極度匱乏。這也是現(xiàn)階段中美大模型發(fā)展的顯著差異之一。
早在今年3月，OpenAI推出ChatGPT插件功能之際，英偉達(dá)AI科學(xué)家Jim Fan就曾表示，如果說(shuō)ChatGPT可以看作蘋果手機(jī)的出現(xiàn)，那么第三方插件的出現(xiàn)就意味著類似于蘋果應(yīng)用商店的模式出現(xiàn)了。而在剛剛過(guò)去的OpenAI開(kāi)發(fā)者大會(huì)上，OpenAI更是推出了GPTs—人人皆可零代碼實(shí)現(xiàn)定制化個(gè)人聊天機(jī)器人，甚至可以在應(yīng)用商店進(jìn)行商業(yè)運(yùn)作。
可以說(shuō)這預(yù)示著利用大模型的公司進(jìn)入成本效率和創(chuàng)新的新時(shí)代，將重塑大模型在業(yè)務(wù)和開(kāi)發(fā)中的應(yīng)用格局。事實(shí)也的確如此，如果不重視AI應(yīng)用，大模型將永遠(yuǎn)停留在空中樓閣，熱潮也將逐漸冷卻。大模型可能僅僅會(huì)成為一個(gè)概念詞，無(wú)法產(chǎn)生真正的生產(chǎn)力變革。
而另一方面，與大模型更強(qiáng)的泛化性能力一同前來(lái)的是在AI可信和安全性上的更大挑戰(zhàn)，深度學(xué)習(xí)的奠基人之一Yoshua Bengio在前一陣便聯(lián)合多位大佬，發(fā)文探討了如何在人工智能（AI）快速發(fā)展的時(shí)代管控相關(guān)風(fēng)險(xiǎn)，共同尋求當(dāng)下生成式人工智能迅速發(fā)展時(shí)期的潛在風(fēng)險(xiǎn)管理措施。AI可信和安全從始至終都是需要解決的重點(diǎn)難點(diǎn)，AGI時(shí)代帶來(lái)的安全隱患和威脅，可能不會(huì)突然爆發(fā)，但一定會(huì)不緊不慢地向我們走近。
11月15日，在深圳2023西麗湖論壇上，全球科教領(lǐng)軍人物齊聚深圳，圖靈獎(jiǎng)得主馬丁·愛(ài)德華·赫爾曼，澳門大學(xué)校長(zhǎng)宋永華，香港科技園公司主席查毅超，硅谷人工智能研究院創(chuàng)始人、《硅谷百年史》《智能的本質(zhì)》《人類2.0》作者皮埃羅·斯加魯菲，百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏紛紛亮相，共同探討人工智能的發(fā)展下半場(chǎng)的走向與關(guān)注重點(diǎn)。
在整個(gè)論壇之中，我們發(fā)展，大模型發(fā)展的下半場(chǎng)，AI應(yīng)用和可信是無(wú)法忽視的議題，人工智能要想長(zhǎng)遠(yuǎn)發(fā)展，AI應(yīng)用和可信必須兩條腿走路。
近期AI圈最火的事件莫過(guò)于上周OpenAI的開(kāi)發(fā)者大會(huì)引起技術(shù)圈的全民性討論，OpenAI丟出面向開(kāi)發(fā)者的 GPT 4 Turbo 整體降價(jià)、GPT Assistant API 發(fā)布、自定義 GPT、GPT Store……都給 AI 行業(yè)帶來(lái)了巨大的沖擊，引發(fā)了極大的思考，OpenAI丟給廣大中國(guó)大模型公司的一個(gè)顯著議題便是，卷可以，但是我們是不是卷錯(cuò)了方向。
在OpenAI開(kāi)發(fā)者大會(huì)結(jié)束后，最為被動(dòng)的是一眾創(chuàng)業(yè)者們，前斑馬智行聯(lián)合創(chuàng)始人、阿里釘釘副總裁、明略首席戰(zhàn)略官?gòu)埶钩刹┦烤驮駻I科技評(píng)論表示，作為一家準(zhǔn)商業(yè)公司，OpenAl的終極對(duì)標(biāo)是Google,這一點(diǎn)和Microsoft的戰(zhàn)略利益高度一致，也是長(zhǎng)期穩(wěn)定伙伴關(guān)系的壓艙石。
而作為宇宙頭部AI企業(yè)，OpenAl的無(wú)代碼編程、降價(jià)等一系列措施無(wú)疑在往殺掉中間層的趨勢(shì)上發(fā)展。這為整個(gè)國(guó)產(chǎn)大模型劃分了兩條清晰的路徑：要么是和OpenAl血拼，繼續(xù)再造基礎(chǔ)模型，要么開(kāi)卷上層應(yīng)用生態(tài)，在已有大趨勢(shì)下殺出血路。
華爾街見(jiàn)聞近期就指出，在應(yīng)用端，海外市場(chǎng)已經(jīng)涌現(xiàn)出眾多新星。如數(shù)據(jù)服務(wù)軟件lamaindex.ai，周計(jì)訪問(wèn)量同比成長(zhǎng)122.69%。Llamalndex可以將大模型和企業(yè)數(shù)據(jù)連接起來(lái)，做定制化的LLMs，管理數(shù)據(jù)流和任務(wù)調(diào)度。類似的工具還有LangChain 。
而近期成為AI圈明日之星的的Character.ai表現(xiàn)同樣亮眼。該公司正在研發(fā)下一代的對(duì)話機(jī)器人技術(shù)，應(yīng)用范圍也極其之廣，包括娛樂(lè)、教育、常規(guī)問(wèn)答等。AI應(yīng)用最本質(zhì)的價(jià)值，可以從新一波AI的早期受益者之中看出端倪，Adobe、Abnormal、Coda、Notion、Cresta、Instabase、Harvey、EvenUp、CaseText 和 Fermat，這些均是已經(jīng)能夠?qū)⑸尚訟I加入其應(yīng)用的現(xiàn)有公司和初創(chuàng)公司。而放眼至國(guó)內(nèi)，最早造成全民效應(yīng)，實(shí)現(xiàn)C端盈利的不是資源雄厚的國(guó)家隊(duì)，也不是有著長(zhǎng)久技術(shù)積累的BAT，而是那個(gè)只需要一杯咖啡的價(jià)格，就能解鎖近70套不同風(fēng)格的個(gè)人寫真的AIGC應(yīng)用妙鴨相機(jī)。
從這一點(diǎn)上而言，對(duì)于AI應(yīng)用的重視一方面是來(lái)自外圍競(jìng)爭(zhēng)對(duì)手的啟示，另一方面也是商業(yè)本質(zhì)規(guī)律的必然驅(qū)動(dòng)結(jié)果。在今日的西麗湖論壇上，李彥宏也指出，相比起國(guó)外已經(jīng)不斷成熟的AI應(yīng)用生態(tài)，我國(guó)現(xiàn)有的AI應(yīng)用可以說(shuō)是十分稀有，在他看來(lái)“不斷地重復(fù)開(kāi)發(fā)基礎(chǔ)大模型是對(duì)社會(huì)資源的極大浪費(fèi)”。
百模大戰(zhàn)的背后，是對(duì)資源的浪費(fèi)：算力被反復(fù)糟蹋，人才被割裂稀釋，數(shù)據(jù)依然小院高墻。國(guó)內(nèi)下半場(chǎng)的主題并不是奮勇追趕，而是淘汰與整合。人類進(jìn)入AI時(shí)代的標(biāo)志，不是產(chǎn)生很多的大模型，而是產(chǎn)生很多的AI原生應(yīng)用。
他指出，現(xiàn)在的行業(yè)現(xiàn)象是，眾多企業(yè)都十分重視這個(gè)機(jī)會(huì)，但是往往最后就演變成CEO把任務(wù)交給IT負(fù)責(zé)人，以為“自己搞個(gè)基礎(chǔ)模型，或者按照網(wǎng)上傳播的評(píng)測(cè)方法來(lái)挑選一款評(píng)分高的大模型，”就是擁抱AI時(shí)代了，這其實(shí)是對(duì)公司和社會(huì)資源的極大浪費(fèi)。
上海人工智能實(shí)驗(yàn)室的首席科學(xué)家林達(dá)華也向AI科技評(píng)論表示，大模型體現(xiàn)出來(lái)的是更強(qiáng)的泛化性能力，能夠在更多領(lǐng)域帶來(lái)通用的智能化變革。這個(gè)過(guò)程中其實(shí)最終還是要回歸到一個(gè)技術(shù)本身的價(jià)值，要應(yīng)用和落地。如果大家都在同樣一個(gè)基座大模型上卷，勢(shì)必孵化不出創(chuàng)新之果。
順著這個(gè)思路，我們會(huì)發(fā)現(xiàn)，卷AI應(yīng)用是必然趨勢(shì)，但是即使知道了這個(gè)方向，在行進(jìn)的過(guò)程中又會(huì)存在哪樣的難題與壁壘呢？梅特卡夫法則提出，如果一個(gè)產(chǎn)品或服務(wù)的每一個(gè)額外用戶都能為所有其他用戶帶來(lái)更多的價(jià)值，那么你的產(chǎn)品或服務(wù)就具有"網(wǎng)絡(luò)效應(yīng)"。
雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))創(chuàng)始人林軍在近期評(píng)論什么才是好做的生意時(shí)也表示，當(dāng)一個(gè)生意可以傳承可以一代接著一代順延下去時(shí)，就證明是頂級(jí)的好生意。簡(jiǎn)單好用好傳承對(duì)于技術(shù)還是商業(yè)而言，都是制勝的不二法則五。在這一點(diǎn)上，上一代互聯(lián)網(wǎng)公司的發(fā)展也提供了很好的佐證，無(wú)論是Windons、Facebook，還是Twitter，他們都是開(kāi)源生態(tài)，會(huì)把所有的東西開(kāi)給你，然后你去做第三方應(yīng)用的對(duì)接，大家一起把生態(tài)做起來(lái)，這是原來(lái)的做法，也是為什么頂級(jí)技術(shù)都會(huì)最終走向開(kāi)源的原因。
而回到如今的AI應(yīng)用發(fā)展，大家會(huì)發(fā)現(xiàn)，OpenAI他突然開(kāi)始讓很多小團(tuán)隊(duì)無(wú)路可走了，出現(xiàn)和上一代完全不一樣的結(jié)果，這是為什么？其實(shí)是因?yàn)镺penAI自己做了各種各樣的東西，做了API，做了中間層，又在往應(yīng)用方面切，本質(zhì)原因就在于，不同領(lǐng)域的訓(xùn)練和迭代都是閉環(huán)效應(yīng)，如果應(yīng)用和用戶都在他的手里，他就會(huì)更好的訓(xùn)練和迭代。
所以超級(jí)頭部有足夠強(qiáng)的意愿以及能力，他一定會(huì)這么干。在這種方式下，個(gè)人小團(tuán)隊(duì)做應(yīng)用很難做出來(lái)，這就要求廠商的商業(yè)變現(xiàn)邏輯極大縮短，比如一兩年之內(nèi)能夠完成整個(gè)周期，否則很容易被拍死在沙灘上。AI原生應(yīng)用之路除了對(duì)企業(yè)商業(yè)模式提出了極大要求，對(duì)于環(huán)境和政策也提出了較大要求。
西麗湖論壇上，李彥宏以新能源汽車產(chǎn)業(yè)作類比表示，新能源減免購(gòu)置稅、上路不限號(hào)不限行等措施，有效拉動(dòng)了新能源汽車產(chǎn)業(yè)的快速增長(zhǎng)，AI產(chǎn)業(yè)也是需求驅(qū)動(dòng)，應(yīng)該在需求側(cè)、應(yīng)用側(cè)發(fā)力。
在這一方面，前曠視員工也曾向AI科技評(píng)論表示過(guò)類似的觀點(diǎn)，AI大潮之中，大型AI企業(yè)都在等兩個(gè)強(qiáng)國(guó)戰(zhàn)略的落地。一個(gè)是質(zhì)量強(qiáng)國(guó)，一個(gè)是知識(shí)產(chǎn)權(quán)強(qiáng)國(guó)。大家都說(shuō)美國(guó)都開(kāi)始卷垂直領(lǐng)域和應(yīng)用層了，中國(guó)怎么還沒(méi)開(kāi)始卷，這是因?yàn)樵诿绹?guó)知識(shí)產(chǎn)權(quán)的情況跟中國(guó)不一樣。
兩個(gè)國(guó)家的人口結(jié)構(gòu)和知識(shí)產(chǎn)權(quán)的結(jié)構(gòu)，決定了在同樣一個(gè)技術(shù)出來(lái)以后，演化速度和演化方向肯定是不一樣。而回歸企業(yè)本身，整個(gè)大環(huán)境帶來(lái)的是同樣的難題，一味地等待其實(shí)并不是良策，主動(dòng)擁抱，做好準(zhǔn)備方為正道君子生非異也，善假于物也。
大模型不會(huì)真的創(chuàng)造一個(gè)應(yīng)用場(chǎng)景，造一百個(gè)大模型和造一個(gè)好用的基座大模型在商業(yè)上沒(méi)有什么本質(zhì)區(qū)別，這的確是對(duì)資源的浪費(fèi)。但如果能充分利用現(xiàn)有的大模型的基礎(chǔ)，發(fā)力自己的已有優(yōu)勢(shì)，調(diào)用大模型來(lái)開(kāi)發(fā)AI原生應(yīng)用，用市場(chǎng)推動(dòng)產(chǎn)業(yè)發(fā)展，或許是一個(gè)新的解題思路。
（在企業(yè)具體的行進(jìn)道路上，如何細(xì)化用市場(chǎng)推動(dòng)產(chǎn)業(yè)發(fā)展這一解題思路？或許可以與本文作者郭思聊一聊哦，微信：lionceau2046）
人類現(xiàn)階段是否可以信任人工智能？這個(gè)問(wèn)題從近期的報(bào)道中可以找到答案，6月22日，紐約南區(qū)法院作出 判決 ：Levidow，Levidow &Oberman律師事務(wù)所因向法院提供虛假信息，行為惡劣，被處以5000美元的罰款。引起關(guān)注的原因是，在這例判決中，虛假信息的提供并非是律師出于利益而故意知法犯法，而是因?yàn)樗麄冞^(guò)于相信了AI的能力。
人類現(xiàn)在無(wú)法完全信任AI，但人與AI之間的關(guān)系如果沒(méi)有信任便無(wú)以為繼。今日西麗湖論壇上，硅谷人工智能研究院創(chuàng)始院長(zhǎng) Piero Scaruffi（皮埃羅·斯加魯菲）對(duì)AI可信和安全的重要性進(jìn)行了論述。他指出，Transformer 是大模型的基礎(chǔ)，目前席卷全球的人工智能熱潮都可以直接追溯到transformer的發(fā)明，Transformer性能強(qiáng)大可用，也因?yàn)檫@一點(diǎn)，我們?cè)诮】滇t(yī)療、金融、自動(dòng)駕駛等眾多領(lǐng)域都見(jiàn)到了它的身影，但這些領(lǐng)域具有高隱私性、高安全性的訴求，可信 AI 是一個(gè)非常值得關(guān)注的重點(diǎn)。除他之外，行業(yè)對(duì)AI可信和安全的關(guān)注其實(shí)一直都有聲音。
今年4月，AI早期創(chuàng)始人馬斯克聯(lián)合業(yè)內(nèi)千名高管和專家發(fā)布公開(kāi)信，倡議所有人工智能實(shí)驗(yàn)室應(yīng)立即暫停訓(xùn)練至少6個(gè)月，以應(yīng)對(duì)AI脫離人類掌控的威脅。曾獲得圖靈獎(jiǎng)、被稱為“AI 教父”的加拿大計(jì)算機(jī)科學(xué)家 Yoshua Bengio 在近期一次采訪中呼吁，AI 領(lǐng)域被少數(shù)科技公司控制的可能性，將會(huì)是該技術(shù)帶來(lái)生存風(fēng)險(xiǎn)之后的“第二大問(wèn)題”。
而進(jìn)一步追問(wèn)，我們會(huì)發(fā)現(xiàn)GPT的可信性其實(shí)可以拆分為體現(xiàn)在多個(gè)細(xì)分領(lǐng)域，截至2023年10月19日，共有171臺(tái)支持人工智能（AI/ML）的醫(yī)療設(shè)備被添加至FDA批準(zhǔn)的人工智能設(shè)備列表中，但是巨大的問(wèn)題是人工智能醫(yī)療設(shè)備、療法和診斷可信嗎？放至網(wǎng)絡(luò)和社交媒體之上，互聯(lián)網(wǎng)的內(nèi)容可信嗎？電話交談可信嗎？人類又該如何創(chuàng)建一個(gè)更值得信賴的社交媒體生態(tài)系統(tǒng)？
在商業(yè)上也同樣如此，人工智能可以帶來(lái)指數(shù)級(jí)的效益，但也可能損害公司的聲譽(yù)，在皮埃羅看來(lái)，如今隨著大模型技術(shù)的演進(jìn)，AI的可信度現(xiàn)階段也正在不斷進(jìn)化，安全可信的AI必須具備可靠性、安全性、安保性、可用性、易用性。面對(duì)大模型帶來(lái)的企業(yè)管理風(fēng)險(xiǎn)，
行業(yè)也應(yīng)該幫助企業(yè)在整個(gè)人工智能生命周期（從構(gòu)思到設(shè)計(jì)、開(kāi)發(fā)、部署）制定道德保障措施的框架。
這些都是亟待解決的問(wèn)題。
在這些問(wèn)題上，美國(guó)對(duì)于人工智能的管理其實(shí)早已從各方面開(kāi)始了布局。2023年10月30日，美國(guó)白宮發(fā)布拜登簽署的最新行政命令——《關(guān)于安全、可靠和可信的AI行政命令》，以確保美國(guó)在把握AI的前景和管理其風(fēng)險(xiǎn)方面處于領(lǐng)先地位。
作為美政府負(fù)責(zé)任創(chuàng)新綜合戰(zhàn)略的一部分，該行政令以美國(guó)總統(tǒng)之前采取的行動(dòng)為基礎(chǔ)，包括促使15家領(lǐng)軍企業(yè)自愿承諾推動(dòng)安全、可靠和可信的AI發(fā)展的工作。美國(guó)出臺(tái)的最新政策包含安全測(cè)試、標(biāo)準(zhǔn)、最佳實(shí)踐、網(wǎng)絡(luò)安全等多個(gè)方面。
此外，美國(guó)國(guó)家科學(xué)基金會(huì)計(jì)劃撥款1.4億美元,用于啟動(dòng)7所新的國(guó)家人工智能研究院，涉及法律與社會(huì)可信人工智能研究所，基于代理的網(wǎng)絡(luò)威脅情報(bào)與操作人工智能研究所等。除了出臺(tái)的政策之外，皮埃羅也指出，脫離于政府的各類非盈利機(jī)構(gòu)也應(yīng)該密切關(guān)注這一議題，例如分布式人工智能研究所、加州理工學(xué)院的Anima AnandKumor和Michael Alvarez等等均做出了良好的表率。
各類跨國(guó)學(xué)科會(huì)議也應(yīng)密切關(guān)注這一問(wèn)題。而放眼至我國(guó)對(duì)于可信AI的關(guān)注，在政策以及企業(yè)和機(jī)構(gòu)的合力上其實(shí)也動(dòng)作頻頻。
7月13日，國(guó)家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》。對(duì)生成式人工智能服務(wù)提出了多項(xiàng)規(guī)制，開(kāi)啟了中國(guó)對(duì)生成式人工智能產(chǎn)業(yè)的監(jiān)管之路。同月OPPO聯(lián)合西安交通大學(xué)、中國(guó)信通院華東分院共同發(fā)布了《可信賴AI安全隱私技術(shù)研究》白皮書。
當(dāng)全部人的目光都聚集至可信AI時(shí)，我們發(fā)現(xiàn)光有政策其實(shí)還不夠，因?yàn)榭尚臕I從技術(shù)上以及商業(yè)成本上而言本身就是一個(gè)非常大的難題。在技術(shù)技術(shù)層面，可信領(lǐng)域?qū)＜乙晾Z伊大學(xué)香檳分校（UIUC）的李博教授曾表示，AI 系統(tǒng)的安全性并沒(méi)有單一的解決方案可以解決所有問(wèn)題，而需要多方面、持續(xù)的努力才能實(shí)現(xiàn)，大模型的有害內(nèi)容（toxicity）、刻板偏見(jiàn)（stereotype bias）、對(duì)抗魯棒性（adversarial robustness）、分布外魯棒性（out-of-distribution robustness）等多個(gè)特點(diǎn)都值得我們深入關(guān)注。隨著大模型的發(fā)展，巨大的參數(shù)量和成本也成為可信AI領(lǐng)域一個(gè)邁不過(guò)去的門檻。
一位過(guò)去做隱私計(jì)算的行業(yè)人士在此前向AI科技評(píng)論表示，以前做隱私計(jì)算就三個(gè)技術(shù)：聯(lián)邦計(jì)算、多方安全計(jì)算、可信計(jì)算，而如今因?yàn)榇竽Ｐ偷陌l(fā)展，成本不斷激增，就拿安全多方計(jì)算來(lái)說(shuō)，在處理大模型數(shù)據(jù)訓(xùn)練上，要把原本訓(xùn)練周期擴(kuò)張到2-6個(gè)數(shù)量級(jí)，聯(lián)邦學(xué)習(xí)也是要好幾倍的開(kāi)銷。這些活在大模型訓(xùn)練里都做不了。而放觀全局，可信 AI 的落地需要跨領(lǐng)域的系統(tǒng)協(xié)作。
可信賴 AI 涉及學(xué)術(shù)界到工業(yè)界整個(gè)流程，僅僅關(guān)注算法是不夠的。在工業(yè)界，要做一個(gè)可信賴 AI 的系統(tǒng)，需要從用戶需求的調(diào)研和用戶問(wèn)題的提出開(kāi)始，就要思考這是不是可信賴 AI 的問(wèn)題，再到數(shù)據(jù)的收集標(biāo)注，算法設(shè)計(jì)，開(kāi)發(fā)上線，最后到產(chǎn)品交付，保持用戶體驗(yàn)，從工業(yè)角度來(lái)講，關(guān)注的是全部的流程，學(xué)術(shù)界更關(guān)注的是中間算法部分，可信 AI 的落地需要學(xué)界、產(chǎn)業(yè)界和監(jiān)管部門一起努力由此可見(jiàn)，可信AI對(duì)于整個(gè)行業(yè)而言都是一個(gè)難且重要的議題。（關(guān)于可信AI的探討，還有哪些角度可以思考？歡迎與本文作者：郭思微信：lionceau2046，共同探討。）
人工智能的崛起可能是人類遇到的最好的事，也可能是最壞的事情，但我們還不知道答案。一方面我們看到了大模型帶來(lái)的巨大可能性，GPT4 Turbo一出，OpenAI再次遙遙領(lǐng)先，差距大，但還沒(méi)到完全壟斷的地步。這個(gè)領(lǐng)域整體目前看應(yīng)該還不存在絕對(duì)的護(hù)城河。
國(guó)內(nèi)這個(gè)全球最大單一市場(chǎng)也仍在醞釀期，但是如果我們持續(xù)現(xiàn)在的競(jìng)爭(zhēng)模式，統(tǒng)統(tǒng)發(fā)力基座模型，而忽視AI原生應(yīng)用與人類與AI之間的安全可信問(wèn)題，那么在追逐再造一把普羅米修之火的過(guò)程，或許還沒(méi)等到我們把火苗造出來(lái)，同行便早已將柴火打濕，我們的身后也會(huì)因?yàn)闆](méi)有完善的護(hù)盾而早已遭萬(wàn)蟲侵蝕。
“斗爭(zhēng)，失敗，再斗爭(zhēng)，再失敗，再斗爭(zhēng)，直至勝利——這就是人民的邏輯，他們也是決不會(huì)違背這個(gè)邏輯的。這是馬克思主義的又一條定律?！眮G掉幻想，不要貪大，或許再造不出中國(guó)版的OpenAl，但或許可以成為世界版的中國(guó)某某某。
（本文作者郭思：微信號(hào)lionceau2046，長(zhǎng)期關(guān)注大模型領(lǐng)域動(dòng)態(tài)與故事，歡迎添加微信交流。）
雷峰網(wǎng) 雷峰網(wǎng) 雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
