丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
人工智能 正文
發(fā)私信給陳彩嫻
發(fā)送

0

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

本文作者: 陳彩嫻 2021-11-11 16:38
導(dǎo)語:機(jī)器學(xué)習(xí)是個(gè)體學(xué)習(xí),而演化計(jì)算是群體學(xué)習(xí),兩者互補(bǔ),對(duì)人工智能缺一不可。

隔多年,再看圖靈在1948年撰寫的報(bào)告——《Intelligent Machinery》,我們?nèi)匀粫?huì)為這位數(shù)學(xué)天才對(duì)智能機(jī)器的想象與癡迷所折服。

在這份報(bào)告中,圖靈將嬰兒的大腦皮層比喻為一臺(tái)「無組織機(jī)器」(an unorganized machine),如同嬰兒在后天的教育(或「干預(yù)」訓(xùn)練)中能逐漸成為一個(gè)「有組織的」成年人,行為規(guī)劃符合社會(huì)人類共識(shí),無組織機(jī)器也能通過外界的信息交流干預(yù)(「paper interference」),成為一臺(tái)具有人類特征的、甚至?xí)伎嫉摹赣薪M織機(jī)器」。

在第16頁,圖靈拋出一個(gè)觀點(diǎn):

從進(jìn)化與遺傳學(xué)的角度來看,將大腦皮層看作「無組織機(jī)器」的設(shè)想是非常令人滿意的。

圖靈將機(jī)器看作一個(gè)生命。如同物種在大自然中經(jīng)歷「優(yōu)勝劣汰」的選擇般,圖靈設(shè)想了一種「智能搜索」(intellectual searches),在解決包含多類型問題的大類問題 n 時(shí),通過淘汰的方式選出適合的方案:

……按順序取整數(shù)并測試每個(gè)整數(shù)是否具有所需的屬性,直到找到具有某屬性的整數(shù)... 在各個(gè)階段,下一步的選擇可能都不止一個(gè)。不過,我們可能會(huì)將所有可能的選擇按順序排列,直到機(jī)器證明一個(gè)定理,并能按自己的方式驗(yàn)證該定理以給出問題的解決方案。

在這份僅有20頁的報(bào)告中,圖靈的許多觀點(diǎn)成為現(xiàn)代人工智能的基礎(chǔ)。比如,無組織機(jī)器的進(jìn)化思想,便奠定了后來「演化計(jì)算」(Evolutionary Computation)的學(xué)科基礎(chǔ)。演化編程、遺傳算法、演化硬件等等不可思議的概念,均沿襲于此。

不過,在90年代以神經(jīng)網(wǎng)絡(luò)為代表的連接主義興起后,演化計(jì)算逐漸成為計(jì)算機(jī)科學(xué)、甚至人工智能領(lǐng)域的一個(gè)小眾分支。從2003年創(chuàng)辦至今的CNCC,也是在今年才首次開設(shè)了以演化計(jì)算為主題的分論壇。

該論壇名為「下一代演化計(jì)算發(fā)展趨勢」,由南方科技大學(xué)計(jì)算機(jī)科學(xué)與工程系的系主任、IEEE Fellow姚新出任主席,并請到了徐宗本院士、焦李成院士、丁進(jìn)良、唐珂與羅文堅(jiān)等學(xué)者作演講。

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

圖注:姚新

姚新的本科就讀于中國科學(xué)技術(shù)大學(xué)少年班,師從陳國良院士與李國杰院士,從上世紀(jì)90年代博士期間開始研究演化計(jì)算,至今已有三十多年,是我國少數(shù)研究演化計(jì)算的國際知名學(xué)者之一,也是歷史上首位獲得神經(jīng)網(wǎng)絡(luò)最高獎(jiǎng)「IEEE Frank Rosenblatt Award」的華人學(xué)者。

AI科技評(píng)論有幸邀請到姚新教授作為「Fellow來了」系列的第 02 期人物,與我們分享演化計(jì)算的研究特點(diǎn)、發(fā)展現(xiàn)狀與研究意義,尤其是演化計(jì)算與神經(jīng)網(wǎng)絡(luò)的結(jié)合。



1、什么是演化計(jì)算?


簡單來說,演化計(jì)算是一種基于自然選擇和遺傳變異等生物進(jìn)化機(jī)制的全局性概率搜索算法,能夠在不要求函數(shù)連續(xù)、可微與單峰的情況下,找到問題的近似全局最優(yōu)解。

基于這些優(yōu)點(diǎn),演化計(jì)算被廣泛用于NP與NPC難題求解、神經(jīng)網(wǎng)絡(luò)優(yōu)化、多目標(biāo)優(yōu)化問題求解與其他眾多領(lǐng)域。

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

圖注:演化計(jì)算示例,通過程序迭代模擬,將要解決的問題看作一個(gè)環(huán)境,在一些可能的解組成的種群中,通過自然演化尋求最優(yōu)解。

追溯歷史,演化計(jì)算與人工智能的發(fā)展歷程很相似。

1958年的達(dá)特茅斯會(huì)議被稱為「人工智能」的起點(diǎn),而演化計(jì)算方向的許多奠基性工作也是在上世紀(jì)60年代末、70年代初出現(xiàn)。繼圖靈討論「無組織機(jī)器」如何成長后,1966年,Lawrence J. Fogel 在其著作《Artificial Intelligence through Simulated Evolution》中提出「演化編程」,基于有限狀態(tài)機(jī),用演化計(jì)算的方法設(shè)計(jì)一臺(tái)學(xué)習(xí)機(jī),預(yù)測1、3、5、7、11……中的下一個(gè)整數(shù)是不是素?cái)?shù)。

「這(預(yù)測素?cái)?shù))在數(shù)學(xué)界都是一個(gè)巨大的挑戰(zhàn),但 Fogel 在66年就已經(jīng)想出用機(jī)器來預(yù)測,而不是靠人來算?!挂π赂袊@。

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

圖注:Lawrence J. Fogel

1964年,德國柏林工業(yè)大學(xué)的兩位學(xué)生 Ingo Rechenberg 與 Hans-Paul Schwefel 提出進(jìn)化策略(Evolution strategies);1975年,美國密歇根大學(xué)的 John Henry Holland 借鑒了達(dá)爾文的生物進(jìn)化論與孟德爾的遺傳定律思想,提出「遺傳算法」(Genetic algorithms)。兩者后來均成為演化計(jì)算的重要分支。

尤其是遺傳算法。在《Adaptation in Natural and Artificial Systems》一書中,John Holland 十分強(qiáng)調(diào)「適應(yīng)性」(adaptation),以及如何用遺傳算法來研究計(jì)算程序的自適應(yīng)與自動(dòng)搜索。基于達(dá)爾文物種選擇理論的問題分析方法,遺傳算法開始于一定數(shù)量的初始點(diǎn),每一個(gè)節(jié)點(diǎn)均具有隨機(jī)生成的特征,成功生成的節(jié)點(diǎn)會(huì)被合并、生成新的「智能體」,該「智能體」具有雙親的特征。

遺傳算法的高明之處,一是提供了研究進(jìn)化論的空間與研究自然現(xiàn)象的獨(dú)特方法,二是利用進(jìn)化論的思想進(jìn)行計(jì)算機(jī)函數(shù)優(yōu)化,讓計(jì)算機(jī)開始具有通過「繁衍」來適應(yīng)與學(xué)習(xí)的機(jī)制。

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

圖注:John Henry Holland

不過,由于當(dāng)時(shí)計(jì)算機(jī)的容量小、運(yùn)算速度慢、符號(hào)AI研究火熱等因素,演化計(jì)算的這些早期理論并沒有引起太多人的注意。

直到80年代,傳統(tǒng)人工智能的解題局限性開始凸顯;與此同時(shí),計(jì)算機(jī)的速度得到顯著提高,演化計(jì)算開始被用于解決實(shí)際問題,在機(jī)器學(xué)習(xí)、工程優(yōu)化與過程控制等領(lǐng)域取得了極大成功,重新吸引了研究者的目光,在許多國家掀起了演化計(jì)算的研究熱潮。

2006年,NASA的ST-5航天器便使用了演化算法來設(shè)計(jì)空間、自動(dòng)尋找更高效的X-band天線設(shè)計(jì)方案。由兩種進(jìn)化算法(實(shí)值參數(shù)向量與樹結(jié)構(gòu)生成表示)「繁衍」出的性能最優(yōu)的天線經(jīng)過構(gòu)造與測試,均優(yōu)于手工設(shè)計(jì)的天線。而且,只需要調(diào)整適應(yīng)函數(shù),他們就可以在不到一個(gè)月的時(shí)間內(nèi)快速進(jìn)化出一套新的天線(如下圖):

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

此外,2008年北京鳥巢體育館的鋼結(jié)構(gòu)在設(shè)計(jì)的過程中也使用了演化計(jì)算,通過遺傳算法迭代而成,整體結(jié)構(gòu)十分穩(wěn)固:

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

「而演化計(jì)算的最近一次大發(fā)展,是在2015年以后。」姚新指出。深度學(xué)習(xí)崛起后,演化計(jì)算與人工智能的其他分支結(jié)合,形成新的研究方向,比如「演化神經(jīng)網(wǎng)絡(luò)」、「演化機(jī)器人」。

姚新指出,學(xué)習(xí)與進(jìn)化是生物適應(yīng)的兩大基本形式,兩者理應(yīng)相互增益。他解釋:

「大多數(shù)深度學(xué)習(xí)模型首先是設(shè)計(jì)一個(gè)結(jié)構(gòu),然后訓(xùn)練權(quán)值,但實(shí)際上,沒有一個(gè)生物的大腦在學(xué)習(xí)的過程中是結(jié)構(gòu)固定、權(quán)值變化的。所有生物的大腦學(xué)習(xí)都是結(jié)構(gòu)上的學(xué)習(xí),而不是調(diào)調(diào)參數(shù)。從上世紀(jì)90年代開始,研究演化算法的人就強(qiáng)調(diào),神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)應(yīng)該是結(jié)構(gòu)與參數(shù)的同時(shí)學(xué)習(xí),而不是先設(shè)計(jì)一個(gè)結(jié)構(gòu)、然后再去做參數(shù)的優(yōu)化?!?/p>

演化計(jì)算至少有4個(gè)主要分支:遺傳算法、演化編程、進(jìn)化策略與遺傳編程。此外,演化計(jì)算中還有一些「小而美」的分支,比如共生演化、差分演化、蟻群算法和粒子群算法等等。姚新指出,AlphaGo與對(duì)抗學(xué)習(xí)的許多思想,與80年代末、90年代初演化計(jì)算研究者所提出的對(duì)抗性思想完全是同源而生,只是實(shí)現(xiàn)的手段不一樣。

除了對(duì)抗性思想,演化計(jì)算在多目標(biāo)優(yōu)化與決策問題上也有著獨(dú)特的優(yōu)勢。比如,將一個(gè)大規(guī)模的深度學(xué)習(xí)模型安裝在手機(jī)上,目標(biāo)1:高性能;目標(biāo)2:模型安裝要控制在手機(jī)耗電量可承受的范圍內(nèi);目標(biāo)3:安全…這種場景與運(yùn)籌學(xué)中常遇到的優(yōu)化問題相似,但是,多目標(biāo)演化算法可以在一次運(yùn)行中找到整個(gè)Pareto front的近似解集,而不僅僅是一個(gè)解。這樣可以為決策者提供不同的折衷方案并方便決策者比較各種方案。傳統(tǒng)方法的缺點(diǎn)之一就是每次算法運(yùn)行只能找到一個(gè)解。

此外,演化計(jì)算還擅長處理不確定環(huán)境中的學(xué)習(xí)與優(yōu)化問題(又稱為「動(dòng)態(tài)優(yōu)化」問題)。比如,在機(jī)器人/自動(dòng)駕駛車輛的研究中,目標(biāo)方向是往正北走,但由于傳感器或機(jī)械臂的操控緣故,機(jī)器人的行走方向可能出現(xiàn)偏離,那么,機(jī)器便要進(jìn)行動(dòng)態(tài)優(yōu)化,適度調(diào)整,如將可能偏離45度的方向盤調(diào)整為0.0001度。在算法層面上,這樣的調(diào)整并不是一件容易的事,而演化計(jì)算可以通過迭代模擬,找出近似最優(yōu)的方案。



2、第一屆中科大少年班學(xué)生


姚新從上世紀(jì)80年代末開始研究演化計(jì)算,一直堅(jiān)持到今天。

1978年,在諾貝爾物理獎(jiǎng)華人獲得者李政道的倡導(dǎo)與鄧小平、方毅等國家領(lǐng)導(dǎo)人的支持下,一個(gè)特殊的教育班級(jí)在中國成立。

如李政道設(shè)想,它參考招收與培訓(xùn)芭蕾舞蹈演員的方法,從全國選拔極少數(shù)年齡在13歲左右的優(yōu)秀少年到大學(xué)接受教育,目的是培養(yǎng)一支「少而精的基礎(chǔ)科學(xué)工作隊(duì)伍」。這個(gè)班級(jí),就是后來大名鼎鼎的「中科大少年班」,而姚新是當(dāng)年(1978年春)全國選拔的21位智商過人的少年之一。

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

圖注:部分中科大少年班首屆學(xué)生留影

本科畢業(yè)后,姚新聽從趙振西老師的建議,先是去了北京華北計(jì)算技術(shù)研究所(即「電子部15所」)攻讀碩士、以積累工程經(jīng)驗(yàn),「因?yàn)橹锌拼笃碚?,而趙老師認(rèn)為,做研究缺乏工程知識(shí)總是不好的。」在15所,姚新研究了三年微程序設(shè)計(jì)。

1985年碩士畢業(yè),姚新讀博,又回到中國科學(xué)技術(shù)大學(xué),師從陳國良院士。陳國良是我國并行算法與高計(jì)算計(jì)算專家、中國科學(xué)院院士,在1995年創(chuàng)建了中國第一個(gè)國家高性能計(jì)算中心——國家高性能計(jì)算中心(合肥)。

讀博期間,姚新跟著陳國良學(xué)習(xí),中間也花了許多時(shí)間到中國科學(xué)院計(jì)算技術(shù)研究所跟著李國杰院士做研究,是李國杰回國后帶的第一個(gè)學(xué)生。姚新回憶:

「兩位老師對(duì)我的幫助都非常大。在中科大,要上基礎(chǔ)課,還有討論班。我從博士論文開始研究模擬退火和演化計(jì)算,后來,陳國良老師還專門寫了《遺傳算法及其應(yīng)用》(1996年)一書。

到了計(jì)算所跟著李國杰老師后,李老師的博士論文與博士后階段都是做組合搜索,是現(xiàn)在人工智能中很火的領(lǐng)域。那我想,李老師做組合搜索,我肯定比不過他,那我研究演化計(jì)算或模擬退火也挺好,李老師當(dāng)初也同意,所以我的博士論文是關(guān)于模擬退火遺傳算法?!?/p>

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

圖注:用模擬退火算法解決旅行商推銷問題(TSP)

1990年,姚新到澳大利亞國立大學(xué)計(jì)算機(jī)科學(xué)實(shí)驗(yàn)室(Computer Sciences Laboratory)擔(dān)任博士后,繼續(xù)從事模擬退火與演化計(jì)算的工作。也是從那時(shí)候開始,姚新開始研究遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合,相關(guān)工作發(fā)表在1991年澳大利亞神經(jīng)網(wǎng)絡(luò)的年會(huì)上,引起了許多參會(huì)者的注意。

「不久后,昆士蘭又有一個(gè)小型的論壇,叫『AI and Creativity』。里面有個(gè)做人工智能的、偏哲學(xué)的英國教授叫Margaret Boden,跟我聊了很多,真的是堅(jiān)定了我將演化計(jì)算與神經(jīng)網(wǎng)絡(luò)結(jié)合起來的研究方向。一些生物的知識(shí)書也是她推薦我去讀的,我也是看了這些書才知道,哦,原來生物大腦中的學(xué)習(xí)不是調(diào)參數(shù),而是講突出的連接在那里變來變?nèi)ァ!?/p>

1991年,姚新加入澳大利亞最大的國家級(jí)科研機(jī)構(gòu) CSIRO 擔(dān)任博士后研究員;1992年開始,分別在澳大利亞國防軍學(xué)院與新南威爾士大學(xué)計(jì)算機(jī)科學(xué)學(xué)院擔(dān)任高級(jí)講師、副教授;1999年,他又去了英國伯明翰大學(xué)計(jì)算機(jī)學(xué)院擔(dān)任講席教授,直到2016年,在南方科技大學(xué)的邀請下回國、參與創(chuàng)立南科大計(jì)算機(jī)系并擔(dān)任系主任。

姚新在澳大利亞所結(jié)識(shí)的另一位人工智能華人先驅(qū)張成奇教授在南科大的辦公室,便與他在同一棟樓。

在研究上,姚新喜歡聚焦于具體的問題,以實(shí)際問題來驅(qū)動(dòng)學(xué)術(shù)研究。

1999年,姚新提出了具有開創(chuàng)性的快速進(jìn)化編程(fast evolutionary programming,“FEP”)方法。

進(jìn)化編程(EP)方法原先用于人工智能的問題研究,后被用于解決數(shù)字與組合優(yōu)化問題。在解決多模態(tài)優(yōu)化問題上,EP方法的優(yōu)勢之一是可以通過緩慢的收斂得到一個(gè)出色的近似優(yōu)解。與經(jīng)典的EP方法相比,姚新所提出的FEP方法擅長在一個(gè)大的領(lǐng)域進(jìn)行搜索,對(duì)黑箱優(yōu)化有優(yōu)獨(dú)特優(yōu)勢,后來被廣泛應(yīng)用于神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)、最優(yōu)路徑規(guī)劃、數(shù)字濾波器設(shè)計(jì)以及新材料的設(shè)計(jì),單篇谷歌學(xué)術(shù)引用次數(shù)接近4000。

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

論文地址:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.45.1830&rep=rep1&type=pdf

2000年,基于對(duì)約束條件處理的考慮,姚新與合作者又開發(fā)了一個(gè)隨機(jī)排序方法,將傳統(tǒng)的、看似復(fù)雜的懲罰函數(shù)與拉格朗日方程簡化為簡單的排序,在犧牲些許數(shù)學(xué)收斂性的情況下取得了很好的實(shí)際應(yīng)用效果,是姚新在研究生涯中的一個(gè)階段性成果。雷鋒網(wǎng)

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

論文地址:https://www.cs.bham.ac.uk/~xin/papers/published_tec_sep00_constraint.pdf

憑借在演化計(jì)算上的一系列開辟性成果,姚新在2003年當(dāng)選 IEEE Fellow。

除了早期的兩大重要成果,姚新還提到他在2006年將演化計(jì)算應(yīng)用于撒鹽車調(diào)度的項(xiàng)目。撒鹽車的調(diào)度涉及到車輛數(shù)量、每輛車的噸位、調(diào)度范圍等等,原屬于運(yùn)籌學(xué)的研究范圍,但在實(shí)際的運(yùn)行中,假設(shè)車隊(duì)有11輛車,載重范圍為2.5噸到9噸,重量不固定,那么傳統(tǒng)的數(shù)學(xué)方法便無法假設(shè)一個(gè)數(shù)值來進(jìn)行計(jì)算,也難以設(shè)計(jì)算法。雷鋒網(wǎng)

「現(xiàn)實(shí)生活中的調(diào)度問題與書本上的非常不一樣。首先路況是隨時(shí)間變的,車輛行駛速度也不固定,車有可能拋錨壞了,等等?!挂π陆忉專笇?duì)于這類充滿不確定性的優(yōu)化問題,相對(duì)傳統(tǒng)的數(shù)學(xué)或運(yùn)籌學(xué)方法,演化計(jì)算是有優(yōu)越性的。它能在復(fù)雜的動(dòng)態(tài)環(huán)境中找到近似最優(yōu)解?!?/p>

從這個(gè)項(xiàng)目開始,姚新一直致力于將演化計(jì)算用于在不確定性的環(huán)境中做動(dòng)態(tài)優(yōu)化。除此之外,他與團(tuán)隊(duì)著重于研究演化計(jì)算如何應(yīng)用于多目標(biāo)優(yōu)化決策。

姚新設(shè)想,計(jì)算機(jī)系統(tǒng)應(yīng)該是一個(gè)可以長期演化的系統(tǒng):「我可以做初始化的設(shè)計(jì),等初始化設(shè)計(jì)完成后,通過與環(huán)境交互,這個(gè)系統(tǒng)的軟件與硬件應(yīng)該會(huì)一直進(jìn)化下去,(就像生物一樣),在不同的環(huán)境中就會(huì)進(jìn)化成不同的系統(tǒng)。」雷鋒網(wǎng)

能夠進(jìn)化的系統(tǒng),聽起來天方夜譚,但在許多場景中是剛需。比如外太空設(shè)備。從地面發(fā)射信號(hào)到外太空,需要好幾分鐘,但在地面的遙控者無法預(yù)測這幾分鐘里所發(fā)生的事情。這時(shí)候,如果系統(tǒng)具備自適應(yīng)、自演化的功能,就能處理未知的、不確定的環(huán)境。再比如無人區(qū)的基礎(chǔ)設(shè)施維護(hù),如果設(shè)備具有自適應(yīng)功能,能夠自動(dòng)更新與重組,那么就可以免去人工檢測的成本與風(fēng)險(xiǎn)。

問及系統(tǒng)自動(dòng)進(jìn)化的前景,姚新頗有自信地答道:「我覺得在不久的將來就可以部分實(shí)現(xiàn),尤其是在軟件層面?,F(xiàn)在很多東西都是『軟件可定義』,這實(shí)際上對(duì)演化計(jì)算是一個(gè)利好消息,就給我們一個(gè)發(fā)揮能力的基礎(chǔ)設(shè)施,通過修改軟件就能修改硬件的配置。」


3、CNCC分論壇:演化計(jì)算的下一代發(fā)展趨勢

不可否認(rèn),目前演化計(jì)算在國內(nèi)仍是一個(gè)小眾方向。

從本質(zhì)上看,一個(gè)研究方向的規(guī)模大小與其在商業(yè)上的成功有著莫大關(guān)聯(lián)。比方說,深度學(xué)習(xí)興起的最大推手就是企業(yè),深度學(xué)習(xí)之所以能成功,是因?yàn)槠湓诋a(chǎn)業(yè)中孵化出許多應(yīng)用,能給企業(yè)帶來經(jīng)濟(jì)效益,而演化計(jì)算對(duì)產(chǎn)業(yè)的影響力有限,「即使用演化計(jì)算設(shè)計(jì)天線,也只是設(shè)計(jì)直徑為1cm的天線,而不是所有天線?!?/p>

而第二個(gè)原因,是了解演化計(jì)算的人不多。姚新感嘆:「演化計(jì)算在許多場景中適用,但大家一般是先嘗試了許多其他方式、發(fā)現(xiàn)行不通了,才會(huì)想到演化計(jì)算?!?/p>

為此,作為演化計(jì)算的忠實(shí)研究者,科研之余,姚新也將一部分的精力放在了演化計(jì)算的「布道」上,讓更多人了解到研究演化計(jì)算的重要性:

在圖靈發(fā)表于1948年的報(bào)告中,他就專門花了2頁的篇幅探討演化計(jì)算的思想,這也說明從很早開始,演化計(jì)算就已經(jīng)是計(jì)算機(jī)科學(xué)與人工智能中不可分割的一部分。一直到2015年,Nature推出人工智能??瘯r(shí),收錄了6篇長文,其中1篇(如下)就是專門講演化計(jì)算。

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

論文鏈接:https://research.vu.nl/en/publications/from-evolutionary-computation-to-the-evolution-of-things

姚新介紹,演化計(jì)算與機(jī)器學(xué)習(xí)的關(guān)系,就相當(dāng)于自適應(yīng)的兩個(gè)基礎(chǔ)模式。機(jī)器學(xué)習(xí)是個(gè)體學(xué)習(xí),研究如何在最短的時(shí)間內(nèi)適應(yīng)一個(gè)訓(xùn)練集,時(shí)間粒度比較短,而演化計(jì)算是群體學(xué)習(xí),通過對(duì)解空間采樣、做比較與淘汰,時(shí)間粒度比較長,兩者互補(bǔ),對(duì)人工智能缺一不可。

「在研究演化計(jì)算時(shí),你是避不開機(jī)器學(xué)習(xí)的,因?yàn)閺囊婚_始,演化計(jì)算就包含在機(jī)器學(xué)習(xí)領(lǐng)域。早期的演化計(jì)算論文也是發(fā)表在與機(jī)器學(xué)習(xí)相關(guān)的會(huì)議與期刊。」姚新回憶,「我與張成奇認(rèn)識(shí),就是因?yàn)閰⒓恿怂?993年在澳大利亞舉辦的全澳人工智能會(huì)議。」

姚新認(rèn)為,在未來的人工智能發(fā)展中,當(dāng)個(gè)體的快速學(xué)習(xí)已經(jīng)研究得差不多時(shí),人們遲早會(huì)意識(shí)到,個(gè)體的學(xué)習(xí)距離通用人工智能是有一定距離的。這時(shí),人們一定會(huì)考慮其他的途徑,演化計(jì)算便是其中的一個(gè)選擇。

比方說,南京大學(xué)的周志華團(tuán)隊(duì)雖然一直研究機(jī)器學(xué)習(xí),但近年來也在演化計(jì)算上有所造詣。2019年,周志華便與他的兩個(gè)學(xué)生(錢超、俞揚(yáng))出版了《演化學(xué)習(xí):理論和算法的進(jìn)展》英文版一書。

除了周志華團(tuán)隊(duì),中國研究演化計(jì)算的學(xué)者還有西安電子科技大學(xué)焦李成的研究團(tuán)隊(duì)、徐宗本院士團(tuán)隊(duì)、原先武漢大學(xué)康立三教授的部分學(xué)生,以及中國科技大學(xué)陳國良院士與王旭法教授所帶領(lǐng)的學(xué)生。

在即將召開的CNCC分論壇「演化計(jì)算的下一代發(fā)展趨勢」中,姚新便邀請了數(shù)位能到現(xiàn)場作演講的嘉賓,包括徐宗本、焦李成、唐珂、丁慶良等學(xué)者。

據(jù)姚新介紹,此次論壇的演講內(nèi)容頗符合李國杰院士所提出的「頂天立地」的口號(hào)。徐宗本院士主要從基礎(chǔ)理論出發(fā),解析演化計(jì)算與機(jī)器學(xué)習(xí)的關(guān)系;丁慶良介紹如何將演化算法應(yīng)用到工業(yè)控制中,解決實(shí)際問題;唐珂探討如何用演化計(jì)算自動(dòng)設(shè)計(jì)算法,而焦李成則從理論到實(shí)踐系統(tǒng)地研究演化計(jì)算及其應(yīng)用。

論壇的時(shí)長只有3個(gè)小時(shí),姚新明白,一次「布道」并不能將問題真正吃透。所以,他更希望這個(gè)論壇是一次「播種」,將「演化計(jì)算」的種子播撒在參會(huì)者的心里。

就姚新個(gè)人而言,國內(nèi)演化計(jì)算研究發(fā)展的關(guān)鍵點(diǎn)有兩個(gè):

一是做有影響力的應(yīng)用,解決實(shí)際問題。與此同時(shí),也要找到適合演化算法解決的問題,「比如2006年NASA的研究員想到用演化計(jì)算來設(shè)計(jì)直徑1cm的小型衛(wèi)星天線就很巧妙。當(dāng)一個(gè)問題無法用數(shù)學(xué)方程描述、只能通過采樣的方法做模擬優(yōu)化時(shí),演化算法的優(yōu)越性便顯示出來了?!?/p>

「我經(jīng)常講一個(gè)可能不是很恰當(dāng)?shù)谋扔鳎鹤钸m合用演化計(jì)算的實(shí)際問題,是一些特別難的問題,難到其他方法都覺得毫無頭緒,這時(shí),演化計(jì)算的相對(duì)優(yōu)越性就出來了。不是說演化計(jì)算更好,而是有相對(duì)的優(yōu)越性?!挂π抡劦馈?/p>

其次,演化計(jì)算要在理論上有所突破。如周志華團(tuán)隊(duì)所做的努力,從理論上分析演化計(jì)算的優(yōu)越性與不足之處,從而對(duì)整個(gè)領(lǐng)域的發(fā)展與應(yīng)用起到指導(dǎo)性的作用。姚新自己也與合作者在演化算法計(jì)算復(fù)雜性分析方面耕耘多年,仍在繼續(xù)努力。



4、結(jié)語


國內(nèi)演化計(jì)算的圈子本來就狹小。

問及當(dāng)年決定回國的原因,姚新談道:

「做學(xué)術(shù)的人總想做點(diǎn)更有影響力的工作。南方科技大學(xué)地處深圳,IT企業(yè)眾多,學(xué)校希望建設(shè)一個(gè)有特色的計(jì)算機(jī)科學(xué)與工程系。一張白紙總是畫起來更方便。

南科大老師說:你的余生有兩個(gè)比較大的方向,一是繼續(xù)留在伯明翰,發(fā)論文、培養(yǎng)博士生,二是去創(chuàng)建一個(gè)新的計(jì)算機(jī)系,把你的理念傳給本科生,按你的想法做一些你在伯明翰沒那么容易做的事情。這一點(diǎn)很吸引我。

做沒有做過的事情、從本科階段就開始培養(yǎng)學(xué)生做研究,這對(duì)姚新來說都是前所未有的挑戰(zhàn),而按照他的說法,「喜歡科研的人都喜歡面對(duì)挑戰(zhàn)?!?/p>

所以,2016年,姚新選擇回國。當(dāng)年年,南科大就設(shè)立了計(jì)算機(jī)科學(xué)與工程系,開始招生,如今已培養(yǎng)出數(shù)批計(jì)算機(jī)專業(yè)的本科畢業(yè)生。他一邊授課,一邊帶領(lǐng)學(xué)生從事演化計(jì)算與可信AI的科研,在演化計(jì)算與神經(jīng)網(wǎng)絡(luò)的結(jié)合上繼續(xù)研究。雷峰網(wǎng)

作為國內(nèi)研究演化計(jì)算的先行者之一,姚新在科研上嚴(yán)格遵循李國杰院士的四字信條——「頂天立地」。另一方面,他也十分推崇博士后導(dǎo)師Richard Brent的獨(dú)立科研精神,鼓勵(lì)年輕學(xué)者做自己感興趣的研究,獨(dú)辟蹊徑。雷鋒網(wǎng)

從上世紀(jì)90年代末起,姚新便開始從事演化計(jì)算與神經(jīng)網(wǎng)絡(luò)的結(jié)合研究,遠(yuǎn)早于深度學(xué)習(xí)的興起之時(shí),曾因此工作獲得2001年的 IEEE Donald G. Fink Prize Paper Award。那么,在深度學(xué)習(xí)如此火熱的當(dāng)下,演化計(jì)算是否還能給人工智能帶來新的啟發(fā)?亦或者,在人工智能領(lǐng)域,演化計(jì)算如何找到自己在新時(shí)代的位置?雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))

靜待2021年12月17日CNCC分論壇「演化計(jì)算的下一代發(fā)展趨勢」。

參考鏈接:

1、https://weightagnostic.github.io/papers/turing1948.pdf

2、https://wenku.baidu.com/view/13713b7ba26925c52cc5bfd0.html

3、https://www.alanzucconi.com/2016/04/06/evolutionary-coputation-1/

4、https://ti.arc.nasa.gov/m/pub-archive/1417h/1417%20(Hornby).pdf

5、https://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.493.6049&rep=rep1&type=pdf

6、https://www.cnblogs.com/tsingke/p/11252203.html


雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

IEEE Fellow姚新:在多目標(biāo)動(dòng)態(tài)優(yōu)化問題中,演化計(jì)算仍有獨(dú)特優(yōu)勢

分享:
相關(guān)文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號(hào)
作品鏈接
個(gè)人簡介
為了您的賬戶安全,請驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請驗(yàn)證您的郵箱
立即驗(yàn)證
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說