現(xiàn)在機器人火得不行。好像整個高科技產(chǎn)業(yè)都在研發(fā)應(yīng)用程序內(nèi)以AI為基礎(chǔ)的助手，為你進行簡單、瑣碎的任務(wù)，節(jié)省你的時間，讓你工作更高效。就在本月，微軟和Facebook都發(fā)布了開發(fā)者工具，使得在其平臺上打造機器人更加容易。

鑒于目前該像微軟和Facebook和微信公司希望看到機器人部署規(guī)模，它的合理擔(dān)心這項技術(shù)可能有多少人監(jiān)督有。

這波對機器人的興趣的確能迎來新的經(jīng)濟，內(nèi)部短信平臺和搜索引擎的這些隱形助手，爭奪我們的感情。眼下，其用途可能看起來很平?！ㄟ^短信訂購比薩餅，或者在手機程序買卷餅。但隨著聊天機器人增多并變得更加熟練，它們可以提供更智能，更個性化的服務(wù)體驗。想象一下，一個機器人解答你有關(guān)法律事務(wù)的問題，甚至是你心理健康的問題。

因此，程序員必須保持謹(jǐn)慎。非正確訓(xùn)練、監(jiān)控的機器人可以變得丑陋。別擔(dān)心，現(xiàn)在還沒有任何機器人起義的危險，但已出現(xiàn)恣意欺騙人類的機器人，眾所周知，微軟的Tay黑化了。高科技公司在開發(fā)對話機器人時必須把這幾件事銘記于心。

自發(fā)行為

作為一個人工智能機器人，除了已編程好的，它還可以學(xué)到新的技能和執(zhí)行其它任務(wù)。機器人專家稱之為自發(fā)行為。機器人在了解新任務(wù)時，經(jīng)常沒有人類為其過濾器或引導(dǎo)。這就是聊天機器人Tay，原本編程是從對話中學(xué)習(xí)，最后卻變成滿口仇恨的納粹的原因。為了防止這種情況再次發(fā)生，關(guān)鍵是要主動監(jiān)測。

“我會檢查我所有的機器人，但更多地，我會去想如果輸入的東西是否會產(chǎn)生有問題的內(nèi)容?！敝Z拉里德說，其創(chuàng)造了許多受歡迎的推特機器人。 “我會避免某些內(nèi)容，我不希望這些東西和其他的放在一起，因為會導(dǎo)致邊緣化或偏執(zhí)?！?/p>

鑒于目前像微軟、Facebook、微信對機器人的部署規(guī)模，擔(dān)心是否有足夠的人在監(jiān)督這項技術(shù)是合理的。微軟未來社會試驗實驗室的經(jīng)理程麗麗說，該公司正在考慮“其它類型的工具，當(dāng)開發(fā)者的機器人行為方式出現(xiàn)問題時，我們可以幫助他們得到更好的提示?！背讨赋?，開發(fā)者們會想知道，他們的機器人是否在發(fā)送不當(dāng)內(nèi)容，或出現(xiàn)其它異常。

即使是事后分析，機器人的程序員應(yīng)該，改良機器人，使他們不再出現(xiàn)麻煩的自發(fā)行為。要做到這一點，可以限制主體獲得數(shù)據(jù)，或者把對機器人而言的的不當(dāng)話語，建一個黑名單。這些都是常見的做法，聊天機器人交互設(shè)計師卡羅琳賽德斯說。

別被我的人性化蒙蔽

當(dāng)你與一個與聊天機器人對話，很明顯，你是在和軟件說話。談話會感覺僵硬。但是，一些機器人善于閑聊，這個技能，會讓你懷疑你真的在和代碼交流嗎。 “因此，信息披露是非常重要的，”桑福德大學(xué)的法學(xué)教授伍德羅哈佐格說， “當(dāng)人們覺得他們正在和人打交道，但實際上他們是和機器人交流時，很容易出現(xiàn)問題?！?/p>

微軟強調(diào)公開內(nèi)容在一定程度上的重要性。其開發(fā)者的行為守則要求，一開始發(fā)送歡迎的消息，以幫助機器人的用戶記住，他們正在與軟件打交道。

但是，歡迎信息不一定披露人與機器人互動。畢竟，亞馬遜的熱門硬件設(shè)備里的機器人Alexa，僅僅是一個女人的名字。 “如果這個名字不能表明它是機器人，那么這種形式的通知就是有問題的，”哈佐格說， “但是，如果你的產(chǎn)品說，我的名字是聊天機器人，我是一個自動化的數(shù)字助理。那么你至少讓人們意識到，他們是與機器人交流。”

在這個階段，欺騙可能不是一個巨大的問題。大多數(shù)將以Facebook和微軟平臺建立的機器人， 明顯將是機器人。 “Siri的答案很機械化，在與機器人對話中，也許一半的回應(yīng)將是對不起，我不理解你?！辟惖滤拐f。

但能糊弄人的能力是真的，而且還會越來越厲害。阿什利麥迪遜已經(jīng)證明。臭名昭著的出軌約炮網(wǎng)站被黑客入侵，表明它通過7萬多的聊天機器人軍隊，假裝女人來誘惑男人。

作為機器人時代的高科技產(chǎn)業(yè)帶位者，一定要記住，雖然樂于助人又高效，但是機器人只是代碼。雖然，它們被設(shè)計有自己的主見，但是當(dāng)它們來到世界，需要人們的監(jiān)督，以確保他們循規(guī)蹈矩。

via wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。