近來(lái)，AI屢屢登上頭條。

8月31日，AI換臉APP“ZAO”刷屏朋友圈后就被用戶質(zhì)疑，分享鏈接被微信屏蔽；9月1日晚，一張有關(guān)曠視科技的AI課堂行為分析圖在微博上引起不少網(wǎng)友的爭(zhēng)議。曠視隨后發(fā)布聲明稱，該圖片為技術(shù)場(chǎng)景化概念演示。

這張圖為我們展示了這樣的信息，利用AI不僅可以統(tǒng)計(jì)課堂中學(xué)生的舉手、閱讀、聽(tīng)講次數(shù)，還可監(jiān)控學(xué)生趴桌子、玩手機(jī)和睡覺(jué)的次數(shù)。

不管是ZAO還是AI課堂行為分析，戳到網(wǎng)友心坎的主要因素都是因?yàn)殡[私保護(hù)問(wèn)題。

無(wú)獨(dú)有偶，近日，瑞典北部城市一高中因?yàn)橐肴四樧R(shí)別考勤，違反了歐盟《通用數(shù)據(jù)保護(hù)條例》，導(dǎo)致該市政府被罰款20萬(wàn)瑞典克朗。

隱私問(wèn)題似乎成了AI前進(jìn)道路的一顆絆腳石。

一張圖片引發(fā)的爭(zhēng)論

近年來(lái)，由于政策、資本和技術(shù)進(jìn)步等因素推動(dòng)，AI+教育成為人們關(guān)注的熱門話題。因此不少技術(shù)或教育公司紛紛探索AI在教育中的應(yīng)用。

在AI領(lǐng)域積累頗深的曠視也不例外，教育也是其輸出AI能力的一個(gè)場(chǎng)景之一。這張圖中分析統(tǒng)計(jì)學(xué)生舉手、聽(tīng)講和睡覺(jué)的次數(shù)主要是借助人臉識(shí)別、人體識(shí)別等技術(shù)。

由于這張圖片被廣泛傳播，9月2日晚，曠視科技在其官方微博緊急發(fā)布聲明稱，該圖片為技術(shù)場(chǎng)景化概念演示。言外之意，就是這張圖片只是一張藍(lán)圖，還未真正落地學(xué)校實(shí)施。

在聲明中，曠視表示，始終堅(jiān)持技術(shù)向善，讓人工智能造福所有人。在人工智能技術(shù)的各種場(chǎng)景中，曠視會(huì)堅(jiān)持正當(dāng)性、數(shù)據(jù)隱私保護(hù)等核心原則，接受社會(huì)的廣泛建議和監(jiān)督。

而網(wǎng)友們的討論也是主要集中在隱私保護(hù)層面，這反映出多數(shù)人其實(shí)針對(duì)的不是技術(shù)本身，而在于怎樣合理的使用技術(shù)。

松鼠AI創(chuàng)始人栗浩洋就此向雷鋒網(wǎng)表示，AI監(jiān)控學(xué)生，這個(gè)到底屬不屬于隱私，其實(shí)是要我們對(duì)監(jiān)控的定義要有一個(gè)清晰的界定。

“首先，我們比較清晰的界定就是在公共場(chǎng)合、廣場(chǎng)街道、酒店大堂的監(jiān)控，這些肯定是不屬于隱私的。另外，在私人領(lǐng)域或者幾個(gè)人的包間場(chǎng)所的監(jiān)控肯定是侵犯人的隱私的，比如說(shuō)人在家里，那么這種監(jiān)控是違反人的隱私的。但學(xué)校是一種半私人的場(chǎng)景，那它既不是一個(gè)公共的，誰(shuí)都可以去的，也不是完全屬于一個(gè)人的個(gè)人隱私的一個(gè)場(chǎng)景。所以，我認(rèn)為現(xiàn)在是沒(méi)有直接的界定?！?/p>

由于涉及到學(xué)校這個(gè)主體，雷鋒網(wǎng)就該事件采訪了北大附中朝陽(yáng)未來(lái)學(xué)校語(yǔ)文教師唐伊豆，她表示，這項(xiàng)技術(shù)立刻讓她想起了?？鹿P下的全景敞視監(jiān)獄。如果學(xué)生都規(guī)規(guī)矩矩、按部就班，反倒非常傷害學(xué)生的多樣性與校園文化建設(shè)。

“我個(gè)人對(duì)這項(xiàng)技術(shù)的態(tài)度比較保守。實(shí)際上，我認(rèn)為它仍然是在很傳統(tǒng)甚至陳舊的思路上進(jìn)行設(shè)計(jì)，從目前的實(shí)踐來(lái)看，雖然它在某些方面加強(qiáng)了校園安保，但是整體上簡(jiǎn)單地將老師和學(xué)生置于看與被看、管理者與被管理者的權(quán)力關(guān)系中，這是很粗暴的，背后實(shí)在缺乏對(duì)師生關(guān)系的想象力?！?/p>

此外，唐伊豆老師不贊成將課堂教學(xué)評(píng)價(jià)功能進(jìn)入課堂。她認(rèn)為，表情分析更是直接將“人”抽離了出去。她舉個(gè)例子，在語(yǔ)文課堂上，學(xué)生在構(gòu)思文章時(shí)發(fā)呆，或者為同學(xué)講述的故事而難過(guò)，這都是很正常的，“這些幽微的情緒是不可能也不需要被機(jī)器捕捉的。教學(xué)互動(dòng)中有很多模糊地帶，這正是其生動(dòng)的、人性化的魅力所在?！?/p>

而某位不愿意透露姓名的老師告訴雷鋒網(wǎng)，他認(rèn)為利用AI技術(shù)分析學(xué)生課堂行為，可以幫助老師更好地了解學(xué)生的課堂行為，從而改進(jìn)自己的教學(xué)。

“比如，講到某個(gè)知識(shí)點(diǎn)時(shí)，大部分學(xué)生都在發(fā)呆，老師課后就可以再針對(duì)性地補(bǔ)充。但是，如果技術(shù)運(yùn)用不當(dāng)，也會(huì)產(chǎn)生負(fù)面效果，比如AI檢查到學(xué)生發(fā)呆，老師因此去懲罰學(xué)生，這樣是不可行的，會(huì)引起學(xué)生的逆反情緒?！?/p>

“AI課堂行為分析”是否侵犯了學(xué)生的隱私？

按照曠視的說(shuō)法，那張圖片只是一個(gè)概念演示，但現(xiàn)實(shí)中其實(shí)有不少學(xué)校已將AI應(yīng)用于課堂中監(jiān)控學(xué)生的行為。

據(jù)澎湃新聞報(bào)道，近日，中國(guó)藥科大學(xué)已在兩間教室試點(diǎn)人臉識(shí)別系統(tǒng)。該系統(tǒng)不僅可以人臉考勤，還能全程監(jiān)控課堂的行為，例如統(tǒng)計(jì)學(xué)生是否在聽(tīng)講、玩手機(jī)、打瞌睡等等。從描述上看，這套系統(tǒng)的功能基本與曠視的概念演示是相同的。

該校圖書(shū)與信息中心主任表示這套系統(tǒng)是為了減少學(xué)生逃課、早退以及上課走神等行為。關(guān)于是否侵犯學(xué)生隱私，他表示已向公安和法務(wù)咨詢，教室屬于公開(kāi)場(chǎng)所，不存在侵犯隱私的說(shuō)法。

中國(guó)藥科大學(xué)的人臉識(shí)別系統(tǒng)（圖片截自：梨視頻）

唐伊豆老師則認(rèn)為，教室里是存在隱私的，它不是完全的公共場(chǎng)合，更像是一個(gè)特定的師生群體共有的空間。“用攝像頭考勤還可以接受，但是采集和監(jiān)控課堂行為就是一種過(guò)度的介入，它暗含著對(duì)教師、對(duì)學(xué)生的不信任，會(huì)影響師生共同建設(shè)的一個(gè)安全互信的、自在舒適的環(huán)境?！?/p>

一位老師對(duì)雷鋒網(wǎng)表示，教室里學(xué)生也是有隱私的，學(xué)生的行為數(shù)據(jù)不應(yīng)該共享給所有人，應(yīng)該設(shè)置嚴(yán)格的權(quán)限，比如校長(zhǎng)、學(xué)校安全處等，只給有需要的人針對(duì)性地開(kāi)放部分?jǐn)?shù)據(jù)。

另一位老師則認(rèn)為，利用AI攝像頭監(jiān)控學(xué)生考勤和行為，一方面出于保證學(xué)生安全、優(yōu)化管理的目的，這一做法無(wú)可厚非。但另一方面，更要考慮適度的問(wèn)題，教室雖是公共場(chǎng)合，但也要切實(shí)保障未成年人的隱私安全，特別是持續(xù)要關(guān)注該舉措對(duì)學(xué)生心理的持久影響。

由于涉及采集學(xué)生臉部和行為信息，這點(diǎn)頗受爭(zhēng)議。在栗浩洋看來(lái)，在AI教育這個(gè)范疇里面的信息，也應(yīng)該區(qū)分信息的類別。

例如，學(xué)生不喜歡被監(jiān)控表情和在課堂的表現(xiàn)，但是學(xué)習(xí)過(guò)程中的學(xué)習(xí)數(shù)據(jù)，一般的學(xué)生和家長(zhǎng)都比較愿意提供。因?yàn)樗麄冃枰蠋?、專家?lái)分析評(píng)估學(xué)習(xí)數(shù)據(jù)，需要系統(tǒng)拿到和通過(guò)這些數(shù)據(jù)幫他們?nèi)プ龈昝赖耐扑]?！白罱K我認(rèn)為選擇權(quán)應(yīng)該是留在家長(zhǎng)和學(xué)生手里，而且應(yīng)該征求家長(zhǎng)和學(xué)生的同意。”

AI+教育如何更好的結(jié)合？

之所以一張AI課堂分析的概念圖能引起如此大的反響，無(wú)外乎還是人們?cè)趽?dān)心新技術(shù)所帶來(lái)的未知挑戰(zhàn)，尤其是恐懼于將技術(shù)用在了錯(cuò)誤的方向，以致于帶來(lái)無(wú)法挽回的后果。

尤其是在教育這個(gè)特殊領(lǐng)域，任何新技術(shù)的應(yīng)用和創(chuàng)新都會(huì)被密切關(guān)注，任何瑕疵都會(huì)被無(wú)限放大。因?yàn)榻逃凶畲蟮某杀臼菚r(shí)間，這些還未成熟，未經(jīng)嚴(yán)格驗(yàn)證的產(chǎn)品一旦應(yīng)用于課堂中，對(duì)學(xué)生產(chǎn)生的任何影響都是不可逆的，所以不管是學(xué)校、家長(zhǎng)，還是社會(huì)輿論對(duì)此都是高度關(guān)注。

與此同時(shí)，國(guó)家也在鼓勵(lì)A(yù)I、大數(shù)據(jù)技術(shù)與教育的融合應(yīng)用。2017年7月，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，要求推動(dòng)AI在教育、醫(yī)療等領(lǐng)域的應(yīng)用。規(guī)劃中還提到要建設(shè)在線智能教育平臺(tái)，利用智能技術(shù)在教學(xué)、校園管理、學(xué)習(xí)分析系統(tǒng)及個(gè)性化教育方面進(jìn)行探索應(yīng)用。

當(dāng)然AI在教育中的應(yīng)用，不止考勤和學(xué)生行為分析等校園管理層面。在教學(xué)和個(gè)性化教育方面，AI主要被用于減輕老師工作負(fù)擔(dān)，幫助學(xué)生建立個(gè)性化學(xué)習(xí)路徑，實(shí)現(xiàn)因材施教。

例如，某些公司開(kāi)發(fā)的智能評(píng)卷系統(tǒng)，基于OCR識(shí)別、自然語(yǔ)言處理等AI技術(shù)，能夠?qū)φZ(yǔ)文、英語(yǔ)作文，簡(jiǎn)答題以及日常作業(yè)實(shí)現(xiàn)自動(dòng)評(píng)卷和批改，減輕了不少學(xué)校的工作壓力。這種教育信息化層面的技術(shù)早已在很多學(xué)校中得到應(yīng)用。

一起教育科技CEO劉暢對(duì)雷鋒網(wǎng)表示，教育本質(zhì)是讓學(xué)生學(xué)習(xí)到知識(shí)，并將知識(shí)應(yīng)用到實(shí)際生活中。現(xiàn)階段AI+教育想象空間最大的就是自適應(yīng)學(xué)習(xí)領(lǐng)域。

“自適應(yīng)學(xué)習(xí)真正從學(xué)習(xí)的本質(zhì)提升學(xué)習(xí)效率，為學(xué)生匹配最佳學(xué)習(xí)路徑，最終提升每一個(gè)學(xué)生的效果。我們認(rèn)為自適應(yīng)學(xué)習(xí)對(duì)教學(xué)輔助，學(xué)習(xí)效果和學(xué)習(xí)興趣的提升明顯，是目前最為合理且前景光明的方向?！?/p>

劉暢認(rèn)為學(xué)生的個(gè)人學(xué)習(xí)資料、學(xué)習(xí)數(shù)據(jù)這種都是學(xué)生的隱私數(shù)據(jù)，不能被隨意調(diào)取。對(duì)于平臺(tái)的學(xué)生數(shù)據(jù)，他們會(huì)全部進(jìn)行脫敏處理，并且有嚴(yán)格的安全防護(hù)措施。

栗浩洋覺(jué)得，AI+教育的方向最重要的是改變，從原來(lái)教育千人一面的形式，往千人千面去做因材施教。但是現(xiàn)在AI教育其實(shí)只是老師的觀察工具，可以讓老師看得更仔細(xì)了，并沒(méi)有真正切入到“教”和“育”的過(guò)程。所以，真正的AI+教育不應(yīng)該只是對(duì)孩子的一個(gè)人臉、表情、動(dòng)作的識(shí)別。

“而最重要的AI+教育就是能讓孩子減負(fù)80%，能讓他們真正的是學(xué)自己所不會(huì)，而不是浪費(fèi)時(shí)間去學(xué)那些自己已經(jīng)會(huì)的內(nèi)容。那么在減負(fù)之外，是對(duì)他們孩子的能力的培養(yǎng)，如何用AI系統(tǒng)提升孩子的學(xué)習(xí)能力，而不只是教他們知識(shí)?！?/p>

唐伊豆老師認(rèn)為， AI這項(xiàng)新技術(shù)應(yīng)該在更加積極的方向發(fā)揮它對(duì)教育的賦能效果，而不僅僅局限在所謂的“管理”、“采集”層面。在需要數(shù)據(jù)幫助的環(huán)節(jié)里，怎樣避免單一刻板的、自以為是的數(shù)據(jù)，需要教育者和科技工作者共同來(lái)思考。

遠(yuǎn)昊科技CEO鄧艾華曾在采訪中告訴雷鋒網(wǎng)，在處理校園隱私上，他們采取的辦法是，通過(guò)分布式系統(tǒng)將各個(gè)學(xué)校的大數(shù)據(jù)留存在學(xué)校的本地服務(wù)器上，只通過(guò)云平臺(tái)獲取學(xué)生簡(jiǎn)單的畫(huà)像信息，以此防止泄露學(xué)校數(shù)據(jù)隱私。將校園的各種數(shù)據(jù)留在學(xué)校中，也是一個(gè)解決方案，這也考驗(yàn)了學(xué)校的數(shù)據(jù)保護(hù)能力。

如何正確使用技術(shù)才是問(wèn)題

關(guān)于隱私的討論告訴我們，技術(shù)不是問(wèn)題，如何正確使用技術(shù)才是問(wèn)題。網(wǎng)友們對(duì)于曠視的那張概念圖片的討論，本質(zhì)上源自人們對(duì)于未知的新技術(shù)可能被濫用而產(chǎn)生的恐懼心理。

如果能用AI監(jiān)控就能培養(yǎng)出好學(xué)生，那樣的教育簡(jiǎn)直太輕松了，顯然現(xiàn)實(shí)并不是這樣的。

對(duì)于科技公司來(lái)說(shuō)，尤其是AI教育公司，如何將AI技術(shù)合理應(yīng)用于教育場(chǎng)景中，顯然是首先要考慮的問(wèn)題。希望下次AI+教育登上頭條，不再是因?yàn)殡[私保護(hù)的爭(zhēng)議。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。