《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > MEMS|傳感技術(shù) > 業(yè)界動態(tài) > AI+教育時代:數(shù)據(jù)安全如何保障?

AI+教育時代:數(shù)據(jù)安全如何保障?

2019-04-24

  硅谷洞察此前在《2018年AI+教育美國創(chuàng)投趨勢報告》中指出,面對著教育這個龐大的領(lǐng)域、市場,中國在教育創(chuàng)新和教育科技領(lǐng)域的投資總額約是美國的三倍。中國的教育市場體量也是巨大的,僅在線教育市場就高達(dá)2000億。

  即使如此,美國作為世界一流強(qiáng)國,其持續(xù)不斷吸引著世界頂尖的人才,背后教育體系功不可沒。

  因此,無論中美,在人工智能時代,教育科技所面臨的三大核心問題需要所有關(guān)注教育行業(yè)的人思考:

  如何定義真正的AI+教育企業(yè)?

  人工智能時代,教育領(lǐng)域?qū)⒚媾R什么樣的倫理挑戰(zhàn),我們該如何應(yīng)對?

  中美兩國分別有哪些政策和努力來約束和推動教育科技市場的發(fā)展?

  4月12日,在硅谷由 RoboTerra 與 WISE(世界教育創(chuàng)新峰會)聯(lián)合舉辦的 “人工智能x教育:創(chuàng)造之旅” 峰會上,硅谷洞察合伙人兼研究主管倪松,與來自美國哥倫比亞大學(xué)、弗吉尼亞理工大學(xué)、乂學(xué)教育松鼠AI、芥末堆等學(xué)術(shù)界、科技教育界的專家代表們,一起就上述問題進(jìn)行了深入討論。

5cbfe2c399176-thumb.jpg

  小探帶你來看,現(xiàn)場專家們都引發(fā)了哪些激烈討論!

  真正的AI+教育企業(yè)是什么?

  科技已經(jīng)被廣泛應(yīng)用到了教育領(lǐng)域。例如,學(xué)生們可以用手機(jī)照相,把作業(yè)拍下來,然后讓AI來回答。VR技術(shù)也已被運用在課堂教學(xué)上。學(xué)生可以在歷史課上重回古代羅馬的城市,這有助于吸引學(xué)生更投入的學(xué)習(xí)。

  面部識別這樣的技術(shù)也已經(jīng)被應(yīng)用。比如通過學(xué)生憤怒、沉悶、無聊等表情,來衡量學(xué)生的壓力、心跳等多個指標(biāo)。也可以加上一定時間序列的觀察,比如腦電波分析等,把腦電波跟背后的意圖相連。這些都可以說是AI具體的應(yīng)用場景。

  但是,隨著號稱AI+教育的公司越來越多,我們不可回避一個問題:到底什么才是真正的AI+教育企業(yè)?

  人工智能和認(rèn)知科學(xué)背景的 KP Thai 博士表示,有沒有運用深度學(xué)習(xí)、機(jī)器學(xué)習(xí)算法等,是作為判斷一個是否為經(jīng)典 AI 企業(yè)的一些標(biāo)準(zhǔn)。如果運用到教育領(lǐng)域的話,則需要通過機(jī)器學(xué)習(xí)、數(shù)據(jù)等方式,去判斷學(xué)生的需求、對知識的理解程度,然后機(jī)器再基于此,給出學(xué)生明智的指導(dǎo)建議。也可以像通過 AI 算法,給學(xué)生提供適當(dāng)其個性的學(xué)習(xí)路徑等。

  除了技術(shù)給學(xué)生提供幫助之外,硅谷洞察在《2018年AI+教育美國創(chuàng)投趨勢報告》中也指出,從服務(wù)對象來看,AI+教育的初創(chuàng)公司面向教師的比例也很高,比如硅谷一家初創(chuàng)公司Gradescope就使用AI技術(shù)幫助教師打分,為教師節(jié)省時間。

  其次,AI+教育類的初創(chuàng)公司還包括像協(xié)助學(xué)校管理、為教育信息化企業(yè)提供AI模塊(toB類型)的公司等。

  AI+教育時代:收集數(shù)據(jù)的倫理問題

  教育的接受者,很多時候并非成年人。因此,這是否會使倫理問題對于教育科技行業(yè)來說更為關(guān)鍵。倪松提出,硅谷洞察非常關(guān)注這個議題, 因為孩童并沒有能力對于自己的哪些數(shù)據(jù)應(yīng)該被搜集和分析做出決策,尤其是幼兒園、小學(xué)階段。那么一旦這種情況出現(xiàn)時,誰來決定到底孩子的什么數(shù)據(jù)被送給機(jī)器去分析呢?

  首先,這個現(xiàn)象已經(jīng)開始出現(xiàn)。正如芥末堆合伙人 Sophie Chen 所分享,如今在中國,已有遠(yuǎn)程教學(xué)課堂應(yīng)用面部識別技術(shù),辨別哪些學(xué)生是快樂的,哪些學(xué)生是認(rèn)真的、分心的等等。

5cbfe2c3b8a86-thumb.jpg

  (圖片來自杭州某學(xué)校的智慧課堂行為管理系統(tǒng),可以識別學(xué)生的面部情緒)

  而目前真正缺失的是,數(shù)據(jù)的獲取和運用沒有透明性,根本不知道身邊這些 AI 到底都在做什么。KP Thai 博士認(rèn)為,從長遠(yuǎn)來看,這種現(xiàn)狀將是無法被公眾接受的,也將潛在制造很多問題。

  IEEE 標(biāo)準(zhǔn)委員會副主席、弗吉尼亞理工大學(xué)公共行政與政策中心(CPAP)教授 Sara Jordan 博士也分享到,遠(yuǎn)程教學(xué)也在香港大學(xué)、澳門、深圳等一些高校中加以運用。

5cbfe2c4097f3-thumb.jpg

 ?。ㄗ蠖镾ara Jordan博士,Panel現(xiàn)場,圖自Angela Shen)

  如果成人以某種方式在收集學(xué)生的數(shù)據(jù),但學(xué)生們卻沒有辦法阻止,這便產(chǎn)生了倫理問題。如果真的要收集兒童數(shù)據(jù),就應(yīng)該關(guān)注這些數(shù)據(jù)是否對他們有一個長時間的影響,是否未來會影響他們做其他決定的能力。

  誰來監(jiān)管學(xué)生數(shù)據(jù)?中美都有待加強(qiáng)

  既然存在透明度、數(shù)據(jù)現(xiàn)金化等可能存在并引發(fā)道德問題的現(xiàn)象,中美兩國政府在這一塊有什么作為呢?

  Sara Jordan 博士指出,遺憾的是,即使是美國,也沒有專門機(jī)構(gòu)會對教育數(shù)據(jù)的收集進(jìn)行監(jiān)管,不像醫(yī)療數(shù)據(jù)的監(jiān)管有 FDA(美國食品藥品監(jiān)督管理局)這樣明確的監(jiān)管機(jī)構(gòu)來進(jìn)行。

  不過,硅谷洞察發(fā)現(xiàn),盡管美國當(dāng)前沒有專門的機(jī)構(gòu)進(jìn)行監(jiān)管,但是從2013年起,美國39個州頒布了120多項法律,規(guī)范學(xué)校及其服務(wù)提供者如何收集、使用和保護(hù)學(xué)生數(shù)據(jù)。這些法律大多涵蓋小學(xué)、初中和高中學(xué)生信息的收集。其中也有 35 項法律規(guī)定了私立和公立高等教育機(jī)構(gòu)如何使用學(xué)生數(shù)據(jù)。

5cbfe2c454488-thumb.jpg

 ?。〝?shù)據(jù)來自The Education Privacy Resource Center,版權(quán)屬于原作者)

  在這些法律中,僅有4項法律禁止學(xué)院出售學(xué)生信息或向?qū)W生索取社交媒體帳戶信息。禁止出售,也就意味著學(xué)生的信息將無法被用來賺錢。硅谷所在的加州也是其中一個立法州。

  加州在 2014 年通過的這條州法顯示,禁止 K-12 網(wǎng)站/應(yīng)用程序供應(yīng)商出于教育目的以外的任何目的使用、共享、披露或編譯學(xué)生信息并改進(jìn)其服務(wù);如果學(xué)校或?qū)W區(qū)要求他們不能出售信息的話,還必須刪除信息。這里面對信息的定義,就包括生物信息(biometric information)。但此條法案僅針對 K-12 階段。學(xué)前階段,以及高等教育階段不涵蓋在內(nèi)。

  也就是說,美國現(xiàn)今的法律系統(tǒng)有開始圍繞學(xué)生數(shù)據(jù)方面進(jìn)行立法保護(hù),但是,監(jiān)管機(jī)構(gòu)的缺失問題依舊存在。Thai 博士認(rèn)為,美國政府對 AI 的關(guān)注太少了,因為美國盛行的還是自由市場思維,對AI沒有足夠的注意力。

  那么在中國呢?中國在AI時代對學(xué)生數(shù)據(jù)的監(jiān)管同樣有待提高。

  今年1月2日,教育部官網(wǎng)公布《關(guān)于嚴(yán)禁有害APP進(jìn)入中小學(xué)校園的通知》,學(xué)習(xí)類App中色情暴力、網(wǎng)絡(luò)游戲、商業(yè)廣告、抄作業(yè)、搞題海、公布成績排名等行為,遭到教育部嚴(yán)令禁止。學(xué)校與教育主管部門將建立“雙審查”的監(jiān)督制度,進(jìn)入中小學(xué)的教育類App必須受到嚴(yán)格審查。

  但是,圍繞面部識別等搜集的學(xué)生數(shù)據(jù)可能存在的泄露和監(jiān)管問題,當(dāng)前最主要的還是《消費者權(quán)益保護(hù)法》、《未成年人保護(hù)法》以及《網(wǎng)絡(luò)安全法》等通用型的法律在監(jiān)管,并沒有專門法律。

  曾在國內(nèi)有著豐富田野調(diào)查經(jīng)驗的哥倫比亞大學(xué)教師 Henan Cheng 博士認(rèn)為,中國當(dāng)前尚未形成足夠的公眾意識,即自己有權(quán)利來保護(hù)自己的數(shù)據(jù)的意識。Cheng 博士回憶,曾在調(diào)查時希望所有受訪者都要簽署同意書,享有知情權(quán),但受訪者甚至不覺得需要簽署同意書。

  “政府需要投入努力,讓公眾這樣意識到這樣的權(quán)利”,Cheng 博士表示。

  回歸本源,Cheng 博士認(rèn)為,教育者也需要思考,因為當(dāng)教育者需要使用某些技術(shù)時,就應(yīng)該思考為什么要設(shè)計這個工具,到底真正想要學(xué)生從中學(xué)到什么,避免設(shè)計出來的產(chǎn)品被用在錯誤的地方。

  專家建議:關(guān)注教育內(nèi)容進(jìn)步而非技術(shù)

  討論最后,倪松希望各位嘉賓預(yù)測一下,在這樣的技術(shù)背景下,五年后中國教育市場會發(fā)生何種變化,會取得何種進(jìn)步。

5cbfe2c44a597-thumb.jpg

 ?。ㄓ乙粸楣韫榷床旌匣锶四咚砂l(fā)言,圖自硅谷洞察)

  芥末堆合伙人 Sophie Chen 認(rèn)為,過去五年一個明顯趨勢是:從線下變成線上。未來三五年的話,更多的學(xué)習(xí)行為會變成線上進(jìn)行,那就意味著數(shù)據(jù)可以被收集,機(jī)器會做出更多有條理的分析,從而給出學(xué)生更多積極的建議。

  KP Thai 博士則認(rèn)為,如今教育科技在整個教育市場大概所占比例是10%左右。預(yù)計五年內(nèi),會有更多針對學(xué)生個性化能力的指導(dǎo)、提升的工具。但她也一再強(qiáng)調(diào),科技只是一個工具,無論 AI 多好,都要關(guān)注學(xué)習(xí)的內(nèi)容,因為這才是教育的根本。因此 Thai 博士希望,會有更多關(guān)于教育內(nèi)容本身方面 —— 比如教育方法 —— 的進(jìn)步,而不僅僅是 AI 技術(shù)的進(jìn)步。

  你覺得上述話題中,哪些最值得我們重視?讀者里的爹媽們,關(guān)于孩子的教育,你們最關(guān)心什么?最希望 AI 在哪些方面能幫你們的孩子?歡迎大家留言討論。

  近期,硅谷洞察會呈現(xiàn)更多教育領(lǐng)域的優(yōu)質(zhì)獨家內(nèi)容,如果你想了解更多教育趨勢洞察、或更多相關(guān)活動預(yù)告,歡迎感興趣的讀者在留言處留下你們的 email、名字,及工作單位(選填),我們會定向向您推送。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。