《電子技術應用》
您所在的位置:首頁 > MEMS|傳感技術 > 業(yè)界動態(tài) > AI+教育時代:數(shù)據(jù)安全如何保障?

AI+教育時代:數(shù)據(jù)安全如何保障?

2019-04-24

  硅谷洞察此前在《2018年AI+教育美國創(chuàng)投趨勢報告》中指出,面對著教育這個龐大的領域、市場,中國在教育創(chuàng)新和教育科技領域的投資總額約是美國的三倍。中國的教育市場體量也是巨大的,僅在線教育市場就高達2000億。

  即使如此,美國作為世界一流強國,其持續(xù)不斷吸引著世界頂尖的人才,背后教育體系功不可沒。

  因此,無論中美,在人工智能時代,教育科技所面臨的三大核心問題需要所有關注教育行業(yè)的人思考:

  如何定義真正的AI+教育企業(yè)?

  人工智能時代,教育領域?qū)⒚媾R什么樣的倫理挑戰(zhàn),我們該如何應對?

  中美兩國分別有哪些政策和努力來約束和推動教育科技市場的發(fā)展?

  4月12日,在硅谷由 RoboTerra 與 WISE(世界教育創(chuàng)新峰會)聯(lián)合舉辦的 “人工智能x教育:創(chuàng)造之旅” 峰會上,硅谷洞察合伙人兼研究主管倪松,與來自美國哥倫比亞大學、弗吉尼亞理工大學、乂學教育松鼠AI、芥末堆等學術界、科技教育界的專家代表們,一起就上述問題進行了深入討論。

5cbfe2c399176-thumb.jpg

  小探帶你來看,現(xiàn)場專家們都引發(fā)了哪些激烈討論!

  真正的AI+教育企業(yè)是什么?

  科技已經(jīng)被廣泛應用到了教育領域。例如,學生們可以用手機照相,把作業(yè)拍下來,然后讓AI來回答。VR技術也已被運用在課堂教學上。學生可以在歷史課上重回古代羅馬的城市,這有助于吸引學生更投入的學習。

  面部識別這樣的技術也已經(jīng)被應用。比如通過學生憤怒、沉悶、無聊等表情,來衡量學生的壓力、心跳等多個指標。也可以加上一定時間序列的觀察,比如腦電波分析等,把腦電波跟背后的意圖相連。這些都可以說是AI具體的應用場景。

  但是,隨著號稱AI+教育的公司越來越多,我們不可回避一個問題:到底什么才是真正的AI+教育企業(yè)?

  人工智能和認知科學背景的 KP Thai 博士表示,有沒有運用深度學習、機器學習算法等,是作為判斷一個是否為經(jīng)典 AI 企業(yè)的一些標準。如果運用到教育領域的話,則需要通過機器學習、數(shù)據(jù)等方式,去判斷學生的需求、對知識的理解程度,然后機器再基于此,給出學生明智的指導建議。也可以像通過 AI 算法,給學生提供適當其個性的學習路徑等。

  除了技術給學生提供幫助之外,硅谷洞察在《2018年AI+教育美國創(chuàng)投趨勢報告》中也指出,從服務對象來看,AI+教育的初創(chuàng)公司面向教師的比例也很高,比如硅谷一家初創(chuàng)公司Gradescope就使用AI技術幫助教師打分,為教師節(jié)省時間。

  其次,AI+教育類的初創(chuàng)公司還包括像協(xié)助學校管理、為教育信息化企業(yè)提供AI模塊(toB類型)的公司等。

  AI+教育時代:收集數(shù)據(jù)的倫理問題

  教育的接受者,很多時候并非成年人。因此,這是否會使倫理問題對于教育科技行業(yè)來說更為關鍵。倪松提出,硅谷洞察非常關注這個議題, 因為孩童并沒有能力對于自己的哪些數(shù)據(jù)應該被搜集和分析做出決策,尤其是幼兒園、小學階段。那么一旦這種情況出現(xiàn)時,誰來決定到底孩子的什么數(shù)據(jù)被送給機器去分析呢?

  首先,這個現(xiàn)象已經(jīng)開始出現(xiàn)。正如芥末堆合伙人 Sophie Chen 所分享,如今在中國,已有遠程教學課堂應用面部識別技術,辨別哪些學生是快樂的,哪些學生是認真的、分心的等等。

5cbfe2c3b8a86-thumb.jpg

 ?。▓D片來自杭州某學校的智慧課堂行為管理系統(tǒng),可以識別學生的面部情緒)

  而目前真正缺失的是,數(shù)據(jù)的獲取和運用沒有透明性,根本不知道身邊這些 AI 到底都在做什么。KP Thai 博士認為,從長遠來看,這種現(xiàn)狀將是無法被公眾接受的,也將潛在制造很多問題。

  IEEE 標準委員會副主席、弗吉尼亞理工大學公共行政與政策中心(CPAP)教授 Sara Jordan 博士也分享到,遠程教學也在香港大學、澳門、深圳等一些高校中加以運用。

5cbfe2c4097f3-thumb.jpg

 ?。ㄗ蠖镾ara Jordan博士,Panel現(xiàn)場,圖自Angela Shen)

  如果成人以某種方式在收集學生的數(shù)據(jù),但學生們卻沒有辦法阻止,這便產(chǎn)生了倫理問題。如果真的要收集兒童數(shù)據(jù),就應該關注這些數(shù)據(jù)是否對他們有一個長時間的影響,是否未來會影響他們做其他決定的能力。

  誰來監(jiān)管學生數(shù)據(jù)?中美都有待加強

  既然存在透明度、數(shù)據(jù)現(xiàn)金化等可能存在并引發(fā)道德問題的現(xiàn)象,中美兩國政府在這一塊有什么作為呢?

  Sara Jordan 博士指出,遺憾的是,即使是美國,也沒有專門機構會對教育數(shù)據(jù)的收集進行監(jiān)管,不像醫(yī)療數(shù)據(jù)的監(jiān)管有 FDA(美國食品藥品監(jiān)督管理局)這樣明確的監(jiān)管機構來進行。

  不過,硅谷洞察發(fā)現(xiàn),盡管美國當前沒有專門的機構進行監(jiān)管,但是從2013年起,美國39個州頒布了120多項法律,規(guī)范學校及其服務提供者如何收集、使用和保護學生數(shù)據(jù)。這些法律大多涵蓋小學、初中和高中學生信息的收集。其中也有 35 項法律規(guī)定了私立和公立高等教育機構如何使用學生數(shù)據(jù)。

5cbfe2c454488-thumb.jpg

  (數(shù)據(jù)來自The Education Privacy Resource Center,版權屬于原作者)

  在這些法律中,僅有4項法律禁止學院出售學生信息或向?qū)W生索取社交媒體帳戶信息。禁止出售,也就意味著學生的信息將無法被用來賺錢。硅谷所在的加州也是其中一個立法州。

  加州在 2014 年通過的這條州法顯示,禁止 K-12 網(wǎng)站/應用程序供應商出于教育目的以外的任何目的使用、共享、披露或編譯學生信息并改進其服務;如果學?;?qū)W區(qū)要求他們不能出售信息的話,還必須刪除信息。這里面對信息的定義,就包括生物信息(biometric information)。但此條法案僅針對 K-12 階段。學前階段,以及高等教育階段不涵蓋在內(nèi)。

  也就是說,美國現(xiàn)今的法律系統(tǒng)有開始圍繞學生數(shù)據(jù)方面進行立法保護,但是,監(jiān)管機構的缺失問題依舊存在。Thai 博士認為,美國政府對 AI 的關注太少了,因為美國盛行的還是自由市場思維,對AI沒有足夠的注意力。

  那么在中國呢?中國在AI時代對學生數(shù)據(jù)的監(jiān)管同樣有待提高。

  今年1月2日,教育部官網(wǎng)公布《關于嚴禁有害APP進入中小學校園的通知》,學習類App中色情暴力、網(wǎng)絡游戲、商業(yè)廣告、抄作業(yè)、搞題海、公布成績排名等行為,遭到教育部嚴令禁止。學校與教育主管部門將建立“雙審查”的監(jiān)督制度,進入中小學的教育類App必須受到嚴格審查。

  但是,圍繞面部識別等搜集的學生數(shù)據(jù)可能存在的泄露和監(jiān)管問題,當前最主要的還是《消費者權益保護法》、《未成年人保護法》以及《網(wǎng)絡安全法》等通用型的法律在監(jiān)管,并沒有專門法律。

  曾在國內(nèi)有著豐富田野調(diào)查經(jīng)驗的哥倫比亞大學教師 Henan Cheng 博士認為,中國當前尚未形成足夠的公眾意識,即自己有權利來保護自己的數(shù)據(jù)的意識。Cheng 博士回憶,曾在調(diào)查時希望所有受訪者都要簽署同意書,享有知情權,但受訪者甚至不覺得需要簽署同意書。

  “政府需要投入努力,讓公眾這樣意識到這樣的權利”,Cheng 博士表示。

  回歸本源,Cheng 博士認為,教育者也需要思考,因為當教育者需要使用某些技術時,就應該思考為什么要設計這個工具,到底真正想要學生從中學到什么,避免設計出來的產(chǎn)品被用在錯誤的地方。

  專家建議:關注教育內(nèi)容進步而非技術

  討論最后,倪松希望各位嘉賓預測一下,在這樣的技術背景下,五年后中國教育市場會發(fā)生何種變化,會取得何種進步。

5cbfe2c44a597-thumb.jpg

 ?。ㄓ乙粸楣韫榷床旌匣锶四咚砂l(fā)言,圖自硅谷洞察)

  芥末堆合伙人 Sophie Chen 認為,過去五年一個明顯趨勢是:從線下變成線上。未來三五年的話,更多的學習行為會變成線上進行,那就意味著數(shù)據(jù)可以被收集,機器會做出更多有條理的分析,從而給出學生更多積極的建議。

  KP Thai 博士則認為,如今教育科技在整個教育市場大概所占比例是10%左右。預計五年內(nèi),會有更多針對學生個性化能力的指導、提升的工具。但她也一再強調(diào),科技只是一個工具,無論 AI 多好,都要關注學習的內(nèi)容,因為這才是教育的根本。因此 Thai 博士希望,會有更多關于教育內(nèi)容本身方面 —— 比如教育方法 —— 的進步,而不僅僅是 AI 技術的進步。

  你覺得上述話題中,哪些最值得我們重視?讀者里的爹媽們,關于孩子的教育,你們最關心什么?最希望 AI 在哪些方面能幫你們的孩子?歡迎大家留言討論。

  近期,硅谷洞察會呈現(xiàn)更多教育領域的優(yōu)質(zhì)獨家內(nèi)容,如果你想了解更多教育趨勢洞察、或更多相關活動預告,歡迎感興趣的讀者在留言處留下你們的 email、名字,及工作單位(選填),我們會定向向您推送。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權者。如涉及作品內(nèi)容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。