《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 通信與網(wǎng)絡(luò) > 業(yè)界動態(tài) > 五角大樓的人工智能網(wǎng)絡(luò)戰(zhàn)項目:IKE

五角大樓的人工智能網(wǎng)絡(luò)戰(zhàn)項目:IKE

2020-09-17
來源:安全牛
關(guān)鍵詞: DARPA X計劃 IKE

  從DARPAX計劃到五角大樓神秘面紗下的IKE項目,美國的人工智能網(wǎng)絡(luò)戰(zhàn)爭技術(shù)平臺已經(jīng)發(fā)展到了一個危險的階段,美國如何以及何時發(fā)動網(wǎng)絡(luò)戰(zhàn)的決策將越來越依賴計算機。

  馬里蘭州米德堡內(nèi)部的聯(lián)合作戰(zhàn)中心是美國軍隊網(wǎng)絡(luò)戰(zhàn)的“大教堂”,位于一座2018年啟用的造價5.2億美元的綜合大樓的一隅,這里也是是美國網(wǎng)絡(luò)司令部和國家安全局進行網(wǎng)絡(luò)戰(zhàn)時的神經(jīng)中樞。一群軍事人員在一排排小巧的玻璃窗下的數(shù)十臺計算機顯示器后面工作。

  三個20英尺高的屏幕安裝在窗戶下方的墻面上。在大多數(shù)情況下,其中兩個屏幕每天都會顯示來自一個秘密程序——“IKE項目”的信息。

  這個房間看起來和標準的政府禮堂沒什么不同,但是其背后的IKE項目的意義卻非同尋常。

  如果說聯(lián)合作戰(zhàn)中心是網(wǎng)絡(luò)戰(zhàn)(使用計算機代碼攻擊和防御從坦克到電子郵件服務(wù)器等目標的藝術(shù))新時代的實體,那么IKE就是大腦。IKE跟蹤大屏幕下方的計算機旁“奮戰(zhàn)”的200名工作人員的每一次擊鍵,并預(yù)測每一個網(wǎng)絡(luò)任務(wù)成功的概率。IKE還可以自動運行程序命令,并在動態(tài)獲取信息的同時不斷進行調(diào)整。

  告別“人工”網(wǎng)絡(luò)戰(zhàn)

  與過去十年網(wǎng)絡(luò)空間手動操縱工具的戰(zhàn)斗相比,IKE完全是一個劃時代產(chǎn)物。

  網(wǎng)絡(luò)戰(zhàn)爭的強大之處在于,它不僅能直接控制敵人的飛機和艦船,而且還能通過指揮武器背后的計算機來終止軍事行動,從而避免了流血沖突。自從美國和以色列使用臭名昭著的震網(wǎng)病毒(Stuxnet)打擊伊朗核設(shè)施以來,網(wǎng)絡(luò)戰(zhàn)爭這個概念就得到了發(fā)展。

  在IKE之前,網(wǎng)絡(luò)專家會在巨大的白板或粘貼在墻上的密密麻麻的卡片紙張上制定作戰(zhàn)計劃。他們分成小組,在單獨的計算機上運行單獨的程序,并將散布著手寫筆記的紙條交給中央辦公桌,以標記軍事行動的進度。

  這頗具諷刺意味,在一場被認為是未來派的高科技戰(zhàn)斗中,幾乎所有與網(wǎng)絡(luò)空間沖突有關(guān)的指揮決策都通過毫無技術(shù)含量可言的手工方式,沒有中央計劃系統(tǒng),也沒有計算機化的思考和分析。

  2012年,IKE項目啟動,并于2018年開始投入使用,用人工智能代替人類做出更快決策。這意味著,美國如何以及何時發(fā)動網(wǎng)絡(luò)戰(zhàn)的決策將越來越依賴計算機。

  人工智能技術(shù)能大幅提升攻擊和防御的潛在優(yōu)勢,能在幾分之一秒內(nèi)檢測動態(tài),遠超人類黑客的手速。但是,一個棘手的問題在于,像IKE這樣的系統(tǒng)依賴于一種稱為機器學(xué)習的人工智能技術(shù),因此很難進行測試,從而使其動作無法預(yù)測。網(wǎng)絡(luò)戰(zhàn)中,任何異常計算機代碼都可能會導(dǎo)致附帶傷害,例如意外關(guān)閉醫(yī)院電源或破壞商用飛機空中交通管制系統(tǒng),即使是用極其復(fù)雜精妙的計算機也會帶來風險。

  與網(wǎng)絡(luò)戰(zhàn)爭有關(guān)的信息,尤其是IKE項目,屬于高度機密。甚至任何有關(guān)其計算機代碼的暗示線索都可能導(dǎo)致實戰(zhàn)中該代碼的攻擊被阻斷。因此,外界很難探知IKE項目的細節(jié)信息。

  但是,根據(jù)對熟悉該計劃的人士的媒體采訪內(nèi)容,有一點是毋庸置疑的,在軍備競賽提速的大背景下,美國軍方正在全力加速采用人工智能和自動化技術(shù)。

  與谷歌的“阿爾法狗”多少有些類似,IKE能分析大量數(shù)據(jù),以百分比的形式精確預(yù)測美軍軍事行動的成敗幾率。如果“勝率”很高,指揮官可能會決定讓系統(tǒng)繼續(xù)運行而無需進一步的人工干預(yù),該流程雖然尚未正式啟用,但是基于目前技術(shù)是完全可行的。

  AI加速主宰戰(zhàn)場

  埃德·卡登(Ed Cardon)是已退休的美軍中將,從2013年至2016年擔任陸軍網(wǎng)絡(luò)部隊負責人,他花了多年時間游說高級軍方將領(lǐng)和白宮領(lǐng)導(dǎo)人使用網(wǎng)絡(luò)武器,特別是在他指揮的打擊ISIS的網(wǎng)絡(luò)作戰(zhàn)期間。由于擔心網(wǎng)絡(luò)攻擊可能攪亂國際關(guān)系,他的主張遭遇了政府內(nèi)部強烈的反對意見。

  因為卡登游說的網(wǎng)絡(luò)武器計劃包含很多不確定因素,而這種不確定性是政客們最不愿意看到的。

  卡登抱怨說,擔心政治影響是奧巴馬政府執(zhí)政期間只批準了少數(shù)進攻性網(wǎng)絡(luò)行動的原因。

  震網(wǎng)事件導(dǎo)致的“網(wǎng)絡(luò)戰(zhàn)武器泄露”使得美國在使用網(wǎng)絡(luò)武器時變得極為謹慎。雖然最初試圖破壞伊朗鈾濃縮的嘗試奏效了,炸毀了核設(shè)施中的離心機,但是攻擊代碼被泄露到互聯(lián)網(wǎng)上,引起了安全專家們和網(wǎng)絡(luò)犯罪分子的極大關(guān)注,并產(chǎn)生了嚴重后果。這個直接導(dǎo)致2010年之后,美國政府對使用網(wǎng)絡(luò)武器的方式和時間方面進行了嚴格規(guī)定。

  2013年巴拉克·奧巴馬(Barack Obama)簽署了一項機密命令,即《總統(tǒng)政策指令20》,其中概述了一系列流程,包括白宮高層會議,這些流程必須在美國網(wǎng)絡(luò)司令部發(fā)起攻擊之前進行。軍方官員悄悄地抱怨說,該命令束縛了他們的雙手,因為行動結(jié)果的不確定性,幾乎不可能獲得批準。

  《總統(tǒng)政策指令20》簽發(fā)后,隨著全球網(wǎng)絡(luò)攻擊的數(shù)量不斷增長,五角大樓官員開始擔心美國的網(wǎng)絡(luò)將不堪重負。

  2018年9月,特朗普簽署了《國家安全政策備忘錄13》,該備忘錄取代了奧巴馬的命令。該政策的細節(jié)仍處于機密狀態(tài),但熟悉該消息的消息人士稱,一旦國防部長與情報官員進行協(xié)調(diào),它將授權(quán)國防部長在未經(jīng)上級批準的情況下批準某些類型的行動。

  特朗普的總統(tǒng)命令在IKE早期研究計劃成熟之前就已經(jīng)生效。雖然該命令不是為IKE鋪路,但兩者迎合了高速網(wǎng)絡(luò)攻擊的新技術(shù)和新政策浪潮。

  借助IKE,指揮官將能夠向決策者提供一個預(yù)測成功率的數(shù)值,以及另一個計算出來的附帶損害(例如破壞可能連接到目標的民用計算機網(wǎng)絡(luò))風險數(shù)值。

  IKE是現(xiàn)代網(wǎng)絡(luò)戰(zhàn)爭的模型,但這僅僅是個開始。任何此類戰(zhàn)爭的自動化都將需要收集大量數(shù)據(jù)來訓(xùn)練人工智能系統(tǒng)。其他正在開發(fā)的程序,例如HACCS(一種利用自主性來對抗網(wǎng)絡(luò)攻擊者的系統(tǒng)),使計算機能夠自主阻斷網(wǎng)絡(luò)威脅。

  所有這些程序都使網(wǎng)絡(luò)戰(zhàn)更接近1983年的電影《戰(zhàn)爭游戲》中的場景,該電影中的人工智能系統(tǒng),因為一個小故障導(dǎo)致無法區(qū)分游戲與現(xiàn)實之間的差異,結(jié)果引發(fā)了核戰(zhàn)爭。

  IKE尚未“轉(zhuǎn)正”成為完全自主的網(wǎng)絡(luò)引擎,并且美軍也絕無可能在其黑客工具庫中添加核武器,但這依然為計算機接管更多的網(wǎng)絡(luò)戰(zhàn)斗決策奠定了基礎(chǔ)。美國指揮官一直擔心會落后于中國和俄羅斯等競爭對手,他們認為后兩個國家都在研發(fā)AI網(wǎng)絡(luò)武器。

  盡管不斷增長的自主網(wǎng)絡(luò)功能未經(jīng)測試,但部署這些功能并沒有法律障礙。

  令一些專家擔心的是,人工智能系統(tǒng)并非總是能夠以可預(yù)測的方式運行,故障可能會危及生命。做出決定的計算機“大腦”也不會擔心附帶損害:如果犧牲一些美軍能提高“勝率”,那么人工智能系統(tǒng)就會面無表情地讓這些人去送死。

  卡登說:“這臺機器為了取勝不惜大義滅親。”

  隨著這些日益自主化的系統(tǒng)變得越來越強大,白宮高層官員必須決定是否愿意讓AI計算機控制美國的網(wǎng)絡(luò)武器庫,即使他們不了解計算機的決策。

  喬治敦大學(xué)網(wǎng)絡(luò)安全和外交政策教授,《黑客與國家》(The Hacker and the State)的作者本·布坎南(Ben Buchanan)指出:“機器學(xué)習系統(tǒng)的優(yōu)勢是它們經(jīng)常吐出數(shù)字?!薄暗kU的是,這些數(shù)字并不總是正確的。人們更容易相信,來自計算機的信息總是嚴格而準確的?!?/p>

  網(wǎng)絡(luò)戰(zhàn)爭的基礎(chǔ)原理非常簡單。無論是從事進攻還是防御工作的專家,都必須弄清楚哪些計算機或設(shè)備在網(wǎng)絡(luò)上,以及它們在防御方面是否存在弱點。然后,黑客利用這些弱點來控制系統(tǒng),或者對于防御方來說,則應(yīng)修復(fù)漏洞。

  掌握了系統(tǒng)的控制權(quán)之后,攻擊者幾乎可以為所欲為。對于情報機構(gòu),這通常意味著要認真監(jiān)視網(wǎng)絡(luò)以了解對手。其余時間,網(wǎng)絡(luò)戰(zhàn)爭的雙方忙于尋求入侵系統(tǒng),破壞或替換數(shù)據(jù)以打擊對手。

  迄今為止,全球尚未爆發(fā)全面的網(wǎng)絡(luò)戰(zhàn)爭,戰(zhàn)斗僅限于遮遮掩掩的國家之間的小規(guī)模沖突。網(wǎng)絡(luò)戰(zhàn)的“好處”之一是,國家可以通過多個網(wǎng)絡(luò)中繼運行攻擊的代碼,這使得跟蹤攻擊源變得更加困難。但是,十幾個擁有先進網(wǎng)絡(luò)功能的國家/地區(qū)一直在忙于破解從發(fā)電廠到噴氣式戰(zhàn)斗機制造商的所有信息。到目前為止,網(wǎng)絡(luò)戰(zhàn)部隊的重點是竊取信息。

  起源:代號“X計劃”

  對于網(wǎng)絡(luò)戰(zhàn)爭的第一個時代(在世紀之初迅速發(fā)展起來),攻擊或防御過程意味著一系列手動步驟。五角大樓正忙于從科技公司購買一次性工具,這些工具提供了解決方案來跟蹤網(wǎng)絡(luò)中的所有計算機并查找其代碼中的弱點。這意味著一個專家會使用諸如Endgame之類的程序坐在一臺計算機上,而另一名專家可能會在另一臺計算機上使用諸如Splunk之類的軟件??傊磺羞M展緩慢,溝通與決策效率低下。

  要制定戰(zhàn)斗計劃,專家們必須離開計算機,在白板或紙上擬定戰(zhàn)略,返回自己的駐地,并進行一系列有序的動作來贏得戰(zhàn)斗。到2012年,軍方已經(jīng)厭倦了這種繁冗過時的做法。

  五角大樓責成其研究部門,即以發(fā)明互聯(lián)網(wǎng)和計算機鼠標而聞名的國防部高級研究計劃局(DARPA),想出一種更好的方式來進行網(wǎng)絡(luò)戰(zhàn)爭。

  DARPA開發(fā)的早期系統(tǒng)簡化了部隊的工作,但是他們?nèi)匀幻媾R著巨大的障礙,這主要是因為美國網(wǎng)絡(luò)司令部的專家不足7,000名,難以保護不計其數(shù)的系統(tǒng)。

  DARPA的答案是與軟件公司合作開展一項新計劃,該計劃正式稱為“基礎(chǔ)網(wǎng)絡(luò)戰(zhàn)”,代號“X計劃”。

  DARPA在2012年發(fā)布的X計劃中明確指出,網(wǎng)絡(luò)戰(zhàn)必須超越“手動”發(fā)動戰(zhàn)爭的方式,手動方式無法滿足網(wǎng)絡(luò)空間的一項基本原則:“戰(zhàn)爭以機器速度運行,不是人類的速度?!?/p>

  近十年后,Plan X演變?yōu)镮KE項目。五角大樓今年將花費2700萬美元,并計劃明年花費3060萬美元。

  X計劃最初的工作內(nèi)容看起來完全不像是IKE這樣的團隊管理和預(yù)測引擎,更接近電影《少數(shù)派報告》的交互式屏幕和指示燈,其重點是以數(shù)據(jù)展示方式顯示計算機網(wǎng)絡(luò)上正在發(fā)生的事情。

  “最初幾年的要求是,必須擺脫鍵盤和鼠標作為數(shù)據(jù)接口和交互設(shè)備,”X計劃外包公司Two Six Lab的部門主管杰夫·卡雷爾斯(Jeff Karrels)告訴媒體:“研究人員喜歡用手勢控制系統(tǒng)以及三維全息投影。”

  新的數(shù)字沙盤視覺系統(tǒng)獲取美國網(wǎng)絡(luò)部隊的數(shù)據(jù)流,取代稀稀拉拉擺放著部隊和坦克模型的舊沙盤。兩個游戲開發(fā)人員負責開發(fā)復(fù)雜沙盤模型的人機交互。

  最終,對于虛擬現(xiàn)實版本戰(zhàn)場系統(tǒng)的熱情消退了。X計劃的工作人員開始設(shè)計一種新的方式來整合五角大樓購買的不同網(wǎng)絡(luò)軟件,以便它們都可以在同一臺計算機上工作。換而言之,就是開發(fā)可以快速連續(xù)運行多個程序的自動化工具,通過減少行動任務(wù)中的一系列手動步驟來加快操作速度。

  這種關(guān)注局部細節(jié)和自動化的開發(fā)思路轉(zhuǎn)變背離了該系統(tǒng)的初衷和總體目標——智能化決策:計劃和進行戰(zhàn)爭。

  國家網(wǎng)絡(luò)安全和通信集成中心的國土安全部工作人員。(拉里·唐寧/路透社)

  直到2015年,X計劃再次迎來轉(zhuǎn)機。

  那年,已退休的中將卡登在關(guān)注該計劃,并擔心專家們會錯過機會。

  負責DARPA X計劃的弗蘭克·龐德(Frank Pound)記得當年與卡登開會討論已取得的進展??D指揮的美國陸軍網(wǎng)絡(luò)司令部(US Army Cyber Command),雖然是DARPA項目,但在開發(fā)初期就與該計劃密切相關(guān)。

  龐德在2018年的一次采訪中回憶X計劃向集成化軟件的轉(zhuǎn)型時說:“我們正在努力開發(fā)一個能夠自主反擊的系統(tǒng)?!?/p>

  卡登補充說:X計劃的潛力不僅于此。可以幫助協(xié)調(diào)所有網(wǎng)絡(luò)操作,同時不斷地仔細檢查國防部網(wǎng)絡(luò)上的信息,以發(fā)現(xiàn)新的漏洞并找出攻擊者。它可以利用所有這些數(shù)據(jù)來幫助做出決定,確定美軍的攻擊可能起作用,以及何時使用。

  Mayhem的崛起

  2016年夏季,另外一個DARPA培植的項目——Mayhem成為焦點,更接近DARPA最初在2012年描述的全功能平臺。

  自動化安全系統(tǒng)Mayhem是2016年DARPA網(wǎng)絡(luò)超級挑戰(zhàn)賽(CGC)的獲勝者,在黑客競賽中擊敗了六個競爭對手,贏得200萬美元的最高獎金。

  這場競賽與之前不同的是,Mayhem沒有人指揮。一旦受到挑戰(zhàn),它就必須決定何時,如何攻擊競爭對手以及如何保護自己的程序,并制定策略來贏得一封閉式網(wǎng)絡(luò)戰(zhàn)爭。

  Mayhem的自動化技術(shù)使機器可以自主做出戰(zhàn)術(shù)決策:何時闖入對手的系統(tǒng)或何時嘗試修復(fù)自身防御中的弱點,這已經(jīng)遠遠超出了模糊測試的范圍。

  今年五月五角大樓Mayhem的開發(fā)公司ForAllSecure簽訂了一份價值4500萬美元的合同,以擴大Mayhem在美軍中的使用范圍,因為軍方有太多軟件bug急需一個“漏洞大殺器”。一份2018年度的美國政府工作報告發(fā)現(xiàn),美國國防部2012年至2017年之間測試的所有武器系統(tǒng)都存在嚴重的軟件漏洞。

  但Mayhem這樣依賴機器學(xué)習的系統(tǒng)普遍存在一些問題:很難對其進行測試,并且機器總是傾向于“投機取巧”。例如,在一個實驗中,一臺學(xué)習玩俄羅斯方塊的計算機得出結(jié)論:實現(xiàn)“不敗”的最佳策略是按下游戲暫停鍵。

  無論軍事研究人員使用AI開發(fā)何種工具,都很難評估它們在戰(zhàn)斗中的工作方式。人們尚不清楚如何測試不斷吸收新數(shù)據(jù)并不斷調(diào)整其結(jié)論的機器學(xué)習系統(tǒng)。

  此外,Mayhem這種人工智能系統(tǒng)存在一個難題:計算機無法解釋他們?nèi)绾蔚贸龃鸢?,這意味著用戶必須相信結(jié)論是正確的。

  雖然人工智能技術(shù)目前依然無法“自圓其說”,但卡登堅信X計劃可以成為所有美軍網(wǎng)絡(luò)戰(zhàn)的平臺,在他的推動下,X計劃正在演變?yōu)榫W(wǎng)絡(luò)戰(zhàn)爭中應(yīng)用更廣泛的管理工具。

  酷炫的高科技數(shù)字沙盤已經(jīng)一去不復(fù)返了。龐德指出:“今天的X計劃是專為軍事行動而設(shè)計的全棧網(wǎng)絡(luò)行動平臺?!?/p>

  從X計劃到IKE

  自從特朗普將“開火權(quán)”下放給軍隊后不久,2018年五角大樓的一個神秘部門奪走了X計劃的控制權(quán)。

  這個部門就是時任國防部副部長的阿什·卡特(Ash Carter)于2012年成立的戰(zhàn)略能力辦公室(SCO),其任務(wù)是將有前途的技術(shù)轉(zhuǎn)化為真實的戰(zhàn)場工具。如果說DARPA的大部分任務(wù)仍然是擺弄理論和概念,那么SCO的任務(wù)是確保所有這些工作都能迅速轉(zhuǎn)化為戰(zhàn)斗力。

  SCO在2018年12月接管X計劃時,做的第一件事就是給程序改名。X計劃被重新重命名為IKE項目。

  SCO向該計劃的主要承包商“Two Six Lab”傳達了一個重要信息:確保系統(tǒng)使用機器學(xué)習來做出更多的預(yù)測,而不僅僅是跟蹤黑客團隊。五角大樓的領(lǐng)導(dǎo)者們看到了Mayhem在網(wǎng)絡(luò)大挑戰(zhàn)賽中取得的成就后,堅信可以將更多的自動化和人工智能技術(shù)整合到IKE項目中。預(yù)測作戰(zhàn)成功率成為關(guān)鍵能力。

  SCO還開始研究如何讓IKE利用機器學(xué)習來偵察潛在攻擊目標,讓計算機從不同的來源獲取信息,以更清晰地了解目標的外觀。

  從那以后,對人工智能的關(guān)注一直在推動IKE不斷改進。每三周完成一次系統(tǒng)更新,并將其發(fā)送給美國網(wǎng)絡(luò)司令部。

  離開DARPA后,IKE很快就被五角大樓列為高度保密項目。國防部發(fā)送給國會的年度預(yù)算文件也對該計劃進行了命名,并列出了所需資金的數(shù)額(2021年為3060萬美元),但其他所有細節(jié)均保密。

  但是,有消息人士聲稱,IKE計劃已經(jīng)進展到了無需人工干預(yù)就能執(zhí)行其許多功能的關(guān)口。目前最大的問題能否獲得五角大樓和白宮官員的核準。

  到目前為止,國會還沒有介入限制軍方如何使用其快速發(fā)展中的網(wǎng)絡(luò)武器庫。由美國緬因州參議員安格斯·金(Angus King)和美國威斯康星州眾議員邁克·加拉格爾(Mike Gallagher)主持的美國網(wǎng)絡(luò)空間日光浴室委員會研究了一系列涉及網(wǎng)絡(luò)安全的問題,并對人工智能的興起表示關(guān)注。該委員會在三月份發(fā)布的最終報告中發(fā)現(xiàn),人工智能可能導(dǎo)致一場“新軍備競賽”,但沒有提出任何形式的監(jiān)管建議。

  如果沒有其他阻力,五角大樓會繼續(xù)開足馬力,盡可能開發(fā)出最先進的工具。

  最新的DARPA項目名為HACCS(針對網(wǎng)絡(luò)攻擊者系統(tǒng)的自動化利用),嘗試開發(fā)可自行尋找特定類型攻擊者的系統(tǒng),主要是那些發(fā)動DDoS攻擊的僵尸網(wǎng)絡(luò)。HACCS可以植入IKE,以發(fā)起自動化的網(wǎng)絡(luò)戰(zhàn)斗。

  “Two Six Lab”也在研究HACCS計劃,并指出最大的問題是美國網(wǎng)絡(luò)司令部是否會使用它。即使該技術(shù)已經(jīng)具備能力,但目前沒有何時可以使用的規(guī)則,也不清楚是否會部署。

  從技術(shù)角度來看,最困難的部分已經(jīng)完成,并且如果網(wǎng)絡(luò)專家允許,該軟件已經(jīng)能夠計劃和發(fā)起自己的攻擊。這可能會徹底終結(jié)大規(guī)模的僵尸網(wǎng)絡(luò)攻擊(這種類型的攻擊常常使銀行網(wǎng)站和其他網(wǎng)站癱瘓)。

  雖然已經(jīng)“就緒”,但IKE依然是一項未經(jīng)驗證的技術(shù),可能會意外關(guān)閉并損壞關(guān)鍵的計算機網(wǎng)絡(luò)。

  正如Two Six Lab公司的卡雷爾斯所言:“在IKE變成現(xiàn)實的過程中,我們距離危險越來越近?!?/p>

    

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。