基于動(dòng)態(tài)圖注意力聚合多跳鄰域的實(shí)體對(duì)齊[其他][其他]

實(shí)體對(duì)齊是實(shí)現(xiàn)對(duì)不同來(lái)源知識(shí)庫(kù)進(jìn)行融合的重要技術(shù)方法，在知識(shí)圖譜、知識(shí)補(bǔ)全領(lǐng)域具有廣泛應(yīng)用。現(xiàn)有基于圖注意力的實(shí)體對(duì)齊模型多使用靜態(tài)圖注意力網(wǎng)絡(luò)且忽略了實(shí)體屬性中的語(yǔ)義信息，導(dǎo)致模型存在有限注意、難以擬合、表達(dá)能力不足等問(wèn)題。針對(duì)這些問(wèn)題，開展基于動(dòng)態(tài)圖注意力結(jié)構(gòu)建模實(shí)體對(duì)齊方法研究，首先使用圖卷積層建模目標(biāo)實(shí)體的單跳節(jié)點(diǎn)表示，其次應(yīng)用動(dòng)態(tài)圖注意力網(wǎng)絡(luò)獲得多跳節(jié)點(diǎn)注意力系數(shù)并建模，再次利用逐層門控網(wǎng)絡(luò)聚合圖卷積層與動(dòng)態(tài)圖注意力層輸出的單跳、多跳節(jié)點(diǎn)信息，最后拼接通過(guò)外部知識(shí)預(yù)訓(xùn)練自然語(yǔ)言模型提取的實(shí)體名稱屬性嵌入并進(jìn)行相似度計(jì)算。該方法在DBP15K的三類跨語(yǔ)言數(shù)據(jù)集中都獲得了一定的提高，證明了應(yīng)用動(dòng)態(tài)圖注意力網(wǎng)絡(luò)與融入實(shí)體屬性語(yǔ)義在提高實(shí)體表示能力上的有效性。

發(fā)表于：2022/11/9 13:55:00

基于DBN-BP深度算法的熱軋板帶橫斷面預(yù)測(cè)[其他][其他]

隨著各工業(yè)領(lǐng)域的快速發(fā)展，市場(chǎng)對(duì)薄規(guī)格、高強(qiáng)度板帶產(chǎn)品的需求快速增加。而熱軋板帶橫斷面形狀是熱軋板帶產(chǎn)品質(zhì)量的主要評(píng)價(jià)指標(biāo)?；跀?shù)據(jù)挖掘技術(shù)，對(duì)軋機(jī)數(shù)據(jù)庫(kù)中的數(shù)據(jù)進(jìn)行分析與處理，其中數(shù)據(jù)挖掘技術(shù)采用深度置信網(wǎng)絡(luò)(Deep Belief Neural，DBN)和BP(Back Propagation)算法相結(jié)合，構(gòu)建板帶橫向厚度分布的預(yù)測(cè)模型。DBN-BP算法由多個(gè)限制玻爾茲曼網(wǎng)絡(luò)(Restricted Botlzmann Machine，RBM)逐層堆疊而成，并使用無(wú)監(jiān)督的逐層訓(xùn)練的方式得到網(wǎng)絡(luò)的權(quán)值矩陣和偏置供BP算法使用，而BP算法通過(guò)誤差反向傳播的方式對(duì)整個(gè)網(wǎng)絡(luò)進(jìn)行微調(diào)。該方法克服了BP算法因隨機(jī)初始化權(quán)值參數(shù)而陷入局部最優(yōu)和訓(xùn)練時(shí)間長(zhǎng)的缺點(diǎn)。通過(guò)與BP算法相比較可知，采用DBN-BP方法預(yù)測(cè)終軋道次穩(wěn)定軋制時(shí)板帶中點(diǎn)厚度誤差在±5.6 μm范圍內(nèi)的概率可達(dá)95%；而BP算法的預(yù)測(cè)誤差范圍為±11 μm。并且通過(guò)對(duì)板帶橫斷面形狀的預(yù)測(cè)結(jié)果分析可知，相比于BP算法，DBN-BP深度學(xué)習(xí)方法對(duì)于板帶邊部厚度的預(yù)測(cè)更具有優(yōu)勢(shì)。

發(fā)表于：2022/11/9 13:39:00

智能計(jì)算芯片技術(shù)及產(chǎn)業(yè)趨勢(shì)和對(duì)北京的建議[其他][其他]

智能計(jì)算芯片是處理海量數(shù)據(jù)，體現(xiàn)計(jì)算能力的硬件載體，是承載數(shù)字經(jīng)濟(jì)時(shí)代生產(chǎn)力的重要支撐。隨著人工智能、5G、大數(shù)據(jù)、區(qū)塊鏈等新一代信息技術(shù)的規(guī)?；瘧?yīng)用，行業(yè)數(shù)字化轉(zhuǎn)型和產(chǎn)業(yè)智能化升級(jí)對(duì)計(jì)算資源的需求呈現(xiàn)指數(shù)級(jí)增長(zhǎng)。加上集成電路的發(fā)展進(jìn)入后摩爾時(shí)代，現(xiàn)行計(jì)算架構(gòu)(馮·諾依曼架構(gòu))缺陷所導(dǎo)致的瓶頸愈加凸顯，發(fā)展受到嚴(yán)重挑戰(zhàn)。而滿足多樣化計(jì)算需求的新型計(jì)算架構(gòu)和計(jì)算范式、滿足智能計(jì)算需求的先進(jìn)封裝技術(shù)、基于新材料新工藝的新型計(jì)算器件也進(jìn)入到創(chuàng)新活躍的階段，智能計(jì)算芯片迎來(lái)了快速發(fā)展的黃金時(shí)代。綜合分析了數(shù)字經(jīng)濟(jì)時(shí)代智能計(jì)算芯片的戰(zhàn)略重要性，梳理了國(guó)內(nèi)外智能計(jì)算主要產(chǎn)業(yè)格局、新興關(guān)鍵技術(shù)以及發(fā)展機(jī)遇，并對(duì)北京發(fā)展智能計(jì)算芯片的機(jī)遇與路徑提出相關(guān)建議。

發(fā)表于：2022/11/9 13:30:00

針對(duì)遙感影像的MSA-YOLO儲(chǔ)油罐目標(biāo)檢測(cè)[其他][其他]

原油作為一種重要的戰(zhàn)略物資，在我國(guó)經(jīng)濟(jì)和軍事等多個(gè)領(lǐng)域均起到重要作用。提出一種算法MSA-YOLO(MultiScale Adaptive YOLO)，該算法在YOLOv4算法的基礎(chǔ)上進(jìn)行優(yōu)化，并基于以吉林一號(hào)光學(xué)遙感衛(wèi)星影像為主的遙感圖像數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)，對(duì)特定監(jiān)控區(qū)域內(nèi)的儲(chǔ)油罐進(jìn)行識(shí)別與分類。算法優(yōu)化內(nèi)容包括：為簡(jiǎn)化儲(chǔ)油罐監(jiān)測(cè)模型同時(shí)保證模型的效率，對(duì)YOLOv4的網(wǎng)絡(luò)結(jié)構(gòu)中的多尺度識(shí)別模塊進(jìn)行修剪；使用k-means++聚類算法進(jìn)行初始錨框的選取，使模型加速收斂；使用基于CIoU-NMS的優(yōu)化，進(jìn)一步提升推理速度和準(zhǔn)確度。實(shí)驗(yàn)結(jié)果表明，與YOLOv4相比，MSA-YOLO模型參數(shù)數(shù)量減少25.84%；模型尺寸減少62.13%；在Tesla V100的GPU環(huán)境下，模型的訓(xùn)練速度提升6 s/epoch，推理速度提升15.76 F/s；平均精度為95.65%。與此同時(shí)，MSA-YOLO算法在多種通用目標(biāo)識(shí)別算法進(jìn)行的對(duì)比實(shí)驗(yàn)中均體現(xiàn)出了更高效的特點(diǎn)。MSA-YOLO算法對(duì)儲(chǔ)油罐進(jìn)行準(zhǔn)確且實(shí)時(shí)的識(shí)別具有通用可行性，可為遙感數(shù)據(jù)在能源期貨領(lǐng)域提供技術(shù)參考。

發(fā)表于：2022/11/9 13:26:00