《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 嵌入式技術(shù) > 設(shè)計(jì)應(yīng)用 > 基于生理信號(hào)的情緒識(shí)別腕戴設(shè)備
基于生理信號(hào)的情緒識(shí)別腕戴設(shè)備
2017年電子技術(shù)應(yīng)用第2期
李英春1,尤 磊1,賀靖康1,周 柯2,趙立強(qiáng)1,李 燁1
1.陜西科技大學(xué) 電氣與信息工程學(xué)院,陜西 西安710021;2.西安滄海網(wǎng)絡(luò)科技有限公司,陜西 西安710000
摘要: 針對(duì)情感計(jì)算需求,設(shè)計(jì)了一種基于STM32L0的低功耗生理信號(hào)采集腕帶設(shè)備,利用低功耗藍(lán)牙無(wú)線通信將采集的生理信號(hào)實(shí)時(shí)發(fā)送至具有藍(lán)牙4.0接口的智能設(shè)備端,采用BP神經(jīng)網(wǎng)絡(luò)對(duì)生理信號(hào)進(jìn)行分析處理。實(shí)驗(yàn)結(jié)果表明,該設(shè)備可實(shí)現(xiàn)準(zhǔn)確的心率、皮膚溫度、皮膚阻抗、運(yùn)動(dòng)狀態(tài)檢測(cè),通過多維度的生理信號(hào)分析,識(shí)別個(gè)體的情緒狀態(tài),其中緊張、中性、興奮的識(shí)別率達(dá)到95%以上,為情感計(jì)算提供一種可穿戴設(shè)備。
中圖分類號(hào): TP391.4
文獻(xiàn)標(biāo)識(shí)碼: A
DOI:10.16157/j.issn.0258-7998.2017.02.016
中文引用格式: 李英春,尤磊,賀靖康,等. 基于生理信號(hào)的情緒識(shí)別腕戴設(shè)備[J].電子技術(shù)應(yīng)用,2017,43(2):69-72,76.
英文引用格式: Li Yingchun,You Lei,He Jingkang,et al. Emotion recognition wristband device based on physiological signals[J].Application of Electronic Technique,2017,43(2):69-72,76.
Emotion recognition wristband device based on physiological signals
Li Yingchun1,You Lei1,He Jingkang1,Zhou Ke2,Zhao Liqiang1,Li Ye1
1.School of Information Science and Technology,Shaanxi university of Science and Technology,Xi′an 710021,China; 2.Xi′an Sea Network Technology Co.Ltd.,Xi′an 710000,China
Abstract: For the requirement on affective computing, a STM32L0-based low power consumption wristband device to gather physiological signals is designed. Those collected physiological signals will be sent to smart device with Bluetooth 4.0 port through low power consumption Bluetooth wireless communication and analyzed by BP neural networks. Experiment result shows that this device can accurately detect heart rate, skin temperature, skin impedance and state of motion. This is a wearable device for affective computing which can identify emotional state of individuals with recognition rate of over 95% in tension, neutral and excitement through multidimensional physiological signal analysis.
Key words : affective computing;signal processing;BP neural network;wearable

0 引言

    情感計(jì)算的概念是由美國(guó)MIT媒體實(shí)驗(yàn)室的PICAR R提出的,是指對(duì)與情緒有關(guān)的、由情緒引發(fā)的、或是能夠影響情緒因素的計(jì)算。情緒不僅有內(nèi)心體驗(yàn)和外部行為表現(xiàn),同時(shí)伴隨著復(fù)雜的神經(jīng)過程和生理變化。情緒可由表情、語(yǔ)音、姿態(tài)、文本等非生理信號(hào)進(jìn)行感知,但人體的生理信號(hào)不易偽裝,可獲得更加客觀有效的結(jié)果[1]。針對(duì)基于生理信號(hào)的情緒識(shí)別,國(guó)內(nèi)外科研工作者做了大量的研究,PICARD R等采集了不同情感狀態(tài)下皮膚電反應(yīng)、血容量波動(dòng)、肌電信號(hào)、呼吸作用的4種生理信號(hào),得到針對(duì)8種情緒81%的識(shí)別準(zhǔn)確度[2]。KIM K H等開發(fā)了一種基于多用戶生理信號(hào)的短時(shí)監(jiān)控情緒識(shí)別系統(tǒng),使用支持向量機(jī)對(duì)悲傷、壓抑、驚奇和憤怒4種情感狀態(tài)進(jìn)行分類識(shí)別[3]。劉光遠(yuǎn)等通過多導(dǎo)生理記錄儀MP150采集多種生理信號(hào),利用Fisher、k-NN等智能算法進(jìn)行特征提取和分析,識(shí)別6種基本情感狀態(tài),獲得60~90%的識(shí)別率[4,5]。

    現(xiàn)代科學(xué)技術(shù)提供了基于生理信號(hào)的情感識(shí)別方法,但是通常需要昂貴笨重的設(shè)備,影響了用戶體驗(yàn)效果及市場(chǎng)應(yīng)用。伴隨著無(wú)線通信技術(shù)、嵌入式及傳感器技術(shù)的快速發(fā)展,可穿戴式智能設(shè)備在醫(yī)療、健康等多個(gè)領(lǐng)域表現(xiàn)出重要的研究?jī)r(jià)值和應(yīng)用潛力[6]。本文針對(duì)情感計(jì)算設(shè)計(jì)了一種基于生理信號(hào)的情緒識(shí)別腕帶設(shè)備。

1 系統(tǒng)總體設(shè)計(jì)

    皮膚電反應(yīng)和心率變化是反映人體心理的放松和緊張程度、情緒波動(dòng)、性格特征的重要依據(jù)。1890年,Tarchanoff發(fā)現(xiàn)機(jī)體在視、聽、痛等感覺刺激及情緒激動(dòng)時(shí)皮膚兩點(diǎn)之間電阻降低,他將這種現(xiàn)象稱為皮膚電反射(Galvanic Skin Response,GSR)。然而由于環(huán)境溫度或人體運(yùn)動(dòng)的影響,皮膚溫度隨之發(fā)生變化,GSR信號(hào)會(huì)受到干擾,同時(shí)人體運(yùn)動(dòng)時(shí)會(huì)造成心率偽像,導(dǎo)致生理信號(hào)測(cè)量不準(zhǔn),因此,增加了對(duì)皮膚溫度及加速度的測(cè)量。系統(tǒng)總體框架如圖1所示。

ck3-t1.gif

2 硬件設(shè)計(jì)

2.1 生理信號(hào)及動(dòng)力學(xué)信號(hào)采集單元

2.1.1 皮膚電及皮膚溫度測(cè)量

    人們情緒變化時(shí),交感神經(jīng)活動(dòng)度發(fā)生變化,汗腺分泌活動(dòng)改變,由于汗液中存在大量的電解質(zhì),從而導(dǎo)致皮膚的導(dǎo)電性發(fā)生變化。對(duì)于情緒這種難以檢測(cè)的心理活動(dòng),利用皮膚電阻進(jìn)行測(cè)定成為了最有效的方法。皮膚電阻阻值較大,一般在2 kΩ~50 kΩ之間,而由情緒、呼吸變化引起的皮膚電阻變化幅度很小,需對(duì)其進(jìn)行較大幅度的放大。皮膚阻抗測(cè)量電路如圖2所示。

ck3-t2.gif

    通過兩個(gè)接觸探針測(cè)量皮膚的阻抗,經(jīng)過阻-壓轉(zhuǎn)換調(diào)理電路獲得微弱的變化信號(hào),再由差分放大電路濾除干擾最終獲得皮膚阻抗相對(duì)變化情況。

    由于外界環(huán)境溫度的變化會(huì)影響到汗腺分泌情況,從而影響GSR信號(hào),因此需增加一個(gè)溫度傳感器來(lái)研究溫度對(duì)GSR信號(hào)的影響。本設(shè)備采用Maxim數(shù)字溫度傳感器DS18B20Z,它提供9~12 bit攝氏度溫度測(cè)量數(shù)據(jù),通過1-Wire總線通信,可直接將溫度轉(zhuǎn)化成串行數(shù)字信號(hào)供MCU處理。應(yīng)注意DS18B20主要通過GND引腳檢測(cè)溫度,腕帶設(shè)備通過底部金屬探針接觸皮膚,作為GND引腳和被測(cè)熱源(皮膚)之間的良好導(dǎo)熱通道。

2.1.2 心率測(cè)量

    心率測(cè)量基于光電容積脈搏波描記法[7](Photoplethysmography,PPG),采用SON7015心率傳感器,其集成高靈敏度光感IC,2個(gè)綠光LED以及低噪聲的前置放大器。測(cè)量時(shí),利用峰值波長(zhǎng)為550 nm的綠光LED照射腕部皮膚表面,根據(jù)朗伯-比爾定律(Lamber-Beer′s Law),通過測(cè)量動(dòng)脈血管的組織容積在心臟波動(dòng)時(shí)的微小變化造成的反射光強(qiáng)度變化,獲得微弱的心率原始信號(hào)。該信號(hào)的幅值為10 μV~5 mV,其典型值為1 mV,在處理時(shí)若要求輸出達(dá)到1 V左右,則放大倍數(shù)要做到1 000倍左右。采用具有較高的共模抑制比的OPA4313運(yùn)算放大器,實(shí)現(xiàn)放大后的信號(hào)無(wú)失真、低噪聲等要求。通過濾波和放大及比較電路得到較好的方波輸出,如圖3所示。設(shè)T為輸出的方波中2個(gè)上升沿之間的時(shí)間差,則每分鐘心跳數(shù)BPM為:

    ck3-gs1.gif

    在MCU中可經(jīng)過兩次捕捉事件得到時(shí)間間隔T,利用式(1)計(jì)算得到BPM,實(shí)現(xiàn)動(dòng)態(tài)心率的測(cè)量。然而在實(shí)際測(cè)量中面臨兩大問題:首先環(huán)境光的干擾使得測(cè)量信號(hào)中易出現(xiàn)較大的噪聲信號(hào),可通過腕帶式的結(jié)構(gòu)設(shè)計(jì)來(lái)減小環(huán)境光影響;其次,當(dāng)傳感器與腕部發(fā)生相對(duì)運(yùn)動(dòng)時(shí),對(duì)信號(hào)波形的形狀亦會(huì)產(chǎn)生干擾,通常稱為運(yùn)動(dòng)偽跡,強(qiáng)烈的運(yùn)動(dòng)偽跡遠(yuǎn)遠(yuǎn)大于心率信號(hào),嚴(yán)重破壞輸出的心率信號(hào)波形,從而影響到心率測(cè)量的準(zhǔn)確性。因此,需通過加速度傳感器研究運(yùn)動(dòng)狀態(tài)對(duì)心率的影響。

ck3-t3.gif

2.1.3 動(dòng)力學(xué)信號(hào)測(cè)量

    采用NXP半導(dǎo)體公司MMA8452Q三軸加速度傳感器,其可感受X、Y、Z 3個(gè)自由度的加速度信號(hào),全方位感知人體運(yùn)動(dòng)信息。采集的加速度數(shù)據(jù)可以通過傳感器內(nèi)部的高通濾波器實(shí)時(shí)輸出,輸出信號(hào)已被轉(zhuǎn)換為12 bit數(shù)字量信號(hào),通過I2C接口為MCU讀取。在MCU中利用式(2)計(jì)算x、y、z 3個(gè)方向加速度的矢量長(zhǎng)度和,獲得運(yùn)動(dòng)的幅度(magnitude)軌跡:

    ck3-gs2.gif

    人體最快的跑步頻率為5 Hz,即相鄰兩步的時(shí)間間隔至少大于0.2 s,設(shè)置最小時(shí)間間隔,從而在計(jì)步過程中過濾掉高頻噪聲。同時(shí),通過設(shè)定幅度閾值來(lái)判斷運(yùn)動(dòng)是否有效,通過對(duì)峰值次數(shù)的累加,可得到用戶的步數(shù)及用戶的運(yùn)動(dòng)狀態(tài)。步行狀態(tài)下加速度矢量和的變化如圖4所示。

ck3-t4.gif

2.2 信號(hào)處理及無(wú)線通信單元

    基于ARM Cortex-M處理器的MCU是針對(duì)智能腕帶的最佳解決方案[8],本設(shè)備采用STM32L052作為腕帶設(shè)備的主控,片上集成了同類型MCU中功耗最低的12 bit模數(shù)轉(zhuǎn)換器(ADC),在10 kb/s的采樣率下功耗僅為48 μA。通信單元采用Dialog公司藍(lán)牙芯片DA14580,它集成無(wú)線收發(fā)器和基帶處理器,發(fā)射電流低至3.4 mA,接收電流低至3.7 mA,可在超低功耗下提供非常好的射頻性能及靈活的外圍配置。在DSPS(Dialog Serial Port Service)的基礎(chǔ)上進(jìn)行串口透?jìng)鞴δ荛_發(fā),實(shí)現(xiàn)數(shù)據(jù)的傳輸。

2.3 電源管理及無(wú)線充電

    腕帶設(shè)備如圖5所示,由鋰離子可再充電電池LIR2032經(jīng)XC6206 3.3 V/0.5 A穩(wěn)壓芯片后提供3.3 V電壓供整個(gè)系統(tǒng)使用。MCU采集電池分壓電路后電壓值,映射成電池剩余電量。選用IDT公司P9235B+P9025AC無(wú)線充電解決方案進(jìn)行穿戴設(shè)備的擴(kuò)展,其中接收端P9025AC內(nèi)置集成同步全橋整流器和LDO輸出級(jí),將輸入的無(wú)線電源信號(hào)轉(zhuǎn)換為5 V/0.4 A的穩(wěn)壓輸出,通過PJ4054單片鋰離子電池恒流/恒壓線性電源管理芯片給電池充電。系統(tǒng)具有過溫過壓過流保護(hù),充滿電可自動(dòng)關(guān)閉發(fā)送。

ck3-t5.gif

3 軟件設(shè)計(jì)

3.1 下位機(jī)

    軟件分為發(fā)送和接收兩部分,接收部分主要涉及智能終端控制腕帶設(shè)備上的LED情緒指示燈,用于消息提醒的振動(dòng)馬達(dá)和低功耗模式開啟等;發(fā)送部分主要包括MCU對(duì)各個(gè)生理信號(hào)的處理算法,其中發(fā)送主程序流程如圖6所示。通過判斷當(dāng)前運(yùn)動(dòng)狀態(tài),將處于劇烈運(yùn)動(dòng)時(shí)采集到的心率及皮電數(shù)據(jù)不再發(fā)送,從而確保上位機(jī)最終獲得穩(wěn)定可靠的生理信號(hào)數(shù)據(jù)。

ck3-t6.gif

3.2 上位機(jī)

    為了便于腕帶設(shè)備的校正及后期數(shù)據(jù)分析,搭建基于LabVIEW數(shù)據(jù)采集系統(tǒng),主要包括串口交互、數(shù)據(jù)處理及顯示2個(gè)程序塊。首先,通過接入計(jì)算機(jī)USB端口的藍(lán)牙適配器進(jìn)行無(wú)線連接,利用VISA節(jié)點(diǎn)進(jìn)行串行通信編程,數(shù)據(jù)接收部分主程序框架采用狀態(tài)機(jī)模型:條件結(jié)構(gòu)+While循環(huán)+事件結(jié)構(gòu)。在傳輸數(shù)據(jù)之前,下位機(jī)程序中已給生理信號(hào)及其他非生理信號(hào)(運(yùn)動(dòng)幅值、電量、步數(shù))等數(shù)據(jù)變量定義校驗(yàn)幀頭,用于甄別是否為有效數(shù)據(jù),當(dāng)與預(yù)先定義的所有幀頭均一致時(shí),上位機(jī)接收相應(yīng)數(shù)據(jù)。然后,各幀依次執(zhí)行串口配置及控件的初始化,采集下位機(jī)的數(shù)據(jù)并顯示在前面板的數(shù)值框和波形圖中,同時(shí)將數(shù)據(jù)寫入電子表格文件。最后,關(guān)閉串口通信及釋放程序。

3.3 移動(dòng)應(yīng)用

    在移動(dòng)客戶端,利用藍(lán)牙的API進(jìn)行藍(lán)牙設(shè)備的連接和數(shù)據(jù)的收發(fā),實(shí)現(xiàn)對(duì)腕帶設(shè)備的控制,并建立用戶表。在本地用SQLITE進(jìn)行用戶數(shù)據(jù)和生理信號(hào)中特征值的存儲(chǔ)。使用Android圖表引擎AChartEngine,建立定時(shí)任務(wù)刷新圖表,顯示所需的波形曲線。應(yīng)用界面如圖7所示。

ck3-t7.gif

    客戶端借助第三方云服務(wù),通過Apache HTTTP Client連接服務(wù)器后以Json形式傳輸數(shù)據(jù)。服務(wù)端基于MVC模型設(shè)計(jì)用戶登錄和注冊(cè)的Severlet以及用戶表、用戶狀態(tài)表、各個(gè)設(shè)備信號(hào)檢測(cè)記錄表和文件存儲(chǔ)。

4 實(shí)驗(yàn)分析

    從離散和維度兩種視角來(lái)建構(gòu)和理解情緒空間,將具有顯著特征的離散的情緒狀態(tài)以維度化的方式表達(dá),如圖8所示。

ck3-t8.gif

    研究情緒識(shí)別的可行性,很大程度上依賴于情感的誘發(fā)方法,本文采用視頻刺激及情感情境誘發(fā)相結(jié)合獲取個(gè)體的不同情緒狀態(tài)[9]。分別提取具有較強(qiáng)烈的情感狀態(tài)下的數(shù)據(jù),包括興奮、緊張、中性及溫?zé)嵝猿龊?,截取其? min內(nèi)的數(shù)據(jù),如圖9所示。

ck3-t9.gif

    通過用戶的主觀評(píng)價(jià)標(biāo)記訓(xùn)練樣本并使用有監(jiān)督的機(jī)器學(xué)習(xí)算法——BP神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)的主要特點(diǎn)是信號(hào)前向傳遞誤差反向傳播,包括輸入層、隱含層及輸出層三層。

    首先,使用式(3),應(yīng)用最大最小法對(duì)生理信號(hào)進(jìn)行歸一化處理:

    ck3-gs3.gif

式中,xk是數(shù)據(jù)樣本;xmax和xmin分別是數(shù)據(jù)序列中的最大值和最小值。

    其次,根據(jù)生理特征信號(hào)特點(diǎn)確定BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)為3-4-4,隨機(jī)初始化BP神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值。

    最后,用訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)分類生理信號(hào)測(cè)試數(shù)據(jù)。BP神經(jīng)網(wǎng)絡(luò)分類正確率如表1所示。

ck3-b1.gif

    雖然生理信號(hào)可以客觀地反映人的情感狀態(tài),但是對(duì)喚醒度較高的情感才有良好的識(shí)別效果。若要進(jìn)行多種情感的分類,如驚訝、輕蔑、惡心等,則需要將生理信號(hào)同表情、語(yǔ)音、身體姿態(tài)等其他方式進(jìn)行融合。如圖7中所示,通過調(diào)用前置攝像頭獲取用戶面部表情,結(jié)合微軟公司認(rèn)知服務(wù)中的人臉情緒識(shí)別API來(lái)實(shí)現(xiàn)更多樣更準(zhǔn)確的情感識(shí)別。

5 結(jié)論

    本文設(shè)計(jì)了一種基于STM32L052K8的低功耗生理信號(hào)采集腕帶設(shè)備,通過低功耗藍(lán)牙將采集的生理信號(hào)發(fā)送至具有藍(lán)牙4.0接口的智能設(shè)備端,利用BP神經(jīng)網(wǎng)絡(luò)對(duì)生理信號(hào)進(jìn)行分析處理,識(shí)別興奮、緊張及中性3種情緒狀態(tài),獲得了較高準(zhǔn)確性。

參考文獻(xiàn)

[1] 張迪,萬(wàn)柏坤,明東.基于生理信號(hào)的情緒識(shí)別研究進(jìn)展[J].生物醫(yī)學(xué)工程學(xué)雜志,2015,32(1):229-234.

[2] PICARD R,VYZAS E,HEALEY J.Toward machine emotional intelligence analysis of affective physiological state[J].IEEE Transactions Pattern Analysis and Machine Intelligence,2001,23(10):1175-1191.

[3] KIM K H,BANG S W,KIM S R.Emotion recognition system using short-term monitoring of physiological signals[J].Medical and Biological Engineering and Computing,2004,42(3):419-472.

[4] YANG Z F,LIU G Y.Emotion recognition based on nonlinear features of skin conductance response[J].Journal of Information & Computational Science,2013,10(12):3877-3887.

[5] YAN F F,LIU G Y,LAI X W.The research on material selection algorithm design with improved OWA in active regulation system based on human-computer interaction[J].Journal of Information and Computational Science,2013,14(9):4477-4486.

[6] 謝凌欽,石萍,蔡文杰.可穿戴式智能設(shè)備關(guān)鍵技術(shù)及發(fā)展趨勢(shì)[J].生物醫(yī)學(xué)工程與臨床,2015,19(6):635-640.

[7] 石萍,喻洪流.光電容積描記技術(shù)原理及其應(yīng)用[J].生物醫(yī)學(xué)工程學(xué)雜志,2013,30(4):899-904.

[8] 吳灶全,劉夢(mèng)星,秦麗平,等.基于ARM Cortex-M0+內(nèi)核的穿戴式醫(yī)療設(shè)備MCU選型分析[J].中國(guó)醫(yī)療器械雜志,2015,39(3):192-196.

[9] 趙國(guó)朕,宋金晶,葛燕,等.基于生理大數(shù)據(jù)的情緒識(shí)別研究進(jìn)展[J].計(jì)算機(jī)研究與發(fā)展,2016,53(1):80-92.



作者信息:

李英春1,尤  磊1,賀靖康1,周  柯2,趙立強(qiáng)1,李  燁1

(1.陜西科技大學(xué) 電氣與信息工程學(xué)院,陜西 西安710021;2.西安滄海網(wǎng)絡(luò)科技有限公司,陜西 西安710000)

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。