摘　要： 在SVM算法和sigmoid函數(shù)的基礎(chǔ)上，提出了一種字符識(shí)別自適應(yīng)學(xué)習(xí)算法，該算法通過自適應(yīng)修正sigmoid函數(shù)的參數(shù)，使sigmoid函數(shù)能夠較好地?cái)M合自適應(yīng)數(shù)據(jù)輸出距離的類別后驗(yàn)概率分布，從而提高對(duì)自適應(yīng)數(shù)據(jù)的識(shí)別率。
　　關(guān)鍵詞： SVM sigmoid函數(shù)? 自適應(yīng)學(xué)習(xí)? 梯度下降法

1 SVM算法及sigmoid函數(shù)
1.1 SVM分類學(xué)習(xí)算法

　　給定訓(xùn)練集合D₁，它包含l個(gè)訓(xùn)練數(shù)據(jù)(x₁，y₁)，(x₂，y₂)，……(x_l，y_l，)，x_i∈Rn，y_i∈{-1，1}，SVM分類算法要求解下面的有約束的優(yōu)化問題：

1.2 sigmoid函數(shù)
　　本文采用的方法，即利用參數(shù)化的sigmoid函數(shù)擬合SVM分類決策函數(shù)的輸出距離的類別后驗(yàn)概率分布，使其距離輸出變?yōu)楦怕瘦敵觥?shù)化的sigmoid函數(shù)為：

1.3 求解A，B
　　為了避免求出的參數(shù)A，B值的偏移性，應(yīng)利用不同于訓(xùn)練集D₁的數(shù)據(jù)集D₂求解A，B的值。D₂={(x₁，y₁)，(x₂，y₂)，……(x_m，y_m)}，x_i∈Rⁿ，y_i∈{-1，1}，。將D₂中的所有數(shù)據(jù)代入" title="代入">代入到(6)、(7)式中，求解A，B以求出(7)式的極小值問題。

2 基于SVM和sigmoid函數(shù)的自適應(yīng)學(xué)習(xí)算法
2.1 多類別分類器" title="分類器">分類器設(shè)計(jì)方法
　　本文依據(jù)所述SVM算法和one-verse-one原則設(shè)計(jì)多類別的分類器。設(shè)類別數(shù)是n，則共有n＊(n-1)/2個(gè)分類器，每個(gè)分類器的參數(shù)依次是權(quán)值W_i，j，b_i，j，A_i，j和B_i，j，i，j=1，2，……n，i＜j。
2.2 概率輸出下的多類別決策
　　概率輸出下的多類別決策規(guī)則是：設(shè)有未知類別數(shù)據(jù)x，將其代入（6）式中有：

　　依據(jù)投票法原則，若p(x)＞0.5，第i類得到1票；若p(x)＜0.5，第j類得到1票；若p(x)=0.5，不投票。當(dāng)依次計(jì)算完n*(n-1)/2個(gè)概率值p之后，得到票數(shù)最多的類別被判別為數(shù)據(jù)x所屬的類別。
2.3 自適應(yīng)學(xué)習(xí)算法
　　本文的自適應(yīng)學(xué)習(xí)算法的核心在于通過自適應(yīng)數(shù)據(jù)中的誤識(shí)樣本，對(duì)參數(shù)A_i，j，B_i，j進(jìn)行自適應(yīng)修正。

　　A^old，B^old是自適應(yīng)修正前的參數(shù)值，A^new，B^new是自適應(yīng)修正后的參數(shù)值。
3 實(shí)驗(yàn)結(jié)果
3.1 預(yù)處理及特征提取
　　本文以0～9十個(gè)數(shù)字作實(shí)驗(yàn)。預(yù)處理及特征提取的步驟如下：
　　(1)首先將二值圖像作非線性歸一化，歸一化的尺寸為64*64的方陣。
　　(2)在非線性歸一化后的圖像上提取輪廓。
　　(3)對(duì)輪廓圖像提取DEF(Directional Element Feature)特征，特征的維數(shù)是1024。
　　(4)對(duì)1024維特征作K-L變換，特征維數(shù)壓縮到128維。
3.2 實(shí)驗(yàn)結(jié)果
　　本實(shí)驗(yàn)的樣本情況為：自行收集樣本，平均每個(gè)數(shù)字145個(gè)樣本，其中90個(gè)樣本用來學(xué)習(xí)判別面的參數(shù)W和b，設(shè)C=1000，kernel設(shè)為線性，采用的軟件是LIBSVM；其余的55個(gè)樣本用來學(xué)習(xí)參數(shù)A，B。在自適應(yīng)學(xué)習(xí)和測(cè)試階段，共收集了5個(gè)人的樣本，每個(gè)人平均每個(gè)數(shù)字的樣本數(shù)為35個(gè)。表1顯示了自適應(yīng)學(xué)習(xí)的結(jié)果。