模型選擇是支持向量學(xué)習(xí)的關(guān)鍵問(wèn)題．已有模型選擇方法采用嵌套的雙層優(yōu)化框架，內(nèi)層執(zhí)行支持向量學(xué)習(xí)，外層通過(guò)最小化泛化誤差的估計(jì)進(jìn)行模型選擇．該框架過(guò)程復(fù)雜。計(jì)算效率低．簡(jiǎn)化傳統(tǒng)的雙層優(yōu)化框架，提出一個(gè)支持向量學(xué)習(xí)的多參數(shù)同時(shí)調(diào)節(jié)方法，在同一優(yōu)化過(guò)程中實(shí)現(xiàn)模型選擇和學(xué)習(xí)器訓(xùn)練．首先，將支持向量學(xué)習(xí)中的參數(shù)和超參數(shù)合并為一個(gè)參數(shù)向量，利用序貫無(wú)約束極小化技術(shù)（sequential unconstrained minimization technique，簡(jiǎn)稱(chēng)SUMT）分別改寫(xiě)支持向量分類(lèi)和回歸的有約束優(yōu)化問(wèn)題，得到多參數(shù)同時(shí)調(diào)節(jié)模型的多元無(wú)約束形式定義；然后，證明多參數(shù)同時(shí)調(diào)節(jié)模型目標(biāo)函數(shù)的局部Lipschitz連續(xù)性及水平集有界性．在此基礎(chǔ)上，應(yīng)用變尺度方法（variable metric method，簡(jiǎn)稱(chēng)VMM）設(shè)計(jì)并實(shí)現(xiàn)了多參數(shù)同時(shí)調(diào)節(jié)算法，進(jìn)一步地，基于多參數(shù)同時(shí)調(diào)節(jié)模型的性質(zhì)，證明了算法收斂性，對(duì)比分析了算法復(fù)雜性．最后，實(shí)驗(yàn)驗(yàn)證同時(shí)調(diào)節(jié)算法的收斂性，并實(shí)驗(yàn)對(duì)比同時(shí)調(diào)節(jié)算法的有效性．理論證明和實(shí)驗(yàn)分析表明，同時(shí)調(diào)節(jié)方法是一種堅(jiān)實(shí)、高效的支持向量模型選擇方法．
?