支持向量機

前言

支持向量機（support vector machines、SVMs）是借助于最優(yōu)化方法解決數(shù)據(jù)挖掘中若干問題的有力工具，它在一定程度上克服了“維數(shù)災(zāi)難”和“過學(xué)習(xí)”等傳統(tǒng)困難，并在文本分類、生物信息、語音識別、遙感圖像分析、故障識別和預(yù)測、時間序列預(yù)測、信息安全等諸多領(lǐng)域有了成功的應(yīng)用。支持向量機不僅有著統(tǒng)計學(xué)習(xí)理論（statistical learning theory SLT）的堅實理論基礎(chǔ)，而且具有直觀的幾何解釋和完美的數(shù)學(xué)形式。雖然自20世紀(jì)90年代由Vapnik提出以來一直處于飛速發(fā)展的階段，但是支持向量機的理論基礎(chǔ)和各種算法實現(xiàn)的基本框架已經(jīng)形成。自2000年開始，國外已陸續(xù)有專著出版。2004年，作者在科學(xué)出版社出版了學(xué)術(shù)專著《數(shù)據(jù)挖掘中的新方法——支持向量機》，該書是國內(nèi)第一本專門對支持向量機進行全面完整介紹和論述的著作。出版后讀者反映良好，并被中國科學(xué)院研究生院、清華大學(xué)、中國農(nóng)業(yè)大學(xué)等用作研究生教材。被評為2006年北京市精品教材。經(jīng)過五年的繼續(xù)研究與教學(xué)實踐，我們決定對該書進行全面改寫，增加新的研究成果，并更名為“支持向量機——理論、算法與拓展”。本書特別強調(diào)可讀性，強調(diào)直觀對理解問題實質(zhì)的重要作用。在給出系統(tǒng)嚴(yán)謹(jǐn)?shù)恼撌鲋?，一般先用圖像等直觀手段引進各種概念、方法和結(jié)論，并特別注意對它們的本質(zhì)給予形象的解釋和說明。對于原始文獻(xiàn)中沒有提及直觀解釋的內(nèi)容，我們也盡可能予以補充，例如，對求解多類分類問題的Crammer-Singer，支持向量機，我們給出了清晰的幾何解釋。與第一部著作相比，本書的邏輯系統(tǒng)更加清晰，對問題的闡述也更加簡明。本書主要討論分類問題和回歸問題?；诎鸦貧w問題轉(zhuǎn)化為分類問題的研究工作，全書以分類問題為主線，形成了統(tǒng)一的格局。主要內(nèi)容如下：第工章介紹最優(yōu)化基礎(chǔ)。該章著重于凸規(guī)劃的介紹，添加了引領(lǐng)最優(yōu)化方法應(yīng)用研究的錐規(guī)劃（包括二階錐規(guī)劃和半定規(guī)劃），以及Hilbert空間中的凸規(guī)劃理論。這是以后章節(jié)以及進一步研究新的支持向量機的最優(yōu)化基礎(chǔ)。第2章和第3章則分別對線性分類問題和線性回歸問題直觀地導(dǎo)出最基本的線性支持向量機。第4章介紹核的基本概念，并在此基礎(chǔ)上介紹求解一般的分類問題和回歸問題的支持向量機。第5章則從最大間隔法的統(tǒng)計學(xué)解釋入手，討論支持向量機的統(tǒng)計學(xué)習(xí)理論基礎(chǔ)。第6章介紹支持向量機實際應(yīng)用中的模型選擇問題。第7章介紹實現(xiàn)支持向量機的幾個主流算法。第8章是前面討論過的基本的支持向量機的變形與拓廣，包括求解多類分類。

內(nèi)容概要

本書以分類問題（模式識別、判別分析）和回歸問題為背景，介紹支持向量機的基本理論、方法和應(yīng)用。特別強調(diào)對所討論的問題和處理方法的實質(zhì)進行直觀的解釋和說明，因此具有很強的可讀性。為使具有一般高等數(shù)學(xué)知識的讀者能夠順利閱讀，書中首先介紹了最優(yōu)化的基礎(chǔ)知識?！　”緯勺鳛槔砉ゎ?、管理學(xué)等專業(yè)的高年級本科生、研究生和教師的教材或教學(xué)參考書，也可供相關(guān)領(lǐng)域的科研人員和實際工作者閱讀參考。

書籍目錄

序言符號表第1章　最優(yōu)化基礎(chǔ)　1.1　歐式空間上的最優(yōu)化問題　　1.1.1　最優(yōu)化問題實例　　1.1.2　最優(yōu)化問題及其解　　1.1.3　最優(yōu)化問題的幾何解釋　1.2　歐式空間上的凸規(guī)劃　　1.2.1　凸集和凸函數(shù)　　1.2.2　凸規(guī)劃問題及其基本性質(zhì)　　1.2.3　凸規(guī)劃的對偶理論　　1.2.4　凸規(guī)劃的最優(yōu)性條件　　1.2.5　線性規(guī)劃  1.3　Hilbert空間上的凸規(guī)劃　　1.3.1　凸函數(shù)及Frechet導(dǎo)數(shù)　　1.3.2　凸規(guī)劃問題　　1.3.3　凸規(guī)劃的對偶理論　　1.3.4　凸規(guī)劃的最優(yōu)性條件　1.4　歐式空間上帶有廣義不等式約束的凸規(guī)劃　　1.4.1　帶有廣義不等式約束的凸規(guī)劃　　1.4.2　帶有廣義不等式約束的凸規(guī)劃的對偶理論　　1.4.3　帶有廣義不等式約束的凸規(guī)劃的最優(yōu)性條件　　1.4.4　二階錐規(guī)劃　　1.4.5　半定規(guī)劃　1.5　Hilbert空間上帶有廣義不等式約束的凸規(guī)劃　　1.5.1　K－凸函數(shù)與Frechet導(dǎo)數(shù)　　1.5.2　凸規(guī)劃問題　　1.5.3　凸規(guī)劃的對偶理論　　1.5.4　凸規(guī)劃的最優(yōu)性條件第2章　線性分類機  2.1　分類問題的提出　  2.1.1　例子（心臟病診斷）　  2.1.2　分類問題和分類機　2.2　線性可分問題的支持向量分類機　  2.2.1　最大間隔法_　  2.2.2　線性可分問題的支持向量分類機　  2.2.3　支持向量　2.3　線性支持向量分類機　　2.3.1　最大間隔法　　2.3.2　線性支持向量分類機第3章　線性回歸機  3.1　回歸問題和線性回歸問題  3.2　硬ε帶超平面　　3.2.1　從線性回歸問題到硬乒帶超平面　　3.2.2　硬ε-帶超平面與線性分劃　　3.2.3　構(gòu)造硬ε帶超平面的最優(yōu)化問題  3.3　線性硬ε-帶支持向量回歸機　　3.3.1　原始問題　　3.3.2　對偶問題及其與原始問題解的關(guān)系　　3.3.3　線性硬ε-帶支持向量回歸機  3.4　線性ε-支持向量回歸機　　3.4.1　原始問題　　3.4.2　對偶問題及其與原始問題解的關(guān)系　　3.4.3　線性ε-支持向量回歸機第4章　核與支持向量機  4.1　從線性分劃到非線性分劃　　4.1.1　非線性分劃的例子　　4.1.2　基于非線性分劃的分類算法　　4.1.3　基于非線性分劃的回歸算法  4.2　核函數(shù)　　4.2.1　核函數(shù)及其特征　　4.2.2　核函數(shù)的判定和常用的核函數(shù)  4.3　支持向量機及其性質(zhì)　　4.3.1　支持向量分類機　　4.3.2　支持向量回歸機  4.4　支持向量機中核函數(shù)的選取　　4.4.1  已知訓(xùn)練集時核函數(shù)的選取　　……第5章  C-支持向量分類機的統(tǒng)計學(xué)基礎(chǔ)第6章　模型選擇第7章  算法第8章　支持向量機的變形與拓廣參考文獻(xiàn)索引

章節(jié)摘錄

插圖：

編輯推薦

《支持向量機:理論、算法與拓展》是由科學(xué)出版社出版的。

圖書封面

圖書標(biāo)簽Tags

無

評論、評分、閱讀與下載

---

    支持向量機 PDF格式下載

---