神經(jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用

前言

本書(shū)是通過(guò)神經(jīng)網(wǎng)絡(luò)對(duì)科學(xué)數(shù)據(jù)進(jìn)行模式識(shí)別的一種探索。本書(shū)最大的一個(gè)亮點(diǎn)是通篇貫穿了對(duì)神經(jīng)網(wǎng)絡(luò)概念的大量可視化描述。初衷是既要從更廣闊的背景去滿足研究人員和學(xué)生的需要，又要將神經(jīng)網(wǎng)絡(luò)融入多學(xué)科的科學(xué)背景。過(guò)去的七年里，我一直在新西蘭的林肯大學(xué)從事包括生物學(xué)、經(jīng)濟(jì)學(xué)、應(yīng)用科學(xué)、工程、計(jì)算和商業(yè)等不同背景的神經(jīng)網(wǎng)絡(luò)研究生教學(xué)工作。我通過(guò)把神經(jīng)網(wǎng)絡(luò)和其內(nèi)部細(xì)節(jié)變得明晰的思路展開(kāi)介紹，從而使學(xué)生們?cè)趯W(xué)習(xí)上樹(shù)立信心。這種可視化的描述對(duì)于理解困難的數(shù)學(xué)概念而言是一種很有價(jià)值的工具，所以本書(shū)也是這些研究成果以及本人對(duì)于神經(jīng)網(wǎng)絡(luò)的探究興趣的反映。在應(yīng)用背景上，我想提供一種合理的理論背景。我的經(jīng)驗(yàn)證明，使用神經(jīng)網(wǎng)絡(luò)軟件與實(shí)踐應(yīng)用相結(jié)合的學(xué)習(xí)方法會(huì)得到很好的效果。另外，在本書(shū)中通過(guò)實(shí)際輔導(dǎo)環(huán)節(jié)作為理論的補(bǔ)充也是很成功的。本書(shū)的讀者對(duì)象是具有一些數(shù)學(xué)和基礎(chǔ)計(jì)算背景的從事應(yīng)用領(lǐng)域研究方面的高年級(jí)學(xué)生和研究生。書(shū)中不僅以簡(jiǎn)單表達(dá)與可視化輔助相結(jié)合，將一個(gè)網(wǎng)絡(luò)拆分成為可能，用以理解數(shù)學(xué)概念及相關(guān)推導(dǎo)，而且介紹被許多人認(rèn)為是“黑箱”的神經(jīng)網(wǎng)絡(luò)內(nèi)部運(yùn)作的重要性。第1章開(kāi)始以神經(jīng)網(wǎng)絡(luò)在科學(xué)數(shù)據(jù)分析中扮演的角色進(jìn)行了介紹性的討論，并提出了本書(shū)的具體安排。許多科學(xué)家都對(duì)用傳統(tǒng)的統(tǒng)計(jì)學(xué)方法去判定神經(jīng)網(wǎng)絡(luò)的優(yōu)越性感興趣，所以’書(shū)中對(duì)與神經(jīng)網(wǎng)絡(luò)相關(guān)的統(tǒng)計(jì)學(xué)方法給出了詳細(xì)的論述。第2章闡述了兩種方法在線性數(shù)據(jù)分析方面的等效性，然后開(kāi)始建立基本神經(jīng)網(wǎng)絡(luò)概念的堅(jiān)實(shí)基礎(chǔ)，逐漸地進(jìn)行更深入的理解。第3章到第5章論述了使用多層神經(jīng)網(wǎng)絡(luò)分析的非線性數(shù)據(jù)，以及多層神經(jīng)網(wǎng)絡(luò)對(duì)非線性模式的識(shí)別。多層神經(jīng)網(wǎng)絡(luò)是一種帶有非線性處理能力的神經(jīng)元層的網(wǎng)絡(luò)。本書(shū)提出了這些網(wǎng)絡(luò)的廣義收斂性。如果與魯棒性和反復(fù)實(shí)驗(yàn)需要的相關(guān)局限性進(jìn)行處理，則它們?cè)谙到y(tǒng)建模方面的潛力和有效性就會(huì)被提高。這幾章對(duì)基于統(tǒng)計(jì)學(xué)方法的神經(jīng)網(wǎng)絡(luò)在非線性建模方面的優(yōu)勢(shì)進(jìn)行了闡述，并對(duì)網(wǎng)絡(luò)的非線性處理、網(wǎng)絡(luò)訓(xùn)練和網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化進(jìn)行了詳細(xì)的論述。為了使其容易理解，這幾章提供了具體的實(shí)例和個(gè)案研究。

內(nèi)容概要

本書(shū)是研究神經(jīng)網(wǎng)絡(luò)對(duì)科學(xué)數(shù)據(jù)進(jìn)行模式識(shí)別的一種探索，主要介紹了神經(jīng)網(wǎng)絡(luò)的基本概念，并以圖示的形式用大量的實(shí)例和個(gè)案研究結(jié)合計(jì)算機(jī)仿真對(duì)神經(jīng)網(wǎng)絡(luò)用于模式識(shí)別的各種方法進(jìn)行闡述與對(duì)比。本書(shū)所涉及的學(xué)科領(lǐng)域包括生物學(xué)、經(jīng)濟(jì)學(xué)、應(yīng)用科學(xué)、工程、計(jì)算和商業(yè)等，研究了神經(jīng)網(wǎng)絡(luò)在線性和非線性預(yù)報(bào)、分類(lèi)、聚類(lèi)和預(yù)測(cè)方面的應(yīng)用，并對(duì)模型開(kāi)發(fā)的所有階段和結(jié)果進(jìn)行了闡述，包括數(shù)據(jù)預(yù)處理、數(shù)據(jù)維數(shù)約簡(jiǎn)、輸人選擇、模型開(kāi)發(fā)和驗(yàn)證、模型不確定性評(píng)估以及對(duì)輸入、誤差和模型參數(shù)的靈敏度分析。本書(shū)內(nèi)容清晰明了，并結(jié)合了大量實(shí)例使得全書(shū)更加容易理解?！　”緯?shū)適合作為高等院校相關(guān)專(zhuān)業(yè)的大學(xué)生、研究生的教材及有關(guān)研究人員的參考用書(shū)。

作者簡(jiǎn)介

本書(shū)提供作譯者介紹
Sandhya Samarasinghe在俄羅斯的Lumumba大學(xué)獲得機(jī)械工程的理學(xué)碩士(Hons)，在美國(guó)的VirpniaTech獲得了工程學(xué)碩士和博士學(xué)位。目前她是新西蘭林肯大學(xué)自然工程系的高級(jí)講師，并成為先進(jìn)計(jì)算解決方案中心的奠基人之一。她的研究包括神經(jīng)網(wǎng)絡(luò)、統(tǒng)計(jì)學(xué)、軟

書(shū)籍目錄

譯者序前言致謝作者簡(jiǎn)介第1章  從數(shù)據(jù)到模型：理解生物學(xué)、生態(tài)學(xué)和自然系統(tǒng)的復(fù)雜性和挑戰(zhàn)  1.1　概述  1.2　本書(shū)安排  參考文獻(xiàn)第2章　神經(jīng)網(wǎng)絡(luò)基礎(chǔ)和線性數(shù)據(jù)分析模型　2.1　概述　2.2　神經(jīng)網(wǎng)絡(luò)及其能力　2.3　生物學(xué)的啟示　2.4　神經(jīng)元信息處理的建模　2.5　神經(jīng)元模型和學(xué)習(xí)策略  　2.5.1　作為一個(gè)簡(jiǎn)單分類(lèi)器的閾值神經(jīng)元　  2.5.2　神經(jīng)元和神經(jīng)集合的學(xué)習(xí)模型  　  2.5.2.1　Hebbian學(xué)習(xí)　    2.5.2.2　無(wú)監(jiān)督學(xué)習(xí)或競(jìng)爭(zhēng)學(xué)習(xí)  　  2.5.2.3　有監(jiān)督學(xué)習(xí)　  2.5.3　作為分類(lèi)器的有監(jiān)督學(xué)習(xí)的感知器  　  2.5.3.1　感知器學(xué)習(xí)算法    　2.5.3.2　基于大量現(xiàn)實(shí)數(shù)據(jù)集的感知器實(shí)例：根據(jù)測(cè)定的成長(zhǎng)年輪直徑辨識(shí)魚(yú)的起源　    2.5.3.3　統(tǒng)計(jì)學(xué)中帶有線性判別函數(shù)分析的感知器比較  　  2.5.3.4　多種類(lèi)分類(lèi)中的多輸出感知器　    2.5.3.5　使用感知器的高維分類(lèi)　    2.5.3.6　感知器小結(jié)    2.5.4　用于線性分類(lèi)和預(yù)報(bào)的線性神經(jīng)元  　  2.5.4.1　利用delta規(guī)則的學(xué)習(xí)    　2.5.4.2　作為分類(lèi)器的線性神經(jīng)元　    2.5.4.3　作為預(yù)報(bào)能力子集的線性神經(jīng)元的分類(lèi)屬性  　  2.5.4.4　實(shí)例：作為預(yù)報(bào)器的線性神經(jīng)元    　2.5.4.5　線性預(yù)報(bào)的實(shí)例：預(yù)報(bào)一個(gè)家庭的熱流　    2.5.4.6　線性神經(jīng)元模型與線性回歸的比較  　  2.5.4.7  實(shí)例：多輸入線性神經(jīng)元模型——提高一個(gè)家庭的熱流預(yù)報(bào)精確度    　2.5.4.8　一個(gè)多輸入線性神經(jīng)元與多重線性回歸的比較　    2.5.4.9　多線性神經(jīng)元模型  　  2.5.4.10　多重線性神經(jīng)網(wǎng)絡(luò)與正則相關(guān)性分析的比較    　2.5.4.11　線性神經(jīng)元和線性網(wǎng)絡(luò)小結(jié)　2.6　小結(jié)　習(xí)題　參考文獻(xiàn)第3章　用于非線性模式識(shí)別的神經(jīng)網(wǎng)絡(luò)　3.1　概述　3.2　非線性神經(jīng)元  　3.2.1　神經(jīng)元激勵(lì)函數(shù)    　3.2.1.1 S形函數(shù)　    3.2.1.2高斯函數(shù)　　3.2.2　實(shí)例：利用非線性神經(jīng)元對(duì)人口增長(zhǎng)建模    3.2.3　非線性神經(jīng)元與非線性回歸分析的比較　3.3　單輸入多層非線性網(wǎng)絡(luò)  　3.3.1　用單一非線性隱含層神經(jīng)元處理　  3.3.2　實(shí)例：用多非線性神經(jīng)元建立循環(huán)現(xiàn)象模型  　  3.3.2.1　實(shí)例1：逼近一個(gè)方波    　3.3.2.2　實(shí)例2：為物種的季節(jié)性遷移建立模型　  3.4　兩輸入的多層感知器網(wǎng)絡(luò)  　  3.4.1　用非線性神經(jīng)元處理二維輸入    　3.4.2　網(wǎng)絡(luò)輸出　    3.4.3　實(shí)例：二維預(yù)報(bào)和分類(lèi)  　  3.4.3.1　實(shí)例1：二維非線性函數(shù)逼近    　3.4.3.2　實(shí)例2：二維非線性分類(lèi)模型　  3.5　用非線性多層感知器網(wǎng)絡(luò)為多維數(shù)據(jù)建模  　3.6　小結(jié)  　習(xí)題　  參考文獻(xiàn)第4章　神經(jīng)網(wǎng)絡(luò)對(duì)非線性模式的學(xué)習(xí)  4.1　概述  4.2　非線性模式識(shí)別中網(wǎng)絡(luò)的監(jiān)督訓(xùn)練  4.3　梯度下降法和誤差最小化  4.4　BP學(xué)習(xí)    4.4.1　實(shí)例：BP訓(xùn)練——手工計(jì)算　……第5章　從數(shù)據(jù)中抽取可靠模式的神經(jīng)網(wǎng)絡(luò)模型的實(shí)現(xiàn)第6章　數(shù)據(jù)探測(cè)、維數(shù)約簡(jiǎn)和特征提取第7章　使用貝葉斯統(tǒng)計(jì)的神經(jīng)網(wǎng)絡(luò)模型的不確定性評(píng)估第8章　應(yīng)用自組織映射的方法發(fā)現(xiàn)數(shù)據(jù)中的未知聚類(lèi)第9章　神經(jīng)網(wǎng)絡(luò)在時(shí)間序列預(yù)測(cè)中的應(yīng)用附錄

章節(jié)摘錄

插圖：從數(shù)據(jù)中抽取模式的模型的實(shí)現(xiàn)需要將更多的注意力放在模型開(kāi)發(fā)的多個(gè)方面，如檢驗(yàn)泛化能力，減小模型復(fù)雜性，檢驗(yàn)?zāi)Ｐ汪敯粜裕ㄒ簿褪悄Ｐ蛥?shù)的穩(wěn)定性）和選擇相關(guān)輸入。本章將集中對(duì)泛化，結(jié)構(gòu)優(yōu)化和多層神經(jīng)網(wǎng)絡(luò)的魯棒性進(jìn)行介紹。第6章主要介紹處理輸入選擇。第7章詳細(xì)介紹模型參數(shù)、輸出以及網(wǎng)絡(luò)對(duì)權(quán)值和輸入敏感性的不確定性評(píng)估。首先，開(kāi)發(fā)一個(gè)模型并校正，確定它的適當(dāng)性。然后用新數(shù)據(jù)檢驗(yàn)?zāi)Ｐ腿ゴ_定它的泛化能力。一個(gè)訓(xùn)練數(shù)據(jù)集用來(lái)對(duì)模型進(jìn)行驗(yàn)證（也就是通過(guò)評(píng)估和微調(diào)進(jìn)行校正）。泛化意味著一個(gè)被確定的模型如何在未知數(shù)據(jù)上更好地實(shí)現(xiàn)其功能和在獨(dú)立的檢驗(yàn)數(shù)據(jù)集上被檢驗(yàn)。驗(yàn)證的目的就是去確定一個(gè)模型的泛化能力。一個(gè)不能充分?jǐn)M合數(shù)據(jù)的模型具有有限的表示，會(huì)引起擬合不足（偏差）；一個(gè)能充分?jǐn)M合數(shù)據(jù)的模型也會(huì)導(dǎo)致過(guò)擬合（方差）。這些事件叫做偏差.方差的困境，這兩種情況都會(huì)增加泛化誤差。因此，要尋找這兩種極限之間的折衷以減小泛化誤差。在5.2節(jié)描述了偏差和方差的折衷。在5.3節(jié)提出了兩種提高泛化能力的方法：及早停止法和正規(guī)化法。在5.3節(jié)也介紹了隱含神經(jīng)元的數(shù)目，任意初始權(quán)值和隨機(jī)采樣的影響，并描述了在這些情況下權(quán)值的非唯一性。并且為了使權(quán)值的非唯一性能清楚地顯示，不管初始任意權(quán)值、隨機(jī)采樣和隱含神經(jīng)元的數(shù)目，提出了這些情況下的隱含神經(jīng)元活化作用的詳細(xì)解釋?zhuān)躁U明網(wǎng)絡(luò)面向解決方案的一致方法。結(jié)構(gòu)復(fù)雜性是模型開(kāi)發(fā)的一個(gè)關(guān)鍵方面，意味著理想模型有最佳的模型參量數(shù)目（也就是權(quán)值）。因?yàn)榻Y(jié)構(gòu)復(fù)雜性趨向具有大量自由參數(shù)使網(wǎng)絡(luò)成為更強(qiáng)大的非線性處理器，因此復(fù)雜性對(duì)于神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)尤為重要。描述這個(gè)問(wèn)題的一種方法是從網(wǎng)絡(luò)里刪除不相關(guān)權(quán)值和神經(jīng)元。5.4節(jié)詳細(xì)介紹了修剪多層網(wǎng)絡(luò)的一些方法。模型開(kāi)發(fā)的另一個(gè)重要的方面就是確保模型參數(shù)是穩(wěn)定和連續(xù)的，5.5節(jié)描述了訓(xùn)練好網(wǎng)絡(luò)的權(quán)值的魯棒性問(wèn)題。

編輯推薦

《神經(jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)與工程中的應(yīng)用:從基本原理到復(fù)雜的模式識(shí)別》為讀者提供了神經(jīng)網(wǎng)絡(luò)方面簡(jiǎn)單但卻系統(tǒng)的介紹?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識(shí)別》以神經(jīng)網(wǎng)絡(luò)在科學(xué)數(shù)據(jù)分析中所扮演角色的介紹性討論作為開(kāi)始，給出了神經(jīng)網(wǎng)絡(luò)的基本概念?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識(shí)別》首先對(duì)用于實(shí)際數(shù)據(jù)分析的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行了綜合概述，繼而對(duì)線性網(wǎng)絡(luò)進(jìn)行了大量的介紹，并介紹了所有處理階段的用于非線性預(yù)報(bào)和分類(lèi)的多層感知器。此外，還通過(guò)實(shí)際例子和個(gè)案研究闡述了模型開(kāi)發(fā)技術(shù)。后面章節(jié)又提出了用于非線性數(shù)據(jù)聚類(lèi)的自組織映射、用于線性或非線性時(shí)間序列預(yù)測(cè)的遞歸網(wǎng)絡(luò)和適用于科學(xué)數(shù)據(jù)分析的其他類(lèi)型的網(wǎng)絡(luò)?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識(shí)別》通過(guò)使用廣泛的圖示和多學(xué)科的內(nèi)容以一種更容易理解的形式，填補(bǔ)了市場(chǎng)上神經(jīng)網(wǎng)絡(luò)用于多維科學(xué)數(shù)據(jù)的空白，并將神經(jīng)網(wǎng)絡(luò)與統(tǒng)計(jì)學(xué)聯(lián)系了起來(lái)。國(guó)際視野，科技前沿。國(guó)際電氣工程先進(jìn)技術(shù)譯叢，傳播國(guó)際最新技術(shù)成果，搭建電氣工程技術(shù)平臺(tái)?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識(shí)別》特點(diǎn)：◆在多學(xué)科領(lǐng)域解釋了神經(jīng)網(wǎng)絡(luò)；◆為了易于理解，使用了大量圖例來(lái)解釋復(fù)雜數(shù)據(jù)概念；◆深入研究了神經(jīng)網(wǎng)絡(luò)在線性和非線性預(yù)報(bào)、分類(lèi)，聚類(lèi)和預(yù)測(cè)方面的應(yīng)用；◆闡述了模型開(kāi)發(fā)的所有階段和結(jié)果的解釋?zhuān)〝?shù)據(jù)預(yù)處理，數(shù)據(jù)維數(shù)約簡(jiǎn)，輸入選擇，模型開(kāi)發(fā)和驗(yàn)證，模型不確定性評(píng)估以及對(duì)輸入、誤差和模型參數(shù)的靈敏度分析。

圖書(shū)封面

圖書(shū)標(biāo)簽Tags

無(wú)

評(píng)論、評(píng)分、閱讀與下載

---

    神經(jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用 PDF格式下載

---