神經(jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用

前言

本書是通過神經(jīng)網(wǎng)絡(luò)對科學(xué)數(shù)據(jù)進(jìn)行模式識別的一種探索。本書最大的一個亮點(diǎn)是通篇貫穿了對神經(jīng)網(wǎng)絡(luò)概念的大量可視化描述。初衷是既要從更廣闊的背景去滿足研究人員和學(xué)生的需要，又要將神經(jīng)網(wǎng)絡(luò)融入多學(xué)科的科學(xué)背景。過去的七年里，我一直在新西蘭的林肯大學(xué)從事包括生物學(xué)、經(jīng)濟(jì)學(xué)、應(yīng)用科學(xué)、工程、計(jì)算和商業(yè)等不同背景的神經(jīng)網(wǎng)絡(luò)研究生教學(xué)工作。我通過把神經(jīng)網(wǎng)絡(luò)和其內(nèi)部細(xì)節(jié)變得明晰的思路展開介紹，從而使學(xué)生們在學(xué)習(xí)上樹立信心。這種可視化的描述對于理解困難的數(shù)學(xué)概念而言是一種很有價值的工具，所以本書也是這些研究成果以及本人對于神經(jīng)網(wǎng)絡(luò)的探究興趣的反映。在應(yīng)用背景上，我想提供一種合理的理論背景。我的經(jīng)驗(yàn)證明，使用神經(jīng)網(wǎng)絡(luò)軟件與實(shí)踐應(yīng)用相結(jié)合的學(xué)習(xí)方法會得到很好的效果。另外，在本書中通過實(shí)際輔導(dǎo)環(huán)節(jié)作為理論的補(bǔ)充也是很成功的。本書的讀者對象是具有一些數(shù)學(xué)和基礎(chǔ)計(jì)算背景的從事應(yīng)用領(lǐng)域研究方面的高年級學(xué)生和研究生。書中不僅以簡單表達(dá)與可視化輔助相結(jié)合，將一個網(wǎng)絡(luò)拆分成為可能，用以理解數(shù)學(xué)概念及相關(guān)推導(dǎo)，而且介紹被許多人認(rèn)為是“黑箱”的神經(jīng)網(wǎng)絡(luò)內(nèi)部運(yùn)作的重要性。第1章開始以神經(jīng)網(wǎng)絡(luò)在科學(xué)數(shù)據(jù)分析中扮演的角色進(jìn)行了介紹性的討論，并提出了本書的具體安排。許多科學(xué)家都對用傳統(tǒng)的統(tǒng)計(jì)學(xué)方法去判定神經(jīng)網(wǎng)絡(luò)的優(yōu)越性感興趣，所以’書中對與神經(jīng)網(wǎng)絡(luò)相關(guān)的統(tǒng)計(jì)學(xué)方法給出了詳細(xì)的論述。第2章闡述了兩種方法在線性數(shù)據(jù)分析方面的等效性，然后開始建立基本神經(jīng)網(wǎng)絡(luò)概念的堅(jiān)實(shí)基礎(chǔ)，逐漸地進(jìn)行更深入的理解。第3章到第5章論述了使用多層神經(jīng)網(wǎng)絡(luò)分析的非線性數(shù)據(jù)，以及多層神經(jīng)網(wǎng)絡(luò)對非線性模式的識別。多層神經(jīng)網(wǎng)絡(luò)是一種帶有非線性處理能力的神經(jīng)元層的網(wǎng)絡(luò)。本書提出了這些網(wǎng)絡(luò)的廣義收斂性。如果與魯棒性和反復(fù)實(shí)驗(yàn)需要的相關(guān)局限性進(jìn)行處理，則它們在系統(tǒng)建模方面的潛力和有效性就會被提高。這幾章對基于統(tǒng)計(jì)學(xué)方法的神經(jīng)網(wǎng)絡(luò)在非線性建模方面的優(yōu)勢進(jìn)行了闡述，并對網(wǎng)絡(luò)的非線性處理、網(wǎng)絡(luò)訓(xùn)練和網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化進(jìn)行了詳細(xì)的論述。為了使其容易理解，這幾章提供了具體的實(shí)例和個案研究。

內(nèi)容概要

本書是研究神經(jīng)網(wǎng)絡(luò)對科學(xué)數(shù)據(jù)進(jìn)行模式識別的一種探索，主要介紹了神經(jīng)網(wǎng)絡(luò)的基本概念，并以圖示的形式用大量的實(shí)例和個案研究結(jié)合計(jì)算機(jī)仿真對神經(jīng)網(wǎng)絡(luò)用于模式識別的各種方法進(jìn)行闡述與對比。本書所涉及的學(xué)科領(lǐng)域包括生物學(xué)、經(jīng)濟(jì)學(xué)、應(yīng)用科學(xué)、工程、計(jì)算和商業(yè)等，研究了神經(jīng)網(wǎng)絡(luò)在線性和非線性預(yù)報、分類、聚類和預(yù)測方面的應(yīng)用，并對模型開發(fā)的所有階段和結(jié)果進(jìn)行了闡述，包括數(shù)據(jù)預(yù)處理、數(shù)據(jù)維數(shù)約簡、輸人選擇、模型開發(fā)和驗(yàn)證、模型不確定性評估以及對輸入、誤差和模型參數(shù)的靈敏度分析。本書內(nèi)容清晰明了，并結(jié)合了大量實(shí)例使得全書更加容易理解。　　本書適合作為高等院校相關(guān)專業(yè)的大學(xué)生、研究生的教材及有關(guān)研究人員的參考用書。

作者簡介

本書提供作譯者介紹
Sandhya Samarasinghe在俄羅斯的Lumumba大學(xué)獲得機(jī)械工程的理學(xué)碩士(Hons)，在美國的VirpniaTech獲得了工程學(xué)碩士和博士學(xué)位。目前她是新西蘭林肯大學(xué)自然工程系的高級講師，并成為先進(jìn)計(jì)算解決方案中心的奠基人之一。她的研究包括神經(jīng)網(wǎng)絡(luò)、統(tǒng)計(jì)學(xué)、軟

書籍目錄

譯者序前言致謝作者簡介第1章  從數(shù)據(jù)到模型：理解生物學(xué)、生態(tài)學(xué)和自然系統(tǒng)的復(fù)雜性和挑戰(zhàn)  1.1　概述  1.2　本書安排  參考文獻(xiàn)第2章　神經(jīng)網(wǎng)絡(luò)基礎(chǔ)和線性數(shù)據(jù)分析模型　2.1　概述　2.2　神經(jīng)網(wǎng)絡(luò)及其能力　2.3　生物學(xué)的啟示　2.4　神經(jīng)元信息處理的建?！?.5　神經(jīng)元模型和學(xué)習(xí)策略  　2.5.1　作為一個簡單分類器的閾值神經(jīng)元　  2.5.2　神經(jīng)元和神經(jīng)集合的學(xué)習(xí)模型  　  2.5.2.1　Hebbian學(xué)習(xí)　    2.5.2.2　無監(jiān)督學(xué)習(xí)或競爭學(xué)習(xí)  　  2.5.2.3　有監(jiān)督學(xué)習(xí)　  2.5.3　作為分類器的有監(jiān)督學(xué)習(xí)的感知器  　  2.5.3.1　感知器學(xué)習(xí)算法    　2.5.3.2　基于大量現(xiàn)實(shí)數(shù)據(jù)集的感知器實(shí)例：根據(jù)測定的成長年輪直徑辨識魚的起源　    2.5.3.3　統(tǒng)計(jì)學(xué)中帶有線性判別函數(shù)分析的感知器比較  　  2.5.3.4　多種類分類中的多輸出感知器　    2.5.3.5　使用感知器的高維分類　    2.5.3.6　感知器小結(jié)    2.5.4　用于線性分類和預(yù)報的線性神經(jīng)元  　  2.5.4.1　利用delta規(guī)則的學(xué)習(xí)    　2.5.4.2　作為分類器的線性神經(jīng)元　    2.5.4.3　作為預(yù)報能力子集的線性神經(jīng)元的分類屬性  　  2.5.4.4　實(shí)例：作為預(yù)報器的線性神經(jīng)元    　2.5.4.5　線性預(yù)報的實(shí)例：預(yù)報一個家庭的熱流　    2.5.4.6　線性神經(jīng)元模型與線性回歸的比較  　  2.5.4.7  實(shí)例：多輸入線性神經(jīng)元模型——提高一個家庭的熱流預(yù)報精確度    　2.5.4.8　一個多輸入線性神經(jīng)元與多重線性回歸的比較　    2.5.4.9　多線性神經(jīng)元模型  　  2.5.4.10　多重線性神經(jīng)網(wǎng)絡(luò)與正則相關(guān)性分析的比較    　2.5.4.11　線性神經(jīng)元和線性網(wǎng)絡(luò)小結(jié)　2.6　小結(jié)　習(xí)題　參考文獻(xiàn)第3章　用于非線性模式識別的神經(jīng)網(wǎng)絡(luò)　3.1　概述　3.2　非線性神經(jīng)元  　3.2.1　神經(jīng)元激勵函數(shù)    　3.2.1.1 S形函數(shù)　    3.2.1.2高斯函數(shù)　　3.2.2　實(shí)例：利用非線性神經(jīng)元對人口增長建模    3.2.3　非線性神經(jīng)元與非線性回歸分析的比較　3.3　單輸入多層非線性網(wǎng)絡(luò)  　3.3.1　用單一非線性隱含層神經(jīng)元處理　  3.3.2　實(shí)例：用多非線性神經(jīng)元建立循環(huán)現(xiàn)象模型  　  3.3.2.1　實(shí)例1：逼近一個方波    　3.3.2.2　實(shí)例2：為物種的季節(jié)性遷移建立模型　  3.4　兩輸入的多層感知器網(wǎng)絡(luò)  　  3.4.1　用非線性神經(jīng)元處理二維輸入    　3.4.2　網(wǎng)絡(luò)輸出　    3.4.3　實(shí)例：二維預(yù)報和分類  　  3.4.3.1　實(shí)例1：二維非線性函數(shù)逼近    　3.4.3.2　實(shí)例2：二維非線性分類模型　  3.5　用非線性多層感知器網(wǎng)絡(luò)為多維數(shù)據(jù)建模  　3.6　小結(jié)  　習(xí)題　  參考文獻(xiàn)第4章　神經(jīng)網(wǎng)絡(luò)對非線性模式的學(xué)習(xí)  4.1　概述  4.2　非線性模式識別中網(wǎng)絡(luò)的監(jiān)督訓(xùn)練  4.3　梯度下降法和誤差最小化  4.4　BP學(xué)習(xí)    4.4.1　實(shí)例：BP訓(xùn)練——手工計(jì)算　……第5章　從數(shù)據(jù)中抽取可靠模式的神經(jīng)網(wǎng)絡(luò)模型的實(shí)現(xiàn)第6章　數(shù)據(jù)探測、維數(shù)約簡和特征提取第7章　使用貝葉斯統(tǒng)計(jì)的神經(jīng)網(wǎng)絡(luò)模型的不確定性評估第8章　應(yīng)用自組織映射的方法發(fā)現(xiàn)數(shù)據(jù)中的未知聚類第9章　神經(jīng)網(wǎng)絡(luò)在時間序列預(yù)測中的應(yīng)用附錄

章節(jié)摘錄

插圖：從數(shù)據(jù)中抽取模式的模型的實(shí)現(xiàn)需要將更多的注意力放在模型開發(fā)的多個方面，如檢驗(yàn)泛化能力，減小模型復(fù)雜性，檢驗(yàn)?zāi)Ｐ汪敯粜裕ㄒ簿褪悄Ｐ蛥?shù)的穩(wěn)定性）和選擇相關(guān)輸入。本章將集中對泛化，結(jié)構(gòu)優(yōu)化和多層神經(jīng)網(wǎng)絡(luò)的魯棒性進(jìn)行介紹。第6章主要介紹處理輸入選擇。第7章詳細(xì)介紹模型參數(shù)、輸出以及網(wǎng)絡(luò)對權(quán)值和輸入敏感性的不確定性評估。首先，開發(fā)一個模型并校正，確定它的適當(dāng)性。然后用新數(shù)據(jù)檢驗(yàn)?zāi)Ｐ腿ゴ_定它的泛化能力。一個訓(xùn)練數(shù)據(jù)集用來對模型進(jìn)行驗(yàn)證（也就是通過評估和微調(diào)進(jìn)行校正）。泛化意味著一個被確定的模型如何在未知數(shù)據(jù)上更好地實(shí)現(xiàn)其功能和在獨(dú)立的檢驗(yàn)數(shù)據(jù)集上被檢驗(yàn)。驗(yàn)證的目的就是去確定一個模型的泛化能力。一個不能充分?jǐn)M合數(shù)據(jù)的模型具有有限的表示，會引起擬合不足（偏差）；一個能充分?jǐn)M合數(shù)據(jù)的模型也會導(dǎo)致過擬合（方差）。這些事件叫做偏差.方差的困境，這兩種情況都會增加泛化誤差。因此，要尋找這兩種極限之間的折衷以減小泛化誤差。在5.2節(jié)描述了偏差和方差的折衷。在5.3節(jié)提出了兩種提高泛化能力的方法：及早停止法和正規(guī)化法。在5.3節(jié)也介紹了隱含神經(jīng)元的數(shù)目，任意初始權(quán)值和隨機(jī)采樣的影響，并描述了在這些情況下權(quán)值的非唯一性。并且為了使權(quán)值的非唯一性能清楚地顯示，不管初始任意權(quán)值、隨機(jī)采樣和隱含神經(jīng)元的數(shù)目，提出了這些情況下的隱含神經(jīng)元活化作用的詳細(xì)解釋，以闡明網(wǎng)絡(luò)面向解決方案的一致方法。結(jié)構(gòu)復(fù)雜性是模型開發(fā)的一個關(guān)鍵方面，意味著理想模型有最佳的模型參量數(shù)目（也就是權(quán)值）。因?yàn)榻Y(jié)構(gòu)復(fù)雜性趨向具有大量自由參數(shù)使網(wǎng)絡(luò)成為更強(qiáng)大的非線性處理器，因此復(fù)雜性對于神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)尤為重要。描述這個問題的一種方法是從網(wǎng)絡(luò)里刪除不相關(guān)權(quán)值和神經(jīng)元。5.4節(jié)詳細(xì)介紹了修剪多層網(wǎng)絡(luò)的一些方法。模型開發(fā)的另一個重要的方面就是確保模型參數(shù)是穩(wěn)定和連續(xù)的，5.5節(jié)描述了訓(xùn)練好網(wǎng)絡(luò)的權(quán)值的魯棒性問題。

編輯推薦

《神經(jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)與工程中的應(yīng)用:從基本原理到復(fù)雜的模式識別》為讀者提供了神經(jīng)網(wǎng)絡(luò)方面簡單但卻系統(tǒng)的介紹?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識別》以神經(jīng)網(wǎng)絡(luò)在科學(xué)數(shù)據(jù)分析中所扮演角色的介紹性討論作為開始，給出了神經(jīng)網(wǎng)絡(luò)的基本概念?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識別》首先對用于實(shí)際數(shù)據(jù)分析的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行了綜合概述，繼而對線性網(wǎng)絡(luò)進(jìn)行了大量的介紹，并介紹了所有處理階段的用于非線性預(yù)報和分類的多層感知器。此外，還通過實(shí)際例子和個案研究闡述了模型開發(fā)技術(shù)。后面章節(jié)又提出了用于非線性數(shù)據(jù)聚類的自組織映射、用于線性或非線性時間序列預(yù)測的遞歸網(wǎng)絡(luò)和適用于科學(xué)數(shù)據(jù)分析的其他類型的網(wǎng)絡(luò)?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識別》通過使用廣泛的圖示和多學(xué)科的內(nèi)容以一種更容易理解的形式，填補(bǔ)了市場上神經(jīng)網(wǎng)絡(luò)用于多維科學(xué)數(shù)據(jù)的空白，并將神經(jīng)網(wǎng)絡(luò)與統(tǒng)計(jì)學(xué)聯(lián)系了起來。國際視野，科技前沿。國際電氣工程先進(jìn)技術(shù)譯叢，傳播國際最新技術(shù)成果，搭建電氣工程技術(shù)平臺?！渡窠?jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用從基本原理到復(fù)雜的模式識別》特點(diǎn)：◆在多學(xué)科領(lǐng)域解釋了神經(jīng)網(wǎng)絡(luò)；◆為了易于理解，使用了大量圖例來解釋復(fù)雜數(shù)據(jù)概念；◆深入研究了神經(jīng)網(wǎng)絡(luò)在線性和非線性預(yù)報、分類，聚類和預(yù)測方面的應(yīng)用；◆闡述了模型開發(fā)的所有階段和結(jié)果的解釋，包括數(shù)據(jù)預(yù)處理，數(shù)據(jù)維數(shù)約簡，輸入選擇，模型開發(fā)和驗(yàn)證，模型不確定性評估以及對輸入、誤差和模型參數(shù)的靈敏度分析。

圖書封面

圖書標(biāo)簽Tags

無

評論、評分、閱讀與下載

---

    神經(jīng)網(wǎng)絡(luò)在應(yīng)用科學(xué)和工程中的應(yīng)用 PDF格式下載

---