人工智能導入課件
單擊此處編輯母版標題樣式,編輯母版文本樣式,第二級,第三級,第四級,第五級,2018/9/9,#,人工智能導入,對智能還沒有確切的定義,,智能是,知識,與,智力,的總和,人工智能,:用人工的方法在機器(計算機)上實現(xiàn)的智能;或者說是人們使機器具有類似于人的智能,。,圖靈,測試,:,1950,年圖靈發(fā)表的,計算機與智能,中設(shè)計了一個測試,用以說明人工智能的概念,。,1956,年正式提出人工智能,(,artificial intelligence,AI,),這個術(shù)語并把它作為一門新興科學的名稱。,人工智能學科,:一門研究如何構(gòu)造智能機器(智能計算機)或智能系統(tǒng),使它能模擬、延伸、擴展人類智能的學科。,知識是一切智能行為的基礎(chǔ),獲取知識并應用知識求解問題的能力,智者,詢問者,人工智能研究的基本內(nèi)容,知識表示,機器感知,機器思維,機器學習,機器行為,人工智能的主要研究領(lǐng)域,自動,定理證明,博弈,模式識別,機器視覺,自然語言理解,智能信息檢索,數(shù)據(jù)挖掘與知識發(fā)現(xiàn),專家系統(tǒng),自動程序設(shè)計,機器人,組合優(yōu)化,問題,智能網(wǎng)絡系統(tǒng),人工生命,人工神經(jīng)網(wǎng)絡,分布式人工智能與多智能體,智能控制,智能仿真,智能,CAD,智能,CAI,智能管理與智能決策,智能多媒體系統(tǒng),智能操作系統(tǒng),智能計算機系統(tǒng),智能通信,人工神經(jīng)網(wǎng)絡及其,應用,生物神經(jīng)網(wǎng)絡,(natural neural network,NNN):,由中樞神經(jīng)系統(tǒng)(腦和脊髓)及周圍神經(jīng)系統(tǒng)(感覺神經(jīng)、運動神經(jīng)等)所構(gòu)成的錯綜復雜的神經(jīng)網(wǎng)絡,其中最重要的是,腦神經(jīng)系統(tǒng),。,人工神經(jīng)網(wǎng)絡,(artificial neural networks,ANN):,模擬,人腦神經(jīng)系統(tǒng),的結(jié)構(gòu)和功能,運用大量簡單處理單元經(jīng)廣泛連接而組成的人工網(wǎng)絡系統(tǒng)。,神經(jīng)網(wǎng)絡方法:,隱式,的知識表示方法,工作狀態(tài):,興奮狀態(tài),:細胞膜電位,動作電位的閾值,神經(jīng)沖動,抑制狀態(tài),:,細胞膜電位,動作電位的閾值,學習與遺忘:,由于神經(jīng)元結(jié)構(gòu)的可塑性,突觸的傳遞作用可增強和減弱,。,(,輸入,),(,輸出,),神經(jīng)沖動,:,第 個神經(jīng)元的輸出,。,:,第 個神經(jīng)元的閾值,。,:,外部輸入,。,:,權(quán)值。,加權(quán)求和:,其矩陣形式:,8,工作過程,:,從各輸入端接收輸入信號,u,j,(,j,=1,2,n,),根據(jù)連接權(quán)值求出所有輸入的加權(quán)和,用非線性激勵函數(shù)進行轉(zhuǎn)換,得到輸出,1.BP,網(wǎng)絡結(jié)構(gòu),10,2.,輸入輸出變換關(guān)系,11,3.,工作過程,第一階段或網(wǎng)絡訓練階段,:,N,組輸入輸出樣本:,x,i,=,x,i,1,x,i,2,x,ip,1,T,d,i,=,d,i,1,d,i,2,d,ipm,T,i,=1,2,N,對網(wǎng)絡的連接權(quán)進行學習和調(diào)整,以使該網(wǎng)絡實現(xiàn)給定樣本的輸入輸出映射關(guān)系。,第二階段或稱工作階段,:把實驗數(shù)據(jù)或?qū)嶋H數(shù)據(jù)輸入到網(wǎng)絡,網(wǎng)絡在誤差范圍內(nèi)預測計算出結(jié)果。,12,(,1,)是否存在一個,BP,神經(jīng)網(wǎng)絡能夠逼近給定的樣本或者函數(shù)。,兩個問題:,(,2,)如何調(diào)整,BP,神經(jīng)網(wǎng)絡的連接權(quán),使網(wǎng)絡的輸入與輸出與給定的樣本相同。,1986,年,魯梅爾哈特(,D.Rumelhart,)等提出,BP,學習算法。,13,8.2.2 BP,學習算法,目標函數(shù):,約束條件:,連接權(quán)值的修正量:,1.,基本思想,14,BP,學習算法,記,先求,(,1,)對輸出層的神經(jīng)元,(,2,)對隱單元層,則有,15,8.2.2 BP,學習算法,2.,學習算法,16,8.2.2 BP,學習算法,正向傳播:輸入信息由輸入層傳至隱層,最終在輸出層輸出。,反向傳播:修改各層神經(jīng)元的權(quán)值,使誤差信號最小。,2.,學習算法,17,8.2.2 BP,學習算法,2.,學習算法,18,8.2.3 BP,算法的實現(xiàn),(,1,)隱層數(shù)及隱層神經(jīng)元數(shù)的確定:目前尚無理論指導。,(,2,)初始權(quán)值的設(shè)置:一般以一個均值為,0,的隨機分布設(shè)置網(wǎng)絡的初始權(quán)值。,(,3,)訓練數(shù)據(jù)預處理:線性的特征比例變換,將所有的特征變換到,0,,,1,或者,-1,,,1,區(qū)間內(nèi),使得在每個訓練集上,每個特征的均值為,0,,并且具有相同的方差。,(,4,)后處理過程:當應用神經(jīng)網(wǎng)絡進行分類操作時,通常將輸出,值編碼成所謂的名義變量,具體的值對應類別標號。,1.BP,算法的設(shè)計,19,8.2.3 BP,算法的實現(xiàn),(,1,)初始化:對所有連接權(quán)和閾值賦以隨機任意小值;,(,2,)從,N,組輸入輸出樣本中取一組樣本:,x,=,x,1,x,2,x,p,1,T,d,=,d,1,d,2,d,pm,T,把輸入信息,x,=,x,1,x,2,x,p,1,T,輸入到,BP,網(wǎng)絡中,(,3,)正向傳播:計算各層節(jié)點的輸出:,(,4,)計算網(wǎng)絡的,實際輸出與期望輸出的誤差:,2.BP,算法的計算機實現(xiàn)流程,20,8.2.3 BP,算法的實現(xiàn),(,5,)反向傳播:從輸出層方向計算到第一個隱層,按連接權(quán)值修正公式向減小誤差方向調(diào)整網(wǎng)絡的各個連接權(quán)值。,(,6,)讓,t,+1,t,,取出另一組樣本重復(,2,)(,5,),直到,N,組輸入輸出樣本的誤差達到要求時為止。,2.BP,算法的計算機實現(xiàn)流程,21,8.2.3 BP,算法的實現(xiàn),BP,學習算法的程序框圖,22,1.,特點,BP,網(wǎng)絡:多層前向網(wǎng)絡(輸入層、隱層、輸出層)。,連接權(quán)值:通過,Delta,學習算法進行修正。,神經(jīng)元傳輸函數(shù):,S,形函數(shù)。,學習算法:正向傳播、反向傳播。,層與層的連接是單向的,信息的傳播是雙向的。,BP,算法的特點分析,23,2.BP,網(wǎng)絡的主要優(yōu)缺點,很好的逼近特性。,具有較強的泛化能力。,具有較好的容錯性。,優(yōu)點,收斂速度慢。,局部極值。,難以確定隱層和隱層結(jié)點的數(shù)目。,缺點,BP,算法的特點分析,