單擊此處編輯母版標(biāo)題樣式,編輯母版文本樣式,第二級,第三級,第四級,第五級,2018/9/9,#,人工智能導(dǎo)入,對智能還沒有確切的定義，,智能是,知識,與,智力,的總和,人工智能,：用人工的方法在機器（計算機）上實現(xiàn)的智能；或者說是人們使機器具有類似于人的智能,。,圖靈,測試,：,1950,年圖靈發(fā)表的,計算機與智能,中設(shè)計了一個測試，用以說明人工智能的概念,。,1956,年正式提出人工智能,（,artificial intelligence,AI,）,這個術(shù)語并把它作為一門新興科學(xué)的名稱。,人工智能學(xué)科,：一門研究如何構(gòu)造智能機器（智能計算機）或智能系統(tǒng)，使它能模擬、延伸、擴展人類智能的學(xué)科。,知識是一切智能行為的基礎(chǔ),獲取知識并應(yīng)用知識求解問題的能力,智者,詢問者,人工智能研究的基本內(nèi)容,知識表示,機器感知,機器思維,機器學(xué)習(xí),機器行為,人工智能的主要研究領(lǐng)域,自動,定理證明,博弈,模式識別,機器視覺,自然語言理解,智能信息檢索,數(shù)據(jù)挖掘與知識發(fā)現(xiàn),專家系統(tǒng),自動程序設(shè)計,機器人,組合優(yōu)化,問題,智能網(wǎng)絡(luò)系統(tǒng),人工生命,人工神經(jīng)網(wǎng)絡(luò),分布式人工智能與多智能體,智能控制,智能仿真,智能,CAD,智能,CAI,智能管理與智能決策,智能多媒體系統(tǒng),智能操作系統(tǒng),智能計算機系統(tǒng),智能通信,人工神經(jīng)網(wǎng)絡(luò)及其,應(yīng)用,生物神經(jīng)網(wǎng)絡(luò),(natural neural network,NNN):,由中樞神經(jīng)系統(tǒng)（腦和脊髓）及周圍神經(jīng)系統(tǒng)（感覺神經(jīng)、運動神經(jīng)等）所構(gòu)成的錯綜復(fù)雜的神經(jīng)網(wǎng)絡(luò)，其中最重要的是,腦神經(jīng)系統(tǒng),。,人工神經(jīng)網(wǎng)絡(luò),(artificial neural networks,ANN):,模擬,人腦神經(jīng)系統(tǒng),的結(jié)構(gòu)和功能，運用大量簡單處理單元經(jīng)廣泛連接而組成的人工網(wǎng)絡(luò)系統(tǒng)。,神經(jīng)網(wǎng)絡(luò)方法：,隱式,的知識表示方法,工作狀態(tài)：,興奮狀態(tài),：細(xì)胞膜電位,動作電位的閾值,神經(jīng)沖動,抑制狀態(tài),：,細(xì)胞膜電位,動作電位的閾值,學(xué)習(xí)與遺忘：,由于神經(jīng)元結(jié)構(gòu)的可塑性，突觸的傳遞作用可增強和減弱,。,（,輸入,）,（,輸出,）,神經(jīng)沖動,：,第 個神經(jīng)元的輸出,。,：,第 個神經(jīng)元的閾值,。,：,外部輸入,。,：,權(quán)值。,加權(quán)求和：,其矩陣形式：,8,工作過程,:,從各輸入端接收輸入信號,u,j,(,j,=1,2,n,),根據(jù)連接權(quán)值求出所有輸入的加權(quán)和,用非線性激勵函數(shù)進行轉(zhuǎn)換，得到輸出,1.BP,網(wǎng)絡(luò)結(jié)構(gòu),10,2.,輸入輸出變換關(guān)系,11,3.,工作過程,第一階段或網(wǎng)絡(luò)訓(xùn)練階段,：,N,組輸入輸出樣本：,x,i,=,x,i,1,x,i,2,x,ip,1,T,d,i,=,d,i,1,d,i,2,d,ipm,T,i,=1,2,N,對網(wǎng)絡(luò)的連接權(quán)進行學(xué)習(xí)和調(diào)整，以使該網(wǎng)絡(luò)實現(xiàn)給定樣本的輸入輸出映射關(guān)系。,第二階段或稱工作階段,：把實驗數(shù)據(jù)或?qū)嶋H數(shù)據(jù)輸入到網(wǎng)絡(luò)，網(wǎng)絡(luò)在誤差范圍內(nèi)預(yù)測計算出結(jié)果。,12,（,1,）是否存在一個,BP,神經(jīng)網(wǎng)絡(luò)能夠逼近給定的樣本或者函數(shù)。,兩個問題：,（,2,）如何調(diào)整,BP,神經(jīng)網(wǎng)絡(luò)的連接權(quán)，使網(wǎng)絡(luò)的輸入與輸出與給定的樣本相同。,1986,年，魯梅爾哈特（,D.Rumelhart,）等提出,BP,學(xué)習(xí)算法。,13,8.2.2 BP,學(xué)習(xí)算法,目標(biāo)函數(shù)：,約束條件：,連接權(quán)值的修正量：,1.,基本思想,14,BP,學(xué)習(xí)算法,記,先求,（,1,）對輸出層的神經(jīng)元,（,2,）對隱單元層，則有,15,8.2.2 BP,學(xué)習(xí)算法,2.,學(xué)習(xí)算法,16,8.2.2 BP,學(xué)習(xí)算法,正向傳播：輸入信息由輸入層傳至隱層，最終在輸出層輸出。,反向傳播：修改各層神經(jīng)元的權(quán)值，使誤差信號最小。,2.,學(xué)習(xí)算法,17,8.2.2 BP,學(xué)習(xí)算法,2.,學(xué)習(xí)算法,18,8.2.3 BP,算法的實現(xiàn),（,1,）隱層數(shù)及隱層神經(jīng)元數(shù)的確定：目前尚無理論指導(dǎo)。,（,2,）初始權(quán)值的設(shè)置：一般以一個均值為,0,的隨機分布設(shè)置網(wǎng)絡(luò)的初始權(quán)值。,（,3,）訓(xùn)練數(shù)據(jù)預(yù)處理：線性的特征比例變換，將所有的特征變換到,0,，,1,或者,-1,，,1,區(qū)間內(nèi)，使得在每個訓(xùn)練集上，每個特征的均值為,0,，并且具有相同的方差。,（,4,）后處理過程：當(dāng)應(yīng)用神經(jīng)網(wǎng)絡(luò)進行分類操作時，通常將輸出,值編碼成所謂的名義變量，具體的值對應(yīng)類別標(biāo)號。,1.BP,算法的設(shè)計,19,8.2.3 BP,算法的實現(xiàn),（,1,）初始化：對所有連接權(quán)和閾值賦以隨機任意小值；,（,2,）從,N,組輸入輸出樣本中取一組樣本：,x,=,x,1,x,2,x,p,1,T,d,=,d,1,d,2,d,pm,T,把輸入信息,x,=,x,1,x,2,x,p,1,T,輸入到,BP,網(wǎng)絡(luò)中,（,3,）正向傳播：計算各層節(jié)點的輸出：,（,4,）計算網(wǎng)絡(luò)的,實際輸出與期望輸出的誤差：,2.BP,算法的計算機實現(xiàn)流程,20,8.2.3 BP,算法的實現(xiàn),（,5,）反向傳播：從輸出層方向計算到第一個隱層，按連接權(quán)值修正公式向減小誤差方向調(diào)整網(wǎng)絡(luò)的各個連接權(quán)值。,（,6,）讓,t,+1,t,，取出另一組樣本重復(fù)（,2,）（,5,），直到,N,組輸入輸出樣本的誤差達到要求時為止。,2.BP,算法的計算機實現(xiàn)流程,21,8.2.3 BP,算法的實現(xiàn),BP,學(xué)習(xí)算法的程序框圖,22,1.,特點,BP,網(wǎng)絡(luò)：多層前向網(wǎng)絡(luò)（輸入層、隱層、輸出層）。,連接權(quán)值：通過,Delta,學(xué)習(xí)算法進行修正。,神經(jīng)元傳輸函數(shù)：,S,形函數(shù)。,學(xué)習(xí)算法：正向傳播、反向傳播。,層與層的連接是單向的，信息的傳播是雙向的。,BP,算法的特點分析,23,2.BP,網(wǎng)絡(luò)的主要優(yōu)缺點,很好的逼近特性。,具有較強的泛化能力。,具有較好的容錯性。,優(yōu)點,收斂速度慢。,局部極值。,難以確定隱層和隱層結(jié)點的數(shù)目。,缺點,BP,算法的特點分析,