luni, 29 aprilie 2013

TEORIA RETELELOR NEURONALE ARTIFICIALE vol1

Autor :Dumitru Popescu, Maria-Luisa Flonta
Editura Universitatii din Bucuresti
An aparitie :2009
ISBN  978-973-737-682-4
Nr pagini :266
Format 210 x 297
Pret : 34,88 lei la Editura
Disponibilitate BCU





Descrierea editurii:
Rețelele neuronale artificiale ae folosesc pentru modelarea unor funcții ale creierului: recunoașterea unor forme, tipare, planificarea unor acțiuni pentru roboți, învățarea de informații noi, utilizarea feed-back-ului, pentru a îmbunătăți performanțele.
Majoritatea simulărilor realizate prin rețele neuronale sunt relativ limitate și nu ating enorma complexitate structurală și funcțională a unui creier viu. Totuși, pentru modelarea unor sarcini executate în mod curent de om, rețelele neuronale sunt mai performante decât programele de calculator care utilizează logica și matematica standard.
E important de subliniat că rețelele neuronale sunt artificiale. Ele modelează realitatea și prin astfel de aproximări ale realității biologice fac posibilă o înțelegere mai bună a modului în care se realizează procesarea informațiilor în creierul uman și animal.
Raportat la literatura de specialitate, autorii au folosit termenii cel mai des utilizați și cei mai potriviți pentru noțiunea respectivă, fiind totodată asigurat un grad mai mare de accesibilitate (se folosesc elemente de matematică elementară însușite de persoanele cu cel puțin o educație liceală). De asemenea, cartea cuprinde conceptele și metodele fundamentale ale domeniului, fapt reflectat în ordinea capitolelor, ce urmărește în mare măsură istoria domeniului rețelelor neuronale.
Primul volum se referă la rețelele neuronale care se instruiesc prin metode de supervizare, iar cel de al doilea are în vedere rețelele neuronale instruite fără supervizare și aplicații.
Cuprins:


PREFAŢĂ V
INTRODUCERE VI
PARADIGMA LOGICO-SIMBOLICĂ (L-S)  VI
PARADIGMA CONEXIONISTĂ  ! IX
PROPRIETĂŢILE REŢELEI NEURONALE ÎN COMPARAŢIE CU CALCULATORUL STANDARD....IX
      Comparaţie între sistemele neuronale naturale şi cele artificiale xi
      Caracteristicile reţelelor neuronale artificiale xi
      Direcţii de utilizare a RN xii
LEGĂTURA CU ALTE DOMENII      XVI
PERSPECTIVE PENTRU VIITOR XVI
BIBLIOGRAFIE XVII
ISTORIA SCURTĂ A REŢELELOR NEURONALE ARTIFICIALE XVIII

1. NEURONUL NATURAL 1
1.1. STRUCTURA NEURONULUI NATURAL 1
1.2. MEMBRANA NEURONALĂ 3
      1.2.1. Structura 3
      1.2.2. Starea electrică a membranei neuronale 4
1.3. EVENIMENTE ELECTRICE LOCALE LA SUPRAFAŢA MEMBRANEI NEURONALE 6
      1.3.1. Depolarizare transmembranară locală 6
1.4. PROPAGAREA IMPULSULUI NERVOS. COMUNICAREA INTERNEURONALĂ 8
1.5. NEURONUL NATURAL - DESCRIERE SINTETICĂ 12
1.6. NEURONUL NATURAL - DESCRIERE INFORMATICĂ 13
BIBLIOGRAFIE 14

2. NEURONUL ARTIFICIAL 15
2.1. NEURONUL ARTIFICIAL  15
2.2. FUNCŢIONAREA NEURONULUI ARTIFICIAL 16
2.3. NEURONUL MCCULLOCH ŞI PITTS 17
2.4. NEURONUL EXTINS - MODEL TEORETIC 18
2.5. FUNCŢIA DE ACTIVARE (F1R1NG RULE) 20
2.6. NEURONUL TEHNIC 21
2.7. ROLUL PROPRIETĂŢILOR INTRINSECI ÎN PRELUCRAREA SEMNALULUI TOTAL 22
2.8. REŢELE NEURONALE SIMPLE 23
      2.8.1. Operaţia de negare 23
      2.8.2. Operaţia logică de conjuncţie 25
      2.8.3. Operaţia logică de disjuncţie 26
      2.7.4. Operaţia ”SAU exclusiv” 27
BIBLIOGRAFIE 27

3. PERCEPTRONUL 28
3.1. PERCEPTRONUL - O REŢEA NEURONALĂ ARTIFICIALĂ DE REFERINŢĂ 28
3.2. CONVENŢII PRIVIND REŢELELE NEURONALE ARTIFICIALE 29
3.3. FUNCŢIONAREA PERCEPTRONULUI 31
3.4. POSIBILTĂŢILE DE REPEREZENTARE ALE PERCEPTRONULUI CU UN SINGUR STRAT DE NEURONI ’ 31
      3.4.1. Perceptronul cu două intrări 31
      3.4.2. Perceptronul cu trei intrări 39
      3.4.3. Dualitatea dintre spaţiul intrărilor şi spaţiul ponderilor sinaptice 43
BIBLIOGRAFIE 45

4. REŢELE NEURONALE CU MAI MULTE STRATURI 46
4.1. CLASIFICAREA ŞI FUNCŢIONAREA REŢELELOR NEURONALE CU MAI MULTE STRATURJ 47
      4.1.1. Reţele neuronale nerecurente 47
      4.1.2. Reţele neuronale recurente 49
      4.1.3. Condiţii de funcţionare a unei reţele neuronale cu mai multe straturi 49
4.2. PECEPTRONUL CU DOUĂ STRATURI DE NEURONI 51
      4.2.1. Depăşirea limitării impuse de condiţia de separabilitate liniară 51
      4.2.2. Perceptronul cu două straturi realizează funcţia OR exclusiv 55
4.3. PROIECTAREA REŢELELOR NEURONALE 58
4.4. REŢEA NEURONALĂ ARTIFICIALĂ FEEDFORWARD CU TREI STRATURI DE NEURONI 60
4.5. POSIBILITĂŢILE RN-FF CU MAI MULTE STRATURI DE NEURONI 65
      4.5.1. Numărul de neuroni la un perceptron cu mai multe straturi 65
      4.5.2. Reţelele neuronale şi hardlearningproblems ; 67
4.6 TAXONOMIA REŢELELOR NEURONALE ARTIFICIALE 72
BIBLIOGRAFIE 74

5. INSTRUIREA REŢELELOR NEURONALE 75
5.1. TIPURI DE INSTRUIRE 75
      5.1.1. Instruirea supervizată 76
      5.1.2. Instruirea nesupervizată 76
5.2. CONVERSIA IMAGINII EXTERNE ÎN DATE DE INTRARE PENTRU RNA 77
5.3. INSTRUIREA PERCEPTRONULUI STANDARD 77
      5.3.1. Perceptronul simplu, clasificator în două clase 79
      5.3.2. Algoritmul de instruire a perceptronului standard - formulare descriptivă 80
      5.3.3. Algoritmul de instruire a perceptronului standard - formulare descriptivă 81
      5.3.4. Algoritmul de instruire a perceptronului standard- formulare vectorială 81
5.4. METODA VECTORILOR CLASIFICAŢI INCORECT 86
      5.4.1. Condiţia de găsire a vectorilor clasificaţi incorect 87
      5.4.2. Algoritmul de instruire 89
      5.4.3. Metoda gradientului descendent 93
5.6. REGULA DELTA 95
5.6.1. Cazul iteraţiei lungi 97
5.7 METODE GLOBALE DE INSTRUIRE 98
5.8. METODE ŞI ALGORITMI DE INSTRUIRE 98
BIBLIOGRAFIE 101

6. ALGORITMUL DE RETROPROPAGARE A ERORII 102
6.1. METODĂ DE INSTRUIRE DESCOPERITĂ DE TREI ORI 103
6.2. REŢEA NEURONALĂ MULTISTRAT 103
6.3. FUNCŢIONAREA REŢELEI NEURONALE MULTISTRAT 105
6.4. SETUL DE*INSTRUIRE 107
6.5. ETAPA DIRECTĂ DE CALCUL AL RĂSPUNSULUI REŢELEI 108
      6.5.1. Eroarea finală pentru o imagine 108
      6.5.2. Formarea erorii 109
6.6. ETAPA INVERSĂ DE PROPAGARE A ERORII 110
      6.6.1. Modificarea ponderilor stratului final 110
      6.6.2. Ajustarea ponderilor asociate straturilor ascunse 112
6.7. ALGORITMUL DE ÎNVĂŢARE PRIN RETROPROPAGAREA ERORII 115
6.8. FUNCŢIA DE ACTIVARE 116
6.9. MODALITĂŢI DE MICŞORARE A TIMPULUI DE ÎNVĂŢARE 117
      6.9.1. Folosirea vectorilor extinşi 118
      6.9.2. Metoda introducerii biasului pentru funcţia de activare 118
      6.9.3. Metoda momentului 118
      6.9.4. Metoda derivatei de ordinul doi 120
      6.9.5. Optimizarea duratei etapelor de instruire 120
6.10. ALGORITMUL BACKPROPAGATION SISTEMATIZAT 120
6.11. CONDIŢII DE OPRIRE 122
6.12. APLICAŢII DE SUCCES ALE ALGORITMULUI BACKPROPAGATION 123
6.13. CONCLUZII 123
BIBLIOGRAFIE 124

7. MEMORII ASOCIATIVE 126
7.1. PROPRIETĂŢI ASOCIATIVE ŞI UTILITATEA LOR 126
7.2. REŢELE NEURONALE ARTIFICIALE CU PROPRIETĂŢI ASOCIATIVE 128
7.3. ANALOGIE CU SISTEMELE FIZICE 129
BIBLIOGRAFIE 131

8. REŢEAUA NEURONALĂ HOPFIELD 132
8.1. ARHITECTURA UNEI REŢELE NEURONALE DE TIP HOPFIELD 132
8.2. CARACTERIZAREA REŢELEI NEURONALE HOPFIELD 136
      8.2.1. Reţele recurente binare 136
      8.2.2. Dinamica reţelei Hopfield 139
      8.2.3. Energia reţelei neuronale Hopfield ; 142
8.3. INSTRUIREA REŢELELOR HOPFIELD 146
      8.3.1. Procedura lui Hopfield 146
      8.3.2. Instruirea prin fixarea a priori a stărilor stabile 152
      8.3.2. Concluzi i 162
8.4. PROPRIETĂŢI ALE REŢELELOR HOPFIELD 166
      8.4.1. Stabilitatea reţelelor neuronale de tip Hopfield 166
      8.4.2. Sisteme continui 167
      8.4.3. Memorie adresabilă prin conţinut 167
      8.4.4. Capacitatea de stocare 167
8.5. APLICAŢII 168
      8.5.1. Reţea Hopfield instruită ca memorie asociativă 168
      8.5.2. Convertor analog-digital 169
      8.5.3. Problema negustorului ambulant 171
BIBLIOGRAFIE 173

9. MEMORIE ASOCIATIVĂ BIDIRECŢIONALĂ 175
9.1. STRUCTURA UNEI REŢELE BAM 175
9.2. INSTRUIREA REŢELEI ASOCIATIVE BIDIRECŢIONALE 178
      9.2.1. Regula lui Webb 178
      9.2.2. Regula matricelor 179
      9.2.3. Instruire adaptivă 181
      9.2.4. Instruirea competitivă 181
9.3. DINAMICA UNEI REŢELE BAM 182
      9.3.1. Funcţionarea unei reţele BAM 182
      9.3.2. Regăsirea unei asociaţii memorate 184
      9.3.3. Funcţionarea MAB - exemple 185
9.4. ENERGIA UNEI REŢELE BAM 185
9.5. CAPACITATEA DE MEMORARE 189
9.6. CONCLUZII 189
BIBLIOGRAFIE 190

10. NEURONUL STATISTIC 192
10.1. NEURONUL STATISTIC 193
10.2. CONCLUZII 201

11. METODE STATISTICE DE INSTRUIRE 202
11.1. METODE DE INSTRUIRE 203
11.2. ALGORITMI DE CĂUTARE DESCENDENTĂ ALEATOARE 204
11.3. ANALOGII UTILE GĂSITE ÎN FIZICĂ 207
      11.3.1. Echilibru mecanic 207
      11.3.2. Călirea metalelor 208
11.4. ALGORITMI DE TIP “CĂL1RE SIMULATĂ” (SIMULATED ANNEAL1NG) 208
      11.4.1. Echilibru termic 209
      11.4.2. Algoritmul lui Metropolis 210
      11.4.3. Schema logică a unui algoritm Metropolis 21 ]
      11.4.4. Metode de generare a unor numere aleatoare 212
11.5. INSTRUIREA UNEI REŢELE UNIDIRECŢIONALE 213
      11.5.2. Observaţii privind implementarea 215
11.6. METODA CĂLDURII SPECIFICE ARTIFICIALE 215
11.7. METODE DE ÎMBUNĂTĂŢIRE A PERFORMANŢELOR INSTRUIRII 217
      11.7.1. Dezavantajele metodei Cauchy 217
      11.7.2. Metode combinate 217
      11.7.3. Evitarea paraliziei prin utilizarea metodelor hibride 218
11.8. CONCLUZII 219
BIBLIOGRAFIE 219

12. MAŞINA BOLTZMANN 220
12.1. ARHITECTURA UNEI REŢELE NEURONALE DE TIP BOLTZMANN 220
12.2. ENERGIA REŢELEI BOLTZMANN : 221
12.3. INSTRUIREA MAŞINII BOLTZMANN 222
      Calculul valorilor medii py pentru situaţia legată 225
      Calculul valorilor medii py pentru starea nelegată a reţelei 226
BIBLIOGRAFIE 227

BIBLIOGRAFIE GENERALĂ   228
ANEXA A 235
ANEXA B 236
FUNCŢII DE ACTIVARE 236
      Funcţii prag 236
      Funcţii de activare liniare 239
      Funcţii de activare derivabile 239
ANEXA C 241
ELEMENTE DE ALGEBRĂ LINIARĂ 241
      Calcul vectorial 241
ANEXA D 248
ELEMENTE DE CALCUL MATRICEAL 248
      Definiţii 248
      Operaţii cu matrici 249
ANEXA E 253
ELEMENTE DE LOGICĂ 253
ANEXA F 254
DEDUCEREA REGULII DE CALCUL A MODIFICĂRILOR PONDERILOR S1NAPT1CE ÎN ALGORITMUL DE RETROPROPAGARE A ERORII 254
ANEXA G 258
LANŢURI MARCOV 258
ANEXA H 260
LANŢURI MARCOV CARACTERIZAREA CELOR MAI IMPORTANTE TIPURI DE REŢELE NEURONALE ARTIFICIALE 260
ANEXAI 261
PROGRAME PENTRU REŢELE NEURONALE 261
      Programe libere sau Shareware disponibile pe internet  261
      Programe care pot fi cumparate 262

Niciun comentariu:

Trimiteți un comentariu