Non c'è provare. C'è fare... o non fare
Maestro Yoda
In questo lavoro mi propongo di analizzare il comportamento e le capacità di un modello di rete neurale - le cossiddette memorie associative o reti di Hopfield - nella memorizzazione di dati in formato binario.
Per rendere il lavoro di analisi più comprensibile ho scelto di utilizzare delle immagini in bianco e nero di piccole dimensioni.
Il cervello umano contiene in media 10^11 neurori ed ogniuno di essi si collega con un migliaio di suoi vicini. Questo significa che che in un volume di circa 20 cc sono presenti 10^14 connessioni.
È grazie a questo impressionante apparato che il nostro cervello riesce a gestire la complessità degli stimoli che ci giungono continuamente dal mondo esterno, così come le funzione vitale e quella particolarità degli organismi superiori – o forse solo dell'uomo – che chiamiamo autocoscenza.
Nel corso dell'ultimo secolo la scienza si è posta il problema di chiarire il funzionamento di questo formidabile prodotto dell'evoluzione; alcuni – biologi, neurologi... – hanno optato per un approccio diretto, studiando l'organo direttamente; altri – con un approccio che definirei caro alla fisica – hanno pensato che potesse essere illuminate una modellizzazione della nostra unità di calcolo fondamentale (il neurone) per simulare il comportamento del cervello per passi successivi in un ambiente controllato.
Lo scopo di questo lavoro non è inserirsi in questo filone di ricerca, di indubbio interesse pratico e antropologico, bensì seguire più da vicino alcuni dei dividendi di questo approccio simulativo. Infatti, ci si rese conto abbastanza presto che, a prescindere dal loro valore biologico, queste reti neurali simulate presentavano interessanti proprietà computazionali
La struttura altamente parallela del nostro cervello lo rende infatti superiore ad un elaboratore elettronico sotto molti punti di vista:
I nostri elaboratori più moderni sono ancora lontani da queste prestazioni ma hanno comunque un'importante vantaggio: il tempo tipico di un neurone è di 10^-3 secondi contro i 10^-6 di un microprocessore al silicio.
Nel 1943, McCulloch e Pitts pongono le basi delle reti neurali artificili con l'introduzione del loro modello di neurone:
Ecco le immagini che ho usato:
Queste immagini possono sembrare molto diverse ma in realtà non è così. Se le immaginiamo come dei vettori in uno spazio dalle dimensioni pari al numero dei pixel in cui ogni coordinata vale 1 se il punto è bianco e 0 se il punto è nero, ci possiamo rendere conto molto facilmente di come questi vettori siano concentrati in una zona piuttosto piccola; sarebbe molto più frequente un'immagine come questa

in cui la probabilità che un punto sia bianco o nero è 1/2.