Neuron Burst può imitare una famosa strategia di apprendimento dell’IA

Ma affinché questo segnale didattico risolvesse il problema dell’assegnazione dei crediti senza mettere in “pausa” l’elaborazione sensoriale, il loro modello richiedeva un altro tassello chiave. Il team di Naud e Richards ha proposto che i neuroni abbiano compartimenti separati nella parte superiore e inferiore che elaborano il codice neurale in modi completamente diversi.

“[Our model] mostra che puoi davvero avere due segnali, uno che sale e uno che scende, e possono passarsi l’un l’altro”, ha detto Naud.

Per renderlo possibile, il loro modello postula che i rami ad albero che ricevono input sulla sommità dei neuroni ascoltino solo i burst, il segnale di insegnamento interno, al fine di sintonizzare le loro connessioni e ridurre l’errore. La sintonizzazione avviene dall’alto verso il basso, proprio come nella retropropagazione, perché nel loro modello, i neuroni in alto regolano la probabilità che i neuroni sotto di loro inviino un burst. I ricercatori hanno dimostrato che quando una rete ha più burst, i neuroni tendono ad aumentare la forza delle loro connessioni, mentre la forza delle connessioni tende a diminuire quando i segnali burst sono meno frequenti. L’idea è che il segnale burst dica ai neuroni che dovrebbero essere attivi durante l’attività, rafforzando le loro connessioni, se così facendo si riduce l’errore. L’assenza di esplosioni dice ai neuroni che dovrebbero essere inattivi e potrebbero dover indebolire le loro connessioni.

Allo stesso tempo, i rami sul fondo del neurone trattano le esplosioni come se fossero singoli picchi, il normale segnale del mondo esterno, che consente loro di continuare a inviare informazioni sensoriali verso l’alto nel circuito senza interruzioni.

“In retrospettiva, l’idea presentata sembra logica e penso che questo parli per la sua bellezza”, ha detto San Giovanni Sacramento, neuroscienziato computazionale presso l’Università di Zurigo e l’ETH di Zurigo. “Penso che sia geniale.”

Altri avevano cercato di seguire una logica simile in passato. Venti anni fa, Konrad Kording dell’Università della Pennsylvania e Pietro Re dell’Università di Osnabrück in Germania proposto un quadro di apprendimento con neuroni a due compartimenti. Ma la loro proposta mancava di molti dei dettagli specifici nel modello più recente che sono biologicamente rilevanti, ed era solo una proposta: non potevano dimostrare che potesse effettivamente risolvere il problema della cessione del credito.

“Allora, semplicemente ci mancava la capacità di testare queste idee”, ha detto Kording. Considera il nuovo documento un “lavoro eccezionale” e lo seguirà nel suo laboratorio.

Con la potenza computazionale di oggi, Naud, Richards e i loro collaboratori hanno simulato con successo il loro modello, con l’esplosione di neuroni che svolgono il ruolo della regola di apprendimento. Hanno dimostrato che risolve il problema dell’assegnazione del credito in un compito classico noto come XOR, che richiede di imparare a rispondere quando uno dei due input (ma non entrambi) è 1. Hanno anche mostrato che una rete neurale profonda costruita con la loro regola di burst potrebbe approssimarsi le prestazioni dell’algoritmo di backpropagation su compiti di classificazione delle immagini impegnativi. Ma c’è ancora spazio per miglioramenti, poiché l’algoritmo di backpropagation era ancora più accurato e nessuno dei due corrisponde pienamente alle capacità umane.

“Ci devono essere dettagli che non abbiamo e dobbiamo migliorare il modello”, ha detto Naud. “L’obiettivo principale del documento è dire che il tipo di apprendimento che le macchine stanno facendo può essere approssimato da processi fisiologici”.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *