¿El concepto de retropropagación en las redes neuronales realmente ocurre en el cerebro?

Recomiendo los trabajos recientes de Yoshua Bengio. Por ejemplo: https://arxiv.org/abs/1502.04156 y sus diapositivas del taller Brains and Bits de NIPS 2016 .

Además, el trabajo de Timothy Lillicrap: http://www.nature.com/articles/ncomms13276

Esta sigue siendo una gran pregunta abierta. En resumen, nosotros (la comunidad de neurociencias) tenemos poca idea de cómo aprende el cerebro a nivel de circuitos/sistemas en general. Sabemos un par de cosas sobre cómo cambia la sinapsis individual bajo protocolos experimentales específicos, pero esos son modelos fenomenológicos (por ejemplo, STDP ; ha habido muchos modelos normativos de aprendizaje que concluyen que su regla de aprendizaje es similar a STDP). (Algunos sistemas, como el cerebelo, sabemos relativamente más, pero el aprendizaje parece ser más específico para la sincronización motora).

La técnica principal que usamos en el aprendizaje automático y la red neuronal artificial es principalmente el descenso de gradiente (o algún tipo de algoritmo de optimización estocástica), y la gente ha estado tratando de averiguar si la red neuronal biológica aprende de una manera similar. Hay varios problemas:

1. No hay gradiente de error que se propague de acuerdo con la regla de la cadena. La información se mezcla dentro de una neurona, por lo que no hay una forma plausible de rastrear exactamente el camino hacia adelante durante una propagación hacia atrás.

2. Hay muchas conexiones recurrentes pero no son simétricas.

3. Temporalmente, no es plausible que haya una señal de reloj para retropropagarse después de cada ruta de avance. La red neuronal no parece funcionar con relojes (algo que hay relojes precisos, pero creo que hay poca evidencia).

Esfuerzos recientes han hecho algunos progresos con retroproyección aleatoria, actualizaciones desacopladas usando gradientes sintéticos , utilería de destino, codificador automático, cuantificación de peso/señal, redes de creencias profundas, etc. con la arquitectura neuronal y el flujo de información. Incluso entonces, no hay garantía de que la neocorteza esté aprendiendo con un principio similar.

No en el mismo sentido que en las redes neuronales artificiales. Es importante destacar que no existe un mecanismo biológico para que los errores se propaguen hacia atrás más allá de una sola célula/sinapsis.

Puede observar la plasticidad dependiente del tiempo de pico que utiliza una señal de retropropagación dentro de una sola neurona, pero esto no es una retropropagación de un error, por lo que no logra lo mismo.

Encontré que esta respuesta en otro sitio también tenía algunas referencias útiles para leer más.

No sé mucho sobre la retropropagación, pero habría pensado que la única forma de saber si el "aprendizaje" en una ANN es análogo al aprendizaje en la corteza visual sería mediante comparaciones a largo plazo con una corteza neuronal en desarrollo. Posiblemente tener una matriz de microelectrodos en el VC de un sujeto de prueba durante todo el desarrollo (30 días impares para un ratón) y no estoy seguro de si han realizado este tipo de estudio a largo plazo. Parece que este documento podría ser interesante en términos de cambios en el VC después del aprendizaje de tareas motoras, pero no parece haber analizado la propagación hacia atrás.

Así que supongo que mi respuesta es que tal vez las ANN puedan aprender de manera análoga a las estructuras cerebrales, pero aún no sabemos lo suficiente sobre cómo aprende el cerebro para poder saber si el aprendizaje observado en una ANN es comparable a un cerebro.