Modèles multiples et apprentissage de représentations
June 11th, 2009 by Francois Rivest
Doya (Doya, 1999; Doya, 2000) a développé une théorie générale sur l’apprentissage dans le cerveau dont le présent ouvrage est grandement inspiré. Dans cette théorie, les régions anatomiques importantes sont considérées comme effectuant différents types d’apprentissage. Par exemple, le cortex pourrait faire de l’apprentissage non supervisé, les ganglions de la base de l’apprentissage par renforcement et le cervelet de l’apprentissage supervisé (revoir chapitre 2). Quelques modèles ont regardé l’interaction de ses composantes, mais relativement peu a été fait sur le développement de représentations.
O’Reilly (O’Reilly, 1998; O’Reilly & Munakata, 2000) a développé une théorie générale basée sur six principes de base : le réalisme biologique, la représentation distribuée, la compétition inhibitrice (softmax), la récurrence, l’apprentissage par erreur et l’apprentissage Hebbian. En utilisant des paramètres différents pour les ganglions de la base, le cortex et l’hippocampe, il a modélisé l’apprentissage simultané de plusieurs composantes du cerveau et a réussi à reproduire plusieurs résultats dans un seul et même modèle. Ces simulations suivent une ligne d’idée similaire à cette thèse. Cependant, la réelle capacité de ses algorithmes à créer de nouvelles représentations reste à démontrer. Par exemple, il discrétise toujours le temps selon l’arrivée des évènements dans les simulations, il ne s’occupe pas du passage du temps (4.4.3).
Bibliographie
Doya, K. (1999). What are the computations of the cerebellum, the basal ganglia and the cerebral cortex? Neural Netw., 12, 961-974.
Doya, K. (2000). Complementary roles of basal ganglia and cerebellum in learning and motor control. Curr.Opin.Neurobiol., 10, 732-739.
O’Reilly, R. C. (1998). Six Principles for Biologically Based Computational Models of Cortical Cognition. Trends in Cognitive Sciences, 2, 455-462.
O’Reilly, R. C. & Munakata, Y. (2000). Computational Explorations in Cognitive Neuroscience: Understanding the Mind by Simulating the Brain. Cambridge, MA: MIT Press.
Computational Neuroscience (and Programming) Blog