"Vers un modèle cortical à deux échelles de temps pour l’apprentissage de régularités séquentielles"

Thomas CHARTIER, Equipe MEMOPSY, CRPN, Aix-Marseille Université & CNRS

English Version below

Quand: le 16 Nov 11h 

Où : Salle des Voûtes 

Lors de séquences de stimuli, quels mécanismes mentaux et neuronaux sont impliqués dans la détection de régularités basiques comme des paires et des triplets ? Quelles sont les représentations internes de ces régularités ? Je présenterai deux approches de ces questions : psychologie expérimentale comparative, modélisation computationnelle néo-hebbienne. Les paires perçues séquentiellement (A puis B) sont souvent considérées comme faisant l’objet de représentations mentales bidirectionnelles (A↔B) hors de portée des espèces non-humaines. Nos expériences suggèrent au contraire qu’une représentation combinant deux informations − ordre séquentiel et co-occurrence ­− semble plus probable et pourrait être partagée avec des primates comme les babouins de Guinée. Lorsque les paires séquentielles ne sont pas certaines mais probabilistes, leur apprentissage est généralement décrit à travers leurs Probabilités Transitionnelles seules. Avec un protocole d’apprentissage statistique, nous montrons cependant que la Fréquence des paires, c’est-à-dire le nombre de co-occurrences des deux items, joue aussi un rôle en début d’apprentissage.

Ces données fournissent un point d’entrée vers notre modèle cortical, qui combine deux échelles de temps de modélisation : celle, classique, de mise à jour des poids synaptiques (inter-essai), et celle, plus rapide, de dynamique des activités neuronales (intra-essai). Nous montrons qu’un tel réseau de neurones, à base de règles locales inspirées de Hebb, récapitule l’effet conjoint de Fréquence et de Probabilité Transitionnelle des paires, ainsi que des effets empiriques plus fins de dépendance de second-ordre sur des triplets, sur lesquels butent actuellement les modèles hebbiens d’apprentissage statistique. Ces travaux encouragent le développement d’une nouvelle classe de modèles bio-plausibles capables d’apprentissage non-supervisé.

                                                           -  -  -  -  

"Towards a two-timescale cortical model of sequential regularity learning"

Thomas CHARTIER, Equipe MEMOPSY, CRPN, Aix-Marseille Université & CNRS

When: November 16th

Where: Salle des Voûtes 

When stimuli are presented in sequence, which mental and neural mechanisms underlie the detection of basic regularities such as pairs and triplets? What are the internal representations of these regularities? I will present two approaches to these questions: comparative experimental psychology and neo-Hebbian computational modelling. Pairs perceived sequentially (A then B) are often assumed to be represented mentally in a bidirectional way (A↔B), which would be beyond the reach of non-human species. Our experiments suggest instead that a representation combining two kinds of information, sequential order and co-occurrence, is more likely, and could be shared with primates such as Guinea baboons. When sequential pairs are not certain but probabilistic, their learning is generally described through Transitional Probabilities alone. Using a statistical learning protocol, however, we show that the Frequency of pairs, that is, the number of co-occurrences of the two items, also plays a role early in learning. These data provide an entry point to our cortical model, which combines two modelling time scales: the classical one of synaptic weight updating (between trials) and a faster one, that of neural activity dynamics (within trials). We show that such a neural network, based on local Hebb-inspired rules, recapitulates the joint effect of pair Frequency and Transitional Probability, as well as finer empirical effects of second-order dependency on triplets, on which current Hebbian models of statistical learning stumble. This work encourages the development of a new class of bio-plausible models capable of unsupervised learning.