Cours dans le cadre du
Master Mathématiques Vision Apprentissage (MVA),
Master recherche spécialité "Mathématiques Appliquées",
Ecole Normale Supérieure de Cachan
Pour toute information sur le Master, voir le site du master MVA
(et en particulier l'emploi du temps du 2nd semestre du master, ici).
-----------------------------------------------------------------------------
Modélisation en neurosciences - et ailleurs
Jean-Pierre Nadal
Ce cours est une introduction à la modélisation des mécanismes d'apprentissage et d'adaptation dans les systèmes naturels (principalement)
et artificiels (accessoirement), avec les outils issus de la physique statistique, des statistiques (bayésiennes) et de la théorie de l'information.
L'essentiel du cours concerne la modélisation en neurosciences, mais avec aussi des ouvertures sur d'autres thèmes
- en particulier les systèmes complexes en sciences sociales.
Année universitaire 2011-2012
20h de cours + examen, à l'ENS de Cachan -
bâtiment Cournot, salle C103.
Premier cours le mardi 10 janvier, 10h-12h.
Ensuite les cours ont lieu des jeudis entre le 19 janvier et le 8 mars 2012,
de 14h à 17h20 (cours de 3h avec une pause de 20mn à mi-temps) :
jeudis 19 janvier, 9, 16 et 23 février, 1er et 8 mars.
Examen :
oral + rapport écrit (compte rendu critique d'article + micro-projet + questions sur le cours) ; date à préciser.
A titre indicatif,
suggestions d'articles pour la validation, année 2008-2009,voir ici,
et articles choisis pour la validation, printemps 2011, ici.
Quelques notes de cours, présentations (slides) et une biblio : voir ici - mise à jour le 9 février 2012
Mémoire à court terme
- "le nombre magique 7 plus ou moins 2" (formule du psychologue Miller, 1956).
Notre mémoire à court terme est juste assez bonne pour retenir momentanément un numéro de téléphone composé de 10 chiffres (ou de 5 paires de chiffre). Peut-on comprendre cette faible capacité de la mémoire à court-terme, et son universalité (capacité indépendante du type d'objets mémorisés (chiffres, lettres, mots,...)
- brisure d'ergodicité :
Comment comprendre que, bien que très bruitée, l'activité neuronale puisse rester assez longtemps spécifique d'un stimulus présenté brièvement ?
Outils et modèles : Physique Statistique / Champs de Markov Aléatoires (Random Markov Fields) ; "réseaux à attracteurs", limite des réseaux de très grande taille ; Hebb ; modèle de Hopfield.
Sujets connexes : physique statistique des systèmes désordonnés (tq. "verres de spins") ; optimisation combinatoire (tq. K-satisfiabilité) ; formation de coalitions (entre pays, entre entreprises), émergence de normes sociales.
Apprentissage
Dans le cervelet, impliqué dans l'apprentissage et le contrôle moteur, les "cellules de Purkinje" sont considérées comme jouant un rôle majeur dans l'apprentissage de séquences motrices. Celui-ci se traduit par des modifications des propriétés ("poids synaptiques") des synapses contrôlant le passage aux cellules de Purkinje des informations fournies par d'autres aires au cervelet. Des expériences indiquent qu'un nombre important - jusqu'à 80% ! - de ces synapses sont silencieuses, ne transmettant aucun signal. Nous verrons que cette observation se comprend si on suppose que, paradoxalement, l'apprentissage est optimisé.
Outils et modèles : apprentissage statistique, Perceptron.
Sujet connexe : Support Vector Machines (SVM).
Développement épigénétique et adaptation à l'environnement
Juste après la naissance, le système visuel est le siège d'importantes modifications dépendantes des stimuli visuels reçus. Quels principes gouvernent cette "auto-organisation" ? De manière générale, peut-on caractériser la nature de l'adaptation d'un système sensoriel à l'environnement ?
Outils et modèles : apprentissage Hebbien non supervisé ; théorie de l'information : information mutuelle (Shannon) ; "infomax" ; égalisation d'histogramme ; réduction de la redondance (Barlow) ; analyse en composantes principales (ACP), analyse en composantes indépendantes (ICA).
Sujet connexe : statistique des "images naturelles".
Codage par population
Dans les aires sensorielles, on observe souvent des représentations neuronales distribuées, dans lesquelles chaque neurone a une activité spécifique d'une certaine gamme de stimuli. On observe des représentations analogues dans les aires motrices. Chez le rat, par exemple, des cellules codent pour l'orientation de la tête, chacune ayant une réponse maximale pour une valeur particulière de l'orientation ("orientation préférée" de la cellule). En quoi ce type de codage est-il efficace ? Peut-on dire que chaque cellule "code pour son stimulus préféré" (par exemple, l'information sur l'orientation est-elle simplement donnée par l'activité des neurones dont le stimulus préféré est cette orientation) ?
Outils et modèles : théorie de l'information : information mutuelle (Shannon), théorie de l'estimation : information de Fisher ; processus de Poisson (comme modèle de neurone émettant des "spikes").
Sujet connexe : éthologie.
Le paon fait sa cour à la paonne en faisant la roue. Chez certaines espèces d'hirondelles, les mâles ont le plumage rouge au niveau de la gorge, et les femelles préfèrent les mâles ayant le plus beau rouge. Pourquoi ces comportements - et quel rapport avec ce cours ?