Les modèles neuraux se rapprochent des neurones réels

Chaque pensée, souvenir ou action commence par une décharge d'électricité dans le cerveau : les neurones envoient des signaux les uns aux autres. Les neuroscientifiques simplifient souvent cette activité complexe en modèles mathématiques pour étudier le fonctionnement du cerveau.

Le problème est que ces modèles sont beaucoup plus lisses que les signaux bruyants et imprévisibles des vrais neurones. Pendant des décennies, les neurosciences ont donc été confrontées à une question clé : Comment les réseaux biologiques, régis par des signaux bruyants et basés sur des pics, produisent-ils une dynamique robuste et cohérente ?

Malgré les idées reçues, le cerveau ne fonctionne pas comme un ordinateur. Au lieu de flux réguliers d'informations, il s'appuie sur des "pics", c'est-à-dire des brèves bouffées d'activité électrique. La modélisation de cette activité est un véritable défi, car elle semble aléatoire, bruyante et ne suit pas de schémas précis.

Pour faciliter les choses, les scientifiques se sont appuyés sur des modèles simplifiés appelés réseaux neuronaux récurrents (RNN). Ces modèles utilisent des signaux continus pour imiter la façon dont les neurones communiquent, et ils sont parfaits pour exécuter des simulations ou alimenter l'intelligence artificielle.

Mais il y a un hic : Les RNN ne ressemblent pas à de vrais neurones et ne se comportent pas de la même manière, ce qui les rend moins utiles pour comprendre le fonctionnement du cerveau. Les tentatives passées d'aligner les réseaux de neurones à pics (SNN), qui sont plus proches des vrais neurones, avec les RNN reposaient sur des raccourcis : Les scientifiques ont dû soit dupliquer les neurones pour éliminer le bruit, soit faire des hypothèses irréalistes, par exemple que les neurones émettent des signaux électriques sans interruption. Ces solutions de contournement ont donné des résultats utiles, mais elles n'étaient pas réalistes d'un point de vue biologique.

La biologie correspond à la théorie

Trois chercheurs de l'EPFL, Valentin Schmutz, Johanni Brea et Wulfram Gerstner, ont maintenant montré que de grandes populations de neurones à pics peuvent naturellement imiter le comportement régulier des RNN - et qu'ils n'ont pas besoin de doublons ou d'hypothèses irréalistes pour y parvenir.

Au contraire, leur étude montre qu'à mesure que les réseaux de neurones à pics s'agrandissent et se diversifient, leur activité se stabilise d'elle-même. Cela signifie que même si les neurones individuels sont bruyants et imprévisibles, leur activité combinée crée des schémas stables qui ressemblent à la dynamique régulière des RNN.

Les chercheurs ont commencé par construire un réseau de SNN avec des connexions aléatoires - aucun neurone ne reçoit exactement les mêmes entrées, une caractéristique appelée "duplicate-free" (sans doublon). À l'aide d'un mélange de preuves mathématiques et de simulations informatiques, ils ont montré comment le réseau se stabilise malgré ce caractère aléatoire et cette diversité.

Ils ont exploité un phénomène appelé "concentration de la mesure", qui explique comment, dans les grands systèmes, les éléments aléatoires peuvent s'équilibrer pour créer de l'ordre. Imaginez que vous jetiez une centaine de pièces de monnaie en l'air : chaque pièce est aléatoire, mais le résultat global sera proche d'une moitié de pile et d'une moitié de face. De même, dans ces grands réseaux[SV1][LM2] , le caractère aléatoire des neurones individuels s'équilibre pour créer une activité prévisible et régulière.

L'étude a révélé deux choses importantes. Premièrement, les grands réseaux de neurones à pics n'ont pas besoin de doublons ou de lissage artificiel pour se comporter comme des RNN. Leur dynamique naturelle suffit à créer des trajectoires stables, semblables à des intensités de décharge.

Deuxièmement, plus le réseau est grand, plus il se rapproche d'un RNN. Les chercheurs ont même calculé la vitesse à laquelle cette convergence se produit, en utilisant des modèles mathématiques qui correspondent à leurs simulations.

Cela signifie que les SNN, plus proches du fonctionnement réel du cerveau, peuvent égaler les performances des RNN, largement utilisés dans l'IA et les neurosciences computationnelles.

Cette découverte pourrait modifier notre conception des réseaux neuronaux, tant en biologie qu'en intelligence artificielle, en nous aidant à concevoir des systèmes plus économes en énergie qui fonctionnent comme le cerveau, en utilisant des pics au lieu de signaux continus.

Elle offre également aux neuroscientifiques un meilleur moyen de modéliser l'activité cérébrale réelle sans s'appuyer sur des hypothèses artificielles, et éclaire l'un des grands débats dans ce domaine : les cerveaux calculent-ils à l'aide de pics, d'intensités de décharge, ou des deux à la fois ? L'étude suggère que les pics pourraient suffire à produire la dynamique régulière que nous observons dans l'activité cérébrale.

Autres contributeurs

University College London