neurone formel

Un réseau de neurones formels est un dispositif constitué d'un grand nombre de processeurs simples, fonctionnant en parallèle selon des architectures diverses et fortement interconnectés, à l'instar des neurones du cerveau.

Du système nerveux humain aux réseaux de neurones artificiels

Comment concevoir qu'un être vivant soit capable de lire ? Calcule-t-il plus vite qu'un ordinateur ? A-t-il une plus grande mémoire ? Est-il mieux « programmé » ? Et, finalement, est-il comparable à une machine ? Ces questions sont au cœur d'une nouvelle technique du traitement de l'information dénommée « réseaux de neurones artificiels », ou « réseaux neuronaux ». Elle cherche à comprendre le fonctionnement intime du système clé des êtres vivants : le système nerveux.

Les mots que vous lisez s'adressent à un être vivant, fruit de plusieurs millions d'années d'évolution, et capable de les comprendre. Il est doté de la vision et peut ainsi recevoir l'image des mots. Dans le noir, malgré toute son intelligence, il ne recevrait pas ce message. De cette image projetée sur sa rétine, il conçoit un sens : quelqu'un s'adresse à lui. Le texte que moi, l'auteur, j'ai écrit s'adresse à vous, le lecteur.

Tout cela n'a pris que quelques secondes. Quelques secondes pour voir, pour analyser, pour prendre conscience de l'existence de deux personnes qui ne se connaissent pas mais qui, sans doute possible, existent ou ont existé. Quelques secondes durant lesquelles, dans votre cerveau, des milliards de cellules nerveuses ont émis des signaux en cadence.

Ce petit événement, si banal pour un être vivant, est parfaitement inaccessible au plus performant des instruments contemporains de traitement de l'information : l'ordinateur. Cet objet, pourtant capable d'assurer des millions de réservations d'avion, de contrôler la trajectoire d'une navette spatiale ou de construire des mondes virtuels, reste muet devant ce simple exercice de lecture. Il est incapable de dégager un sens de ce qui est écrit ; il n'a pas conscience de lui-même, pas d'identité, pas de connaissance d'autrui. En somme, c'est un assemblage inerte très compliqué, qui est et qui reste une machine.

Les fonctions du système nerveux

Le traitement de l'information

En général, un être vivant traite des informations de nature variable. Un virus, par exemple, lorsqu'il attaque un organisme, déclenche la réponse du système immunitaire. La chasse au virus qui s'engage alors fait appel à la mémoire du système immunitaire pour produire les anticorps les plus adaptés à la destruction du virus : c'est un traitement d'informations. Le cerveau n'a pas grand-chose à faire dans cette lutte vitale, en tout état de cause rien qui fasse intervenir la volonté. En revanche, pour voir un fruit dans un arbre, pour entendre le bruit d'un moteur de voiture ou ressentir la douceur de la soie, il faut à la fois des organes sensoriels qui captent les signaux émis par les objets et un dispositif capable de les interpréter. C'est le rôle du cerveau et du système nerveux.

Deux axes de recherche : observation ou reproduction

Le cerveau reçoit en permanence, par le biais des cinq sens, une prodigieuse quantité d'informations. La difficulté est de parvenir à comprendre comment il extrait de cette masse d'informations celles qui vont lui sembler pertinentes. Deux points de vue de spécialistes s'affrontent : certains estiment qu'il faut observer longtemps les réactions du cerveau dans des situations variables, et s'appuient sur des groupes de règles et sur une logique pour les combiner, afin de reproduire les comportements observés. Par exemple, une mouche qui veut se poser tend ses pattes lorsqu'elle arrive près du sol afin que le choc soit absorbé. On peut donc établir des règles logiques qui régissent le comportement de la mouche dans cette situation : si elle voit le sol qui se rapproche vite, alors elle envoie aux muscles les informations nécessaires pour qu'ils se mettent en extension. D'autres spécialistes pensent que c'est en comprenant la structure du système nerveux que l'on comprendra son fonctionnement. En reprenant l'exemple précédent, il s'agit de savoir comment la vitesse et le rapprochement apparent du sol sont perçus par le système visuel de la mouche et quelles sont les structures du système nerveux qui analysent ces informations et qui élaborent l'ordre donné aux muscles des pattes.

La seconde approche est ici préférée : en imitant des parties du système nerveux et en analysant leur fonctionnement, on devrait comprendre comment notre propre image du monde s'élabore à partir des signaux reçus par les yeux, par les oreilles ou par tout autre organe sensoriel.

L'idée de base consiste d'abord à reproduire la forme du système nerveux. On dit alors qu'on procède par mimétisme de la structure. Et c'est à l'échelle de la cellule nerveuse, ou neurone, que les chercheurs en neuro-mimétisme ont décidé de se placer pour réaliser la copie. Ils auraient tout aussi bien pu choisir l'échelle moléculaire ou l'échelle du cerveau tout entier, chaque échelle ayant un intérêt : elles donnent un accès différent à une même question et permettent d'y répondre de manière différente.

L'ordinateur, outil de modélisation

Imiter le système nerveux n'est pas une idée nouvelle, mais ce projet connaît aujourd'hui un fort développement grâce à l'ordinateur lui-même qui permet de tester, de simuler les hypothèses émises par les chercheurs. En particulier, l'ordinateur sert à faire fonctionner les modèles construits par les mathématiciens à partir des observations et des réflexions fournies par les physiologistes. Par exemple, une cellule nerveuse est analysée en détail, et son fonctionnement est transcrit en équations. Celles-ci rendent compte de la forme de la cellule, de la circulation des signaux électriques, de l'échange des signaux avec d'autres cellules nerveuses. Ces dizaines d'équations sont simulées par un ordinateur. Ce modèle mathématique du neurone, que l'on appelle le « neurone formel », est dupliqué pour constituer un réseau. À cet effet, les multiples neurones formels ainsi créés sont reliés entre eux selon un schéma choisi, qui pourrait ressembler à un réseau téléphonique. C'est ce que l'on appelle un « réseau de neurones formels », ou un « réseau neuronal ». Le réseau dans son ensemble est simulé, encore grâce à la puissance de l'ordinateur. Son comportement global est analysé afin d'en étudier les propriétés. À cette étape de la recherche, des milliers d'équations et des centaines de milliers d'opérations ont été prises en compte pour simuler un réseau de quelques dizaines de neurones formels.

Un paramètre fondamental : la faculté d'apprentissage

Mais mimer uniquement la structure et le comportement de la cellule nerveuse restreint considérablement l'intérêt de ces recherches. Si l'on s'en tient là, ce n'est qu'un simple modèle du système nerveux qui a été ajouté au catalogue des connaissances scientifiques. Tout au plus aurons-nous un dispositif qui ne remplit qu'une tâche répétitive, qui ne se modifie jamais et qui ne manifeste donc aucune capacité d'adaptation au changement. Il lui manque l'essentiel : la possibilité d'apprendre, c'est-à-dire de produire un comportement qui réponde aux situations rencontrées.

La dernière étape de la recherche consistera à doter le réseau neuronal de cette capacité d'apprentissage. Cette fonction sera effectuée à partir d'une règle d'apprentissage qui pourra agir sur les différentes parties du neurone formel et du réseau. Avant d'en arriver là, il faut tout d'abord présenter les phases de construction d'un modèle de neurone formel, et de sa mise en réseau ; ensuite, il s'agira de rentrer dans le détail de la constitution d'une règle d'apprentissage afin de voir comment celle-ci agit sur le réseau ; enfin, nous illustrerons le fonctionnement de tels réseaux à travers deux exemples concrets tirés du domaine médical et du traitement du son.

Le modèle du neurone

Description du neurone

Le neurone biologique est une cellule nerveuse. On ne connaît pas tous les détails de son fonctionnement. Comme l'indique très clairement J. M. Robert : « le neurone est une cellule […], un ensemble de molécules […], qui vit, meurt dans un environnement […]. Il est, de ce fait, indissociable du monde qui l'entoure ». Étudier sa nature et son fonctionnement est l'affaire des biologistes, des neuropharmacologistes et des neurochimistes. L'étudier dans son contexte requiert des outils de traitement de l'information, car le neurone reçoit et émet des signaux, et prend des décisions : c'est sa fonction principale.

Schématiquement, un neurone est une entité composée d'un corps cellulaire, d'un axone et d'une arborisation dendritique qui peut entrer en contact avec des milliers d'autres neurones. Le neurone peut émettre un influx nerveux, un signal électrique qui parcourt l'axone et qui se diffuse par le canal d'un réseau dont la forme rappelle les ramures d'un arbre. C'est ce qu'on appelle l'« arbre dendritique ».

Fonctionnement du neurone

Lorsque le signal atteint l'extrémité d'un neurone, les synapses qui assurent le contact entre les neurones diffusent une substance chimique, le neuromédiateur, qui est captée par les neurones proches. Un simple signal nerveux peut donc être transmis par ce mécanisme à un grand ensemble de neurones, mais cette transmission dépendra de la quantité de neuromédiateur déversée par les synapses. La nature nous pose là une première question : il serait si simple de connecter les neurones directement, comme on branche une prise téléphonique pour être relié au central. Mais pour un neurone biologique, ce n'est pas le cas : c'est comme si le signal téléphonique pouvait ouvrir un robinet d'eau, que l'eau s'écoulait dans un récipient et que la transmission du signal téléphonique reprenait en fonction de la quantité d'eau recueillie.

Malgré son apparente bizarrerie, ce mécanisme est très astucieux : il permet de garder des traces de ce que le système nerveux a vécu. En un mot, c'est probablement dans ce mécanisme de transmission de l'information que réside le secret de l'apprentissage. C'est ce qu'ont compris des spécialistes en neurophysiologie depuis cinquante ans, et en particulier Donald Hebb qui, le premier, a fourni une explication de l'intérêt de cette transmission.

Sans entrer dans les détails de la chimie ou de la structure du neurone, il est toutefois possible de se pencher sur sa fonction, telle qu'elle est comprise par les physiologistes et par les mathématiciens. Le concept de « neurone formel » encore utilisé date de 1943. Il a été proposé par deux chercheurs américains, Warren McCulloch et Walter Pitts. Le neurone reçoit des entrées, en provenance du monde extérieur, ou en provenance d'autres neurones, il les additionne, et prend une décision. Comme les liaisons ne sont pas directes, on dit que la transmission est modulée, ou « pondérée », par les liaisons. Plus précisément, si le signal transmis d'un neurone à un autre est renforcé, gonflé par la liaison synaptique, on dira que la synapse est excitatrice. À l'opposé, si le signal est affaibli, on parlera de synapse inhibitrice. C'est d'ailleurs ce type de synapse que l'on rencontre en plus grand nombre dans le système nerveux. Un neurone formel reçoit donc des entrées qui sont pondérées par des liaisons synaptiques, et la valeur de ces pondérations dépend de ce que le réseau a vécu. En résumé, un réseau neuronal est un assemblage de multiples neurones qui essaye de garder une trace de ses états successifs, en transformant les liaisons entre ses éléments.

C'est un processus assez naturel, si on se rappelle qu'un système vivant passe son temps à établir des relations : si un parfum me rappelle de doux souvenirs, c'est que j'ai établi une relation entre le parfum qui flottait dans l'air et l'état de bien-être dans lequel je me trouvais à cet instant. Cette situation a changé des liaisons entre mes neurones, qui ont gravé cette relation dans mon système nerveux.

Apprendre, ou comment modifier son réseau

Imaginons un sculpteur qui, éclat par éclat, fait émerger du marbre une forme. Si celle-ci nous émeut, c'est que l'expression de cette forme nous « parle », qu'elle nous plaît, qu'elle suscite en nous une émotion. C'est ce que produit en nous notre propre système nerveux. Il se forme au gré de nos expériences. Chaque perception est un éclat, mais chaque éclat transforme notre perception. Il n'existe pas de spectateur de notre « sculpture » cérébrale. Nous sommes simultanément la sculpture et le spectateur, mais c'est notre propre sensation du monde que nous sculptons. Il est assez difficile d'imaginer comment cela se passe, mais nous disposons de quelques hypothèses, dont une a été formulée par Hebb en 1942. Ce chercheur s'est intéressé à l'apprentissage sous l'angle de la modification des connexions synaptiques. Il existe bien évidemment de multiples façons de voir l'apprentissage, mais, à l'échelle du neurone, c'est la manière dont cette modification s'opère qui importe. Hebb considère deux neurones seulement, reliés par une seule liaison.

La modification de la liaison entre neurones en fonction de leur état

Lorsqu'il reçoit des signaux en provenance de l'extérieur, le réseau de deux neurones artificiels peut se trouver dans quatre états différents. Le premier neurone (neurone 1) peut être actif, et le second neurone (neurone 2) également. Il se peut aussi que le neurone 1 soit actif, et le neurone 2 inactif. Réciproquement, le neurone 1 peut être inactif, et le neurone 2 actif. Enfin, les deux neurones peuvent être simultanément inactifs. Si l'on ne considère pas d'autre état pour ces neurones, nous avons passé en revue l'ensemble des états possibles pour le réseau. Pour chacun de ces quatre états, Hebb a imaginé comment la liaison entre les deux neurones pouvait être modifiée. Il a considéré que celle-ci était en relation avec l'activité conjointe des deux neurones. On dit aussi que la liaison évolue en fonction de la corrélation observée des activités des neurones. En d'autres termes, la liaison augmentera si les deux neurones sont actifs ou inactifs simultanément, et elle diminuera dans les autres cas.

Le réseau de Hérault-Jutten : la parole est aux indépendants

Comme il est agréable d'écouter de la musique pendant que l'on « refait le monde » avec ses amis. Mais quel exercice pour le cerveau! À tout moment, les oreilles reçoivent les sons de la pièce bruyante, et le cerveau doit faire le tri. Il ne nous est d'ailleurs pas difficile de fixer notre attention sur la musique, ou sur le discours de notre voisin de table. Pourtant, les sons sont mélangés, se répercutent sur les murs, sont absorbés par le tapis, et c'est une abominable mixture de fréquences qui parvient à nos oreilles. Comment imaginer que le cerveau puisse distinguer, faire la différence, entre tous ces signaux?

Des recherches récentes apportent une ébauche de réponse à cette question. D'abord, comme pour la vision, le cerveau reçoit de chaque oreille des images sonores différentes d'un même environnement. Il possède donc un moyen de comparer et de mettre en relief ce qu'il reçoit. Mais ce n'est pas tout. Les fibres nerveuses véhiculent un mélange de signaux, et de petites structures neuronales semblent capables de faire la différence. Elles peuvent, sous certaines conditions, séparer les sons sans les connaître.

Revenons à notre réunion amicale. Le cerveau reçoit deux images sonores de cette cacophonie : le signal capté par l'oreille gauche et celui capté par l'oreille droite. Dans ces conditions, un petit réseau de deux neurones artificiels pourrait séparer cet affreux mélange, permettant de discerner les propos et la musique de fond.

Un modèle de séparation des signaux a été proposé par deux chercheurs français, Christian Jutten et Jeanny Hérault. Pour que ce réseau fonctionne, il faut néanmoins satisfaire à une contrainte : que les signaux d'origine soient indépendants, c'est-à-dire que la valeur d'un signal ne dépende en aucune façon de la valeur de l'autre signal. Cela est certainement vrai dans le cas de notre ami et de la musique d'ambiance, mais dans la nature l'indépendance n'est parfois qu'apparente. Observons, par exemple, un pont qui enjambe une rivière : avec un peu d'attention, on peut voir qu'il présente des ruptures destinées à lui permettre de « bouger », de se dilater ou de se contracter. Cela vient de ce que la longueur du pont dépend de la température : en hiver le pont sera plus court, et en été, il sera plus long!

Le modèle de réseau neuronal proposé ici sert, en général, à tester cette indépendance, et il peut ainsi s'appliquer à de nombreux domaines : le traitement d'images, l'analyse de signaux radars ou subaquatiques. En s'inspirant d'un mécanisme biologique, ces chercheurs ont ainsi imaginé un système utile dans le domaine technique.

Apprendre à voir : les bases de l'auto-organisation

Les images tridimensionnelles fleurissent au détour de tous les magazines : dragons effrayants, tour Eiffel ou voitures de rêve. Toutes donnent une illusion saisissante de profondeur. Elles semblent vraiment sortir de la feuille. Mais, pour accéder à cette vision, il faut un petit temps d'apprentissage, tout juste guidé par quelques explications bien souvent imprécises. Apprendre à voir ? Cela semble bien curieux. Mais c'est pourtant ce qui se déroule dans le cerveau. Depuis la naissance, le système visuel s'affine en permanence. Chaque sensation visuelle venant donner forme à la perception. En un mot, le système visuel s'organise par lui-même à partir des informations qu'il reçoit.

Un tel principe ne pouvait pas laisser les scientifiques indifférents. C'est pourquoi un Finlandais, Teuvo Kohonen, inspiré par les travaux de physiologistes, en particulier les prix Nobel de physiologie David Hubel, Torsten Wiesel et Roger Sperry, propose en 1982 un modèle dit d'auto-organisation. Dans ce modèle, des centaines de neurones formels adaptent leurs connexions en vue de faire apparaître des caractéristiques contenues dans les signaux perçus. Ils détectent des régularités, ils regroupent les signaux similaires. En termes plus techniques, ils font une analyse des données locales, mais dans un sens global. Comme un peintre, par petites touches, ils font apparaître une image globale qui a un sens pour celui qui l'observe.

Cette propriété est également très riche, et peut être appliquée à de nombreux problèmes pour lesquels les relations entre les parties révèlent une forme cachée. Par exemple, analyser l'état d'un moteur, étudier le comportement d'un réseau de distribution électrique ou encore révéler des similarités économiques entre pays sont des tâches qui relèvent de ce moyen d'analyse.

Perspectives

Cet immense champ d'investigation est encore à explorer. Il est excessivement difficile d'avancer, car la connaissance physiologique du système nerveux, qui progresse pourtant à pas de géant, est encore balbutiante. D'autre part, les outils mathématiques utilisés pour analyser les modèles formels sont également complexes. Enfin, les ordinateurs actuels, malgré leur puissance de calcul colossale, sont très loin d'être assez puissants pour simuler des réseaux de neurones de grandeur respectable. N'oublions pas cependant que le but de ces recherches n'est pas de refaire un cerveau. Il y a des moyens bien « naturels » pour cela, et qui ne requièrent pas des dizaines d'années de recherche… Comme nous l'avons vu en préambule, c'est un accès à un savoir nouveau, qui passe par une observation particulière de la nature, qui intéresse les chercheurs. C'est également une des plus extraordinaires aventures de la science : les étoiles pour ceux qui lèvent les yeux, la matière pour ceux qui regardent la terre et les mécanismes de la conscience pour ceux qui veulent ouvrir « l'œil du dedans ».