L'apprentissage d'un réseau de neurones réalisé sur un dispositif physique tout optique
Des chercheurs de l'Institut FEMTO-ST ont utilisé un dispositif de 900 nœuds photoniques pour mettre en œuvre le processus d'apprentissage d'un réseau de neurones. Une démonstration qui ouvre des perspectives à long terme sur de futurs calculateurs physiques bénéficiant des performances de l'optique et du parallélisme. Les résultats sont publiés dans la revue Optica, et ont été sélectionnés pour en faire la couverture.
Le développement des calculs à base de réseaux de neurones repose aujourd'hui sur des algorithmes que l'on fait tourner sur des processeurs numériques. Des chercheurs de l'Institut FEMTO-ST (Université de Franche-Comté/CNRS/École Nationale Supérieure de Mécanique et des Microtechniques/Université de Technologie Belfort-Montbéliard), proposent une approche complètement différente en créant un réseau de neurones physique à l'aide de composants optiques. Un réseau de neurones récurrent de 900 nœuds photoniques a ainsi été construit, avec lequel les chercheurs ont pu réaliser la phase d'apprentissage du réseau en bénéficiant des performances de l'optique et du parallélisme.
Ce dispositif tout-optique est constitué d'un ensemble de composants dédiés au traitement de l'information lumineuse spatiale : modulateur spatial de lumière, éléments diffractifs, matrice de micro-miroirs actionnés, caméra CCD. En plus de ce processeur à réseau de neurones optique à 900 nœuds, les chercheurs ont mis en œuvre expérimentalement la phase d’'apprentissage. Des simulations ont montré que le concept pourrait être facilement étendu à un réseau de 90 000 nœuds.
Le processus d'apprentissage utilisé est basé sur le concept de Reservoir computing1
, permettant de simplifier et d'accélérer cette phase qui peut s'avérer complexe dans les algorithmes numériques classiques. Les chercheurs ont montré l'efficacité de leur réseau de neurones tout-optique en entraînant le système à prédire des séries temporelles chaotiques (telles qu'on en rencontre dans la météo, par exemple) par une méthode qui s'inspire de l'apprentissage par renforcement, très utilisée dans des algorithmes d’apprentissage automatique. Le même principe pourrait ensuite s'appliquer à des tâches complexes de contrôle de systèmes (diagnostic et pronostic de piles à combustible) ou de procédés (conditions de focalisation avancée dans l’usinage laser femtoseconde). L'équipe de FEMTO-ST veut maintenant faire évoluer son dispositif en utilisant notamment une matrice de lasers pilotables individuellement, ce qui permettra de s'affranchir de certains composants (la caméra et le retour électronique de son signal vers le modulateur spatial de lumière) et d'accéder aux vitesses de traitement ultra-rapides autorisées par l'optique.
© Rémi Meyer FEMTO-ST
Matrice de micro-miroirs dédiée au processus d'apprentissage du réseau de neurones optique
Références :
Reinforcement learning in a large-scale photonic recurrent neural network,
J. Bueno, S. Maktoobi, L. Froehly, I. Fischer, M. Jacquot, L. Larger, and D. Brunner
Optica Vol. 5, Issue 6, pp. 756-760 (2018)
https://doi.org/10.1364/OPTICA.5.000756
- 1 Le Reservoir computing est un concept de réseau de neurones récurrent qui permet de réaliser de manière plus simple et plus rapide la phase d'apprentissage. Avec un réseau de neurones traditionnel, l'apprentissage passe par l'optimisation de tous les poids synaptiques (la force de l'interconnexion entre deux neurones) dans les différentes couches du réseau. Avec la technique du Reservoir computing, l'apprentissage ne concerne que la couche de sortie, les poids synaptiques de la couche d'entrée ainsi que ceux à l’intérieur du réseau étant tirés au hasard.