L'état d'avancement des sciences de la vie est-il dû peu ou prou aux mathématiques ? L'"ère génomique" que nous traversons est plus que jamais marquée par une pratique effrénée d'accumulation de faits et de déduction qualitative. Pourtant, le séquençage des biomolécules et la description des mécanismes régissant leurs interactions ne suffiront plus à résoudre le problème global de l'origine et du maintien de la biodiversité. Cette question fondamentale de la biologie contemporaine se pose à tous les niveaux d'organisation du vivant, du gène à l'écosystème, en mettant en jeu des populations en interaction : réplicateurs organiques en concurrence pour les ressources chimiques du milieu, particules virales et cellules immunes s'affrontant au sein d'organismes plus complexes ; groupes d'individus sociaux constamment mis au défi par l'attaque d'organismes parasites ; communautés autochtones secouées par l'introduction d'espèces invasives. Cette structure organismes-environnement qui constitue l'"objet écologique" se retrouve à tous les niveaux du vivant. Pour comprendre la dynamique d'un système de populations en interaction dans un environnement lui-même changeant, la description réductionniste et l'argumentation verbale ne suffisent plus. Un cadre théorique, mathématique, devient indispensable à l'interprétation des faits et à l'exploration de phénomènes écologiques sur des échelles de temps et d'espace d'accès expérimental difficile.

Coexister dans le temps et dans l'espace
  Les principes de l'assemblage des communautés d'espèces, soumis aux règles de la concurrence, de la prédation, du parasitisme et du mutualisme, sont aujourd'hui entièrement repensés. Les équations différentielles de Lotka et Volterra ne peuvent décrire l'interaction de populations qu'"en moyenne" sur l'espace occupé. Leur simplicité, certes séduisante, occulte les effets souvent considérables de la localisation géographique précise des individus et de leur mobilité. Fluctuations locales et corrélations spatiales ne sauraient plus être négligées pour énoncer les règles de la coexistence et de l'exclusion des populations naturelles. La description mathématique de populations en interaction s'élabore désormais à partir de principes démographiques de base, opérant à l'échelle individuelle et locale, pour parvenir à une description "macroscopique" dont les variables se définissent dans le temps et dans l'espace. Toute la difficulté mathématique tient à ce "changement d'échelle" dans la description du système. Si les modèles de la physique peuvent aider à l'abord du problème, les analogies se révèlent vite insuffisantes et le biologiste théoricien ne peut se dispenser de mettre au point les concepts et techniques mathématiques propres à son objet d'étude.

Figure 1 : simulation de la dynamique adaptative d'un trait morphologique quantitatif, par exemple la taille corporelle à l'âge adulte. Le temps est en abscisse, le trait en ordonnée. La couleur code la fréquence de la valeur du trait à chaque instant, du rouge (haute fréquence) au bleu (basse fréquence). Sous l'effet de pressions de sélection induites par l'écologie du système, la dynamique adaptative converge dans une première phase vers un point de ramification, à partir duquel deux espèces se différencient.

Des interactions écologiques à l'origine des espèces
  Au cours des dix dernières années, des travaux expérimentaux d'importance majeure ont fait tomber le mythe qui plaçait les processus de l'écologie et de l'évolution sur des échelles de temps quasi incommensurables. Qu'il s'agisse d'oiseaux, de poissons ou de lézards, quelques générations suffisent pour qu'une population réponde à la modification de son environnement par un changement "héritable", codé génétiquement, de la morphologie ou de la démographie des individus. C'est dans ce contexte empirique que la théorie des "dynamiques adaptatives" a vu le jour au début des années 1990. Le processus de l'évolution darwinienne y est décrit comme une marche aléatoire sur l'ensemble des phénotypes, dont chaque pas est gouverné par l'écologie du système. Cette approche se distingue de la génétique des populations classiques où la valeur sélective est une fonction donnée d'avance. Ici, la valeur sélective d'un phénotype mutant est déterminée par la capacité d'invasion de ce phénotype dans la population établie. Les pressions de sélection, d'origine écologique, se modifient donc à mesure que la population évolue. L'une des prédictions les plus spectaculaires de cette théorie concerne l'origine des espèces (figure 1) : l'interaction des processus écologiques et évolutifs peut conduire une population à se différencier en plusieurs espèces, sans l'intervention des facteurs extérieurs traditionnellement invoqués, comme l'isolement géographique de populations locales.

Vers de nouvelles mathématiques
  La théorie des dynamiques adaptatives s'inscrit dans la descendance directe des applications de la théorie des jeux à la biologie. Mais les notions de stabilité sont bien distinctes des concepts classiques et propres à la motivation biologique sous-jacente. Les modèles d'interactions spatialisées évoqués plus haut engendrent eux aussi de nouvelles classes d'équations aux dérivées partielles, simples dans leur formulation et riches dans leurs propriétés. Dans ce contexte spatial, la définition et la mesure de la valeur sélective d'un phénotype peut se ramener à l'étude de la dynamique de populations organisées en spirales complexes (figure 2). Ce ne sont là que quelques exemples récents qui suggèrent la grande fertilité de l'écologie en métaphores et problèmes mathématiques inédits.

Figure 2 : distribution spatiale en spirales de six espèces (une couleur par espèce) interagissant selon une chaîne mutualiste (l'espèce 1 aide l'espèce 2 qui aide l'espèce 3, etc.) et mises en présence d'une espèce parasite (qui exploite l'aide d'une espèce sans apporter d'aide en retour ; en noir). La résistance de la communauté des six espèces à l'invasion par le parasite dépend de la vitesse de rotation des spirales qui structurent la distribution de chaque espèce, et du lieu d'introduction du parasite. Chaque ligne montre trois images instantanées d'une même communauté : sur la première ligne, le parasite est éliminé ; sur la deuxième ligne, le parasite coexiste avec quatre espèces ; sur la dernière ligne, le parasite déstabilise l'ensemble de la communauté.