A la fin du XIXème siècle, la question de la stabilité du système solaire sur un temps très long est d'actualité. En prouvant la divergence des séries de perturbations étudiées par les astronomes, Henri Poincaré a montré les limites des méthodes analytiques et ouvert la voie à une approche plus qualitative.

En 1898, Hadamard entreprend l'étude d'un modèle simplifié de la mécanique céleste : le mouvement d'un point matériel glissant par inertie le long d'une surface dans l'espace, sans force extérieure. Les trajectoires correspondent aux géodésiques de la surface.

D'après le principe d'Hamilton, une géodésique est le plus court chemin entre deux points suffisamment proches. Hadamard s'intéresse aux surfaces à courbure négative, c'est-à-dire dont les rayons de courbure principaux sont de signes opposés. Hadamard montre que dans ce cas, le principe d'Hamilton s'étend à des points arbitrairement éloignés. Ce résultat est le premier en date des théorèmes de passage du local au global, qui sont au coeur de la géométrie riemannienne.

Pour le modèle des surfaces à courbure négative, la question de la stabilité devient : étant donné une position et une vitesse initiale, la trajectoire correspondante reste-t-elle dans une partie bornée de la surface ? Hadamard prouve que par chaque position passent des trajectoires bornées. De plus, leurs vitesses initiales forment un ensemble d'intérieur vide, sans point isolé. En particulier, on peut modifier le comportement en temps grand d'une trajectoire par une variation arbitrairement petite de la direction initiale.

Voici comment Hadamard conclut cette étude.
"Un des problèmes fondamentaux de la Mécanique Céleste, celui de la stabilité du système solaire, rentre peut-être dans la catégorie des questions mal posées. Si, en effet, on substitue à la recherche de la stabilité du système solaire la question analogue relative aux géodésiques d'une surface à courbure négative, on voit que toute trajectoire stable peut être transformée, par un changement infiniment petit dans les données initiales, dans une trajectoire complètement instable se perdant à l'infini. Or, dans les problèmes astronomiques, les données initiales ne sont jamais connues qu'avec une certaine erreur. Si petite soit-elle, cette erreur pourrait amener une perturbation totale et absolue dans le résultat cherché."
 

Développements ultérieurs

En revanche, à partir de 1990, des expérimentations numériques tendent à confirmer le caractère chaotique de l'évolution du système solaire. D'ailleurs, on peut expliquer ce phénomène grâce à un autre résultat d'Hadamard en 1902, l'existence de variétés stables et instables pour un système dynamique en dimension 2 au voisinage d'un point fixe hyperbolique.

Un siècle après Hadamard, le flot géodésique en courbure négative reste le paradigme de la dynamique hyperbolique. Conformément à l'intuition d'Hadamard, l'hyperbolicité est présente en mécanique céleste et est probablement à l'origine du comportement chaotique du système solaire.
 
 
 

Illustrations :

2 gravures de l'article original d'Hadamard au J. Math. Pures et Appl. 4 (1898).
le flot géodésique et ses feuilletages stable et instable (schéma théorique) avec légende : à faire!
dynamique au voisinage d'un point fixe elliptique (schéma théorique) avec légende : à faire!
premier retour pour le système solaire réel, d'après J. Laskar, Celest. Mech. Dyn. Astron. 64, 115-162 (1996)