Ce mémoire a pour objectif d'étudier la stabilité de systèmes dynamiques chaotiques à partir de la structure géométrique de leurs attracteurs dont une partie s'appuie sur une variété appelée variété lente. Dans ce but, une nouvelle approche basée sur certains aspects du formalisme de la Mécanique du Point et de la Géométrie Différentielle a été développée et a conduit à une interprétation géométrique et cinématique de l'évolution des courbes trajectoires, intégrales de ces systèmes dynamiques au voisinage de la variété lente. L'utilisation du formalisme de la Mécanique du Point a permis, grâce à l'emploi des vecteurs, vitesse et accélération instantanées attachées à un point courant de la courbe trajectoire, de discriminer le domaine lent du domaine rapide et de situer la position de la variété lente à l'intérieur de l'espace des phases. Certaines notions de Géométrie Différentielle, comme la courbure, la torsion et le plan osculateur, ont fourni une équation analytique de la variété lente indépendante des vecteurs propres lents du système linéaire tangent, donc définie sur un plus grand domaine de l'espace des phases. La variété lente a alors été envisagée comme le lieu des points où la courbure des courbes trajectoires, intégrales de ces systèmes dynamiques, est minimum (en dimension deux ce minimum devient égal à zéro). Le signe de la torsion a permis, de caractériser son attractivité et, de discriminer la partie attractive de la partie répulsive de la variété lente et de statuer sur la stabilité de ces courbes trajectoires. Ainsi, la présence dans l'espace des phases d'une variété lente attractive qui contraint les courbes trajectoires, intégrales du système dynamique à visiter son voisinage permet d'étudier la structure de l'attracteur. Cette approche basée sur certains aspects du formalisme de la Mécanique du Point et de la Géométrie Différentielle et qui s'est accompagnée de l'élaboration de programmes numériques a permis de constituer un nouvel outil d'investigation des systèmes dynamiques chaotiques. Son application à des modèles de référence comme celui de B. Van der Pol, de L.O. Chua ou d'E.N. Lorenz a permis d'obtenir plus directement et avec précision l'équation analytique de leur variété lente. De plus, une étude détaillée des modèles de type prédateur-proie comme celui de Rosenzweig-MacArthur ou d'Hastings-Powell, a conduit d'une part à la détermination de leur variété lente et d'autre part à la conception d'un nouveau modèle de type prédateur-proie à trois espèces appelé Volterra-Gause dont l'attracteur chaotique a la forme d'un escargot (chaotic snail shell).

Cet ouvrage s'adresse aux étudiants d'un master de mathématiques ou de physique théorique, mais il peut aussi être employé avec profit par toute personne cherchant des informations sur les aspects topologiques de la théorie des systèmes dynamiques. Il est une introduction à certains aspects de la théorie des systèmes dynamiques s'appuyant sur la théorie développée dans le tome I, publié dans la même collection (Théorie élémentaire des équations différentielles avec éléments de topologie différentielle). On ne propose pas un exposé systématique du sujet. Les auteurs ont voulu, au contraire, se concentrer sur quelques thèmes de nature assez topologique et les développer avec détails, comme par exemple les idées de René Thom sur généricité et transversalité, l'étude locale au voisinage des singularités hyperboliques, la stabilité structurelle... La théorie des bifurcations est largement présentée, ainsi que les résultats et méthodes de cette théorie pour les champs de vecteurs de dimension 2. Chaque chapitre est illustré par de nombreux exemples.