Les systèmes dynamiques non-linéaires, ces systèmes dynamiques modélisés par des équations différentielles non-linéaires, sont un sous-ensemble des systèmes complexes. Certaines équations différentielles non-linéaires ont fait l'objet d'études mathématiques pour découvrir leurs propriétés notamment dans le cas du chaos déterministe. Otto Rössler a recherché par exemple le système d'équations différentielles le plus simple capable de générer du chaos déterministe (1). Mais beaucoup de ces équations ont été établies pour modéliser des systèmes dynamiques réels, physiques (les tourbillons, le climat, les structures dissipatives, les transitions de phase), chimiques (la réaction de Belouzof-Zabotinsly), écologiques (l'équation logistique de la réaction proie/prédateur, la transmission des épidémies), biologiques (les équations des rythmes circadiens, des réactions épigénétiques), économiques (les cours de la bourse), sociétaux (les embouteillages, les cohues, la rumeur). Les propriétés de ces systèmes réels ont donc été mises en évidence et comprises par des méthodes mathématiques, où les ordinateurs ont servi à trouver les solutions.
Partant de ces études, que peut on en dire ? Il s'agit de systèmes dynamiques, qui peuvent être très simples (trois, voire deux variables), présentant 3 types de solutions (de comportements à long terme) : stationnaire avec un ou plusieurs attracteurs, oscillant ou chaotique. Ils sont souvent, mais pas toujours, sensibles aux conditions initiales, ce qui les rend déterministes mais non prédictibles. Le même système, en fonction des variations des conditions de son environnement (paramètres) peut présenter des bifurcations caractérisées par le fait qu'une tout petite variation d'un paramètre au niveau d'un seuil dit critique peut faire changer totalement le comportement du système (2), le faire bifurquer d'un type de solution à un autre, ce qui entraîne une historicité du système. Des boucles de rétroaction, donc la causalité circulaire (surtout les boucles de rétroaction positive), sont nécessaires à l'apparition des comportements non triviaux. Enfin, lorsque le système dynamique se déploie dans l'espace, des bifurcations peuvent donner lieu à de l'auto-organisation qui peut émerger à un niveau global sous forme de structures spatio-temporelles qui dépendent des conditions et de la nature de l'environnent. Les bifurcations correspondent à l'apparition de modifications globales du comportement des systèmes sans que la nature des objets ou de leurs interactions n'ait changé localement (émergence).
Toutes ces propriétés caractérisent donc ces comportements nouveaux, non-triviaux différents de ceux des systèmes linéaires auxquels nous ont habitués pourrait-on dire, les capacités mathématiques en l'absence d'ordinateurs. Elles caractérisent la complexité des systèmes dynamiques non-linéaires. Toutefois, rares sont les systèmes qui possèdent l'ensemble de ces propriétés, et même ceux qui en possèdent de nombreuses, ne les présentent jamais toutes en même temps, car elles dépendent des conditions initiales ou environnementales. Un système dynamique non-linéaire qui présente, dans les conditions normales un comportement oscillant, peut bifurquer vers un comportement chaotique ou un état stationnaire : c'est le cas du cœur, lorsqu'il subit une fibrillation (on a découvert qu'il s'agit d'un état de chaos déterministe, rapidement suivi par l'état stationnaire d'équilibre de l'arrêt, ou mort). Autrement dit, si toutes ces propriétés caractérisent un systèmes complexe, celui-ci ne peut se définir par l'ensemble de ces propriétés, mais par la présence de quelques unes d'entre-elles. À la limite, un système dynamique non-linéaire dont on ne connaît qu'un seul état stationnaire est-il un système complexe ? Son comportement usuel n'est pas complexe, mais il est susceptible, si les conditions changent, de bifurquer vers un comportement complexe (3).
(3) C'est ainsi que la modélisation mathématique de réactions biochimiques (glycolyse) dans les levures, ont montré qu'elles étaient susceptibles de présenter des oscillations, qui ont pu alors être recherchées et mises en évidence expérimentalement.