Les fonctions continues à valeurs réelles forment le concept fondamental de l’analyse réelle et de la topologie. Or, si la notion de continuité est transparente sur le plan de l’intuition, sa formulation mathématique nécessite une traduction, par exemple à travers la notion de limite finie en un point. Les fonctions continues se caractérisent de diverses manières, et les fonctions dérivables sont un exemple fondamental. Elles forment un anneau commutatif unitaire, et leur propriété essentielle est peut-être le théorème des valeurs intermédiaires. Celui-ci énonce qu’une fonction continue sur un intervalle prend toutes les valeurs possibles entre deux valeurs données, et on en déduit une relation essentielle entre injectivité et monotonie.

1.Fonctions continues en un point

1.1.La notion de continuité en analyse et en topologie

En introduisant les fonctions monotones, nous avons souligné comment la structure de la droite réelle permet de distinguer certaines classes de fonctions qui la « préservent ». Cette structure, concernant la monotonie, est essentiellement liée à l’ordre naturel entre les nombres réels, lequel engendre une structure dite « d’ordre supérieur », une structure topologique qui permet de conceptualiser les relations de proximité entre points de la droite réelle. Les fonctions qui « préservent » cette structure plus subtile sont les fonctions dites continues, celles « dont on peut tracer le graphe sans lever le crayon. »

La continuité d’une fonction est associée à d’innombrables propriétés, toutes essentielles pour l’analyse réelle, c’est-à-dire l’étude des fonctions à valeurs dans l’ensemble $\mathbb R.$ Par exemple, une fonction continue et injective sur un intervalle est monotone, une fonction dérivable est continue, et une fonction continue sur un intervalle est intégrable. Pour ces raisons, et toutes celles qu’on peut évoquer, les fonctions continues sont sans doute les objets fondamentaux de l’analyse réelle, et de la topologie en général, étude abstraite des « espaces » où les fonctions continues sont celles qui les mettent en correspondance sans les « déchirer ». Evidemment, la définition intuitive de la continuité basée sur la représentation graphique est insuffisante pour les besoins scientifiques de la mathématique.

1.2.Continuité d’une fonction en un point

Un meilleur point de départ consiste sans doute à considérer qu’une fonction définie sur un intervalle est continue lorsque l’ensemble de ses valeurs ne présente pas de « saut » ou d’interruption. A partir de cette propriété, que nous retrouverons stricto sensu comme le fameux et incontournable théorème des valeurs intermédiaires (théorème 1), nous pouvons donner une définition et des caractérisations rigoureuses de la continuité. Notons d’abord que la continuité, comme la dérivabilité, est un concept « local », c’est-à-dire qui concerne les propriétés d’une fonction autour de chacun de ses points. En effet, c’est bien en chacun des arguments d’une fonction $f:I\to \mathbb R,$ définie sur un intervalle réel $I$ pour fixer les idées, qu’il faut considérer qu’il n’existe pas de « saut » de valeurs. Plus précisément, c’est « autour » de chacun de ces points du domaine $I$ de la fonction qu’il faut contrôler cette propriété, qui mathématiquement se traduit, intuitivement, de la manière suivante :

« La fonction $f$ est continue en un point $x\in I$ si il existe des valeurs $f(y)$ de $f$ aussi proches de la valeur $f(x)$ de $f$ au point $x,$ à condition qu’on choisisse l’argument $y$ (c’est-à-dire l’élément du domaine de $f$) assez proche de $x$. »

En effet, non seulement nous devons pouvoir trouver toutes les valeurs possibles pour $f$ « autour de $f(x)$ », ce qui impose de pouvoir en trouver « aussi proches de $f(x)$ que possible », mais il faut aussi pouvoir les trouver pour des points $y$ « assez proches de $x$ », puisque c’est en ce point que la fonction $f$ ne doit pas « faire de saut ».

1.3.Définition mathématique de la continuité

Nous reconnaissons au sujet de la valeur $f(x),$ dans la propriété énoncée, la définition de la limite de la fonction $f$ au point $x,$ au sens où nous pouvons traduire l’idée de continuité de manière rigoureuse sous la forme suivante :

Définition 1
Une fonction $f:I\to\mathbb R$ définie sur un intervalle réel $I$ est dite continue en un point $x\in I,$ si la limite de $f$ au point $x$ est précisément sa valeur $f(x),$ c’est-à-dire si $\lim\limits_{y\to x} f(y)=f(x).$

En revenant à la définiton même de la notion de limite, la continuité d’une fonction en un point est donc caractérisée de la manière suivante :

« La fonction $f:I\to\mathbb R$ est continue en un point $x\in I$ si et seulement si pour tout intervalle ouvert $K$ contenant $f(x),$ il existe un intervalle ouvert $J$ contenant $x,$ et tel que pour tout $y\in I\cap J$ on a $f(y)\in K.$ »

La traduction de la propriété intuitive initiale est achevée avec la traduction de ce critère « topologique » qui nous a servi à définir la notion de limite d’une fonction en un point, et que nous pouvons reformuler sous sa forme « infinitésimale » classique de la manière suivante :

Proposition 1
Une fonction $f:I\to \mathbb R$ définie sur un intervalle réel $I$ est continue en $x\in I$ si et seulement si pour tout nombre réel $\varepsilon >0$ (« $\varepsilon$ »=’epsilon’), il existe un nombre réel $\alpha>0$ (« $\alpha$ »=’alpha’) tel que pour tout $y\in I,$ si $|x-y|\leq \alpha$ on a $|f(x)-f(y)|\leq \varepsilon,$ symboliquement :
$\forall \varepsilon\in\mathbb R_+^*,\exists \alpha\in\mathbb R_+^*,\forall y\in I,$ $|x-y|\leq \alpha \rightarrow |f(x)-f(y)|\leq \varepsilon.$

Exemple 1
i) La fonction arc tangente $x\in\mathbb R\mapsto \arctan x\in\mathbb R$ est continue en tout point de $\mathbb R.$ Sa réciproque sur l’intervalle $I=]-\pi/2,\pi/2[,$ la fonction tangente $\tan:x\in I\mapsto \tan x,$ est aussi continue en tout point de $I.$
ii) La fonction de Heaviside, utilisée en ingénierie, est définie par $H(x)=0$ pour tout $x<0,$ $H(0)=1/2$ et $H(x)=1$ pour tout $x>0.$ Elle est discontinue au point $0$ et continue en tout point $x\neq 0.$

1.4.Caractérisation séquentielle de la continuité

Les deux critères précédents, dits « topologique » et « infinitésimal », sont des définitions équivalentes de la continuité d’une fonction $f:I\to\mathbb R,$ définie sur un intervalle réel $I,$ en un point $x\in I.$ Un autre critère fondamental, nécessaire et suffisant, de continuité, dit séquentiel parce qu’il met en œuvre des suites, est donné à partir de la caractérisation séquentielle de la limite d’une fonction en un point :

Proposition 2
La fonction $f:I\to\mathbb R$ est continue au point $x\in I$ si et seulement si, pour toute suite $(x_n)$ d’éléments de $I$ qui converge vers $x,$ la suite $(f(x_n))$ de leurs images converge vers $f(x).$

Cette caractérisation séquentielle de la continuité est valable pour tous les espaces métriques, qui fournissent des cas particuliers d’espace topologiques.

Exemple 2
La fonction partie entière $E:\mathbb R\to\mathbb R,$ qui associe à tout nombre réel $x$ le plus grand entier relatif $n$ tel que $n\leq x,$ est continue en tout point des intervalles de la forme $]n,n+1[$ pour $n\in\mathbb Z$ puisqu’elle est constante sur ces intervalles. Elle est discontinue en tout point $n\in\mathbb Z,$ par contraposée de la proposition 2. En effet, la suite $(f(n+\frac{1}{k+1}))_{k\in\mathbb N},$ constante de valeur $n,$ converge vers $n=f(n),$ tandis que la suite $(f(n-\frac{1}{k+1}))_{k\in\mathbb N}=(n-1),$ constante de valeur $n-1,$ converge ver $n-1\neq f(n).$ Pourtant, les deux suites $(n-\frac{1}{k+1})_k$ et $(n+\frac{1}{k+1})_k$ convergent vers $n.$

1.5.Dérivabilité et continuité en un point

Enfin, mentionnons le critère suffisant incontournable de continuité, à savoir la dérivabilité :

Proposition 3
Si $f:I\to\mathbb R$ est une fonction numérique définie sur un intervalle réel $I,$ et si $f$ est dérivable en $x\in I,$ alors $f$ est continue au point $x.$

Démonstration. Cette propriété se démontre de manière élémentaire à partir de la définition de la dérivabilité en $x.$ Celle-ci signifie que le rapport de monotonie $g(y)=\frac{f(y)-f(x)}{y-x},$ conçu comme fonction de $y$ sur l’ensemble $I-\{x\}$ (à cause du dénominateur), possède une limite lorsque $y$ tend vers $x,$ et que cette limite est $f'(x).$ Traduisons cette propriété de manière infinitésimale :

$\forall \varepsilon\in \mathbb R_+^*,\exists\alpha\in\mathbb R_+^*,\forall y \in I-\{x\},$ $|y-x|\leq\alpha\rightarrow \left|\frac{f(y)-f(x)}{y-x}-f'(x)\right|\leq\varepsilon.$

Soit alors $\varepsilon\in\mathbb R_+^*$ : il existe un réel $\alpha>0$ ayant la propriété de l’énoncé précédent. Soit $y\in I$ : si $y=x,$ alors certainement $|f(y)-f(x)|=0\leq \varepsilon,$ donc nous supposons que $y\neq x.$ Par définition de $\alpha,$ si $|y-x|\leq \alpha$ on a $|\frac{f(y)-f(x)}{y-x}-f'(x)|\leq\varepsilon,$ de sorte que $|f(y)-f(x)-f'(x)(y-x)|\leq \varepsilon.|y-x|$ en multipliant les deux membres par $|y-x|>0.$ Comme on a par ailleurs $||f(y)-f(x)|-|f'(x)(y-x)||$ $\leq|f(y)-f(x)-f'(x)(y-x)|,$ on en déduit que $|f(y)-f(x)|\leq \varepsilon.|y-x|+|f'(x).(y-x)|,$ d’où $|f(y)-f(x)|\leq (\varepsilon+|f'(x)|).|y-x|.$ Supposons de plus que $|y-x|\leq \frac{\varepsilon}{\varepsilon+|f'(x)|}$ : on a alors $|f(y)-f(x)|\leq \varepsilon.$ Nous avons trouvé $\alpha’=\min\{\alpha,\frac{\varepsilon}{\varepsilon+|f'(x)|}\},$ tel que pour tout $y\in I,$ si $|y-x|\leq \alpha’$ alors $|f(y)-f(x)|\leq\varepsilon.$ Puisque $\varepsilon$ a été choisi de manière arbitraire, cela signifie que $f$ est continue au point $x.$ $\square$

Exemple 3
i) La fonction logarithme népérien $\ln:\mathbb R_+^*\to\mathbb R$ est par définition la primitive de la fonction $x\mapsto 1/x$ qui s’annule en $1.$ Par conséquent, elle est dérivable, et donc continue, en tout point $x\in\mathbb R_+^*.$
ii) La fonction exponentielle $\exp:\mathbb R\to\mathbb R_+^*$ est dérivable comme bijection réciproque de la fonction $\ln,$ et donc également continue en tout point $x$ de la droite réelle.

2.Fonctions continues sur un intervalle

2.1.Continuité et topologie

Même si la continuité est une propriété « locale », c’est-à-dire concernant typiquement les points individuels d’une fonction $f:I\to\mathbb R$ définie sur un intervalle réel $I,$ sa caractérisation montre qu’elle a plus particulièrement trait à ce qui se passe « autour » d’un point. Autrement dit, la continuité est une propriété dite topologique, et concerne donc plutôt les intervalles entourant les points. C’est pourquoi l’étude des fonctions continues se fait sur ces intervalles, et pourquoi il nous faut définir des fonctions continues dans un sens « global » :

Définition 2
Une fonction $f:I\to\mathbb R$ définie sur un intervalle réel $I$ est dite continue, si elle est continue en tout point $x\in I.$

C’est cette notion de continuité, globale, qui nous ramène à l’intuition d’une fonction qui ne « déchire » pas l’espace, ici l’intervalle réel $I.$

Remarque 1
On peut définir une notion de fonction continue $f:E\to\mathbb R$ pour tout sous-ensemble $E$ de la droite réelle. Cependant, nous nous limitons ici aux intervalles parce qu’ils forment les « unités » topologiques élémentaires, et que les propriétés remarquables des fonctions continues ont donc trait aux intervalles.

2.2.Exemples de fonctions continues

Par la proposition 3, toute fonction numérique $f:I\to\mathbb R$ définie sur un intervalle réel $I$ et dérivable sur $I$ est continue, donc toutes les fonctions dérivables usuelles sont continues :

• Les fonctions polynomiales, qui associent à un nombre $x$ un nombre réel de la forme $f(x)=a_0+a_1x+a_2x^2+\ldots$ $+a_{n-1}x^{n-1}+a_nx^n$ avec $n\in\mathbb N,$ sont continues de $\mathbb R$ dans $\mathbb R$ (en particulier, les fonctions constantes sont continues)
• La fonction valeur absolue $|\cdot|,$ qui associe à $x\in\mathbb R_+$ le nombre réel $|x|:=x,$ et à $x<0$ le nombre réel $|x|=-x,$ fonction continue mais pas dérivable en $0$
• Les fonctions rationnelles, qui associent à tout élément $x$ de l’ensemble $\{x\in \mathbb R : h(x)\neq 0\}$ un nombre réel de la forme $f(x)=g(x)/h(x),$ où $g,h:\mathbb R\to \mathbb R$ sont des fonctions polynomiales, sont continues
• La fonction logarithme népérien $\ln:\mathbb R_+^*\to\mathbb R$ est une bijection continue, de réciproque la fonction continue exponentielle $\exp:\mathbb R\to \mathbb R_+^*$
• Les fonctions trigonométriques usuelles, le cosinus $\cos:\mathbb R\to\mathbb R,$ le sinus $\sin:\mathbb R\to\mathbb R$ et la tangente $\tan:]-\pi/2,\pi/2[\to\mathbb R,$ et leurs bijections réciproques $\arccos,\arcsin$ et $\arctan,$ sont continues
• Les fonctions hyperboliques usuelles, le cosinus hyperbolique $\cosh:\mathbb R\to\mathbb R,$ le sinus hyperbolique $\sinh:\mathbb R\to\mathbb R$ et la tangente hyperbolique $\tanh:\mathbb R\to\mathbb R,$ sont continues.

Fonctions continues non dérivables et fonctions discontinues

Stricto sensu, les fonctions comme applications sont modifiées lorsque leur co-domaine est modifié. Cependant, on démontre que pour toute fonction $f:I\to\mathbb R$ définie sur un intervalle $I,$ $f$ est continue si et seulement sa co-restriction à un quelconque sous-ensemble $S$ de $\mathbb R$ contenant son image $f(I),$ est continue. En particulier, les fonctions $\cos:\mathbb R\to [-1,1]$ et $\sin:\mathbb R\to [-1,1]$ sont continues.

Il existe aussi une infinité de fonctions continues non dérivables, soit en un point, soit en chaque point – ce qui est plus artificiel à construire – l’exemple fondamental étant la valeur absolue $|.|:x\in\mathbb R\mapsto |x|,$ continue mais non dérivable en $x=0.$ Enfin, la fonction partie entière $E:\mathbb R\to\mathbb R,$ qui associe à un nombre réel $x$ le plus grand entier relatif $n\leq x,$ est discontinue en tout point $x\in\mathbb Z,$ mais sa restriction (constante) à tout intervalle de la forme $[n,n+1[$ avec $n\in\mathbb Z$ est continue.

2.3.Opérations sur les fonctions continues

Pour tout ensemble $E,$ on peut additionner et multiplier des fonctions $f,g:E\to\mathbb R,$ coordonnée par coordonnée. Il suffit de poser $(f+g)(x):=f(x)+g(x)$ et $(f.g)(x):=f(x).g(x)$ pour tout $x\in E.$ En particulier, si $f,g:I\to\mathbb R$ sont définies sur un intervalle réel $I,$ les fonctions $f+g:I\to\mathbb R$ et $f.g:I\to\mathbb R$ sont bien définies. Supposons alors que $f$ et $g$ sont continues, et soit $x\in I$ : par définition, on a $f(x)=\lim\limits_{y\to x} f(y)$ et $g(x)=\lim\limits_{y\to x} g(y).$ Par les propriétés d’addition et de multiplication des limites en un point, on a alors $\lim\limits_{y\to x} (f+g)(y)=f(x)+g(x)$ et $\lim\limits_{y\to x} (f.g)(y)=f(x).g(x).$ On en déduit que les fonctions $f+g$ et $f.g$ sont continues; en particulier, la fonction $-f=(-1).f$ est continue comme produit de $f$ et de la fonction constante de valeur $-1.$

Ainsi, l’ensemble $C(I,\mathbb R)$ des fonctions continues de $I$ dans $\mathbb R$ forme un anneau commutatif unitaire, dont les fonctions dérivables de $I$ dans $\mathbb R$ forment un sous-anneau par la proposition 3.

De plus, si $g(x)\neq 0$ pour tout $x\in I,$ la fonction $1/g:x\in I\mapsto 1/g(x)$ est elle-même continue. Soit en effet $x\in I,$ et soit $\varepsilon\in\mathbb R_+^*$ : on peut supposer que $\varepsilon<|g(x)|,$ puisque $g(x)\neq 0.$ Par continuité de $g$ en $x,$ il existe alors $\alpha\in\mathbb R_+^*$ tel que pour tout $y\in I,$ si $|y-x|\leq \alpha$ on a $|g(y)-g(x)|\leq \varepsilon/(|g(x)|-\varepsilon)^2.$ Pour tout tel $y,$ on a aussi $|1/g(y)-1/g(x)|=|(g(x)-g(y))/g(y)g(x)|$ $=|g(y)-g(x)|.|1/g(y)g(x)|$ $\leq [\varepsilon/(|g(x)|-\varepsilon)^2].1/(|g(x)|-\varepsilon)^2$ (puisque $|g(x)|-\varepsilon\leq |g(x)|,|g(y)|$) $=\varepsilon.$ Ceci montre que $1/g$ est continue au point $x,$ et donc continue sur $I.$

3.Le théorème des valeurs intermédiaires

3.1.Zéros et changement de signe des fonctions continues sur un intervalle

Le théorème des valeurs intermédiaires est la propriété fondamentale des fonctions continues à valeurs réelles définies sur un intervalle, puisqu’il énonce précisément la propriété qu’on attribue intuitivement à la notion de continuité. Celle-ci s’énonce comme suit : si $f:I\to\mathbb R$ est définie sur un intervalle $I,$ et continue sur $I,$ alors pour tous $a,b\in I$ la fonction $f$ prend toutes les valeurs entre $f(a)$ et $f(b).$

Pour démontrer ce théorème, nous pouvons nous appuyer sur la propriété essentielle suivante, liée à l’existence de « zéros » pour les fonctions continues qui « changent de signe » entre deux points :

Proposition 4
Si $f:I\to\mathbb R$ est une fonction continue définie sur un intervalle $I,$ alors pour tous $a,b\in I$ tels que $a<b$ et $f(a)f(b)<0,$ il existe $x\in ]a,b[$ tel que $f(x)=0.$

La démonstration de cette proposition repose sur un procédé de dichotomie, et sur la caractérisation séquentielle de la continuité (proposition 2). Il s’agit ici de créer deux suites adjacentes $(a_n)$ et $(b_n)$ en coupant récursivement le segment $[a,b]$ en une suite de segments. A chaque étape, une des deux moitiés du segment restant, où la fonction change de signe, est choisie, et la limite commune des deux suites est alors le zéro cherché.

3.2.Le théorème des valeurs intermédiaires

Nous pouvons désormais énoncer et démontrer le théorème des valeurs intermédiaires comme suit :

Théorème 1
Si $f:I\to\mathbb R$ est une fonction continue définie sur un intervalle réel $I,$ et si $a,b$ sont deux points de $I$ tels que $a<b$ et $f(a)<f(b),$ alors pour tout nombre réel $k$ tel que $f(a)<k<f(b)$ il existe $x\in [a,b]$ tel que $f(x)=k.$

Evidement, le théorème reste valable dans le cas où $f(b)<f(a)$ : il suffit de l’appliquer à la fonction $-f,$ qui est continue (section 2.3).
Démontrons-le : on définit une fonction $g:[a,b]\to \mathbb R$ en posant $g(x):=f(x)-k$ pour tout $x\in [a,b].$ Par composition (différence de fonctions continues), la fonction $g$ est continue et comme $f(a)<k<f(b),$ le produit $g(a)g(b)=(f(a)-k)(f(b)-k)$ est strictement négatif. Par la proposition 4, il existe alors un nombre $c\in ]a,b[$ tel que $g(c)=0$, c’est-à-dire $f(c)=k.$

L’application fondamentale de ce théorème concerne la « géométrie algébrique réelle », c’est-à-dire l’étude des solutions de systèmes d’équations polynomiales à coefficients réels. Ainsi, la propriété suivante est une caractéristique algébrique du corps $\mathbb R$ des nombres réels :

Corollaire 1
Si $P=a_0+a_1x+\ldots+a_{n-1}x^{n-1}+a_nx^n$ et un polynôme à coefficients réels et de degré $n$ impair, alors $P$ possède une racine réelle.

En effet, puisque $n$ est impair, si $a_n>0$ on a $\lim\limits_{x\to-\infty} P(x)=-\infty$ et $\lim\limits_{x\to+\infty} P(x)=+\infty,$ donc il existe $a,b\in\mathbb R$ tels que $a<b$ et $f(a)<f(b),$ donc par le théorème 4 il existe $c\in ]a,b[$ tel que $f(c)=0.$ Si $a_n<0,$ le même raisonnement s’applique au polynôme $-P,$ donc $P$ aussi possède une racine réelle. Les conséquences de ce corollaire sont évoquées dans l’identification des facteurs irréductibles réels et complexes.

3.3.Relations entre continuité et monotonie

Les notions de monotonie et de continuité sont étroitement liées, et notamment à travers les intervalles réels, qui sont les sous-ensembles topologiques fondamentaux de la droite réelle. Or, la structure de ces intervalles est essentiellement liée à l’ordre entre les nombres réels, ce qui permet d’associer étroitement les fonctions continues et des fonctions monotones. Du théorème des valeurs intermédiaires, on tire d’abord le corollaire suivant, qui précise comment les fonctions continues se comportent globalement sur les intervalles :

Corollaire 2
L’image $f(I)$ d’une fonction continue $f:I\to\mathbb R$ définie sur un intervalle est un intervalle, et si $I$ est un segment, $f(I)$ est un segment.

Le lien à la monotonie procède alors de la simple constatation qu’une fonction strictement monotone sur un intervalle est injective. Pour les fonctions continues, il s’agit alors d’une équivalence :

Théorème 3
Une fonction continue $f:I\to\mathbb R$ définie sur un intervalle réel est injective si et seulement si elle est strictement monotone.

Ainsi, les variations d’une fonction continue sur un intervalle sont déterminées en premier lieu par des considérations purement ensemblistes, au-delà de leur possible relation à la dérivée, qui n’existe pas toujours.