Induction et récursion

Induction et récursion sont deux concepts intimement liés, deux facettes d’une même idée. Dans l’usage courant, les deux mots sont employés de façon parfois interchangeable, et en tout cas avec une frontière assez floue ; c’est pour cela qu’on a pris le parti de traiter les deux concepts dans un même page.

Formellement, l’induction est une technique de preuve mathématique employée pour démontrer des théorèmes sur les nombres naturels ou sur d’autres structures infinies munies d’un ordre bien fondé (souvent, des structures définies récursivement). De façon encore plus formelle, l’induction est donnée comme un axiome d’un système de preuve, c’est le cas, par exemple, du système axiomatique de Peano.

D’un autre côté, la récursion est une technique de définition et construction d’objets mathématiques (fonctions, ensembles, etc.).

Ce que les deux concepts ont en commun, c’est l’idée d’étudier les propriétés d’un objet (par exemple, une propriété d’un entier ) en les réduisant aux propriétés d’objets plus petits (par exemple, les propriétés de ).

Induction

Dans sa forme la plus simple, le principe d’induction est une technique de preuve qui permet de prouver qu’un prédicat est vrai pour tous les entiers. Une preuve par induction (on dit aussi preuve par récurrence) procède en deux étapes :

On peut faire remonter son origine aux mathématiques classiques, par exemple l’argument d’Euclide prouvant qu’il existe une infinité de nombre premiers est une forme implicite d’induction. Pascal a été l’un des premiers mathématiciens à en donner une définition explicite, mais une formalisation rigoureuse n’est apparue qu’au 19e siècle dans les travaux de Peano, Boole, etc.

Preuves par induction

Soit un prédicat portant sur une variable libre représentant un entier. Le but d’une preuve par induction est de montrer le prédicat

Il existe plusieurs formes équivalentes du principe d’induction. La plus commune, aussi appelée induction faible ou simple, procède en deux étapes :

De ces deux lemmes, le principe d’induction déduit . En effet on sait par la base que , puis en utilisant l’hérédité on déduit de , puis de , et ainsi de suite.

L’induction forte est une autre forme d’induction couramment utilisée. Dans une preuve par induction forte il suffit de démontrer que

pour déduire la vérité du prédicat . Cette forme d’induction est équivalente à l’induction faible, en effet prouver par induction forte revient à prouver par induction faible.

Note : Le cas de base de l’induction forte est implicitement contenu dans sa définition. En effet lorsque , prouver revient à prouver , car la quantification sur la gauche est vide (et donc toujours vraie).

Exemples

On donne ici deux exemples classiques de preuves par induction.

Sommes partielles de la série arithmétique

Soit un entier positif, on a l’égalité

Preuve. Le cas de base est immédiat, en effet on obtient 0 à droite et à gauche de l’égal. Pour prouver l’hérédité, on suppose que

et on essaye de montrer que

Or

et par hypothèse de récurrence on peut remplacer la somme sur la droite par

Sommes partielles de la série géométrique

Soit un nombre réel et un entier positif, on a l’égalité

Preuve. On vérifie aisément que pour les deux côtés de l’égalité valent 1. On procède maintenant par récurrence.

où la dernière égalité découle de l’hypothèse de récurrence. Ceci est égal à

ce qui conclut la preuve.

Généralisation à d’autres ensembles que les entiers naturels

L’application du principe d’induction n’est pas restreinte aux entiers, en effet il peut être appliqué à tout ordre bien fondé. La propriété fondamentale des ordres bien fondés, à savoir qu’il n’existe pas de chaîne descendante infinie, garantit que toute preuve par induction se termine après un nombre fini d’étapes. Ce type d’induction est parfois appelé induction structurelle, il est spécialement utile pour raisonner sur des structures de données tels les arbres, les listes, etc.

Formellement, soit un ensemble muni d’une relation d’ordre bien fondée , et soit prédicat portant sur une variable libre représentant un élément de . Si pour tout on peut prouver que

alors on peut conclure par induction que est vrai pour tout .

Preuve. La preuve découle de l’hypothèse de bonne fondation. De

on déduit que

Supposons que soit faux, à cause du prédicat précédent il existe tel que et est faux. Pour la même raison, on peut trouver tel que est faux, et ainsi de suite. On construit donc une chaîne infinie

ce qui contredit l’hypothèse de bonne fondation de .

Axiome d’induction

voir aussi Entiers de Peano.

Le principe d’induction peut être prouvé sous une hypothèse de bonne fondation, comme nous l’avons fait dans la section précédente. En ce qui concerne les entiers, on préfère souvent d’énonce le principe d’induction comme un axiome, c’est à dire comme une vérité évidente qui ne nécessite pas de démonstration.

C’est le cas, notamment, dans le système axiomatique de Peano, où le principe d’induction constitué l’un des neuf axiomes définissant les entiers.

Le principe d’induction peut être exprimé par un schema d’axiomes du premier ordre, i.e. par une infinité de prédicats de la forme

avec un axiome pour chaque prédicat avec une variable libre.

Il peut aussi être exprimé par un prédicat du second ordre, i.e. par un prédicat où on s’autorise à quantifier les prédicats

La différence entre les deux formulations est trop subtile pour être abordée dans ce cours, mais il est bon de savoir qu’elle a des conséquences importantes.

Les axiomes d’induction sont équivalents à la bonne fondation, c’est à dire que sur tout ensemble sur lequel on impose un axiome d’induction on peut construire un ordre bien fondé (et inversement, comme cela a été montré dans la section précédente).

Récursion

La récursion est une technique de définition d’objets mathématiques. Comme pour l’induction, on définit récursivement (ou inductivement) une famille d’objets en deux étapes:

Par exemple, la définition des entiers selon les axiomes de Peano peut être vue comme une construction récursive de l’ensemble . D’autres objets qu’on définit récursivement sont les suites (dites récurrentes), les fonctions, et, en informatique, les arbres, les files, les piles, etc.

Exemples

Les constructions récursives que l’on rencontre le plus souvent définissent des fonctions sur les entiers ou sur d’autres structures dotées d’un ordre bien fondé.

Fonctions récursives sur les entiers

Une fonction de dans est définie récursivement de la façon suivante:

Factorielle

La fonction factorielle peut être définie récursivement de la façon suivante:

Suite de Fibonacci

La suite de Fibonacci est un exemple de définition récursive basée non seulement sur la valeur de la fonction à , mais aussi sur sa valeur à . Par conséquent, deux cas de base sont nécessaires afin d’éviter une définition mal formée.

La suite de Fibonacci apparaît régulièrement en mathématiques, allez voir sa page Wikipedia est un bon point de départ pour se faire une culture là dessus. Régulièrement, on trouve même des biologistes, des historiens et toute autre sorte de savants qui prétendent, à raison ou à tort, avoir rencontré la suite de Fibonacci dans leurs études. Cette page Wikipedia vous donnera quelques idées.

Nombres de Catalan

Les nombres de Catalan sont un autre exemple de définition récursive basée non seulement sur la valeur de la fonction à . Ils sont définis ainsi:

Les nombres de Catalan apparaissent aussi très fréquemment, dès que l’on travaille avec des arbres binaires. On peut montrer l’égalité suivante

Exponentielle

La fonction exponentielle est définie de la façon suivante:

Cependant, une autre définition tout à fait légitime est:

Cette deuxième définition a un intérêt algorithmique, puisque elle est à la base de l’algorithme d’exponentiation binaire.

Indicatrice d’Euler

L’indicatrice d’Euler, généralement notée , compte combien d’entiers plus petits que n’ont pas de facteur commun avec . Formellement elle est définie par

nombre d’entiers tels que .

Si est une puissance d’un nombre premier , il est facile de se convaincre que

Plus généralement, si et sont deux entiers premiers entre eux (i.e., tels que ), on peut démontrer que

Ces deux dernières égalités peuvent être prises comme définition récursive de à la place de la première définition.

Autres fonctions récursives

On peut définir des fonctions ou des propriétés récursives sur autre chose que les entiers. Les chaînes de caractères, par exemple, s’y prêtent très bien.

Palindrômes

Une chaine de caractères est palindrome si elle se lit de la même façon de gauche à droite et de droite à gauche. Par exemple, abba et radar sont palindromes. On peut définir la palindromie de la façon suivante:

Expressions bien parenthésées

On s’intéresse aux chaînes de caractères dans lesquelles les parenthèses ouvrantes et fermantes sont bien distribuées. Par exemple, est bien parenthésée, mais ne l’est pas. En ignorant les caractères qui ne sont pas de parenthèses (et qui ne jouent aucun rôle), on se ramène à étudier les chaînes constituées exclusivement de parenthèses. Une expression bien parenthésée est définie alors de la manière suivante:

Exercice: On peut démontrer que le nombre d’expressions bien parenthésées contenant exactement parenthèses ouvrantes est égal au nombre de Catalan . Prouvez cette propriété par récurrence. (Suggestion: Commencez par trouver une autre définition récursive des expressions bien parenthésées qui n’utilise qu’un cas de base et un cas inductif).

Définition

De manière intuitive, une fonction (ou une propriété) récursive est une fonction qui est définie en termes d’elle même. Ceci ne suffit pas à définir correctement une fonction, car par exemple l’égalité ne définit aucune fonction en particulier (toute fonction a cette propriété).

Formellement, une fonction récursive peut être définie sur tout ensemble muni d’un ordre bien fondé, ou de façon équivalente en présence d’un axiome d’induction.

Soit un ensemble muni d’une relation d’ordre bien fondée , et soit un autre ensemble quelconque. Une fonction (récursive) est bien définie (ou cohérente ou bien fondée) si pour tout la définition de ne fait intervenir que des valeurs pour .

Nota bene: Cette définition définition n’impose pas que soit nécessairement définie en termes d’elle même pour tout (considérez, par exemple, la valeur de Fibonacci en et ). Au contraire, elle impose que la fonction ne soit pas définie en termes d’elle même aux éléments minimaux de . En effet, si est un élément minimal (par exemple ), il n’y a aucun élément plus petit que , donc la définition de ne peut faire recours à aucune autre valeur de .

Exercice: Pour chacune des fonction récursives définies précédemment, trouvez l’ordre bien fondé qui garantit la cohérence de la définition.

Exercice: Démontrez par Induction que toute fonction bien définie à une valeur unique à chaque élément de .

Récursion en informatique

La récursivité est tellement omniprésente en mathématiques, que tous les langages de programmation modernes permettent d’écrire des programmes récursifs, c’est à dire des programmes qui s’appellent eux mêmes.

Factorielle

L’exemple suivant, écrit en Python définit une fonction qui calcule la factorielle pour tout positif.

def fact(n):
    if n < 0:
        raise Error
    elif n == 0:
        return 1
    else:
        return n * fact(n-1)

Exponentiation

En imitant la définition récursive de l’exponentielle, on peut écrire une fonction qui calcule pour tout et pour tout entier .

def exp(c, n):
    if n < 0:
        return 1 / exp(c, -n)
    elif n == 0:
        return 1
    else:
        return c * exp(c, n-1)

Diviser pour régner

Le principe diviser pour régner est l’un des outils fondamentaux en algorithmique. L’idée consiste à résoudre un problème en le coupant en deux sous-problèmes de taille à peu près égale, qu’on résout de façon récursive. Ce principe permet souvent d’obtenir des gains d’efficacité considérables.

Exponentiation binaire

En utilisant la seconde définition récursive pour l’exponentielle, on peut ré-écrire la fonction précédente de la manière suivante

def bin_exp(c, n):
    if n < 0:
        return 1 / bin_exp(c, -n)
    elif n == 0:
        return 1
    else:
        tmp = bin_exp(c, n // 2)
        tmp *= tmp
        if n % 2 == 1:
            tmp *= c
        return tmp

Un appel d’une fonction à elle même est dit un appel récursif. Si on compte combien d’appels récursifs ont lieu lors d’un appel à exp(2,10) on vérifie que celui-ci appelle exp(2,9), qui appelle exp(2,8) et ainsi de suite, pour un total de 10 appels. D’un autre côté un appel à bin_exp(2,10) engendre un appel à bin_exp(2,5), puis à binexp(2,2), puis à bin_exp(2,1) et enfin à bin_exp(2,0), pour un total de 4 appels. En général, exp fera appels récursifs, alors que bin_exp en fera seulement .

L’algorithme bin_exp est appelé exponentiation binaire, à cause du lien avec l’écriture de en base .

Exercice: Étudiez le rapport entre l’exponentiation binaire et l’écriture de en base et donnez-en une version itérative (c’est à dire avec des boucles for ou while et pas d’appels récursifs).

Pour approfondir

La Tour de Hanoï

Allez voir cet exercice

Fork me on GitHub