Contre la limite pointée

Derrière ce titre énigmatique se cache un concept dont j'ignorais l'existence jusqu'à hier, et une mésaventure que je m'en vais vous narrer.

Mon épouse a un élève de Terminale qui a réussi à être bon en maths malgré l'imbécillité des programmes et la faiblesse des horaires. Elle cherchait pour cette perle rare un bouquin qui pourrait quelque peu combler le gouffre entre la Terminale et la Prépa. Je cherche un peu à la Fnac et je trouve ça. En feuilletant dans le métro, je tombe sur le théorème suivant :

Th : Si une fonction f est définie sur un voisinage de a et y admet une limite finie l, alors l=f(a).

Mon sang ne fait qu'un tour : comment peut-on écrire des c..ries pareilles ???

Très déçu par ce bouquin pour cette raison et quelques autres, j'écris un commentaire incendiaire sur amazon. (Je dois être la seule personne qui achète un bouquin à la Fnac et va après sur amazon).

L'auteur me contacte et me demande un contre-exemple. Je lui donne la fonction f qui vaut 0 partout sauf en 0 et vaut 1 en 0. Et je me retiens difficilement de lui envoyer des noms d'oiseau.

Il s'offusque : mais cette fonction n'a pas de limite en 0 ! Comme ça commence à bien faire je l'envoie sur la page wikipedia idoine non sans lui conseiller de reprendre ses études. Mais il m'envoie alors cette autre page wikipedia. Et ces pages ne sont pas d'accord entre elles !

Je découvre alors à ma grande stupéfaction que Bourbaki a donné deux définitions de la limite d'une fonction quand x tend vers a : la limite pointée, qui prend en compte la valeur de f en a si elle existe, et la limite épointée, qui ne la prend pas en compte et qui est la définition universellement utilisée ailleurs que dans l'enseignement français. Que l'existence de la limite d'une fonction puisse dépendre de la valeur de la fonction en un point devrait à mon avis suffire pour comprendre que la limite pointée est une mauvaise notion. Pédagogiquement parlant, c'est une abomination : toutes les limites (à gauche, à droite, aux bornes d'un intervalle ouvert, en l'infini) sont naturellement épointées, sauf les limites en un point de l'ensemble de définition. On introduit donc avec la limite pointée deux cas subtilement différents sans le dire : la limite pointée en un point de l'ensemble de définition (la limite pointée vraiment pointée) et la limite pointée "naturellement épointée". Mathématiquement le théorème choquant énoncé ci-dessus devrait faire douter de l'intérêt de la limite pointée : lorsqu'elle est vraiment pointée et finie, elle ne donne pas d'information utile. De plus ce cas ne se produit que si la fonction est continue en a ! Autrement dit la limite pointée vraiment pointée ne donne une information (la non-continuité) qu'en n'existant pas !

La catastrophe pédagogique apparaît clairement quand on définit la continuité avec la limite pointée. On peut bien sûr faire semblant de donner la même définition que tout le monde :

Déf : f est continue en a ssi la limite de f(x) quand x tend vers a est f(a)

Mais cette définition est une arnaque : avec la limite épointée on fait émerger clairement deux concepts distincts, f(a) d'une part, et la limite de f en a d'autre part, et la continuité est naturellement définie comme le cas où ces deux concepts coïncident, alors que la même définition avec la limite pointée cache le fait que la limite ne peut pas valoir autre chose que f(a) ! Elle devrait donc en toute logique s'écrire :

Déf : f est continue en a ssi la limite de f(x) quand x tend vers a existe et est finie.

Bon, j'arrête le tir, de toute façon tous les bouquins de référence utilisent la version épointée (en particulier Rudin et Spivak, mais aussi Jean-Pierre Marco, et s'il y a bien quelqu'un qui réfléchit à la pédagogie, c'est lui)... tous sauf ceux qui sont encore sous l'influence de Bourbaki et des programmes officiels de prépas en France.

Attention, je ne dis pas que les exceptions terminologiques françaises sont toutes mauvaises. Les définitions de "croissante" et "décroissante" sont par exemple plus cohérentes que les "non-decreasing" et "non-increasing" anglo-saxonnes. Cependant, qu'on le veuille ou non, la langue de la science est aujourd'hui l'anglais, alors à chaque fois que la terminologie française diffère il faut le signaler aux élèves, à moins qu'on ne veuille les enfermer dans des références franco-françaises. La preuve du danger qui guette ici c'est qu'un professeur français peut, en toute bonne foi, énoncer un théorème qui sera considéré comme faux non seulement par les mathématiciens anglo-saxons mais par tous les mathématiciens hors de France, et selon mon expérience par la plupart des mathématiciens français également.

D'une façon générale les terminologies non-standard sont à proscrire dans l'enseignement. Même si on pense que la terminologie standard est déficiente, il faut s'en servir, quitte à attirer l'attention des élèves sur ses défauts, plutôt que de créer artificiellement des quiproquos. Et si, en ayant bien peser le pour et le contre, on décide d'utiliser une terminologie peu commune parce qu'il y a une raison incontournable (ce qui n'est pas le cas ici), il faut absolument le signaler aux élèves, parce que leur rendre intelligible le corpus mathématique disponible à leur niveau doit être la priorité.

MAJ : Je remercie svain et limite pour les deux liens suivants : un texte de Daniel Perrin qui tente de ménager la chèvre et le chou, et un autre de Bertrand Rungaldier qui traite la question probablement dans les termes où elles s'est posée aux rédacteurs des programmes : comment escamoter les difficultés pour que les élèves réussissent les examens sans comprendre le fond de ce qu'on leur enseigne.

Par ailleurs, j'ai réalisé un petit sondage autour de moi auprès d'enseignants du secondaire, de prépa, et de mathématiciens. La plus grande confusion semble régner sur la définition de la limite : seule une minorité a conscience qu'il existe deux définitions en conflit l'une avec l'autre. La majorité des enseignants du secondaire, mais pas la totalité, utilise la définition pointée. En prépa je n'ai pas vu de majorité claire se dégager, et les mathématiciens que j'ai interrogé m'ont tous donné la définition épointée. Bien sûr ce sondage maison n'a pas de valeur scientifique.