Pour convaincre de la vérité d’une proposition, on a besoin de savoir, sans ambiguïté, de quoi l’on parle. On a besoin d’un jugement commun sur la  situation de départ. On a besoin de procédures précises afin de conserver cette communauté de jugement lors des transformations de cette situation.
 

Au-delà de l'habitude du maître ou du professeur de toujours utiliser le mot juste en mathématiques (et ailleurs), il faut parvenir à une prise de conscience de la part de l'élève d'une relation nouvelle entre l'objet , son nom et sa définition :
 

I- La définition

L'apprentissage de la démonstration passe par une évolution de la notion de définition, voire un changement. Jusque-là, l'élève utilise la définition pour avoir une représentation de l'objet, ou pour le reconnaître parmi d'autres. Mais ces utilisations s'appuient sur des analogies et des différences avec des objets déjà rencontrés : on sait ce qu'est un cheval parce qu'on en a déjà vu, et on sait qu'un poney sera "un cheval nain"…
Mais la définition, lors d'une démonstration, a une autre utilisation, donc d'autres exigences : elle doit permettre d'obtenir toutes les caractéristiques et propriétés de l'objet défini. Le fonctionnement de la démonstration implique que l'on puisse maîtriser l'influence de cet objet sur la valeur de vérité de la proposition. Pour cela, aucune ambiguïté ne doit exister.
De plus, la définition doit nous permettre de transformer, d'obtenir une nouvelle proposition. Elle doit donc cerner précisément l'objet défini, en mettant en avant les relations qu'il va avoir avec les autres objets utilisés.
Enfin, la définition doit contribuer à construire le système de référence qui sera la base du monde mathématique dans lequel nous allons raisonner.

Cette attitude "nouvelle" face à la définition est assez simple à appliquer lorsque nous abordons en classe un concept nouveau. Elle est beaucoup plus difficile à mettre en oeuvre lorsqu'il s'agit d'objets manipulés depuis longtemps : pour identifier un carré, les élèves passent rarement par ses propriétés caractéristiques, et font plus volontiers une analogie avec les carrés déjà rencontrés (ceci est mis en évidence jusqu'au lycée où ce quadrilatère :

Il serait donc important de travailler le passage d'une forme de définition utilisant les exemples connus, à une définition utilisant des données de bases permettant de construire le monde mathématique.
 

II- Les axiomes

Il est évident que nous avons besoin de propositions dont nous connaissons la valeur de vérité comme base de notre activité de démonstration. Nous savons qu'aujourd'hui, en mathématique, leur caractère d'évidence a cédé la place à un besoin de cohérence. Le fameux postulat dit "d'Euclide" (par un point donné il passe une et une seule droite parallèle à une droite donnée) n'est ni vrai ni faux, il est décidé et sert de base à notre système géométrique (celui de l'école primaire et secondaire). Bien sûr, il n'est pas question de travailler sur la géométrie non-euclidienne, et ces axiomes qui ont été considérés durant des siècles comme "naturellement vrais" ont un réel enracinement dans notre esprit. Il est donc normal de se servir de cette "vérité naturelle" afin de faire comprendre et assimiler les mathématiques aux élèves. Mais il ne faut pas s'arrêter là.

Je crois qu'il serait bon de bien mettre en relief pour les élèves l'ensemble des axiomes qui servent de base à la théorie. Sans pour autant leur faire assimiler  que cet ensemble est discutable, le fait de le présenter comme une donnée de départ en mathématique,  de l'expliciter, permettra aux élèves bien sûr d'être préparés aux mathématiques qu'ils feront peut-être un jour, mais ce n'est pas tout ; ceci permettra aussi la prise de conscience que l'on n'utilise pas n'importe quelle loi "qui paraît évidente". En faisant un effort de distinction, l'enseignant justifie l'effort que doit faire l'élève qui peine à faire la distinction entre ce qu'il peut utiliser (qui a été "prouvé" ou défini), et ce qu'il cherche à établir. Il voit que même l'enseignant se limite dans ses outils, dans le but de construire un langage commun, qui nous permettra de discuter, de convaincre.

Je pense que la plus grande difficulté, en mathématiques comme ailleurs, est de bien faire la distinction entre ce que nous croyons être évident et ce qui l'est pour les élèves. L'histoire des mathématiques à ce propos nous permet même de raconter aux élèves sous forme d'anecdotes que les plus grands mathématiciens eux-mêmes ont eu beaucoup de difficulté à ce sujet. C'est l'occasion de leur faire comprendre que ce qu'ils font là n'est pas facile, et de permettre aux élèves les plus en difficulté de reprendre courage.
 

III- La logique

Il n'est pas question ici d'étudier la logique mathématique, mais la logique des mathématiques (selon la terminologie de Stella Baruk) qui va nous permettre de faire évoluer les propositions lors des démonstrations. Cette logique est souvent présentée comme intuitive et reste souvent dans le domaine de l'implicite. Elle pose pourtant des problèmes à de nombreux élèves, et mérite donc à ce titre notre intérêt.
Nous disposons de quelques outils de la démonstration, que nous devrons expliquer, partager et utiliser, en nous assurant que leur valeur logique est partagée par les élèves . Ce sont par exemple :
•la disjonction des cas, où l'inventaire de toutes les possibilités d'un problème. Sa valeur logique ne pose habituellement aucun problème, (les élèves acceptent facilement qu'il ne peut rien se passer d'autre, puisque l'on a vu tous les cas) mais son utilisation est souvent approximative (il faut insister sur le fait de bien avoir tous les cas).
•le contre-exemple : "Il importe peu aux conjectures qu'on ne les aime pas ou qu'on les suspecte, mais elles ne peuvent ignorer les contre-exemples."  (Imre LAKATOS, "Preuves et Réfutations", (Hermann 1984)). Celui-ci est bien accepté par les élèves s'il est formulé précisement : Ca ne peut pas être toujours vrai, puisque ça ne l'est pas dans ce cas là.
•la contraposition ("si A, alors B" est équivalent à "si non-B, alors non-A" ) est à utiliser avec prudence. Il faudra avant cela bien la travailler, car elle n'est pas évidente à expliquer, et ne permet souvent pas que tous les élèves soient convaincus lors de son utilisation dans un raisonnement (s'il fait beau, alors il fait chaud  implique s'il ne fait pas chaud, alors il ne fait pas beau. Mais la réciproque est vraie aussi , et moins évidente à saisir. D'autre part, ces propositions sont différentes de s'il fait chaud, alors il fait beau...) . Il faut donc se méfier de l'acceptation de ce raisonnement avant que tout cela ne soit bien clair.
•le raisonnement par l'absurde et celui par récurrence paraissent plus difficilement exploitables à l'école primaire, ce qui n'empêche pas les activités permettant aux élèves de s'approprier certains de leurs "mécanismes"

La contraposition n'est pas la seule à souffrir d'approximation : lors d'une démonstration, la logique, souvent ce qui gère le "si... donc...", prend des formes proches de celle qu'utilise la vie courante. Et ce sont peut-être ces nuances qui posent problème...
-tout d'abord, la logique mathématique n'a qu'une seule alternative : la valeur de vérité est vraie ou fausse. Alors que dans la vie courante, il y a quelquefois d'autres possibilités, par exemple au niveau des sentiments : la réponse "oui et non" à la question "es-tu content de tes vacances ?" n'a rien de choquante.
-on utilise parfois cette construction pour signifier une opinion, une prévision : "si tu travailles ce soir, alors tu auras une bonne note" n'est pas toujours vérifiée.
-...

Mais la plus grande difficulté réside dans la simplification, nécessaire, de la démonstration : on ne peut pas tout expliciter, tout le temps. Après avoir travaillé sur un domaine, on estime que les propriétés et définitions sont connues et utilisables de façon implicite. Les axiomes qui nous servent de base, nous paraissent le plus souvent naturels et évidents...
"Une explication constitue un discours visant à rendre intelligible le caractère de vérité, acquis pour le locuteur, d'une proposition ou d'un résultat. Les raisons avancées peuvent être discutées, acceptées ou refusées.
Convenons qu'une preuve est une explication acceptée par une communauté donnée à un moment donné. Une démonstration est une preuve acceptée par la communauté des mathématiciens et qui revêt une forme particulière : utilisation d'un langage spécifique, référence à une théorie.
L'emploi de la démonstration comme outil de preuve semble caractériser les mathématiques parmi les sciences. Le répertoire utilisé pour bâtir une démonstration est commun au locuteur et à l'interlocuteur. Il s'appuie donc sur des références communes, un lexique commun, des représentations communes... Chaque démonstration contient une part d'implicite (sens de tel mot du vocabulaire, anticipation du niveau de lecture du futur lecteur, connaissance de tel résultat...). Une des difficultés rencontrées par les élèves en mathématiques est de définir ce qui peut rester implicite et ce qui doit être explicité lors d'une rédaction de démonstration. "
(J. Briand et M.-C. Chevalier, "Les enjeux didactiques dans l'enseignement des mathématiques, " (Hatier, 1995))

Mais, avant d'exiger des élèves une juste utilisation de la logique, il nous faudrait la leur enseigner. Ce n'est pas une chose facile. Mais il est certain qu'il faut, dans ce sens, préserver les chances des élève qui n'ont pas encore assimilé ces processus, d'accéder à cette logique. Cela signifie que tant que tous les élèves n'ont pas intériorisé la justification des enchaînements, nous devons, en tant qu'enseignant, expliciter toutes les étapes de notre raisonnement. Sans quoi, les élèves les plus en difficulté auront l'impression d'assister à une manipulation sans cohérence. Ils ne feront qu'essayer de reproduire ce qu'ils ont ainsi identifié (on entend même parler de magie, de recette de cuisine) car ils n'ont pas les moyens d'identifier "une" logique et de se l'approprier. Il faut qu'ils gardent une vision de la globalité du raisonnement, pour pouvoir y trouver une cohérence. Lorsque l'élève a accepté, a compris cet enchaînement de propositions, cette conservation de la valeur de vérité, il comprendra l'intérêt des théorèmes, des raccourcis, des habitudes. Il sera alors capable d'utiliser un théorème pas encore démontré en y plaçant sa confiance, sans penser que l'enseignant l'a proposé "parce que cela l'arrangeait".
L'utilisation de ces raccourcis non-maîtrisés est la source, à mon avis, du dégoût des mathématiques pour la plupart de ceux qui en souffrent : les mathématiques, privées de cohérences, perdent alors leur sens, leur raison d'être. Comment alors s'y investir?
 

IV- L'intuition

Réduire les outils de la démonstration aux seules règles de celle-ci reviendrait à ne considérer que la démonstration déjà faite. En effet, ces règles suffisent à la décrire, à la vérifier, peut-être à en comprendre l'intérêt et le sens, mais ne suffisent pas à l'établir. Celui qui démontre est contenu par les lois suscitées, mais il est guidé par son intuition. C'est un domaine qui réclame une attention particulière : on ne peut pas "enseigner" l'intuition, ni par l'exemple (car elle est personnelle et intérieure) ni par une leçon (car on ignore ce qui permettra à l'élève de l'avoir) mais on peut la développer, la cultiver en proposant régulièrement des situations qui devront répondre à plusieurs critères :
•que l'itinéraire du raisonnement soit assez proche de ce qu'aurait pu construire l'élève.
•que la validité de ce raisonnement puisse devenir une évidence pour l'élève (c'est à mon avis essentiel pour que celui-ci se concentre sur le cheminement du raisonnement, en essayant d'y transférer ce caractère d'évidence).
•laisser le temps nécessaire à cette "illumination"

Lors d'une démonstration, l'intuition ne concerne pas la conclusion, car celle-ci est connue. Démontrer consiste à trouver un discours qui prouve cette conclusion. Cela ne signifie pas pour autant que l'intuition n'intervient pas, mais celle-ci concerne le cheminement de la pensée, l'enchaînement des propositions, les liens qui seront utilisés entre les différents domaines. L'élève doit avoir une "prévision" des enchaînements, même s'il est possible qu'il change d'avis en cours de réalisation. Le fait de faire parler, de faire expliciter cette prévision permettra peut- être à quelques uns de se rendre compte de l'existence de certains liens (entre définitions, propriétés, ...), et de pouvoir à leur tour essayer de démontrer.
Pour que l'élève parvienne à rechercher une démonstration complexe, il faut qu'il ose se lancer, essayer. La rigueur exigée dans cette activité ne l'est que dans la présentation du résultat. Le processus de recherche est lui comparable à ce que l'élève a rencontré jusque-là, fait d'essais, d'erreurs, de tâtonnements. Mais, pour démontrer, il faudra ensuite affiner et améliorer la justification, et non trouver une solution. L'élève devra chercher à s'appuyer sur des bases stables, justifiables, et prendra l'habitude de reconnaître ces "chemins de vérité".
Il est évident que pour développer cette intuition, nécessaire à la démonstration réellement cherchée, l'apport de la résolution de problèmes est considérable. Cette activité est surtout plus adaptée à l'école primaire, et ce n'est qu'après un apprentissage complet de ce qu'est la démonstration (donc au collège) que cette intuition va être développée à l'intérieur de cette activité. A l'école primaire, les premières expériences proches de la démonstration doivent rester très faciles à décrypter, afin de lier le cheminement utilisé et les causes explicites de la validité de la conclusion (définitions, propriétés, axiomes, ...). Elles doivent donc être ces situations décrites ci-dessus pour permettre de développer l'intuition ;
Par exemple, démontrer qu'un cercle, centré sur un sommet d'un losange et de rayon la longueur des côtés du losange, passe par deux sommets du losange. (Bien sûr, il n'est pas question de présenter sous cette forme cet exercice à l'école primaire. Mais on peut faire argumenter à partir d'une observation...) car les seules propriétés utilisées sont les définitions des objets cités, ce qui permet à l'élève de lier l'explication de cette proposition à sa démonstration.

Il y a de nombreuses situations-problèmes qui permettront, à travers la discussion qui les suivra, une bonne approche de la démonstration. La recherche de solution nous guidera, nous aidera à comprendre le "pourquoi", puis à l'expliciter. L'intuition nécessaire sera donc développée avant l'établissement de la justification, lors de la résolution,  pour permettre de mieux cerner ce concept en construction.

V- La modélisation

Bien qu'étant rarement présente dans le corps de la démonstration, elle est souvent une étape essentielle pour lier le problème à la démonstration. C'est en rencontrant un cas "particulier" que la classe va être confrontée à une question ouverte qui se résoudra par une démonstration. Mais pour démontrer, il faudra transformer ce cas particulier et souvent "pseudo-réel" en un cas mathématique.
Si cette activité est indispensable pour donner le sens de ce que l'on fait (à quoi sert la démonstration par rapport à ce problème, et donc pourquoi la fait-on?), elle ne fait pas partie de la démonstration au sens strict du terme. Elle sera developpée avec la résolution de certains problèmes (ouverts mais aussi fermés, lorsqu'il faut identifier la structure du problème afin de reconnaître une méthode de résolution connue), avec les activités autours du langage mathématique spécifique (qui est lui-même une modélisation), et bien sûr lors de la préparation aux activités de démonstration. Mais elle sera aussi développée lors des activités dans d'autres matières (biologie, physique, grammaire, arts plastiques, ...)
Ce n'est donc pas un outil spécifique à la démonstration, mais une compétence générale à développer chez l'élève.