Le barbier était une femme

C’est en classes de spécialité de première et de terminale que les lycéens formalisent les concepts de bijection et de cardinal. En comptant les parties d’un ensemble H à n éléments, et sachant que 2ⁿ > n, ils tiennent pour vain de mettre en bijection H et l’ensemble de ses parties. Autrement dit, ils concluent à ce que H et P(H) ne sont pas équipotents (voir article « Un voyage dans l'infini »).

Ce cap franchi, il est bienvenu d’aller un peu plus loin en prouvant le même résultat avec un ensemble H quelconque, potentiellement infini. L’intérêt est pluriel : découvrir le génie d’une démonstration aussi courte et simple qu’elle en est miraculeuse ; remonter les traces de Cantor et de son siècle ; caresser une première fois l’échelle vertigineuse des infinis ; réfléchir à l’hypothèse du continu…

Un raisonnement par l’absurde

Il est toujours possible d’injecter un ensemble H quelconque dans l’ensemble de ses parties, ne serait-ce qu’en associant à chaque élément h de H le singleton {h}. Par contre, on ne trouvera jamais de surjection (et a fortiori de bijection) de H sur P(H). Pour établir ce théorème, dont il a l’intuition et qu’il énonce, Cantor va d’abord… le nier. Il considère donc une hypothétique application f surjective de H sur P(H). Puis il a cette intuition, en apparence saugrenue mais en vérité lumineuse, d’envisager la partie C de H définie ainsi :

L’allure de C importe peu : a priori, ce pourrait être l’ensemble H tout entier, une paire, un singleton, tout comme l’ensemble vide. Sans en préjuger, on sait néanmoins, par hypothèse (puisque C est une partie de H et que f est supposée surjective), que C admet au moins un antécédent par f . Fixons-en un, noté b, et plaçons-le relativement à C. De deux choses, l’une :

• Ou bien b appartient à C = f (b). Alors, par définition de C, b n’appartient pas à f (b), lequel est égal à C ;

• Ou bien b n’appartient pas à C = f (b). Or, cette même définition de C impose en miroir que b appartient à f (b) = C.

Dans les deux situations, l’élément b est astreint, simultanément, à appartenir à C et à ne pas appartenir à C. Face à tant de contradictions, l’application f ne peut qu’être chimérique, ce qui permet de statuer.

Ainsi exposée, cette trame vient étoffer la variété des raisonnements par l’absurde. Elle complète avec bonheur d’autres cas d’école aussi fondamentaux qu’emblématiques, de l’irrationalité de √2  à l’unicité d’une limite en passant par l’infinitude des nombres premiers.

Pour élégante qu’elle soit, la preuve de Cantor demeure abstraite. Il est de bon aloi de l’accompagner d’un dessin, sur lequel on aura marqué quelques éléments (c, c’, c’’… composant C en tant qu’ensemble) et placé l’antécédent b de C par f d’après l’alternative qui lui est offerte.

Le raisonnement de Cantor.
En rouge, les éléments qui n’appartiennent pas à leur image par f
(et qui composent donc l’ensemble C) ;
en bleu, ceux qui y appartiennent (et qui composent le complémentaire de C).
Quand l’antécédent b de C est dans C (à gauche), il est à la fois rouge et bleu.
Quand il n’est pas dans C (à droite), il est à la fois bleu et rouge.

En plus de ne déboucher, par disjonction de cas, qu’à une aberration, le raisonnement de Cantor induit un cercle vicieux.

Le raisonnement de Cantor, dans lequel chacune des deux propositions
(à gauche et à droite) se nie, induit un cercle vicieux.

Le barbier et la coiffeuse

Mais que vient donc faire le barbier dans cette histoire ? Tombant un peu comme un poil sur cette soupe de Cantor, la comparaison – dite du barbier donc – donne un moyen mnémotechnique d’en retenir la recette. D’origine controversée, la métaphore fut reprise puis vulgarisée par Bertrand Russell et ses contemporains. L’ensemble H y représente les habitants d’une cité, mettons Séville en Espagne. L’application f a pour fonction associée le verbe « raser ». Elle envoie donc chaque habitant h de Séville vers le groupe d’individus sévillan qu’il rase.

Or, f est réputée surjective. Si bien que n’importe quel groupe d’individus possède en commun de se partager (au moins) un même barbier (extérieur ou non au groupe, mais membre de la cité). En particulier – c’est un postulat de départ, conséquence de la surjectivité –, n’importe quel habitant est présumé devoir être rasé, tandis que certains habitants pourraient ne raser personne – pour ceux-là, f associera l’ensemble vide Ø. A priori, il n’y a pas incompatibilité à ce qu’un habitant se rase lui-même et se fasse aussi raser par un autre à l’occasion.

À une exception près.

En l’occurrence, l’ensemble C va réunir tous les habitants qui ne se rasent pas eux-mêmes ou, formulé différemment, qui sont de simples clients. Un antécédent de C est ce que nous nommerons un « barbier professionnel » b. La question « Qui rase ce barbier ? » manie dès lors l’antinomie : 

• que b se rase lui-même (soit b ∈ f (b) = C) et cela contrevient à sa fonction : ne raser que des gens qui ne se rasent pas eux-mêmes, à savoir de simples clients. Donc ce barbier ne se rase pas lui-même ;

• que b ne se rase pas lui-même (soit b ∉ f (b) = C) et, simple client, il doit être rasé par celui ou ceux dont c’est le rôle : les barbiers professionnels… Donc il se rase lui-même !

Il y a bien de quoi tourner en bourrique. Alors comment échapper à cette implacable logique ? En réintroduisant de l’humain ! Telle pourrait être la valeur de l’initiale h. Car pourquoi les habitants de H ne seraient-ils que des hommes, poilus qui plus est ? Où sont les femmes ? De celles qui rasent, qui se rasent ou qui ne se rasent pas ? Ou si la morale de l’histoire ne disait-elle pas… que le barbier était une femme… que Russell ou ses contemporains étaient des hommes…

Mais alors, en retour à l’envoyeur… qui coiffe la coiffeuse ?