Merci pour cette question que vous n’êtes probablement pas le seul à vous être posée. En effet, cette citation est l’une des plus fameuses de Nietzsche, et surement l’une des plus rencontrées dans la culture populaire (juste derrière le cultissime "Dieu est mort" et à égalité avec le célèbre "ce qui ne me tue pas me rend plus fort"). Le site TV Tropes va jusqu’à la considérer comme un "trope" (lieu commun) de la culture ordinaire, et répertorie son utilisation dans un certain nombre de séries télés (comme Esprits Criminels), de jeux vidéo (comme Diablo) et de film (comme, bien évidemment, Abyss).

La phrase constitue en fait la seconde moitié de l’aphorisme 146 d’un ouvrage de Nietzsche intitulé Par-delà Bien et Mal. Le mieux pour en saisir la signification est donc de reprendre l’aphorisme en son intégralité. Le voici, dans la traduction de Cornélius Heim (Gallimard, 1971) :

"Celui qui combat des monstres doit prendre garde à ne pas devenir monstre lui-même. Et si tu regardes longtemps un abîme, l’abîme regarde aussi en toi."

Une interprétation  répandue de l’aphorisme – celle qui a assuré sa popularité dans les médias cités plus haut – se focalise sur la première phrase et la comprend comme un avertissement sur le fait que combattre un mal peut conduire, si nous n’y prenons pas garde, à devenir et incarner le mal même que nous combattons. Ainsi, nous pouvons être tellement obnubilés par l’idée d’éradiquer une certaine menace que nous ne réalisons pas que les moyens que nous mettons en œuvre pour y parvenir nous rendent tout aussi mauvais. Cette idée se retrouve dans de nombreuses œuvres littéraires et cinématographiques. Un exemple « classique » peut être trouvé dans la pièce de Marivaux La Colonie dans laquelle un groupe d’hommes et de femmes exilés sur une île doivent former une nouvelle société. Les femmes en profitent pour s’émanciper de l’oppression des hommes, qui revendiquent pour eux tout le pouvoir. Mais, peu à peu, ce mouvement de libération des femmes se radicalise et certaines de ses dirigeantes commencent à vouloir confisquer tous les pouvoirs et toutes les fonctions au seul profit des femmes, mettant ainsi en place un système de pouvoir oppressif qui ressemble en tout point à celui qu’elles condamnaient au départ. Un autre exemple, plus "moderne" peut être trouvé dans la série de films La Guerre des Etoiles, où l’une des thématiques principales est que lutter contre le mal (le "côté obscur") comporte le risque de soi-même plonger de ce "côté obscur". Ainsi, la première partie de l’aphorisme de Nietzsche pointerait du doigt le fait que l’ennemi peut être tout aussi intérieur qu’extérieur, et que lutter contre le second peut faire le jeu du premier si l’on ne s’impose pas des limites.

Qu’en est-il maintenant de la seconde phrase? Toujours selon cette interprétation répandue, elle est  considérée comme une simple extension de la première, et interprétée comme signifiant qu’être obsédée par l’idée du mal peut corrompre. En effet, si "à force de regarder l’abîme, l’abîme regarde en vous", cela signifie qu’à force de regarder l’abîme, vous êtes vous-mêmes devenu l’abîme: si A regarde B, mais que A est identique à B, alors on peut aussi dire que B regarde A. L’idée est donc que la contemplation continue d’un certain mal peut vous convertir en ce mal lui-même. La seconde phrase poursuivrait donc l’idée de la première en la transposant du domaine  de l’action (le combat) à celui de la connaissance (la contemplation) en développant l’idée selon laquelle un intérêt continu porté au mal peut être source de corruption.

Le problème de cette interprétation, c’est qu’elle est bien trop moralisatrice, au sens où elle présuppose et accepte sans critique les concepts de "bien" et de "mal", alors même qu’elle se situe dans un ouvrage dans lequel Nietzsche entend se situer Par-delà Bien et Mal, et rejeter les morales traditionnelles. Pour cette raison, le "monstre" de la première phrase ne doit pas être interprété dans un sens moral (qui serait hors de propos) mais dans un sens pathologique (qui colle mieux à l’œuvre de Nietzsche en général, dans laquelle l’intérêt pour le "développement" humain prend le pas sur l’intérêt pour la "morale"): le "monstre" ne serait alors pas une personne moralement monstrueuse (le mal absolu) mais une forme de vie qui aurait échoué à atteindre sa forme pleine et parfaite (un homme qui ne serait pas pleinement homme).

Pour mieux comprendre cette première phrase, il s’agit donc de comprendre quel est le "monstre" dont il s’agit, et il n’existe aucun consensus sur cette question. Ce qui suit sera donc purement spéculatif, et donc à prendre avec des pincettes. Souvent, il est utile pour comprendre un aphorisme de Nietzsche de se reporter au contexte dans lequel il apparaît (c’est-à-dire les aphorismes qui viennent juste avant et juste après). Cependant, dans le cas présent, les aphorismes qui précèdent et celui qui suit nous parlent… des femmes. A moins de lire cet aphorisme comme une pique misogyne, mieux vaut chercher ailleurs la clé nous permettant de l’interpréter.

Cette clé nous est fournie par le fait que Par-delà Bien et Mal est, de l’aveu même de Nietzsche, une paraphrase de son œuvre majeur, Ainsi parlait Zarathoustra. Il peut donc être fructueux de rapprocher cet aphorisme d’un chapitre de Ainsi parlait Zarathoustra intitulé "Des tarentules" dans lequel Zarathoustra (un personnage imaginaire servant de porte-parole à Nietzsche) s’oppose à des monstres (les tarentules) avant de se faire mordre par l’une d’elle et de déclarer que cette morsure risque de le transformer en tarentule à son tour. On voit que l’idée générale du chapitre est la même que celle de la première phrase de notre aphorisme: celui qui s’oppose aux monstres court le risque d’en devenir un lui-même.

Mais que sont donc ces "tarentules"? Selon Zarathoustra, ce sont ceux qui sont habités par la "volonté de vengeance", une volonté qui s’oppose à la "doctrine de vie" de Zarathoustra. De façon moins imagée, les tarentules représentent tous les moralistes et les religieux qui, selon Nietzsche, ont créé leurs doctrines morales et religieuses par jalousie et ressentiment envers les grands hommes créatifs, ce qui fait de ces doctrines des instruments de vengeance destinés à limiter la "vie" (entendue comme puissance et créativité). Le combat que livre Nietzsche à travers ces ouvrages consiste à révéler ces motifs pathologiques et destructeurs (ou, plus techniquement, "nihilistes") qui se cachent sous les bons sentiments et les bonnes intentions, et ainsi à jeter le doute sur les morales et les religions dominantes. Nietzsche combat ainsi l’esprit de vengeance qui se dissimule sous ces constructions morales et philosophiques en se livrant à une "psychologie des profondeurs", visant à mettre à jour les motifs qui se cachent sous les apparences de la morale.

Le problème de cet exercice visant à ébranler et jeter à bas les opinions morales dominantes, c’est qu’il peut devenir à son tour une façon d’exercer sa vengeance. Découvrant que toutes les valeurs morales auxquelles il avait cru jusqu’alors ne sont que des illusions (parce que fondées sur des motifs psychologiques pathologiques), le "psychologue" nietzschéen court le risque de désespérer du monde et de la vie et se venger en détruisant frénétiquement toutes les morales et tous les jugements de valeur (adoptant ainsi une attitude nihiliste selon laquelle rien ne vaut la peine de vivre et tout n’est que façade). Autrement dit, il peut finir par se consacrer à détruire et jeter à bas les valeurs dominantes uniquement par haine de la vie et par esprit de vengeance, alors que Nietzsche ne voit dans l’étape de critique des valeurs qu’un exercice préliminaire devant permettre la création de nouveaux systèmes de valeur et une célébration de la vie. (Pour des développements sur ce risque, on pourra se référer aux §31 de Par-delà Bien et Mal).

Revenons maintenant à notre deuxième phrase. Le terme d’ "abîme" peut être relié à l’idée d’une psychologie des "profondeurs": l’abîme désigne ainsi l’ensemble des motifs insondables qui se cachent non seulement derrière nos actions mais aussi derrière nos codes moraux et nos visions du monde (qui sont, pour Nietzsche, fondamentalement "morales"). En plongeant son regard dans cet abîme, et en prenant connaissance de ces motifs, le psychologue nietzschéen en vient à douter de tous les jugements de valeurs humains. Seulement, il est lui-même humain (et même "trop humain"): les leçons qu’il tire de sa contemplation de l’abîme valent donc aussi pour ses propres jugements, et le conduisent à mettre en doute ses propres jugements de valeurs. Il est ainsi impossible de regarder l’abîme sans être scruté en retour, car en tant qu’humains, nous sommes des parties de cet abîme. La seconde phrase développe donc un thème cher à Nietzsche: le fait que certaines vérités sont trop difficiles pour pouvoir être supportées par tous (et que la connaissance des vérités fondamentales doit être réservée à une certaine élite). Scruter l’abîme des motifs humains, c’est s’exposer soi-même en tant qu’être humain, et courir le risque de découvrir que nous ne sommes pas aussi "moraux" que nous l’espérions.