C’est une question importante non seulement parce que le cerveau est un élément déterminant de l’évolution humaine, mais aussi parce que ce problème soulève la question de notre future. En effet, l’homme des cavernes représente une étape relativement récente dans notre longue histoire, et s’il y a eu une évolution depuis, ce processus peut être décelable même à notre époque.
Considérons d’abord très brièvement l’histoire générale de l’évolution humaine. L'homme actuel, homo sapiens sapiens, appartient à la famille des hominidés. La forme la plus ancienne des hominidés est apparue il y a 6 millions d'années alors que l’homo sapiens sapiens n’a que 200.000 ans environ. Les évidences paléontologiques (l'observation des fossiles) permettent d’identifier 5 formes principales d’hominidés:
1. Les Australopithèques : ils sont les premiers représentants des hominidés, apparus il y a plus que 4 millions d'années. Leur capacité crânienne ne dépasse pas 350 à 450 cm3 (une valeur comparable à celle du chimpanzé). Leur mâchoire est très volumineuse et proéminente; ils se nourrissent de feuilles et de racines et vivent en petits groupes. On distingue les australopithèque de leur ancêtre d’abord par leur posture verticale et par leur démarche de bipède.
2. L'Homo habilis: “handy man” appelé ainsi, car la forme de ses mains est proche de celle de l'homme actuel, il fabrique des outils (simples, en pierre taillée) et vit de la chasse et de cueillettes. C'est une forme transitoire entre l'australopithèque et l'homo erectus datant d'environ 1,5 à 2 millions d'années. L’homo habilis se caractérise par une capacité crânienne proche de 600 cm3. L’accroissement est très important soit une augmentation de 46%; une avancée remarquable.
3. L'Homo erectus: il est apparu il y a environ 1,5 millions d'années et ne cessera d'évoluer pendant 1 million d'années : la capacité de son crâne progresse de 700 à 1300 cm3, ce qui représente à peu près trois fois la capacité crânienne des premiers hominidés. L'homo erectus a probablement utilisé le feu et il était capable de construire un habitat en collectivité.
4. L'Homo néanderthalensis: il a existé 250.000 à 30.000 ans avant notre ère, il est peut-être la première forme d'homo sapiens, mais constitue une branche latérale qui se serait éteinte. Son crâne est volumineux et allongé, il atteint à peu près 1400 cm3. Son front est bas, ses sourcils prononcés et il n'a pas de menton. On trouve pour la première fois dans l'environnement du néandertalien des traces de sépultures et de rites funéraires attestant d'un fonctionnement mental évolué.
5. L'Homo sapiens sapiens: La forme de l'homme actuel aurait pris naissance il y a environ 200.000 ans. La boite crânienne présente un front plus grand et une mâchoire peu proéminente; sa capacité crânienne correspond a 1400-1500 cm3. Il y a environ 40’000 ans, avec l’apparition de la culture cro-magnon, les outils ont commencé à être plus sophistiqués et s’est développé également le travail d’art, avec l’apparition de sculptures et de peintures spectaculaires dans les cavernes.
Il faut souligner qu’en plus de ces 5 principales formes d’hominidés, les paléontologues indiquent clairement l’existence de formes intermédiaires et transitionnelles. Ceci parle en faveur de l’hypothèse selon laquelle l’apparition d’homme sur terre n’est pas le résultat d’un événement unique, mais plutôt d’un processus évolutif.
Comment le cerveau a-t-il évolué à travers ces principales formes d’hominides? Tout d'abord, le volume du cerveau montre une augmentation spectaculaire. Le volume du cerveau a été estimé à environ 350 à 450 cm3 chez les Australopithèques et 600 cm3 chez l’homo habilis. Ensuite, on constate une progression considérable chez l'homo erectus: le volume de son cerveau progresse de 700 à 1300 cm3, ce qui représente à peu près trois fois le volume cérébral de l’Australopithèque. Le cerveau de l'homme de Neandertal atteint à peu près 1400 cm3 et chose importante, depuis cette période, le volume cérébral n'a pas changé. Plus important encore que la taille du cerveau, ce sont les différences dans le développement de ses différentes parties qui vont avoir un effet sur le comportement. Durant la transition des primates à l’humain, c’est le néocortex qui s’est le plus développé. L’hominisation est liée à la bipédie et à la station érigée, qui entraîna la libération de la main. Les compétences de la main sont étroitement liées à une expansion spectaculaire de cortex moteur dans le lobe frontal et le lobe pariétal postérieur.Cette dernière partie de néocortex comprend une représentation tri-dimensionnelle très sophistiquée de notre corps et l’espace qui nous entoure. Un deuxième élément essentiel de l’évolution du cortex est la présence des aires antérieures et postérieures du langage. L’aire antérieure du langage, découverte par Broca, a évolué pour permettre un contrôle très sophistiqué de la bouche et de la mâchoire, et, au fur et à mesure de l'évolution des humains, cette région en est arrivée à contrôler les mouvements nécessaires au langage. De plus, l'aire de Broca est reliée à une région du cerveau située immédiatement devant elle, qui est associée à la récupération de l'information dans la mémoire. Ces connexions donnent à penser que l'aire de Broca est dans une position unique pour utiliser l'information concernant les expériences passées, stockée dans la mémoire, pour les mettre au service d'actes de communication. Le troisième élément essentiel de l’évolution du cortex est l’augmentation de taille des réseaux impliqué dans les processus d’apprentissage et la mémoire. Ces réseaux dans des lobes frontaux permettent l'introduction de la notion de temps présent (la mémoire autobiographique) et à venir (la mémoire prospective).
Nous avons vu que depuis l’homme de néanderthal, en passant par l’homme de cro-magnon (que l’on appelle aussi l’homme des cavernes) jusqu’à l’homme moderne, le volume cérébral est resté a peu près le même, c’est-à-dire entre 1200-1600 cm3 en moyenne. Toutefois, des modifications profondes n'ont cessé de s'opérer dans les pratiques sociales et culturelles. Les fonctions mentales se sont développées, le langage (apparu avec Homo érectus) se perfectionne, la vie sociale s'organise, la mécanisation ne cesse de progresser. De toute évidence, l’homme de cro-magnon a été beaucoup plus habile et intelligent que l'homme de néandertal. Il est aussi très probable que l’homme moderne soit doué de capacité mentales plus évoluées que celle de l’homme des cavernes. Quels sont les changements dans son cerveau qui permettent ces progrès ?
On peut supposer qu’au cours de l’évolution, il a été nécessaire d’augmenter la complexité des circuits neuronaux pour assurer l’apparition de fonctions cognitives plus variées, et cela sans accroissement du néocortex. Évidemment, le processus de croissance en taille du cerveau ne peut continuer indéfiniment. Une stratégie évolutive pour améliorer la capacité de cerveau pourrait consister à augmenter la diversité et le nombre des aires fonctionnelles dans le cortex cérébral. L’augmentation de la taille du cerveau est probablement accompagnée en parallèle d’une augmentation du nombre de subdivisions fonctionnelles (réorganisation). Une autre stratégie évolutive pourrait être liée à l’asymétrie des fonctions corticales. Dans la symétrie fonctionnelle des hémisphères gauche et droit, toutes les fonctions néocorticales sont dédoublées. En développant une spécialisation gauche ou droite pour chacune des fonctions cognitives, il devient possible d’augmenter le nombre de réseaux sans construire plus de cortex. Donc l’organisation asymétrique a potentiellement dédoublé la capacité du cortex. Autrement dit, depuis l’homme des cavernes, il y a probablement eu un shift d’une organisation anatomique macroscopique vers une spécialisation fine, plutôt fonctionnelle, des réseaux corticaux. Le cortex cérébral a non seulement multiplié son volume, mais il s’est vraisemblablement transformé en une structure infiniment plus complexe à partir de laquelle se sont développés la dextérité manuelle, le langage, la pensée et la conscience.