Jusqu'à ces toutes dernières années, leur existence restait hypothétique. Sorties voici quarante ansde l'imagination de l'astronome Harlow Shapley, les naines brunes, étoiles trop petites pour déclencher dans leur noyau les réactions thermonucléaires, demeuraient invisibles. Mais depuis deux ans, la chasse est ouverte et elle s'avère fructueuse : de l'Hydre jusqu'aux Pléiades, une dizaine d'entre elles ont déjà été découvertes.

Chercher à observer des objets dont ils supposent l'existence par des considérations toutes théoriques est une vieille habitude chez les astronomes. En 1846, Urbain Le Verrier avait ainsi prédit l'existence et la position de Neptune d'après le mouvement d'Uranus. Plus récemment, en 1933, l'astronome suisse Fritz Zwicky étudia les mouvements relatifs des galaxies de l'amas de Coma, situé à quelque 300 millions d'années-lumière, et arriva à la conclusion surprenante qu'il devait exister dans cet amas d'importantes quantités de matière échappant aux observations. Dans le cas contraire, les galaxies ne pourraient pas rester liées entre elles par la gravitation et l'amas se disperserait. Dans les années 70, des considérations dynamiques analogues sur la rotation de notre galaxie révélèrent la présence de matière invisible concentrée essentiellement dans le halo : ainsi nous ne verrions qu'à peine un dixième de la masse galactique totale ! Mais si quelques mois seulement se sont écoulés entre les conclusions des calculs de Le Verrier et l'observation de Neptune par l'astronome allemand Johann Galle, la masse de notre galaxie reste, elle, toujours bien "cachée" et sa nature demeure l'une des grandes énigmes de l'astrophysique moderne. Mise à rude épreuve, la persévérance des astronomes commence cependant à être récompensée. Une des formes possibles de cette masse manquante est en passe de venir grossir pour de bon le bestiaire stellaire. Il s'agit des "naines brunes". Ces objets trop peu massifs pour être des étoiles, sans êtrepour autant des planètes, doivent leur appellation à une jeune astronome de l'université américaine de Berkeley, Jill Tarter, qui inventa le terme en 1975. Dix ans plus tard, elle le popularisa lors d'une série de conférences dont le titre "Brun n'est pas une couleur" était fort approprié pour des objets qui persistaient à échapper aux meilleurs télescopes. Cette terminologie l'emporta vite sur ses concurrentes (étoile mort-née, naine infrarouge, géante gazeuse...) et entra dans l'index des revues professionnelles d'astronomie en 1986. Le nombre d'articles consacrés au sujet passa vite d'une petite douzaine àplusieurs dizaines par an, mais de naine brune visible, toujours point ! Il y eut bien une première candidate sérieuse en 1985, un compagnon très faiblement lumineux de l'étoile proche Van Biesbroeck 8, mais elle se révéla vite être une sorte d'artefact. D'autres prétendants suivirent, mais aucun ne tint ses promesses.Quelles raisons pouvaient donc bien pousser les astronomes à s'intéresser autant à ces objets hypothétiques ? Tout d'abord celle que David Stevenson, chercheur au California Institute of Technology (ou Caltech), nomme le "principe écologique". On connaît l'existence et la nature des planètes pour vivre sur l'une d'elles et avoir exploré ses plus proches voisines. On connaît bien sûr celles des étoiles, et surtout le fait qu'un facteur 100 sépare les masses des unes et des autres. Cela fait un sacré trou dans une distribution de masse ! Il est dès lors facile de concevoir que cette "niche" doit être peuplée et qu'elle nous semble vide parce que nous ne sommes pas techniquement en mesure d'observer ses occupants. D'autant que sur un plan strictement théorique, ces objets se laissent plus facilement appréhender : on avait compris leur nature physique bien avant de pouvoir les observer. Ce sont de plus des candidats idéaux pour constituer un peu de cette masse qui s'obstine à demeurer invisible. Et il n'y a pas non plus d'argument physique qui laisserait penser que le processus de formation stellaire cesse en deçà d'une certaine masse.

C'est en 1958 que l'Américain Harlow Shapley mentionna pour la première fois dans son ouvrage On stars and men des "masses qui seraient beaucoup plus faibles que notre Soleil, mais plus grandes que nos planètes". Shapley proposa un intervalle compris entre 1/500 et 1/50 de masse solaire. La limite s'est depuis précisée: il existe une masse critique égale
à 0,08 masse solaire en deçà de laquelle la physique interne de l'objet est complètement différente de celle d'une étoile comme notre Soleil. Une naine brune est ainsi incapable d'effectuer ce que toute bonne étoile fait une majeure partie de sa vie : convertir l'hydrogène en hélium par un processus de fusion nucléaire. Pourquoi cela ? Parce qu'au terme de la phase de contraction du nuage de gaz qui donne naissance à une étoile, la naine brune est trop peu massive pour que la température de son coeur atteigne la valeur critique de trois millions de degrés nécessaire àl'enclenchement des réactions nucléaires. Son énergie interne est alors insuffisante pour que la pression exercée par son gaz contrebalance sa contraction gravitationnelle. Résultat : au lieu de s'installer dans un régime d'équilibre, l'astre continue de s'effondrer sur lui-même. Au fur et àmesure qu'il se contracte, ses électrons se rapprochent les uns des autres et le gaz devient "dégénéré". Ses propriétés changent du tout au tout : elles suivent alors les principes de la mécanique quantique. C'est là qu'entre en jeu la pression quan-
tique, qui résulte de l'impossibilité pour deux électrons d'être entassés dans un même état quantique. Contrairement àla pression de la mécanique classique, la pression quantique ne dépend pas de la température. C'est elle qui va s'opposer à l'effondrement gravitationnel et qui explique le comportement surprenant d'une naine brune : celle-ci continue de se contracter mais sa température diminue ! Aucune chance donc d'atteindre le seuil fatidique des trois millions de degrés. Seules des réactions de fusion du deutérium (un isotope de l'hydrogène) peuvent éventuellement s'enclencher. Mais il y a si peu de deutérium par rapport à l'hydrogène ordinaire que sa fusion ne perturbe guère la contraction de la naine brune. Celle-ci continue de se refroidir et s'éteint inexorablement.

Si la masse supérieure critique d'une naine brune est bien connue (autour, donc, de 0,08 masse solaire), sa masse limite inférieure l'est beaucoup moins et pourrait fort bien être de l'ordre de celle de Jupiter (soit un millième de masse solaire). Ce qui ne conduit cependant pas à confondre planètes géantes et naines brunes, qui diffèrent par leur processus de formation. D'où la définition donnée par les théoriciens : le terme de naine brune désigne tout corps qui s'est formé d'une manière stellaire, mais avec une masse insuffisante pour brûler de l'hydrogène.
Voilà pour la théorie, mais que peuton au juste espérer voir de ces avortons d'étoiles ? Et surtout, comment les distinguer par l'observation d'étoiles de faible masse, sachant que la masse est un paramètre très difficile à déterminer pour un astre ? La luminosité d'une naine brune, environ un millionième de celle du Soleil, en fait une cible particulièrement délicate àobserver. Avec la limite de détection des instruments actuels, on ne peut espérer repérer directement que les plus proches d'entre elles. En raison de sa faible température, une naine brune rayonne principalement dans l'infrarouge, entre 2 et 10 pm. Des modèles très élaborés d'atmosphère stellaire permettent de caractériser assez précisément son spectre, c'est-à-dire la répartition de l'énergie émise suivant la longueur d'onde. La température de la photosphère, d'où provient la majeure partie du rayonnement visible, est inférieure à 2 000 °C - pour comparaison, celle du Soleil est de 5 500 °C. Pour des températures aussi basses, le spectre ne ressemble plus du tout au spectre typique d'une étoile, à savbir celui émis par un corps sous l'effet de sa seule température (appelé spectre thermique de corps noir). L'énergie cinétique des atomes à la surface d'une naine brune est assez faible pour que des éléments subsistent sous forme moléculaire (hydrogène HZ, méthane CH 4, monoxyde de carbone CO...). En dessous de 1 500 °C, des atomes peuvent même se condenser sous forme de petites particules solides. Tous ces éléments vont absorber le rayonnement émis, chacun à une longueur d'onde spécifique, ce qui confère au spectre un aspect tout à fait singulier, sorte de signature facilement identifiable, tout du moins en théorie !Car en pratique, encore faut-il pouvoir recueillir le spectre du candidat, généralement un objet très rouge et très faible, pour espérer identifier la "signature naine brune". L'opération nécessite le plus souvent plusieurs heures d'observation au foyer des plus puissants télescopes. Impensable donc de procéder au hasard.
La chasse aux naines brunes fait appel à tout un arsenal de méthodes, directes ou indirectes, pour sélectionner les meilleurs postulants à un suivi spectroscopique. Un indicateur sûr étant la masse du candidat, la quête s'est tout naturellement orientée vers la recherche de systèmes stellaires doubles, pour lesquels la troisième loi de Kepler peut donner une estimation de la masse du compagnon.

Une première méthode de détection possible s'apparente à celle utilisée pour la recherche de planètes extrasolaires l'influence gravitationnelle du compagnon se traduit par un décalage systématique des raies spectrales de l'étoile principale, décalage dû à une modulation de sa vitesse par effet Doppler. On peut aussi tenter de détecter directement le compagnon selon une technique très sophistiquée dite d'interférométrie infrarouge à tavelures. Cette méthode a mené à la découverte en 1985 du premier candidat sérieux, VB8 B, autour de l'étoile Van Biesbroeck 8. Bien que malheureux par la suite, ce prétendant eut cependant la vertu de donner un nouvel élan aux recherches observationnelles, et de déclencher la production d'une profusion d'articles théoriques. Peu après, un objet très rouge et très faiblement lumineux, GD 165 B, fut détecté autour de la naine blanche GD 165, lors d'un examen systématique des naines blanches les plus proches de nous. Ces dernières constituent d'excellents candidats de systèmes multiples susceptibles d'abriter une naine brune. Elles sont très communes et leur éclat est suffisamment faible pour ne pas masquer complètement celui d'un éventuel compagnon. GD 165 B, dont le spectre se différencie nettement de celui des étoiles de faible masse, est devenu un objet de référence pour les astronomes. Malheureusement, près de 120 UA (environ trois fois la distance de Pluton au Soleil) le séparent de GD165. Difficile dans ces conditions de suivre son déplacement orbital - beaucoup trop lent - et ainsi d'accéder à sa masse ; la nature de GD 165 B demeure donc incertaine.
La vedette est revenue à Gliese 229B, le tout premier objet à avoir été identifié comme une naine brune de façon incontestable. Découvert en 1995 par Tadaski Nakajina et son équipe du Caltech, il est séparé de 7,8 secondes de degré de l'étoile de magnitude 8 Gliese 229, située dans la constellation du Lièvre. C'est en éclipsant artificiellement l'étoile à l'aide d'un coronographe qu'a pu être aperçu le compagnon, brillant faiblement à une magnitude 20 dans le visible. Celui-ci présente le même mouvement propre, c'est-à-dire le même déplacement apparent sur la voûte céleste, que Gliese 229, preuve que les deux corps forment bien un système binaire et que leur proximité apparente n'a rien d'une coïncidence. De la distance bien connue du système (19 années-lumière), on en déduit l'éclat intrinsèque de Gliese 229B : une magnitude absolue de 15,6 dans l'infrarouge (à 2,2 pin). Ce qui en fait un objet cinq fois moins lumineux que 165B, son concurrent le plus sérieux.
Un objet de masse supérieure à la masse limite de 0,08 masse solaire mettrait selon les modèles d'évolution stellaire un temps bien supérieur à l'âge de l'Univers pour devenir aussi faiblement lumineux ! Autre indice décisif, la détection des raies du méthane, qui traduit une température de surface inférieure à 1 300 °C environ. Les modèles théoriques de refroidissement suggèrent une masse de quelques dizaines de fois la masse de Jupiter pour qu'une température aussi basse puisse être atteinte, compte tenu de l'incertitude sur l'âge de l'objet. Depuis, plusieurs autres postulants ont été formellement identifiés comme naines brunes, en passant notamment ce que les astronomes appellent le "test du lithium". Cet élément, créé dans des proportions infimes au moment du big bang, est détruit au coeur des étoiles. Mais pour des objets de masse inférieure à 0,06 masse solaire, la température centrale est trop faible pour que le lithium soit brûlé. Sa signature dans le spectre d'un objet rouge et faiblement lumineux constitue donc une indication fiable de la nature de l'astre. Sur les quelques naines brunes découvertes ces deux dernières années, la plupart appartiennent à des amas d'étoiles jeunes comme les Pléiades ou les Hyades. C'est que, très tôt, les astronomes ont entrepris de passer au peigne fin ces amas, car leur âge, assez bien connu, permet d'estimer, à l'aide de modèles théoriques, la masse des objets les plus faiblement lumineux. En mars dernier, Rafael Rebolo et son équipe de l'Institut d'astrophysique des Canaries annonçaient ainsi la découverte dans l'amas des Pléiades de plusieurs naines brunes, dont la nature a été confirmée par des observations spectroscopiques. Fin avril, la première naine brune esseulée a été repérée àquelque 33 années-lumière dans la constellation de l'Hydre par Maria Teresa Ruiz, depuis l'Observatoire européen austral. Bien que l'on n'ait encore aucune idée précise de leur nombre dans la Galaxie, au moins sait-on un peu mieux maintenant où et comment les chercher et la quête s'annonce enfin prometteuse.