L’emballement technologique. Éviter qu’un rêve ne tourne au cauchemar

Faut-il avoir peur du cyborg? Cette perspective nous menace-t-elle? La question n’est pas oiseuse et il faut féliciter Jacques Dufresne de l’avoir abordée récemment dans son livre et la revue Argument d’en avoir fait un objet de débat. Un même débat se déroule d’ailleurs aux États-Unis, notamment dans la revue Wired (avril 2000) et sur les ondes de la National Public Radio, où il a mis aux prises Bill Joy, informaticien de Sun Microsystems, et Ray Kurzweil.

En fait, c’est ce dernier qui a fait passer le débat du cercle étroit des ingénieurs en robotique et des mordus de la science-fiction, dans la sphère du grand public. Ray Kurzweil est un ingénieur américain respecté dont la carrière d’inventeur a été très fructueuse. Après avoir notamment inventé le procédé de lecture optique des caractères, il s’est mis à faire des pronostics sur l’avenir de notre civilisation dans deux ouvrages qui ont suscité beaucoup de réactions. Le premier s’intitule The Age of Intelligent Machines (1990); le second, The Age of Spiritual machines (1999). Rien qu’à lire ces titres, on perçoit déjà un effet de surenchère. Présumons qu’en 2009, son prochain ouvrage s’intitulera The Age of Mystical Machines. En dépit de ce côté provocateur, qui joue sur les peurs du public, il y a là un symptôme qui mérite examen. Les effets combinés des percées technologiques dans divers domaines, tels l’informatique, la biologie moléculaire et les télécommunications, ont atteint un niveau où notre environnement pourrait être radicalement bouleversé avant même que la société civile n’ait eu le temps de réagir.

En mettant au point les méthodes de la découverte scientifique, voici quelques siècles, l’homme s’est donné les moyens de devenir égal à ce dieu dont il a toujours rêvé. Lui qui, selon la Genèse, avait été créé à l’image de Dieu, veut aujourd’hui créer un être qui lui ressemble, grâce aux outils que lui donne la science. Le vieux rêve semble se rapprocher de la réalité : chaque jour nous donne davantage de moyens d’affirmer notre puissance démiurgique. Le processus d’individualisation qu’avait déjà passablement accéléré l’expansion de l’imprimerie prend une nouvelle dimension, maintenant que l’Internet permet une fluidité inégalée dans la circulation des données et le choix des styles de culture. Plus que jamais, l’individu se sent en charge de son destin, échappant aux contraintes que lui imposait jadis son ancrage dans un territoire contrôlé par un appareil religieux et social omniprésent. Disposant d’une compréhension du monde toujours plus fine et d’équipements techniques plus sophistiqués, bien des ingénieurs qui travaillent dans les grands laboratoires partagent probablement le fantasme de création qui revient comme un leitmotiv dans l’ouvrage de Kurzweil :

L’évolution a créé l’intelligence humaine. Maintenant, l’intelligence humaine met au point des machines intelligentes à un rythme beaucoup plus rapide. Ce sera encore un autre exemple lorsque notre technologie intelligente prendra le contrôle de la création d’une technologie encore plus intelligente qu’elle-même. (p. 47)

Ou encore, plus loin dans le même ouvrage :

Avec la prochaine étape de la création, où apparaîtra une nouvelle génération d’humains qui seront des milliards de fois plus capables et plus complexes que les hommes d’aujourd’hui, notre capacité d’éprouver des expériences spirituelles devrait aussi gagner en puissance et en profondeur. […] Les machines, dérivant de la pensée humaine et surpassant les humains dans leur capacité d’expérience, prétendront être conscientes et donc spirituelles. Elles croiront qu’elles sont conscientes. Elles croiront éprouver des expériences spirituelles. (p. 153; ma traduction)

Ray Kurzweil base son mythe de la création sur une extrapolation dans le futur de la loi de Gordon Moore, fondateur d’Intel, selon laquelle la capacité de calcul d’un microprocesseur double tous les dix-huit mois : on peut ainsi supposer que le micro-processeur sera bientôt infiniment plus complexe, et donc plus intelligent, que le cerveau humain. Or, une telle équation, posée comme un axiome, revient à confondre quantitatif et qualitatif. L’intelligence suppose un bond qualitatif grâce auquel un ensemble de cellules se dote d’une intention d’exploration et de maîtrise de son environnement et, éventuellement, accède à la conscience. La puce électronique en est bien loin, en dépit de la métaphore qui lui a donné son nom. Quand bien même on réunirait toute la puissance de calcul des quelques deux cents millions d’ordinateurs de la planète, on n’aurait jamais que des outils inertes. Les progrès de l’Intelligence artificielle nous donneront demain un aspirateur autonome et un réfrigérateur cuisinier. Mais ce seront toujours des outils.

Je ne crois donc pas que, dans un futur prévisible, un robot risque de nous remplacer dans l’échelle de l’évolution. L’évolution des travaux en Intelligence artificielle depuis une vingtaine d’années ne permet pas de laisser entrevoir la mise au point d’une forme d’intelligence qui soit à même de nous comprendre et de dialoguer avec nous.

Si des machines autonomes ne sont pas pour demain, une autre perspective à envisager est celle du cyborg. Grâce à la miniaturisation des circuits électroniques, des machines intelligentes seront couplées plus étroitement à notre organisme. Cela ne menace-t-il pas notre espèce?

Tout le monde connaît le roman de Mary Shelley, Frankenstein ou le Prométhée moderne, dont la publication en 1817 a coïncidé avec des percées importantes dans les sciences et les techniques. Mais le concept est plus ancien. En réalité, le thème de l’avènement d’un cyborg a hanté l’humanité depuis longtemps. Il se rattache à la longue tradition du génie dans une bouteille ainsi qu’à celle du golem, qui nous vient de la kabbale juive médiévale. Depuis plusieurs dizaines d’années, le thème d’un contrôle de l’humanité par les robots a retenu l’attention des écrivains de science-fiction et a nourri les fantasmes des ingénieurs. On suppose ainsi que des artilects intelligents pourront bientôt se reproduire et dépasser l’intelligence humaine. Le thème a été traité par Philip K. Dick dont on connaît le fameux Blade Runner. Plus récemment, le film La Matrice a joué avec humour et habileté sur cette peur diffuse qui est conjurée à grand renfort de mythes grecs et judéo-chrétiens.

Et il est vrai que les réalisations en informatique et en ingénierie sont en train de conférer une actualité toujours plus grande au concept de cybernétique, créé par Norbert Wiener au milieu du XXe siècle. Ainsi, la revue Wired a fait sensation en publiant dans son numéro de février 2000 l’article d’un ingénieur britannique qui veut se faire implanter des microprocesseurs interfacés avec ses cellules nerveuses afin de pouvoir communiquer directement avec un ordinateur. Cet ingénieur suppose notamment que dans le futur :

nous enverrons des signaux sans avoir besoin de parler. La communication par la pensée remplacera le téléphone. […] Dans l’avenir, nous n’aurons pas besoin de coder nos pensées sous la forme de langage — nous transmettrons de façon continue des symboles, des idées et des concepts sans passer par le langage. (Wired, 8.02, p. 150-151)

De tels propos frappent par leur parfum d’utopie, surtout quand on considère combien l’élaboration d’une pensée reste un processus incertain et qui n’a vraiment pris son essor qu’avec l’avènement de l’écriture, parce que celle-ci permet de la projeter au-dehors de notre esprit et de lui donner une forme objective et matérielle. En outre, l’ingénieur semble croire que la pensée est un état plutôt qu’un acte. Et cet acte s’appuie sur les mots et le langage, de même que la marche s’appuie sur ces outils que sont les jambes. Quand on considère la difficulté qu’il y a à trouver le mot juste pour exprimer sa pensée, alors même que la langue met à notre disposition un vocabulaire de plusieurs dizaines de milliers de mots, on peut se demander en quoi le recours à des symboles permettrait la communication d’une pensée plus claire et plus précise.

Cela dit, on peut se réjouir du fait que des ingénieurs s’attaquent maintenant à des problèmes qui ont occupé les philosophes durant des millénaires, tels la pensée, la conscience, la spiritualité, la mémoire, etc. Voilà qui devrait redonner de la vigueur à des débats essentiels en les transportant dans le grand public.

Il faut aussi se réjouir du fait que des prothèses de plus en plus intimement couplées au corps soient mises au point. Ainsi, le 19 mars dernier, Le Monde annonçait qu’une équipe médicale de Montpellier avait permis à un paraplégique de retrouver un certain usage de ses jambes en dérivant des connections nerveuses sur un microprocesseur implanté dans son abdomen et relié aux muscles qui commandent la marche. Pour ce malade, il s’agit là d’une merveille de la technologie qui n’est pas loin d’évoquer le miracle de l’Évangile. Le programme européen qui a permis la mise au point de cette technique s’appelle d’ailleurs Stand up and walk, « Lève-toi et marche! ». Bien des paraplégiques ont probablement les yeux rivés sur ces percées médicales et technologiques. Mais il ne faudrait pas que ce genre de prouesse nous aveugle et fasse illusion : ce qui fait le bonheur d’un handicapé ne devrait pas faire l’envie des bien portants.

Bref, là encore, il y a tout lieu de croire que les avancées de la cybernétique nous donneront de meilleures prothèses plutôt que des doubles de nous-mêmes. Outre des prothèses de type musculaire, d’autres amélioreront des sens déficients, nous aidant à mieux entendre, à mieux voir, à communiquer de façon toujours plus étroite et plus furtive avec des ordinateurs plus sophistiqués. Nous serons ainsi en mesure d’être connectés de n’importe où au réseau Internet, avec accès à des milliards de pages de données, aux archives de la plupart des musées et des bibliothèques ainsi qu’à des données compilées par des millions de personnes privées, en fait à la plus grande part de la mémoire humaine.

Il faudrait cependant être Candide pour conclure que tout va pour le mieux dans le meilleur des mondes. En effet, à défaut d’être menacée par des robots, l’humanité l’est d’abord par elle-même et par bien d’autres avancées effectuées sur divers fronts. Plus les outils techniques se perfectionnent, plus facilement il est possible à un individu ou à un petit groupe d’individus de tourner ces outils en engins de mort et de menacer la société, voire la planète entière.

Par ailleurs, l’effet combiné des percées techniques laisse entrevoir des développements réellement inquiétants. Un des dangers les plus sérieux est la possibilité que promettent les nanotechnologies de créer des machines autoréplicantes. C’est vraiment là un domaine où les démiurges qui œuvrent dans nos laboratoires risquent de se brûler les doigts. En effet, une machine capable de s’autoreproduire mime la vie dans sa forme la plus élémentaire et la plus dangereuse aussi : c’est la caractéristique du virus qui va se multiplier autant qu’il le pourra, jusqu’à détruire l’organisme dont il était l’hôte. Dans les systèmes de vie naturelle qui se sont développés sur notre planète, il existe quantité de freins naturels, qui assurent un équilibre entre les espèces. En revanche, dans les organismes élémentaires qu’envisagent de créer les nanotechnologies, la menace d’un emballement du système est toujours possible, comme le rappelle Bill Joy. De même, on ne peut écarter du revers de la main des scénarios catastrophes où des laboratoires laissent échapper dans la nature des organismes génétiquement modifiés et devenus incontrôlables. Un rêve millénaire de maîtrise de l’environnement pourrait ainsi se transformer en cauchemar.

Des garde-fous s’imposent, certes, mais lesquels? Et comment les mettre en place? Il me paraît évident que l’on ne peut pas arrêter la recherche. Les pays qui cesseraient de subventionner leurs universités et leurs grands laboratoires seraient condamnés à un déclin rapide et à devenir les créanciers des pays qui n’auraient pas fait le même choix. Nous sommes tous dans un même bateau, une arche de Noé, ou une nef des fous, qui vogue vers un même avenir. Des décisions prises à l’échelon national, qui pouvaient encore influencer durablement le cours des choses voici quelques dizaines d’années, ne le peuvent plus aujourd’hui. Il importe donc de trouver les moyens de se prémunir contre les accidents ou les sabotages. Pour cela, je vois trois ordres de précautions.

Tout d’abord, il faut assurer un contrôle démocratique sur les décisions qui sont prises à tous les échelons, car la transparence des décisions est la meilleure garantie de notre sécurité. Nous avons besoin pour cela dans tous les pays de médias nombreux et critiques, dont la liberté d’investigation soit protégée par la loi. Ceux-ci ne doivent pas seulement scruter ce qui se passe dans les bureaux du gouvernement, mais aussi dans les laboratoires et les conseils d’administration des grandes sociétés. Au plan de la diffusion de l’information, la situation est certes plus encourageante que par le passé. L’arrivée du Web et du courrier électronique a contribué à renforcer la possibilité d’un contrôle démocratique, en abolissant les frontières et en permettant à tout un chacun de faire circuler de l’information. Et les médias classiques ont gagné en pouvoir de diffusion du fait qu’ils sont accessibles par Internet, comme c’est déjà le cas pour la plupart d’entre eux. De ce point de vue, les nouvelles technologies de communication sont dans leur essence des forces de libération, tout comme l’a été l’arrivée de l’imprimerie, car elles rendent plus difficiles le secret et la censure, à l’ombre desquels s’abritent traditionnellement les dictatures.

En second lieu, il faut viser à un renforcement de l’éducation publique. Et pas seulement dans les matières techniques, mais aussi dans les domaines de l’éthique et de la philosophie, bien sûr. La littérature mérite aussi d’être revalorisée dans la formation générale, car elle est le lieu où peuvent être abordées sous une forme métaphorique ou fictionnelle les grandes questions qui hantent notre existence. Et celles-ci ne seront jamais réductibles à un ensemble d’équations gérées par des ingénieurs. La rationalité technique ne doit pas envahir tous les aspects de la vie sous peine de déboucher sur un « cauchemar climatisé ».

Enfin, il faut hâter la mise en place de principes directeurs et de normes de contrôle au plan international. Comme l’essence de la recherche et du progrès technique passe par le filtre des brevets, nous avons déjà là des moyens de repérer les technologies potentiellement dangereuses et de les entourer de garde-fous. Le débat devrait également être porté dans le public quant à ce qui peut faire l’objet d’un brevet et ce qui ne le peut pas, car les décisions qui se prennent en la matière sont de celles qui modèlent le type de société dans laquelle nous vivrons demain. Cela est particulièrement vrai du clonage et des technologies du vivant.

En même temps, le pouvoir politique ne doit pas laisser pourrir des situations inacceptables, qui pourraient créer une classe de parias de l’information, d’exclus du cyberespace, au détriment de la cohésion sociale qui doit animer tout groupe d’individus habitant un même espace géographique. Même dans le monde de demain, nous aurons encore besoin d’une société civile capable de gérer le bien commun car les tensions sociales promettent d’être de plus en plus fortes. La fabuleuse progression de l’économie à laquelle on assiste depuis près de dix ans ne serait-elle pas due à la conviction plus ou moins consciente que la richesse fera désormais une différence cruciale en matière d’accessibilité à toutes les merveilles que nous promet ce nouvel âge de la science et de la technique? Autrement dit, le reflux des idéaux égalitaires ne serait-il pas précisément ce qui dope en ce moment les marchés boursiers de tous les pays? Au plan surtout des services de santé et d’éducation, le grand débat dans lequel nous sommes déjà engagés sera de déterminer l’endroit où tracer la frontière entre les possédants et les autres.

Bref, les grands défis qui nous attendent dans le XXIe siècle seront encore des défis d’ordre politique, mais compliqués par la pression du progrès technique et la double appartenance des individus, à la fois au monde physique de la géographie et au monde virtuel de la culture.

Christian Vandendorpe*

NOTES