28/07/2019

Les enjeux de l’anthropocène

 

A  propos d'un ouvrage stimulant d’un auteur romand

Serge Thorimbert - La Pentecôte des robots. Editions de l’Aire, Vevey, 2018, 238 pages.

 L'auteur est un ingénieur de 59 ans, chef d’entreprise, qui cultive aussi des préoccupations d’ordre humaniste et spirituel. Il publie un livre sur l’avenir de nos rapports avec les développements technologiques.

Une notion qu'il met en évidence est l’interfaçage entre l’humain et la nature : le fait que, depuis des millénaires, la progression de l’homme s’est faite en établissant/interposant des artefacts entre lui et l’environnement - depuis la peau de bête pour se vêtir jusqu’aux dispositifs sophistiqués en nombre croissant, smartphone, prothèses etc. De manière telle à, aujourd’hui, « s’interfaçer/se distancer de la nature au point que les équilibres de la vie sont rompus. » Dans l’histoire de l’Homme : « En concomitance avec l’émergence de la conscience, le corps et le psychisme humains ont peu à peu cessé de s’adapter à leur environnement. L’homme fait partie de la nature, en dépend mais entretient avec elle un rapport ambivalent qui lui vaut de dire l’aimer autant qu’il la détruit. »

Servitude numérique. « C’est un siphonnage permanent de nos cerveaux, de notre mémoire et de notre savoir-faire, qui s’opère par transfert vers le Cloud. Tout semble concourir pour chasser l’être humain (maillon faible et coûteux) en le remplaçant par des systèmes informatisés. » L’hypothèse d’une perte de contrôle face à l’intelligence artificielle n’est plus un fantasme. Des personnes comme Stephen Hawking, Bill Gates et Elon Musk l’envisagent. 

« Nous sommes devenus démiurges en instaurant une nouvelle ‘divinité’ : omnisciente (Big Data, le Cloud), omniprésente (internet) et omnipotente (les moyens autonomes de calcul, de commande et de pilotage), dont les facultés nous dépassent. »

Penser le futur. Ce qui caractérise les années récentes, c’est la prise de conscience qu’il n’y aura pas de retour en arrière. Toutefois : « Comment penser le futur ? Ceux que nous créditons comme aptes à le faire ne s’expriment que de manière sectorielle, en experts au jargon pas pleinement appréhendable. » « Même lorsque le consensus est large, voire unanime, nous sommes incapables de prendre les décisions qui s’imposent » - remarque qui s’applique parfaitement aux questions de climat et de biodiversité.

Nous n’avons pas d’autre choix, dit Thorimbert, que d’embrasser une véritable maturité - dans notre appréciation de la situation et notre volonté d’effectuer les changements nécessaires. Mais la majorité de la population n’en est pas là, sensible qu’elle est aux discours alléguant qu’il n’y a pas de problème...

Une éthique des machines ? « Il n’est pas inconcevable que les machines, dépourvues d’empathie mais aussi de cupidité et de goût du pouvoir, puissent accéder à une forme de ‘conscience mathématique’, froide mais déterminée à la préservation des équilibres de la vie sur la Terre »… Mécanisme qui nous protégerait de l’arrogance et de la mégalomanie que nous ne sommes pas en mesure de réfréner ?! « Les machines pourraient, mues par une forme de ‘réflexe’, couper les vivres de l’industrie de l’armement, de la production agrochimique, inhiber le fonctionnement de structures boursières et commerciales ».

« Le technocentrisme ne propose aucun projet de société. » Pour finir, cette citation de William Carlos Williams, médecin et poète américain (1883-1963) : « L’homme a survécu jusqu’ici parce qu’il était trop ignorant pour réaliser ses désirs. Maintenant qu’il le peut, il doit les changer, ou périr. »

 

 

30/11/2018

Vers le bonheur par l’IA* et Big Data ?

A Lausanne durant cette année, Cèdres Réflexion, groupe préoccupé d’éthique, conduit une série de conférences sur le thème du bonheur. Récemment, l’une avait pour titre « Le bonheur selon Google ». Y participaient Solange Ghernaouti, connue pour ses travaux en cybersécurité, Jean-Gabriel Ganascia, informaticien au CNRS, à Paris, et François Fleuret, de l’Institut Idiap-EPFL (Martigny).

Intéressants débats sur Big Data, énormes collections de données. Oui, on peut critiquer les « géants hégémoniques du net », les GAFA, de recueillir sans les payer des quantités immenses de données à notre propos. Toutefois… le fait est que, si ces firmes ne le faisaient pas, ces données resteraient ici et là, sans servir à rien ! Fleuret : « en soi, Big Data ne saurait comprendre le monde, mais les analyses qu’il rend possible permettent des prévisions souvent fiables et peuvent apporter du sens. »

Caractéristique forte d’internet, (presque) tout y est gratuit. Cela a des avantages, en permettant l’accès dans le monde entier à l’ensemble des connaissances de l’humanité, y compris aux pauvres et marginalisés. Big Data permet des avancées pour les maladies orphelines. Où sont les pièges ? On assiste à une concentration de pouvoir inouïe chez les GAFA, les atteintes à la vie privée sont un grand souci, l’addiction à internet est de plus en plus préoccupante. Le fléau des « fake news » est hypertrophié par les réseaux sociaux. J.-G. Ganascia dit sa crainte que, en acceptant ainsi les carottes que nous tendent les GAFA, nous soyons des ânes…

Parmi d’autres effets à craindre : les rapports entre les gens ne seront plus directs, face à face, mais médiatisés par des technologies ; il faudra (ré-)apprendre à se regarder dans les yeux. Une raison d’inquiétude est l’érosion des principes mutualistes de notre société, par exemple dans le domaine de l’assurance-maladie : quand en un tour de main on connaitra les facteurs de risque et l’avenir médico-sanitaire probable de chacun, combien de temps la solidarité dans un cadre comme celui de la LAMal tiendra-t-elle ?

Avancées de l’intelligence artificielle : nous nous rassurons en affirmant péremptoirement que jamais l’IA ni les machines ne parviendront à des raisonnements aussi sophistiqués que l’être humain. F. Fleuret a ses doutes, il ne voit pas de « mur computationnel » qui serait infranchissable.  Pourquoi y aurait-il là un effet de seuil, on est dans une démarche tout à fait incrementaliste, en continu. Une réflexion analogue vaut pour le transhumanisme. Beaucoup s’y opposent mais oublient la réalité que la limite est très poreuse entre homme naturel et homme « augmenté » (au plus simple, beaucoup d’entre nous portent des lunettes ou des prothèses, la suite est un continuum, de plus en plus technologique et intrusif).

Des conclusions ? Les développements technologiques ont, c’est évident, un grand potentiel. Mais aucun des orateurs ne s’est hasardé à des prédictions tant soit peu précises quant à notre futur hyperconnecté. Trop complexe… dépendant de multiples paramètres plus ou moins saisissables. Ils ne croient pas que les technologies vont « réenchanter » un monde qui en aurait pourtant besoin. Solange Ghernaouti cite cette phrase d’un collègue : « Ce que je n’ai pas trouvé dans la vie, je ne l’ai pas trouvé sur internet. »

Inutile de dire qu’on n’a pas vraiment répondu à la question de savoir si Google pourrait apporter le bonheur. Il faudrait d’abord se mettre d’accord sur ce qu’on entend par bonheur - une autre question difficile.

*IA = intelligence artificielle

22/05/2018

Immortalité numérique… et biologique ?

Un des avatars de la digitalisation galopante de la société est ce qu'on peut appeler l'immortalité numérique: la persistance à très long terme (pour toujours...) des données que nous produisons maintenant par nos mails, de multiples réseaux sociaux et banques de données. Les technologies nouvelles apportent des possibilités inouïes dans la vie quotidienne, en médecine et dans tant de domaines, mais ont aussi des effets auxquels on ne s’attendait guère. Dans Les grandes questions de bioéthique au XXIe siècle, LEH Edition, Bordeaux) qui vient de paraître, le professeur poitevin Roger Gil écrit « La firme Google est totalement engagée dans la perspective de l’immortalité numérique, avec depuis 2012 Ray Kurzweil, figure emblématique du transhumanisme (…) L’immortalité numérique est aussi un moyen d’affranchir l’homme d’un corps qui l’emprisonne. Et elle n’a nul besoin de faire des hypothèses sur l’existence et le destin de l’âme. » Et Gil de relever les démarches en cours vers l’immortalité  biologique – qui sera un peu plus longue à advenir, sans doute, mais la pulsion est la même.

La question majeure, que peu débattent, est d’imaginer ce que sera une société où s’amoncellent des informations sans but ni intérêt de bon sens. Nos données personnelles, complètement anecdotiques, s’amoncellent pour nourrir le Big Data, des montagnes de scories, des mausolées que nos prédécesseurs auraient bien vite oubliés ou dont ils n’auraient pas eu conscience ni connaissance (pour leur grand bonheur). Quant à l’immortalité biologique, c’est un cauchemar. Entre autres conséquences, les enfants ne seront plus bienvenus, prenant de la place, utilisant des ressources que les immortels souhaiteront garder pour eux-mêmes.  Brave New World…