28/07/2019

Les enjeux de l’anthropocène

 

A  propos d'un ouvrage stimulant d’un auteur romand

Serge Thorimbert - La Pentecôte des robots. Editions de l’Aire, Vevey, 2018, 238 pages.

 L'auteur est un ingénieur de 59 ans, chef d’entreprise, qui cultive aussi des préoccupations d’ordre humaniste et spirituel. Il publie un livre sur l’avenir de nos rapports avec les développements technologiques.

Une notion qu'il met en évidence est l’interfaçage entre l’humain et la nature : le fait que, depuis des millénaires, la progression de l’homme s’est faite en établissant/interposant des artefacts entre lui et l’environnement - depuis la peau de bête pour se vêtir jusqu’aux dispositifs sophistiqués en nombre croissant, smartphone, prothèses etc. De manière telle à, aujourd’hui, « s’interfaçer/se distancer de la nature au point que les équilibres de la vie sont rompus. » Dans l’histoire de l’Homme : « En concomitance avec l’émergence de la conscience, le corps et le psychisme humains ont peu à peu cessé de s’adapter à leur environnement. L’homme fait partie de la nature, en dépend mais entretient avec elle un rapport ambivalent qui lui vaut de dire l’aimer autant qu’il la détruit. »

Servitude numérique. « C’est un siphonnage permanent de nos cerveaux, de notre mémoire et de notre savoir-faire, qui s’opère par transfert vers le Cloud. Tout semble concourir pour chasser l’être humain (maillon faible et coûteux) en le remplaçant par des systèmes informatisés. » L’hypothèse d’une perte de contrôle face à l’intelligence artificielle n’est plus un fantasme. Des personnes comme Stephen Hawking, Bill Gates et Elon Musk l’envisagent. 

« Nous sommes devenus démiurges en instaurant une nouvelle ‘divinité’ : omnisciente (Big Data, le Cloud), omniprésente (internet) et omnipotente (les moyens autonomes de calcul, de commande et de pilotage), dont les facultés nous dépassent. »

Penser le futur. Ce qui caractérise les années récentes, c’est la prise de conscience qu’il n’y aura pas de retour en arrière. Toutefois : « Comment penser le futur ? Ceux que nous créditons comme aptes à le faire ne s’expriment que de manière sectorielle, en experts au jargon pas pleinement appréhendable. » « Même lorsque le consensus est large, voire unanime, nous sommes incapables de prendre les décisions qui s’imposent » - remarque qui s’applique parfaitement aux questions de climat et de biodiversité.

Nous n’avons pas d’autre choix, dit Thorimbert, que d’embrasser une véritable maturité - dans notre appréciation de la situation et notre volonté d’effectuer les changements nécessaires. Mais la majorité de la population n’en est pas là, sensible qu’elle est aux discours alléguant qu’il n’y a pas de problème...

Une éthique des machines ? « Il n’est pas inconcevable que les machines, dépourvues d’empathie mais aussi de cupidité et de goût du pouvoir, puissent accéder à une forme de ‘conscience mathématique’, froide mais déterminée à la préservation des équilibres de la vie sur la Terre »… Mécanisme qui nous protégerait de l’arrogance et de la mégalomanie que nous ne sommes pas en mesure de réfréner ?! « Les machines pourraient, mues par une forme de ‘réflexe’, couper les vivres de l’industrie de l’armement, de la production agrochimique, inhiber le fonctionnement de structures boursières et commerciales ».

« Le technocentrisme ne propose aucun projet de société. » Pour finir, cette citation de William Carlos Williams, médecin et poète américain (1883-1963) : « L’homme a survécu jusqu’ici parce qu’il était trop ignorant pour réaliser ses désirs. Maintenant qu’il le peut, il doit les changer, ou périr. »

 

 

30/11/2018

Vers le bonheur par l’IA* et Big Data ?

A Lausanne durant cette année, Cèdres Réflexion, groupe préoccupé d’éthique, conduit une série de conférences sur le thème du bonheur. Récemment, l’une avait pour titre « Le bonheur selon Google ». Y participaient Solange Ghernaouti, connue pour ses travaux en cybersécurité, Jean-Gabriel Ganascia, informaticien au CNRS, à Paris, et François Fleuret, de l’Institut Idiap-EPFL (Martigny).

Intéressants débats sur Big Data, énormes collections de données. Oui, on peut critiquer les « géants hégémoniques du net », les GAFA, de recueillir sans les payer des quantités immenses de données à notre propos. Toutefois… le fait est que, si ces firmes ne le faisaient pas, ces données resteraient ici et là, sans servir à rien ! Fleuret : « en soi, Big Data ne saurait comprendre le monde, mais les analyses qu’il rend possible permettent des prévisions souvent fiables et peuvent apporter du sens. »

Caractéristique forte d’internet, (presque) tout y est gratuit. Cela a des avantages, en permettant l’accès dans le monde entier à l’ensemble des connaissances de l’humanité, y compris aux pauvres et marginalisés. Big Data permet des avancées pour les maladies orphelines. Où sont les pièges ? On assiste à une concentration de pouvoir inouïe chez les GAFA, les atteintes à la vie privée sont un grand souci, l’addiction à internet est de plus en plus préoccupante. Le fléau des « fake news » est hypertrophié par les réseaux sociaux. J.-G. Ganascia dit sa crainte que, en acceptant ainsi les carottes que nous tendent les GAFA, nous soyons des ânes…

Parmi d’autres effets à craindre : les rapports entre les gens ne seront plus directs, face à face, mais médiatisés par des technologies ; il faudra (ré-)apprendre à se regarder dans les yeux. Une raison d’inquiétude est l’érosion des principes mutualistes de notre société, par exemple dans le domaine de l’assurance-maladie : quand en un tour de main on connaitra les facteurs de risque et l’avenir médico-sanitaire probable de chacun, combien de temps la solidarité dans un cadre comme celui de la LAMal tiendra-t-elle ?

Avancées de l’intelligence artificielle : nous nous rassurons en affirmant péremptoirement que jamais l’IA ni les machines ne parviendront à des raisonnements aussi sophistiqués que l’être humain. F. Fleuret a ses doutes, il ne voit pas de « mur computationnel » qui serait infranchissable.  Pourquoi y aurait-il là un effet de seuil, on est dans une démarche tout à fait incrementaliste, en continu. Une réflexion analogue vaut pour le transhumanisme. Beaucoup s’y opposent mais oublient la réalité que la limite est très poreuse entre homme naturel et homme « augmenté » (au plus simple, beaucoup d’entre nous portent des lunettes ou des prothèses, la suite est un continuum, de plus en plus technologique et intrusif).

Des conclusions ? Les développements technologiques ont, c’est évident, un grand potentiel. Mais aucun des orateurs ne s’est hasardé à des prédictions tant soit peu précises quant à notre futur hyperconnecté. Trop complexe… dépendant de multiples paramètres plus ou moins saisissables. Ils ne croient pas que les technologies vont « réenchanter » un monde qui en aurait pourtant besoin. Solange Ghernaouti cite cette phrase d’un collègue : « Ce que je n’ai pas trouvé dans la vie, je ne l’ai pas trouvé sur internet. »

Inutile de dire qu’on n’a pas vraiment répondu à la question de savoir si Google pourrait apporter le bonheur. Il faudrait d’abord se mettre d’accord sur ce qu’on entend par bonheur - une autre question difficile.

*IA = intelligence artificielle

12/08/2018

A mettre sur sa « reading list » d’été - si ce n’est pas fait

René Prêtre -Et au centre bat le cœur(Réédition avec un chapitre inédit)

Arthaud Poche, 2018, 358 pages.

J’avais entendu parler de son succès de ce bestseller du « Suisse de l’année » 2009 mais ne l’avais pas lu. Trop d’autres lectures ? Une réticence vis-à-vis du récit, peut-être « avantageux », des hauts faits d’une super-star ?  Ce n’était pas bien, ce livre est remarquable.

L’histoire de René Prêtre est connue de beaucoup. Enfant d’une famille paysanne du Jura, footballeur passionné (des primes reçues dans ce cadre l’ont quelque peu aidé durant ses études !), il est devenu un grand de la chirurgie cardiaque. Etudes de médecine et formation initiale à Genève. Des stages dans plusieurs autres pays puis depuis 1997 à l’Hôpital universitaire de Zurich. Patron de la chirurgie cardio-vasculaire au CHUV de Lausanne depuis 2012, puis aussi à Genève.

Récit en 19 chapitres. L’enfance dans son milieu terrien de Boncourt puis formation et ascension dans la carrière professionnelle et académique. L’auteur a au cours des années dicté son vécu des histoires rencontrées, souvent  compliquées, parfois déchirantes ; les côtés satisfaisants voire enthousiasmants mais aussi les soucis. Fierté de l’opération réussie dans les cas les plus trapus. Ce qui marque lecteurs et journalistes (j‘ai passé un peu de temps à « googler »), c’est comment il raconte quelques échecs lourds, traumatisants - ainsi la complication de Robin, garçon dont il avait convaincu la mère de pratiquer une opération qui n’était pas vitale sur le moment (la date de cet échec restant, chaque année, un funeste anniversaire).

Ces accidents de parcours, racontés avec beaucoup de transparence, sont en contrepoint d’une carrière à succès, qui à l’évidence sort de l’ordinaire. Il évoque les dimensions éthiques de son activité, discutées en équipe. Décrit en détail des dialogues difficiles avec des parents désemparés devant les enjeux et les décisions à prendre.

La manière dont Prêtre parle de ses équipes donne envie d’en faire partie. Comme d’autres, il a probablement aussi ses colères ou ses bougonnements mais on retire l’impression que, y compris quand cela « coince », voire qu’il y a urgence extrême, une collaboration entraînée, affinée au cours des années, fait que les gens sont heureux de tirer à la même corde.

Ce livre est un « page turner » (on ne résiste guère à l’envie de poursuivre la lecture). En exergue de chaque chapitre, une phrase tirée d’une oeuvre littéraire, d’un opéra ou d’ailleurs ! Dans une vie consacrée massivement au métier, on imagine que René Prêtre trouve le temps de lire (autre chose que de la science) et d’écouter de la musique. Une citation pour finir :

« Ainsi, les heures à la mine m’apprirent à ériger ces deux piliers essentiels en chirurgie : la technique et la stratégie. J’allais en découvrir plus tard un troisième, la dimension artistique, la maitrise de l’espace, des formes (…) Cette chorégraphie fluide et cette détermination me firent comprendre que la fabrication d’un chirurgien passait par un modelage long et astreignant de ses doigts et de son esprit. »