01/04/2020

Lutter contre les "fake news" - D'autant plus important en période de pandémie

 

Le contrôle de qualité de ce qu'on peut trouver sur le net est un sujet aigu. Les fausses informations sont particulièrement préoccupantes dans le domaine médico-sanitaire et les médias fiables rendent attentif à leur fréquence. Près de moi vers le 11 mars, des connaissances ont disséminé de bonne foi une info angoissée prétendument issue de Chine qui, avec certaines choses correctes, en disait d’autres erronées - dont une recommandation de boire des boissons chaudes pour se protéger du virus ! C’était un hoax (canular). Ce qui attirait l’attention sur la fragilité du message, c ’est que l’envoyeur allégué était une association contre la thrombose vasculaire…

Les mesures fortes ordonnées par les gouvernements ont étonné voire stupéfié les populations - et passablement de responsables économiques ou politiques. Logiquement, beaucoup ont fait une analogie avec le dérèglement climatique, qui demande des décisions aussi fortes dans leur ordre de grandeur - même si elles n’ont pas à être prises dans les 24 ou 48 heures. Mais, dans les deux cas, les actions adéquates vont déstabiliser le modèle actuel de fonctionnement de la société. Peut-être la crise liée au coronavirus aura-t-elle le mérite de nous préparer à ce que requiert la transition énergique indispensable pour lutter contre le réchauffement ?

« C’est là que cette crise sanitaire rejoint l’autre, climatique. Si nous pouvons vivre avec l’annulation des vols, la fermeture d’écoles, pourquoi ne pas accepter, plus tard, les restrictions rendues nécessaires par la réduction des émissions de CO2? », dit Serge Michel, rédacteur en chef du site heidi.news, le 14 mars.

Pour les deux problématiques, se pose de manière aiguë la question des fake news. Ainsi, un ancien de l’EPFL, à Lausanne, inonde les rédactions de messages erronés, prétendant sur la base de travaux d’il y a plusieurs décennies - infirmés depuis, que le changement climatique n’est pas dû aux gaz à effet de serre et n’est pas d’origine anthropique. Il arrive que des journaux publient ces allégations, trompés par la référence à une Haute Ecole.

Le nécessaire contrôle de la qualité des informations sur les réseaux sociaux et autres médias a encore beaucoup de pain sur la planche.

 

 

28/07/2019

Les enjeux de l’anthropocène

 

A  propos d'un ouvrage stimulant d’un auteur romand

Serge Thorimbert - La Pentecôte des robots. Editions de l’Aire, Vevey, 2018, 238 pages.

 L'auteur est un ingénieur de 59 ans, chef d’entreprise, qui cultive aussi des préoccupations d’ordre humaniste et spirituel. Il publie un livre sur l’avenir de nos rapports avec les développements technologiques.

Une notion qu'il met en évidence est l’interfaçage entre l’humain et la nature : le fait que, depuis des millénaires, la progression de l’homme s’est faite en établissant/interposant des artefacts entre lui et l’environnement - depuis la peau de bête pour se vêtir jusqu’aux dispositifs sophistiqués en nombre croissant, smartphone, prothèses etc. De manière telle à, aujourd’hui, « s’interfaçer/se distancer de la nature au point que les équilibres de la vie sont rompus. » Dans l’histoire de l’Homme : « En concomitance avec l’émergence de la conscience, le corps et le psychisme humains ont peu à peu cessé de s’adapter à leur environnement. L’homme fait partie de la nature, en dépend mais entretient avec elle un rapport ambivalent qui lui vaut de dire l’aimer autant qu’il la détruit. »

Servitude numérique. « C’est un siphonnage permanent de nos cerveaux, de notre mémoire et de notre savoir-faire, qui s’opère par transfert vers le Cloud. Tout semble concourir pour chasser l’être humain (maillon faible et coûteux) en le remplaçant par des systèmes informatisés. » L’hypothèse d’une perte de contrôle face à l’intelligence artificielle n’est plus un fantasme. Des personnes comme Stephen Hawking, Bill Gates et Elon Musk l’envisagent. 

« Nous sommes devenus démiurges en instaurant une nouvelle ‘divinité’ : omnisciente (Big Data, le Cloud), omniprésente (internet) et omnipotente (les moyens autonomes de calcul, de commande et de pilotage), dont les facultés nous dépassent. »

Penser le futur. Ce qui caractérise les années récentes, c’est la prise de conscience qu’il n’y aura pas de retour en arrière. Toutefois : « Comment penser le futur ? Ceux que nous créditons comme aptes à le faire ne s’expriment que de manière sectorielle, en experts au jargon pas pleinement appréhendable. » « Même lorsque le consensus est large, voire unanime, nous sommes incapables de prendre les décisions qui s’imposent » - remarque qui s’applique parfaitement aux questions de climat et de biodiversité.

Nous n’avons pas d’autre choix, dit Thorimbert, que d’embrasser une véritable maturité - dans notre appréciation de la situation et notre volonté d’effectuer les changements nécessaires. Mais la majorité de la population n’en est pas là, sensible qu’elle est aux discours alléguant qu’il n’y a pas de problème...

Une éthique des machines ? « Il n’est pas inconcevable que les machines, dépourvues d’empathie mais aussi de cupidité et de goût du pouvoir, puissent accéder à une forme de ‘conscience mathématique’, froide mais déterminée à la préservation des équilibres de la vie sur la Terre »… Mécanisme qui nous protégerait de l’arrogance et de la mégalomanie que nous ne sommes pas en mesure de réfréner ?! « Les machines pourraient, mues par une forme de ‘réflexe’, couper les vivres de l’industrie de l’armement, de la production agrochimique, inhiber le fonctionnement de structures boursières et commerciales ».

« Le technocentrisme ne propose aucun projet de société. » Pour finir, cette citation de William Carlos Williams, médecin et poète américain (1883-1963) : « L’homme a survécu jusqu’ici parce qu’il était trop ignorant pour réaliser ses désirs. Maintenant qu’il le peut, il doit les changer, ou périr. »

 

 

30/11/2018

Vers le bonheur par l’IA* et Big Data ?

A Lausanne durant cette année, Cèdres Réflexion, groupe préoccupé d’éthique, conduit une série de conférences sur le thème du bonheur. Récemment, l’une avait pour titre « Le bonheur selon Google ». Y participaient Solange Ghernaouti, connue pour ses travaux en cybersécurité, Jean-Gabriel Ganascia, informaticien au CNRS, à Paris, et François Fleuret, de l’Institut Idiap-EPFL (Martigny).

Intéressants débats sur Big Data, énormes collections de données. Oui, on peut critiquer les « géants hégémoniques du net », les GAFA, de recueillir sans les payer des quantités immenses de données à notre propos. Toutefois… le fait est que, si ces firmes ne le faisaient pas, ces données resteraient ici et là, sans servir à rien ! Fleuret : « en soi, Big Data ne saurait comprendre le monde, mais les analyses qu’il rend possible permettent des prévisions souvent fiables et peuvent apporter du sens. »

Caractéristique forte d’internet, (presque) tout y est gratuit. Cela a des avantages, en permettant l’accès dans le monde entier à l’ensemble des connaissances de l’humanité, y compris aux pauvres et marginalisés. Big Data permet des avancées pour les maladies orphelines. Où sont les pièges ? On assiste à une concentration de pouvoir inouïe chez les GAFA, les atteintes à la vie privée sont un grand souci, l’addiction à internet est de plus en plus préoccupante. Le fléau des « fake news » est hypertrophié par les réseaux sociaux. J.-G. Ganascia dit sa crainte que, en acceptant ainsi les carottes que nous tendent les GAFA, nous soyons des ânes…

Parmi d’autres effets à craindre : les rapports entre les gens ne seront plus directs, face à face, mais médiatisés par des technologies ; il faudra (ré-)apprendre à se regarder dans les yeux. Une raison d’inquiétude est l’érosion des principes mutualistes de notre société, par exemple dans le domaine de l’assurance-maladie : quand en un tour de main on connaitra les facteurs de risque et l’avenir médico-sanitaire probable de chacun, combien de temps la solidarité dans un cadre comme celui de la LAMal tiendra-t-elle ?

Avancées de l’intelligence artificielle : nous nous rassurons en affirmant péremptoirement que jamais l’IA ni les machines ne parviendront à des raisonnements aussi sophistiqués que l’être humain. F. Fleuret a ses doutes, il ne voit pas de « mur computationnel » qui serait infranchissable.  Pourquoi y aurait-il là un effet de seuil, on est dans une démarche tout à fait incrementaliste, en continu. Une réflexion analogue vaut pour le transhumanisme. Beaucoup s’y opposent mais oublient la réalité que la limite est très poreuse entre homme naturel et homme « augmenté » (au plus simple, beaucoup d’entre nous portent des lunettes ou des prothèses, la suite est un continuum, de plus en plus technologique et intrusif).

Des conclusions ? Les développements technologiques ont, c’est évident, un grand potentiel. Mais aucun des orateurs ne s’est hasardé à des prédictions tant soit peu précises quant à notre futur hyperconnecté. Trop complexe… dépendant de multiples paramètres plus ou moins saisissables. Ils ne croient pas que les technologies vont « réenchanter » un monde qui en aurait pourtant besoin. Solange Ghernaouti cite cette phrase d’un collègue : « Ce que je n’ai pas trouvé dans la vie, je ne l’ai pas trouvé sur internet. »

Inutile de dire qu’on n’a pas vraiment répondu à la question de savoir si Google pourrait apporter le bonheur. Il faudrait d’abord se mettre d’accord sur ce qu’on entend par bonheur - une autre question difficile.

*IA = intelligence artificielle