Avant d'entrer dans le vif

🐔 «Cette grippe aviaire va à rebours des postulats scientifiques.» Les cas de grippe aviaire explosent dans les élevages, et les meilleurs spécialistes s’avouent surpris.

⚡ Les citoyens se mettent à la production d’électricité propre. De plus en plus d’initiatives citoyennes essaiment en Suisse et en Europe. Etat des lieux en graphes.

🌌 «Nous sommes l’Univers qui se pense lui-même.» L’astrophysicien Gianfranco Bertone se penche sur les mystères de l’Univers en convoquant Dante ou Borges.

📧 On vous a transféré ce Point fort?
Alors n’hésitez pas à vous inscrire: c’est tous les jours et c’est gratuit.

Arrêtons plutôt le techno-bullshit (pour toujours)

Pixabay / ThankYouFantasyPictures

🌐 Lire en ligne 🌐

Dans son Cycle des robots, entamé en 1939, l’auteur de science-fiction Isaac Asimov avait imaginé un futur dans lequel les humains cohabiteraient avec des robots intelligents et autonomes. Dans sa chronologie, les fameuses «trois lois de la robotique» ont été instaurées en 2015, apprend-on dans une nouvelle écrite en 1942 (Runaround). Les fans connaissent ces trois lois par cœur: ne pas porter atteinte à un être humain, obéir aux êtres humains et protéger son existence propre.

Il est remarquable qu’Asimov ait introduit ces lois après la création des fameux cerveaux «positroniques», donnant à l’humanité un train de retard. Dans la série des Terminator, l’IA Skynet est soudain devenue consciente – et très très méchante – le 29 août 1997 à 2h40 du matin. Là encore, l’humanité est prise au dépourvu. S’il faut en tirer une leçon, c’est peut-être qu’il aurait fallu songer avant aux potentielles complexités et dérives d’IA aussi puissantes.

Le moratoire d’Elon Musk et ses copains

D’où l’attrait, sans doute, pour cette récente pétition appelant à un moratoire «d’au moins six mois», portant sur «le développement de systèmes IA plus puissants que GPT-4». Signée par plus de 1300 experts et cadres de la tech, dont Elon Musk, la lettre ouverte en appelle à «prendre du recul» afin de «mettre en place des protocoles de sécurité», dans le but d’éviter que ces systèmes nous submergent de désinformation, nous remplacent purement et simplement, ou même nous fassent «perdre le contrôle de notre civilisation».

Bref, ça ne plaisante pas, même les humains les plus investis dans ces technologies y voient un danger imminent, c’est dire si l’heure est grave! Sauf qu’à bien y regarder, on peut s’interroger sur la sincérité de la démarche.

Quelle est sa source, pour commencer? Il s’agit du Future of Life Institute, une organisation financée en partie par Elon Musk, où l’on trouve des gourous milliardaires de la tech comme Jaan Tallinn, co-fondateur de Skype. Ce think tank promeut une philosophie «longtermiste» et l’idée d’«altruisme efficace». D’apparence philanthropique, cette idéologie est en fait décriée comme eugéniste et quasi-sectaire: il s’agit de «défendre» les lointains descendants «super intelligents» de l’espèce humaine lorsque ceux-ci auront colonisé l’espace.

Homo sapiens aurait en effet pour mission cosmique d’enrichir l’univers de sa «valeur» incommensurable, ce qui implique de prévenir les «risques existentiels» qui nous menacent à long terme. Le changement climatique? Les inégalités? Le totalitarisme? Non, vous n’êtes décidément pas assez «longtermiste». Ces choses-là sont au contraire souhaitables, parce qu’elles permettent précisément de faire émerger l’élite supérieure qui sera à même de perpétuer la grandeur de notre espèce. Les vraies menaces sont celles qui n’existent pas encore, surtout celles qui relèvent de la science-fiction, dont l’IA.

Sagesse de demain, folie d’aujourd’hui

C’est là tout le ridicule de cette pétition. Elle brandit un danger totalement extravagant, dont on voit mal comment il pourrait être déjoué en six mois de réflexion par quiconque. Mais c’est là tout l’enjeu des délires apocalyptiques et du complexe messianique qui pullulent dans la Silicon Valley: si les risques sont si importants, c’est parce que nous sommes si géniaux!

Imaginez le FC Sion exiger un moratoire de six mois, au prétexte que ses joueurs vont devenir si forts que la structure même du football risquerait de s’effondrer… Il y aurait évidemment matière à rire, mais c’est bien la hype grotesque que nous vendent ces allumés de l’innovation. Du techno-bullshit en somme, dans le seul but de faire mousser leur business tout en passant pour des parangons de sagesse.

Pour ce qui concerne les véritables problèmes actuels, il est bien entendu frivole de demander un quelconque moratoire. Pourtant la désinformation exige déjà, les jobs sont déjà supplantés par des algorithmes pourris et incontrôlables, notre «civilisation» est déjà menacée par des idéologues narcissiques, la richesse est déjà concentrée entre les mains d’une minorité irresponsable aux idées creuses, la démocratie est déjà soumise aux lubies d’une clique qui lui doit tout et ne lui rend rien.

Mais non, le vrai danger, c’est que leurs robots arrivent, et que nous n’avons pas encore de «lois de la robotique». Laissez-leur six mois, et le futur de l’humanité sera assuré… Peut-être devrions-nous rebondir sur cette idée, et exiger un moratoire définitif sur le techno-bullshit des fossoyeurs de notre présent.

Il est temps de raconter le monde

Vous aimez ce que vous lisez? Alors soutenez un média sans publicité, qui ne dépend que de ses lecteurs, en vous abonnant. 30 jours d’essai gratuit sans engagement sur votre premier abonnement.

De bonnes lectures

Le fameux moratoire, et son techno-lyrisme. «L’humanité peut jouir d’un avenir florissant grâce à l’IA. Après avoir réussi à créer de puissants systèmes d’IA, nous pouvons maintenant profiter d’un ‘été de l’IA’ pour en récolter les fruits, concevoir des systèmes pour le plus grand bénéfice de tous, et donner à la société une chance de s’adapter. La société a déjà marqué une pause concernant d’autres technologies possiblement catastrophiques, et nous pouvons faire de même cette fois. Profitons d’un long été de l’IA et ne nous précipitons pas sans préparation vers l’automne.»

Le longtermisme, une idéologie dangereuse? Le longtermisme, très à la mode chez les gourous de la Silicon Valley, se désintéresse du sort présent des êtres humains, perspective triviale s’il en est. Seuls compte d’éventuels risques existentiels pour l’avenir glorieux de notre espèce. Pour le philosophe Nick Bostrom, fondateur du Future of Humanity Institute (FHI) et figure intellectuelle du mouvement, des catastrophes comme les deux guerres mondiales, l’épidémie de sida ou Tchernobyl ne sont ainsi que des incidents de l’histoire, pas vraiment dignes de figurer en haut de notre agenda global. Il faut voir la «big picture»…

Un voyage vers Mars, et ça repart. Quel est l’objectif de long terme de l’humanité? Pour Elon Musk, un des milliardaires les plus influents de la planète, l’affaire est entendue: coloniser d’autres planètes, en commençant par Mars. Le fondateur de Tesla et SpaceX, propriétaire de Twitter, cofondateur de Neuralink et OpenAI, se voit comme Noé menant l’humanité vers son arche. Pour échapper à l’extinction, point de salut hors la conquête spatiale.

Un mot sur notre chroniqueur

Sebastian Dieguez est docteur en neurosciences, il enseigne à l’Université de Fribourg. Ses recherches portent sur la formation des croyances et le complotisme. Il est l’auteur de Croiver: pourquoi les croyances ne sont pas ce que l’on croit (éd. Eliott, 2022), Le Complotisme: cognition, culture, société (éd. Mardaga, 2021) et Total Bullshit: au coeur de la post-vérité (PUF, 2018), ainsi que de chroniques dans l’hebdomadaire satyrique Vigousse.