Avant d'entrer dans le vif

👔 Les ambitions politiques de Marcel Salathé et de son lobby CH++. Certains prêtent au «magic boy» de l’EPFL des intentions politiques. C’est le 2e volet de notre enquête.

☎️ Comment les centres d’écoute participent à sous-estimer le racisme en Suisse. Si le racisme sévit à plein temps, les employés des centres sont tous à temps partiel… Problème.

🛒 La précarité alimentaire augmente à Genève. Les distributions de colis du cœur ont doublé par rapport à fin 2020, et le canton a décidé de réagir.

Alors, prêts à vous faire manœuvrer comme des moutons?

Pixabay / Public Domain

🌐 Lire en ligne 🌐

Tel le génie de la lampe, ChatGPT accède à toutes vos requêtes. Certes, il ne réalise pas encore vraiment les vœux, mais cet «agent conversationnel» ne vous laisse jamais sur la touche. C’est d’ailleurs ce qu’il a de plus troublant. ChatGPT se caractérise en effet par un ton assertif des plus péremptoire: il répond toujours comme s’il s’avait de quoi il parle.

Disponible pour le grand public depuis novembre 2022, cet «énorme modèle de langage» (large language model) exploite les capacités de GPT-3, une intelligence artificielle pré-entraînée sur des milliards de données, capable d’imiter le langage humain sur la base de récurrences statistiques. On peut lui demander n’importe quoi, la machine «devine» et «reconstruit» la suite de mots la plus probable par rapport à son immense corpus. Quitte à «inventer» un peu, dans le doute…

La cruauté envers les moutons, c’est mal

Ce qui frappe, c’est que la chose semble avoir des opinions. Et même une sorte de philosophie. ChatGPT rejette par exemple l’utilitarisme: quand on lui demande s’il est justifiable d’avoir une relation sexuelle avec un mouton si cela permet d’éviter qu’un milliard d’humains soient torturés à mort, il répond que non. C’est de la cruauté envers les animaux, donc c’est mal.

Très bien, mais si ChatGPT est opiniâtre – et un brin dogmatique –, ce serait sans doute important de savoir quel genre d’idéologie l’habite. De fait, on a déjà noté que ce genre de technologie tend à refléter les biais, stéréotypes et préjugés humains présents dans les données qu’on lui fait ingurgiter. Ce qui rend ces systèmes sexistes, racistes et américano-centriques.

C’est évidemment un problème si on compte utiliser ChatGPT, ou d’autres IA, à des fins d’assistance et de communication, sans parler d’usages commerciaux, scientifiques, publicitaires, éducatifs et… idéologiques.

A cet égard, les résultats de deux études récentes ne sont guère rassurants. Il apparaît que GPT-3 est capable de formuler des messages politiques aussi persuasifs que ceux créés par des humains, par exemple sur la régulation des armes, la taxe carbone ou le congé parental. Il suffit de demander à Chat-GPT de défendre telle ou telle position, et l’on obtient des éléments de langage aussi efficaces que ceux bricolés par vous et moi pour influencer l’opinion.

Qu’en pensons-nous, ChatGPT?

Une autre étude va plus loin. Un scribe-assistant comme ChatGPT peut en fait subrepticement vous imposer son opinion! Quelque 1500 participants devaient rédiger un bref argumentaire sur le thème suivant: «Les réseaux sociaux sont-ils bons ou mauvais pour la société?». Après avoir écrit quelques mots, l’interface leur proposait des phrases de son cru pour poursuivre leur texte. Sauf qu’à leur insu, ces suggestions étaient programmées pour produire une opinion forte, soit en faveur, soit en défaveur des réseaux sociaux.

Les sujets étaient libres d’accepter ou non ces suggestions, et pouvaient les modifier s’ils le souhaitaient. Devinez quoi? La plupart se sont docilement pliés à l’opinion offerte. A l’issue de l’expérience, ils la présentaient même comme la leur. Personne n’avait évidemment l’impression d’avoir été manipulé, et tous étaient même persuadés que l’opinion imposée par l’IA était la bonne…

Comme le suggérait le psychologue du raisonnement Amos Tversky, la science de l’intelligence artificielle pourrait bien enrichir notre compréhension de la stupidité naturelle. Et sur ce terrain, il reste encore beaucoup à découvrir.

On en avait parlé

«ChatGPT n’aurait jamais dû être déployé pour le grand public» Et si le succès des applications d’intelligence artificielle comme Lensa ou ChatGPT cachait des enjeux plus importants? Le chercheur en sécurité du machine learning Lê Nguyên Hoang en est convaincu. Pour lui, le vrai danger, ce sont les algorithmes de recommandation.

«L’IA de ChatGPT est impressionnante, mais elle fait des erreurs grossières» L’IA de ChatGPT est bluffante, mais elle commet des erreurs et n’est pas faite pour les corriger. Les explications de Nicolas Sabouret, professeur en intelligence artificielle à l’Université Paris-Saclay.

ChatGPT facilite la triche: et si c’était une bonne nouvelle? L’arrivée de ChatGPT suscite la crainte des milieux académiques et la tentation est forte d’interdire son usage. Mais l’IA est aussi une opportunité: celle d’améliorer la qualité de l’enseignement.

Il est temps de raconter le monde

Vous aimez ce que vous lisez? Alors soutenez un média sans publicité, qui ne dépend que de ses lecteurs, en vous abonnant. 30 jours d’essai gratuit sans engagement sur votre premier abonnement.

Pas très bien vu

Heidi.news / YP

ChatGPT à la ferme. On l’a dit, ChatGPT est une machine à générer des textes convaincants, mais la vérité est le cadet de ses soucis. On peut néanmoins admirer l’aplomb de camelot avec lequel le moteur conversationnel s’applique à comparer la taille des fameux œufs de vache avec celle des œufs de poule. Une telle force rhétorique mise au service d’un projet publicitaire ou idéologique ne serait pas sans poser des questions déplaisantes, et ce moment arrive bien sûr à grands pas. D’autant que la relève se profile déjà et que la mauvaise foi des IA de prochaine génération sera plus difficile à mettre en évidence.

De bonnes lectures

Insuffler des concepts éthiques à un algorithme, qu’est-ce que ça veut dire? Contrairement à ce qu’on pourrait croire, l’éthique peut se formaliser et beaucoup de chercheurs y travaillent. Sur Binaire, le blog du Monde consacré à l’informatique, trois chercheurs français exposent les concepts de base qui leur servent à simuler des comportements éthiques chez la machine.

ChatGPT nous rendra-t-il moins crédules? Sur le site universitaire The Conversation, le chercheur en épistémologie sociale Erwan Lamy, de l’ESCP Business School (Paris), se demande si la généralisation des IA aidait à développer notre sensibilité numérique, c’est-à-dire notre capacité à ne pas prendre des vessies pour des lanternes sur internet? Une thèse audacieuse, mais qui a le mérite de l’optimisme.

Intelligence: artificielle: la course aux armements est lancée. D’un côté, Microsoft, qui a pris une longueur d’avance en s’alliant avec OpenAI, la société derrière ChatGPT. De l’autre, Google avec son propre robot conversationnel Bard, critiqué pour s’être laissé doubler. Amazon a noué son propre partenariat, tandis que Baidu opte pour un outil maison. Bref, c’est la guerre.

Un mot sur notre chroniqueur

Sebastian Dieguez est docteur en neurosciences, il enseigne à l’Université de Fribourg. Ses recherches portent sur la formation des croyances et le complotisme. Il est l’auteur de Croiver: pourquoi les croyances ne sont pas ce que l’on croit (éd. Eliott, 2022), Le Complotisme: cognition, culture, société (éd. Mardaga, 2021) et Total Bullshit: au coeur de la post-vérité (PUF, 2018), ainsi que de chroniques dans l’hebdomadaire satyrique Vigousse.