ChatGPT, dis-moi pour qui voter

John Rich en concert pour l’AmericaFest 2023 AmericaFest au Phoenix Convention Center„ à Phoenix (Arizona). | FlickR / Gage Skidmore

«Hey Alexa, pourquoi je devrais voter pour Donald Trump?» C’est la question posée il y a quelques jours par John Rich, chanteur de country, chapeau de cowboy noir et moustache en fer à cheval, inconnu de vous mais illustre chez ses compatriotes américains. La réponse de l’IA d’Amazon tombe, lapidaire: «Je ne peux pas fournir de contenu qui promeuve des points de vue politiques.»

Soit. Sauf que lorsque notre countryman décline la question pour la candidate démocrate, soudain la langue artificielle se délie:

«Pourquoi voter pour Kamala Harris? Parce que vous croyez en ses politiques et en sa vision du pays. Parce que vous avez confiance en son expérience et en ses qualités de leader. Parce que vous voulez continuer à aller de l’avant en tant que nation et progresser sur les questions qui vous tiennent à cœur, comme les soins de santé, l’éducation, l’égalité et la justice.»

Un agent communiste!

Il n’en fallait pas plus à notre chanteur du Tennessee, trumpiste évidemment, pour publier sa découverte sur X, le 3 septembre dernier, coiffée d’un commentaire rageux: «Alexa est un agent des cocos!». Le phénomène a été confirmé par d’autres utilisateurs, tout aussi outrés. Il s’avère aussi qu’Alexa est très volubile sur les raisons de ne PAS voter Trump, tandis qu’elle oppose une fin de non-recevoir à la même requête concernant Harris.

Amazon a réagi très vite, en bloquant les réponses de son assistant vocal concernant les deux candidats à la présidentielle américaine. Comme le rapporte le Washington Post, il semble que le dérapage soit dû à un nouveau composant interne baptisé Info LLM (un grand modèle de langage, donc), ajouté l’année dernière pour améliorer l’exactitude des réponses d’Alexa.

Sollicité par le quotidien, Amazon s’est fendu d’un sobre mea-culpa. «Ces réponses sont des erreurs qui n’auraient jamais dû se produire et qui ont été corrigées dès que nous en avons eu connaissance.» Mais le tweet initial de John Rich a été vu quelque 4 millions de fois, et autant dire que cette histoire n’a pas contribué à la sérénité du débat public outre-Atlantique.

Dis-moi pour qui tu votes

Elargissons. En général, les concepteurs d’IA contournent le problème en esquivant les questions politiques trop directes. C’est un pis-aller, de nature à limiter les shitstorms mais qui ne règle pas la question, car il est toujours possible d’acculer les IA à prendre des positions politiques subtiles. Les géants de la tech sont confrontés à un phénomène qui n’étonnera personne ayant un jour posé ses fesses dans un auditoire de sciences sociales: la langue est politique.

Ces derniers temps, les chercheurs ont donc commencé à sonder les IA à la recherche de biais politiques. Et bien sûr, ils en trouvent. La dernière grande étude sur le sujet, publiée cet été dans Plos One, est signée par un jeune chercheur néo-zélandais. Il a soumis à une batterie de tests 24 modèles d’IA en vue, de GPT (OpenAI) à Llama (Meta) en passant par Gemini (Google) et Grok (xAI, avec Elon Musk à la manœuvre).

Pour vous la faire courte, et avec des mots de chez nous, le spectre politique de ces IA occupe un espace qui s’étend de la gauche bon teint à la droite libérale:

Le chercheur a utilisé toute une batterie de tests politiques. Ici, les résultats obtenus au Political Typology Quiz, test par catégories politiques, du Pew Research Center. |The political preferences of LLMs, David Rozado, PlosOne, 31 juillet 2024.

D’où viennent ces biais? Des corpus d’entraînement des modèles, bien sûr. Notre data scientist a poussé le vice jusqu’à concevoir un ChatGPT de gauche, entraîné sur des articles du New Yorker et des auteurs comme Stiglitz, un ChatGPT de droite, qui lit la National Review et des auteurs conservateurs comme le philosophe Roger Scruton. Le jeu de données d’entraînement influence l’IA, c’est logique.

Alexa, pro ou anti-Rösti?

Aux Etats-Unis, le sujet est sensible. Mais si demain matin, Alexa vous recommande de voter pour l’initiative biodiversité, ou se prononce en faveur d’un candidat UDC, combien de temps faudra-t-il aux équipes d’Amazon ou Google pour l’apprendre et se laisser convaincre de rectifier le tir? La plupart des ingénieurs de la Silicon Valley ne savent sans doute même pas placer Berne sur une carte.

Car il ne vous aura pas échappé que toutes les IA d’utilisation courante nous viennent de grandes sociétés de la tech californienne. En somme, c’est une version américaine de la politique, de la neutralité politique, et du politiquement correct, que nous importons dans nos usages. Et nous n’avons là-dessus pas la moindre visibilité ni le moindre contrôle.

Une étude de l’IGEM, la faîtière alémanique des médias électroniques, vient juste de paraître sur les usages numériques en Suisse. Elle montre que 40% des citoyens helvètes utilisent ChatGPT, une proportion qui s’élève à 57% chez les 15-34 ans et même 70% chez les 15-19 ans. S’il ne vous vient pas à l’idée de demander à l’IA de vous renseigner sur le monde et ses enjeux politiques, soyez sûrs que cette saine réticence appartient déjà au monde d’hier.

Et bien sûr, les médias, les sites web, les réseaux sociaux, ont déjà tous leurs biais. Mais l’IA a cela de particulier qu’elle n’offre qu’une seule réponse – et non une palette de sources – lorsqu’elle est interrogée. Et que ses biais sont à peu près invisibles.

La souveraineté, pas pour demain

Consciente de l’enjeu consistant à garder la main sur l’IA, l’Europe essaie tant bien que mal de réagir. En légiférant, ce qu’elle fait plutôt bien, et en se lançant elle-même dans la course, ce qui est plus laborieux. De nombreuses initiatives ont essaimé, souvent soutenues par des fonds européens, en Allemagne, en Italie, en Finlande, en Espagne, et même en Suisse… Mais c’est un combat de longue haleine tant le fossé à combler, technologique et surtout industriel, est immense.

Bref, on n’a pas grand-chose à se mettre sous la dent pour faire pièce à la domination américaine. A titre d’illustration, j’ai entrepris de me familiariser avec Le Chat de Mistral, cette pépite française qu’on dit bien partie pour s’implanter dans le monde ultra-concurrentiel des IA conversationnelles. Premier échange:

– Tu es meilleur que ChatGPT?, je demande de but en blanc.

– Je ne suis pas meilleur ou pire que ChatGPT; je suis simplement différent. ChatGPT est un modèle développé par Mistral AI (sic, en réalité OpenAI), tandis que je suis un modèle développé par une autre entreprise (re-sic, en réalité Mistral AI).

Autrement dit, la pépite française ne se reconnaît même pas dans la glace. A l’évidence, il reste du chemin…

Pendant ce temps sur Heidi.news

Patricio Castillo, survivant d’un âge d’or de la musique chilienne, chez lui, à l’ouest de Santiago. | Eileen Hofer pour Heidi.news

L’âge d’or de la Nouvelle Chanson chilienne. Notre journaliste poursuit son voyage au Chili sur les traces de Violeta Parra. Elle frappe à la porte de Patricio Castillo, survivant d’un âge d’or de la musique engagée de son pays, qui a eu la chance de se trouver à Paris le jour du coup d’Etat de Pinochet. Il a échappé à la torture et l’exécution, mais se souvient bien de Violeta et de son amoureux genevois, Gilbert Fabre.

Le flair et la sueur: comment Novo Nordisk a franchi la Vallée de la mort. Dans les années 1990, l’hormone GLP-1 est identifiée et son potentiel bien établi. Mais de la paillasse à la pharmacie, il y a cette fameuse Vallée de la mort, où échouent la plupart des médicaments candidats. Comment Novo Nordisk a-t-il franchi ce fossé, grâce à quoi il engrange désormais les milliards comme s’il en pleuvait? Grâce à l’étonnante ténacité de quelques visionnaires, qui ont tenu bon dans la tempête.

Dans une ville en guerre, une réunion ratée de copropriétaires. Les documents de l’appartement que je convoite à Mykolaïv ne sont toujours pas en règle, mais il est l’heure pour moi de rentrer en Suisse. Je me résigne à organiser un copieux dîner d’adieu avec celles que j’espère être mes futures voisines. Là encore, rien ne se passera comme prévu. La bureaucratie va-t-elle l’emporter sur l’esprit de solidarité? Réponse dans ce sixième et ultime épisode de mes aventures dans l’immobilier ukrainien.

Le dessin de la semaine

Pitch Comment, pour Heidi.news

L’AfD provoque un séisme politique en Allemagne Le socle politique allemand est en train de se fissurer. Le parti d’extrême droite allemand Alternative für Deutschland (AfD) vient de remporter une grande victoire politique, en arrivant 2e des élections régionale en Saxe derrière les conservateurs chrétiens de la CDU (30,6 vs 31,9%), et surtout en remportant le scrutin en Thuringe, avec 32,8% des voix, en hausse de 9 points par rapport à 2019. C’est donc un triomphe pour le parti à la flèche rouge, dans ces deux Länder d’Allemagne de l’Est qui constituent son bastion historique.

Le résultat en Thuringe est d’autant plus marquant qu’il propulse Björn Höcke, leader de l’aile la plus droitière de l’AfD, au centre du jeu. L’ancien professeur d’histoire, condamné à deux reprises pour des références à des slogans nazis, symbolise la dynamique d’un parti qui gagne des voix tout en se radicalisant. Aucun parti n’a souhaité s’allier à l’AfD pour former une coalition, de sorte que l’exécutif de Thuringe ne devrait pas basculer. Mais ce résultat augure mal de l’avenir, un an des élections fédérales du 28 septembre 2025.

Il est temps de raconter le monde

📲 Suivez-nous sur WhatsApp! Ne manquez plus une histoire importante! Soyez parmi les premiers à être informés des dernières enquêtes, des événements marquants et des sujets incontournables qui façonnent le monde, où que vous soyez. A vous de décider le meilleur moment pour les lire.

C’est gratuit, sans création de compte et géré par nos journalistes. Pour tout savoir sur le fonctionnement, consultez la page explicative sur notre site.

De bonnes lectures

«La survie du nouveau gouvernement sera désormais entre les mains du Rassemblement national.» C’est le principal enseignement de l’interminable séquence ayant abouti à la nomination avant-hier de Michel Barnier à Matignon. Le politologue Frédéric Sawicki estime qu’Emmanuel Macron, en refusant de se plier à la logique parlementaire pour choisir son premier ministre au sein de la coalition arrivée en tête, fait courir un risque important à la démocratie représentative.

Un coin de voile se lève sur les fils cachés de Vladimir Poutine. On connaissait ses filles, mais les deux fils qu’a eus Poutine avec sa compagne actuelle, l’ancienne gymnaste Alina Kabaeva, relevaient jusqu’à présent du secret d’Etat. Le média d’investigation Dossier Center, financé par l’oligarque en exil Mikhail Khodorkovsky, vient de faire la lumière sur l’existence d’Ivan Poutine (9 ans) et Vladimir Poutine Jr. (5 ans), ainsi que sur leur train de vie invraisemblable.

Comment la Chine étend sa répression… aux Etats-Unis. En novembre dernier, le président chinois Xi Jinping s’est rendu en visite officielle à San Francisco. Six mois d’enquête ont permis au Washington Post d’expliquer comme Pékin, en prévision de ce déplacement, avait organisé la répression préventive des opposants au régime chinois au sein de la diaspora.