Avant d'entrer dans le vif

🇮🇱 «Lui, c’est le cerveau, moi, je suis le portefeuille.» Cela devait être un shooting photo de businessman. Ca a fini sur un voilier de 12 mètres au large de Tel-Aviv.

🦠 Référendum contre la loi Covid: «Cette fois, c’est la bonne!» Le 18 juin 2023, les Suisses auront à s’exprimer pour la troisième fois sur la loi Covid. Ou ce qu’il en reste.

🍷 Quand la diplomatie passe par le ventre. Rösti pour Kim Jong-Un ou bon vin pour Gorbatchev. Faire bonne chère facilite le transit diplomatique: c’est la gastro-diplomatie.

📧 On vous a transféré ce Point fort?
Alors n’hésitez pas à vous inscrire: c’est tous les jours et c’est gratuit.

🙏 Vous voulez nous rendre service?
Donnez-nous votre avis sur cette newsletter, vos retours sont précieux!

L'ère du soupçon numérique a commencé

Une image générée avec Midjourney V5. Instruction: «An artificial intelligence rule the world, sci-fi style»

🌐 Lire la version étoffée (abonnés) 🌐

➢ L’essor des intelligences artificielles génératives, comme ChatGPT ou Midjourney, permet à n’importe qui de créer des informations de toutes pièces.

➢ Sébastien Marcel, chercheur à l’institut Idiap et professeur à l’Ecole des sciences criminelles de l’Unil, estime que nous «entrons dans l’ère de la réalité synthétique».

➢ En parallèle, les moyens techniques pour identifier les contenus synthétisés se développent tant bien que mal. Avec un train de retard.

Ce qu’on peut déjà faire avec ces IA.

 🖼 Avec la version 5 de Midjourney, encore en alpha, il est possible de synthétiser des images de personnalités publiques avec une facilité déconcertante.

 ➥ Une image synthétique représentant le pape François en doudoune Balenciaga a récemment trompé plus d’un internaute.

 📃 De son côté, ChatGPT évolue très vite aussi. Sa dernière itération, GPT-4, le rend encore plus performant dans l’adoption de styles d’écriture.

 ➥ Il peut s’exprimer comme un journaliste de hard news, un écrivain romantique, un complotiste…

 💬 Un peu plus discrets, les synthétiseurs de voix s’améliorent très rapidement.

 ➥ Le modèle Vall-E X de Microsoft est par exemple capable d’imiter une voix humaine sur la base d’un enregistrement de trois secondes.

Des moyens techniques limités.

➢ Touradj Ebrahimi (EPFL) rappelle qu’il existe aujourd’hui des méthodes qui permettent de signaler l’origine synthétique d’un contenu. Par exemple en ayant recours à un marquage spécifique (watermarking) au sein même du logiciel génératif, ou en insérant des métadonnées dans le fichier pour informer de sa provenance.

➢ Des standards, comme le JPEG Trust, sont en cours de développement pour signaler les contenus synthétisés et dessiner une norme internationale. Mais ces démarches vont nécessiter encore plusieurs années.

➢ Sébastien Marcel (Idiap / UNIL) précise qu’il n’existe pas de logiciel déployé à large échelle pour identifier les contenus qui ont été générés artificiellement.

La société doit s’adapter. La détection des médias synthétisés ressemble donc au jeu du chat et de la souris. Si la technologie qui permet de trier le vrai du faux est toujours en retard, comment faire pour s’y retrouver?

➢ Touradj Ebrahimi estime que les individus doivent s’adapter dès maintenant, en prenant l’habitude de signer les contenus qu’ils produisent – les courriels, par exemple.

➢ Patric Raemy, maître assistant à l’Université de Fribourg, invite pour sa part tout un chacun à adopter une démarche critique vis-à-vis des contenus diffusés sur le web:
 «C’est un risque, mais aussi une chance pour le journalisme, qui pourrait s’avérer encore plus crucial dans notre société, en aidant les individus à vérifier les informations.»

➢ La conclusion à Sébastien Marcel:
 «Nous devons investir massivement dans l’étude et le suivi de ces technologies pour développer des moyens qui permettront de maintenir la confiance au sein de la société.»

Pour aller plus loin

Intelligence artificielle: prêts à vous faire manœuvrer comme des moutons? ChatGPT est le nouveau moteur conversationnel qui marque les esprits. Mais sous leurs airs de pas y toucher, ces IA embarquent des concepts moraux discutables susceptibles de nous influencer, analyse notre chroniqueur Sebastian Dieguez, chercheur en neurosciences à Fribourg.

GPT-4: Après le texte, ChatGPT se met à l’image – et bientôt, la voix? Le nouveau modèle de langage de GPT-4 vient d’être dévoilé, qui peut désormais interpréter des images. Mais il y a fort à parier que les prochains développements intègreront la voix. Dans le viseur: le vieux rêve d’une interprétation automatique des langues.

«ChatGPT n’aurait jamais dû être déployé pour le grand public.» Et si le succès des applications d’IA comme Lensa ou ChatGPT cachait des enjeux plus importants? Le chercheur en sécurité du machine learning Lê Nguyên Hoang en est convaincu. Pour lui, le vrai danger, ce sont les algorithmes de recommandation.

Il est temps de raconter le monde

Vous aimez ce que vous lisez? Alors soutenez un média sans publicité, qui ne dépend que de ses lecteurs, en vous abonnant. 30 jours d’essai gratuit sans engagement sur votre premier abonnement.

Bien vu

Emmanuel Macron s’occupant lui-même des poubelles parisiennes (généré sur Midjourney 5). | Source: @Cryptonoobzzzz

Non, Emmanuel Macron n’est pas éboueur. Mais vous le saviez déjà, non? Face à l’essor pour l’heure incontrôlé des fausses images réalistes, pas d’autre choix pour l’instant que de s’en remettre à ses prunelles. Les Décodeurs du Monde ont produit un petit guide pour aider à trier le bon grain de l’ivraie. Souvent, ce sont les micro-détails qui pêchent: les mains ont des doigts en pagaille, les écritures sont fantaisistes, les motifs architecturaux déraillent…

Et dans la photo ci-dessus, vous voyez quel est le problème? Le costume présidentiel se prolonge d’une capuche et d’un gilet orange pour former un ensemble stylistiquement audacieux, mais peu crédible en dehors des podiums. Mais pour avoir la puce à l’oreille, le bon sens vaut autant que de bons yeux: de mémoire hexagonale, on a rarement vu des présidents ramasser les poubelles. Jusqu’à maintenant.

De bonnes lectures

La machine peut-elle savoir que nous savons ce qu’elle sait? Une étude d’un psychologue américain affirme que les grands modèles de langage comme ChatGPT auraient spontanément acquis la théorie de l’esprit, c’est-à-dire l’aptitude permettant d’attribuer à autrui des états mentaux distincts. Les conclusions de cette étude, qui n’ont pas encore fait l’objet d’une vérification par les pairs, interrogent la communauté scientifique.

La cryptographie peut battre l’IA. C’est l’experte en cybersécurité Chelsea Manning qui l’affirme. Face aux dérives de l’intelligence artificielle, les technologies cryptographiques pourront protéger les individus. Si elle se montre particulièrement sceptique quant à l’utilité des cryptomonnaies comme Bitcoin, elle estime que la blockchain pourrait s’avérer cruciale pour renforcer la confiance.