Bonjour, c’est Grégoire pour votre Point fort du jour.
Comment pouvez-vous être sûr que je suis l’auteur de cette newsletter? Elle pourrait très bien avoir été générée par une IA comme ChatGPT…
A l’ère de la réalité synthétique, il va falloir adapter nos habitudes. Je vous explique comment et pourquoi. |
Avant d'entrer dans le vif
|
|
L'ère du soupçon numérique a commencé
|
Une image générée avec Midjourney V5. Instruction: «An artificial intelligence rule the world, sci-fi style»
|
🌐 Lire la version étoffée (abonnés) 🌐
➢ L’essor des intelligences artificielles génératives, comme ChatGPT ou Midjourney, permet à n’importe qui de créer des informations de toutes pièces.
➢ Sébastien Marcel, chercheur à l’institut Idiap et professeur à l’Ecole des sciences criminelles de l’Unil, estime que nous «entrons dans l’ère de la réalité synthétique».
➢ En parallèle, les moyens techniques pour identifier les contenus synthétisés se développent tant bien que mal. Avec un train de retard.
Ce qu’on peut déjà faire avec ces IA.
🖼 Avec la version 5 de Midjourney, encore en alpha, il est possible de synthétiser des images de personnalités publiques avec une facilité déconcertante.
➥ Une image synthétique représentant le pape François en doudoune Balenciaga a récemment trompé plus d’un internaute.
📃 De son côté, ChatGPT évolue très vite aussi. Sa dernière itération, GPT-4, le rend encore plus performant dans l’adoption de styles d’écriture.
➥ Il peut s’exprimer comme un journaliste de hard news, un écrivain romantique, un complotiste…
💬 Un peu plus discrets, les synthétiseurs de voix s’améliorent très rapidement.
➥ Le modèle Vall-E X de Microsoft est par exemple capable d’imiter une voix humaine sur la base d’un enregistrement de trois secondes.
Des moyens techniques limités.
➢ Touradj Ebrahimi (EPFL) rappelle qu’il existe aujourd’hui des méthodes qui permettent de signaler l’origine synthétique d’un contenu. Par exemple en ayant recours à un marquage spécifique (watermarking) au sein même du logiciel génératif, ou en insérant des métadonnées dans le fichier pour informer de sa provenance.
➢ Des standards, comme le JPEG Trust, sont en cours de développement pour signaler les contenus synthétisés et dessiner une norme internationale. Mais ces démarches vont nécessiter encore plusieurs années.
➢ Sébastien Marcel (Idiap / UNIL) précise qu’il n’existe pas de logiciel déployé à large échelle pour identifier les contenus qui ont été générés artificiellement.
La société doit s’adapter. La détection des médias synthétisés ressemble donc au jeu du chat et de la souris. Si la technologie qui permet de trier le vrai du faux est toujours en retard, comment faire pour s’y retrouver?
➢ Touradj Ebrahimi estime que les individus doivent s’adapter dès maintenant, en prenant l’habitude de signer les contenus qu’ils produisent – les courriels, par exemple.
➢ Patric Raemy, maître assistant à l’Université de Fribourg, invite pour sa part tout un chacun à adopter une démarche critique vis-à-vis des contenus diffusés sur le web:
«C’est un risque, mais aussi une chance pour le journalisme, qui pourrait s’avérer encore plus crucial dans notre société, en aidant les individus à vérifier les informations.»
➢ La conclusion à Sébastien Marcel:
«Nous devons investir massivement dans l’étude et le suivi de ces technologies pour développer des moyens qui permettront de maintenir la confiance au sein de la société.»
🌐 Lire la version étoffée sur Heidi.news (abonnés) 🌐 (FR)
|
|
Il est temps de raconter le monde
|
|
Emmanuel Macron s’occupant lui-même des poubelles parisiennes (généré sur Midjourney 5). | Source: @Cryptonoobzzzz
|
Non, Emmanuel Macron n’est pas éboueur.
Mais vous le saviez déjà, non? Face à l’essor pour l’heure incontrôlé des fausses images réalistes, pas d’autre choix pour l’instant que de s’en remettre à ses prunelles. Les Décodeurs du Monde ont produit un petit guide pour aider à trier le bon grain de l’ivraie. Souvent, ce sont les micro-détails qui pêchent: les mains ont des doigts en pagaille, les écritures sont fantaisistes, les motifs architecturaux déraillent…
Et dans la photo ci-dessus, vous voyez quel est le problème? Le costume présidentiel se prolonge d’une capuche et d’un gilet orange pour former un ensemble stylistiquement audacieux, mais peu crédible en dehors des podiums. Mais pour avoir la puce à l’oreille, le bon sens vaut autant que de bons yeux: de mémoire hexagonale, on a rarement vu des présidents ramasser les poubelles. Jusqu’à maintenant.
Les Décodeurs du Monde (accès libre) (FR)
|
|
La machine peut-elle savoir que nous savons ce qu’elle sait?
Une étude d’un psychologue américain affirme que les grands modèles de langage comme ChatGPT auraient spontanément acquis la théorie de l’esprit, c’est-à-dire l’aptitude permettant d’attribuer à autrui des états mentaux distincts. Les conclusions de cette étude, qui n’ont pas encore fait l’objet d’une vérification par les pairs, interrogent la communauté scientifique.
New York Times (accès libre) (EN)
|
La cryptographie peut battre l’IA.
C’est l’experte en cybersécurité Chelsea Manning qui l’affirme. Face aux dérives de l’intelligence artificielle, les technologies cryptographiques pourront protéger les individus. Si elle se montre particulièrement sceptique quant à l’utilité des cryptomonnaies comme Bitcoin, elle estime que la blockchain pourrait s’avérer cruciale pour renforcer la confiance.
Coin Telegraph (accès libre) (EN)
|
|
|
Avenue du Bouchet 2
1209 Genève
Suisse
|
|
|