Avant d'entrer dans le vif

🦠 Pour l’OMS, le Covid-19 n’est plus une urgence sanitaire mondiale. «Ce virus est là pour durer, il continue de tuer et de muter», a pourtant rappelé le directeur de l’OMS. Paradoxal?

🇹🇷 Turquie: une défaite d’Erdogan pourrait rassurer l’Occident. Le président Erdogan pourrait être contraint de quitter son trône, et les enjeux géopolitiques sont majeurs.

🕵️ Renseignez-vous sur l’open source intelligence (Osint). Tous des espions en puissance? Retrouvez notre dossier sur le renseignement en sources ouvertes, décidément en vogue.

Des IA encadrées comme des médicaments

Les parlementaires européens vont voter le 11 mai sur le projet de réglementation de l’IA. | Keystone / Julien Warnand

🌐 Lire la version étoffée (abonnés) 🌐

🇪🇺 Initiée par la Commission européenne en 2020, la proposition de règlement sur l’intelligence artificielle (Artificial Intelligence Act) de l’Union Européenne vient d’être revue en profondeur pour prendre en compte l’arrivée des IA génératives comme ChatGPT.

🗳️ Le texte, finalisé la semaine dernière et soumis au vote jeudi prochain, sera ensuite négocié avec le Conseil et la Commission pour une application possible dès 2024.

🇨🇭 Il s’agira de la première législation sur l’IA au monde, et elle concernera de facto la Suisse.

🌐 La Chine et les Etats-Unis envisagent aussi des régulations sur l’IA.

Au cœur de l’AI Act. Le projet de règlement européen sur l’IA prévoit quatre catégories:

 ● Les systèmes d’IA à «risque inacceptable», qui seront interdits. Exemples: reconnaissance des émotions, IA à visée répressive, chatbots donnant des conseils malveillants.

 ● Les systèmes à «haut risque», dont l’usage sera fermement encadré, comme pour un médicament. Il s’agit notamment d’IA opérant dans des domaines sensibles comme la santé, l’éducation, le recrutement et la gestion des employés, les assurances, les crédits bancaires…

 ● Les systèmes à «risque limité», soumis à une exigence accrue de transparence. C’est le cas des modèles généraux comme ChatGPT, un temps envisagé dans la catégorie de risque supérieure.

 ● Les systèmes à «risque minimal ou nul», non réglementés. Exemples: montres connectées, jeux vidéos, filtres de spam…

Les explications de texte.

➢ Co-rapporteur du comité en charge d’élaborer ce texte au Parlement européen, le député libéral roumain Dragoș Tudorache explique:
 «Le texte a beaucoup changé par rapport à la première version de la Commission. Le champ du haut risque a été étendu aux processus démocratiques comme les systèmes de vote et l’utilisation d’IA pour influencer les élections ainsi qu’à la gestion des migrations, aux crédits bancaires et aux assurances à cause des risques de catégoriser des personnes ou des communautés.»

🏢 Le projet prévoit la création d’un AI Office au niveau européen pour servir de médiateur entre les agences nationales qui seront chargées d’appliquer ce règlement.

👨‍🏫 Yaniv Benhamou, professeur en droit du numérique à l’Université de Genève:
 «L’Union Européenne approche l’IA dans les termes de l’introduction d’un nouveau produit sur le marché. La réglementation se concentre avant tout sur les IA à haut risque avec, comme pour un médicament, la nécessité d’une autorisation préalable en fonction d’obligations qui nécessiteront des audits.»

Et la Suisse? Non-membre de l’UE, la Suisse subira-t-elle l’«effet Bruxelles», c’est-à-dire l’application des règles communes par des entreprises qui développent des IA pour l’Europe et n’entendent pas s’adapter à l’exception helvète?

➢ Damien Cottier, conseiller national neuchâtelois (PLR):
 «C’est probable, et il n’y a pas de doute que la Suisse devra réguler et imposer des normes avec un possible effet de mimétisme.»

➢ Thomas Schneider, vice-directeur de l’OFCOM, pilote le projet de Convention sur l’IA du Conseil de l’Europe (dont la Suisse est membre). Il vise à rendre les IA compatibles avec les droits de l’homme, à une échelle plus large que l’Europe.

La compétitivité. Les développeurs européens d’IA s’inquiètent déjà d’une régulation qui les rendrait moins compétitifs sur le marché mondial.

➢ Dragoș Tudorache (Parlement européen):
 «L’AI Act propose une régulation au travers des usages, pas de la technologie. C’est un projet centré sur l’humain mais aussi sur l’innovation. Pour les entreprises en particulier clientes, c’est une bonne chose dans la mesure où cela clarifie les règles.»

Trop peu, trop tard?

🇪🇺 Démarrée avant l’apparition de ChatGPT, l’EU AI Act peut donner l’impression que la politique est pour une fois en avance dans le numérique:

➢ Mais il y a déjà beaucoup d’IA dans les plateformes numériques, en particulier dans les systèmes de recommandation. La réglementation projetée sera-t-elle capable de corriger les défauts (biais, opacité…) de ces systèmes déjà déployés et de rester adaptée à une technologie qui évolue très vite?

➢ Le projet de réglementation ne dit rien non plus sur la protection des travailleurs précarisés par l’arrivée de l’IA. L’impact social de la technologie s’annonce pourtant majeur.

On en avait parlé

L’IA européenne invisible. L’Europe n’apparait pas comme un acteur majeur de l’IA face aux Etats-Unis et à la Chine. A tort: le vieux continent recèle des pépites.

Le labo du droit numérique. L’Europe fait figure de pionnière dans le domaine de la réglementation du numérique. Après le RGPD sur les données personnelles, elle a adopté il y a un an le Digital Services Act pour réguler les Gafam.

Gouvernance algorithmique. Comment réguler l’IA? La scientifique et autrice Aurélie Jean plaide pour une gouvernance algorithmique, afin d’imposer aux acteurs des pratiques moins risquées sans freiner l’innovation.

Il est temps de raconter le monde

🔎 Les Explorations de Heidi.news. Heidi.news, c’est des enquêtes et grands reportages. Découvrez nos Explorations L’Université du crime, La fusion nucléaire, c’est demain matin, Vous n’aurez pas nos graines!, De la dictature en Amérique, ou encore La chronique sporadique de Malka, et plongez-vous dans nos Revues imprimées.

Bien vu

Capture d’écran Curious refuge

Déjà l’IA vidéo. S’il fallait une illustration de la puissance des IA génératives, la bande-annonce du film (fictif) The Galactic Menagerie, qui mélange l’univers de Star Wars à l’esthétique du réalisateur Wes Anderson, en fournit une saisissante. On y trouve, par exemple, Scarlett Johansson en princesse Leia – un fantasme signé par l’IA MidJourney. Alors que les scénaristes d’Hollywood font grève par peur d’être remplacés par l’IA, ce mini chef-d’œuvre suggère que l’on se dirige déjà vers l’étape suivante: des films sans acteurs, sans opérateur caméra, et peut-être sans réalisateur.

De bonnes lectures

Civilisation hackée. Dans The Economist, l’écrivain Yuval Noah Harari se fait l’écho des inquiétudes croissantes que génèrent les intelligences artificielles. Il relève en particulier les risques de désinformation, d’alimentation du complotisme et de dévoiement de la démocratie. De quoi, selon lui, mettre en danger les bases mêmes de la civilisation.

IA pacifiste. Pendant que les Européens veulent encadrer les usages civils de l’IA, les Etats-Unis se préoccupent de leur utilisation dans le domaine militaire. Au pays de Terminator, des parlementaires veulent rendre impossible l’accès au bouton nucléaire par des IA.