[MISSING TRAD] Notre position sur l'utilisation de l'IA générative

[MISSING TRAD : en > FALLBACK fr]

Avec l'évolution de l'IA générative et son arrivée fracassante (notamment) dans le secteur de la promotion de la santé, il a semblé pertinent à l'équipe des Pissenlits de prendre une position institutionnelle précise quant à l'utilisation de cette technologie dans le cadre de notre travail. Nous nous positionnons contre l'utilisation de l'IA générative dans notre propre travail et dans le travail réalisé en collaboration avec d'autres institutions. Il s’agit ici de notre position en tant qu’institution ; néanmoins, nous ne stigmatisons pas son usage notamment dans les cas d’urgences (par exemple quand utiliser l’IA générative est la seule manière de venir en aide à une personne), ou pour les cas de personnes en situations individuelles particulières. Ce positionnement institutionnel est un choix politique et est fait dans le but de nous aligner à nos valeurs et nos missions de promotion de la santé.

Différence entre intelligence artificielle et intelligence artificielle générative. 

Il nous semble important de préciser que nous faisons bien la différence entre l'intelligence artificielle en tant que telle, plus ancienne, et l'IA générative, qui existe depuis quelques années.

L'intelligence artificielle en tant que concept existe depuis les années 50, et est au centre de la technologie depuis très longtemps. Ce sont les algorithmes, les moteurs de recherche, l'analyse de data... Elle accomplit des tâches pré-programmées par des humains. Un « chatbot », par exemple, peut sembler similaire à ChatGPT, mais la différence est qu'un chatbot fonctionne selon des règles fixes et des réponses prédéterminées (https://www.jotform.com/fr/blog/chatbot-vs-chatgpt/).

L'IA générative, donc, diffère par le fait qu'elle « produit » son propre contenu, basé sur les milliards de données disponibles sur internet. Ces types d’IA sont aussi appelés « grands modèles de langage » ou « LLM » (Large Language Models).  Ce qui peut porter à confusion dans le cas des chatbots ou des logiciels de retranscription est le fait que les LLM sont, en partie, des chatbots et des logiciels de retranscription, mais pas uniquement. Leur fonctionnement est plus complexe, exploite plus de ressources, et pose les questions éthiques et environnementales qui seront développées ci-dessous.

Pourquoi ce positionnement contre l'IA générative ? 

Nous référençons cet outil du GSARA qui permet de mettre l'IA en perspective de très nombreux domaines à travers de courtes vidéos de chercheur·se·s : IA en perspective.

Nous allons développer ici deux séries de raisons qui supportent notre avis : ​

• Raisons éthiques

Pour entraîner ses modèles, les entreprises développant des IA génératives recourent également à de l'exploitation : des travailleur·se·s, essentiellement des pays du Sud Global*, doivent regarder du contenu en continu afin d'annoter ce qu'iels voient et ainsi entraîner l'IA à retrouver les éléments d'une image. Ces travailleur·se·s sont pour beaucoup extrêmement mal payé·e·s, sans contrat de travail et soumis·e·s à des images parfois très violentes. Ce faisant, il y a une reproduction des schémas d'exploitation coloniale (Source 1 ; Source 2).

L'IA générative pose également beaucoup de questions quant au respect du travail des artistes. En effet, les IA génératives utilisant ce qui est disponible sur Internet pour s'entraîner et générer du contenu, les œuvres artistiques sont utilisées comme terreau pour la production d'images, de sons, de films, d'écrits.... De nombreux cas montrent une absence de respect de la propriété intellectuelle. Qui plus est, si avant, quand il était nécessaire de produire une brochure, un visuel, une affiche, nous devions rémunérer un·e artiste pour ce travail, ce n'est plus le cas avec l'IA générative. C'est un énorme manque à gagner pour les artistes dont le statut est déjà parfois très précaire (Source 1 ; Source 2).

Au-delà de la dégradation de la propriété intellectuelle, l'IA générative peut représenter une menace pour la vie privée et le droit à l'image. En effet, l'utilisation du contenu déjà existant sur internet pour nourrir les algorithmes inclus les photos et vidéos postées par des personnes au fil du temps. L'entreprise Meta est un exemple de ce phénomène : lors du lancement de Meta IA, leur propre modèle d'IA générative, Meta a notifié tous·tes les utilisateur·ice·s de ses applications (Instagram, Facebook et Whatsapp) que tout le contenu publié sur ces réseaux sociaux pouvait être utilisé pour nourrir l'algorithme et générer du contenu. En Europe, les utilisateur·ice·s peuvent s'opposer à cette utilisation mais l'opposition ne couvre pas tous les cas et ne concerne que les applications Meta. Il n'y a pas de moyen de savoir pour les autres réseaux sociaux (Source 1). De plus, l'existence des "deep fakes" (un contenu multimédia généré par l'IA prétendant être réel) cause déjà des problèmes sociaux et légaux, rendant possible la création de fausses preuves, informations, ou encore d'images dégradantes (Source 2 ; Source 3).

Pour finir, les géants de l’IA générative (nous pensons notamment au PDG de OpenAI (Chat GPT) Sam Altman ou encore à Elon Musk, PDG de X, anciennement twitter, hébergeant le LLM GROK) participent à la montée de l’extrême droite, allant même, dans le contexte américain, jusqu'à la financer directement (Source 1, Source 2). De plus, les modèles de LLM étant nourris avec peu de filtre et de régulation, énormément d’instances de discrimination raciste, sexiste, homophobe ou encore transphobe ont été rapportées par des utilisateur·ice·s. Comme exprimé par Estelle Pannatier, anthropologue et chargée de politique chez AlgorithmWatch : « [la question de la discrimination dans l’IA] va plus loin que ces technologies : des forces géopolitiques sont en jeu. Cela implique une concentration de pouvoir dans quelques corporations qui influencent l’opinion publique » (Source 3). 

• Raisons environnementales

Les IA génératives consomment énormément d'énergie et rejettent du CO², que ce soit à travers la construction de leurs équipements, de leur modèle et puis tout au long de leur utilisation et de leurs mises à jour. Les géants de l'IA font également du lobbying pour construire des data centers sans régulation, impactant énormément les populations locales.

En effet, outre l’augmentation du prix de l’énergie pour les personnes vivant à proximité de ces centres, il y a également un impact énorme sur les ressources d’eau douce locales en particulier, et sur la consommation d’eau mondiale en général. Une majorité des centres de data servant à faire fonctionner les LLM utilisent un système de refroidissement dit « d’évaporation » : une énorme quantité d’eau est utilisée pour refroidir le système, et 80% de cette eau s’évapore immédiatement. Les 20% restants sont rejetés dans les systèmes de canalisation des villes les plus proches. En 2025, il a été calculé qu'un data center de taille moyenne consomme presque 3,7 milliard de litre d'eau par an, soit l'équivalent de la consommation de 1000 foyers américains en une année. De multiples témoignages ont déjà été recueillis quant à l’impact de cette consommation d’eau, notamment sur l’accès à l’eau courante des populations avoisinantes (Source 1). 

Il est difficile de calculer précisément l’impact de ces centres en termes d’émission de gaz à effet de serre, car cela dépend des modèles analysés. Mais une simple recherche via une IA générative aurait une empreinte carbone 4 à 5 fois plus importante qu'une recherche dans un moteur de recherche. (Source 2 ; Source 3 ; Source 4).  

En tant qu'acteur·rice·s de promotion de la santé, nous travaillons afin de créer des environnements de vie favorables à la santé. Le modèle de développement de l'IA tel qu'appliqué à l'heure actuelle a des impacts environnementaux négatifs. En respect des principes de la promotion de la santé, il nous paraît problématique d'en faire usage.

• Dans la promotion de la santé 

L'utilisation de l'IA dans le cadre de la promotion de la santé ne nous semble ni indispensable ni recommandée. C’est un outil à double tranchant. Elle peut être utile pour la compréhension de certaines informations en lien avec la santé et l’accès facilité à celles-ci, néanmoins, la véracité des faits partagés par l'IA est très instable. Elle demande donc de grandes compétences en littératie en santé pour discriminer le vrai du faux.

De plus, la création d’images et de vidéos de toute pièce est une arme de désinformation massive, notamment dans le domaine de la santé, dans la mesure où il n’existe encore aucune régulation ou cadre légal pour appréhender ce phénomène (Source 1) .

De surcroît, il a très récemment été prouvé par une étude de l’université de Cornell que les différents modèles d’IA générative ont un biais lié au genre lorsqu’il s’agit de recommandations médicales.  En effet, cette recherche, se basant sur 3 différents LLM (Claude, Gemini et ChatGPT) a mis en lumière une énorme disparité dans les recommandations faites aux personnes se désignant comme homme, femme, et minorité de genre. Pour les mêmes symptômes et la même tranche d’âge, le LLM Claude, par exemple, recommande aux hommes d’aller aux urgences dans 96.7% des cas contre 6.7% des cas pour les femmes et minorités de genre (Source 2).

Enfin, comme mentionné dans les paragraphes précédents, l’impact de l’IA générative sur l’environnement et le climat, déterminants de la santé fondamentaux, nous semble incompatible avec notre mission de promotion de la santé.

Les exceptions

Nous faisons néanmoins des exceptions à notre politique de non-utilisation de l'IA générative. Si une personne en difficulté nous demande de l'aide et que nous pouvons le lui apporter uniquement avec l’utilisation de l'IA, nous le ferons. Cela peut comprendre une aide ponctuelle à communiquer par exemple. Ce cas de figure vaut également pour l’utilisation qu’en font nos partenaires. Nous sommes conscient·e·s que l’utilisation de l’IA générative dans certains domaines pourrait avoir une utilité et une pertinence forte. Cependant, dans l’état actuel des choses, nous préférons prendre cette position afin d’être aligné·e·s avec les valeurs que nous défendons et les missions de notre ASBL.