IA génératives : comment leurs « biais » idéologiques façonnent nos valeurs, par Nadia Gueroua (Penser c'est chouette)

IA génératives : comment leurs « biais » idéologiques façonnent nos valeurs

Le bien, le mal : et si on laissait les IA choisir ?

L’administration Trump a décidé de les aider un peu à trancher avec son AI Action Plan, signé le 23 juillet dernier. Désormais, promouvoir la diversité, l’équité, l’inclusion ou encore la lutte contre le changement climatique est considéré comme "mal".

Nadia Guerouaou, chercheuse en neurosciences et autrice de Notre cerveau sous influence : comment les IA génératives modèlent nos émotions et façonnent nos sociétés, a sonné l’alarme une première fois cet été dans une tribune publiée par Libération, que nous republions sur Penser c'est chouette.

L’autrice s’appuie sur plusieurs études pour montrer que les réponses fournies par les chatbots influencent déjà nos opinions sur des sujets sensibles, comme l’abolition de la peine de mort.

Qu’en sera-t-il une fois leur usage généralisé ?

Nadia Guerouaou nous enjoint à prendre conscience rapidement de l’importance politique de cette « technomorale ».

Si sa tribune se concentre sur la construction de nos valeurs, l’autrice va plus loin dans son brillant essai, car les IA ne s’arrêtent pas aux enjeux moraux mais s’infiltrent en réalité dans la construction de tout notre être intérieur.

Se revendiquant du courant constructiviste des neurosciences, l’autrice considère en effet que nos émotions ne sont pas innées, mais construites.

Une question se pose alors : si nos fors intérieurs sont des chantiers, qui en est l’architecte ? 

Quand nous demandons à des chatbots si nos émotions sont légitimes ou comment les exprimer, ne le deviennent-ils pas ?

Nadia Guerouaou nomme cette place prépondérante accordée aux machines dans la genèse de nos ressentis l’IAffectivité. Elle pointe un risque majeur : ces chatbots étant, par nature, des outils de standardisation, nous nous dirigeons, si nous ne réagissons pas, vers une standardisation de nos propres émotions.

J’aurai la joie d'en parler avec elle bientôt pour un podcast qui promet d’être passionnant.

Lire la tribune