AI et démocratie: croire en l'éducation

La Commission de l'éthique en science et en technologie (CEST) publiait récemment l'avis « Les risques des systèmes d'intelligence artificielle pour l'intégrité électorale et les débats publics ». À quelques mois du déclenchement des élections générales provinciales, la question de l'intelligence artificielle (IA) vient à l'avant-scène. Pour Fodé-Moussa Keita, professeur de sciences politiques au Cégep de Valleyfield, l'éducation prend toute son importance.

« Il y a un réel danger de ne plus être en mesure de distinguer le vrai ou faux », lance le spécialiste d'entrée de jeu en mentionnant des exemples où des électeurs se sont fait prendre par des hypertrucages générés grâce à l'IA. 

Avant même d'aborder les enjeux propres à cette technologie, il rappelle un problème un plus ancien: « Quand nous sommes sur les réseaux sociaux, il est très facile d'oublier que le contenu auquel nous sommes exposés est biaisé à la base. Toutes les plateformes ont comme formule de nous garder captifs. Leur algorithme va faire apparaître ce qui nous retient. Cet algortihme finit par savoir ce qui nous rend émotif ou fâché par ce que ces ressentis nous gardent captifs. Il y a ce dicton "si la plateforme est gratuite, vous êtes le produit" ».

Ce biais généré peut ouvrir la porte à un effritement du sens critique et, en parallèlement, à une radicalisation des prises de position. M. Keita qualifie ce cycle d'écosystème toxique.

Mesurer les impacts de l'IA

Dans son rôle de pédagogue, le professeur place la sensibilisation au centre de ses préoccupations. Son programme touche justement aux différents aspects numériques de la vie politique au Québec et au Canada. 

Ça ne l'empêche pas d'être critique et inquiet face aux menaces directes du potentiel encore mal défini de l'IA en période électorale.

« Les partis politiques se sont déjà engagés à ne pas faire d'hypertrucages ou d'abus de l'IA. C'est une bonne nouvelle », tempère-t-il.

Dans une optique plus large, il croit que les citoyens mesurent encore mal les retombées de cette technologie. « Je pense notamment à l'impact environnemental, précise l'enseignant. L'IA détruit l'environnement, ne serait-ce que par son caractère énergivore. Dans plusieurs endroits où l'on trouve des centres de données, l'énergie est produite par du pétrole. »

Il refuse cependant l'étiquette du prof cynique et pessimiste. Il a d'ailleurs les outils pour contrecarrer à sa façon les pires impacts. « Être un citoyen, c'est d'avoir des convictions et les défendre. Je parle de tout ça à mes élèves. J'essaie de les sensibiliser à leur propre rôle et leur pouvoir », conclut Fodé-Moussa Keita.