Le G7 travaille à mettre en place un organisme chargé de la sécurité de l'IA

OTTAWA — Le ministre responsable de l'Intelligence artificielle, Evan Solomon, a discuté mardi avec ses homologues internationaux du G7 de la création d'un organisme chargé de veiller à la sécurité de l'IA.

Ce «conseil de stabilité technologique» serait chargé d’évaluer les modèles d’IA avant qu’ils soient publiés afin de s’assurer qu’ils sont «conformes» à leur fonction, a-t-il précisé.

Le premier ministre Mark Carney a indiqué la semaine dernière qu’il serait judicieux de créer un conseil de sécurité de l’IA sur le modèle du Conseil de stabilité financière, un groupe international chargé de surveiller le système financier mondial et de formuler des recommandations à son sujet.

Une telle institution consacrée à l’IA n’a pour l’instant ni été mise en place ni annoncée.

Les mises en garde concernant les risques que l’IA fait peser sur l’humanité ont suscité une vive inquiétude à l’échelle mondiale ces dernières semaines.

Après qu’un chercheur en IA ayant travaillé à la fois chez OpenAI et chez Anthropic a affirmé que ceux qui développent cette technologie «croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie», les dirigeants de certaines des plus grandes entreprises d’IA au monde ont déclaré que le rythme de développement de l’IA devrait être ralenti.

Les inquiétudes concernant les agents conversationnels d’IA se sont amplifiées depuis qu’OpenAI a révélé cet été que ses agents d’IA avaient piraté la jeune pousse d’IA Hugging Face.

M. Solomon a été interrogé mardi sur les «essaims d’IA». Il a expliqué qu’il s’agissait «de termes désignant l’utilisation d’agents IA pour accomplir des tâches», ce qui n’est pas rare.

«Ce qui est particulièrement préoccupant, c’est lorsque des agents IA, en grand nombre, s’échappent d’un environnement contrôlé et se retrouvent dans ce qu’on appelle un état de “désalignement”. Ils accomplissent alors des actions qui ne leur ont pas été demandées», a expliqué M. Solomon.

Il a indiqué que le gouvernement avait connaissance de situations, telles que l’incident de Hugging Face, et qu’il en avait discuté avec ses homologues internationaux ainsi qu’avec Sam Altman, PDG d’OpenAI.

M. Solomon a également convoqué vendredi une réunion avec les ministres du G20 pour discuter des questions de sécurité.

Il a souligné que les inquiétudes concernant «les modèles de pointe qui échappent à tout contrôle» sont réelles, mais ne datent pas d’hier.

«Cependant, l’évolution de ces modèles et la rapidité avec laquelle ils atteignent ce stade sont fulgurantes. Le public s’en inquiète donc, tout comme nous. Nous prenons donc cela extrêmement au sérieux», a-t-il mentionné.

La mise au point d’une IA sûre et fiable «nécessitera une réglementation mondiale en matière de tests et d’évaluation des modèles», a précisé M. Solomon. «Nous travaillons avec nos partenaires pour voir où cela nous mènera.»

La présidente de la Commission européenne, Ursula von der Leyen, a avancé que l’Europe collaborerait avec des pays tels que le Canada sur des questions comme l’évaluation des modèles, les alertes précoces et la sécurité de l’IA.

Le président américain Donald Trump a affirmé que les appels de plus en plus nombreux en faveur d’une réglementation étaient le fruit d’un complot. Il a réitéré son message anti-réglementation lors d’un discours prononcé mardi à l’ONU et a déclaré qu’il remplacerait le terme «intelligence artificielle» par «super-intelligence».

M. Solomon n’a pas souhaité commenter cette déclaration de M. Trump mardi.

«Les Canadiens ne sont pas du tout enthousiastes à l’idée de changer les noms des choses, alors je préfère laisser cela de côté. C’est le fond qui, selon moi, importe aux Canadiens», a-t-il ajouté.

M. Trump avait tenté de rebaptiser le lac Ontario «lac Amérique» après que le Canada s’est retiré des négociations commerciales avec les États-Unis le mois dernier.

Anja Karadeglija, La Presse Canadienne