Des solutions existent pour les dangers posés par l'IA, selon le ministre Solomon

OTTAWA — Le ministre de l'Intelligence artificielle et de l'Innovation numérique, Evan Solomon, a affirmé que le gouvernement suivait de près la situation chez Anthropic après qu'un chercheur ayant démissionné de la compagnie mardi a dit que plusieurs collègues craignaient que l'IA «nous tue tous».

M. Solomon a précisé que de tels avertissements ne sont pas nouveaux et s'en remet aux efforts du gouvernement libéral d'introduire des règlements dans la législation sur la protection de la vie privée.

Il a indiqué qu’il existe à la fois des solutions réglementaires et techniques pour faire face aux dangers posés par l’IA et que le gouvernement collabore également avec d’autres pays pour trouver des moyens de protéger les citoyens.

M. Solomon reconnaît qu’il existe de «réelles inquiétudes» quant aux conséquences négatives de l’IA.

Il a tenu ces propos à Edmonton, où il a annoncé le lancement d'une nouvelle initiative visant à améliorer les connaissances des Canadiens en matière d'IA.

La semaine dernière, il a annoncé de nouveaux principes volontaires pour la construction de centres de données au Canada, une initiative qui fait suite à la contestation croissante à l’égard de ces centres à travers le pays.

Déclarations chocs d'un ex-chercheur en IA

Plus tôt mardi, un chercheur d’Anthropic a annoncé sa démission, justifiant sa décision par des craintes que les grandes entreprises d'IA agissent irresponsablement dans le développement de leurs technologies, faisant ainsi écho aux inquiétudes exprimées tant au sein qu’à l’extérieur du secteur quant au risque que cette technologie échappe au contrôle humain.

Jacob Coxon, qui dit avoir passé trois ans comme chercheur chez Anthropic et OpenAI, a affirmé que ces deux entreprises d’IA menaient entre elles une course contre la montre face à leurs concurrents mondiaux pour développer le modèle le plus avancé possible, laissant derrière elles les préoccupations sur la sécurité.

OpenAI et Anthropic ont fait grand bruit cet été lorsqu’elles ont annoncé, à environ une semaine d’intervalle, que leurs modèles ont réussi à s'échapper de leurs environnements de test et obtenu un accès non autorisé à de véritables systèmes informatiques.

Ces évènements ont suscité des inquiétudes quant à la possibilité que ces modèles deviennent incontrôlables et se livrent à d’autres tâches plus néfastes. Les deux entreprises avaient alors déclaré qu’elles suspendaient certaines évaluations le temps de mettre en place davantage de mesures de surveillance et de garde-fous.

Dans ses publications sur les réseaux sociaux, M. Coxon a écrit qu’Anthropic et son principal rival, OpenAI, «foncent vers une superintelligence s'améliorant elle-même et y parient nos vies».

Il a averti que certains acteurs du développement de l’IA estimaient que celle-ci pourrait menacer la vie humaine d’ici la fin de la décennie.

«Ne sous-estimez pas la puissance de cette technologie, a-t-il poursuivi. Il s’agira bientôt de systèmes surhumains capables de pirater n’importe quoi, de révolutionner n’importe quel secteur du jour au lendemain et d’acquérir un pouvoir et des ressources réels. Nous avons tous été témoins des progrès réalisés dans chacun de ces domaines, et ces progrès ne ralentissent pas.»

Ses publications ont rejoint plus de 100 millions de personnes en une nuit, suscitant de vifs débats en ligne.

M. Coxon n’a pas répondu aux messages lui demandant de commenter. Anthropic et OpenAI non plus.

Anthropic se présente depuis longtemps comme la plus responsable et la plus soucieuse de la sécurité parmi les grandes entreprises d’IA, depuis que ses fondateurs ont quitté OpenAI pour créer cette entreprise de démarrage en 2021. L’entreprise a récemment déclaré qu’elle prenait des mesures pour «privilégier la sécurité plutôt que la rapidité lorsque les deux sont en contradiction».

Anthropic et OpenAI se préparent toutes deux à des introductions en bourse très médiatisées et se livrent une concurrence acharnée. Elles se sont également donné pour mission de devancer les progrès des entreprises chinoises spécialisées dans l’IA, une course que l’administration Trump tient particulièrement à remporter.

— Avec des informations de Kaitlyn Huamani de l'Associated Press

Anja Karadeglija, La Presse Canadienne