Les entreprises ne devraient pas s'autoréguler sur la sécurité en IA, selon Cohere

TORONTO — Aidan Gomez, chef de la direction de l'entreprise canadienne d’intelligence artificielle Cohere, estime qu’il ne faut pas laisser à un «petit groupe d’entreprises de la Silicon Valley» le soin de garantir la sécurité de l'IA.

Des dirigeants du secteur de l’IA ont mis en garde contre les dangers de cette technologie depuis qu’un chercheur d’Anthropic, qui a démissionné la semaine dernière, a déclaré que des acteurs du secteur craignaient que l’IA ne «nous tue tous».

Mardi, lors du sommet national sur l’investissement à Toronto, M. Gomez a évoqué l’appel lancé par le chef de la direction d’Anthropic, Dario Amodei, demandant au gouvernement américain d’assouplir les restrictions antitrust afin de permettre aux entreprises de travailler sur la sécurité de l’IA.

«Je pense que chaque fois qu’un PDG demande que les lois antitrust, qui ont été élaborées pour empêcher les cartels, soient temporairement et spécifiquement assouplies en leur faveur, cela devrait nous alerter», a déclaré M. Gomez.

«Les risques liés à cette technologie sont réels, mais la solution pour les prévenir ne consistera pas à laisser un petit groupe d’entreprises de la Silicon Valley dicter au monde entier comment se protéger.»

Dans une publication détaillée, M. Amodei a soutenu que le rythme de développement de l’IA devait être ralenti, ce qui nécessiterait une coordination au sein du secteur. Il a notamment suggéré que, pendant l’élaboration de la réglementation, «les entreprises spécialisées dans l’IA peuvent et doivent collaborer volontairement pour établir des normes».

Sam Altman, chef de la direction d’OpenAI, a indiqué qu'il partageait l’avis de M. Amodei selon lequel il faut «modérer la progression de cette frontière», tandis qu’Elon Musk, chef de la direction de xAI, a écrit: «Dario a raison.»

M. Gomez a affirmé mardi que les solutions devaient venir du public et du gouvernement, en concertation avec le secteur.

Il a également salué l’opposition du président américain Donald Trump aux appels en faveur d’une autorégulation du secteur de l’IA.

Mais M. Trump s’est globalement opposé à l’idée d’imposer des garde-fous à cette technologie. Il a déclaré lundi que les efforts visant à limiter les avancées de l’IA s’apparentaient à un complot.

M. Gomez a fait valoir que les risques posés par cette technologie devaient être abordés de manière coordonnée à l’échelle mondiale.

«C’est probablement la technologie la plus déterminante que l’humanité ait jamais développée», a-t-il prévenu, ajoutant qu’une diversification était nécessaire.

M. Gomez a déclaré que son entreprise souhaitait «veiller à ce que le monde dispose d’une deuxième voie, alignée sur les principes démocratiques, qui adhère à ces valeurs et qui protégera le leadership démocratique» dans un contexte de rupture géopolitique.

Le ministre canadien chargé de l’intelligence artificielle, Evan Solomon, a rappelé la semaine dernière que les avertissements émanant du secteur de l’IA n’étaient pas nouveaux et qu’il existait des solutions tant réglementaires que techniques pour faire face aux dangers posés par l’IA.

Anja Karadeglija et Craig Lord, La Presse Canadienne