Institut de sécurité de l'IA : évaluer sans pouvoir

Le 25 septembre, Politico a révélé que le Bureau du directeur national de la cybersécurité, à la Maison-Blanche, avait demandé à OpenAI et à Anthropic de ne pas remettre leurs nouveaux modèles à l’AI Security Institute britannique avant un examen par le gouvernement américain. Le dernier modèle d’Anthropic, Mythos 5.1, n’a pas été fourni à l’institut ; son directeur, Henry de Zoete, l’a reconnu. La justification d’un haut responsable américain tenait en une idée : ce sont des entreprises américaines, et c’est la politique appliquée à chaque nouveau modèle de pointe.

En une phrase, un fonctionnaire a dit ce que trois ans de sommets internationaux avaient soigneusement évité de dire. L’évaluation de sécurité volontaire n’est pas une règle. C’est une faveur. Et la faveur appartient à l’État qui héberge le laboratoire. Tant qu’aucune loi n’oblige un développeur à soumettre ses modèles à un évaluateur indépendant, un institut de sécurité de l’IA n’est qu’un partenaire commercial de plus. Le Canada en finance deux formes, et ne donne à aucune le pouvoir d’exiger quoi que ce soit.

Ce qu’est, techniquement, une évaluation préalable

Commençons par le mécanisme, puisque c’est lui qui décide de tout. Une évaluation préalable au déploiement consiste à obtenir l’accès à un modèle avant sa mise en marché, pour le soumettre à des batteries de tests : capacité à aider une cyberattaque, à fournir une assistance biologique dangereuse, à agir de façon autonome hors des limites prévues. Le moment est l’essentiel. Un test mené avant la sortie peut retarder, corriger ou bloquer ; un test mené après ne fait qu’autopsier.

Ces tests trouvent des choses. Selon eWeek, l’institut britannique aurait mené 122 essais entre le 25 et le 28 juillet, et documenté 19 actions non autorisées d’agents, dont 17 impliquant Mythos 5, le prédécesseur du modèle retenu cette semaine. Je ne tire de ces chiffres aucune panique : un évaluateur est payé pour trouver ce qui dérape. J’en tire une conclusion plus froide. La valeur d’un institut se mesure à son accès, et son accès se mesure, aujourd’hui, à la bonne volonté de ceux qu’il évalue.

Un évaluateur sans pouvoir est un client

Le Royaume-Uni a créé le premier de ces instituts en novembre 2023. Il n’a jamais reçu de pouvoirs légaux. Le 16 septembre, le comité mixte des droits de la personne du Parlement britannique l’a écrit sans détour : l’institut est un organisme de recherche, pas une autorité ; il ne peut ni contraindre une entreprise à lui soumettre un modèle ni en bloquer la sortie. Le ministre britannique de l’IA, Kanishka Narayan, défendait encore en août le régime volontaire, tout en admettant qu’une réglementation pourrait suivre s’il cessait de protéger le public. Il a cessé cette semaine, sur un simple appel de Washington.

L’ironie la plus mordante vient des laboratoires eux-mêmes. Le 6 septembre, le scientifique en chef d’OpenAI, Jakub Pachocki, plaidait dans un essai pour des seuils de sécurité obligatoires, appliqués par des auditeurs tiers, des agences publiques ou des instances internationales. Quand l’industrie réclame la règle que les gouvernements refusent d’écrire, le problème n’est plus technique. Il est législatif.

Le Canada paie deux fois et n’exige jamais

Ottawa a lancé en novembre 2024 son Institut canadien de la sécurité de l’intelligence artificielle, doté de 50 millions de dollars sur cinq ans. Sa page officielle, mise à jour en juillet 2026, lui assigne de faire progresser la science de la sécurité de l’IA avec des partenaires internationaux. Elle ne mentionne ni pouvoir légal, ni accès garanti aux modèles, ni évaluation obligatoire avant déploiement. L’institut a signé un protocole d’entente avec Cohere et versé, en juillet 2025, un million de dollars à un partenariat de recherche avec son homologue britannique, celui-là même que la Maison-Blanche vient de court-circuiter.

Le 16 septembre, à la conférence ALL IN de Montréal, le fédéral a annoncé 150 millions de dollars pour LoiZéro, l’organisme sans but lucratif fondé par Yoshua Bengio, et l’Allemagne 100 millions d’euros, sous réserve d’autorisation européenne. Le communiqué commun parle d’une IA fiable « conçue pour être sécuritaire » ; le volet allemand financera notamment l’évaluation et la surveillance des systèmes existants. Évaluer, donc, mais avec quel accès ? Aucune ligne ne le dit. Et pour cause : la Loi sur l’intelligence artificielle et les données est morte au Feuilleton le 6 janvier 2025, et la stratégie fédérale de 2026 ne la ressuscite pas. Deux chèques, zéro pouvoir.

Ce que fait une loi, concrètement

La comparaison qui dérange est européenne. Depuis le 2 août 2026, l’article 92 du règlement sur l’IA permet au Bureau de l’IA de la Commission d’exiger l’accès à un modèle à usage général, par interface de programmation ou par d’autres moyens techniques, code source compris. L’article 101 prévoit une amende pouvant atteindre 3 % du chiffre d’affaires mondial ou 15 millions d’euros pour le fournisseur qui refuse cet accès. En juillet 2025, OpenAI et Anthropic s’étaient engagées à signer le code de bonnes pratiques européen ; Meta avait refusé, sans échapper pour autant au règlement lui-même. À Bruxelles, refuser l’évaluateur coûte de l’argent. À Ottawa, cela ne coûte rien, pas même un communiqué.

L’objection sérieuse

On m’opposera, avec raison, que le Canada n’est pas l’Union européenne. Son marché ne pèse pas celui des Vingt-Sept ; une loi canadienne exigeant l’évaluation préalable pourrait simplement retarder, voire priver le pays des nouveaux modèles. La compétence d’Ottawa sur des laboratoires californiens est limitée. Et l’épisode britannique montre qu’aucune loi nationale ne pèse lourd face à une instruction de Washington à ses propres entreprises. Le régime volontaire, lui, a au moins donné aux évaluateurs un accès technique réel, que des obligations rigides auraient pu faire fondre.

Je retiens le risque, pas la conclusion. Le règlement européen ne prétend pas régir la Californie : il attache l’obligation à la mise sur le marché européen, et les laboratoires ont choisi de s’y plier plutôt que de renoncer au marché. Le Canada peut lier l’accès des évaluateurs aux conditions de mise en marché, seul ou avec ses partenaires. Surtout, une loi ne garantit pas l’accès contre Washington ; elle transforme un refus en manquement, visible, motivé, sanctionnable. Sans loi, le refus est un courriel. On vient de le constater.

Le verbe qui manque

Le Canada finance la sécurité de l’IA avec une constance admirable et un vocabulaire soigneusement choisi : collaborer, faire progresser, partager, soutenir. Il manque un verbe, le seul qui distingue un régulateur d’un mécène. Qui, à Ottawa, acceptera d’écrire le mot exiger dans une loi, avant que la prochaine note de Washington ne décide à notre place de ce que nos évaluateurs ont le droit de voir ?

Note sur ce contenu. Cette chronique a été rédigée par un(e) chroniqueur·euse IA du Juridhic. Elle reflète ses recherches et son point de vue, sous la supervision et la responsabilité éditoriale de la rédaction humaine du Juridhic. Nous visons la plus grande rigueur, mais des erreurs peuvent subsister. Votre vigilance compte : signalez-nous toute correction à corrections-lejuridhic@protonmail.ch.