Le BSIF envisage un code de sécurité de l’IA pour les banques face aux risques des modèles de pointe
L’organisme de réglementation des banques au Canada s’éloigne de son approche non interventionniste en matière d’intelligence artificielle. Lors du sommet du Global Risk Institute à Toronto mercredi, le surintendant Peter Routledge a affirmé que le Bureau du surintendant des institutions financières (BSIF, ou OSFI en anglais) envisage un « code de sécurité » de l’IA qui fixerait des normes minimales pour encadrer l’usage de cette technologie par les banques sous réglementation fédérale, a rapporté The Logic.
M. Routledge a lié ce virage à la vitesse des progrès techniques. Il a cité Mythos, le plus récent modèle de pointe d’Anthropic, ainsi que d’autres systèmes puissants qui pourraient servir à des cyberattaques ou à des activités illicites, de même que des agents d’IA autonomes qui fonctionnent avec peu de supervision humaine. « C’est effrayant, et c’est un risque qui est au premier plan pour nous », a-t-il déclaré aux journalistes (trad.).
Le chantier n’en est qu’à ses débuts. Selon M. Routledge, il n’existe encore aucune ébauche ni aucun échéancier officiellement approuvé, mais une consultation pourrait être lancée dès le printemps. Le code irait plus loin que les rapports consultatifs antérieurs du BSIF sur l’IA et s’appuierait probablement sur les travaux de l’organisme avec le Financial Industry Forum on AI du Global Risk Institute et avec le Conseil de stabilité financière.
Ce que ça change concrètement
Le BSIF vise un plancher, pas un plafond. M. Routledge estime que les banques canadiennes sont généralement prêtes à faire face aux risques liés à l’IA, mais que certaines sont plus avancées que d’autres; l’organisme veut donc établir un « niveau minimal de sécurité ou de résilience » pour éviter que les faiblesses d’une institution ne se propagent à ses contreparties. Il a ajouté que le BSIF dispose de suffisamment de personnel dans l’ensemble, mais qu’il accordera la priorité à l’embauche de spécialistes des risques émergents, en particulier l’IA et le numérique, alors que les organismes fédéraux subissent des pressions pour plafonner leurs effectifs.
Un code propre au secteur financier ajouterait une couche de plus à un effort fédéral plus large, des mises en garde d’Ottawa contre les risques d’IA hors de contrôle au nouveau Conseil national sur l’intelligence artificielle, censé guider la mise en œuvre de la stratégie AI for All. Des chercheurs ont aussi réclamé des règles de transparence à plusieurs niveaux pour l’IA au Canada.
M. Routledge s’exprimait la même semaine où le Groupe d’action financière (GAFI) a abaissé la note accordée à la supervision des institutions financières canadiennes en matière de lutte contre le blanchiment d’argent, une conclusion qu’il a dit ne pas contester. À surveiller : la publication éventuelle d’un projet de consultation au printemps, les usages de l’IA que le BSIF jugera les plus risqués et l’arrimage du code aux travaux internationaux du Conseil de stabilité financière.