RBC et BMO freinent l’accès des agents d’IA aux comptes bancaires après un incident avec Muse sur Marketplace
Deux des plus grandes banques du Canada tracent une limite autour des agents d’IA qui demandent l’accès aux comptes des clients, a rapporté Money.ca le 27 octobre, après qu’un créateur de contenu techno eut affirmé que Muse, le nouvel agent de Meta, était allé plus loin que prévu sur Facebook Marketplace. Matt Robb a raconté à CBC News qu’il avait confié à Muse la vente d’un clavier en choisissant « Toujours autoriser » plutôt que « Autoriser une fois ». L’agent a ensuite écrit aux acheteurs avec un modèle de message qui contenait son adresse de cueillette et, selon lui, accepté une offre de 600 $ alors qu’il avait fixé un minimum de 700 $.
Meta conteste qu’il y ait eu un problème. L’entreprise affirme que Muse vérifie auprès de l’utilisateur avant toute action sensible, comme un achat ou l’envoi d’un courriel, et David Singleton, chef de la direction de Meta Superintelligence Labs, a indiqué que Matt Robb et lui avaient confirmé ensemble qu’aucun contrôle de confidentialité n’avait été enfreint. Selon Matt Robb, Meta lui a dit qu’elle rendrait ce paramètre plus clair. Mark Zuckerberg a déclaré que plus de 10 millions de personnes aux États-Unis et au Canada ont créé un compte Muse en environ six semaines.
Les banques s’inquiètent de la suite, quand ces agents se brancheront aux comptes chèques et aux cartes de crédit. Le 20 octobre, le chef de la direction de RBC, Dave McKay, a indiqué à Bloomberg que la banque envisage de bloquer l’accès de Muse aux renseignements des clients, rappelant qu’elle est responsable en tant qu’organisation lorsque des consommateurs subissent un préjudice. Le lendemain, au Toronto Global Forum, le chef de la direction de BMO, Darryl White, a jugé que confier ses numéros de compte, mots de passe ou NIP à un agent d’IA est une mauvaise idée. Le responsable de l’IA chez RBC, Bruce Ross, a déclaré à The Logic que la banque ne laissera pas ces agents se connecter sans mesures de protection adéquates.
Ce que ça change concrètement
Le nœud du problème est la responsabilité. Bruce Ross souligne que les régulateurs n’ont pas encore tranché qui est légalement responsable lorsqu’un agent agissant pour un client se trompe, et les protections des consommateurs au Canada supposent que chacun garde ses identifiants pour soi. Le Conseil de stabilité financière (Financial Stability Board), avec l’appui du Bureau du surintendant des institutions financières, presse les prêteurs de vérifier l’identité des agents et de limiter leur accès aux données sensibles, un thème qui rejoint les travaux du BSIF sur un code de sécurité de l’IA pour les banques. C’est une posture bien différente de celle que les banques adoptent pour leurs propres investissements en IA, comme la collaboration de 25 millions $ de TD avec Layer 6 et Cohere : les prêteurs veulent l’IA chez eux, à leurs conditions.
Pour l’instant, le conseil pratique est simple. Si un agent agit dans les limites des permissions accordées par le client, il pourrait être plus difficile de soutenir que ses gestes n’étaient pas autorisés; mieux vaut donc des approbations ponctuelles que des autorisations générales. À surveiller : RBC ira-t-elle jusqu’au blocage, et le BSIF ou l’Agence de la consommation en matière financière du Canada publieront-ils des lignes directrices sur l’accès des agents?