Des robots conversationnels ont mal informé des électeurs québécois, entend un comité des Communes

Les Canadiens qui se tournent vers les robots conversationnels d’IA pour s’informer sur une élection ne peuvent pas compter sur des réponses exactes, a entendu jeudi un comité de la Chambre des communes. Aengus Bridgman, politologue à l’Université McGill qui a dirigé une étude sur l’activité de ces outils pendant la récente élection québécoise, a indiqué aux députés qu’environ 40 % des électeurs québécois avaient interrogé des robots conversationnels d’IA sur le scrutin, a rapporté La Presse Canadienne (The Canadian Press).

Une partie du problème, selon M. Bridgman, tient au fait que les meilleures sources locales étaient hors de portée. « Presque toutes les salles de nouvelles du Québec ont bloqué la collecte de leurs contenus par les robots conversationnels d’IA. Ce qui veut dire que ces outils vont chercher l’information ailleurs », a-t-il déclaré (trad.). Taylor Owen, professeur agrégé à l’École de politiques publiques Max Bell de McGill, a ajouté que, durant les trois dernières semaines de la campagne, 39 % des conseils de vote fournis par ChatGPT provenaient d’un site amateur truffé d’erreurs, lui-même créé avec l’IA.

M. Owen a souligné que personne ne semblait avoir agi de mauvaise foi, qu’il s’agisse du créateur du site, des concepteurs des robots conversationnels ou des éditeurs qui se sont retirés des index d’IA. Il s’agit, selon lui, d’un concours de circonstances qui a probablement laissé un grand nombre de personnes avec de fausses informations sur l’élection. Le député conservateur Blaine Calkins a jugé la situation « un peu terrifiante » (trad.) et s’est demandé ce qui pourrait arriver si quelqu’un tentait la même chose volontairement.

Ce que ça change concrètement

Cette audience était la première séance d’une nouvelle étude du comité de la procédure et des affaires de la Chambre sur l’IA et les institutions démocratiques du Canada. Selon M. Bridgman, les robots conversationnels écrivent en pratique leurs propres règles en période électorale, et ces règles changent : pendant la campagne québécoise, ChatGPT est passé d’un jour à l’autre de la recommandation d’un parti politique au refus d’en recommander un. Le député libéral Braeden Caley a raconté qu’un robot conversationnel avait dirigé des bénévoles potentiels de son élection partielle d’août vers un bureau de campagne conservateur, un problème que l’entreprise a corrigé une fois signalé.

Les témoins ont proposé des solutions concrètes. M. Bridgman suggère une norme plus exigeante pour les questions démocratiques, semblable au traitement distinct que les modèles appliquent déjà à certaines questions de sécurité, puisque les entreprises cherchent autrement à réduire au minimum l’effort consacré à chaque réponse. M. Owen estime que la loi électorale devrait elle-même encadrer ce que les robots conversationnels peuvent dire pendant les campagnes. L’audience s’ajoute aux inquiétudes sur les faux journalistes générés par l’IA dans les médias canadiens, aux appels en faveur de règles de transparence de l’IA à plusieurs niveaux et à la récente consultation d’Ottawa sur la transparence de l’IA.

En juin, le Parlement a adopté un projet de loi électoral qui interdit de diffuser sciemment des informations fausses ou trompeuses sur le processus de vote dans l’intention de perturber une élection, et qui interdit les hypertrucages de candidats. À surveiller : les entreprises d’IA que le comité convoquera comme témoins, la possibilité que les députés recommandent des règles propres aux robots conversationnels en campagne, et la décision des éditeurs québécois de maintenir ou non le blocage des robots d’indexation d’IA.