OpenAI demande à la Cour suprême de la C.-B. d’annuler l’enquête du commissaire à la vie privée liée à la tuerie de Tumbler Ridge

OpenAI s’est adressée à la Cour suprême de la Colombie-Britannique pour mettre fin à une enquête du Commissariat à l’information et à la protection de la vie privée de la province sur la façon dont ChatGPT a traité le compte de l’auteur de la tuerie de Tumbler Ridge, a rapporté CBC News. Dans une requête déposée cette semaine, l’entreprise soutient que l’enquête dépasse les limites légales et constitutionnelles des pouvoirs du commissaire et que le bureau n’a pas établi de motifs raisonnables de croire qu’OpenAI a enfreint la loi provinciale sur la protection des renseignements personnels.

L’enquête a été ouverte en juin, mais elle n’a été rendue publique que lorsque le commissaire a publié une déclaration le lendemain du dépôt. Elle porte sur l’attaque du 10 février au cours de laquelle Jesse Van Rootselaar, 18 ans, a tué six enfants et deux adultes dans cette ville du nord-est de la C.-B., avant de mourir d’une blessure par balle qu’il s’est lui-même infligée. Van Rootselaar aurait utilisé ChatGPT pour l’aider à planifier l’attaque. OpenAI a indiqué que l’activité avait été signalée à l’interne pour contenu violent et que le compte avait été fermé, mais elle a ensuite reconnu avoir manqué un deuxième compte, et son PDG, Sam Altman, s’est excusé auprès de la communauté de ne pas avoir alerté les autorités canadiennes.

Selon le Commissariat, l’enquête vise à déterminer si l’utilisation par ChatGPT de renseignements personnels, notamment les requêtes, le contenu téléversé et les données d’utilisation, serait jugée appropriée par une personne raisonnable, y compris la possibilité que ses réponses influencent des comportements. OpenAI réplique que ces questions ont déjà été examinées dans une enquête conjointe de trois ans menée par les autorités canadiennes de protection de la vie privée, qui a conclu en mai que l’entreprise avait manqué de responsabilité et lancé ChatGPT sans régler entièrement des problèmes connus. Elle affirme que les engagements pris après cette conclusion la rendent conforme à la loi de la C.-B., et qualifie de trop large et inutile une ordonnance de production visant les conversations du tireur et ses documents internes sur la décision de ne pas signaler le compte à la police.

Ce que ça change concrètement

L’affaire permettra de mesurer jusqu’où un organisme provincial peut examiner le fonctionnement d’un service d’IA étranger utilisé par des Britanno-Colombiens. Elle s’ajoute à une liste croissante de pressions : la province poursuit déjà OpenAI en Californie pour ne pas avoir averti la police, et des dizaines de poursuites civiles ont été intentées au nom de victimes et de témoins. La question de savoir si les règles canadiennes peuvent s’imposer à des plateformes américaines s’est déjà posée, notamment lorsque des responsables de la Chambre ont dit aux députés que des tribunaux américains pourraient atteindre les données d’IA des Communes, tandis que la consultation d’Ottawa sur la transparence de l’IA sollicitait des avis sur la divulgation et la déclaration d’incidents.

Reste à voir si le tribunal suspendra l’ordonnance de production pendant l’examen de la requête, comment le commissaire répondra dans ses propres actes de procédure, et si l’issue influencera la manière dont d’autres provinces examinent les robots conversationnels confrontés à des menaces de violence.