Allocution prononcée à l'occasion du Sommet canadien de la concurrence 2024

Le 16 septembre 2024
Ottawa (Ontario)

Allocution prononcée par Philippe Dufresne
Commissaire à la protection de la vie privée du Canada

(Le texte prononcé fait foi.)

Mot d'ouverture

Bonjour et merci de m'avoir invité à faire part de mon point de vue sur l'intelligence artificielle (IA) et l'incidence de celle-ci sur la vie privée.

L'IA est sans contredit un sujet sur lequel mes collègues et moi-même avons beaucoup échangé au cours de la dernière année et demie dans le cadre de notre travail au sein du Forum canadien des organismes de réglementation numérique. D'ailleurs, je me réjouis que la Commission du droit d'auteur du Canada se soit jointe au Forum; et j'accueille favorablement la venue du vice-président et premier dirigeant, qui pourra nous fournir une perspective importante sur le sujet.

Étant donné que la plupart d'entre vous sont issus du milieu de la concurrence, je vais d'abord décrire brièvement en quoi consiste mon rôle de Commissaire à la protection de la vie privée du Canada avant de vous parler de l'importance de la collaboration entre les organismes de réglementation. Je vous parlerai ensuite des initiatives particulières que le Commissariat à la protection de la vie privée du Canada a entreprises pour évaluer l'incidence de l'IA sur la vie privée et prendre des mesures à cet égard.

Qui nous sommes et ce que nous faisons

En tant que Commissaire à la protection de la vie privée du Canada, ma mission consiste à protéger et à promouvoir le droit fondamental à la vie privée des Canadiennes et des Canadiens. Il faut notamment veiller au respect de la Loi sur la protection des renseignements personnels, qui régit les pratiques de traitement des renseignements personnels des ministères et organismes fédéraux, et de la Loi sur la protection des renseignements personnels et les documents électroniques (LPRPDE), la loi fédérale relative à la protection des renseignements personnels dans le secteur privé au Canada.

À ce titre, je suis un agent du Parlement indépendant et je relève directement du Parlement.

En janvier, j'ai publié un plan stratégique qui orientera le travail du Commissariat jusqu'en 2027. Il comprend les trois priorités suivantes :

• protéger et promouvoir le droit à la vie privée de manière à optimiser les efforts déployés;
• faire valoir la protection de la vie privée à l'heure où se succèdent les changements technologiques et agir en ce sens;
• défendre le droit à la vie privée des enfants.

L'importance de la collaboration

Chacune de ces priorités repose sur un engagement de collaboration, que ce soit avec les organismes de protection de la vie privée nationaux ou internationaux, la société civile, le milieu universitaire, l'industrie et d'autres ministères. Il est devenu évident que la collaboration entre les organismes de réglementation est essentielle si nous voulons mieux protéger les droits et les intérêts des Canadiennes et des Canadiens dans l'espace numérique.

Le Forum canadien des organismes de réglementation numérique nous permet de travailler ensemble dans des domaines d'intérêt commun. Le Forum nous a également permis de constater que bon nombre de nos préoccupations communes sont des préoccupations mondiales, ce qui rend la coopération internationale importante également.

À cette fin, le Forum s'est récemment joint au Réseau international de coopération en matière de réglementation numérique (International Network for Digital Regulation Cooperation) afin de renforcer les liens internationaux compte tenu de l'ampleur et de la nature mondiale des marchés numériques et de la vitesse à laquelle ils innovent.

Nous renforçons aussi notre collaboration avec l'Organisation de coopération et de développement économiques (OCDE). D'ailleurs, je prendrai part à une discussion sur ce sujet dans le cadre d'un forum international en novembre prochain.

De plus, le mois dernier, j'ai signé un protocole d'entente avec la présidente de la Commission fédérale des communications (Federal Communications Commission) des États-Unis dans le but de renforcer la communication des renseignements et la coopération en matière d'application de la loi entre nos deux organisations. Cette mesure reconnaît la nécessité croissante de travailler ensemble sur des questions en lien avec la protection de la vie privée des consommateurs, la protection des données et la cybersécurité.

Au sujet de ce dernier point, je tiens à souligner que les atteintes à la sécurité des données dues à des attaques par rançongiciels et logiciels malveillants se sont multipliées au cours de la dernière décennie, et que le bourrage d'identifiants, moyen par lequel les pirates informatiques se servent d'identifiants volés lors d'une atteinte à la sécurité des données pour accéder à d'autres comptes, est de plus en plus courant. L'année dernière, 46 pour cent des atteintes signalées au Commissariat dans le secteur privé ont été identifiées comme des cyberincidents, ce qui représente une augmentation de 13 pour cent par rapport à l'année précédente.

Initiatives dans le domaine de l'IA au Commissariat

Même si cela vous donne une vue d'ensemble de certaines des activités récentes de mon organisation, étant donné le thème d'aujourd'hui, soit l'IA, je parlerai plus en détail de ma deuxième priorité, c'est-à-dire prendre des mesures à l'égard des répercussions de la technologie sur la vie privée, en particulier dans les domaines de l'IA et de l'IA générative.

L'utilisation de gigantesques ensembles de données - qui comprennent souvent des renseignements personnels - pour générer du contenu comme du texte, du code informatique, des images, de la vidéo ou de l'audio en réponse à une demande de l'utilisateur s'avère incroyablement prometteuse pour ce qui est de faire progresser l'innovation et accroître l'efficacité et la commodité.

Cela dit, cette technologie suscite également d'importantes préoccupations en matière de protection de la vie privée, notamment en ce qui concerne la collecte et l'utilisation de renseignements personnels, et la nécessité d'une plus grande transparence à cet égard, notamment en ce qui a trait aux risques pour la vie privée.

Les organisations qui conçoivent ou perfectionnent des modèles d'IA devraient être en mesure d'expliquer d'où proviennent leurs données, et les organisations qui utilisent des systèmes d'IA devraient pouvoir justifier le recours à ces systèmes dans le cadre de processus décisionnels.

D'autres préoccupations liées à la protection de la vie privée ont été soulevées. Elles ont trait aux mécanismes de consentement, à la responsabilité relative aux processus et aux résultats des systèmes, et à l'exactitude des décisions, y compris la façon dont ces décisions ont atténué le risque de partialité.

Ces préoccupations sont au cœur du travail du Commissariat dans le domaine.

Notamment, une enquête sur l'outil ChatGPT d'OpenAI est en cours. L'enquête est menée conjointement avec trois homologues provinciaux du domaine de la protection de la vie privée, soit ceux du Québec, de la Colombie-Britannique et de l'Alberta.

L'enquête vise à établir si OpenAI respecte les exigences prévues dans les lois canadiennes pertinentes sur la protection des renseignements personnels en ce qui concerne le consentement, l'ouverture, l'accès, l'exactitude et la responsabilité.

Elle vise également à établir si l'organisation recueille, utilise et communique des renseignements personnels à des fins acceptables.

Il s'agit d'une enquête hautement prioritaire. Je serai heureux de vous faire part des résultats plus tard cette année.

De plus, en décembre dernier, j'ai été l'hôte d'un symposium international sur la protection de la vie privée et l'IA. J'ai accueilli des experts du milieu universitaire, de l'industrie, de la société civile et du gouvernement, ainsi que des homologues chargés de la protection des données du Canada et de partout dans le monde, afin de discuter ensemble des occasions et des risques que présente l'IA générative, et de la meilleure façon pour tous les secteurs de collaborer dans ce dossier.

Mes homologues provinciaux et territoriaux et moi-même avons également eu l'occasion de lancer un ensemble de principes visant à promouvoir l'élaboration et l'utilisation de technologies de l'IA générative responsables, dignes de confiance et respectueuses de la vie privée au Canada.

Dans le document commun, on explique comment les principes clés de protection de la vie privée s'appliquent à la conception, à la prestation et à l'utilisation de modèles, d'outils, de produits et de services d'IA générative.

Avant de conclure, j'aimerais également mentionner que, comme bon nombre d'entre vous le savent, le Parlement continue de débattre de nouvelles mesures législatives à cet égard. Il le fait dans le cadre du projet de loi C-27, qui permettrait de moderniser la LPRPDE et d'instaurer une nouvelle loi propre à l'IA. Je crois fermement que les lois canadiennes sur la protection des renseignements personnels doivent être modernisées. Cela dit, il est important de noter que ces lois s'appliquent à l'utilisation de cette technologie à l'heure actuelle, et je suis résolu à veiller à leur application dans ce domaine.

Je vous remercie et j'ai hâte de prendre part à la discussion d'aujourd'hui sur les efforts que nous déployons sur le plan de la réglementation pour nous attaquer à cette importante question.

Public link

Please use the above public link if you want to share this noodl on another website.