OpenAI – Chat GPT, friande de vos données personnelles ?

C’est ce que démontrent les résultats de l’enquête conjointe sur OpenAI – ChatGPT en matière de protection des renseignements personnels. Survol.

L’enquête visait la collecte, l’utilisation et la communication de renseignements personnels pour entrainer et déployer ChatGPT, un produit technologique alimenté par l’intelligence artificielle.

La Commission d’accès à l’information s’est jointe au Commissariat à la protection de la vie privée du Canada pour rendre public le rapport conjoint découlant de l’enquête menée auprès d’OpenAI, l’entreprise exploitant ChatGPT.

L’enquête révèle plusieurs enjeux quant aux pratiques de l’entreprise et permet de conclure que la manière dont OpenAI a initialement entrainé et déployé ChatGPT n’est pas conforme aux lois fédérales et provinciales sur la protection des renseignements personnels.

Les enjeux identifiés concernent la collecte excessive de renseignements personnels, la validité du consentement, la transparence quant à la collecte, à l’utilisation et à la communication des renseignements personnels ainsi que les mesures mises en place pour veiller à ce que les renseignements produits sur les individus soient exacts, complets et à jour. L’accès aux renseignements personnels, leur correction et leur conservation sont aussi pointés du doigt.

Pour le Québec, à l’égard de la Loi sur la protection des renseignements personnels dans le secteur privé, la Commission conclut que l’entreprise n’a pas pleinement respecté ses obligations telles que décrites dans le rapport.

Quatre recommandations

Ainsi, la Commission fait quatre recommandations spécifiques à OpenAI quant à son modèle ChatGPT, soit de :

• mettre en place des mesures raisonnables lors de la collecte pour s’assurer du respect de l’obligation d’information auprès des personnes concernées ou de l’obtention d’un consentement lorsque requis;
• informer en temps utile les utilisateurs de la version Web gratuite que leur clavardage pourrait être examiné et utilisé aux fins d’entrainement du modèle;
• modifier les paramètres de confidentialité de ses systèmes afin qu’ils prévoient par défaut que le clavardage des utilisateurs ne sera pas utilisé aux fins d’entrainement des modèles;
• lorsque les renseignements personnels sont conservés aux fins de référence historique, en informer les utilisateurs ou, à défaut, procéder à leur destruction ou à leur anonymisation.

En cours d’enquête, pour répondre à certaines préoccupations soulevées par la Commission et ses homologues, l’entreprise a mis en place certaines mesures, notamment l’abandon des versions 3.5 et 4 de ChatGPT et l’entrainement des modèles actuels en limitant la quantité des renseignements personnels collectés.

À la lumière des conclusions de l’enquête, OpenAI s’est engagée à mettre en place des mesures supplémentaires visant à améliorer la protection de la vie privée.

Pour Mᶱ Lise Girard, présidente, Commission d’accès à l’information du Québec, la vie privée des utilisateurs d’IA est primordiale. « L’intelligence artificielle est utilisée aujourd’hui par une grande partie de la population, elle est accessible et conviviale. Cependant, ses répercussions sur la vie privée sont importantes. Il est donc primordial pour la Commission de veiller à ce que la vie privée et la protection des renseignements personnels des Québécois soient respectées par les organisations œuvrant dans ce domaine. Soulignons que cet important travail lance un message clair aux organisations du domaine de l’intelligence artificielle : l’innovation ne saurait justifier, à elle seule, une atteinte aux droits fondamentaux. C’est la responsabilité de celles-ci de prendre toutes les mesures nécessaires afin de respecter les lois applicables en matière de protection des renseignements personnels. »