Project Lily : des humains lisent vos conversations ChatGPT

2026-09-17 · 5 min de lecture · Gouvernance IA

Le 14 septembre 2026, 404 Media a révélé que des centaines de contractuels d'OpenAI lisent de vraies conversations ChatGPT pour évaluer les réponses. Les comptes personnels utilisés au travail deviennent un risque direct de conformité à la Loi 25.

Project Lily est le nom de code interne d'un programme d'OpenAI dans lequel des centaines de contractuels lisent de vraies requêtes soumises à ChatGPT afin d'évaluer et d'améliorer les réponses du modèle. Révélé le 14 septembre 2026 par le média d'enquête 404 Media, le programme touche les comptes grand public, pour lesquels l'utilisation des conversations à des fins d'amélioration du modèle est activée par défaut. Pour une entreprise québécoise, la question devient immédiate : que contiennent les conversations de vos employés ?

ChatGPT compte plus de 900 millions d'utilisateurs (404 Media, septembre 2026), dont certains y collent des courriels de clients ou des données de ressources humaines depuis un compte personnel. Le risque de « shadow IA » (l'usage d'outils d'intelligence artificielle non approuvés par l'organisation) prend ainsi une forme concrète : une lecture humaine, par un tiers, hors du Québec.

Que fait exactement Project Lily ?

L'enquête de Joseph Cox (404 Media, 14 septembre 2026) documente quatre éléments.

Lecture de requêtes réelles : les contractuels lisent la requête d'un utilisateur, parfois une conversation entière, et résument son intention.
Notation des réponses : ils évaluent quatre réponses possibles du modèle sur une échelle de 1 à 7, en pénalisant la complaisance, l'anthropomorphisme et l'excès d'émojis.
Main-d'œuvre externe : le recrutement passe par la firme Crossing Hurdles et la rémunération par la plateforme Mercor, à plus de 50 $ US l'heure selon un travailleur cité.
Filtrage imparfait : les réviseurs ne voient pas les noms d'utilisateur et OpenAI tente de retirer les renseignements personnels, mais l'entreprise reconnaît que des détails sensibles peuvent passer.

404 Media rapporte qu'Anthropic et Google exploitent des programmes comparables. Anthropic précise que sa révision ne vise que les utilisateurs ayant activé le réglage « Help improve our AI models », contrairement au réglage activé par défaut chez ChatGPT.

Pourquoi les comptes personnels posent-ils le vrai problème ?

La distinction entre offres grand public et offres d'entreprise est déterminante. OpenAI indique sur sa page de confidentialité entreprise qu'elle n'entraîne pas ses modèles, par défaut, sur les données de ChatGPT Business, ChatGPT Enterprise, ChatGPT Edu et de son interface de programmation (API, Application Programming Interface). Les comptes gratuits et Plus, eux, contribuent à l'amélioration du modèle tant que l'utilisateur ne désactive pas le réglage « Améliorer le modèle pour tous ».

Le risque se concentre donc là où l'organisation n'a aucune visibilité : l'employé qui utilise son abonnement personnel. Aucune entente contractuelle ne protège alors les renseignements transmis.

Que dit la Loi 25 sur ce type de flux ?

La Loi sur la protection des renseignements personnels dans le secteur privé (RLRQ, c. P-39.1), modernisée par la Loi 25, s'applique à toute conversation contenant des renseignements sur un client ou un employé.

Article 10 : l'entreprise doit prendre des mesures de sécurité raisonnables compte tenu de la sensibilité des renseignements.
Article 17 : avant de communiquer un renseignement personnel à l'extérieur du Québec, l'entreprise doit réaliser une évaluation des facteurs relatifs à la vie privée (EFVP) et encadrer la communication par une entente écrite.
Article 3.2 : l'entreprise doit établir et publier des politiques de gouvernance encadrant ses pratiques de protection des renseignements personnels.

Le 6 mai 2026, le Commissariat à la protection de la vie privée du Canada, la Commission d'accès à l'information du Québec (CAI) et leurs homologues de la Colombie-Britannique et de l'Alberta ont conclu qu'OpenAI n'avait pas obtenu un consentement valide pour la collecte de renseignements personnels ayant servi à entraîner ChatGPT (Conclusions LPRPDE n° 2026-002). OpenAI s'est engagée à mieux informer les utilisateurs, sans sanction financière.

Quelles mesures prendre dès cette semaine ?

Cinq actions réduisent l'exposition sans interdire l'IA générative.

Inventorier les usages réels : mesurer, par sondage et journaux réseau, l'usage de comptes personnels ChatGPT, Gemini ou Claude.
Fournir une offre d'entreprise : un abonnement ChatGPT Business, Enterprise ou équivalent exclut les données de l'entraînement par défaut.
Classifier ce qui peut être saisi : interdire explicitement les renseignements personnels de clients, les données de santé et les informations financières dans tout outil non approuvé.
Documenter l'EFVP : consigner la localisation des données, la durée de conservation et l'accès par des sous-traitants humains pour chaque fournisseur retenu.
Former les utilisateurs : montrer comment désactiver « Améliorer le modèle pour tous » et utiliser les conversations temporaires lorsqu'un compte personnel reste inévitable.

Pour aller plus loin : la rétention zéro chez OpenAI et Anthropic et les risques de la shadow IA.

Questions fréquentes

Des humains peuvent-ils lire mes conversations ChatGPT ?

Oui. Selon 404 Media (14 septembre 2026), des contractuels d'OpenAI lisent de vraies requêtes ChatGPT dans le cadre de Project Lily pour noter les réponses du modèle. Les noms d'utilisateur sont masqués et OpenAI filtre les renseignements personnels, mais l'entreprise admet que des détails sensibles peuvent échapper à ce filtrage.

ChatGPT Enterprise est-il concerné par Project Lily ?

Selon la politique de confidentialité entreprise d'OpenAI, les données de ChatGPT Business, Enterprise, Edu et de l'API ne servent pas à entraîner les modèles par défaut. Le reportage de 404 Media vise les comptes grand public, où l'amélioration du modèle est activée par défaut. Une vérification contractuelle reste recommandée.

Comment empêcher l'utilisation de mes conversations ChatGPT pour l'entraînement ?

Dans les paramètres de ChatGPT, section Contrôles des données, il suffit de désactiver « Améliorer le modèle pour tous ». Les conversations temporaires ne servent pas non plus à l'entraînement. En entreprise, la solution durable reste un abonnement encadré par contrat.

Un employé qui colle des données clients dans ChatGPT expose-t-il l'entreprise à la Loi 25 ?

Oui, car c'est l'entreprise qui porte la responsabilité. L'article 10 de la Loi sur la protection des renseignements personnels dans le secteur privé exige des mesures de sécurité raisonnables, et l'article 17 impose une EFVP avant toute communication hors Québec. Un usage non encadré par compte personnel expose donc l'organisation à un manquement.

Sources

404 Media, « Inside Project Lily: The Humans Reading Your ChatGPT Chats », 14 septembre 2026 : https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/
Commissariat à la protection de la vie privée du Canada, Conclusions en vertu de la LPRPDE n° 2026-002, enquête conjointe sur OpenAI OpCo, LLC, 6 mai 2026 : https://www.priv.gc.ca/fr/mesures-et-decisions-prises-par-le-commissariat/enquetes/enquetes-visant-les-entreprises/2026/lprpde-2026-002
Commissariat à la protection de la vie privée du Canada, Résumé de l'enquête conjointe sur le service ChatGPT d'OpenAI, 6 mai 2026 : https://www.priv.gc.ca/fr/nouvelles-du-commissariat/nouvelles-et-annonces/2026/bg-info_openai_260506/
LégisQuébec, Loi sur la protection des renseignements personnels dans le secteur privé (RLRQ, c. P-39.1) : https://www.legisquebec.gouv.qc.ca/fr/document/lc/P-39.1
OpenAI, Enterprise privacy : https://openai.com/enterprise-privacy/
Tom's Guide, « Humans may be reading your ChatGPT prompts, here's how to stop it », septembre 2026 : https://www.tomsguide.com/ai/chatgpt/humans-may-be-reading-your-chatgpt-prompts-heres-how-to-stop-it

Voir tous les articles