Ce que ChatGPT, Gemini et Claude font vraiment de vos données personnelles

Ce qu’il faut retenir

Selon une étude Stanford HAI d’octobre 2025, les six principaux chatbots IA (ChatGPT, Gemini, Claude, Copilot, Meta AI, Nova) utilisent par défaut les conversations des utilisateurs pour entraîner leurs modèles. Les données saisies – y compris les fichiers uploadés – peuvent être conservées indéfiniment, relues par des employés et croisées avec d’autres données personnelles. En France, saisir des données identifiantes de patients dans ces outils expose les professionnels de santé à une violation du secret médical. Un opt-out est possible chez OpenAI, Google et Anthropic. Pour les usages médicaux sensibles, des solutions certifiées avec garanties contractuelles RGPD sont recommandées.

• Les 6 grandes plateformes IA activent par défaut l’utilisation des conversations pour l’entraînement de leurs modèles.
• Les fichiers uploadés pendant une conversation (PDF, bilans, comptes-rendus) sont également concernés par ce traitement.
• Pour les professionnels de santé, saisir des données patient identifiantes dans un chatbot grand public constitue un risque de violation du secret médical (article L.1110-4 CSP).
• Le RGPD offre des droits théoriques, mais l’effacement technique des données intégrées dans les poids d’un modèle reste difficile.
• Bonne pratique : activer l’opt-out dans les paramètres, anonymiser toute donnée sensible avant saisie, utiliser le mode sans historique.
• Pour les usages médicaux professionnels, privilégier des solutions certifiées HDS avec Data Processing Agreement (DPA) conforme au RGPD.

L’illusion de la conversation privée sur les IAs

Vous posez une question à ChatGPT sur vos symptômes. Vous demandez à Gemini de vous rédiger un courrier médical. Vous confiez à Claude un résumé de dossier patient pour préparer une consultation. Dans tous ces cas, vous avez peut-être l’impression de parler à un assistant virtuel qui « oublie » tout une fois la fenêtre fermée. Cette intuition est profondément erronée.

Une étude publiée en octobre 2025 par le Stanford Institute for Human-Centered AI (HAI) a analysé les politiques de confidentialité des six principaux acteurs américains de l’IA générative : Amazon, Anthropic, Google, Meta, Microsoft et OpenAI. Son constat est sans appel : toutes ces plateformes exploitent par défaut les conversations de leurs utilisateurs pour entraîner leurs modèles de langage.

Votre conversation n’est pas une discussion privée. C’est une donnée. Et comme toute donnée dans l’économie numérique, elle a de la valeur et des risques associés.

Comment vos données alimentent les LLMs à votre insu ?

Le principe d’entraînement continu

Les grands modèles de langage (LLM) ne sont pas figés, et leur intégration dans les moteurs de recherche via les AI Overviews et sites médicaux transforme en profondeur la visibilité en ligne des professionnels de santé. Ils s’améliorent en permanence grâce aux milliards d’échanges que leurs utilisateurs génèrent chaque jour. Chaque message que vous envoyez peut potentiellement devenir une donnée d’apprentissage : votre formulation, vos corrections, vos reformulations, et même les fichiers que vous uploadez pendant la conversation.

Ce processus est au cœur du modèle économique de ces entreprises. Plus les données sont variées et volumineuses, plus les modèles deviennent performants, plus les parts de marché se consolident. La confidentialité de l’utilisateur est donc structurellement en tension avec l’intérêt commercial des développeurs d’IA.

Le cas Anthropic (Claude) : une modification discrète des CGU

En septembre 2025, Anthropic a discrètement modifié ses conditions générales d’utilisation. Désormais, les conversations des utilisateurs de Claude sont utilisées par défaut pour l’entraînement du modèle, sauf si l’utilisateur se donne la peine de désactiver cette option. Ce changement d’opt-out (consentement implicite, refus explicite) plutôt qu’opt-in (consentement explicite) est emblématique d’une tendance généralisée.

Ce que font les autres plateformes selon l’étude Stanford

Les chercheurs de Stanford ont analysé un ensemble de 28 documents par entreprise : politiques de confidentialité, sous-politiques liées, FAQ et guides accessibles depuis les interfaces de chat.

Leurs conclusions principales :

• Les 6 entreprises utilisent les données de chat par défaut pour l’entraînement.
• Certaines conservent ces données indéfiniment.
• Certaines permettent à des humains de relire les conversations dans le cadre de l’entraînement.
• Dans les groupes multiproduits (Google, Meta, Microsoft, Amazon), les conversations se croisent avec les données issues d’autres services : recherches, achats, réseaux sociaux.

Un point crucial souvent négligé : les fichiers uploadés pendant une conversation sont également concernés. Si vous joignez un document PDF contenant des données médicales pour obtenir de l’aide à l’analyse, ce document peut entrer dans le pipeline d’entraînement.

Tableau comparatif des pratiques des 6 grandes plateformes

Source : étude Stanford HAI, octobre 2025 – synthèse Agence Web Santé.

Les vraies zones de risque : ce qu’on partage sans y penser

Données de santé et inférences automatisées

L’étude Stanford illustre le risque avec un exemple concret et frappant. Imaginez que vous demandiez à un LLM des idées de repas « low-sugar » ou « cardio-friendly ». En apparence anodine, cette requête permet au modèle d’inférer que vous appartenez potentiellement à une catégorie de personnes à risque cardiovasculaire ou diabétique. Cette classification peut ensuite « percoler » dans l’écosystème publicitaire du groupe.

Résultat : vous commencez à voir des publicités pour des médicaments ou des assurances santé. Dans un scénario plus préoccupant, ces données pourraient théoriquement se retrouver entre les mains d’un assureur ou d’un employeur, via des mécanismes de partage de données encore peu régulés.

🏥 Zoom Professionnel de Santé – Attention au Secret Médical

En France, le secret médical (article L.1110-4 du Code de la santé publique) s’impose à tout professionnel de santé. Saisir des données identifiantes d’un patient dans un chatbot IA grand public constitue potentiellement une violation de cette obligation, même à des fins de rédaction ou d’aide à la décision.

Exemples de situations à risque :

• Résumer un compte-rendu opératoire avec le nom du patient dans ChatGPT.
• Uploader un bilan biologique pour obtenir une aide à l’interprétation.
• Demander la rédaction d’une ordonnance en mentionnant le diagnostic.

Bonne pratique : toujours anonymiser avant de saisir. Remplacez « M. Dupont, 58 ans, suivi pour cancer colorectal stade III » par « un patient masculin de 58 ans, diagnostic oncologique digestif avancé ».

Autres catégories de données sensibles souvent exposées

• Données professionnelles : stratégies d’entreprise, données RH, contrats, bilans financiers saisis pour obtenir de l’aide à la rédaction ou à l’analyse.
• Données personnelles identifiantes : nom, adresse, numéro de sécurité sociale, coordonnées bancaires parfois inclus dans des documents joints.
• Données concernant des mineurs : la plupart des plateformes n’ont pas de système de vérification d’âge et n’excluent pas activement les données issues de mineurs de leurs processus d’entraînement.

Ce que disent (vraiment) les politiques de confidentialité

Un langage conçu pour protéger les entreprises

Les politiques de confidentialité sont des documents juridiques denses, rédigés dans un vocabulaire technique inaccessible à l’utilisateur moyen. L’étude Stanford souligne qu’elles sont structurellement défavorables aux consommateurs : elles listent des droits en théorie, tout en enfouissant les limitations réelles dans des sous-politiques liées, des FAQ secondaires et des notes de bas de page.

Pour les analyser, les chercheurs ont adopté la méthodologie du California Consumer Privacy Act (CCPA), la loi américaine la plus complète en matière de protection des données. Ils ont cherché à répondre à trois questions pour chaque plateforme :

1. Les données saisies par l’utilisateur servent-elles à entraîner ou améliorer le modèle ?
2. Quelles catégories de données personnelles sont collectées, stockées et traitées ?
3. Quelles sont les options d’opt-in / opt-out disponibles pour l’utilisateur ?

Les principaux points de vigilance identifiés

• Durée de rétention : certaines plateformes conservent les données de manière indéfinie. Aucune ne précise clairement de durée maximale.
• Revue humaine : plusieurs acteurs reconnaissent que des employés peuvent accéder à vos conversations pour les besoins de l’entraînement.
• Fusion de données multiproduits : chez Google, Meta, Amazon et Microsoft, vos conversations IA se croisent avec vos recherches, vos achats, vos interactions sur les réseaux sociaux.
• De-identification : certaines entreprises affirment anonymiser les données avant usage, mais sans préciser les méthodes ni offrir de garanties vérifiables.

Le cadre légal européen : le RGPD protège-t-il vraiment ?

Ce que dit le RGPD en théorie

En Europe, le Règlement Général sur la Protection des Données (RGPD) impose des obligations strictes aux entreprises qui traitent des données personnelles de citoyens européens, quelle que soit leur localisation géographique. Les principes clés applicables aux chatbots IA sont :

• La licéité du traitement : le traitement de données à des fins d’entraînement doit reposer sur une base légale (consentement explicite, intérêt légitime, etc.).
• Le droit à l’information : les utilisateurs doivent être clairement informés de l’usage fait de leurs données.
• Le droit à l’effacement (Article 17) : toute personne peut demander la suppression de ses données personnelles.
• Le droit d’opposition : l’utilisateur peut s’opposer au traitement de ses données à des fins d’entraînement.

La réalité : un vide réglementaire persistant

En pratique, l’application de ces droits aux LLM reste complexe. Une fois vos données intégrées dans les poids d’un modèle de langage, leur « effacement » technique est extrêmement difficile, voire impossible dans l’état actuel des technologies. Les entreprises américaines reconnaissent leur soumission au RGPD, mais les mécanismes de contrôle effectif restent limités.

La CNIL française et ses homologues européens (le G29 devenu EDPB) ont intensifié leurs investigations sur les pratiques des LLM depuis 2024. L’AI Act européen, entré progressivement en vigueur, impose de nouvelles obligations de transparence, mais son périmètre exact sur les données d’entraînement des modèles à usage général reste en cours de précision réglementaire.

L’étude Stanford recommande notamment : une réglementation fédérale américaine globale, l’instauration d’un opt-in par défaut (et non opt-out), et le filtrage automatique des informations personnelles dans les entrées de chat.

Bonnes pratiques pour préserver votre confidentialité sur les IAs

Pour tous les utilisateurs

• Vérifiez et activez l’opt-out : dans les paramètres de chaque plateforme, cherchez l’option permettant de désactiver l’utilisation de vos conversations pour l’entraînement. Elle existe chez OpenAI, Google et Anthropic.
• N’incluez jamais de données identifiantes : ni nom, ni numéro de sécurité sociale, ni adresse, ni informations financières dans une conversation.
• Anonymisez avant de partager : reformulez toujours les données sensibles en termes génériques avant de les soumettre.
• Préférez le mode sans historique : la plupart des plateformes proposent un mode « temporaire » où la conversation n’est pas sauvegardée. Utilisez-le pour les échanges sensibles.
• Lisez (au moins) le résumé de la politique de confidentialité : certaines plateformes proposent désormais des synthèses lisibles en quelques paragraphes.

Pour les professionnels de santé

• Utilisez des solutions IA dédiées au secteur médical accompagnées par une agence IA SEO spécialisée : des outils comme OpenEvidence, Nabla (transcription médicale) ou des versions Enterprise de ChatGPT proposent des garanties contractuelles de non-réutilisation des données pour l’entraînement, avec des DPA (Data Processing Agreements) conformes au RGPD.
• Formez vos équipes aux risques spécifiques : la sensibilisation au secret médical dans le contexte IA doit faire partie des formations obligatoires de vos collaborateurs.
• Vérifiez la localisation des serveurs : pour les données de santé, préférez des solutions hébergées en Europe (HDS = « Hébergeur de Données de Santé » pour les plus sensibles).
• Consultez votre DPO : si votre structure dispose d’un Délégué à la Protection des Données, impliquez-le dans le choix de vos outils IA.

Conclusion sur l’IA conversationnelle : un outil puissant, pas un coffre-fort

ChatGPT, Gemini, Claude et leurs homologues sont des outils remarquables de productivité et d’aide à la décision. Mais ils ne sont pas des espaces confidentiels. Chaque conversation peut potentiellement alimenter l’entraînement d’un modèle, être revue par un employé, ou se croiser avec d’autres données vous concernant dans l’écosystème d’un grand groupe technologique.

Pour les professionnels de santé, les enjeux dépassent la simple protection des données personnelles : en matière de seo médical comme de secret médical, pierre angulaire de la relation thérapeutique, la vigilance s’impose. Utiliser un chatbot grand public pour traiter des données patients sans précautions adéquates expose à des risques juridiques, éthiques et déontologiques réels, avec des conséquences directes sur l’e-réputation des professionnels de santé.

La vigilance n’est pas un appel au renoncement. C’est une invitation à utiliser ces outils de manière éclairée : comprendre ce qu’on partage, avec qui, dans quel cadre légal, et pour quelles finalités. À mesure que la réglementation européenne se précisera et que les développeurs d’IA seront soumis à une plus grande transparence, ces questions – tout comme la baisse du trafic organique liée à l’essor des LLM – deviendront incontournables pour tout acteur du numérique en santé.

À retenir : optez systématiquement pour l’opt-out, anonymisez vos données sensibles, et pour les usages professionnels en santé, privilégiez des solutions certifiées avec garanties contractuelles RGPD.