L’essor impressionnant des IA génératives de texte ou d’image depuis la fin 2022 a amené avec lui son lot de problématiques lié à la protection et à la sécurisation des données personnelles.
L’Italie a été le premier pays à interdire l’utilisation de ChatGPT après que son régulateur national de la protection des données ait soulevé des inquiétudes concernant les violations de données qu’a subies OpenAI, l’entreprise qui a développé l’IA.
L’entreprise admet enregistrer les conversations avec ses utilisateurs et les « prompts » (questions que l’on pose à ChatGPT) qu’ils lui soumettent mais également les détails du compte des utilisateurs (nom, adresse mail, adresse IP, emplacement approximatif et les informations de paiement). De plus, elle ne propose aucun moyen à ses utilisateurs de vérifier si leurs données sont stockées ni aucun moyen de les supprimer.
Cette nécessité de régulation a amené la Commission européenne et la CNIL à élaborer un plan d’action visant à mieux répondre aux enjeux de l’essor des IA génératives.
