Le 1er avril dernier, à la demande de la « Garante per la protezione dei dati personali" (GPDP), la CNIL italienne, les autorités italiennes ont bloqué l’accès à ChatGPT, invoquant de graves problèmes de sécurité autour de l’utilisation des données utilisateurs. Selon le communiqué de l'Autorité italienne, ChatGPT « a subi, le 20 mars, une perte de données concernant les conversations des utilisateurs et les informations relatives au paiement des abonnés au service payant ». L'Autorité reproche également « l'absence d'une note d'information aux utilisateurs dont les données sont récoltées par OpenAI, mais surtout l'absence d'une base juridique justifiant le recueil et la conservation en masse des données personnelles, dans le but d'"entraîner" les algorithmes faisant fonctionner la plate-forme ».

Non, l’Italie ne fait pas une crise de paranoïa. Si la décision peut surprendre, le danger lui, est bien réel. Contacté par des journalistes, un consultant spécialiste en cybersécurité affirme que le robot conversationnel d’OpenAI présente « un risque pour les données utilisateurs ». « Grâce à sa facilité d’utilisation, les gens ne peuvent pas s’empêcher de l’utiliser. Le problème, c’est que ces gens vont télécharger des documents dans ChatGPT et que les données de ces derniers sont aussi récupérées. » Détenue par Microsoft, l’entreprise stocke ces données et « on ne sait pas où celles-ci atterrissent ni ce qu’elles deviennent », précise le spécialiste.

Si les États-Unis poussent actuellement des cris d’orfraie contre les données collectées par TikTok pour la Chine, certains s’inquiètent de l’opacité autour de la gestion des données utilisateurs de ChatGPT. « OpenAI n’est pas une entreprise européenne. Elle est américaine, sous le contrôle de Microsoft, impliquant un stockage massif des conversations, de la plus insignifiante à la plus sensible, que les gens postent sur ChatGPT. Celles-ci sont reprises par le robot et on ne sait pas ce que Microsoft en fait. On ignore si elles sont bien protégées », explique l’expert.

Récemment, une pétition a été lancée par des centaines d’experts mondiaux en faveur d’une « pause d’au moins six mois » dans la recherche sur les intelligences artificielles. Le fantasque milliardaire Elon Musk, lui-même signataire, estime que le robot présente « des risques majeurs pour l’humanité ». Vrai cri du cœur ou énième coup de com' ?

En France, ChatGPT fait l’objet d’une « procédure de contrôle » de la CNIL, à la suite de cinq plaintes déposées, deux premières plaintes qui reprochaient l’absence de conditions générales d’utilisation sur le site, mais également la production d’informations erronées. Jeudi 13 avril, la CNIL comptabilisait trois plaintes supplémentaires, dont une du député Renaissance Éric Bothorel.

Ces erreurs commises par ChatGPT sont contraires au Règlement général européen sur la protection des données (RGPD). Si les inexactitudes de l’IA ne portent pas de préjudice grave au député dans ce cas précis, d’autres erreurs bien plus compromettantes ont déjà été commises par l’outil. Récemment, un élu australien a notamment porté plainte contre ChatGPT car l’outil avait affirmé à tort qu’il avait été condamné pour corruption.

Source