La CNIL italienne annonce ce vendredi sa décision de bloquer l’accès au robot conversationnel ChatGPT. Les autorités transalpines accusent l’outil d’OpenAI de ne pas respecter la législation sur les données personnelles, et de ne pas proposer de système pour vérifier l’âge des mineurs. C’est la première fois qu’un État prend une telle décision.
Collecte illégale de données, absence de vérification de l’âge des mineurs… vers un scandale ChatGPT ?
L’Autorité de protection des données personnelles italienne précise qu’il s’agit d’une décision « avec effet immédiat ». Elle ajoute qu’elle aura pour conséquence « la limitation provisoire du traitement des données des utilisateurs italiens vis-à-vis d’OpenAI ». À l’origine de ChatGPT, la société américaine voit aussi l’Autorité italienne ouvrir une enquête.
Dans son communiqué, elle fait référence à l’incident rencontré par ChatGPT le 20 mars dernier. Celui-ci a entraîné une perte de données « concernant les conversations des utilisateurs et les informations relatives au paiement des abonnements au service payant ». Ces dernières heures, nous vous rapportions d’ailleurs que le robot conversationnel avait aussi laissé fuiter les informations bancaires de ses utilisateurs.
L’Italie reproche également au plus connu des outils d’IA conversationnel son « absence de base juridique justifiant la collecte et la conversation massive de données personnelles ». Ces données sont utilisées « dans le but de « former » les algorithmes faisant fonctionner la plateforme ».
Pour contrer ce blocage, les Italiens s’équipent d’un VPN utilisable sur ChatGPT.
Un manque d’exactitudes dans le traitement des données
Alors que ChatGPT recueille de nombreuses données, Rome constate que « les informations fournies par ChatGPT ne correspondent pas toujours à la réalité, entraînant ainsi un traitement inexact des données personnelles ». Une attaque qui remet en cause le modèle même du robot conversationnel.
La dernière remarque adressée à OpenAI concerne l’absence de système pour vérifier l’âge des mineurs. Le service s’adresse officiellement aux personnes de plus de 13 ans, mais les autorités italiennes pointent du doigt « l’absence de tout filtre pour vérifier l’âge des utilisateurs ». Elle assure que cela « expose les mineurs à des réponses absolument non conformes par rapport à leur niveau de développement et de conscience ».
La menace d’une sanction est bien réelle
En plus de ce blocage avec effet immédiat, l’Italie demande à OpenAI de communiquer dans les 20 jours sur les mesures prises pour remédier à cette situation. L’Autorité rappelle que la firme américaine s’expose à une amende allant jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial. Cette décision revêt un caractère politique aussi important que juridique, alors que 1 300 personnalités veulent mettre l’intelligence artificielle en pause.
Elon Musk et de nombreuses personnalités de la tech s’inquiètent de voir des laboratoires d’IA se lancer dans « une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants ». Ils affirment que « personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable » ces cerveaux numériques.
Il y a quelques jours, le PDG d’OpenAI a reconnu être un peu effrayé par cette technologie. L’IA aura un impact sur nos sociétés que l’on ne peut encore imager et toute la question est de savoir comment encadrer son développement. L’Europe travaille d’ailleurs sur un projet de règlement qu’elle a présenté en avril 2021. Cet « AI Act » prévoit notamment l’encadrement des systèmes dits « à haut risque » et potentiellement dangereux.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
