Il existe de nombreuses indications selon lesquelles l'Union européenne accusera à nouveau OpenAI du fait que les applications d'IA qu'elle a développées (en particulier les robots) ne répondent pas aux exigences en matière de sécurité et de protection de la vie privée des personnes qu'elles ont dans leurs ressources.
Tout a commencé lorsqu'une organisation à but non lucratif appelée noyb a accusé l'entreprise de ne pas avoir permis à ses robots ChatGPT de corriger les informations incorrectes qu'il avait précédemment générées. De cette manière, le chatbot peut, par exemple, diffuser de fausses informations portant atteinte à la vie privée des personnes interrogées par les utilisateurs utilisant ses services.
On sait depuis longtemps que les robots IA peuvent fournir de fausses informations. Cela est parfois dû au fait que l'IA a ce qu'on appelle hallucinations. Les hallucinations constituent un défi de taille auquel les créateurs de robots sont confrontés depuis leur création. L’intelligence artificielle entre parfois dans un état d’hallucinations, générant alors de fausses informations. Des recherches ont montré que les chatbots peuvent encore donner de fausses réponses dans 3 % des réponses. Et c’est exactement la situation à laquelle nous sommes confrontés dans ce cas.
Le problème est qu'un utilisateur recevant de telles informations erronées – contenant parfois des informations confidentielles – peut accuser les créateurs du robot d'opérer en violation du Règlement Général sur la Protection des Données (RGPD). Et les sanctions en cas de non-respect du RGPD peuvent être sévères et atteindre jusqu'à 4 % du chiffre d'affaires annuel global de l'entreprise propriétaire du bot.
Nous avons connu une telle situation l'année dernière en Italie, lorsqu'une des autorités de régulation du pays a forcé OpenAI à fermer le bot ChatGPT. Aujourd'hui, l'organisation noyb mentionnée ci-dessus a suivi les traces de cette autorité et a déposé une plainte auprès de l'autorité autrichienne de protection des données (agissant au nom d'un plaignant anonyme) contre OpenAI, l'accusant d'avoir fourni une date de naissance incorrecte du personne dans son chatbot.
Auparavant, l'entreprise avait rejeté la demande du plaignant visant à corriger la date de naissance incorrecte, affirmant que la correction était techniquement impossible. Au lieu de cela, OpenAI a proposé une solution pour filtrer ou bloquer les données contenues dans les réponses, comme le nom du plaignant. OpenAI a également affirmé ne pas être en mesure de dire d'où proviennent les données erronées générées par le chatbot sur les personnes physiques.
Il suggère également aux utilisateurs de demander que leurs données personnelles soient complètement supprimées des résultats ChatGPT, ce qu'ils peuvent faire en remplissant le formulaire en ligne approprié.
Commentant la plainte, le nyod a publié une déclaration disant : « L'explication d'OpenAI est très problématique. Fournir de fausses informations sur des personnes spécifiques peut entraîner de graves conséquences. Il est clair que les entreprises ne sont actuellement pas en mesure de garantir que les chatbots tels que ChatGPT respectent le droit européen lors du traitement des données personnelles. Si un système d’IA ne peut pas produire de résultats précis et transparents, il ne peut pas être utilisé pour générer des données sur des individus. C’est la technologie qui doit répondre aux exigences légales, et non l’inverse.
