Selon une étude de Cisco, jusqu’à une entreprise sur quatre interdit GenAI par souci de confidentialité et de sécurité des données.
Cisco a publié l’étude de référence sur la confidentialité des données 2024, un examen annuel des problèmes de confidentialité et de leur impact sur les entreprises. Les résultats de l’étude mettent en évidence les défis croissants de méfiance des consommateurs auxquels sont confrontées les organisations d’IA et les retours sur investissements en matière de confidentialité. Basée sur les réponses de 2 600 professionnels de la confidentialité et de la sécurité dans 12 pays, la septième édition de l’étude montre que la confidentialité est bien plus qu’une question de conformité réglementaire.
« Les entreprises considèrent GenAI comme une technologie complètement différente qui présente de nouveaux défis », a déclaré Dev Stahlkopf, directeur juridique de Cisco. « Plus de 90 % des personnes interrogées estiment que GenAI nécessite de nouvelles techniques de gestion des données et des risques. C’est là qu’une gestion réfléchie entre en jeu. Le maintien de la confiance des clients en dépend.
Parmi les préoccupations les plus importantes mentionnées par les entreprises figurent les menaces liées à la propriété intellectuelle des données développées par l’IA (69 %) et le risque de divulgation d’informations au public et/ou à des concurrents (68 %).
La plupart des entités sont conscientes de ces menaces et mettent en place des mécanismes de contrôle appropriés :
• 63 pour cent les entreprises ont des restrictions sur les données qui peuvent être saisies
• 61 pour cent exclu certains outils GenAI dans leurs organisations
• 27 pour cent interdit l’utilisation de tous les outils basés sur GenAI, au moins temporairement
De nombreuses personnes ont saisi des données qui peuvent poser problème, notamment des informations sur les employés (45 %) ou des documents non publics de l’entreprise (48 %).
Les consommateurs sont préoccupés par l’utilisation de l’intelligence artificielle dans le traitement de leurs données personnelles. 91 pour cent les organisations reconnaissent qu’elles doivent faire davantage pour garantir à leurs clients qu’elles utilisent les informations uniquement aux fins prévues et licites. Le résultat est d’un niveau similaire à celui de l’étude de l’année dernière, ce qui suggère qu’aucun progrès significatif n’a été réalisé dans ce domaine.
Les besoins des entreprises en matière de renforcement de la confiance diffèrent des priorités de leurs clients. Les consommateurs ont indiqué que les problèmes les plus urgents étaient d’obtenir des informations claires sur la manière dont leurs données sont utilisées et d’éviter la vente de ces informations à des fins de marketing.
Parallèlement, les priorités des entreprises sont de se conformer aux réglementations en matière de confidentialité (25 %) et d’éviter les violations de données (23 %). Cela suggère qu’il serait souhaitable de mettre davantage l’accent sur la transparence dans le traitement des données, en particulier pour les applications d’IA où il peut être difficile de comprendre comment les algorithmes « prennent » les décisions.
Les organisations sont conscientes de la nécessité de fournir à leurs clients des informations sur la manière dont leurs données sont utilisées, et 98 % d’entre elles a constaté que les certifications de confidentialité par des tiers sont un facteur important dans les décisions d’achat. Il s’agit du résultat le plus élevé de l’histoire de l’étude.
«94 pour cent les entreprises ont constaté que les clients n’achèteraient pas chez elles si elles ne protégeaient pas les données des consommateurs », explique Harvey Jang, responsable de la confidentialité chez Cisco. « Les consommateurs recherchent des preuves concrètes démontrant que l’on peut faire confiance aux organisations. La confidentialité est devenue intrinsèquement liée à la confiance et à la fidélité des clients. L’ère de l’IA rend ce processus encore plus visible : investir dans la confidentialité permet aux entreprises de mieux utiliser l’intelligence artificielle de manière éthique et responsable. »
Malgré les coûts et les défis que posent les réglementations en matière de confidentialité aux entreprises, 80 % les personnes interrogées ont déclaré que la législation sur la protection de la vie privée avait eu un impact positif sur leur organisation, tandis que seulement 6 % ont trouvé cet impact négatif. Les changements juridiques concernant la confidentialité augmentent la confiance des consommateurs dans les organisations, ce qui les amène à décider de partager leurs données avec elles.
De plus, de nombreux gouvernements et organisations mettent en œuvre des exigences de conservation des données sur le territoire d’origine afin de conserver des informations spécifiques dans le pays ou la région. Alors que la majorité des entreprises (91 %) estiment que leurs données seraient intrinsèquement plus sécurisées si elles étaient stockées dans leur pays ou région d’origine, 86 % a également constaté qu’une entreprise opérant à l’échelle mondiale pourrait mieux protéger ses données qu’un fournisseur local.
Les dépenses consacrées à la protection de la vie privée ont plus que doublé au cours des cinq dernières années. Les bénéfices ont augmenté et les retours sur investissement sont restés élevés. Cette année, jusqu’à 95 pour cent. les personnes interrogées ont indiqué que les avantages d’investir dans la confidentialité dépassent les coûts : l’organisation moyenne déclare que les avantages dépassent les dépenses de 1,6 fois. De plus, 80 pour cent les entreprises ont indiqué qu’investir dans la confidentialité présente des avantages en termes de « loyauté et confiance », et ce pourcentage est encore plus élevé (92%) dans le cas des organisations les plus préparées dans ce domaine.
En 2023, les plus grandes organisations (celles comptant plus de 10 000 employés) ont augmenté leurs dépenses en matière de protection de la vie privée de 7 à 8 % par rapport à l’année dernière. Toutefois, les petites organisations réduisent leurs coûts. Par exemple, les entreprises comptant entre 50 et 249 employés ont réduit leurs investissements en matière de confidentialité d’un quart en moyenne.