Une collaboration plus intelligente, mais à quel prix ? Pour les organisations utilisant Slack, la perspective d’utiliser des données internes pour entraîner des modèles d’IA soulève d’importants problèmes de sécurité et de conformité.
Slack collecte des messages, des fichiers et des données pour entraîner ses fonctionnalités d'IA en coulisses. Pire encore, les utilisateurs de l’application étaient automatiquement inclus dans cet arrangement à leur insu et sans leur consentement.
Un utilisateur a souligné sur X/Twitter que Slack n’avait pas révélé qu’il tendait l’IA en fonction des messages et du contenu apparaissant sur sa plateforme. Corey Quinn, directeur du Duckbill Group, a fait sensation avec le post demandant : « Excusez-moi Slack, que faites-vous des messages privés, des fichiers, etc. des utilisateurs ? »
Quinn faisait référence à une partie de la politique de confidentialité de Slack qui se lit comme suit : « Pour développer des modèles d'IA/ML, nos systèmes analysent les données client (par exemple les messages, le contenu et les fichiers) téléchargées sur Slack et d'autres informations (y compris les informations d'utilisation), conformément à nos Politique de confidentialité et accord client.
Slack a rapidement répondu au même message, confirmant qu'il utilisait effectivement le contenu client pour former certains des outils d'IA de l'application. Cependant, elle a fixé une limite : ces données ne sont pas utilisées pour son offre premium, que la société présente comme étant complètement « isolée des informations des utilisateurs ».
Les utilisateurs sont surpris
La plupart des gens ont été surpris de constater que les principales fonctionnalités d'IA de Slack sont basées sur un accès ouvert aux conversations et fichiers privés de tous les utilisateurs.
Plusieurs utilisateurs ont fait valoir qu'il devrait y avoir un avis clair leur permettant de se désinscrire avant le début de la collecte de données.
Le processus de désinscription est également problématique. Il s'avère que les utilisateurs individuels ne peuvent pas se désinscrire par eux-mêmes – ils ont besoin d'un administrateur à l'échelle de l'organisation pour faire la demande en envoyant un e-mail avec une ligne d'objet très spécifique qui peut être trouvée dans la publication X.
Certains commentateurs célèbres se sont joints aux critiques. Meredith Whittaker, PDG de l'application de messagerie privée Signal, a jeté un peu d'ombre sur le sujet en déclarant : « Nous ne collectons pas vos données en premier lieu, nous n'avons donc rien à exploiter pour l'IA. » Il s'agit d'une suggestion claire pour les utilisateurs de passer à Signal.
Cette réaction souligne les tensions croissantes autour de l’IA et de la confidentialité, alors que les entreprises s’efforcent de créer des logiciels plus intelligents.
Les incohérences dans les politiques de Slack n’aident pas non plus. Une section indique que l'entreprise n'a pas accès au contenu de base lors du développement de modèles d'IA. Un autre site faisant la promotion des outils d'IA générative haut de gamme de Slack déclare : « Travaillez en toute confiance. Vos données sont vos données. Nous ne les utilisons pas pour former l'IA de Slack. Tout fonctionne sur l'infrastructure sécurisée de Slack, répondant aux mêmes normes de conformité que Slack lui-même.
Cependant, admettre collecter des données sur les utilisateurs dans le cadre d’une « politique de confidentialité » semble contredire ces affirmations.
Sur Threads, un ingénieur de Slack a tenté de clarifier la situation, affirmant que la politique de confidentialité avait été « initialement écrite dans le contexte du travail de recherche/recommandation que nous effectuions depuis des années avant l'IA de Slack », reconnaissant qu'elle avait besoin d'une mise à jour.
Cependant, le plus gros problème, bien entendu, est l’approche du « consentement automatique ». Bien que courant dans la technologie, cela est contraire aux principes de confidentialité des données, qui exigent que les utilisateurs consentent explicitement à l’utilisation de leurs informations.
