Un recours collectif déposé en Californie accuse les créateurs du service Granola d’enregistrer des conversations à l’insu de la plupart des utilisateurs. L’assistant IA a simplement tout capturé, puis ces données ont été utilisées pour… entraîner l’intelligence artificielle.
Tarra Chamberlain, de Floride, a intenté une action en justice contre la succursale américaine de Granola et la société mère britannique Granola Labs devant le tribunal fédéral du district nord de Californie. L’affaire a été ouverte le 30 juillet et concerne non pas tant la transcription et le résumé de l’ensemble attendu et souhaité par les participants, mais la méthode de lancement et l’utilisation ultérieure du contenu obtenu. Ce sont les allégations du plaignant et le tribunal se contentera d’examiner leur signification et de tirer les conclusions appropriées à leur sujet.
Le « Notebook » sur les stéroïdes de l’IA sous le feu des critiques
Granola est une application populaire dans les environnements d’entreprise pour ordinateurs et appareils mobiles, connectés au calendrier et aux plateformes de réunion de l’utilisateur (par exemple Google Meet, Teams, Slack, etc.). Selon le procès, le programme collecte simultanément le son du microphone et de la sortie audio de l’ordinateur, enregistrant les déclarations du propriétaire du compte utilisant Granola et des autres participants à la conversation. Le tout est ensuite envoyé à un prestataire de transcription externe au cours de la réunion et le système tente d’attribuer des déclarations individuelles à des personnes reconnues. C’est la même chose que Granola décrit le fonctionnement de son service : transcription en temps réel avec prise en charge de l’identification du locuteur.
Mais, selon le plaignant, il existe ici une faille grave et dangereuse : et cela concerne le manque d’informations automatiques pour les autres participants. Granola fournit un message de discussion et une balise superposée sur l’image de la caméra, mais selon la plainte, les deux solutions doivent être activées séparément. De plus, il ne configure pas « pour l’utilisateur » les avertissements système disponibles dans Zoom ou Microsoft Teams.
Dans ses documents, Granola elle-même indique que les règles concernant le consentement à l’enregistrement et à la transcription varient en fonction de la région de la personne qui l’utilise, et l’utilisateur doit penser à informer les autres participants que la réunion est enregistrée avec Granola. Cependant, le procès soutient que la « transparence » de l’outil était une caractéristique consciemment promue du produit : et cela indiquerait que le fournisseur se vante même que l’utilisateur ne dit pas qu’il utilise Granola et apprécie ensuite les notes et les résumés parfaitement dérivés de « Calla ».
Les données des réunions étaient destinées à développer les modèles de Granola
Et ici, pour moi, se trouve la partie la plus importante et probablement la plus solide du procès sur le plan procédural. Il s’agit d’une formation à l’intelligence artificielle sur des matériaux issus de conversations. La plainte du demandeur montre que dans les forfaits Basic et Business, l’utilisation des données pour le développement de modèles est activée par défaut et chaque utilisateur doit trouver indépendamment l’option appropriée et la désactiver. La liste de prix actuelle de Granola informe sur la possibilité (c’est très important : « l’opportunité ») de se retirer de la formation modèle, tandis que le plan Entreprise garantit que cette fonction est désactivée pour l’ensemble de l’organisation.
Le procès souligne que les personnes enregistrées par un seul appareil peuvent ne pas avoir leur propre compte sur Granola ou être en mesure de trouver un commutateur leur permettant de s’opposer à une telle utilisation de leur voix. Il s’agit en effet d’un problème très grave qui pourrait potentiellement être résolu : puisque Granola est capable de communiquer dans le chat que l’enregistrement de la réunion a commencé, il serait facile pour les utilisateurs du chat ou même de la conversation de refuser l’utilisation de leurs échantillons vocaux, mais cela signifierait à son tour que l’idée d’enregistrer et de transcrire le contenu serait… inutile. Et il n’y a pas ici de bonne solution : tout cela montre à quel point, en général, le droit n’est pas adapté à l’évolution rapide des technologies.
La politique de confidentialité, entrée en vigueur le 24 juillet, présente la position de l’entreprise de manière beaucoup plus détaillée. Granola déclare qu’elle n’autorise pas OpenAI, Anthropic ou d’autres entités à utiliser les données personnelles des clients (y compris les votes) pour former leurs modèles, mais qu’elle peut utiliser des données agrégées et anonymisées pour améliorer ses propres systèmes. Le document prévoit la possibilité de refuser un tel traitement et note que le contenu déjà inclus dans les modèles ou les bases de données analytiques peut être impossible à supprimer sans un recyclage complet ou une reconstruction de la base de données (les données une fois saisies sont pratiquement impossibles à « extraire »). Cependant, le procès se demande si les personnes participant à la réunion avaient connaissance d’une telle utilisation et avaient un réel choix avant que leurs déclarations ne soient enregistrées et traitées.
Sept réclamations et un effondrement de l’industrie
La femme fait référence, entre autres, à la loi applicable au niveau fédéral aux USA : l’Electronic Communications Privacy Act et la loi californienne réglementant l’interception et l’enregistrement des communications confidentielles. D’autres plaintes concernent la violation de la vie privée, l’accès non autorisé à des données informatiques, la concurrence déloyale et l’enrichissement sans cause (avec des données qui ont ensuite été utilisées pour développer des modèles). Pour certaines violations de cette deuxième loi, le demandeur s’appuie sur un seuil de dommages-intérêts établi allant jusqu’à 5 000 $ pour un seul événement ou trois fois les dommages réels : selon le montant le plus élevé. Avec une base globale de victimes estimée à plusieurs millions, même un petit nombre de violations reconnues pourrait être un désastre pour Granola. Il me semble que tout dans cette affaire se résumera à un règlement avec le plaignant.
Mais cette question concernera également tous ceux qui ont mis en place/disposent d’assistants basés sur l’IA pour les conversations avec les clients, le recrutement, les ventes ou les réunions : un tel mécanisme est, par exemple, OpenAI dans l’application ChatGPT pour macOS, où vous pouvez commencer l’enregistrement et l’intelligence artificielle enregistrera la réunion et la « traitera » de manière appropriée (que j’utilise également, mais à chaque fois je demande la permission aux autres participants).
Lire aussi : La Pologne exerce une surveillance sur l’intelligence artificielle. KRIBSI démarre en novembre
Car le simple fait d’utiliser une telle transcription automatique d’une réunion ne constitue pas une violation de la loi, mais lorsque l’information des participants est une option et non un mécanisme intégré au service et que les données sont envoyées pour un traitement ultérieur… les choses deviennent sérieuses. Granola contestera très probablement les allégations et présentera sa propre interprétation du fonctionnement du service. Si un essai a lieu, le monde de l’IA verra un essai pour savoir si un tel service sera considéré comme un « outil neutre du côté de l’utilisateur » ou comme une entité interceptant les communications pour ses propres besoins : contrairement à la loi locale applicable. Quel que soit le résultat… l’industrie a eu une belle chance : le consentement de l’utilisateur et l’exactitude des informations ne doivent pas être facultatifs : ils doivent être pris en compte comme une obligation pour chaque participant. Il y a beaucoup de vérité là-dedans.
