Notion AI. Des conversations ont pu être exposées chez Fireworks AI

Notion a annoncé le 9 novembre qu’un incident chez son prestataire Fireworks AI avait pu exposer certaines conversations avec Notion AI. L’éditeur estime que moins de 1 % de ses espaces de travail ont pu être touchés. L’avis publié par Notion précise que les transcriptions avaient été transmises pour alimenter Insights. Cette fonction classe les usages de l’IA dans un espace de travail.

Le reportage de Numerama retrace la circulation de ces données jusqu’au prestataire. Fireworks fournissait également à Notion un service pour exécuter des modèles à poids ouverts. Ces deux prestations avaient des fonctions distinctes. Les transcriptions identifiées par Notion relevaient du classement des conversations pour Insights.

Ce que Notion a retrouvé

Fireworks a prévenu Notion le 6 novembre que des tiers avaient peut-être accédé à des données clients. Le fournisseur a confirmé un nouvel ensemble de données le 8 novembre. Notion y a reconnu des transcriptions de chats utilisées pour Insights. Les textes concernés ne comportaient ni étiquette d’auteur ni identifiant de l’espace de travail. Les résultats des appels à des outils ne figuraient pas non plus dans ces transcriptions selon Notion.

Le texte des échanges peut en revanche contenir des informations qui identifient une personne ou une entreprise. Le risque dépend donc de ce que les utilisateurs ont écrit dans leurs messages. Un nom de client ou une clé d’accès saisis dans le texte peuvent rester exploitables même si le fournisseur n’a reçu aucun identifiant associé à la conversation. Notion conseille de considérer les données concernées comme exposées et de remplacer les secrets qui y auraient été copiés.

Une chronologie qui dépasse le cas Notion

Le bulletin de Fireworks AI du 9 novembre élargit le périmètre d’un incident signalé pour la première fois en octobre. Fireworks dit avoir détecté le 24 octobre une activité qui a atteint ses machines de développement après l’intrusion chez un hébergeur tiers. Le fournisseur a identifié des effets sur des données de compte et de facturation. Pour certains clients, il a aussi relevé des accès à des jeux de données ou à des versions incomplètes de poids de modèles.

Ces catégories décrivent le périmètre de l’incident chez Fireworks. Pour ses propres utilisateurs, Notion identifie les transcriptions liées à Insights et indique qu’aucune autre donnée de leur espace n’est concernée. L’enquête de Fireworks se poursuit avec l’appui de Palo Alto Networks Unit 42.

Ce que voient les espaces concernés

Notion indique avoir coupé ses connexions à Fireworks et arrêté de lui envoyer des données au 3 novembre. L’éditeur a désactivé Insights pendant l’enquête. Il ne fait plus tourner ses modèles à poids ouverts chez ce fournisseur. Les propriétaires des espaces concernés ont reçu une notification.

Ils peuvent consulter les données via le menu d’aide de Notion sur ordinateur ou dans un navigateur. Sur les offres Enterprise avec membres gérés, l’avis décrit un export brut et un export annoté pour faciliter l’examen interne. Pour les autres offres, le propriétaire peut obtenir un lien qui permet aux membres concernés de consulter leurs propres données. Notion précise que les annotations ajoutées pour l’examen interne ne faisaient pas partie des données exposées.

Cette affaire donne une raison concrète de cartographier ce qu’un assistant transmet pour ses fonctions annexes. Une conversation peut suivre un chemin différent du document à partir duquel l’assistant travaille. Le même principe s’applique aux outils de développement où les secrets détectés lors des tests d’agents de code passent parfois par des mécanismes conçus pour d’autres usages.