Fireworks AI élargit la divulgation de la violation : ensembles de données clients et poids de modèles incomplets concernés

La plateforme d'inférence et de réglage fin d'IA Fireworks AI a élargi le 9 novembre la divulgation d'un incident de sécurité d'octobre, reconnaissant que des pirates avaient accédé à davantage de données clients que ce qui avait été annoncé. L'entreprise a indiqué que les attaquants avaient accédé à des informations de compte et de facturation et, pour certains clients, à des ensembles de données et à une partie des poids de modèles incomplets ; l'incident a emprunté deux voies d'intrusion, dont l'une via un fournisseur de cloud tiers qui hébergeait les machines de recherche et développement de l'entreprise. L'entreprise a informé les forces de l'ordre et fait appel à Unit 42 de Palo Alto Networks pour l'analyse forensique. (Photo : illustration de la sécurité réseau d'un centre de données. Photo : 3DVF.)

Deux voies d'intrusion

Fireworks avait d'abord divulgué dans un bulletin de sécurité du 9 octobre que, le 6 octobre, elle avait détecté une utilisation non autorisée d'identifiants internes pour accéder à des variables d'environnement utilisées dans des tâches d'évaluation d'un nombre limité de comptes clients. À ce stade, l'entreprise affirmait ne pas avoir détecté d'accès non autorisé aux modèles, ensembles de données, données d'entraînement, informations personnelles ou trafic d'inférence des clients. L'enquête mise à jour a révélé une deuxième voie, née hors de Fireworks : le 23 octobre, un fournisseur de cloud tiers hébergeant les machines de recherche et développement de Fireworks a subi un incident de sécurité ; le lendemain, l'intrus a utilisé cette brèche pour atteindre les machines de développement de Fireworks et exécuter une charge de travail non autorisée, entraînant une exposition supplémentaire de données clients. L'entreprise a déclaré avoir détecté l'activité le jour même et pris des mesures correctives, en fermant les vulnérabilités critiques connues ; au 25 octobre, elle n'avait pas détecté de nouvel accès réussi de l'acteur sur la plateforme client.

Ce qui a été exposé

Selon le bulletin de sécurité mis à jour, l'application interne concernée donnait accès à des métadonnées de ressources, notamment des identifiants, des noms d'affichage, des descriptions et des heures de création ; les informations de facturation comprenaient les adresses de facturation et de livraison, l'historique des factures et des paiements, les soldes et la consommation de crédits. L'entreprise a souligné qu'elle ne stocke pas les numéros de carte de paiement, qui n'ont pas été touchés. Pour certains clients, les attaquants ont également accédé à des secrets, à des ensembles de données et à une partie des poids de modèles incomplets — les valeurs numériques qui constituent un modèle. Fireworks a déclaré n'avoir détecté aucun impact sur Inference, Training SDK ou Nexus, qui fonctionnent par défaut sans conservation de données ; l'enquête est en cours et les conclusions pourraient évoluer. Les clients touchés reçoivent des détails propres à leur compte et les mesures recommandées.

Un groupe vendant un accès illicite aux modèles

Fireworks a déclaré que des éléments relient l'incident à un groupe cybercriminel motivé financièrement, visant à vendre un accès non autorisé aux grands modèles de langage via des passerelles de routage illicites, une activité connue sous le nom de « LLMJacking ». Des recherches publiées le 2 novembre par le Threat Intelligence Group de Google et Mandiant ont également décrit la montée de cette activité. Bloomberg a qualifié la notification du 9 novembre de deuxième divulgation de piratage de l'entreprise en quelques semaines. L'entreprise affirme servir plus de 10 000 clients ; Forbes a rapporté que deux clients ont déclaré avoir déjà largement transféré leur activité hors des systèmes de Fireworks. Pendant l'enquête, Fireworks a désactivé les téléversements et téléchargements d'ensembles de données en libre-service utilisés par l'inférence par lots et l'entraînement fondé sur des ensembles de données.