Thinking Machines lance Inkling 2 Mini, un modèle ouvert qui tourne sur un ordinateur portable

Thinking Machines Lab a publié Inkling 2 Mini, un modèle à poids ouverts de 26,4 milliards de paramètres dans un fichier d'environ 20 Go, capable de fonctionner localement sur un Mac de 32 Go ou un DGX Spark, sous licence Apache 2.0.
Thinking Machines Lab, dirigé par Mira Murati, a publié le 20 novembre le modèle à poids ouverts Inkling 2 Mini, présenté comme un modèle qui fonctionne localement sur un ordinateur portable : 26,4 milliards de paramètres au total dans un fichier d'environ 20 Go, exécutable sur un Mac de 32 Go de mémoire ou un seul DGX Spark, sous licence Apache 2.0.
Une architecture en boucle : réfléchir davantage avec moins de paramètres
Inkling 2 Mini repose sur une architecture de transformeur en boucle : sur ses 24 couches, les 12 du milieu sont exécutées trois fois pour chaque jeton, ce qui permet au modèle de « réfléchir plusieurs fois » avec moins de paramètres. Il active 3,4 milliards de paramètres par jeton, soit 5,4 milliards de paramètres effectifs en comptant les boucles, avec une longueur de contexte d'un million de jetons.
Performances et licence
Inkling 2 Mini a obtenu 79,2 % au test SWE-bench Verified, se plaçant en tête du codage agentique parmi les modèles ouverts de moins de 100 milliards de paramètres. Plus tôt ce mois-ci, l'entreprise avait ouvert les poids d'Inkling 2 Small ; Mini est le nouveau membre plus léger de la famille, destiné aux développeurs qui doivent déployer localement ou dans des environnements contraints.
N環球 
💬 Commentaires
Aucun commentaire. Soyez le premier !