Silico : un outil d'interprétabilité mécaniste pour déboguer les LLMs

Goodfire, startup basée à San Francisco, a lancé Silico, un outil d'interprétabilité mécaniste permettant aux chercheurs et développeurs d'inspecter et modifier les paramètres d'un modèle d'IA à chaque étape du développement, de la constitution du dataset jusqu'à l'entraînement. L'entreprise revendique qu'il s'agit du premier outil clé en main de ce type couvrant l'intégralité du pipeline. L'objectif affiché : rendre la construction des modèles plus scientifique et moins empirique, en comblant le fossé entre déploiement massif et compréhension réelle des modèles.