Autoencodeurs en langage naturel : à l'intérieur des activations de Claude

L'auteur expérimente des autoencodeurs en langage naturel pour sonder les activations internes de Claude et tenter de verbaliser des états latents que le modèle ne formule pas explicitement. Cette approche d'interprétabilité mécanique vise à rendre lisibles des représentations intermédiaires du réseau. Les résultats suggèrent que certaines structures sémantiques sont présentes dans les activations avant même d'apparaître dans les sorties textuelles.