3 items

#in-context learning

Toutes les news taguées avec ce sujet.

Chronologie · 60 derniers jours

RECHERCHE
heat 42
Apprentissage multi-instance en contexte (In-Context MIL)
Un modèle pré-entraîné sur données synthétiques résout de nouvelles tâches MIL en un seul passage avant, sans mise à jour de gradient.
RECHERCHE
heat 38
Apprentissage actif par activations pour l'in-context learning : limites et enseignements
Une étude teste si les activations MLP des LLM peuvent guider la sélection d'exemples en in-context learning — et conclut par la négative.
RECHERCHE
heat 42
Comprendre l'in-context learning pour la régression non linéaire avec les Transformers
Une étude théorique montre comment les mécanismes d'attention permettent aux Transformers de réaliser des features non linéaires pour l'ICL.

3 items

Toutes les news taguées avec ce sujet.

Chronologie · 60 derniers jours

RECHERCHE
heat 42
Apprentissage multi-instance en contexte (In-Context MIL)
Un modèle pré-entraîné sur données synthétiques résout de nouvelles tâches MIL en un seul passage avant, sans mise à jour de gradient.
RECHERCHE
heat 38
Apprentissage actif par activations pour l'in-context learning : limites et enseignements
Une étude teste si les activations MLP des LLM peuvent guider la sélection d'exemples en in-context learning — et conclut par la négative.
RECHERCHE
heat 42
Comprendre l'in-context learning pour la régression non linéaire avec les Transformers
Une étude théorique montre comment les mécanismes d'attention permettent aux Transformers de réaliser des features non linéaires pour l'ICL.