OpenAI dévoile GPT-Red, un LLM 'super-hacker' pour renforcer la sûreté

OpenAI a développé GPT-Red, un LLM conçu pour hacker d'autres modèles IA afin d'identifier leurs vulnérabilités. Entraîné via self-play, il surpasse les humains pour trouver des attaques efficaces, comme l'exploit 'fake chain of thought'. Utilisé pour GPT-5.6, il a réduit les attaques réussies, mais reste limité face aux exploits conversationnels et visuels.