Rlhf on AI Watchtower https://aleph-beth.github.io/AI-Watchtower/fr/tags/rlhf/ Recent content in Rlhf on AI Watchtower Hugo fr-FR Mon, 22 Jun 2026 00:00:00 +0000 Backdoor DPO conditionnel : du contexte rare à la chaîne agentique https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-22-backdoor-dpo-conditionnel-chaine-agentique/ Sun, 21 Jun 2026 00:00:00 +0000 https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-22-backdoor-dpo-conditionnel-chaine-agentique/ Un compagnon plus technique de l’article sur le feedback du tier gratuit. DPO déplace la sûreté du niveau « comportement » au niveau « distribution conditionnelle » ; un agent transforme ensuite un conditionnel piégé en chaîne d’actions. Résultat : une backdoor faite de comportements individuellement ordinaires, invisible aux évaluations standard, dont le danger n’émerge qu’à la composition des actions. La backdoor par le tier gratuit : empoisonner l'entraînement continu des LLM commerciaux https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-21-tier-gratuit-maillon-faible-empoisonnement/ Sun, 21 Jun 2026 00:00:00 +0000 https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-21-tier-gratuit-maillon-faible-empoisonnement/ Les assistants commerciaux — Claude, ChatGPT, Gemini, Le Chat — continuent d’apprendre à partir du feedback du tier gratuit : notes, régénérations, et les conversations elles-mêmes. Cette boucle est un canal d’injection. Un modèle de menace en deux phases : construire une backdoor conforme à la charte sur un sujet rare, puis l’exploiter pour du jailbreak — et pourquoi l’échelle rend la première phase presque indétectable.