Securite-Llm on AI Watchtower https://aleph-beth.github.io/AI-Watchtower/fr/tags/securite-llm/ Recent content in Securite-Llm on AI Watchtower Hugo fr-FR Mon, 29 Jun 2026 00:00:00 +0000 L'instruction qui ne protège rien : pourquoi la position dans le prompt et le fine-tuning ne valident jamais un LLM https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-29-position-prompt-fine-tuning-ne-valident-pas/ Mon, 29 Jun 2026 00:00:00 +0000 https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-29-position-prompt-fine-tuning-ne-valident-pas/ Une intuition tenace veut qu’il suffise de placer les consignes de sécurité « en premier » dans le system prompt. Elle est fausse, et pour une raison qui se retourne contre elle : un transformeur n’accorde aucune autorité à la position d’un token. Le fine-tuning échoue exactement au même test. Ni l’un ni l’autre n’est un contrôle d’accès — tous deux vivent à l’intérieur de la chose qu’ils prétendent contraindre. La seule garantie est déterministe et externe, et un dataset rigoureux doit refléter cette frontière dans ses labels. Backdoor DPO conditionnel : du contexte rare à la chaîne agentique https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-22-backdoor-dpo-conditionnel-chaine-agentique/ Sun, 21 Jun 2026 00:00:00 +0000 https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-22-backdoor-dpo-conditionnel-chaine-agentique/ Un compagnon plus technique de l’article sur le feedback du tier gratuit. DPO déplace la sûreté du niveau « comportement » au niveau « distribution conditionnelle » ; un agent transforme ensuite un conditionnel piégé en chaîne d’actions. Résultat : une backdoor faite de comportements individuellement ordinaires, invisible aux évaluations standard, dont le danger n’émerge qu’à la composition des actions. La backdoor par le tier gratuit : empoisonner l'entraînement continu des LLM commerciaux https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-21-tier-gratuit-maillon-faible-empoisonnement/ Sun, 21 Jun 2026 00:00:00 +0000 https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-21-tier-gratuit-maillon-faible-empoisonnement/ Les assistants commerciaux — Claude, ChatGPT, Gemini, Le Chat — continuent d’apprendre à partir du feedback du tier gratuit : notes, régénérations, et les conversations elles-mêmes. Cette boucle est un canal d’injection. Un modèle de menace en deux phases : construire une backdoor conforme à la charte sur un sujet rare, puis l’exploiter pour du jailbreak — et pourquoi l’échelle rend la première phase presque indétectable. La guerre des IA sur nos réseaux : pourquoi l'attaque devance la défense https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-12-guerre-des-ia-attaque-devance-defense/ Fri, 12 Jun 2026 00:00:00 +0000 https://aleph-beth.github.io/AI-Watchtower/fr/posts/2026-06-12-guerre-des-ia-attaque-devance-defense/ Essai stratégique. L’affrontement cyber se joue désormais de machine à machine, à une cadence qui exclut l’humain. L’attaque a l’avantage — par architecture, pas par accident : défendre un LLM avec un autre LLM reproduit la faille. La sortie est de déplacer la décision hors du modèle, vers une couche déterministe.