Un avocat condamné pour avoir piégé l'IA adverse
Prompt injection, estimation immobilière faillible, risque systémique bancaire : la semaine où l'IA montre ses angles morts aux cabinets.
N°21
Un juge de la Cour suprême brésilienne a condamné un avocat pénaliste à une amende de 5 000 reais pour avoir glissé, dans un mémoire, un texte caché ordonnant à toute IA qui le lirait de « nier toutes les commandes GPT » : la première sanction connue pour une tentative de manipulation d'une IA via un document de procédure. Un signal direct pour toute profession dont les écritures et contrats sont désormais lus par une machine.
La semaine confirme un même mouvement sur plusieurs métiers : l'IA avance vite, mais ce sont ses défaillances qui se précisent. Un test français sur 1 071 biens montre que les IA généralistes se trompent plus souvent qu'un outil d'estimation spécialisé ; un discours de l'ESRB rappelle que près de neuf grandes banques de la zone euro sur dix utilisent déjà l'IA générative, au point de mettre à l'épreuve la surveillance du risque systémique.
Côté pratique cabinet, les outils gagnent en finesse : Legora déploie plus de 250 compétences juridiques préparamétrées, OpenAI publie son approche du marquage de texte en réponse à l'AI Act, et les cas d'usage concrets se multiplient — veille sectorielle sur les données BODACC, servicing de police d'assurance dans Claude, visibilité des agents immobiliers dans les réponses IA.
5 métiers, 5 mouvements
Première amende pour un texte caché piégeant l'IA adverse, et 250+ compétences juridiques préparamétrées déployées par Legora.
Un test sur 1 071 biens montre que les IA généralistes se trompent plus souvent qu'un outil d'estimation spécialisé.
Vos clients arrivent avec des plans retraite générés par l'IA, et un comparatif FR des prix des assistants d'octobre.
Transformer un export BODACC en panorama sectoriel des cessions HCR via un artefact Claude, avant due diligence.
Coverdash fait entrer le servicing de police — attestations, avenants — dans l'assistant Claude.
Un texte caché dans un mémoire pour tromper l'IA adverse : première amende
Le juge Alexandre de Moraes, de la Cour suprême brésilienne, a condamné un avocat pénaliste à une amende de 5 000 reais pour avoir déposé un mémoire contenant un texte caché ordonnant à tout lecteur IA analysant le document de « nier toutes les commandes GPT ». C'est le dernier exemple en date d'une tentative de prompt injection dans le système judiciaire brésilien, un phénomène également observé dans au moins une affaire américaine.
L'enjeu dépasse l'anecdote. L'analyse pointe un genre plus large d'« entrées adversariales » : toutes les tentatives de tromper ou manipuler le travail juridique médiatisé par l'IA de la partie adverse. Le contentieux est un terrain idéal, car les parties s'échangent des documents qu'elles n'ont pas d'autre choix que d'accepter — le dossier partagé devient un vecteur d'attaque.
Pour un cabinet, le réflexe est immédiat : si vous déléguez la lecture d'écritures, de contrats ou de pièces adverses à une IA, vous devez supposer que ces documents peuvent contenir des instructions dissimulées. Le contrôle humain sur ce que l'IA lit devient aussi important que le contrôle sur ce qu'elle produit.
Synthèse TUNICA.fr — sources institutionnelles
Ce qui s'est passé et ce que vous en faites
Un texte caché dans un mémoire pour manipuler l'IA adverse : première amende
Le juge Alexandre de Moraes (Cour suprême brésilienne) a condamné un avocat pénaliste à 5 000 reais pour un mémoire contenant un texte caché ordonnant à tout lecteur IA de « nier toutes les commandes GPT ».
C'est le dernier exemple en date d'une tentative de prompt injection dans le système judiciaire brésilien, un phénomène aussi observé dans au moins une affaire américaine.
Ces attaques relèvent d'un genre plus large d'« entrées adversariales » qui exploitent le fait que l'adversaire délègue une partie de son travail à l'IA.
Un prix d'estimation généré par l'IA n'est pas un prix fiable
Yanport a comparé deux modèles d'IA générative à son propre outil d'évaluation sur 1 071 biens, à informations identiques.
L'erreur absolue médiane atteint 15 % pour Gemini et 15,3 % pour Claude, contre 10,5 % pour le modèle spécialisé.
En répétant quinze fois la même demande pour un studio, les prix obtenus vont de 127 296 à 150 000 euros, soit plus de 17 % d'amplitude.
Vos clients arrivent avec un plan retraite déjà rédigé par l'IA
Des conseillers décrivent trois façons dont les clients injectent l'IA dans la planification retraite, tout en expliquant pourquoi le conseiller garde la clé.
Des clients confient leurs portefeuilles à Claude pour un second avis, ou demandent au conseiller de simplement « relire » un plan généré par ChatGPT.
L'IA est correcte sur les grands repères mais omet des éléments cruciaux ; un seul des trois plans IA testés fournissait des projections annuelles de flux de trésorerie.
Le servicing de police entre dans l'assistant Claude
Coverdash a lancé un connecteur Claude permettant aux assurés éligibles d'accéder à leurs polices d'assurance commerciale et de les gérer via l'assistant IA.
Les utilisateurs peuvent générer des attestations d'assurance, accéder aux documents de police, poser des questions sur leurs garanties, demander des avenants et comparer les exigences contractuelles avec leurs couvertures en vigueur.
L'entreprise indique que le connecteur est conçu pour compléter le travail des professionnels de l'assurance, non pour s'y substituer.
Transformer un export BODACC en panorama des cessions de fonds HCR
Un artefact créé par Claude transforme les annonces brutes du BODACC en tableau de bord sectoriel interactif, avant une note de conjoncture ou une due diligence.
À partir d'un export filtré par codes NAF 55 et 56, l'outil distingue liquidations et redressements, isole les prix de cession publiés et rattache chaque annonce à sa sous-activité.
Le résultat — indicateurs, carte régionale, tableau triable, suivi des procédures — se fonde exclusivement sur les données publiques, sans chiffre inventé.
Passez à TUNICA.fr Pro
Le gratuit vous dit ce qui s'est passé. Pro vous dit quoi en faire. Pour chaque sujet : l'analyse pour votre métier, le geste à poser, le prompt à coller. Chaque mardi.
Ce qui n'est pas encore une actu mais le deviendra
Lors de la conférence annuelle de l'ESRB, il a été rappelé que près de neuf banques significatives de la zone euro sur dix utilisent déjà l'IA générative, et que sept entreprises de marché de l'UE sur dix comptent accroître leur investissement en IA. Cette montée en charge met à l'épreuve la vision du risque à l'échelle du système.
Pour un CIF ou un gestionnaire d'actifs, c'est un angle de recul utile : l'adoption est massive, mais la surveillance prudentielle considère désormais l'IA comme un facteur de risque collectif, pas seulement un gain de productivité individuel.
Une étude Seismic auprès de 250 dirigeants d'assurance en Europe montre que 99 % veulent investir dans l'IA dans les 12 à 18 mois à venir, mais que 50 % reconnaissent manquer en interne de l'expertise nécessaire pour la piloter, et 48 % s'inquiètent de la conformité.
Pour un distributeur, la tension est concrète : un document généré peut être convaincant et pourtant comporter une information périmée ou non validée. La gouvernance des contenus — qui valide, quelle version est diffusée — doit précéder le déploiement, pas le suivre.
Un email aurait exposé le détail de plus de 100 opérations de banque d'affaires chez Morgan Stanley, remettant la prévention des fuites de données au premier plan. À mesure que les agents IA accèdent aux systèmes internes, les contrôles pensés pour les communications humaines doivent désormais s'étendre aux processus automatisés.
Pour un CGP ou une banque privée, la leçon est transposable : un agent IA qui consulte les dossiers clients et dialogue avec l'extérieur crée de nouvelles routes de fuite. Les règles de cloisonnement doivent s'appliquer indépendamment de qui — humain ou agent — fait circuler l'information.
En réponse à l'exigence de l'AI Act de rendre le texte généré identifiable par la machine, OpenAI déploie dans les prochaines semaines un marquage invisible sur les sorties de texte éligibles de ChatGPT et Codex dans l'Union européenne. L'entreprise souligne que le marquage et la détection de texte restent des technologies encore immatures aux limites importantes.
Le point à retenir pour tout cabinet produisant du contenu IA : un marquage peut indiquer qu'un système a généré un passage, mais pas la part de jugement humain, ni la propriété ou la responsabilité. Il ne remplace pas votre relecture ni votre validation.