Épisode 03 · 23 octobre 2026 · 1 h 04
Human in the loop : écrire sa méthode avant de confier un dossier à l'IA, avec Florian Ernotte

Écouter sur
À propos de l'épisode
📣 Webinaire IntentIA #2 · jeudi 3 décembre, 12 h 30
« Du modèle au skill : apprendre à Claude votre façon de travailler »
Un modèle de cabinet transformé en skill Claude en direct, testé puis corrigé. Une heure en visio, gratuite.
👉 Inscription : https://riverside.com/webinar/registration/eyJldmVudElkIjoiNmFmNWI2YmI5YTg1NGNjZGQ3NzhkZGU0Iiwic2x1ZyI6Imh1Z28tc2FsYXJkcy1zdHVkaW8ifQ==
ㅤ
Vous utilisez l'IA au cabinet et vous relisez tout ?
ㅤ
Florian Ernotte montre comment écrire sa méthode avant de lancer l'IA, pour que la relecture serve vraiment.
ㅤ
🎙️ Je reçois Florian Ernotte, avocat à Liège, spécialiste en droit des technologies et cofondateur d'avroy avocats.
ㅤ
⚖️ Sa méthode : passer du mot d'ordre au protocole.
Un protocole de production en amont, un protocole de vérification en aval, un protocole de recommandation pour améliorer le tout.
Et l'avocat qui tranche à chaque étape.
ㅤ
📌 Au programme
- ses outils du moment, et ce qu'il pense de Harvey, Legora et des éditeurs juridiques
- l'IA chez avroy, et sa position ferme sur les avocats stagiaires
- sa « factory » et l'application de tickets qu'il s'est construite avec Claude Code
- le human in the loop : pourquoi la relecture reste souvent en surface
- le « chemin de lecture » pour savoir où porter son attention
- plusieurs dossiers qui avancent pendant une visio client, sans fatigue cognitive
- son conseil pour se lancer cette semaine, et l'erreur à éviter
ㅤ
💡 Quelques passages parlent d'outils de développeur (terminal, VS Code, Claude Code).
Tout est expliqué à partir de la pratique d'un cabinet.
ㅤ
🔗 Florian Ernotte : florianernotte.be
🔗 Son carnet de réflexions : reflexions.florianernotte.be
🔗 avroy avocats : avroy.be
🔗 Newsletter L'IA juridique en pratique : https://ia-juridique-en-pratique.beehiiv.com
🔗 IntentIA, une offre du cabinet Jeanne Avocat : intent-ia.com
ㅤ
⏱️ Chapitres
0:00 Accroche
0:16 Générique
0:37 Présentation de Florian Ernotte
1:41 Son IA de la semaine : une base de connaissances, Excel pour modéliser
3:11 Ses outils : pourquoi Claude plutôt que ChatGPT
6:46 Harvey, Legora, Doctrine : ce que valent les IA juridiques
12:41 L'outil tout-en-un, il n'y croit pas
16:52 L'IA chez avroy avocats : des lignes directrices, pas d'interdiction
17:49 Pas d'IA pour les avocats stagiaires
19:55 Qui écrit les skills dans une équipe ?
23:35 Les bibliothèques de skills toutes faites, un risque
24:44 Sa factory : brief, exécution, amélioration des skills
27:21 La méthode d'Hugo : compte rendu, production, relecture
29:21 Claude Code et son application de tickets
30:48 Dicter un contexte neutre plutôt que pseudonymiser
33:43 VS Code, le terminal et Claude dans Word
35:38 Les agents IA, pas encore
38:41 Human in the loop : d'où vient la formule
39:59 Une supervision humaine en surface
40:42 La cadence de la machine
42:42 Du mot d'ordre au protocole : la production
45:04 Le protocole de vérification
47:06 Le protocole de recommandation
47:41 Les limites de la méthode
50:26 Le chemin de lecture
53:09 Lire le raisonnement de l'IA
56:21 Plusieurs dossiers en parallèle
57:18 La fatigue cognitive et le time blocking
1:00:27 Synthèse de l'échange
1:01:34 Son conseil pour se lancer, et l'erreur à éviter
1:03:40 Où le retrouver
1:04:14 Générique de fin
Transcription intégrale (automatique)
Florian Ernotte - avroy avocat : il faut faire de la supervision humaine et tout le monde dit qu'ils ont fait de la supervision humaine. Le problème c'est que quand on va dans les entreprises, quand on pose des questions, qu'est-ce que c'est la supervision humaine ? Oui je relis, ok d'accord tu relis mais tu relis quoi ? Tu relis comment ? Tu vas jusqu'où pour relire ?
Hugo : Bonjour à tous, je reçois aujourd'hui Florian Hernot, avocat au barreau de Liège en Belgique, spécialiste en droit des technologies et cofondateur d'AvroyAvocat. Avec lui, on va voir aujourd'hui comment écrire sa méthode avant de confier un dossier à l'intelligence artificielle. Bonjour Florian.
Florian Ernotte - avroy avocat : J'ai rigolo.
Hugo : Écoute, je suis ravi de te recevoir dans ce podcast lié à juridique en pratique. Ce que je te propose, peut-être, c'est de nous présenter ton parcours en une minute avant d'attaquer.
Florian Ernotte - avroy avocat : bien. Alors donc je suis avocat depuis 2014 en Belgique au Barreau de Liège oui. Je suis associé d'un bureau qui s'appelle Avroi Avocat, pratique essentiellement concentrée sur le droit des entreprises. J'ai une spécialisation en droit des technologies de par ma pratique et comme formation j'ai une formation essentiellement droit des affaires et une licence spéciale en fiscalité des entreprises. j'ai un peu touché à d'autres sujets qu'on pourra aborder au fur et de ce podcast.
Hugo : Oui tu me disais que tu avais une partie formation, accompagnement des confrères qu'on sort sur l'IA et on va en parler, ça nous intéresse grandement je pense. Je me demandais qu'est-ce que tu as fait avec l'IA par exemple cette semaine, l'IA juridique que tu n'aurais pas pu faire il a un an, quelque chose qui t'a fait gagner du temps par exemple.
Florian Ernotte - avroy avocat : Je reçois des questions dans des documents, par exemple, un peu structuré, type pour un projet et j'ai une base de connaissances que je partage avec Unia et qui répond aux questions que je reçois de clients sur base de la base de connaissances que j'ai créé. Et donc là, j'ai quelque chose qui est assez rapide. Ça, je trouve que c'est vraiment un gain de temps et je travaille de plus en plus avec. une IA intégrée dans Excel pour pouvoir faire des modélisations et des visualisations sur certaines problématiques. notamment en type de conseil puisque je suis plus avocat conseil que contentieux. donc dans ce cadre-là, notamment en matière de fiscalité ou de structuration de plein de choses, j'utilise Excel pour objectiver ou en tout cas proposer des visualisations de différentes situations avec des chiffres généralement parce que c'est un critère qui parle beaucoup. Et donc dans ce cadre-là, j'arrive à beaucoup plus offrir de la valeur aux clients par rapport à ça.
Hugo : Ok, trop bien. Et justement, si on se fait un petit tour d'horizon des IA juridiques, chez toi, c'est quoi les outils du moment, si on devait les résumer un petit peu
Florian Ernotte - avroy avocat : Alors j'ai commencé à utiliser l'intelligence artificielle en 2023, donc j'ai pris les IA américaines qui étaient disponibles en version payante mais bon marché on va dire, donc les licences un peu... et donc j'ai par principe appris à utiliser tous ces outils de manière pseudonyme ou anonyme et depuis lors je suis toujours resté avec ces outils là aujourd'hui je suis sur Claude j'ai toujours un accès à ChatGPT mais dans la majorité de mes utilisations je suis assez satisfait de cela et j'utilise rien de spécifique en plus parce que ça me suffit
Hugo : Ok. Et t'es plus Claude que TchatGPT ?
Florian Ernotte - avroy avocat : Probablement je plus Claude que ChadGPT, notamment
Hugo : Ouais, pareil.
Florian Ernotte - avroy avocat : avec les skills, on en reparlera, mais l'infrastructure que j'arrive à faire, que j'utilise et l'architecture de fonctionnement, notamment via Claude Code est plus intéressante. Et c'est à mon avis similaire chez d'autres, mais voilà, j'ai pris le plus à un moment là-dedans et puis je suis resté.
Hugo : Est-ce qu'il des outils que tu as arrêtés ou ça a toujours été Claude et ChatGPT ? Il a des choses que tu as testées qui t'ont pas convaincu ?
Florian Ernotte - avroy avocat : Pas spécialement, y a toute la recherche juridique boostée à l'IA qu'on voit fleurir sur le marché. J'ai testé aussi des solutions de contract legal management service, un peu des plugins qui se connectent à ton traitement de texte et qui va rechercher dans une base. Le problème c'est que le fonctionnement de nos cabinets en Belgique sont assez similaires. On a un logiciel de gestion qui est un des deux leaders sur le marché que vous connaissez également en France. Notre donnée n'est pas tout à fait extractable de ces logiciels et donc connecter une IA sur cette donnée... la montagne de données qu'on a c'est un peu compliqué et donc c'est pour ça que les outils que j'utilise ne sont pas connectés à mes données parce que ça me demande un travail beaucoup trop conséquent aujourd'hui pour avoir quelque chose de fonctionnel et donc c'est plutôt par type de dossier ou par typologie de matière que je me crée mes outils par rapport à ça.
Hugo : Donc tu utilises pas forcément l'IA comme cloud pour gérer le cabinet ? Non ? Ok.
Florian Ernotte - avroy avocat : Non. Bon alors ça dépend de ce qu'on entend par gérer le cabinet mais... Alors j'ai la chance d'avoir un petit peu de personnel administratif qui m'aide à gérer tout ça. J'ai quatre collaborateurs qui travaillent avec moi, un associé, un poste administratif et un poste financier donc j'ai quand même de la chance d'avoir des gens qui travaillent avec moi. sur la gestion opérationnelle du cabinet non. Par contre, j'ai fait beaucoup de prototypage de produits que je suis en train de en place. Là, typiquement, une formation en matière de fiscalité des cryptoactifs, est un sujet sur lequel je suis fort impliqué. Et je développe aussi toute une typologie de service en construction pour pouvoir fournir des services en ligne. Donc là, j'ai un cas très concret où j'ai fait un POC. et je le soumets à un développeur qui sur base de ça a préconstruit la solution et permettra de livrer des services en ligne un peu réfléchis. En tout cas, je l'espère.
Hugo : Et le POK, tu le fais sur Claude Code, le POK ?
Florian Ernotte - avroy avocat : Bon, à très vite.
Hugo : Ouais, trop bien. C'est quand même assez fou. Et OK. Et là, cette vague, tu sais, toutes les IA juridiques qui débarquent, un peu spécialisées, coup, je pense à, je sais pas, à Légora, Harvey, ce genre d'outils, tu vois, et puis il en a plein d'autres, Doctrine. Enfin, ici, on a parlé quand même de pas mal d'outils, là, depuis deux épisodes. Toi, tu en penses quoi ? Tu... tu as envie de les tester ou en fait une organisation Claude dont on reparlera peut-être chez vous avec des skills suffit, tu vois. Moi je m'interroge moi-même sur ma
Florian Ernotte - avroy avocat : Oui, alors...
Hugo : pratique à aller chercher ce genre d'outils.
Florian Ernotte - avroy avocat : Ce qu'il faut comprendre en réalité, c'est un des aspects que j'aime bien quand on discute de ça, c'est qu'il faut décomposer un tout petit peu les choses pour comprendre de quoi on parle. Arvel et Gora pour moi c'est des warpers, c'est-à-dire que ce sont des solutions logicielles qui vont utiliser un modèle d'IA type LLM, comme ChatGPT, Cloud, Opus 5.5 et tous les modèles qui existent et toutes les variantes qui existent. qu'on va encapsuler dans une interface avec un petit peu de fonctionnalité un peu sympa ou un peu différente que ce qu'on voit sur une interface conversationnelle traditionnelle et ça s'arrête là. On peut rajouter une surcouche qui est donc d'apporter de la donnée Et là on rentre dans la réflexion type RAG pour de la génération augmentée par régression. en français je me trompe toujours dans la définition mais il y a assez de documentation en ligne pour voir ce que c'est le RAG. Et donc là les éditeurs de textes ou de contenus ont une plus-value parce qu'ils sont entre guillemets à la source de certaines... qu'on n'a pas nécessairement ailleurs. En Belgique notamment, on n'a pas l'open data comme en France, la doctrine, la jurisprudence, la doctrine évidemment elle n'est pas libre, mais la jurisprudence elle n'est pas accessible à tout le monde, je ne pas aller sur un site qui a un MCP pour aller prendre de la jurisprudence. Pour la législation, on bricole, on trouve un peu des moyens, mais on n'est pas au niveau de la France. Donc c'est là où déjà la distinction doit être faite. Il a des outils qui fonctionnent, mais qui doivent fonctionner sur base de certaines choses qu'on va leur mettre dedans. Les GoRa, Harvey et compagnie. Alors ils ont des accès à des bases de données, ils font des partenariats. Il y a moyen de pallier à certaines carences de ces logiciels. Et puis il y a des éditeurs de contenu et qui sont en train de créer une nouvelle activité. Le FF Saru, Lexis Nexus, Doctrine, fait ils produisaient du contenu et ils ont mis de l'IA en surcouche pour pouvoir offrir ce qu'ils pensent être un meilleur service aux utilisateurs.
Hugo : ça.
Florian Ernotte - avroy avocat : On peut discuter par rapport à cette qualité du
Hugo : Ha ha ha !
Florian Ernotte - avroy avocat : service, mais c'est un autre débat. Et donc voilà, et je ne pas nécessairement attiré par l'un ou par l'autre parce que j'ai peut-être la chance d'avoir la possibilité de bricoler quelque chose qui me convient et pas d'avoir la solution Harvey ou Légora qu'on m'impose avec peut-être du custom possible derrière mais j'arrive à faire un peu ce que j'ai envie par moi-même notamment avec le cloud code, la création de skills d'agents et de factories aussi, pourrait en parler aussi, j'ai créé une petite factory. qui me permet de traiter toute une série de problématiques de manière séquencée. Et alors de l'autre côté, les outils dopés à l'IA, parce qu'il faut aussi décomposer les choses d'une manière au niveau de notre profession. On est dans une phase aujourd'hui où la brique production est mouvementée. Les outils d'IA... des éditeurs de jeux, de doctrine par exemple, c'est simplement de la recherche améliorée, augmentée. Ça ne va pas m'aider à produire quelque chose, c'est juste on va m'aider peut-être plus facilement à rechercher l'information. Et alors il a la troisième partie qui est l'organisation, les cabinets. J'utilisais un logiciel, avant on était au papier, maintenant on est en paperless. Et donc les trois briques qu'on peut visualiser rapidement, il en a une quatrième qui est la communication, mais on arrive aujourd'hui dans la brique production. Ça peut produire quelque chose pour nous. je pense que les outils... juridiques ou qualifiés comme tels sont insuffisants parce que, et ça c'est le constat que je porte et la main tendue que je fais à ceux qui auront la gentillesse de nous écouter, c'est qu'ils comprennent pas le métier. Quand vous demandez à un producteur de contenu type de doctrine de créer une IA juridique, ils sont des éditeurs de contenu, ils ne sont pas des professionnels, ils connaissent pas le métier, il a pas la pratique et donc moi c'est ce que j'ai fait pendant tout un temps, j'ai accompagné des avocats qui voulaient développer des outils parce que je connais mon métier, je le pratique tous les jours. je sais ce qui va, je sais ce qui va pas. En tout cas, j'ai pas le savoir absolu, mais j'ai une vue peut-être beaucoup plus pratique qu'un éditeur de solutions qui va aller demander trois interviews à trois confrères et qui va créer un bidule qui sera soi-disant fit for all, etc. Et c'est là où pense qu'il malheureusement une direction qui est mauvaise, c'est qu'ils pensent qu'ils savent. mais malheureusement ils n'ont pas suffisamment d'informations pour être pertinents et donc c'est là où il a parfois aussi un décalage et aussi une une désillusion des utilisateurs c'est qu'ils disent ouais ok c'est très bien ce bazar sur la démo que vous montrez c'est très bien mais quand je l'utilise moi dans ma pratique bah en fait il y a trop de friction ça répond pas à toute une série de besoins etc donc voilà je suis
Hugo : Ouais, ça répond pas aux besoins,
Florian Ernotte - avroy avocat : pas attiré par ça parce qu'en réalité il ya malheureusement une surcouche marketing qui est un peu excessive à certains égards et on survend peut-être les choses.
Hugo : Donc toi tu crois pas trop à l'outil tout en un qui servirait à faire des recherches juridiques, de la production, donc rédaction d'actes par exemple ou d'accompagnement contract etc. Tu ne pas à ça ou alors tu crois que c'est Claude, un Claude bien orchestré ou un outil sur mesure ?
Florian Ernotte - avroy avocat : Alors, l'outil tout-en-un fourni par un éditeur de logiciels, en mode SAS par exemple, ce pas impossible, mais en réalité, il faut juste se rendre compte d'une chose, c'est qu'il y a autant de pratique que d'avocats. Donc en réalité, un outil qui fonctionne... pour faire tout, on va standardiser la pratique et généralement l'avocat n'a pas envie qu'on standardise sa pratique. Et si on trouve un bon outil qui fait tout, ça demande des investissements colossaux pour arriver à un niveau de satisfaction suffisant dans chacune des briques. Production, recherche, communication, organisation, gestion, rédaction, etc. Donc peut-être que demain ça arrivera, mais aujourd'hui je n'y crois pas. Je ne vais pas prédire le futur, mais aujourd'hui ça n'arrivera pas. Parce que d'autres solutions plutôt modèles d'IA à usage général font le boulot suffisent. Ça c'est l'éternel débat. Mais alors ça demande un investissement en interne de pouvoir transposer sa pratique, de se dire ok moi je fais les choses comme ça et donc je demande à la machine de faire comme ça. Et ça c'est un gap, un saut que malheureusement beaucoup sous-estiment et ou ne prennent pas le temps de faire. Parce qu'on se dit que c'est un investissement d'une journée, deux journées, deux semaines de travail. et on visualise pas le retour sur investissement.
Hugo : C'est ça, c'est ça.
Florian Ernotte - avroy avocat : Et c'est d'ailleurs le problème des avocats de manière générale et si on remonte du taux horaire, c'est que les modèles qu'on a fait de convention, c'est trop contraignant de réfléchir à les stocker intelligemment pour voir les réutiliser plus tard parce que de toute façon, fait, le client, il repayera entre guillemets le modèle que quelqu'un a payé plus avant. Je caricature, je suis tout à fait conscient que ce n'est plus exactement ça qui se passe, mais on est un peu dans cet ordre d'idée là parce qu'on a un historique passif qui est comme Et c'est justement aussi que des avocats comme toi ont cette étiquette d'innovation qui est forte parce que justement on veut casser ce modèle par rapport à cette manière de fonctionner. présentes des tarifs sur ton site, ce pas tous les avocats qui le font, c'est très bien.
Hugo : Oui, c'est marrant parce que je me disais ça justement, ça date pas de l'IA, tu sais que que les avocats parfois ne reprennent pas leur modèle, pensent pas forcément à automatiser, etc. Moi, je me souviens que quand j'étais élève avocat il a maintenant plus de 10 ans, déjà les modèles, tu vois, c'était quelque chose qui me rendait fou. On pouvait déjà organiser la structure de la documentation, les modèles et peut être même déjà à l'époque l'automatisation, c'était pas de l'IA en soi, mais on pouvait déjà automatiser des choses et ça m'avait déjà marqué. Et je trouve qu'avec l'IA, c'est encore plus vrai. Tu pourras beau faire le meilleur prompt que tu veux, le meilleur skill, si ton modèle n'est pas pertinent, si tes dossiers ne pas bien organisés. C'est souvent une des premières choses que je vois quand j'accompagne des avocats avec Intentia, qui est mon offre pour accompagner les avocats. C'est déjà la, je ne sais pas comment on peut appeler ça, mais l'architecture, tu vois, organisationnelle, la documentation.
Florian Ernotte - avroy avocat : C'est comme ça dans toutes les professions. C'est comme ça partout.
Hugo : Oui, c'est c'est clair.
Florian Ernotte - avroy avocat : Et alors, faut surplonger en 2023, rappelle-toi les conseils que certains donnaient en disant « vos promptes, vous les mettez dans un Word que vous pouvez réutiliser plus tard ». Même déjà à ce moment-là, on était dans des conseils d'utilisation qui étaient complètement loufoques. D'aller
Hugo : Ouais, ouais ouais.
Florian Ernotte - avroy avocat : copier ces promptes dans des Word qu'on allait rechercher par la suite. certains le
Hugo : Moi.
Florian Ernotte - avroy avocat : proposaient, ils disaient « Gardez-les parce que ces promptes, machins, ces choses » C'est un peu archaïque.
Hugo : pense que toutes les professions doivent être bien organisées, mais quand même la nôtre n'est pas la meilleure.
Florian Ernotte - avroy avocat : Non, te rassure Hugo, j'ai la chance de conseiller plein de professions et dans chacune des professions il a de la désorganisation. C'est le propre de l'humain, c'est
Hugo : oui ? Ok, ça me rassure un peu.
Florian Ernotte - avroy avocat : pas le propre de l'avocat.
Hugo : Très bien. Donc là, on a fait un petit tour d'horizon des IA juridiques. Si on rentre un peu plus dans le vif du sujet sur l'IA chez Avroi Avocat, est donc ton cabinet, tu es un des co-fondateurs si je me trompe pas. Chez Avroi, est-ce que tu peux nous dire combien vous êtes et puis est-ce que tu peux nous dire est-ce que tous les avocats ont le droit d'utiliser de l'IA ? C'est quoi un petit peu ? Est-ce que vous avez une charte ? Quelle est la pratique en interne ?
Florian Ernotte - avroy avocat : Donc on est 14 avocats, ou peut-être 13 ou 15, parce qu'il y a un départ et un engagement, on est 14 aujourd'hui. Ce qui se passe dans la politique, c'est que dans mon équipe, je n'interdis pas l'utilisation de l'IA. J'ai mis quelques lignes directrices assez standards et logiques qui sont reliées à notre déontologie, aux lignes directrices que nous avons de notre ordre. Par contre, j'ai une posture assez ferme par rapport à des avocats stagiaires qui donc commencent le métier, on va dire qu'ils ont moins de trois ans de barreau. Je pense qu'ils doivent au maximum éviter d'utiliser l'intelligence artificielle parce qu'en réalité, ils sont en train d'apprendre leur métier et ils pourront utiliser l'IA de manière intensive s'ils le souhaitent plus tard. d'abord, ils apprennent leur métier. Ils doivent pas apprendre l'IA avant d'apprendre leur métier. C'est un peu rétrograde ou ça peut paraître un rétrograde d'une certaine manière mais en fait c'est pour éviter la problématique de court-circuit parce que j'ai écrit un papier il y a quelques mois qui s'appelait faire sans savoir savoir sans faire et en fait l'IA aujourd'hui passionne beaucoup parce que c'est un moyen d'accéder à de la connaissance et ou de la compétence entre guillemets virtuellement et rapidement et donc je peux aujourd'hui faire une analyse en droit de la famille alors que je n'y comprends rien au divorce je peux faire une analyse en droit sloven alors que j'ai pas ouvert un seul code de droit sloven et donc c'est ça cet effet court-circuit c'est qu'on a un accès à une ma parents de compétences et donc les jeunes avocats qui sont en train de formaliser dans leur tête des raisonnements, des structures de pensée, etc. Moi je déconseille à mes collaborateurs qui commencent de trop utiliser l'intelligence artificielle mais je ne pas dans une optique d'interdiction parce que je pense qu'on est tous majeur et vacciné et que l'argument que je donne est suffisamment à mon avis compris, enfin en tout cas je le vois bien avec mes collaborateurs, ils disent ben oui je suis d'accord avec toi.
Hugo : Oui, mais tu poses une vraie question et je pense qu'on l'abordera dans ce podcast dans un autre épisode qui est vraiment la formation slash l'éducation, j'ai envie de dire. Et c'est une question que je me pose même pour mes enfants. vois, nous, on arrive à un moment où on a quand même construit un début de carrière. On a accumulé de l'expérience et des compétences. Enfin, j'espère dans la matière. Et on arrive à voir déjà ne serait-ce qu'une erreur de l'IA. Tu vois, on le repère. Un jeune avocat, moi, je me demande comment ça se passe. Et tu vois, même pour mes enfants, un titre personnel. J'ai pas du tout toutes les réponses, mais c'est un sujet qui m'intéresse. pense qu'on l'abordera dans un autre épisode de podcast. En interne, est-ce que, je me demandais, vous utilisez Clotim, j'imagine, est-ce que vous écrivez, est-ce que tu as un process, par exemple, est-ce que vous utilisez des skills ? Est-ce qu'il a un process pour écrire des skills ? Est-ce que, par exemple, c'est toi, associé, qui est à l'initiative, et puis un collaborateur peut proposer une amélioration et elle passe par une validation interne Moi qui suis solo, je m'interroge vachement sur comment on fonctionne sur une petite équipe d'avocats.
Florian Ernotte - avroy avocat : Alors la manière dont on fonctionne ici elle est très organique, c'est à dire qu'en fait chacun propose et est libre de partager, de discuter etc. Mais le problème est qu'il des niveaux d'adoption qui sont différents et je vais utiliser le mot créativité mais il n'est pas bien employé donc il faut le mettre avec des gros guillemets. Certains avocats sont plus câblés, entre guillemets, ou ont une réflexion plus créative par rapport à la manière d'utiliser l'IA que d'autres. c'est normal, on est tous différents, il n'y a pas de jugement de valeur par rapport à ça. Et donc c'est toujours aussi cet équilibre à trouver entre ceux qui utilisent ce qu'on leur donne et qui se satisfont de cette utilisation et certains qui vont pousser des idées en disant tiens, voilà, là je viens de faire ça, j'ai essayé de le faire avec l'IA, je viens de faire une skill, je vous la partage. Et ça, dans un cabinet, tu ne pas forcer tout le monde à être de ce côté-là, entre guillemets, de dire je pousse des skills
Hugo : C'est clair.
Florian Ernotte - avroy avocat : si je fais. Donc c'est très organique, on fait des réunions, on réfléchit, on partage, beaucoup de partage de connaissances, d'informations, d'expériences. Et puis après, chacun fait un peu son marché parce que de nouveau, chacun gère ses dossiers un peu à sa manière, même si on a des cadres un peu... structurant par rapport à la manière dont on veut exercer notre métier. a des valeurs dans mon équipe, a quatre valeurs, on a une mission, on a quand même une direction dans laquelle on sait qu'on veut exercer notre métier et ça permet aussi à mes collaborateurs d'avoir beaucoup d'autonomie parce qu'ils ont le cadre dans lequel ils agir. Mais donc voilà, c'est très organique et à la réflexion quand tu me poses la question, je me dis est-ce que je dois peut-être plus structurer ou peut-être pas justement laisser comme ça, j'ai pas de réponse parce qu'en réalité aussi il a la question d'adoption et d'adhésion. Si tu viens par au dessus et que tu pousses un cadre sur la tête des gens, je suis pas certain qu'ils vont
Hugo : ça marche pas.
Florian Ernotte - avroy avocat : bien le vivre et donc il faut que ça prenne tout doucement. Et aujourd'hui avec ma réflexion là où elle en est, on est dedans, on y va, on y est, on regarde mais il faut pas non plus devenir des décérébrés qui font full IA parce que je crois qu'il quand même... Il y a quand une valeur encore à ce qu'on fasse marcher notre tête plutôt que de la puissance de calcul.
Hugo : Ouais, mais c'est juste que moi je me disais, tu vois, les skills c'est moi qui les... qui les crée sur la... c'est moi qui crée le template qui va souvent avec le skills, avec le skill. C'est moi qui l'améliore, parce qu'en fait on en parle... je trouve qu'on en parle pas assez, mais en fait les skills c'est pas quelque chose de fini, tu vois, on passe notre temps en fait à l'améliorer. Enfin en tout cas moi de mon côté je pense une demi-heure par jour je dois améliorer des choses tout le temps, à minima. Et je me dis, dans une équipe, je me demande vachement comment je le vivrai, tu vois, parce que si on partage un skill, je l'ai pas écrit. Alors je sais que j'ai pas... Bon normalement t'as recruté la personne, t'as confiance en elle, tu l'as formé etc. Mais je serais pas hyper à l'aise quoi de lancer tu l'IA sur un dossier très important, sur un skill que j'ai pas moi même ou alors il faudrait les relire et dans ce cas là ça... Tu vois dans ma tête je me dis il faut quand un minimum de process mais ça c'est parce que je suis très solo tu vois. Peut-être je fais pas assez confiance.
Florian Ernotte - avroy avocat : Non mais tu viens de mettre le doigt sur le problème. Si on te dit tiens voilà un skill c'est que tu l'installes et que tu le pousses comme ça. Oui ça c'est la mauvaise manière de faire. Et un minimum
Hugo : Oui, oui.
Florian Ernotte - avroy avocat : c'est le lire, le comprendre et savoir de quoi il parle. D'autant plus d'un point de vue cyber je pense que c'est un aspect qui n'est pas du tout tout du tout visibilisé. Moi je vois des offres de bibliothèques de skills et autres et après on s'étonne qu'il y du prompt injection et de l'empoisonnement de la donnée de manière générale, pas nécessairement du LLM évidemment parce qu'on n'a pas cette capacité là mais il y a des risques quand même qui sont assez clairs et évidents par une utilisation entre guillemets inconsciente, donc sans conscience des skills. Et alors sur l'amélioration, un petit commentaire par rapport à ça, je comprends ce que tu veux dire et c'est là où par exemple moi je mets en place des... des agents qui viennent optimiser les skills. Je te parlais tout l'heure d'une factory, je pense que je te l'ai dit en off, donc je le remets maintenant en on.
Hugo : Je veux bien que tu nous expliques carrément ce cas d'usage-là, de la factory, de
Florian Ernotte - avroy avocat : Ouais.
Hugo : ces agents qui améliorent. Moi ça m'intéresse vachement en plus.
Florian Ernotte - avroy avocat : Donc en fait l'idée c'est que je transpose la chaîne de production manuelle mécanique qu'on peut imaginer dans une usine, je la transpose à ce qu'on fait dans notre tête et j'essaie maintenant de la transposer dans un séquençage d'exécution par une machine. C'est le principe de l'automatisation. Si tu veux automatiser, tu dois découper chacune des tâches, la standardiser pour qu'elle aille tout le temps la même forme et puis après tu les mets l'une après l'autre pour qu'elle s'exécute. Il a une méthodologie très simple et très facile à appliquer mais l'idée elle est là et c'est ce qu'on a fait dans les usines et c'est ce qu'on est en train de faire aujourd'hui avec tous les risques, problèmes de prolétarisation. Donc c'est le parallèle à Karl Marx qui prolétarise l'ouvrier. Ça nous arrive aussi à toi et à moi puisqu'en fait on est dépossédé de notre savoir puisque c'est la machine qui le fait. j'ai écrit là dessus aussi, c'est quelque chose qui me passionne. Cette factory qu'est ce que c'est ? En réalité j'ai trois blocs d'agents parce qu'il a des outils qu'il va chercher donc c'est pour ça que je dis agent alors on peut discuter si c'est le bon mot ou pas, on me sent pas en tête. Le premier c'est celui qui va faire un brief donc en gros il prend de l'input brut, il traite sur base d'un cadre que je lui donne, il me fait un brief Le brief, une fois que je le valide ou que je le corrige, je le passe à un autre agent qui va l'exécuter, le livrable, doit faire ci, il doit faire ça sur base de tel fait retenu, sur base de... etc. Une fois que j'ai le livrable, après il a un troisième, qui est l'OPS, qui vient regarder ce qui a été fait et qui se dit, tiens là, on a un skills qui a été utilisé ou qui manque, on va le créer, on va le rajouter à la bibliothèque de skills. Donc j'ai une espèce de boucle de rétroaction positive, un peu en mode cybernétique, qui permet d'aller compléter au fur et à la boîte à outils utilisée pour chacun des process que je lui demande qui fait que ça grossit mais alors en fait je fais pas ça manuellement tout le temps je me fais assister et puis après moi je fais la validation en disant ok ça effectivement créer un skills pour cette opération là ça me c'est peut-être un peu overkill parce que je le fais pas nécessairement tout le temps par contre un template de couleur avec des matrices des polices et autres ça ok je le fais et donc ça s'auto implément par la machine qui va identifier parfois les zones de friction ou les zones des angles morts, les trous, les trous dans la raquette en disant ben là en fait j'ai dû prendre une hypothèse que j'avais pas en amont, comment est-ce que je fais ? Et ça rejoint aussi le human in the loop dont on a aussi discuté.
Hugo : On va en parler de Human in the Loop, ce que tu décris, c'est exactement ce que je fais, instinctivement. Je ne l'ai pas théorisé. En gros, je peux le dire, je pense que ce pas confidentiel. J'utilise souvent un outil lorsque j'enregistre par exemple un entretien avec un client, où le client, si il moment, c'est l'input, va exprimer un besoin. Je vais avoir derrière un skill qui correspond à ton brief, que j'ai dû appeler CR, avec la barre oblique. avec tout un skill, qui permet de faire un compte rendu et un premier brief d'analyse, etc., qui va challenger aussi ce que j'ai pu dire à l'oral, ma position, essayer d'apporter un autre éclairage, etc. Et ensuite, lorsque j'ai ça, très souvent, en fait, ce qui se passe, c'est que j'ai créé un projet lié à ce client, dans Claude, en respectant au maximum évidemment la pseudonymisation, l'anonymisation, etc. Enfin, surtout la pseudonymisation avec un outil qui s'appelle Hexagon. Et ensuite, je lui demande de passer dans la phase 2. tu vois avec bah tiens produit telle et puis ensuite j'ai une phase 3 qui souvent est une autre conversation encore tu vois qui est je sais plus relecture tu vois par un associé un peu plus premium et qui lui au passage va justement se dire bah ça on pourrait l'automatiser tu vois pour essayer de refaire un petit peu alors moi j'ai l'impression que je l'ai beaucoup moins bien automatisé que toi tu vois c'est un peu instinctif et c'est venu en fait en marchant à force d'essayer quoi Et puis c'est surtout moi, le retour de la boucle, c'est surtout moi. C'est surtout moi qui me dis, bah tiens là, il faudrait qu'on en fasse un skippé définitif et puis il faudrait que je fasse un modèle que je vais ranger là, tu vois. Est-ce que toi tu utilises Claude pour faire ça quand tu parles d'agents ? Est-ce que c'est des agents spécifiques ?
Florian Ernotte - avroy avocat : Alors je vais te donner... Non, je
Hugo : sans rentrer dans la secret sauce.
Florian Ernotte - avroy avocat : n'ai aucun problème à partager. De toute façon, c'est le jeu. On est en train de discuter ici, les gens nous écoutent, c'est pour donner des idées et faire avancer le chemis lubliques comme dirait l'autre. Je ne travaille pas dans Claude, dans l'application. Je passe par le terminal, par Claude Code. Et donc l'ensemble de ces processus se font de manière fluide. ne dois pas actionner, si ce n'est le brief que je valide, l'un passe à l'autre. Et il a deux semaines ou un peu plus, je me suis dit en fait c'est super désagréable de travailler dans cette interface noire avec l'écriture blanche du terminal. Et donc je viens de créer une interface UX pour moi qui est une espèce d'application de ticketing. Un peu la même chose. qui se connecte avec ce type d'infos et donc j'ai une interface visuelle avec des dossiers entre guillemets qui rentrent, je tape l'input que j'en vis et puis en back il vient faire toute la moulinette et puis en front j'ai à chaque fois les éléments. donc là j'ai créé mon application en local, enfin en local on se comprend, l'inférence IAL se fait ailleurs mais j'ai mon application qui tourne en local avec l'inférence qui sort et donc c'est juste visuellement où j'ai une interface qui est beaucoup plus agréable et fluide. à utiliser et si je viens... voilà, exact, automatisé et
Hugo : Mais l'enchaînement lui est prévu quoi, c'est pas toi qui fait, une fois que tu as fait ton brief c'est prévu quoi.
Florian Ernotte - avroy avocat : j'ai un suivi dans cette application alors, voyez, elle tourne un localhost et pour moi c'est une application locale quoi les spécialistes me diraient peut-être que c'est différent mais peu importe et donc j'ai un suivi aussi visuellement des tickets que je fais rentrer etc etc etc là par contre où j'ai par contre répète, excusez-moi, mais là où je suis peut-être plus méticuleux, c'est en amont. Alors je n'utilise pas des logiciels qui pseudonomisent parce que d'une certaine manière, pour avoir la garantie que c'est bien pseudonomisé, il faut tout relire et donc en réalité, c'est un peu une perte de temps, trouve. Ça, c'est un point
Hugo : Hum. Hum.
Florian Ernotte - avroy avocat : de vue. Le deuxième aspect, c'est que... Je passe au deuxième aspect, c'est que l'IA va peut-être identifier des choses auxquelles je n'ai pas pensé, mais qui ne peut-être pas nécessairement pertinentes pour d'autres raisons, parce que j'ai un contexte factuel qui n'est pas dans la conversation ou dans l'input que je connais. donc ce que je fais de manière quasiment permanente, c'est qu'en réalité, je dicte le contexte sur lequel travailler. Ce qui me permet de le dicter en le pseudonymisant, anonymisant de manière certaine, c'est-à-dire je dis le client, la société, et je fais en sorte que le contexte soit neutre. d'un point de vue secret professionnel et donné à caractère personnel. J'ai fait ce travail en amont, peut-être avec un bic ou feuille, ou que sais-je. de sélection et d'identification des problématiques. donc, ça me permet aussi d'être beaucoup plus d'une certaine manière efficace avec ma machine parce que je l'ai mise vraiment, je lui dis tu vas aller travailler là. Je lui donne pas entre guillemets le champ des possibles. Je lui dis tu travailles là parce que bon, voilà, je suis avocat depuis 12 ans. Je crois que je connais un petit peu la matière que je pratique et je sais que sur certains types de dossiers, il faut pas non plus réinventer le chaud. Et donc, cette manière de canaliser l'input, à mon sens, est très importante parce que ça nous permet d'abord de garder le contrôle et on en revient avec le human in the loop. C'est une manière magnifique d'attraper les choses de manière inventaire.
Hugo : Et c'est tout !
Florian Ernotte - avroy avocat : C'est une manière de garder le contrôle en amont, d'éviter les... Parce que relire des briefs en soi c'est pour me donner bonne conscience. Vu que j'ai donné la bonne information en amont, généralement le brief est relativement bien fait. Si par contre tu ne donnes pas de bonne information en amont, le brief tu dois le corriger, tu dois le retravailler, tu dois le faire modifier une fois ou deux. Et c'est là où le côté gain de productivité ou de rapidité, ça commence à se réduire. C'est un peu la manière dont je travaille sur certaines problématiques
Hugo : oui, hyper intéressant.
Florian Ernotte - avroy avocat : assez standardisées ou standardisables.
Hugo : C'est très intéressant. Juste pour expliquer à notre audience un point que tu as évoqué. Je pense que notre audience connaît l'application desktop Cloud. Toi, que tu disais, c'est que tu travaillaies initialement sur ton terminal. Cloud était branché dessus. en gros, veut dire une application pour décrire les mots un peu, avec des mots un peu barbares, mais ça ressemble à là où travaillent des développeurs. gros, c'est pas hyper...
Florian Ernotte - avroy avocat : C'est ça, c'est un fond noir avec des écritures blanches et on se croirait dans Matrix.
Hugo : Voilà. Donc on peut mettre Claude là-dessus, c'est possible. Et ça permet aux développeurs d'ailleurs d'avoir les mains beaucoup plus libres, de faire plein de choses. Et toi, ce que tu dis, c'est que tu bossais plutôt là-dedans, mais qu'au bout d'un moment, tu t'es fait une interface un peu plus sympa.
Florian Ernotte - avroy avocat : En fait, je travaille via un IDE, donc VS Code pour ne pas le citer, qui est donc une interface de programmation et de développement sur laquelle, en fait, l'avantage de ça, que je peux, j'ai une granularité de travail qui est différente. C'est l'équivalent du cloud-cowork où on peut aller chercher dans des dossiers, etc. Mais je trouve qu'on a plus les coups des franches dans ce type d'utilisation. VS Code, j'utilise Cloud Code dedans. Alors il a un plugin Cloud Code, mais aussi il a le Terminal qui me permet en fait de travailler sur des dossiers, des fichiers à la racine sur mon PC. En mettant les garde-fous, il faut faire attention aussi, il faut savoir ce qu'on fait. Mais il a plein de tutos sur Internet. Et il a le Pendant qui est le Terminal, qui est donc cette interface un peu très très minimaliste et sobre que tu as décrite. Et en surcouche de ce Terminal, parce que ma factory tournait sur un Terminal par souci de rapidité, j'avais fait comme j'ai remis une interface visuelle par dessus que j'ouvre via un lien qui se crée. Donc j'ai une espèce de script que je dois lancer et puis une fois que le script tourne, je vais sur un site, une IP locale qui m'est proposée par la solution et j'ai accès à cette interface.
Hugo : Donc voilà, c'est juste pour expliquer, tu t'es détaché un petit peu de l'application Cloud qu'on connaît, que les
Florian Ernotte - avroy avocat : Ouais ouais.
Hugo : avocats connaissent pour aller chercher d'autres usages qui sont hyper intéressants. Moi, j'avais bricolé un peu là dedans. J'avoue qu'au quotidien, je reste dans le Cloud classique parce que je suis aussi habitué, mais je sais qu'il faudrait que j'en sorte. Enfin, je vois très bien les usages qu'on peut faire. Ouais, ça dépend.
Florian Ernotte - avroy avocat : Oui et non, ça dépend de que tu fais. Moi je fais beaucoup de conventions par exemple où j'utilise le plugin Claude dans Word parce que j'ai un document qui est suffisamment anonymisé et donc je peux travailler dedans. Donc je relis une convention puis je prends mon micro, je mets la dictée et je dis voilà il faut changer ça, il faire ça, il faut faire ci, il faire ça et tout se fait sous mes yeux.
Hugo : Ouais, ça dépend de l'usage quoi. Ouais. Et en une phrase, parce qu'on est un petit peu en retard là sur mon programme, est-ce que tu utilises des agents ? Je pense aux agents IA, tu vois, les Hermès et compagnie, est-ce que c'est des choses que tu es allé creuser un petit peu ou pas encore ? Ok. Ouais.
Florian Ernotte - avroy avocat : pas encore par manque de temps. Mais ça me titille beaucoup, mais d'une certaine manière aussi ça me... Je sais aussi pourquoi je ne prends pas le temps de le faire, c'est parce qu'en réalité pour pouvoir avoir une puissance de ces outils, il faut de la donner et dans la mesure où aujourd'hui la connexion de ces plateformes routeurs d'agents doit se faire avec des inférences qui doivent être quand même correctes. Je n'utilise pas de données protégées par le secret professionnel ni à caractère personnel avec des inférences américaines. donc j'essaie de faire attention. C'est pas tout à fait vrai, j'utilise des inférences américaines mais qui sont dans le cadre des agents qui enregistrent mes conversations. Mais c'est encadré, c'est une société qui donne des garanties adéquates. Mais donc voilà, là pour le moment, oui, je pourrais chipoter, va en prendre une API chez Scaleway, aller taper sur une IA en open source qui tourne en local chez eux. mais ça prend du temps de configuration et après c'est la migration de la donnée
Hugo : Ouais.
Florian Ernotte - avroy avocat : dans ce type d'environnement.
Hugo : J'avoue que tu sais, j'ai eu un peu trois chocs, trois claques, trois effets waouh comme on dit. Là, j'ai eu l'arrivée de TchatGPT évidemment, comme beaucoup de gens là, en novembre 2022, début 2023. J'ai eu Claude il y a un an, an et demi, notamment avec Co-Hour qui m'avait pas mal emballé. Et là, j'avoue que les agents, je les ai beaucoup utilisés à des fins personnelles on va dire pour l'instant, j'ai un peu, vois, bidouillé. Et en fait, évidemment, ça ouvre une porte qu'on va à mon avis avoir du mal à refermer sur la proactivité, quoi. Le fait qu'ils viennent vers toi au lieu que c'est toi qui... qui demande quelque chose.
Florian Ernotte - avroy avocat : Et là par contre dans la gestion du cabinet, y a des choses à faire incroyables, la prise de
Hugo : C'est un truc de...
Florian Ernotte - avroy avocat : rendez-vous, gestion d'agenda, réponse au téléphone. Pour
Hugo : C'est un truc de fou.
Florian Ernotte - avroy avocat : des solistes comme toi, j'imagine évidemment que c'est des choses incroyables parce que ça peut être... Oui.
Hugo : Ouais. Sur la création de contenu aussi, c'est assez dingue. Là, j'ai un agent qui s'occupe pas mal de ma publication LinkedIn, etc. C'est quand même assez fou. Là, pour le coup, je vois le temps gagner. Le matin, je peux passer du temps avec mes enfants et l'actualité, la veille se fait. La veille est un petit peu pas juridique, on va dire de l'environnement IA juridique et tu peux poster sur LinkedIn très rapidement un contenu tout à fait correct si tu as les bons skills, etc. Donc voilà, je vois des choses intéressantes à faire. que je te propose c'est passer dans la partie... Alors on avait deux cas d'usage, on va peut-être en garder 15 sur la partie plus juridique que tu vas pouvoir nous expliquer, mais j'aimerais bien parler avec toi de... Tu sais, tu as fait deux publications, je me souviens d'une publication sur la Chartilla des PME, mais surtout une publication sur le Human in the Loop, tu en as parlé un petit peu là, il a quelques minutes. Est-ce que tu peux nous expliquer un petit peu déjà ce que c'est, pour ceux qui ne savent pas, et nous dire à quel moment ça intervient et ta vision là-dessus, ta position là-dessus, s'il plaît.
Florian Ernotte - avroy avocat : Human in the loop, c'est donc l'humain dans la boucle, c'est un principe qui est apparu dans... d'états de mollic qui s'appelait cointelligence en 2024 alors il existait peut-être déjà avant mais ça a été vraiment théorisé par états de mollic comme étant quatre cas de principe appliqués en matière d'utilisation de dia et états de mollic ayant une grosse visibilité je pense qu'on a tous été entre guillemets un peu influencé par ça donc c'est un principe d'utilisation recommandé par un pape un gourou un expert ou un professeur d'université vous choisissez ce que vous voulez par rapport à mollic je n'ai pas d'avis public à donner par rapport à Et puis cette notion de human in the loop, on la retrouve dans un texte juridique, le règlement sur l'intelligence artificielle, je crois que c'est l'article 14, qui est en fait la supervision humaine, c'est à dire qu'on impose pour les systèmes d'IA au risque d'avoir une supervision humaine qui soit effective. Et donc ce principe d'utilisation, conseil, type genre vous promptez comme un as et puis après vous faites le human in the loop est devenu une espèce d'obligation légale hyper spécifique pour des systèmes d'IA super spécifiques et fort de cette incrustation dans le paysage réglementaire ce... cette obligation légale qui était très spécifique est devenue un mode ordre général. On le retrouve partout, il faut faire de la supervision humaine et tout le monde dit qu'ils ont fait de la supervision humaine. Le problème c'est que quand on va dans les entreprises, quand on pose des questions, qu'est-ce que c'est la supervision humaine ? Là la réponse est parfois inexistante parce qu'en personne ne sait vraiment te dire ce que c'est. Oui je relis, ok d'accord tu relis mais tu relis quoi ? Tu relis comment ? Tu vas jusqu'où pour relire ? Et donc c'est quelque chose qui est très superficiel, pas défini. Et quand je dis superficiel, c'est en surface, c'est-à-dire que je vais lire un texte, ça va me sembler peut-être pertinent, mais je questionne pas les hypothèses qui ont été prises, je questionne pas les choses qui n'ont pas été abordées, etc. Et il a un autre phénomène qui m'a fait aboutir à la réflexion sur le human in the loop, c'est que la cadence de la machine, et c'est Marion Carré qui l'écrit dans son livre sur le paradigme de tapis roulants, qui est un livre qu'on peut critiquer mais sur certains aspects, notamment cette cadence de la machine qui nous emmène dans une cadence de travail, là je trouve que c'est pertinent, on est entre guillemets nécessairement dans une accélération du rythme de notre travail. C'est cette fameuse gain de productivité où on pense qu'on va libérer quatre heures par semaine, je mets tout le monde au défi qu'il utilise de manière un petit peu intensive, fait plus, il fait pas moins. Alors, si, il en a certains, les gourous qui te vendent des formations bien chères.
Hugo : Non c'est vrai, c'est c'est vrai.
Florian Ernotte - avroy avocat : Mais voilà, si tu joues là-dedans, c'est que tu en mode productivité, donc tu as envie de faire et il a une boulimie qui se crée. Je caricature
Hugo : de faire.
Florian Ernotte - avroy avocat : peut-être, je généralise peut-être, mais c'est pour la clarté du propos. Avec des exagérations, on voit mieux les choses. Et donc... cette cadence de la machine va rendre encore plus superficielle cette relecture parce qu'en voilà j'ai des briefs qui sortent, j'ai les hauts qui tournent, j'ai des machins, j'ai des trucs limite c'est ton ton écran devient sympa de Noël parce que t'as des notifications partout donc c'est encore plus superficiel Et donc je me suis dit mais comment est-ce que je peux moi comme avocat qui vient conseiller des entreprises, comment est-ce que je peux les aider à transformer ce mode d'ordre en quelque chose d'un petit peu plus sérieux parce qu'en soit vous n'êtes pas obligé vous, entreprise, de mettre de la supervision humaine dans votre charte IA parce qu'en soit si vous n'êtes pas dans une activité réglementée, il a pas de raison de le faire. Maintenant ça fait bien. Alors on rentre dans le côté un peu éthique. Est-ce que c'est de l'ethic washing, est-ce que c'est du buzzword ? Chacun fait sa religion par rapport à ça. Mais comment est-ce que si on veut le faire vraiment et qu'on a des intentions, ok comment est-ce qu'on le fait. Donc j'ai eu la chance et la confiance de beaucoup de clients à réfléchir à ces matières, à ce sujet et à opérationnaliser, opérationnaliser cette conformité. Comment la rendre opérationnelle, vérifiable, mesurable et applicable. que mettre des grands principes dans une chartilla c'est beau mais si derrière il a rien ça ne à rien. Et donc j'ai théorisé un petit peu ma réflexion en découpant les choses de nouveau parce qu'on ne se refait pas. donc il y a deux mots.
Hugo : un exemple du coup
Florian Ernotte - avroy avocat : Voilà. donc je dis un peu ça de manière comme un slogan, c'est passer du mot d'ordre au protocole. Le protocole... tu mets S à protocole, tu as un protocole de production en amont, un protocole de vérification en aval et un protocole de recommandation qui vient recommander l'optimisation du protocole de production. Et donc, on est un petit peu dans la même logique que la factory, c'est-à-dire qu'en fait,
Hugo : Où est-ce ça ?
Florian Ernotte - avroy avocat : je vais encapsuler ma compréhension de production d'un livrable. Je dois faire une analyse de solvabilité sur base d'un bilan d'une société par rapport à des problèmes, des ratios, etc. Et donc, je pourrais par exemple me dire, ok, sur base du bilan de la société qui sont publiques que je te donne, tu vas générer une analyse de solvabilité avec les mesures adéquates à prendre le cas échéant en matière de droit de l'insolvabilité, proposer des plans de remboursement aux créanciers sur base de telle disposition, envisager leur couvrement sur base de telle disposition, Mesures de sécurité aussi au niveau des administrateurs de société parce qu'on est peut-être dans des ratios qui entraînent des procédures spécifiques en matière de droit des sociétés. Bref, j'encapsule ma compréhension et ma connaissance d'une matière en amont dans une Skills en disant voilà quand je taxe tu vas faire cette de travail, cette recette de cuisine que nous faisons de manière intuitive et instinctive en rendez-vous quand on a des clients devant nous. On pose des questions de manière un petit peu machinique, on pose tout le temps les mêmes questions, souvent dans le même ordre, parce qu'il a une raison pour laquelle on les pose. Et donc on transpose ce raisonnement dans un skill qui permet donc de déployer de manière automatique une connaissance. Ça c'est le protocole de production. Evidemment ça demande en amont de bien réfléchir et de bien structurer les choses. Ce qui est déjà entre guillemets un contre-pied puisque le human in the loop de manière générale c'était un petit peu en fin de course c'est à dire relire,
Hugo : Oui.
Florian Ernotte - avroy avocat : être revérifié la production de la machine alors qu'ici je mets le problème à un autre endroit je le mets en amont avant même qu'on touche la machine il faut déjà y réfléchir, se poser et construire quelque chose de solide. Protocole donc de production. qui va ensuite être suivi d'un protocole de vérification. Ce protocole de vérification, qu'est-ce qu'il permet ? Il permet de faciliter, et je vais mettre des gros guillemets à faciliter, la relecture et la supervision de la production générée par la machine. je le dis de manière un petit peu caricaturale, c'est le chemin de raisonnement qui pris par la machine. Et donc ce que je demande dans ce protocole de vérification, c'est de vérifier sur base du protocole de production et de l'input qui est donné, les hypothèses qui ont été prises, les chemins qui ont été choisis, j'ai été à gauche plutôt qu'à droite, j'ai retenu cette hypothèse-là plutôt que cette hypothèse-là, j'ai appliqué telle disposition parce que celle-là je considérais que n'est pas applicable, et donc j'essaie de rendre visible certains choix pris par la machine. A l'inverse, si je n'utilise pas ce protocole de vérification, j'ai un texte qui est, enfin, en matière de droit, j'ai un texte qui est produit sans nécessairement avoir l'explication pourquoi est-ce qu'il a écrit ça ou ça. Et donc l'idée du protocole de vérification, c'est de visualiser les choix qui auraient été pris par la machine sur base du protocole de production et de l'input qu'on en amont pour, lors de ma lecture, me dire ok, là il a décidé d'aller par là, je valide ce choix ou je trouve qu'il est ridicule. Je prends un exemple très belgo-belge mais je suppose qu'en france vous avez aussi des cadres similaires nous avons trois régions linguistiques en belgique région flamande région bruxelles capitale région wallonne ces régions linguistiques ont un impact au niveau de la fiscalité par exemple l'immobilier et donc si je pose une question sans préciser le localisation de l'immeuble elle va prendre quel contexte juridique ? Régions flamandes, régions bruxelloises, régions wallonnes. Et évidemment parce qu'elles sont trois régions différentes, elles ont eu toute la bonne idée de faire des règles différentes. Et donc, typiquement, dans le chemin de vérification, c'est le genre de choses qu'on pourrait voir. Et puis, troisième aspect, le protocole de recommandation, qui est de regarder ce protocole de vérification à la lumière du protocole de production et de dire tiens... Mais en fait, j'ai dû prendre une décision dans le protocole de vérification, je vous le dis, j'ai pris une décision en disant le bien sera en région A, parce que elle n'était pas dans l'input en amont et donc je pourrais recommander de poser des questions à la suite. de l'interaction avec l'utilisateur pour peut-être préciser la localisation du bien parce que vous ne l'avez pas dit. Et donc je viens entre guillemets améliorer mon protocole de production avec cet input du protocole de vérification. Voilà et
Hugo : C'est de l'amélioration continue.
Florian Ernotte - avroy avocat : ça me permet de faire un cycle. Il y a plein de réserves à ce que je dis. y a plein de mise en garde, y a plein de choses donc il faut pas prendre ça comme une parole d'évangile. Premier aspect, protocole de production, protocole de vérification. La vérification c'est ce que la machine veut bien dire. Tu vas pas avoir l'exhaustivité des choix qu'elle a pris. Donc c'est pas la panacée, c'est pas la vérité absolue. voilà, il y a une prudence toujours à avoir. tu vas quand même un cran plus loin. Deuxième chose, ça consomme du token puisqu'en réalité il va produire des éléments supplémentaires. Alors dans la majorité des des cas on paye à fixe fee un montant un abonnement fixe tous les mois pour ce qu'on utilise donc qu'on consomme X ou Y ça peut ne pas trop poser de problème en fonction des abonnements par contre on peut utiliser de la consommation elles sont plafonnées maintenant dans beaucoup de solutions donc ça peut avoir un impact a priori moi j'ai jamais eu de gros problème à ce niveau là même parfois avec des usages intensifs donc voilà mais ça dépend des cas d'usage, si tu balances 200 pages de PDF avec ton protocole de production, ta fenêtre contextuelle va être bouffée, etc. Donc tu as aussi toute une série d'aspects. Et puis dernier aspect, le protocole de recommandation, moi je dis, il ne faut jamais qu'il soit automatique, c'est-à-dire que nous devons avoir nous la capacité de faire la distinction et de faire notre jugement en disant, ça c'est une bonne recommandation, ça c'est une mauvaise recommandation et donc dans ce cadre-là, dans un second temps entre guillemets, après avoir fait la production via ce protocole production-vérification. d'optimiser son protocole de production via le protocole de recommandation. Ça permet de faire une boucle d'amélioration mais il y a aussi un dernier désavantage c'est que ça fige le raisonnement. Et donc on doit aussi ne pas tomber dans une facilité parce que, et rester critique, et c'est pas cet esprit critique qu'on nous vend matin, midi et soir, mais rester critique par rapport à son processus parce que sur certains processus, on doit rester mettre peut-être en amont et c'est là où je dis, je dicte ce que je veux à la machine pour garder aussi cette maîtrise par rapport à l'input que je donne à la machine. Sur les processus, en fonction des matières, des typologies et autres, il faut pas se faire piéger par cette rigidité du skill, ce qui va rester entre guillemets advita metadans. si on ne le change pas. voilà, manière globale comment ça se présente.
Hugo : Et ce human in the loop, si je comprends bien de ma compréhension, ça ressemble à la factory, ce que tu nous expliquais tout à l'heure avec cette boucle. C'est finalement l'application opérationnelle de cette notion théorique de human in the loop et du process. Mais je me posais une question autant je vois bien sur la phase, je ne plus comment tu l'appelles, mais de production. Tu vois, tu peux bosser un skills, peux bosser l'input d'entrée, tu disais, anonymiser au passage, orienter ton brief. Autant sur la partie vérification, comme tu disais, c'est bien ce que l'IA aussi veut bien te montrer. Mais concrètement, ça veut dire quoi ? Ça veut dire que quand il livre le premier livrable, le draft de livrable, exemple, ça va livrer une note de vérification de comment il a réfléchi. Chemin de lecture.
Florian Ernotte - avroy avocat : chemin de lecture moi j'appelle ça. fait soit tu relis tout de A Z et tu vas dans un degré de profondeur à la carte, soit tu as un chemin de lecture qui dit en fait il a trois endroits où j'ai pris une décision. donc déjà j'ai mon attention à tirer et sur base de la matière tu peux déjà dire en fait effectivement ces endroits là ils sont super importants donc je dois les challenger. Et donc c'est une manière de justifier l'attention et la profondeur de l'attention à des endroits du texte. Relire trois fois de suite le début du texte où tu présentes le cadre légal qui est l'article à tel du code civil du machin du truc, pas évident. Par contre,
Hugo : Oui, ça va aller. Ouais. Ouais.
Florian Ernotte - avroy avocat : à un moment donné, si la machine a pris une décision, alors j'utilise des anthropomorphiques, il faudrait pas, mais c'est pour la clarté de la compréhension. si elle prend une hypothèse plutôt qu'une autre, ça il faut essayer de le voir. Alors évidemment elle peut avoir omis certaines hypothèses qu'elle aurait pu avoir et donc ça c'est là où c'est entre guillemets le revers de la médaille. Je peux pas tout avoir mais c'est vraiment ce chemin de lecture, protocole de vérification qui permet d'orienter notre relecture et notre supervision en aval donc de manière un petit peu plus sympa et mesurable que simplement j'ai lu le texte. Et ça surtout ça nourrit après le protocole de recommandation.
Hugo : Donc hyper intéressant et question là aussi, tu parlais de la consommation de tokens et c'est quand même un sujet parce qu'en plus je pense qu'on vit une époque où pour l'instant comme tu disais on a un abonnement c'est dur d'aller taper les limites. Je sais pas si dans deux ou trois ans ça sera encore vrai. Est-ce ça veut dire que tu lui demandes par exemple de produire ce, j'imagine que c'est un skill chemin de lecture derrière, tu as dû travailler ce chemin de lecture pour que tu sais il te présente le chemin de lecture comme tu disais à trois endroits il y eu des décisions, montre moi ces décisions etc. Est-ce que ça veut dire que
Florian Ernotte - avroy avocat : C'est un protocole très générique.
Hugo : ok, Et ça veut dire que tu demandes par exemple que ce protocole sorte avant le premier livrable ? Tu vois, ce chemin de lecture ?
Florian Ernotte - avroy avocat : non, ne serait pas... T'es obligé de la voir après. faut qu'ils réfléchissent entre guillemets, ou qu'ils travaillent, ou qu'ils produisent le contenu. Et puis après, sur base de ça, il a une repasse.
Hugo : Ouais c'est vrai. C'est vrai, non mais t'as raison, t'as raison, ça n'a pas de sens.
Florian Ernotte - avroy avocat : Si tu veux vraiment visualiser les choses... Quand tu es sur Claude ou d'autres IA, tu as parfois des mocs qui disent « je suis en train de réfléchir » puis en fait quand tu cliques
Hugo : C'est ça.
Florian Ernotte - avroy avocat : et que tu... et c'est ça qui m'a donné l'idée en fait. C'est qu'à moment donné j'ai été lire ce qu'il racontait et j'ai vu une espèce de raisonnement, pas humain mais c'était une matérialisation d'un raisonnement. Et je me suis dit punaise, c'est quand même intéressant parce que ça donne des hypothèses de relecture qui peuvent être beaucoup plus tangibles et on voit vraiment... et en fait j'essayais de récupérer cette partie-là. de manière condensée, que parfois il part dans tous les sens et puis après il revient donc ça sert à rien de tout lire, mais c'était vraiment de récupérer cette partie un peu chemin de raisonnement de la machine, où est-ce qu'elle a été. qui m'intéressait. fais un autre parallèle pour le visualiser, c'est à un moment donné quand on avait les fonctionnalités de Deep Search, donc les recherches approfondies sur toutes ces IA, qui allaient sur le web, qui faisaient tout de suite une série de recherche web, on avait sur les bandos à droite les liens qu'elle avait consultés, la séquence des opérations qu'elle avait faites. Et j'avais été complètement estomaqué par la pertinence de la manière dont elle avait voyagé pour trouver une problématique. Je parlais de legal design et de langage clair. Elle a été regardée dans la truc des droits des consommateurs. Et puis elle a été cherchée au niveau européen s'il avait pas des dispositions qui clarifiaient ce que c'était du langage clair, compréhensible. Et le raisonnement qui a été pris était complètement pertinent. Alors je dis pas que c'est le meilleur, mais il était pertinent. Et donc c'est sur base de tout ça que je me dis le schéma de lecture, ça permet de rendre plus opérationnel.
Hugo : Non, hyper intéressant. C'est hyper intéressant. Deux remarques, une question. La première remarque, c'est instinctivement, tu vois, c'est vrai que je n'avais pas capté, mais j'ouvre ce petit toggle là qui permet de voir le raisonnement. De plus en plus, je l'ouvre pour voir où il en est, etc. Où il est parti. Et deuxième réaction, c'est que là depuis peut-être, allez, je dirais deux semaines max, je ne pas l'avoir demandé. J'ai souvent, lorsque le livrable est produit, ce qu'il appelle une note de vérification. Alors je sais plus comment il l'appelle. produit tu vois et honnêtement je crois pas l'avoir demandé spécifiquement et je l'ouvre de... je te jure
Florian Ernotte - avroy avocat : Alors on m'a copié. C'est les Big Tech qui m'ont copié.
Hugo : je le vois de plus en plus à côté et d'ailleurs ça me sert énormément je vois... alors c'est un peu peut-être parce que je lui demande de faire cette repasse par un... souvent tu fais je demande de faire une repasse tel un associé 20 ans d'expérience etc c'est peut-être ça cette note de vérification mais ça rejoint un peu ce point là et la question aussi c'est Tu parlais de Human in the Loop sur la phase 3 dite de recommandation. Et je suis d'accord avec toi, c'est aussi un point important parce que je trouve que les IA, c'est plus une remarque qu'une question d'ailleurs, mais les IA ont tendance quand même à nous satisfaire, à dire beaucoup de choses, t'as ce bruit IA. Et si tu lui demandes une phase 3 de recommandation pour faire de l'amélioration continue, il trouvera toujours quelque chose, tu sais, pour améliorer ton skill et peut-être pas d'ailleurs de façon pertinente. Et je trouve que c'est hyper important d'avoir un filter humain à cet endroit-là. de toute l'expérience que tu as en tant qu'avocat pour dire non là si tu veux le skill il marche très bien le résultat était très bon il n'y a pas besoin d'aller changer une virgule quoi je caricature mais hyper intéressant on a déjà on est déjà ouais je t'en prie
Florian Ernotte - avroy avocat : J'ai juste un point par rapport à ça, c'est une réaction. Le fait... de faire ce que je propose c'est dans une optique d'industrialisation de la production parce qu'évidemment en faisant ça tu sais lancer plusieurs requêtes en même temps et tu n'es pas obligé de regarder ce que la machine lit. Moi j'ai parfois grâce à cette interface que j'ai créé en local j'ai parfois quatre ou cinq tickets qui tournent et puis que je relis par la suite en un autre moment donc je lance, il fait les briefs puis une fois que les briefs sont validés c'est reparti et puis après il travaille. aussi, n'est pas toutes les dix minutes ça sort mais donc ce chemin de vérification vient en complément du livrable donc je suis pas obligé rester devant mon écran et ça m'arrive souvent de à la limite de lancer deux trois requêtes avant un rendez-vous, visio, je fais la visio avec un client et donc ça tourne pendant que je travaille autre part et puis après je reviens à l'opération donc ça aussi c'est travail, enfin la machine travaille pour moi quoi.
Hugo : Ouais, hyper intéressant. On va conclure cette partie-là parce qu'on a déjà dépassé un petit peu, mais une petite question personnelle, ça m'intéresse parce que tu disais lancer un ou deux tickets, trois ou quatre en même temps, etc. Est-ce que tu n'as pas une fatigue cognitif quand même qui commence à apparaître ? J'en parlais avec un ami qui développeur, on allait boire une petite bière et là on commence à parler de ça et nos métiers se rejoignent. C'est-à-dire que lui, faisait déjà des tickets, parfois des tickets en parallèle, même sans zia. Maintenant, il lance 5 tickets. Et je lui disais, moi, de plus en plus, ça ressemble à ça. C'est-à-dire que je vais dicter, tac, ça produit, tac, je fais une visio comme tu disais. Est-ce que... Tu moi, il m'est arrivé parfois de dire, et ça rejoint ce que tu disais sur l'IA et la productivité, on travaille pas moins, on travaille plus, et puis quand on se libère du temps, en fait, on pense à l'IA ou alors on a sur son téléphone une l'IA qui continue à tourner. Est-ce qu'il n'y a pas une fatigue cognitif quand même des avocats ces dernières années ?
Florian Ernotte - avroy avocat : Alors je sais pas pour les avocats, moi je vais bien répondre pour moi. À un moment donné j'en ai eu un petit peu effectivement parce que j'étais trop boulimique. Donc j'ai des petits moments de sanctuaire où... où j'arrive à couper cette hygiène de vie qu'il faut essayer d'avoir. Et puis alors il a un autre aspect qui est une méthodologie d'organisation et de travail. J'adore le time block et donc je bloque des morceaux de temps dans mon agenda pour travailler sur telle et telle chose. Et donc ça m'oblige en réalité à me concentrer sur une chose à la fois. donc quand je fais mes mails, regarde ma boîte mail entre guillemets une demi-heure le matin et puis je la coupe et puis je fais une heure sur un dossier, deux heures sur un dossier, peu importe. Et même chose. Quand je dois relire des tickets, c'est à un moment donné. Et donc je ne me fais pas « alpagué entre guillemets par la fin d'un ticket. Ça reste là. Et dans ma gestion de mon travail, je sais que je dois y revenir à un moment donné. Mais c'est là et c'est fait. Donc voilà.
Hugo : Et c'est là où ton interface de
Florian Ernotte - avroy avocat : Et ça permet de limiter cette fatigue cognitive, parce que la fatigue cognitive c'est le multitâche, c'est de passer d'une tâche à l'autre. On sait bien qu'en grosso modo il a 23 minutes de... Si tu es dans un flow de concentration et que tu passes à une tâche et que tu reviens à une autre, il faut 23 minutes pour retomber dedans. Et donc ça pour moi c'est super précieux, c'est hyper important, c'est ma force de travail. Donc quand je suis concentré, j'essaie de rester sur quelque chose, d'éviter de switcher tout le temps.
Hugo : Mais c'est là où ton interface ticket, comme tu dis, est très intéressante, parce que quand tu travailles comme moi dans l'interface cloud desktop classique, tu vois, autant tu peux dire pendant une demi-heure, je vais lancer mes tâches. Donc, soit faire les briefs, entre guillemets, soit carrément passer en mode production, comme tu disais. Donc, je vais lancer mes productions. Ça va me prendre peut-être une demi-heure, une heure de faire bien les choses et ça part. Le problème, c'est sur la phase 2, les productions qui arrivent, tiens, dix minutes, une heure après, deux heures après. Et si tu n'as pas cette organisation time blocking comme ça, tu peux vite te faire apper et ça m'arrive très souvent. Et quand tu as l'interface classique, ça pop-up, tu as la notification. c'est peut-être un autre sujet encore, mais c'est une discipline.
Florian Ernotte - avroy avocat : C'est une discipline. Indépendamment de mon interface, sais avoir une discipline même avec Cloud,
Hugo : Allez.
Florian Ernotte - avroy avocat : App, Desktop. Donc je pense que ce n'est pas insurmontable. il faut s'y mettre.
Hugo : Ouais, c'est intéressant. Déjà, merci beaucoup Florian, c'était hyper intéressant. Là, en synthèse, moi ce que j'ai beaucoup aimé dans notre épisode, je devais synthétiser, c'est évidemment ta vision sur les IA juridiques au global. Merci aussi d'avoir été transparent sur le fonctionnement chez vous en interne. C'est intéressant d'avoir une équipe de taille moyenne comme ça, de voir comment vous êtes organisé. Et puis derrière, que j'ai beaucoup aimé, c'est le côté la théorie, mais aussi la pratique. Tu nous as expliqué « human in the loop », mais tu nous as, si tu veux, les quatre usages, n'a même pas besoin d'aller plus loin. Tu nous as décrit la factory, donc comment ça se matérialise chez vous. Et à titre personnel, moi qui utilise beaucoup l'IA juridique avec Claude, tu vois, quelque part, tu as un peu théorisé ce que je mettais en place instinctivement et ça me fait travailler, notamment sur la phase 2, d'aller vérifier. avec peut-être aller travailler un skill un peu plus précis sur le raisonnement, etc. Tu vois, je pense que dès ce week-end, je vais m'y mettre là-dessus tout en respectant la fatigue cognitive. Mais voilà, c'était hyper intéressant pour ça. Trois petites questions pour finir. Est-ce que tu as un conseil pour un avocat qui souhaite se mettre à l'IA cette semaine ou ce week-end, par exemple
Florian Ernotte - avroy avocat : faut tester, faut mettre les mains dedans, faut pas... Oui, tester. C'est un peu bateau comme conseil mais en fait... Et penser que ces machines, c'est un interlocuteur. Alors philosophiquement, n'est pas une bonne chose, socialement, ce n'est pas une bonne chose mais... l'utiliser comme ça au début, vous réfléchirez après à votre relation avec elle en ayant toujours à l'esprit qu'il faut faire attention. Moi je suis un peu autodidacte, tester et s'il a un souci, vous demandez à l'IA, elle va vous trouver une solution et ça vous permettra d'avancer peut-être
Hugo : C'est très vrai.
Florian Ernotte - avroy avocat : très vite.
Hugo : Et une erreur à éviter là pour la même personne qui souhaite s'y mettre ce week-end.
Florian Ernotte - avroy avocat : c'est le pendant de ce que je viens de dire, c'est de garder quand même une réflexion et un recul peut-être philosophique, peut-être sociologique, peut-être anthropologique. J'ai beaucoup écrit, on pourra partager peut-être le lien de ma newsletter, mais voilà, je partage
Hugo : plaisir.
Florian Ernotte - avroy avocat : énormément de réflexions presque philosophiques et j'essaye de me forcer à garder cette distance et ce regard. peu en hauteur parce que sinon effectivement on tombe dans des travers qui sont délirants je trouve pour certains. Donc il faut pas être technophobe, faut pas être technophile, faut être technocratique. C'est je pense la bonne démarche mais je l'explique peut-être un peu plus en détail sur certains papiers que j'ai pu produire.
Hugo : C'est ce que j'allais dire. Je vais essayer au maximum, grâce à l'IA d'ailleurs, retrouver les passages que tu as cités de documents, ce soit de livres, d'études, etc. On mettra également le lien vers tes publications et notamment ta newsletter pour les auditeurs qui souhaitent creuser le sujet. Merci infiniment pour ton temps. Où est-ce qu'on peut te contacter si jamais on a des sujets soit juridiques, soit, si j'ai bien compris, tu as une activité de conseil aussi sur l'IA. Où est-ce qu'on peut te trouver ?
Florian Ernotte - avroy avocat : sur les réseaux sociaux c'est LinkedIn où je suis essentiellement présent maintenant je suis facilement trouvable sur internet donc vous tapez mon nom dans n'importe quel bon moteur de recherche ou même des mauvais vous me trouverez et on pourra mettre
Hugo : Super
Florian Ernotte - avroy avocat : des infos en commentaire du podcast
Hugo : Super. Merci beaucoup en tout cas Florian et puis merci à tous pour votre écoute. N'hésitez pas à noter ce podcast pour qu'on puisse continuer à inviter des super invités. Merci beaucoup Florian.
Florian Ernotte - avroy avocat : Merci Hugo, au plaisir, à bientôt.
Hugo : À bientôt !


