Care Cockpit
AI Supervision · Health · Design Engineering — Le cockpit de supervision d’une IA de santé : là où 50% de l’effort produit reste invisible.
Type
Case study
Timeframe
4 days
Toolkit
Figma & AI agents
Year
2026
Problem
Alan a déployé Mo, son assistant santé IA, à 600 000 membres en mars 2026. Derrière l’assistant, une infrastructure de vigilance médicale a absorbé jusqu’à 50% de l’effort de l’équipe : environ 15% des conversations sont relues par un vrai médecin en moins de 15 minutes, jusqu’à 2 000 revues par jour au lancement. Ce système a un utilisateur que personne ne montre : le médecin relecteur. J’ai designé son outil. À 2 000 revues par jour, la relecture de conversations IA peut devenir un travail de modération : rapide, lassant, faillible. Mon hypothèse : la vigilance médicale peut être designée comme un acte médical, pas comme une file de tickets.
Solution
Le tri pense à la place du médecin. Priorité = risque × temps restant avant l’échéance des 15 minutes. Le premier cas de la liste, toujours. La règle de tri est affichée en toutes lettres : une priorisation invisible détruit la confiance de celui qui la subit. Les signaux ont une polarité. Le signal déclencheur de l’escalade est rouge et remonte en premier, les signaux rassurants sont verts. Le médecin répond en un scan à la seule question qui compte : pourquoi ce cas est-il devant moi ? La co-signature plutôt que la correction. L’ajout du médecin n’écrase pas la réponse de l’IA : il devient un message cosigné. Corriger une machine 2 000 fois par jour est un travail subalterne ; cosigner une réponse reste de la médecine. En arrière-plan, des micro-décisions contre la lassitude : mode focus un cas à la fois, badges désaturés, respiration de 2 secondes après chaque revue. L’interface ne pousse jamais au cas suivant.
Superviser une IA de santé, sans épuiser ceux qui la supervisent.
Rôle : Product Designer (projet auto-initié, solo) — Durée : 4 jours — Année : 2026 — Stack : Claude Design · Lovable · Supabase · Gemini (3 agents de triage).
Le contexte
Alan a déployé Mo, son assistant santé IA, à 600 000 membres en mars 2026. Derrière l’assistant, une infrastructure de vigilance médicale a absorbé jusqu’à 50% de l’effort de l’équipe : environ 15% des conversations sont relues par un vrai médecin en moins de 15 minutes, jusqu’à 2 000 revues par jour au lancement.
Ce système a un utilisateur que personne ne montre : le médecin relecteur. J’ai designé son outil.
Le problème
À 2 000 revues par jour, la relecture de conversations IA peut devenir un travail de modération : rapide, lassant, faillible. Mon hypothèse : la vigilance médicale peut être designée comme un acte médical, pas comme une file de tickets.
Trois décisions
Le tri pense à la place du médecin. Priorité = risque × temps restant avant l’échéance des 15 minutes. Le premier cas de la liste, toujours. La règle de tri est affichée en toutes lettres : une priorisation invisible détruit la confiance de celui qui la subit.
Les signaux ont une polarité. Le signal déclencheur de l’escalade est rouge et remonte en premier, les signaux rassurants sont verts. Le médecin répond en un scan à la seule question qui compte : pourquoi ce cas est-il devant moi ?
La co-signature plutôt que la correction. L’ajout du médecin n’écrase pas la réponse de l’IA : il devient un message cosigné. Corriger une machine 2 000 fois par jour est un travail subalterne ; cosigner une réponse reste de la médecine.
En arrière-plan, des micro-décisions contre la lassitude : mode focus un cas à la fois, badges désaturés, respiration de 2 secondes après chaque revue. L’interface ne pousse jamais au cas suivant.
Le Patient Cards Lab
Le troisième écran teste le triage avec des patients simulés par IA : un persona, un scénario, et une vérité cachée que le patient ne révèle que si l’assistant pose les bonnes questions. La conversation passe dans le vrai pipeline de triage ; le verdict compare résultat obtenu et résultat attendu.
Ce que le prototype m’a appris
Les patients simulés sur-jouent. Il a fallu contraindre les prompts pour retrouver la banalité d’un vrai message de patient, celle qui rend le triage difficile.
La fiction comble les trous. Une carte incomplète, et le modèle invente des détails plausibles, cohérents, faux. Pour un jeu d’évaluation, c’est une contamination silencieuse.
L’outil m’a corrigé. Sur une carte, mon résultat attendu était faux : le triage avait noté la conversation réelle, moi le scénario complet. J’ai corrigé ma grille de calibration, pas le pipeline.
Les limites
Conçu sans médecin, calibré sur un chiffre public (15% d’escalade). C’est un exercice de design, pas un produit. La question la plus dure reste ouverte : un bouton « Rien à signaler » accessible en 2 secondes favorise-t-il la vigilance ou le clic réflexe ?
Résultat
Prototype fonctionnel en ligne : 3 écrans, pipeline de triage réel (3 agents Gemini), patients simulés jouables. Construit en 4 jours. Le détail des décisions et des découvertes est dans l’article Medium.
