Meryem Ghatrif
Meryem Ghatrif

Sommaire

[email protected]

Pensées · Agile & IA

Agile, UX et IA : ce qui accélère, ce qui reste humain

L’IA accélère la fabrication, pas l’apprentissage. La place de l’UX dans les équipes agiles, ce qu’on peut confier à l’IA, ce qui reste humain, et ce qu’on ne colle jamais dans un chatbot.

9 min de lecture

En novembre 2022, la grand-mère de Jake Moffatt meurt. Alors qu’il cherche un vol sur le site d’Air Canada, il interroge le chatbot de la compagnie sur les tarifs accordés en cas de deuil. La réponse est claire et rassurante : il peut voyager tout de suite et demander le tarif réduit après coup, dans les 90 jours suivant l’émission de son billet.

Il réserve. Quand il demande ensuite la réduction, la compagnie refuse : sa politique n’autorise pas les demandes rétroactives. Devant le Civil Resolution Tribunal de Colombie-Britannique, Air Canada soutient qu’elle ne peut pas être tenue responsable des informations données par ses représentants, chatbot compris. Autrement dit, écrit en février 2024 le membre du tribunal Christopher Rivers, la compagnie présente son chatbot comme « une entité juridique distincte, responsable de ses propres actes ». Il juge l’argument « étonnant » et condamne Air Canada à payer.

Les sommes sont modestes, environ 650 dollars canadiens de dommages. Le principe, lui, ne l’est pas.

Pour les équipes qui travaillent en sprints, l’affaire pose une question plus large. L’IA rend presque tout plus rapide à produire : que faut-il accélérer, et que faut-il garder humain ? Ma réponse, en bref : l’IA peut accélérer la fabrication. Elle ne peut ni apprendre à votre place, ni porter la responsabilité pour vous.

Dix-sept personnes et une station de ski

L’agilité elle-même est née d’une conversation. En février 2001, dix-sept personnes se retrouvent au Lodge at Snowbird, une station de ski de l’Utah, pour « parler, skier, se détendre et essayer de trouver un terrain d’entente », raconte Jim Highsmith dans l’historique du manifeste. Elles repartent avec un court manifeste pour le développement de logiciels. Sa première valeur, dans sa traduction française : « Les individus et leurs interactions plus que les processus et les outils ».

Les designers ont ensuite dû trouver leur place dans des sprints courts. Trois réponses se distinguent.

La première, c’est le Lean UX. En 2011, Jeff Gothelf écrit que le Lean UX fait sortir les designers « du business des livrables » pour les ramener à celui de la conception d’expériences. Plutôt que de longues spécifications, l’équipe transforme ce qu’elle croit savoir de ses utilisateurs en hypothèses, et les teste avec la plus petite chose capable de lui donner tort. Son livre Lean UX paraît en 2013, puis sera révisé avec Josh Seiden.

La deuxième, c’est le design sprint. Jake Knapp commence à en animer chez Google en 2010, puis apporte la méthode chez GV en 2012 : cinq jours pour cartographier un problème, esquisser, décider, construire un prototype réaliste et, le vendredi, regarder de vrais clients réagir.

La troisième, c’est la recherche à l’intérieur du sprint : de petites études rapides, partagées par toute l’équipe. Trois réponses, une seule idée : réduire la distance entre une supposition et la réaction d’une vraie personne.

Ce que l’IA accélère vraiment

L’IA entre dans cette histoire comme un accélérateur de la fabrication. Dans son guide pour l’Interaction Design Foundation, Laia Tremosa montre où elle aide : regrouper des notes en vrac, rédiger des guides d’entretien et des hypothèses, générer des pistes et des cas limites, écrire des variantes de textes et de messages d’erreur, préparer la documentation. Un sprint peut désormais contenir bien plus de brouillons et de prototypes qu’avant. Tant mieux, surtout pour les petites équipes.

Mais regardez quelle partie de la boucle elle accélère. Le Lean UX et les design sprints tournent sur le même cycle : fabriquer, montrer, apprendre, décider. L’IA raccourcit la première étape. Les autres avancent toujours à vitesse humaine, parce qu’elles impliquent des humains.

Le piège, c’est que fabriquer plus vite ressemble à apprendre plus vite. Un persona généré, une cartographie d’affinités bien rangée, un prototype soigné : tout a l’air fini. C’est là le danger. Laia Tremosa le rappelle : l’IA peut être « rapide et convaincante, même quand elle se trompe ». Le conseil de Laura Klein aux designers agiles, publié par l’IxDF, se lit autrement aujourd’hui : « Nous devons arrêter de concevoir plus vite et apprendre à concevoir moins. »

Des personnes, pas des personas

En 2024, Maria Rosala et Kate Moran, du Nielsen Norman Group, ont mis à l’épreuve des « utilisateurs synthétiques », générés par l’IA, sur des études qu’elles avaient déjà menées avec de vraies personnes. Interrogés sur la formation en ligne, les apprenants synthétiques affirmaient avoir terminé tous leurs cours. Beaucoup de vrais apprenants ne l’avaient pas fait. Le verdict des chercheuses : « La recherche avec de vrais utilisateurs est essentielle. »

Une IA peut vous dire ce que les gens disent en général. Seules les personnes peuvent vous montrer ce qu’elles font vraiment : avec une connexion qui rame, en passant du français à la darija, un enfant sur les genoux. Je suis venue à l’UX parce que les autres comptent pour moi, et le temps passé avec eux est la partie du sprint que je protégerais en premier.

Le jugement : le passé n’est pas un plan

En 2014, une équipe d’Amazon commence à construire un outil qui note les candidats de une à cinq étoiles. Il est entraîné sur dix ans de CV reçus par l’entreprise, envoyés surtout par des hommes. Dès 2015, selon un article de Reuters paru en 2018, Amazon constate que le système ne note pas de façon neutre les candidats aux postes techniques : il pénalise les CV qui contiennent le mot « women’s » (« féminin »), comme dans « capitaine du club d’échecs féminin ». Les programmes sont corrigés, mais rien ne garantit que la machine ne trouvera pas d’autres façons de discriminer, et l’équipe est dissoute début 2017. Selon les sources de Reuters, les recruteurs consultaient ses classements sans jamais s’y fier exclusivement.

L’outil a fait ce pour quoi il avait été construit : retrouver le motif du passé. Décider si ce motif mérite d’être répété, c’est du jugement, et le jugement appartient aux personnes. Dans un sprint, il s’exerce chaque jour : quel problème compte, quelle idée abandonner, ce qu’il ne faut pas construire du tout. Les principes du manifeste agile voient dans la simplicité « l’art de minimiser la quantité de travail inutile ». Aucun outil ne fera ce choix à votre place.

La responsabilité : votre chatbot, c’est vous

Revenons à Jake Moffatt. Le raisonnement du tribunal tient en deux phrases : il devrait être évident pour Air Canada qu’elle est responsable de toutes les informations de son site, et peu importe qu’elles viennent d’une page statique ou d’un chatbot.

Si une fonctionnalité d’IA parle à vos clients, quelqu’un dans l’équipe répond de ce qu’elle dit, et l’interface doit être honnête sur ses limites. Les lignes directrices de Microsoft pour l’interaction humain-IA commencent exactement là : indiquer clairement ce que le système sait faire, et à quel point il le fait bien.

L’accessibilité et l’éthique fonctionnent de la même façon. Une mise en page générée ne sait pas qui la parcourra avec un lecteur d’écran ; l’IxDF conseille de confronter chaque production de l’IA aux besoins réels des utilisateurs et aux règles d’accessibilité avant de s’y fier. Permettre aux gens « d’accepter, d’ajuster ou de passer outre » les recommandations de l’IA est une décision de design, et ce sont des personnes qui la prennent.

Ce que vous collez sort de la pièce

En avril 2023, selon Bloomberg, un ingénieur de Samsung téléverse par erreur du code source interne sensible dans ChatGPT. À partir du 1er mai, Samsung restreint temporairement l’IA générative sur les appareils de l’entreprise et demande à ses salariés, quand ils utilisent ces outils ailleurs, « de ne soumettre aucune information liée à l’entreprise ni aucune donnée personnelle ». Son inquiétude : ces données sont difficiles à récupérer ou à effacer, et pourraient parvenir à d’autres utilisateurs.

La plupart d’entre nous ne gardent pas de secrets industriels. Nous gardons quelque chose de plus délicat : ce que les gens nous ont confié. Imaginez : vous venez d’interroger huit patients d’une clinique, à Casablanca ou à Lyon, et un outil pourrait résumer les transcriptions en deux minutes. La loi a déjà un nom pour le bon réflexe : la minimisation des données. En Europe, le RGPD demande des données « adéquates, pertinentes et limitées à ce qui est nécessaire au regard des finalités », et une protection des données dès la conception et par défaut. Au Maroc, la loi 09-08, sous le contrôle de la CNDP, demande des données « adéquates, pertinentes et non excessives » et, en règle générale, le consentement indubitable de la personne.

Et remplacer « Fatima » par « Participante 3 », ce n’est pas anonymiser mais pseudonymiser : comme le rappelle la CNIL dans sa fiche sur l’anonymisation, de telles données « conservent donc un caractère personnel ».

Là où je fixe la limite

J’ai étudié les méthodes agiles pour l’UX et l’IA pour les designers avec l’Interaction Design Foundation, et une conviction me reste : une personne qui a accepté de parler à une designer n’a pas accepté de parler à un serveur. Ma limite est donc simple. Aucun nom, visage, voix ni document client n’entre dans un outil d’IA sans l’accord des personnes concernées et sans vérification des réglages de données de l’outil. Tout ce qui identifie sort avant que quoi que ce soit n’entre. Si une étude doit passer par l’IA, les participants le savent avant de dire oui. Dans le doute, résumez à la main : c’est plus lent, mais c’est ainsi qu’on se souvient de ce que les gens ont dit.

L’IA dans le sprint : l’aide-mémoire

À déléguer, puis relire :

  • Les premiers jets : guides d’entretien, hypothèses, user stories, notes de version.
  • Les variantes : textes, messages d’erreur, mises en page, cas limites à tester.
  • Le regroupement de notes déjà anonymisées.
  • Les prototypes rapides, pour montrer une idée plus tôt à de vraies personnes.

À garder humain :

  • Parler aux utilisateurs, et les regarder utiliser le produit.
  • Choisir quel problème compte, et ce qu’il ne faut pas construire.
  • Répondre de ce que toute fonctionnalité d’IA dit à vos clients.
  • Les tests d’accessibilité, avec de vraies technologies d’assistance et les personnes qui en dépendent.
  • Les choix éthiques : l’équité, le consentement, et un moyen de dire non à la machine.

À ne jamais coller :

  • Mots de passe, clés ou jetons d’accès.
  • Ce qu’un client vous a confié, sans son accord écrit.
  • Ce qui identifie les participants : noms, coordonnées, visages, voix.
  • Les données sensibles : santé, religion, opinions politiques, origine ethnique.
  • Tout ce que vous ne liriez pas à voix haute devant la personne concernée.

Regarder de plus près

Mon jardin est mon refuge et mon laboratoire. Rien n’y pousse plus vite parce que je le regarde plus souvent ; ce qui change, c’est ce que je remarque. La nature devient infinie dès qu’on la regarde de près.

La pensée, la fleur de ce site, trace de fines lignes sombres sur ses pétales inférieurs. Les botanistes les appellent des guides à nectar : elles mènent le visiteur jusqu’au cœur. Un bon sprint a besoin des mêmes lignes. Chaque brouillon, chaque prototype, chaque résumé brillant devrait ramener à une personne. L’IA peut élargir le champ. La loupe reste entre nos mains.

Sources

Sauf mention contraire, les sources sont en anglais ; leurs citations sont traduites librement.