● Un décodeur qui se recalibre trop vite dégrade non seulement la performance, mais l’apprentissage de l’utilisateur lui-même.
● François Bourquin, spécialiste en intelligence artificielle chez Orange, replace ces résultats dans le débat sur la supervision humaine des systèmes apprenants.
Prothèse myoélectrique, interface cerveau-machine, bracelet de contrôle gestuel : dans ces cas d’usage médicaux, un capteur recueille un signal biologique, qu’un algorithme traduit en commande. Ce décodeur décide que telle contraction musculaire signifie « à droite » ou « à gauche ». Longtemps figé lors d’une calibration initiale, il se recalibre désormais en temps réel pendant l’usage, pour s’adapter au signal de chaque personne. Pour l’innovation dans le domaine médical, c’est une aubaine. Cependant, l’utilisateur apprend lui aussi : il voit le curseur bouger, il corrige, il découvre quelles contractions produisent quel mouvement. Ainsi, deux apprenants s’ajustent l’un à l’autre dans la même boucle, en temps réel. On ne règle encore ce couplage qu’à tâtons, faute d’outils pour en prédire l’issue.
Des chercheurs de l’Université de Washington s’y sont attelés. Leur méthode s’appuie sur la théorie du contrôle, pour modéliser le comportement de l’utilisateur, et sur la théorie des jeux, qui traite les deux comme des joueurs poursuivant chacun son objectif : l’humain vise juste en se fatiguant le moins possible, l’algorithme réduit l’erreur sans forcer sur ses réglages. Leur banc d’essai réunissait quatorze participants qui devaient atteindre une cible mobile sur un écran grâce à un curseur piloté non par une souris mais par les muscles de l’avant-bras, captés par 64 électrodes. Le décodeur se recalibre toutes les vingt secondes, et les chercheurs modifient ses réglages un par un pour observer l’effet sur l’humain.
Le rythme humain comme contrainte de conception
Premier réglage testé : la vitesse de recalibrage. En version rapide, la performance se dégrade, ce qui n’a rien de surprenant. Le résultat inattendu est ailleurs : la stratégie musculaire de l’utilisateur évolue moins qu’en version lente. L’apprentissage humain ne s’est pas interrompu par manque d’effort, mais parce que la cible se déplaçait plus vite qu’il ne pouvait la suivre. Le constat ne surprend pas François Bourquin, quarante ans de pratique de l’intelligence artificielle : « Il y a un rythme biologique et il y a un rythme cognitif : l’humain n’ira pas plus vite. » Il en observe la version quotidienne chez les développeurs qui font écrire leur code par l’IA : « La machine va tellement vite pour leur proposer du code qu’ils ont à peine le temps de le lire. » Leur métier, qui était créatif, se mécanise « et à ce moment-là, ils font un burn-out. Ce rythme n’est tout simplement pas adapté à l’humain. » La vitesse ne garantit pas davantage la justesse : « Ce n’est pas parce que l’IA va plus vite qu’elle ne se trompe pas. » Sa conclusion tient en une ligne : « C’est la machine qui attend, point. » L’automatisation n’est pas intégrale : même si le cahier des charges, dans le contexte du no code, va tendre à provenir directement des métiers, une supervision du livrable reste nécessaire.
Ce que produit une supervision effective
L’expert a tiré un enseignement pratique d’un séminaire de plusieurs centaines personnes réparties en dizaines de groupes de travail, où la prise de notes et la synthèse avaient été entièrement déléguées à un outil génératif. Le résultat est passé par la salle avant validation : « Et vous dans la salle, est-ce que c’est vraiment ce qu’a dit votre groupe de travail ? » Les mains se lèvent, les oublis remontent. Rien d’anormal : « Demandez une synthèse à une IA, elle vous en fait trois différentes en dix minutes, et les trois n’ont pas les mêmes éléments clés. » De là une proposition de méthode : « Il faudrait presque des versions bêta où l’humain co-apprend d’abord avec la machine, avant que l’on diffuse ce co-apprentissage à un plus grand nombre, mais une fois qu’il est pruné. »
Un impératif de gouvernance de l’IA plus strict
« On n’obtient pas le même résultat selon le professeur que l’on a », observe François Bourquin. Or un modèle de langage « ne comprend absolument pas ce qu’il engrange » : il rapproche statistiquement, il n’arbitre pas. Co-apprendre sans recul revient donc à lui déléguer l’arbitrage. D’où sa conclusion : « la vraie problématique, au-delà de la prise de recul, c’est la gouvernance que l’on souhaite de l’IA. » Or cette gouvernance, juge-t-il, est reléguée derrière l’impératif de mise sur le marché : « Il faut des verrous d’arrêt, ce qui n’est pas en train d’être fait. » Pour lui, « l’humanisation du co-apprentissage est mandataire ». Et, in fine : « C’est à l’humain de décider jusqu’où ça doit aller. » Le travail mené à Washington aboutit à la même conclusion par le chemin de l’ingénierie : la vitesse de recalibrage n’est pas un détail technique, c’est une décision humaine prise en amont par ceux qui conçoivent le système. Et la performance seule ne dit pas si elle est bonne. « Sans supervision humaine, point de salut. »
En savoir plus :
Computational Framework to Predict and Shape Human-Machine Interactions in Closed-loop, Co-adaptive Neural Interfaces (Nature, en anglais)
François Bourquin
