Le cyber-défi de Trust System : protéger sans entraver l’expérience utilisateur

GettyImages - TrustSystem Young female programmer standing on her desk, coding on a laptop, having discussion with a male colleague, giving her advice
• Chaque jour, plus d’un million de visiteurs se connectent sur orange.fr dont nécessairement un nombre significatif de connexions « suspectes » !
• Comment détecter des pirates informatiques chaque jour plus créatifs sans friser la paranoïa ni gêner les internautes ? La solution Trust System utilise l’intelligence artificielle.

Les Orange Open Tech Days offrent l’occasion de découvrir quelques cas d’usages de Trust System. Cette solution est auto-apprenante et évolutive. Elle détecte et bloque les tentatives de connexion frauduleuses, et tire les leçons de ses propres expériences !

Trust System est né de deux besoins diamétralement opposés au sein des équipes Orange en charge du site internet français. Côté cyber, les experts insistaient pour renforcer la sécurité à l’entrée du site qui ne comptabilise pas moins de 500 millions de requêtes mensuelles d’utilisateurs désireux d’accéder à leur espace personnel (messagerie, factures, boutique en ligne, etc.). Côté business, on s’inquiétait plutôt d’une potentielle perte de fluidité dans le parcours client qu’engendreraient des dispositifs de sécurité accrus.

L’outil repasse les connexions de la journée au peigne fin pendant 24h pour vérifier que l’analyse à chaud était bonne.

Des mécanismes pour mieux protéger et moins déranger

Les contraintes stimulent la créativité. En 2020, les équipes métiers, techniques et sécurité collaborent pour repenser les premières secondes du parcours d’authentification de l’internaute sur orange.fr. Objectif : lui offrir un parcours simple, rapide et sécurisé. Pour éviter un systématique et respecter le défi d’une réponse en moins de 150 ms, cette « cyber-team » a une idée décisive : associer l’intelligence artificielle et la . Mais pourquoi ce choix ?

En premier lieu, parce que l’IA automatise au maximum les contre-mesures : un premier filtre permet de laisser passer la grande majorité de visiteurs identifiés comme légitimes, tandis que seules les requêtes suspectes sont orientées vers un test Captcha. Les cyber-analystes peuvent alors concentrer leurs efforts sur des menaces plus complexes.

En second lieu, la théorie des jeux permet aux cyber-experts qui manipulent des milliers de paramètres dans leurs bases de caractériser l’attaque et d’anticiper la fraude. Sébastien Marti, Data Scientist Senior sur le projet Trust System, explique qu’il faut « savoir évaluer ce qui vaut la peine d’être mobilisé, surtout quand on risque de bloquer à tort un visiteur légitime ».

Moins d’abandons de parcours client

En limitant le recours à l’affichage d’un captcha ou à la double authentification, cette solution préserve la fluidité du parcours client : la quasi-totalité des visiteurs légitimes se connectent sans encombre. Depuis la mise en place de Trust System sur orange.fr, 5% de visiteurs supplémentaires arrivent à destination sans abandonner.

Trust System recourt à l’intelligence artificielle pour détecter et bloquer les connexions malveillantes à chaud, et aussi pour affiner son analyse à froid et tirer les enseignements de cette expérience grâce à ses facultés de machine learning. L’outil repasse ainsi les connexions de la journée au peigne fin pendant 24h pour vérifier que l’analyse à chaud était bonne. Dans le cas contraire, l’occurrence mal qualifiée est retraitée puis gardée en mémoire pour mieux contrer la prochaine attaque.

Autre cas de figure : imaginons une série d’attaques simultanées depuis différents pays sur plusieurs continents. La solution est en mesure de les identifier, de les distinguer et de les rapprocher pour construire une contre-mesure appropriée.

Aisément déployable et réplicable

Déjà parfaitement opérationnel sur le site web d’Orange France, Trust System est assez facile à répliquer ailleurs – dans d’autres filiales de l’opérateur et pourquoi pas aussi au sein d’entreprises clientes. Selon Michel Picard, Product Owner chez Orange, « nous sommes prêts pour un déploiement plus large. Toutes les briques sont disponibles et notre écosystème est mature : il faut compter 15 jours pour intégrer l’API dans un pays d’Orange ».

La souveraineté de cette solution est un atout clé pour les organisations. Un autre grand avantage réside dans le foisonnement unique de la base de données enrichie quotidiennement au fil des analyses : plus celle-ci est vaste, plus l’auto-apprentissage est efficace.

Actuellement, les huit ingénieurs en charge du projet Trust System poursuivent le perfectionnement de la solution en ajoutant aux tests d’humanité (connexion humaine versus celle d’un robot), l’épreuve de l’analyse comportementale (comprendre les échecs successifs de login).

A lire aussi sur Hello Future

GettyImages - responsible AI - IA responsable - Meta & Llama

Llama : façonner l’avenir de l’IA en tant que communauté

Découvrir
Une personne correspond avec son chatbot sur son smartphone

Des robots conversationnels redéfinissent les interactions entre clients et conseillers

Découvrir