Cybersécurité : attaques et détournements des IA
• Les systèmes d’IA et d’IA générative peuvent être facilement détournés, par exemple pour générer du code malveillant, même lorsqu’ils sont conçus pour refuser ce type de demandes.
• D’autres types d’attaques, « les attaques par évasion de modèle » exploitent des entrées modifiées pour provoquer des comportements inattendus chez les IA, comme faire en sorte qu’une voiture autonome interprète mal les panneaux de signalisation.
• Les données empoisonnées peuvent quant à elles introduire des portes dérobées dans les modèles d’IA, permettant des comportements non prévus, ce qui est préoccupant en raison du manque de contrôle des ingénieurs sur les sources de leurs données.
Regarder la vidéo
• D’autres types d’attaques, « les attaques par évasion de modèle » exploitent des entrées modifiées pour provoquer des comportements inattendus chez les IA, comme faire en sorte qu’une voiture autonome interprète mal les panneaux de signalisation.
• Les données empoisonnées peuvent quant à elles introduire des portes dérobées dans les modèles d’IA, permettant des comportements non prévus, ce qui est préoccupant en raison du manque de contrôle des ingénieurs sur les sources de leurs données.
Les communications quantiques passent par la fibre installée
Lire l'article
Attaques sur les IA : le nettoyage des données devient un enjeu de cybersécurité
Lire l'article
Quarks, une messagerie instantanée décentralisée et sécurisée sur la blockchain
Lire l'article
Le cyber-défi de Trust System : protéger sans entraver l’expérience utilisateur
Lire l'article
Parlons Tech 4 : informatique, télécoms, Internet… ce que le quantique compte changer au quotidien
Ecouter le podcast