● De l’invisibilisation des femmes dans le numérique à l’éthique des algorithmes, ce livre invite à appréhender la technologie sous un angle sociohistorique inédit, en revenant aux fondements des mécanismes de discrimination dans le numérique.
● Qu’il s’agisse de jeux vidéo, de forums masculinistes ou d’entre-soi entrepreneurial, cet essai offre une contre-histoire du numérique, fondée notamment sur l’exclusion des femmes et d’autres minorités.
Ce sont les potentielles dérives sexistes des intelligences artificielles qui vous ont donné envie d’écrire cet ouvrage. Pourquoi ?
J’ai commencé à m’intéresser à ces sujets en 2018, période à laquelle je me suis demandé si les intelligences artificielles étaient sexistes. C’est cette même année que Joy Buolamwini, chercheuse au MIT et fondatrice de l’Algorithmic Justice League, a publié « Gender Shades » avec Timnit Gebru. Dans ce projet de recherche, elles prouvent que les modèles algorithmiques les plus utilisés sont plus efficaces pour reconnaître des visages d’hommes à la peau claire que ceux de femmes à la peau foncée. On a ensuite vu les géants de la tech comme Google, Microsoft, et Facebook sortir des chartes d’éthique en matière d’IA, certainement pour ériger un moyen d’éviter d’être régulé.
Ce livre est pour moi un moyen de fournir un angle d’analyse et de critique du monde numérique avec des lunettes féministes, tant en matière d’usages numériques qu’à l’égard du fonctionnement des services en ligne. C’est un regard qui permet de parler de problématiques bien plus larges que celles de la place des femmes dans la tech, mais également de la désinformation, de la radicalisation complotiste…
Vous commencez justement votre essai en parlant de harcèlement en ligne, de la culture masculiniste dans les forums et de leur violence. Pourquoi ?
Il existe un discours sur le numérique qui insinue qu’à moins d’être experts du sujet les usagers ne peuvent pas comprendre les fonctionnements de base de la technologie. C’est faux. J’ai donc voulu faire de la vulgarisation et j’ai choisi la thématique du harcèlement en ligne pour montrer ce que les femmes ressentent quand elles se baladent en ligne, de la même manière qu’elles subissent du harcèlement de rue. Si on laisse les mécanismes de harcèlement proliférer en ligne, cela finit par avoir des effets hors ligne, que ce soit parce que les victimes de harcèlement sexiste ou raciste vivent des effets très réels (symptômes dépressifs, tendances suicidaires dans les cas les plus graves) ou parce que les personnes les plus radicalisés peuvent aller jusqu’au meurtre au nom du racisme, ou du sexisme. C’est également un sujet politique, car ces dynamiques sont aussi utilisées par les mouvances qui visent à remettre en cause les institutions démocratiques, comme l’ont montré l’attaque du Capitole, aux États-Unis, ou celle de la place des Trois-Pouvoirs, au Brésil.
Pourquoi les jeux vidéo sont-ils représentatifs de ces problèmes systémiques ?
Dans les années 80, le jeu vidéo s’est développé en ciblant un segment précis : les jeunes hommes des pays occidentaux. Un moyen d’assurer leurs revenus. Pour eux, les éditeurs ont développé des jeux qui représentent une masculinité militarisée, où le joueur doit sauver son pays, une princesse…
La bonne nouvelle est qu’il est possible de casser les logiques excluantes. Aujourd’hui, des éditeurs indépendants permettent au secteur de gagner ses lettres de noblesse en développant des scénarios plus inclusifs. La curatrice de jeux vidéo Chloé Desmoineaux en a par exemple sélectionné certains.
Dans le numérique, on rencontre les mêmes logiques de domination, de maintien des inégalités, de reproduction que dans d’autres industries
Vous estimez qu’il faut cesser de distinguer le monde numérique du monde réel…
Rappelons que le numérique n’existe pas en dehors de la logique patriarcale. Ce n’est pas un monde à part, plus neutre ou plus objectif. Il a été construit par des personnes qui évoluent dans une société patriarcale. En récupérant nos données personnelles et souhaitant personnaliser nos profils, la technologie nous réduit à de simples cases, mais la vie sociale ne fonctionne pas ainsi, puisque nous sommes chacune et chacun le fruit de multiples origines et apprentissages, et que nous évoluons en permanence.
Vous écrivez que « le numérique, par pans entiers, a un problème avec la diversité. Il l’oublie, la dessert, voire l’agresse ». C’est aussi le cas pour les sociétés qui fournissent des technologies ?
Dans ces entreprises, il y a un besoin de diversité pour s’assurer que les produits soient mieux conçus, qu’ils répondent au besoin de tous les utilisateurs et utilisatrices. Il y a donc un argument commercial qui suppose que, si les technologies produites ne fonctionnent pas ou mal pour la moitié de la population, alors les entreprises risquent de perdre la moitié de leurs clients.
On y rencontre toutefois les mêmes logiques de domination, de maintien des inégalités, de reproduction que dans d’autres industries. En France, les dirigeants des sociétés technologiques sont principalement des hommes blancs. Si on regarde le capital-risque qui finance tout ce monde-là, c’est également pareil. Au-delà de la problématique du genre ou de la couleur de peau, il y a un problème de classe sociale. Ce ne sont que des gens qui viennent d’une forme d’élite, qui ont fait des formations nécessitant d’importantes ressources financières. Aujourd’hui, ils se rendent compte que cette surreprésentation a un impact sur les outils qu’ils mettent sur le marché.
On a le sentiment de l’existence d’un dialogue impossible…
Il est nécessaire d’ouvrir la discussion sur la politique derrière la technologie et son usage. Les informaticiens doivent cesser de travailler seuls dans leur coin. Il y a un besoin de reconnexion avec la vie réelle, sociale. En matière d’intelligence artificielle et de développement des algorithmes, il est urgent de rendre le dialogue possible avec les utilisateurs finaux qui n’ont pas nécessairement conscience des données soumises à ces systèmes. On doit pouvoir appréhender leur réaction et anticiper les impacts imprévus du développement des technologies.
Quelles autres solutions peut-on imaginer pour apaiser toute cette violence ?
Je présente trois pistes simples dans mon ouvrage. Ce sont sensiblement les mêmes que l’on retrouve déjà dans les revendications féministes ou encore dans les mouvements environnementaux. La première est l’éducation : il faut aider à comprendre les grands principes du numérique en cassant le sentiment que la technologie est étrangère, car cela donne le sentiment d’être contrôlé.
La deuxième repose sur la création de liens : internet est la technologie du lien. Certaines applications ont détruit les discours apaisés alors qu’il est justement nécessaire de développer des conversations en mêlant différents types d’expertises, par exemple pour savoir si l’on veut ou non certaines technologies dans nos vies. On oublie que l’on a le choix et il est légitime de se demander si on veut des technologies qui pourraient être des dangers pour les droits humains.
Enfin, il faut remettre en cause des formes de pouvoir, des schémas hiérarchiques qui viennent souvent avec des logiques patriarcales. Facebook, qui est utilisé par plus de la moitié de l’humanité, est par exemple contrôlé par une unique personne. Le droit doit permettre de changer cela et internet a montré que des modèles distribués sont possibles. Après tout, la gouvernance d’internet est, elle même, distribuée.
